宋朝初期延续了五代的制度，设立了枢密院和宣徽院。枢密院，又称密院，亦称枢府或西府，它与中书（即政事堂，政府的东府）对立，分别掌管文官和武官的权力，因此被合称为“二府”。

枢密院是最高的军事机构，它掌控着兵部的权力，并且分割了宰相所负责的军事事务。如果宰相没有兼任枢密使，那么他只负责行政事务，和唐代宰相既管文官又管武官的情况有所不同。枢密院的最高领导叫做枢密使，下面有副枢密使。到了太平兴国四年（979年）正月，设立了“签署枢密院事”，这一职务成为了副枢密使的补充职务。又在太平兴国八年（983年）十一月，设立了“同签署枢密院事”，这个职务则是为副长官。 在淳化二年（991年）九月，张逊被任命为枢密副使，并兼任知枢密院事，成为枢密院的正长官。而寇准和温仲舒也以枢密副使身份，任命为同知枢密院事，成为副长官，他们虽然是副使，但仍享有枢密副使的礼遇。此后，新的知枢密院事和同知枢密院事不再带有枢密副使的职衔，实际上，枢密院的正长官被由枢密使降级为知枢密院事。从那时开始，枢密院的长官逐渐由文官担任，实行了“以文制武”的政策。

枢密院的办公机构是承旨司。宋朝初期，设有承旨和副承旨作为长官，承旨司下设兵、吏、户、礼四个房。兵房有两个副承旨，而其他房则各有一个副承旨。此外，还有兵马司，设有副承旨。各房和司的副承旨下面还有主事、令史、书令史等职位。淳化四年（993年）设立了都承旨，成为承旨司的最高领导，之后设有副都承旨为副长官。承旨司除了负责日常事务，还承担了在宫廷中接收殿前司和侍卫亲军司的奏章并宣读的工作。

宣徽院则设有宣徽南院使和宣徽北院使，这两个职务的地位在枢密副使之上。直到至道三年（997年）八月，宣徽北院使的地位被调低，降到了枢密副使之下，但通常情况下，宣徽北院使与参知政事、枢密副使的任命顺序相近，显示了它们在地位上的接近。 常常可以看到枢密副使兼任宣徽使的职务，反之，宣徽使也常常兼任枢密副使，宣徽使的职位常常被视为晋升为枢密副使的一个步骤。当宣徽使空缺时，有时会由参知政事或三司使来临时担任该职。宣徽院的权力逐渐侵蚀了吏部、兵部以及殿中省的一部分职能，其密切的组织结构和较大的职权使得它在宋朝的政治体系中占有重要地位。 宣徽院的办事机构设有都勾当官和勾当官为长官，下设兵、骑、仓、胄四个案，分别负责不同的事务。以前，枢密院和宣徽院的办事机构由一位官员统一管理，称为签书提点枢密、宣徽院诸房公事，但自至道三年八月起，这一职务被取消了。