自唐朝安史之乱以后，节度使的势力日益增强。到后来，他们既掌握有相当数量的军队，又占据跨州连郡的土地，还拥有当地的民政权和财赋权，成为一方军阀。唐朝末年，军阀朱温坐大，终于废去唐帝，自己过了一把当皇帝的瘾。别的军阀不服气，又凭借其军政实力发动战争，争夺皇帝的位子。军阀混战，给人民带来了深重的灾难，还使中国大地上，从907年到960年的54年间，走马灯似的出现了二十来个立有国号的封建政权，真是“有枪就当草头王，京城频换天子旗”。赵匡胤建立宋朝，要想长期地保有赵家的江山，不能不下狠心割去封建机体上的这一毒瘤，加强中央集权。于是就发生了历代史家津津乐道的“杯酒释兵权”的故事。
赵匡胤有一个很重要的谋臣叫赵普。赵普，字则平，幽州蓟县（今北京）人。他读书不多，但性情沉静，多谋善策，长于政事。后周时，他担任赵匡胤父亲赵弘殷的军事判官。赵弘殷在滁州生病，他日夜端药侍候，使赵弘殷十分感动，而认他为同宗。赵匡胤来探视父亲，与赵普交谈，深感其见识高远，足智多谋。不久，就将他调到自己的部下，为推官。赵匡胤担任殿前都点检、归德军节度使时，以赵普为掌书记，倚为智囊和心腹。赵匡胤的母亲杜太后视赵普为亲人，十分敬重，平日总是以“赵书记”称之。“陈桥兵变”中前后谋划安排的关键人物就是赵普，所以建宋后论功行赏，授予赵普右谏议大夫，充枢密直学士，以便随时侍奉于皇帝左右。962年（建隆三年）就以赵普为掌管全国军事的枢密使、检校太保。次年，又升任门下侍郎、同中书门下平章事、集贤殿大学士，即宰相。赵匡胤与赵普的关系，比一般的君相关系更为亲密复杂。赵匡胤将赵普视为左右手，事无大小，都要征求其意见，才作最后决策。赵匡胤经常微行赵普私宅，二人席地而坐，以炭火烤肉，一边喝酒，一边商谈军国大事。例如关于统一战争“先南后北”的决策，就是一个大雪夜，两人在赵普家喝着酒吃着烤肉，商议出来的。赵匡胤提倡大臣读书，赵普就狠攻《论语》，并以其中所论，用于政事。他曾经对赵匡胤说：“为臣有《论语》一部，用半部佐助陛下定天下，用半部佐助陛下治理天下。”以至留下了“半部《论语》治天下”的美谈。赵普的脾气很倔犟，他曾经上奏推荐一个人任职，赵匡胤不用。第二天，赵普还推荐此人，赵匡胤还是不用。第三天，赵普又推荐这个人，赵匡胤发了脾气，将奏折撕碎掷到地上。赵普脸色不变，跪下来拾起破碎的奏折。回去粘贴到一起，第四天再拿到朝廷上奏推荐，赵匡胤终于知道此人有才，而下诏任用。
建宋以后，赵匡胤和赵普君臣交谈和思虑最多的，是如何结束和防止唐末五代军阀割据朝代更替局面重演的问题。陈桥兵变后论功行赏，以石守信为归德军节度使，以王审琦为泰宁军节度使、殿前都指挥使，掌握着国家最精锐而且数近全国总兵额一半，负责出征和皇帝与都城保卫任务的禁军。又以手握重兵的慕容延钊为殿前都点检，以韩令坤为侍卫亲军都指挥使。赵普就很担心，多次在赵匡胤耳边叨叨。赵匡胤说：“他们都是我的老朋友，不会背叛我的。你也想的太多了。”赵普答道：“我也知道这几位将军不会反叛。但是我仔细观察这些人，都不是能够管束住手下的人才。他们手下万一出现有野心的人，到时候他们又怎么能做主呢？”赵匡胤这才觉得问题的严重，并从更深的层次，考虑如何从根本上解决军阀割据夺权的问题。平定李筠、李重进的反叛以后，赵匡胤更感到这个问题的迫切。有一天，他找来赵普，谈论历代天下治乱的教训，长叹一声，说：“从唐末以来，才几十年时间，就出了八姓十二个君王。僭称皇帝和篡夺政权的事比比皆是，战乱不断，人民遭受了莫大的苦难。我想要结束天下的战争，创造长治久安的政治局面，究竟用什么办法好呢？”赵普说：“陛下考虑这些问题，是天地神人的福气。我看，关键是节度使权力太大，君弱臣强，只要把他们的行政权取掉一些，把他们的财赋权控制住，把他们的精兵收回朝廷，天下自然就安定了。”赵普还要说下去，赵匡胤摆摆手说：“你别再说，我已经懂了。”
赵匡胤自己是以殿前都点检的职务被人推上皇帝之位的，所以，还在961年（建隆二年）闰三月，当讨伐李重进回京后，赵匡胤就下诏免去慕容延钊的殿前都点检职务，改任山南东道节度使，免去韩令坤侍卫指挥使的职务，改任成德节度使。从此以后，不再设立殿前都点检一职。接下来，赵匡胤谋算起他最亲信的老朋友的军权。有一天晚朝以后，赵匡胤将石守信等大将留下来喝酒叙旧。酒喝到高兴处，赵匡胤让手下人退出，说：“不是你们，我就当不上皇帝。不过，这天子也太难当了，还不如当节度使那么舒服。我经常整夜愁得睡不着觉！”石守信等人问：“陛下为什么事这么忧愁？”赵匡胤说：“这还用问吗？我这个皇帝的位子谁不想坐？”石守信等人听皇上说出这样的话，吓坏了，一齐跪倒，把头在地上磕得嘭嘭响，问道：“陛下怎么说出这些话来？现在天命已定，谁还敢有非分之想？”赵匡胤说：“你们各位当然没有异心了。但是，如果你们手下的将领有人想突然富贵起来，你们怎么办？一旦他们把黄龙袍披到你们身上，你们虽然不想当皇帝，能由你们吗？”石守信等人全都哭泣着说：“我们都太愚蠢了，没有想到这些。陛下就可怜我们，给指出一条活路吧！”赵匡胤感叹说：“人生就好像日光从云缝中闪过，短暂得很。人们之所以追求地位和金钱，不过是想使自己生活过得比别人舒服和愉快些，还想使子孙别受苦受穷罢了。你们为何不放弃兵权，到地方上去当大官，再买些好房子好地，为子孙们创下永远不可更动的产业，再多买些歌儿舞女，每天喝喝美酒，看看歌舞，高高兴兴地度过这一辈子呢？我今天跟诸位约定：世代与你们的子孙通婚，君臣之间不要猜疑，上下相安，那是多么好啊！”石守信等几人都拜谢道：“陛下为我们几个想得太周到了，真不愧是生死之交、骨肉之亲啊！”
第二天，这几员大将都宣称身体有病，不能胜任繁重的军务，请求解除他们在朝廷的军职。赵匡胤也就顺水推舟，对石守信等人的军功大加褒奖了一番之后，下诏免去了他们戍卫京师的职务，改派石守信为天平节度使，高怀德为归德节度使，王审琦为忠正节度使，张令铎为镇宁节度使，赵彦徽为武信节度使，让他们都离开都城，到镇就任，还给他们许多赏赐。只有石守信还兼有侍卫都指挥使的职务，但兵权已不在他手里。从此，连殿前副点检的职务也不再设置了，禁军没有最高统帅，直接受皇帝指挥。
大雄节度使符彦卿是历仕后汉、后周的老将，又与赵匡胤是姻亲，防守北方辽人，功劳甚大。赵匡胤一继位就给他加以太师的最高头衔，后来，又想调他来京典领禁军。赵普进谏道：“符彦卿的名位已经够高的了，怎么能再交给他那么重的兵权呢？”赵匡胤答道：“我与他交情很深，怎么能对不起他呢？”赵普说：“陛下怎么就能对不起周世宗的呢？”赵匡胤无话可说，这事就不再提起。
“杯酒释兵权”解除了石守信等重臣元老的军权，但各地节度使的实力仍对皇权有很大的威胁。为此，赵匡胤又采取措施加强禁军，并用各种手段牢牢地控制禁军的权力，使禁军成为其巩固统治最重要的武装力量。
禁军本来是天子的卫兵，唐朝就有，不过数量很少。五代时，许多皇帝都是从节度使爬上来的，深切地认识到军队的重要，故而首先加强身边的护卫力量，使禁军的人数越来越多，地位也越来越重要。后周世宗柴荣为了加强中央的力量，并随时用以外出征战，除了保留侍卫的禁军外，还下令各地选拔最壮实的兵丁到汴京，让担任殿前都虞侯的赵匡胤挑选出武艺高强者编为殿前诸班，使禁军的实力更为加强。赵匡胤建宋后，仍沿袭后周制度，以殿前、侍卫二司统领禁军。其中最精锐的兵员，号称班直，专门扈从于皇帝左右，地位在一般禁军之上。比班直稍次的禁军，分属御前忠佐军领司、皇城司、骐骥院。其余的禁军，都用于守卫京城和随时听从征调外出征伐。他大量扩充禁军的名额，即位当年，就下诏要求各州长官选拔部下壮健勇猛者以补充禁军。他挑选出强壮的兵卒作为兵样，派往各地，按兵样选送禁军。选出来的兵员，先在各地训练，等训练好了以后，再送来京城。后来，在陆续削除藩镇势力后，将其甲兵也收编于禁军，使禁军的数量空前增加，成为王朝正规军中最大的一部分。
赵匡胤很注意禁军的训练，961年（建隆二年），就下诏殿前司和侍卫司检阅所属部队，拣出其中骁勇的升为上军，而将老弱和怯懦的都作为剩员处理。并曾多次亲临讲武殿，检阅部队，进行教练。他常亲自观看禁军比试武艺，骑马射箭，摔跤格斗，凡优胜者，不仅给予赏赐增加俸禄，还有可能选拔到上军中。禁军的俸给优厚，装备精良，战斗力很强。
北宋的军队，除禁军以外，还有厢兵、乡兵和番兵，后三种军队不仅质量无法与禁军相比，就是数量也不行，加上这三种兵又分别掌握于许多将领手中，根本无法与禁军抗衡，如若造反，更是死路一条。据统计，970年前后，全国总兵员37.8万人，其中禁军就达19.3万，超过半数。这叫做“强干弱枝”的办法。
禁军的布置也很有讲究。赵匡胤以10万禁军驻扎于京城及其周围地区，其余禁军则以屯驻、屯泊和就粮军的名义分守各地。在内地军事要塞驻防，叫做屯驻。在边境重镇戍守，叫做屯泊。守护往京城地区运送粮食物资的，叫就粮军。各地禁军定期轮换，而家属都留在京城，表面上是对出戍禁军的优待，实际上也是人质。家属在皇帝手里，谁还敢在外造反？
为了将禁军牢牢地控制在自己手里，赵匡胤采取了许多有效的措施。首先是禁军不再设最高统帅，由殿前都指挥使、侍卫马军都指挥使和侍卫步军都指挥使这三个衙门的长官分别统领，互不隶属，互相牵制，都直接听命于皇帝。其次，禁军将领全部由皇帝直接任免。禁军军官提升时一律调离原来的部队，防止部队中形成亲信军阀势力。分守外地和出征的禁军直属朝廷，地方无权指挥，其将领由皇帝临时任命，而不固定。这样，“兵不识将，将不识兵”，任何将领都没有熟悉亲信的部队和下属，更无法以手中的军权与朝廷抗衡。第三，将原来负责传达皇帝命令、承受大臣表章、执掌机要的枢密使一职，改为掌管军政的机关枢密院的首脑。枢密使负责军队的招募、训练、供给、调动等等具体事务，但不直接统帅军队。而各部队将领统领军队，却无权调动军队。枢密院与各将帅之间互相牵制，大大增强了皇帝对军队的控制。
