宋太祖即位后，大封功臣，很多曾经拥护过他的将士们都得到了封赏，掌握了军权。但是，明·刘俊·雪夜访普图也有一些人不服。在赵匡胤登基不到半年的时间里，就有两名节度使企图反叛。赵匡胤平定了他们的叛乱之后，就与亲信赵普商量，怎样才能确保自己的统治不会被别人推翻。赵普就提醒宋太祖，黄袍加身的故事很有可能会重演，并建议宋太祖削弱藩镇的权力，把兵权收归中央。宋太祖很赞同他的意见，决心收回大将们的兵权。
公元961年的一天，宋太祖在宫中举行宴会，请曾经拥护过他当皇帝的统兵将领石守信、王审琦等人喝酒。饭饱酒酣之时，宋太祖命令在旁伺候的随从们退出，拿起一杯酒，乘着酒兴对众将说：“要不是靠你们出力，我今天当不了这个皇帝。不过，这皇帝也不好做，还不如节度使逍遥，如今我简直没有一夜能睡得安稳。”
石守信等人很奇怪，忙问原因。宋太祖就说：“我知道你们都对我忠心耿耿，可是如果有一天，你们的部下贪图富贵，也把黄袍加在你们的身上，那事情也就由不得你们了。”
石守信等人听了这话吓得半死，忙跪下磕头，请宋太祖为他们指出一条出路。宋太祖就说：“你们不如放弃兵权，到地方上做个闲官，多置办些田产，给子孙多留家业，再买些歌伎，天天饮酒作乐，欢度晚年不好吗？我与你们结成儿女亲家，互不猜疑，岂不很好？”
石守信等人大悟。第二天，这些人不约而同地递上一份奏折，说自己年老多病，请求解除兵权，回家休养。宋太祖欣然同意，罢免了他们的军职。
不久，宋太祖又以同样的方式罢免了其他几个藩镇的节度使，还对中央禁军与地方的士兵实行轮换制。这样，唐朝时在地方握有重权的节度使，从此成为毫无实权的虚衔，禁军将领也无法拥有重兵。宋太祖之后又陆续派遣文臣做地方官，并派官员到地方管理财政。为避免“君弱臣强”局面的出现，宋太祖又在宰相之下设参知政事若干人，以削弱宰相权利，并改变以前皇帝与宰相共同商讨国事的规矩，改为由皇帝批阅，再给宰相下旨处理。通过这些措施，宋太祖将中央和地方的财、政、军权都集于一身，牢固地稳定了自己的统治。
