宋太祖在宰相下设参知政事若干人，又设置枢密使，以此来分宰相的军政大权；再设置三司使，以分宰相的财政大权。如此，大大削弱了赵普的权力。显然，这不光是针对赵普本人，也是为了加强中央集权的需要。
尽管赵普的权力大大被分散，宋太祖似乎还是不能原谅这位患难之交的种种过错，开宝六年（973年）八月，贬赵普为河阳三城节度使。然而，以宋太祖之忠厚，这不大合情理，背后一定还有更深层的原因。
赵普被贬后很不服气，上书自诉说：“外人谓臣轻议皇弟开封尹，皇弟忠孝全德，岂有间然；矧昭宪皇太后大渐之际，臣实预闻顾命，知臣者君，愿赐昭鉴！”（《续资治通鉴 卷七》）大致的意思是说，有人说我赵普与皇弟赵光义不和，经常在背后议论赵光义，赵光义忠孝全德，哪里有什么可以让人说三道四的地方？
我们先看看之前赵普与赵光义的关系。在宋朝立国前后，赵普与赵光义的私交很好，二人都是“陈桥兵变”的关键策划者，配合相当默契。杜太后最爱第二子赵光义，也经常告诫赵光义外出必须与赵普偕行。可见最初二人的关系相当亲密，但这只是在没有利益冲突的时候。
重新回到赵普的上书，这份自诉相当值得玩味，很有些“此地无银三百两”的味道。赵普竭力辩解与赵光义并无嫌隙，反而说明他之前与赵光义矛盾极深。就连赵光义后来也公开宣称：“赵普先前与我关系不好，这是大家共知的。”赵光义身为皇帝亲弟，地位和权势熏天。赵普则精通权术，深谙为官之道，他这样一个聪明人竟然敢公然与皇弟争锋，这只能说明他背后一定有比赵光义更大的靠山。而这靠山显然别无他人，只能是宋太祖赵匡胤。
宋太祖有一次准备给符彦卿加官，赵普坚决不同意。宋太祖说：“我料定彦卿不会负我。”赵普针锋相对地回答：“陛下当日如何负周世宗呢？”这话相当尖刻，估计也只有赵普才敢说出来。宋太祖这才默默无语，符彦卿加官的事情就此搁浅。赵普针对符彦卿的这句著名的话，后来又被宋仁宗时的宰相文彦博照猫画虎拿去针对武将狄青说事，这是后话。
符彦卿为后周遗臣，两女相继为周世宗皇后，第六女嫁赵光义为妻，既是周世宗的岳父，也是赵光义的岳父。宋太祖登基后，因心中有愧，对后周柴氏一直恩礼异常，天下所共知，还曾经立下誓约：“保全柴氏子孙，不得因有罪加刑。”要求子孙后代都要遵守。赵普自然也知道，所以他的话并不是针对周世宗的后裔而发，也不是担心符彦卿加官之后会复辟柴家的天下，而是从另一个角度提醒宋太祖要留意符彦卿的女婿，也就是宋太祖的亲弟赵光义。宋太祖不是不明白赵普的深意，只是不能明言，所以只好不了了之。
即使贵为皇帝，也有常人难以想象的烦恼，宋太祖也不例外。有种种迹象可以推测说，宋太祖虽然一直想遵从母亲杜太后遗命，但他内心深处一定有过动摇。他想将皇位传给亲子徳昭还在其次，最重要的是，自古以来，皇位嫡长子继承制是“百王不易之制”。
宋太祖虽然是武将出身，但他性好读书，身边又有一班谋士，不会不知道这些前朝典故。可以肯定地说，“万世上法”嫡长制才是令宋太祖真正动摇的根本原因。赵普与宋太祖结识于患难之间，情如兄弟，相知极深，不会不知道宋太祖的矛盾心思，一定给宋太祖出了不少主意——要彻底除去烦恼，最简单的办法，就是将皇位传给皇子赵德昭，而不是皇弟赵光义。赵普明白这一点，宋太祖也明白这一点。
然而，此时赵光义羽翼已成，难以撼动，加上宋太祖兄弟情深，不忍心对亲弟下手，终于还是没有采纳赵普的建议。正如王夫之在《宋论》中所言：“宋祖受太后之命，知其弟不容其子，而赵普密谮之言，且不忍著闻，而亟灭其迹。”
当时，赵光义亲信遍布朝野，赵普之行事多半为赵光义知晓。宋太祖最终还是决定要遵从母亲的遗愿，为了避免更大的纷争，不得已罢免了赵普的相位。否则，以宋太祖之重情重义，不会仅仅因为赵普谋私就将其逐出京城。这里特别要强调一句，宋太祖曾立下秘密誓约，规定子孙后代“不得杀士大夫及上书言事人，誓不诛大臣、言官，子孙有渝此誓者，天必殛之”（《避暑漫抄》引《秘史》）。与刘邦杀白马立盟“非刘氏不王”比起来，宋太祖实在是个相当宽厚仁义的皇帝。
