后来事实证明，袁世凯此举可谓有先见之明。段祺瑞到信阳尚未坐稳，北方便出了大乱子。山西新军中革命党人首先在北方发动起义，推举新军标统阎锡山为军政府都督，准备进攻北京。清政府急令驻扎滦州的第二十镇统制张绍曾出兵讨伐。岂料这位“士官派”代表联合其他将领，电奏朝廷，宣布实行“兵谏”。清廷情急之下，派出第六镇统制吴禄贞前往滦州说服。吴禄贞与张绍曾、蓝天蔚同为“士官三杰”，三人关系甚笃，清廷原以为吴禄贞的说服工作会大见奇效，岂不知吴禄贞是一位以尽快推翻清政权为己任的激进革命者。吴禄贞一到滦州，便提出联合阎锡山，合围攻打北京的主张。
此时，清廷刚刚任命袁世凯为内阁总理大臣，由他出面组织责任内阁，清廷军政大权已落入袁世凯的掌控之中，倘若在这个时候清廷被北方革命力量所消灭，则皮之不存，毛将焉附？尤其严重的是，袁世凯便有被逐出政治舞台的危险。幸亏他早有防范，已收买张绍曾手下的协统，因此在第一时间内知道了内幕。
北方所发生的事，段祺瑞在信阳已有所耳闻。10月31日，袁世凯赴湖北孝感视察的专车抵达信阳，段祺瑞上车拜见袁世凯，方知事态远比想象的要严重。两人就如何平乱进行了一番商议。由于兵谏将领中许多是段祺瑞的旧部与学生，因此决定由段祺瑞北上以攻心战进行瓦解。
段祺瑞旋即带领数名亲信赶到北京，以发送公开或秘密电报的形式，以同僚或师长身份，劝说兵谏将领们服从袁世凯指挥，率部南下。同时派出徐树铮等得力干将到自己旧部和学生中进行游说。段祺瑞在北洋将领中素有威望，此招一出，将领们纷纷倒戈，张绍曾很快被架空。
与此同时，袁世凯授意军谘府以令吴禄贞率部赴山西镇压起义为名，将吴禄贞从滦州调开。而吴禄贞率部赶到石家庄后便停滞不前，他一面谎报军情麻痹清廷，一面与阎锡山取得联系，约定组成燕晋联军，于11月8日联合举事，围攻北京。
就在吴禄贞与阎锡山密谋举事的同时，袁世凯已采取行动，决定暗杀吴禄贞以除后患。袁世凯的亲信收买了一个叫周符麟的协统，负责暗杀事宜。周符麟先到北京面见段祺瑞，然后遄赴石家庄组织暗杀行动，11月7日深夜，在约定举事的前一天夜里，吴禄贞在石家庄的临时办公处被刺杀身亡。
为了给舆论一个交代，段祺瑞按事先约定传讯周符麟，两人合演了一出双簧，然后便把周符麟放走了。喧嚣一时的北方事件终于风平浪静，段祺瑞为袁世凯又立一功。在接下来对南方的用兵中，段祺瑞由于吃透了袁世凯的意图，屡屡为袁世凯排忧解难，再建功绩。
此时，担任前敌主将的冯国璋打得十分卖力，先攻克汉口，又攻克汉阳，接着要一鼓作气拿下武昌。这下急坏了袁世凯。袁世凯的策略是“养敌自重”，无奈他连发七道急令，并三次派员南下让冯国璋停战，冯国璋都不得要领。而袁世凯“借敌自重”要挟清廷的目的又不便明说。情急之下，袁世凯走马换将，命段祺瑞为湖广总督，兼办剿抚事宜，同时以第二军军统兼任第一军军统，将冯国璋调回北京。
段祺瑞果然不负厚望，他深知袁世凯早已无意于清廷，更不会安心于内阁总理大臣，他追求的是大总统的宝座，于是，与袁世凯一南一北，一唱一和，配合默契，既利用革命军胁迫清廷谈条件，又利用清廷向革命军“讨价还价”。
在“南北议和”进行中，南方的黎元洪等人与袁世凯基本达成默契，黎元洪等人表示，“如袁反正，将拥其为总统”。
然而，就在袁世凯做着大总统美梦的时候，孙中山自海外归来，于1912年1月1日在南京就任中华民国临时大总统。
这一变化令袁世凯与段祺瑞万分震惊与愤怒，因为正是袁世凯试图“借敌自重”，汉阳战役之后停止进攻，才使武昌民军化险为夷。如今孙中山做了总统，袁世凯岂能善罢甘休？立刻电令段祺瑞炮击武昌。
在各方面的压力下，孙中山作出让步，南方代表以“清帝退位和保证共和”作为袁世凯出任大总统的先决条件。袁世凯对民主共和不以为然，不过是想借机逼迫清廷，达到其上台的目的。但是，清室少壮亲贵对清帝退位一事反应激烈，而袁世凯本人不愿承担背叛清廷的骂名，逼宫的重任便落到了段祺瑞肩上。
1月下旬，段祺瑞振臂一呼，率前线北洋将领46人，先后两次联名致电朝廷，吁请清帝退位，称“人民进步非共和不可”，必须“立定共和政体”，否则“即率全体将士入京”，并随即将司令部从湖北孝感迁往河北保定，做出一副进京逼宫的样子，对清廷造成咄咄逼人的态势。
1912年2月12日，隆裕太后迫于压力，终于以宣统的名义下诏清帝退位，在中国延续两千多年的封建帝制自此寿终正寝。
3月10日，袁世凯在北京就任临时大总统。段祺瑞也因逼宫有功，被视为“一造共和”的英雄，不久被任命为陆军总长，执掌戎机。
反对帝制，与小舅子叫板
正所谓共患难容易共富贵难，升任陆军总长之后，段祺瑞蓦然发现，当了大总统的袁世凯对原先的股肱干将却不那么信任了。矛盾首先在陆军次长人选上暴露出来，段祺瑞圈定的陆军次长是他最信任最得力的助手徐树铮，名单递上去之后，袁世凯却沉下了脸。
“又铮（徐树铮字）面带煞气，不是个安分守己的人物，还是换个人吧。”袁世凯看着那份名单说。
“又铮对大总统很忠心，人也能干，这陆军次长最适合他。”段祺瑞立刻回应。
但是段祺瑞没有想到，袁世凯不同意徐树铮出任陆军次长，正是因为徐树铮能干！徐树铮不仅才干超群，而且对段祺瑞忠贞不二，被视为段祺瑞的灵魂。且徐树铮敢想敢干，胆量过人，段祺瑞身边有这么个重量级人物，令袁世凯心中很不舒服。早前“北洋三杰”势力相当，能够相互制约。袁世凯出任大总统后，三足鼎立的局面被打破，王士珍留恋清廷退隐还乡，冯国璋外调南京，中央军事大权落到段祺瑞一人手中，袁世凯深知枪杆子的重要性，怎能将这军事大权放心地交给别人掌管呢？又怎能让“段祺瑞的灵魂”出任陆军次长，任由段祺瑞如虎添翼呢？
而段祺瑞一向是军人做派，性格直率，刚愎自用，职权范围之内不愿受他人掣肘，因此，有关军队的编制、调遣、军官的提拔与降黜，除个别重大事件向袁世凯报告外，一般都擅做主张。而他所提拔之人，大多是亲信、部属和学生，这就更加重了袁世凯对他的猜忌与疑虑。于是，两人之间有了裂痕。
尤其令袁世凯耿耿于怀的是，徐树铮一直在陆军次长的位子上安之若素，他一直想借故将其开缺，却始终没找到机会。有次段祺瑞到中南海公干，与袁世凯一起沿着湖边散步。当时气氛融洽，两人心情大好，袁世凯认为时机已到，趁机说：
“很多人对陆军部有意见，都说又铮目高于顶，受不了他那个做派，还是给他换个地方吧？”
一听袁世凯旧话重提，段祺瑞不由得心头蹿火。段祺瑞历来脾气火爆，说一不二，其部下与家人都深有体会。但在袁世凯面前，他不得不有所收敛，但也仅仅是控制着大为光火的程度而已。
“又铮是有些个性，可这个人有能力，给我做助手我放心、省心。若是换个用着不顺手的，倒不如连我一起撤了。”
甩出这几句硬梆梆的话后，段祺瑞转身走了。袁世凯被晾在湖边，心里恨得直咬牙：“好！终究有一天，我会连你一起撤掉的！”
其实在当时，这不过是袁世凯的气话，他一心要削弱段祺瑞的兵权，但在民初政局不稳的情况下，在很多方面还离不开段祺瑞这个北洋军中的老大。后来随着袁世凯称帝步伐的加快，两人的矛盾开始激化，尤其是段祺瑞反对恢复帝制，得罪了一心想当太子的袁克定，段祺瑞的命运很快发生了逆转。
1913年秋，在袁世凯镇压“二次革命”后，京城中复辟帝制的舆论开始甚嚣尘上。为此，段祺瑞曾当面询问袁世凯，此事是否属实。在段祺瑞看来，袁世凯不至如此糊涂，毕竟复辟不得人心，倒行逆施必然会招来千古骂名，尤其会引发动乱，成为众矢之的。在得到袁世凯的断然否认后，段祺瑞才稍稍放下心来。
可是时隔不久，袁世凯的心腹幕僚阮忠枢便找上门来，他是受袁世凯的长子袁克定指派，专为袁世凯称帝寻求奥援而来。阮忠枢与段祺瑞素称莫逆，袁克定以为，由阮忠枢出面，段祺瑞定然不会反对。而他要段祺瑞做的，是段祺瑞做梦都不曾想到的：联络北洋将领，再来一次全国通电，拥护袁世凯称帝。
“真是滑天下之大稽！”不等阮忠枢说完，段祺瑞便愤愤地打断他的话：“我段某人只知通电共和，岂能通电复辟？大总统早就说过不当皇帝，你们还敢胡闹！”
其实，对于复辟帝制，袁克定远比袁世凯热衷得多，毕竟袁世凯做了皇帝，他便是皇太子，理所当然的皇位继承人。为了促成复辟帝制，袁克定甚至捏造政治谎言欺骗袁世凯。当时列强忙于第一次世界大战，无暇东顾，袁世凯十分关注日本人对其称帝的态度。而他揣测日本人态度的重要信息来源，便是日本人在北京办的报纸《顺天时报》。由于该报经常刊登一些对恢复帝制不利的文字，为了坚定袁世凯称帝的决心，促成袁世凯称帝，袁克定竟别出心裁，自己出资找人编造了盗版的《顺天时报》，经常刊登一些日本人赞成中国恢复帝制的文章。袁世凯看了信以为真，加快了称帝的步伐。后来袁世凯称帝失败，始知事情真相，不禁仰天悲呼：“克定误我！克定误我！”
而此时，段祺瑞的不予配合，令袁克定火冒三丈，从此经常在袁世凯耳边聒噪，说段祺瑞坏话，挑拨离间，以达到剥夺段祺瑞兵权的目的。
1914年5月，袁世凯宣布在总统府成立陆海军大元帅统率办事处，袁世凯亲自任大元帅，由“北洋之龙”王士珍任办事处坐办，陆军总长、海军总长、参谋总长。
看着摆在办公桌上的这份公文，徐树铮愤愤地说：“看来老头子要卸磨杀驴了！”
段祺瑞摇摇头：“怕是没那么容易，老头子有多大本事能把所有事都亲自抓起来！”
“不管怎么说，这是一个夺权信号！”徐树铮甚至认为，这个“夺权”，其实只是冲着段祺瑞这个陆军总长来的，其他人手中的“兵权”，对袁世凯以及袁克定来说，实在构不成威胁，大可不必如此费尽心机。
两人不曾料到的是，这个“夺权”的点子，正是袁克定所献计策。袁克定甚至亲自前往河北正定，恭请王士珍出山。王士珍以善操权谋于腹中而被推为“北洋三杰”之首，由于忠于清廷，他对袁世凯的高看并不买账，以岁数已大不愿再参政为由拒绝出山。无奈袁克定软磨硬泡，最终以看望其父为名将王士珍拉到北京。王士珍一到，袁世凯立即授为陆军上将，委以统率办事处坐办。
如此一来，陆军部等于名存实亡，掌控陆军部的段祺瑞兵权尽失。从此，退居办事员的段祺瑞开始了消极怠工。段祺瑞居住的府学胡同私宅，是袁世凯被开缺回原籍时，为感谢段祺瑞的鼎力相助拱手相送的，价值30万元。该宅有侧门与陆军部相通，此前段祺瑞去陆军部常由此门出入。如今，段祺瑞将一切部务交给陆军次长徐树铮代行，自己整日在家里下围棋，打麻将，不仅极少去部里，甚至统率办的会议也常借故缺席。
段祺瑞消极怠工，倒给袁世凯独揽兵权减少了许多麻烦。只是段祺瑞羽翼已丰，在陆军中隐然形成一股强大势力。为了尽快将段祺瑞的势力排挤出去，加强军事集权，同时培植“太子”袁克定的军事实力，1914年10月，袁世凯在军事上又采取了一项重大举措——建立模范团。
所谓模范团，其实是类似军事教导团式的军事学校，以其在军队中的模范作用，对北洋军进行逐步改造。段祺瑞对这个方案持否定意见，但段祺瑞越是反对，袁世凯越是认为这项举措是对的。关于团长人选，袁世凯宣布由袁克定担任。段祺瑞也毫不留情，在统率办会议上当众顶撞袁世凯，语出惊人：
“云台（袁克定字）没带过兵，我看他不行！”
“你看我行不行？”袁世凯肺都快气炸了，立刻针锋相对。
段祺瑞无话可说，只好偃旗息鼓。后来模范团成立，袁世凯做了一期团长，便把位子让给了袁克定。
袁克定如愿以偿做了模范团团长，对段祺瑞更是怀恨在心，伺机报复。1915年初，袁世凯为取得日本对其称帝的支持，与日本酝酿签订卖国条约“二十一条”。5月2日，袁世凯亲自主持会议讨论签约事宜。会议名曰讨论，实际不过是通知大家而已，因为所有人都看得出袁世凯的意向，因此，即使反对也无人敢拿着鸡蛋往石头上碰。唯有段祺瑞拍案而起，慷慨陈词：
“小日本欺人太甚，如此条件过于苛刻，绝对不能接受！”
在劝阻不起作用的情况下，为了阻止签约，阻止袁世凯称帝，会后，段祺瑞以陆军总长名义，领衔19省将军通电请缨，称“天下兴亡，匹夫有责”，表示坚决反对签订“二十一条”，甚至不惜与日本人决一死战。
令段祺瑞不曾想到的是，袁世凯不顾北洋将领以及全国各方面的强烈反对，于5月下旬与日本签订了“二十一条”；更有甚者，袁克定竟混淆视听，将一盆污水泼到段祺瑞头上，公开对外宣称：
“政府之所以向日本屈服，是因为陆军不能打仗，段总长亲口说，一旦打仗，三天之内便可亡国。陆军如此无用，政府能不接受日本的条件吗？”
明明是为了称帝邀宠于日本，出卖国家主权，却说成是陆军无用被迫与日本签订不平等条约，段祺瑞气得鼻子都歪了。
尽管如此，段祺瑞仍坚持反对复辟帝制。后来随着复辟帝制行动的升级，许多反对袁世凯称帝的官员、将领都违心地改变了态度，进入“劝进”的行列。即使不愿意违心“劝进”的也都闭上了嘴巴，唯独段祺瑞仍然坚持反对袁世凯称帝。有人好心劝他，哪怕违心地表示一下“劝进”，也可改善他与袁世凯的关系，否则他的日子会越来越不好过。段祺瑞则公开宣称：
“当年我领衔通电主张共和，如今要我领衔通电取消共和，拥项城称帝，这种出尔反尔的事我是绝对不会干的！”
段祺瑞的态度令袁世凯大为光火，决定搬开这块绊脚石，他对段祺瑞说：“你脸色不好，是不是有病？要注意休息。”随后又特地托人给段祺瑞捎话，告诉他要少操劳，多休息，注意身体。这明显是逼段祺瑞辞职。
段祺瑞对这个办事员级别的陆军总长也干够了，索性于5月31日以身体不适请辞。袁世凯假意挽留，没有立即批准辞职，只是批准休息两个月，但在段祺瑞辞职当天，便任命王士珍为陆军总长；而两个月期限一到，便迫不及待地正式免除了段祺瑞陆军总长的职务。
还是在段祺瑞刚刚请假时，袁世凯就以徐树铮订购军火虚报40万元为由，指使肃政厅弹劾徐树铮，撤了徐树铮陆军次长的职务，终于消除了他心头的一大宿疾。
段祺瑞被免职回家养疴后，袁世凯一边派人暗中监视，一边派医送药，并经常派人给段祺瑞送去鸡肝、参汤之类补养品。段祺瑞不敢食用，全部悄悄倒掉。但袁克定行起事来比他的老子直接多了，由于段祺瑞在北洋军中的威信无人可替代，倘若段祺瑞对袁世凯称帝一直不肯“劝进”，显然对恢复帝制极为不利，袁克定急于当太子，岂容段祺瑞如此执拗，于是，他派人在段公馆里安放了一枚炸弹。
这颗炸弹很快被发现，虽没有爆炸，却给段公馆带来一片恐慌。段祺瑞的夫人张佩蘅将这件事告诉了她的干娘、袁世凯的发妻于夫人，于夫人转告了袁世凯，袁世凯知道事出袁克定之手，将袁克定训斥一番，说：
“你姐夫反对恢复帝制，只是口头上的劝阻，并没有采取过激行动。如今事情未定，这个时候内部不能出事，尤其你姐夫在北洋军中威信极高，弄出事来不好收场！”
袁克定不得不承认，姜还是老的辣，到底是老头子考虑事情周全。尽管他对段祺瑞阻碍恢复帝制恨之入骨，此时也只好收手。
横遭贬黜，笑看护国战起
1915年12月12日，袁世凯正式宣布接受帝制，随后进行大封爵，在获得爵位的128人中，唯独没有跟随袁世凯多年出生入死打江山的段祺瑞。
段祺瑞躲在自己的府里，对闹闹哄哄的称帝活动了解得一清二楚，他不稀罕什么封爵，但对袁世凯果真倒行逆施当了皇帝，以及围在他身边撺掇其称帝的那帮小人深恶痛绝，整天像坐在火山口上，对其大加指责。有一天在餐桌上，段祺瑞又指责袁世凯称帝，气愤地说：
“项城称帝之日，就是走向灭亡之时！”
这在他的夫人张佩蘅听来，似乎是在诅咒袁世凯。于是张夫人说：“不要忘了你今天的一切从何而来，人不能如此没有良心！”
段祺瑞勃然大怒，照着张夫人的脸左右开弓，“啪啪”就是两个耳光，同时怒斥道：“妇道人家，这里也有你说话的地方！”
在一起生活多年，张夫人素知段祺瑞脾气大，但也没想到他竟当众对自己连打带斥责，让她在姨太太和晚辈面前颜面尽失。但段祺瑞对帝制的诅咒却“应验”了，几乎在袁世凯宣布称帝的同时，护国运动便率先在云南发起，爱国将领蔡锷联络各派反袁力量，组成“护国军”，宣布云南独立。接着，贵州、广西相继宣布独立，反袁斗争风起云涌，在全国各地迅速发展。面对中国人民反对复辟帝制的怒潮，帝国主义列强也纷纷转变态度，表示反对袁世凯称帝。
段祺瑞闭门家中坐，全知天下事。他知道袁世凯在公府丰泽园成立了“征滇临时军务处”，亲自处理军事，并军事、外交、内政事必躬亲，且身边没有得力助手，撺掇他称帝的那帮亲信见势不妙，一个个都在另做打算。而战局对袁世凯极为不利，开始时北洋军与护国军在四川泸州一带形成拉锯战，但不久双方竟信使往来，协议停火了。尤其是云贵独立后，又有广西宣布独立，湖南陷入孤立之中。冯国璋拥兵静观，袁世凯无可奈何。北洋军已不再听其调动，袁世凯内心深受重创，其焦头烂额程度可想而知。想到袁世凯不听劝阻咎由自取，段祺瑞总算出了一口恶气。
正在心情好转之时，徐树铮带来一个匪夷所思的消息：被剥夺了陆军次长职务的徐树铮，突然被袁世凯任命为将军府事务厅厅长！
“项城对你恨之入骨，今日请你出山，太阳是打哪边出来的？”
“还用说，当然是为了讨好你！”
徐树铮说的没错，面对内外混乱的局面，袁世凯自然想到请段祺瑞出山稳定局势。这不仅因为段祺瑞是北洋元老，在北洋军中下属、学生众多，还在于他人缘好，自身清廉，虽刚愎自用，却心地善良，不易树敌。但唯恐段祺瑞不给面子，只好先从任命徐树铮入手，希望通过徐树铮打动段祺瑞。
随后，袁世凯又走夫人路线，让发妻于氏通过段祺瑞的夫人张佩蘅，转达他的意思：请段祺瑞出山，共济时艰。只是张夫人话未说完，便被段祺瑞一声怒吼所打断：
“宿疾未愈，何以出山？”
张夫人赶紧闭嘴。此后不久，又传来袁世凯病重的消息。原来早在南方讨袁运动兴起之时，袁世凯便在忧急之中病倒。3月中旬，袁世凯获得一份五将军秘密通电。五将军即江苏将军冯国璋、山东将军靳云鹏、江西将军李纯、浙江将军朱瑞、湖南将军汤芗铭，这五人联名发密电致各省将军，就“迅速取消帝制，以安人心”，同时“惩办祸首”，征求各省将军同意。袁世凯没想到他一手培养起来的北洋将领会成为他的敌人，而领衔者竟是他多年的左膀右臂冯国璋。受此打击，病情骤然加重。在走投无路的情况下，袁世凯只得再次请发妻于氏出面，给他们的干女儿张佩蘅打电话，希望段祺瑞摈弃前嫌，去中南海探视。
这次连张夫人都慌了，她结结巴巴地向段祺瑞叙述了袁世凯的病情。听说袁世凯病得很重，段祺瑞动了恻隐之心，他摆了摆手，表示已经知晓，什么都没说。张夫人一看段祺瑞没有明确表示反对，立刻告知于氏。袁世凯听后非常高兴，第二天便写了亲笔信派人送到段府，交到段祺瑞手中，信中言辞恳切，希望段祺瑞看在两人多年的交情上，能去中南海一叙。
段祺瑞看完信，觉得袁世凯可能是真的想取消帝制了，便不再推辞，如约来到中南海。见到病榻上的袁世凯，段祺瑞顿生一种凄凉之感，对袁世凯的怨恨也平复了许多。
袁世凯充满歉意地说：“芝泉，你能来真是太好了，都怪我当初不听你的劝阻，闹到今天这个局面。我老了，身体也不好，还是请你出山，再帮我一次……”
“若取消帝制，我愿全力相助。”段祺瑞答道。
“好，取消帝制。”袁世凯不再犹豫。
3月21日下午，袁世凯在公府召开紧急会议，参加会议的除段祺瑞、徐世昌外，还有黎元洪，此三人皆为袁世凯称帝前一脚踢开的大员。会上，袁世凯首先宣布取消帝制，复任大总统，随后任命段祺瑞为参谋总长、徐世昌为国务卿，黎元洪仍为副总统，责成三人稳定局势。
但是，袁世凯并非真心想下放权力，不过是想借用三人在北洋军以及对西南的影响，挽回败局，继续其专制统治。3月22日通电取消帝制后，便催促三人尽快向西南方面电劝和谈。3月24日，段祺瑞、徐世昌、黎元洪决定以三人名义向护国军首领陆荣廷、梁启超、蔡锷等人通电，但电文拟定好后，觉得应该再等一等，看看西南方面有什么动向，然后再将电报发出。
可是，袁世凯却等不及了，在没有知会任何人的情况下，私自以黎、徐、段三人名义将电稿发出。
段祺瑞听说后勃然大怒，他算彻底看明白了，袁世凯费尽心机把他请出来，却根本没把他放在眼里，不过是把他当做了稳定局势的工具，危机一过，他仍然难逃鸟尽弓藏的命运。他当即怒冲冲找到袁世凯，明确表示：“既然你仍然事事抓在手里，那你就一个人去处理吧！”说罢，转身离去。
段祺瑞说到做到，4月1日，当袁世凯将亲拟的关于议和条件的电稿拿给段祺瑞征求意见时，段祺瑞将电稿原封不动退回，并再次表示，从今往后再不过问袁世凯的事情。
袁世凯以为，有了三个人的电劝和谈，他可以根据自己的愿望与西南方面谈条件，却不料，西南方面非但不买账，而且坚决要求袁世凯下野，称袁世凯复辟帝制，已经背叛了民国，没有资格再任民国大总统。
袁世凯万分失望，此时他已经看出，黎元洪与他仍貌合神离，徐世昌对南北双方都不起作用，只有段祺瑞，既在北洋军中有威望，又对西南方面有影响。特别是他反对签订卖国的二十一条，又是反对复辟帝制的急先锋，深得南方的认可，且他与蔡锷等人交情匪浅，进可以讲和，退可以付诸武力，此时非段祺瑞不能稳定局势。恰逢徐世昌请辞，袁世凯便再次向段祺瑞示好，任命段祺瑞为国务卿兼陆军总长。
段祺瑞接受了任命，但不甘心做傀儡，直接提出将政事堂制改为责任内阁制，全权处理国事；同时要求裁撤大元帅府统率办事处，将其权力归还陆军部；并要求将模范团与拱卫军交陆军部接管。但袁世凯只是将政事堂改为了国务院，走了一下形式。其所谓责任内阁，不过是个名称而已。至于其他条件，则采取口头答应实际拖延搪塞的办法，不仅自己独揽军权，连人事权都不肯放手。
段祺瑞出任国务总理后，提出由徐树铮出任国务院秘书长。袁世凯听后脸色陡变，恨恨地对带话的张国淦说：“又是徐树铮！军人总理，军人秘书长，真是天大的笑话！”但他想到众叛亲离的处境，又缓和了口气，对张国淦说：“你告诉芝泉，徐树铮是军人，还是当陆军次长吧。”
段祺瑞听后勃然大怒：“没想到落到了这个地步，他还是一点都不肯放权！”
袁世凯直接任命他的机要秘书王式通为国务院秘书长，其用意十分明显，他担心段祺瑞走他的老路，与西南方面联手逼宫，令王式通在秘书长的位子上对段祺瑞实施监督。段祺瑞只得让徐树铮退居副秘书长之职。本来段祺瑞组阁后曾想有所作为，替袁世凯摆平时局，但由于袁世凯处处掣肘，根本不让他“负完全责任”，因此很快心灰意冷，做壁上观。
段祺瑞主张和平解决时局问题，但西南方面和谈的首要条件便是要求袁世凯退位，而且全国各地要求袁世凯退位的呼声也越来越高。段祺瑞虽不会像当年袁世凯对清廷一样逼宫，但他仍然主张和谈，坚决反对付诸武力。
而袁世凯既然不愿意退位，继续当大总统的出路只有一条，那便是武力解决。到5月上旬，袁世凯对段祺瑞的和谈没有进展已经忍无可忍，直截了当要求段祺瑞对南方用兵。段祺瑞也不含糊，直接回敬袁世凯说：
“既然总统坚持用兵，那就另请高明吧，我辞职！”
“好，你请便！”
袁世凯当时气晕了头，完全没想到段祺瑞会真的辞职。第二天段祺瑞便递交了辞呈，重新开始了对时局的冷眼旁观。他知道袁世凯已经骑虎难下，批准他辞职风险太大，不批准吧君无戏言。结果不出所料，辞职之事不了了之，袁世凯自己披挂上阵，亲自布置对独立各省的军事进攻。
虽然北洋军在实力对比上占优势，但已不听袁世凯指挥调遣。5月下旬，袁世凯最亲近的两名心腹陈与汤芗铭，在四川与湖南相继通电独立，袁世凯闻讯如五雷轰顶，从此一病不起。
1916年6月5日，袁世凯病危，表示想见段祺瑞最后一面。段祺瑞也没想到袁世凯身体垮下来的速度比政局变化还快，当他赶到中南海，见到袁世凯，心中不由得暗暗吃惊。看得出，一直紧紧抓住军权不放的袁世凯，已经走到了生命的尽头。
“芝泉，我不行了，今后一切……都要靠你了……”袁世凯说完，大口大口地喘着气。“人之将死其言也善”，段祺瑞两眼发热，重重地点了点头。
次日，袁世凯病逝。
段祺瑞摈弃前嫌，拨巨资为袁世凯举行隆重国葬，先是按照袁世凯生前遗愿在河南彰德为其修建陵墓，又代表总统为袁世凯主祭，6月28日出殡，段祺瑞亲率全体内阁成员执绋，与袁世凯的亲属一道扶柩还乡。
袁克定再三向段祺瑞表示感谢，称此次操持国葬，多亏了“姐夫”。
再造共和，段氏出掌中枢
按照袁世凯本人制定的《修正大总统选举法》规定，总统候选人由现任总统推荐。袁世凯去世前，已将三名候选人的名字写在“嘉禾金简”上，藏在“金匮石屋”中。袁世凯去世后，众人从金匮石屋中取出“嘉禾金简”，只见上面写着黎元洪、徐世昌、段祺瑞三人的名字。
据说这候选人名单中本来有袁克定的名字，可袁世凯在去世前终于想通了，自己在世时尚不能保全皇位，死后又如何能指望别人辅佐自己的儿子？所以在去世前几天，他瞒着袁克定，将其名字改成了段祺瑞。
那么，三人中由谁继任总统呢？最后由徐世昌提议，段祺瑞拍板，由黎元洪出任总统。段祺瑞自然也想做总统，他之所以将总统的位子让给黎元洪，自然有自己的打算。由于黎元洪是副总统，又是“金简”名单中的第一号人物，无论按南方承认的“旧约法”，还是按袁世凯制定的“新约法”，他都是理所当然的法定继承人。而黎元洪又是武昌首义的革命元勋，是护国军拥护的领袖，由他出任总统，还可以笼络南方的护国军和国民党。
而段祺瑞本身是内阁总理，按南方承认的“旧约法”，做总统可谓名不正言不顺，尤其西南方面反对北洋系继续独霸中央政权，希望一个与南方有关的人物出任总统，因此若由他出任总统，势必会带来南北大动干戈。而北洋军内部并不团结，冯国璋对北洋派领袖的位置虎视眈眈，此时若打起仗来，很难说最终鹿死谁手。反不如把总统的位子让出去，一可以团结北洋军内部，二可以保持和平。而黎元洪无一兵一卒，可任意摆布，段祺瑞可以内阁总理身份实行军事独裁统治。
6月7日，黎元洪在东厂胡同私宅举行就职典礼，继任大总统，段祺瑞因反对帝制并在取消帝制过程中立有头功，被称为“再造共和”的功臣。29日，段祺瑞就任内阁总理，负责组织新内阁，同时兼任陆军总长。黎元洪自然明白他这个总统是要看总理的眼色行事的，因此对段祺瑞言听计从，处处忍让，唯独在讨论内阁班子时，黎元洪提出了一个条件：
“谁干秘书长都可以，只有徐树铮不能干。”
“为什么？”段祺瑞颇为好奇。因为黎元洪完全没有必要像袁世凯一样担心他如虎添翼。
“我，我害怕他。”黎元洪不好意思地说。
段祺瑞听后哈哈大笑。
原来，早在1913年袁世凯当权时，黎元洪就任副总统，却迟迟不肯北上就职。任凭袁世凯怎样催促，黎元洪自有一定之规：绝不就范。他滞留武汉，控制着湖北地区，让袁世凯寝食难安。为了帮袁世凯排忧解难，段祺瑞主动请命，决定劫持黎元洪北上。
段祺瑞以看望黎元洪为名，带着徐树铮几人来到武汉，渡江前往黎元洪的住处。段祺瑞时任陆军总长，按照官场的规矩，告辞时黎元洪需要亲自送行。他将段祺瑞送至江边，然后挥手告别。不料就在这时，徐树铮迅速走到黎元洪身边，附在他的耳边说：“黎副总统知道又铮的脾气吧，又铮历来说一不二！”同时将手枪抵住黎元洪的腰部。
黎元洪顿时惊出一身冷汗，颤声说：“好，我跟你们走，千万别开枪……”
就这样，黎元洪被段祺瑞劫持到北京，一路上都被徐树铮看管。至今，只要一想到徐树铮那副凶神恶煞的模样，黎元洪就忍不住颤抖。一旦徐树铮做了秘书长，黎元洪就少不了要与他打交道，这是他最最不能忍受的。因此黎元洪一再强调：“我宁愿不做这个总统，也不能和徐树铮共事。”
但段祺瑞任国务总理，就必定要让徐树铮出任国务院秘书长，袁世凯在位时未能如愿，如今段祺瑞主持国政，岂能再受他人掣肘。段祺瑞好言相劝，说尽徐树铮的好处，后来又搬出徐世昌说项。黎元洪对徐世昌说：
“请你转告总理，一万件事我都可以同意，唯独这件事不行。”
“一万件事你都可以不同意，唯独这件事不行！”徐世昌也不含糊，他对段祺瑞的了解远在黎元洪之上。
事实正是如此，不管黎元洪同不同意，段祺瑞都会让徐树铮做秘书长的。段祺瑞征求黎元洪的同意，也算是对他的尊重。而他的一再反对，只能加深他与徐树铮之间的隔阂。徐树铮对黎元洪阻挠自己出任秘书长了如指掌，上任后便对黎元洪颐指气使，没有一点尊重的意思。有一次，徐树铮拿着一份文件去总统府盖章，那是一份对几位外省厅长的委任令，黎元洪看了一下上面的任命，疑惑地问：“咦，这是谁，还有这个，我没有听说过这几人的名字……”
“这些与你何干？”徐树铮毫无情面地顶撞道，“我忙得很，没时间陪你嗦！你赶快盖章，闲话少说。”
黎元洪气得涨红了脸，却又不敢与徐树铮理论，只好忍气吞声。对于徐树铮的专横霸道，黎元洪能忍，他的亲信、幕僚却忍不住了，尤其是内务部长孙洪伊。孙洪伊是在反对袁世凯称帝中脱颖而出的，在政治上相当活跃。黎元洪之所以将他提名入阁，是看中了他在国会中的影响，以及与直系冯国璋的特殊关系。由于他一贯主张以直排皖，黎元洪一方面把他当做对付段祺瑞的武器，一方面通过他进而讨好直系冯国璋。一旦得到冯国璋的支持，黎元洪便可挺直腰杆，用不着再怕段祺瑞了。
孙洪伊果然出手不凡，他以黎元洪为靠山，联合国会中的反段力量，联直排皖，联冯排段，与徐树铮针锋相对，频频引发冲突。段祺瑞见孙洪伊处处与皖系作对，一怒之下签署了对孙洪伊的罢免令。岂料，总统府秘书长丁世峄主张拒绝盖章，黎元洪也以为孙洪伊有冯国璋做奥援，开始与段祺瑞叫板，使府院之争升级。
就在双方剑拔弩张之时，黎元洪请出北洋元老徐世昌进行调解，徐世昌提出各打五十大板的方案，将徐树铮、孙洪伊二人一起免职，但段祺瑞犹嫌不够，指定再加一个总统府秘书长丁世峄。总统府本来对“一比一”的方案都不愿接受，如今变成了“一比二”，岂能善罢甘休！
为了给黎元洪壮胆，使其顶住这次不公正的罢免，孙洪伊请冯国璋出面说话。孰料，冯国璋的回电却是对段祺瑞的支持。尽管在北洋内部段、冯一直互争上下，但对外方面还是会一致考虑共同利益的。
黎元洪失去靠山，只好同意“二比一”罢免方案。孙洪伊被罢免后，原想利用国会继续与段祺瑞抗争，不料其住宅突然遭到警察搜查，只好连夜出逃。而徐树铮被罢免国务院秘书长一职后，仍然任陆军次长。第一轮的府院之争以黎元洪败北而告终。
但府院之争远远没有结束，不久，更大的风波再次发生。1917年2月3日，美国宣布与德国绝交。开始时，府院一致赞成对德宣战。但当内阁会议顺利通过对德绝交案，请黎元洪在对德绝交咨文上盖章时，黎元洪却变卦了。
由于段祺瑞是亲日派，黎元洪走的是亲美路线。美、日双方都想通过中国对德宣战取得在华的最大利益。但美国很快发现，如果中国对德宣战，将有利于日本乘虚而入，扩大在华影响，严重影响美国的在华利益，于是改变主意，不再支持中国参战，黎元洪便跟着改变了态度。但黎元洪不敢与段祺瑞硬顶，只好委婉地说：“我认为不能操之过急，毕竟绝交之后就是宣战，我们应该先征求一下军界的意见再做决定。”
段祺瑞立刻反唇相讥：“军界意见用不着总统操心，我自然会处理好的，总统只需盖章便可！”
但无论段祺瑞如何气势汹汹，黎元洪主意已定，支支吾吾地拖延时间就是不肯盖章，段祺瑞一气之下使出杀手锏——干脆辞职去了天津。这一招对黎元洪果然奏效，黎元洪立刻转变态度，派人前往天津请回段祺瑞，3月6日段祺瑞回到北京，黎元洪乖乖地在咨文上盖章，3月14日，北京政府正式照会德国公使，宣布对德绝交。
但接下来是否参战，成为府院之争的新焦点。为了达到参战目的，段祺瑞将下属十几个督军请到北京，组成“督军团”，以“督军团”为工具，对黎元洪施加压力。黎元洪则以国会为外援，与之对抗。尽管后来黎元洪做出让步，在段祺瑞拟定的“对德宣战书”上，勉强加盖了总统大印，但段祺瑞犹嫌不足，又在国会开会讨论时以一支支“公民团”、“请愿团”大肆干涉，终于招致众怒，内阁成员纷纷辞职，最后只剩下段祺瑞一个光杆总理。
恰在此时，英文《京报》披露了段祺瑞与日本签订一亿元军事借款的秘密，使段祺瑞在国会所做“中日之间绝无秘密外交”的证词被揭穿，段祺瑞陷入被动之中。尽管如此，段祺瑞也没有想到黎元洪会挺起腰杆，一改往日唯唯诺诺的柔弱作风，于5月23日果断下令，免除了段祺瑞国务总理与陆军总长的职务。
段祺瑞万分震惊与震怒，指责黎元洪滥用职权，根据临时约法，总统无权撤销总理职务，因此不承认黎元洪的免职令。
与此同时，段祺瑞离京赴津，在天津的住所很快便车水马龙，门庭若市。段祺瑞也很快弄清了黎元洪挺直腰杆的原因，他得到了一位实力派人物的支持，这位实力派人物便是大名鼎鼎的“辫子大帅”、驻扎徐州的长江巡阅使张勋。
在民初的军界中，张勋可谓一大“怪物”。民国六年了，他依旧垂着一条大辫子，人称“辫帅”。他的定武军全体将士，也人人拖着一条大辫子，被称为“辫子军”。张勋拥有58个营，2万多兵力。而张勋愿向黎元洪伸出橄榄枝，不过是想借机出兵，行复辟清廷之实。
在段祺瑞电召各省督军进京参加军事会议的时候，张勋仅派了一名代表进京，他本人坐镇徐州，静观北京政局变化，随后电召督军代表20多人到徐州开会。段祺瑞派徐树铮参加了徐州会议。此间，张勋想从徐树铮口中窥探段祺瑞对复辟清廷的态度。
徐树铮见张勋明确表示要“还大政于今上”，决定促成张勋复辟，以假张勋之手赶走黎元洪，解散国会，然后让段祺瑞以拥护共和为名，攻打张勋，重掌政权。于是，徐树铮对张勋说：“芝老只希望赶走黎元洪，至于采取什么措施全不在意。”这就给张勋造成一错觉，即段祺瑞不会反对复辟，最低限度，会保持沉默。
徐树铮回到天津后，向段祺瑞汇报了徐州会议的情况，并讲了自己的连环妙计。段祺瑞不置可否，但表示不会公开支持张勋的复辟活动。
而黎元洪罢免段祺瑞后，陷入内外交困之中，新内阁组不起来，各省督军纷纷宣布独立，北京局势动荡不安，各国使节纷纷表示“忧虑”。在孤立无援的情况下，黎元洪把扭转局面的希望寄托在张勋身上。6月1日，黎元洪以总统令急调张勋火速入京。
6月7日，张勋亲率4000精锐辫子兵，以拱卫京师、武装调停为名，北上“勤王”。途经天津时，张勋首先拜见段祺瑞，征询段祺瑞对复辟的意见，段祺瑞说：“我反对袁项城搞复辟，自然也会反对你搞复辟。你敢让小皇帝复位，我就敢派兵打你。”
但当时张勋复辟心切，根本听不进段祺瑞的劝告。后来张勋再赴段宅，段祺瑞的态度便模棱两可起来。6月13日，张勋邀请段祺瑞赴京“共筹国是”，段祺瑞婉言谢绝，但对复辟之事不置一词。
而张勋由于抵津后受到徐世昌、段祺瑞等人的劝阻，尤其日本政府的干涉，态度有所动摇，准备将复辟的步子放缓，先扶植李经羲内阁做过渡，然后再寻机复辟。赴京后即通电各省，称“组织内阁万不能缓”。
段祺瑞见此反而着急起来，生怕拖延下去夜长梦多，与徐树铮商议后，决定给张勋复辟烧一把火，促其快速将生米煮成熟饭。于是，段祺瑞先指使各省督军反对李经羲组阁，随后又指使安徽督军倪嗣冲于19日通电取消独立，在各省督军纷纷效仿的情况下，张勋不免飘飘然起来。虽然李经羲于25日通电宣布就职，但各省督军在段祺瑞的授意下，仍采取不合作态度，内阁仍迟迟不能组成。
既然各省督军取消了独立，又反对李经羲组阁，何必再为组阁之事浪费时间？加上康有为等复辟派怂恿，张勋决定直接发动复辟。6月30日晚，张勋入清宫召开“御前会议”；当夜，辫子军占领火车站、邮电局等要地；7月1日凌晨，张勋穿上清代的朝服朝冠，率康有为、王士珍等50余人，拥12岁的溥仪登基。张勋自任议政大臣、直隶总督兼北洋大臣，掌握了军政大权。
黎元洪没想到搬来的救星原来是灾星。7月2日，黎元洪秘密签署了罢免李经羲总理一职的命令，重新任命段祺瑞为国务总理，并下令段祺瑞讨伐张勋；又签发了由副总统冯国璋代理大总统职务的电报，随后躲进了东交民巷。
段祺瑞早在7月1日张勋复辟当天，即开始筹划出兵讨伐事宜，7月3日在天津附近的马厂组成“讨逆军”。段祺瑞以讨逆军总司令的名义，发出讨伐张勋的通电，并发布讨逆檄文。讨逆军很快攻入北京，辫子军复辟不得人心，士气大减，一触即溃。7月12日，张勋仓皇逃入荷兰使馆，溥仪再次宣布退位。
