1919年,巴黎和会,列强瓜分我国的条约出台,五四运动爆发,国人中呼吁拒签和约的,是知识阶级和一般民众。而北京政府担忧危及与西方列强的关系,大都主张接受这一条约。不到一周时间即 5月 9日,远在湖南衡山的吴佩孚发言,这个“言人所皆欲言,谏人所不敢谏”的区区师长,直接向大总统徐世昌发出通电:“大好河山,任人宰割,稍有人心,谁无义愤?彼莘莘学子,激于爱国热忱而奔走呼号,前仆后继,民草击钟,经卵投石 ……其心可悯,其志可嘉,其情更可有原!”吴被舆论誉为“爱国将军”。数日后,吴佩孚又致电南北双方将领联名通电,反对在《巴黎和约》上签字,主张取消中日密约。那些手握重兵把守各地的督军、省长们,也因此纷纷致电政府,表达爱国热情,措词强硬地要求拒签“和约”。同年 12月,冯国璋病死,吴佩孚成为地位仅次于曹锟的直系军阀首领。
1920年 5月,吴佩孚不听段祺瑞的命令,自衡阳领兵北撤,随后通电反对皖系“安福俱乐部”把持政权。他的通电是:“全国之大,能否尽为一人所盘踞?疆吏之多,能否尽为一党所居奇?兆民之众,能否尽为一人所鞭笞?”要求大总统徐世昌罢黜段祺瑞内阁。7月,直皖战起,吴佩孚联合奉系军阀张作霖,大败皖军,段祺瑞政府倒台,直奉两系军阀共同控制北京政府。吴的通电游戏使得徐世昌总统叮嘱手下人:吴佩孚的态度不可不考虑。
吴的军人造反颠覆了政府,按后来人们的史评,吴佩孚的这一举动标志着北洋军阀公开分裂,多数论者认为这是一场争权夺利的不义之战,战争给当时的中国社会带来了较大的经济损失,在政治上和军事上削弱了北洋军阀,外交上沉重地打击了日本对华的侵略政策,客观上一定程度地有利于中国社会的独立和进步。但他通电谦称:“此次兴师讨贼,原为民意所驱策,即战胜结果,亦全国民意战胜,非直军战胜也。此次战胜逆党,谬蒙各界赞扬,实则非军队之力,全胜于民意。”
直奉系掌权,吴佩孚在北京出任陆军总长可以说是众望所归,但他只在北京落了落脚,即引兵回到洛阳。他功成身退,只是出任“直鲁豫巡阅副使”。一位在中国多年的日本军部间谍铃木贞一为此佩服说:“我认为吴佩孚是个很了不起的人物,因为在一般情况下,获胜的中国将军都是进入北京大逞威风,但吴佩孚却不声不响径自领兵回到河南洛阳。”
但人人都知道吴佩孚此时已是北京政府内阁的灵魂,他人虽远避豫西,却又让人不得不仰其鼻息,北京政府大到国策小至人事安排,无不频繁请教于他。当挤在宣武门内象房桥国会厅里争吵不休的参议员和众议员们拟拆除紫禁城三大殿 ——太和殿、保和殿、中和殿,在其废墟上另建议会大厦时,吴佩孚通电总统、总理、内务总长、财政总长:“……何忍以数百年之故宫供数人中饱之资乎?务希毅力惟一保存此大地百国之瑰宝。无任欣幸。盼祷之至!”当各报刊登载了吴氏通电后,颂扬吴帅之声鹊起,抨击国会之议潮涌,故宫三大殿幸免一劫。