成立典礼之后，连续开了一个月的编遣会议，具体商议编遣问题。
当时各集团军的数，李宗仁回忆说：“第一集团军为最多，约二十个军，四个独立师，共五十余万。第二集团军共十个军，八个独立师，合计四十二万。”
第一和第二两个集团军，即蒋介石冯玉祥，就成为编遣会议中争斗的主要两家。会上通过了一系列规定。在1月5日的第一次大会上，通过了《国军编遣委员会会议规则》，冯玉祥在这一天日记中说：“九点，赴第一次编遣会议开会，宣言中有一不偏私，二不欺饰，三不中辍数语，观与会之精神，我国前途，询有无限之希望也。”8日的第二次大会上通过了《国军编遣委员会临时秘书处组织规程》。11日的第三次大会上通过了《确定军费总额实行统一财政办法提案》，冯玉祥在这一天日记中谈及：“下午三点，开编遣会议第三次大会，讨论全国兵额及实施编遣办法大纲草案并编遣进行大纲。……余以此事极关重要，遂毅然赴会。开会时，蒋主席主张付审查，无异议，并推定余为审查委员长。”14日，冯玉祥在日记中又说：“开国军兵额及实施编遣办法大纲编遣进行程序大纲审查会议。决议事项：（一）兵额不得过六十师八二）编遣办法会同农矿工商财政各种提案，分别规定；（三）编遣程序先行调查各集团军实在状况，编制各项精密统计，然后决定。”17日的第四次大会上通过了《国军编遣委员会进行程序大纲》规定：“全国现有军队，除中央直辖各部队及海军各部队，应由编遣委员会径行派员缩编外，其余应分为左列六个国军编遣区，实行编遣：第一区，专管编遣原隶第一集团之各部队；第二区，专管编遣原隶第二集团之各部队；第三区，专管编遣原隶第三集团之各部队；第四区，专管编遣原第四集团之各部队；第五区，专管编遣原隶山东省之各部队，第六区，专管编遣原隶川、康、滇、黔各部队。”还规定：“缩编全国现有之陆军步兵，至多不得超过六十五师，骑兵八旅，炮兵十六团，工兵八团（共计兵额约80万，空军、海军另定），其编制应斟酌全国收总额之比例，务必缩减军费至总收入的百分之四十为止。依此定额，暂定一年经常军费及预备费，为1亿9200万元，各编遣区及中央直辖部队其编留之部队，至多不得超过十一个师。”22日的第五次大会上通过了《国军编遣委员会编遣区办事处组织大纲》，决定在全国设立八个办事处：中央直辖各部队编遣办事处（南京），中央直辖海军编遣办事处（上海），第一编遣区办事处（南京），第二编遣区办事处（开封），第三编遣区办事处（北平），第四编遣区办事处（汉口），第五编遣区办事处（沈阳）及第六编遣区办事处。同时这次大会上还通过了《国军编遣委员会服务规程》。
在讨论实质性的问题即各集团军怎么个编遣时，蒋介石对准第二集团提出编遣第二集团军的计划。冯玉祥也不买帐，立即提出一个裁兵原则八一）裁弱留强；（二）裁无功留有功，并指出：“第一集团军内所收编的南北部队十余万，应该首先是裁撤的对象。如今这些收编的部队留而不裁，反而要裁北伐中有功的正规部队，实在有些不公平。”结果在议过来论过去的过程中，多数赞同阎锡山的提案。很显然，阎的提案对蒋介石有利，虽然蒋的力量同冯相等，但蒋介石另外可以支配中央编遣区，也就是说有六个至八个师可以再归他指挥。李宗仁看到阎锡山的方案带有离间蒋、冯的性质，所以也倾向于阎的方案。这样一来，冯玉祥就称病请假，不到军部来办公，编遣会议也不来出席，只派个代表参力D。
蒋介石为了掌握冯玉祥的情况，曾派孔祥熙前往慰问。当孔走到院里，就听到了冯玉祥正大声和许多说话，但孔一进屋，冯却倒在床上，蒙上棉被，连声呻吟。李宗仁回忆说：“我们有时到冯的住处去‘探病’，只见他卧房里炭火熊熊，冯氏则倒卧在床上，盖了两床锦被，满头是汗，呻吟不止，好象真有大病的样子。”又说：“蒋先生有时也亲往探视冯氏，并安慰他要好好静养。”冯玉祥自己说：“近日失眠，胃病等症复发，据医生诊治说，是神经衰弱症。”
1月25日，编委会议暂且闭幕，蒋介石致闭幕词时说：“本会历次议决各案，不仅议决后就算了事，还要-一实行起来，才算完成了我们的责任。”胡汉民也致词说：“所有本会各种决议案，都是国家的根本大计，我们要如何的努力把他实行起来，并且要把他作好，就要看大家的实际行动了，我们不愿意夸夸其谈的说一些抽象的不切实际的漂亮而又动听的名词，我们要有实行的条理和好的方案。”
当时部队编遣的结果，何应钦在《全国军缩经过》的报告中说：“第一集团军已缩编为十三师、两个独立旅、两个炮兵团、一个交通兵团、一个骑兵师，每师有三个旅，共约24万余；第二集团军已缩编为十二师，约22万；第三集团军亦编为十二师，约20万左右；第四集团军已缩编为九团制之师十三个，约23万。正在缩编中者，有张贞师、卢兴邦师、陈耀汉师及陈调元、方振武。高桂滋、岳维峻、任应读、徐源泉、刘珍年、刘志陆、谢文炳、刘桂堂、顾震等所部共约22万。此外奉天现缩为步兵十五旅、一个独立团、两个骑兵队、八炮兵团、工兵五营、辎重五队、通信一大队、特种车队，共计约12万；吉林、黑龙江两省共六个旅、约4万余；云南现有六师约3万；四川邓锡侯、田颂尧、刘湘、刘文辉、杨森、赖心辉、刘存厚各部共约18万；两广有陈济棠、徐景唐、陈铭枢、黄绍访、范石生等五军及许克祥师，共约12万；贵州约2万；海军陆战队约8000。总计全国军队数目，共约百六十余万，现已改编成师者已逾五十个以上，裁遣官兵又达百万。”
何应钦又说：根据缩编后的数字，“额数仍多，核与国家收入比例不符。惟从兹收束军事，暂告一段落，筹备国防，此其噶矢。他日再由国军编遣委员会加以一般之整理，使全国兵额不超过50万，以符五中全会之宣言。”
在正式会议上，蒋介石开始是不表态，任由们针对冯玉祥和阎锡山的两个不同的编遣方案进行争吵。当他采取种种手段争得们多数支持阎锡山的方案（即在四个集团军之外，再加一个中央区）之后，他才以仲裁者的面目表态，不但同意阎的方案，且又提出增加东北编遣区，使张学良感思不尽。这样，蒋介石不仅在编的军队最多，又把张学良拉到了自己一边。增加了“蒋家军”的实力。
最后，会议制定了《国军编遣委员会进行程序大纲》。规定，从全国编遣委员会成立之日起，全国军队一切权力收归中央，正式取消国民革命军总司令部、各集团军司令部及海军司令部。各部队原地驻扎，听候点编。同时还规定，各集团军无权自行调动与任免军官。至此，与会的各路诸侯们才明白自己是上了蒋介石的当--各实力派的军事大权在无形中被剥夺了，指挥权、调动权、任免军官权，甚至连司令部都被“取消”了，这些号令千军万马的将军们顷刻间成了“光杆司令”。这样的“规定”自然是谁也不肯接受的。冯玉祥、阎锡山、李宗仁、李济深等的态度因之骤变，由原来的相互攻击、勾心斗角转为同病相怜。他们联合起来，以各种托词抵制编遣会议，冯玉祥和阎锡山索性主张“休会”。蒋介石知道一时难以使各路诸侯就范，一纸空文也不可能把家的兵权释去，于是采取缓兵之计，宣布以后再开一个“编遣实施会议”。这样，到1月25日，编遣会议草草收场了。
这次编遣会议，蒋介石不但没能实现其全国军权尽归己手的目的，反而把自己摆到了与各派军事力量尖锐对立的位置上，激化了矛盾。各路新军阀识破了蒋介石的阴险用心，知道蒋介石不把他们彻底搞垮是不肯罢休的，所以他们纷纷离开南京，回到自己的领地上，积极准备力量，要与蒋介石一争雌雄。
蒋介石一手导演的编遣会议的闹剧，无异于在自己脚下安放了一只巨大的火药桶；紧接其后，他又匆匆忙忙召开国民党第三次全国代表大会，这等于又在自己脚边安放了另一只火药桶。
当时的国民党内部，已呈现出四分五裂的状态，“改组派”数最多，成份复杂，以汪精卫为领袖，不断掀起反蒋风潮；“再造派”拉孙科为大旗，主张立胡汉民为党的领袖，反对改组派；此外还有国民党内数不多却实力不凡的元老集团--西山会议派。这些派别的共同特点是：拥护蒋介石的“清党”反共，反对蒋介石的独裁。
蒋介石明白，要想独揽政权和军权，必先独揽党权。他对争夺党权是很有实践经验的。为了操纵这次全国代表大会，蒋介石预先采取了一系列措施，拉拢嫡系，排除异己，扫除障碍。这就更进一步激化了各派政治力量与蒋介石的矛盾。首先是桂系与蒋介石闹翻了，李宗仁潜回广西，白崇禧电请辞职，于右任也不肯赴宁开会。冯玉祥则不仅不来开会，反而发表通电，公开辞去军政部长一职。汪精卫一派的中央委员更乘机鼓噪，公开策动“反对非法的第三次全国代表大会”的运动。一时间，反蒋活动日益扩大，各派军事力量军心不稳，桂系更在调兵遣将，摆出了大战的架式。在这种情况下，蒋介石不得不铤而走险，他要利用这短暂的形式上的统一时机，抓紧把党权独揽在手，以便“正名”用“中央”的名义镇压和消灭各反对派。
1929年3月15日，国民党第三次全国代表大会开幕。在蒋介石一手操纵下，大会发表宣言，彻底抛弃了孙中山先生改组国民党的革命精神，背叛了国民党第一、第二次全国代表大会的政治纲领，公开指责孙中山先生的三大政策，把共产党列为北伐革命的对象。这次大会，第一次把蒋介石树为全党的最高领袖，从而标志着中国国民党已成为蒋介石手中的工具。
两只火药桶放在了蒋介石的脚边，并且已经点燃了导火索，新军阀大战的序幕徐徐拉开了。
3．蒋、桂开战，冯、阎结盟
第二次北伐结束后，桂系达到了全盛时期。白崇禧、李宗仁、李济深、黄绍站等桂系骁将自广西经武汉至平津，南北呼应，摆成一字长蛇阵，兵强马壮，虎视耽耽。按当时的兵力对比情况来看，蒋、桂实力相当，真打起来的话，鹿死谁手还很难逆料。而冯玉祥的西北军实力比蒋、桂都大一些。所以大战未开，冯玉祥先成了双方争取的对象。
蒋介石派邵力子为代表，去劝冯玉祥与蒋合作。蒋介石许愿：让冯担任行政院院长；委孙良诚任山东省主席，并任由冯玉祥在湖北和安徽两省中选一省为西北军的地盘。交换条件是冯玉祥通电讨桂，兵发湖北。但冯玉祥却不作正面答复，千方百计拖延时间，想先看一看事态如何发展，待机而动。
李宗仁则派温乔生为代表，到河南辉县去见冯玉祥，邀冯一起动作，发动讨蒋。冯玉祥口头上答应得很痛快，但又借口布署军队需要时间，表示希望李、白发动战争之后能够撑持两周，到时候他兵力部署完毕，一定响应。其实这也是冯玉祥的手腕，意在坐山观虎斗。一则可以联桂反蒋，削弱蒋的实力；二则可以利用蒋、桂交战，乘势夺取湖北。因此，他派遣部将韩复第带兵进驻武胜关，坐观成败，相机而动。
蒋、桂之争，早在编遣会议草草收场后就开始了。国民党三全大会前夕，桂系利用“武汉政治分会”的权力，派兵占据了两湖地区，接通了广西，形成进可以攻、退可以守的有利态势。这时的蒋介石一心要把三全大会开成一个“团结的大会”以便夺取党权，所以他没有立即与桂系兵戎相见，而是暗地里精心策划了一个消灭桂系的计划。这个计划的要旨是：瓦解白崇禧部、拆散桂粤联盟，然后发兵征讨之。
蒋介石的谋略之术的确胜一筹，他一贯采用的办法是拉一派打一派，抑此扬彼，分化瓦解，各个击破。这次对付白崇禧，他故伎重施，利用唐生智驱逐白崇禧。白崇禧当时驻扎河北，他带到河北的李品仙、廖磊两部原系唐生智的部队，兵员多是湖南籍，乡土观念极重。白崇禧既想长驻河北，又欲向西北扩展，这就引起部下的不满情绪。蒋介石抓住这一矛盾，许以军权厚赏，收买唐生智，促其北上收回旧部于制下。唐生智立即表示竭诚拥护蒋介石，并由上海启程北上。这时，白崇禧已率部南下浦口，拟配合李宗仁攻蒋。但此时唐生智复职的消息已广为传播，部队已不听白的指挥，甚至到处出现“打倒白崇禧”、“欢迎唐总司令”的标语。白崇禧自知大势已去，遂化妆逃走。3月20日，唐生智抵达塘沽，重新统率旧部，次日即宣布讨伐白崇禧，蒋介石也立即任命唐生智为第五路军总指挥。至此，蒋介石扶唐倒白成功，桂系未曾开战就先失一旅，受到重创。
同是3月21日这天，蒋介石在南京突然下令软禁了粤系将领李济深，关押于汤山俱乐部。同时他又派粤籍将领陈铭枢和陈济棠越广东游说粤军将领服从中央，二陈不辱使命，粤军脱离桂系，桂系又失一翼，顿时孤立起来。随后，蒋介石又任命陈济棠为讨逆军第八路总指挥，陈从此成为“广东王”。
作为军事指挥官，蒋介石最推崇“不战而屈之兵”。他的拿手好戏是利用敌方内部矛盾，以重金和高官收买叛将。他用此法成功瓦解了湖南湖北，桂军不战自退，蒋介石于4月5日到了武汉，宣称“兵不血刃而定武汉”。还在武汉单独召见了冯玉祥派驻武胜关“相机而动”的部将韩复菜，蒋介石夫妇一齐出马，对韩“盛情”款待，当面许韩任河南省主席，并赠以数十万元的巨款，做起了瓦解冯玉祥部队的工作。
5月5日，蒋介石“彻底铲除”桂系的军事行动正式开始，同一天，李宗仁在梧州打起了“护党救国军”的旗号，由白崇禧和黄绍站率兵分两路向广东进军，试图打开新局面。5月21日，粤、桂军在广东白泥血战，桂军败走广西。这时，蒋介石又以四面八方调来大军讨伐桂军，6月2日，白崇禧和黄绍站自知败势难挽，双双逃到越南，蒋、桂战争以蒋介石的大获全胜而告结束。
倒桂得手后，蒋介石开始拉拢阎锡山，前伎重施，还是拉一个打一个。这次拉的是阎，打的是冯。
蒋介石在与桂系的争斗中，没有得到冯玉祥的支持，相反，冯玉祥假意支持蒋介石倒桂，却在兵下徐州时印刷了大量“讨逆公告”，这个“公告”印制得十分特别，只印“贪赃枉法、横征暴敛、屠杀民众、迫害青年”一类的罪名，却不印所“讨”之“逆”究为何。冯玉祥的用意很清楚：他说是出兵14万助蒋伐桂，实际上仍然是“出声不出力”，他是在等待最后的结局，蒋、桂无论谁打败了，他就在布告上填写谁的名宇。这种做法看似聪明，实则愚蠢，不仅把桂系害了，冯玉祥自己也得罪了蒋介石，落了个“猪八戒照镜子--里外不是。”所以，蒋、桂战事一停，蒋介石就开始算计这位“如胞兄”的冯玉祥了。他在武汉已收买了冯玉祥最忠实的将领韩复榘，接着又派到襄樊，用几十万元把石友三也“买”了过来。其后，又如法泡制，收买了刘镇华、马鸿逵等将领。
收买冯玉祥部将的同时，蒋介石又广泛散布谣言，说冯玉祥意欲与苏联勾结，要打蒋介石，然后向山西发展，攻打阎锡山，以此挑拨冯、阎之间的关系。阎锡山虽然不相信冯玉祥要打自己，但毕竟“三成虎”到处都在传播这个说法，弄得他也疑虑重重。
在这样的情势下，蒋介石又使出第三招：连连电请冯玉祥南京供职，企图使西北军陷群龙无首的境地。而冯玉祥到了这种时候当然是断断不会上当的，他明确表示自己不去南京是“恐为李济深第二”。拒绝京之后，冯玉祥在华阴召开军事会议，决定武装反蒋，并自任“护党救国军西北路总司令”，要求所属各部从山东、河南等地撤至憧关集结，准备迎击蒋军。
5月8日，国民党中央政治会议推蒋介石为主席。23日，国民党中央常委会通过了决议案，革除冯玉祥的一切职务，永远开除其党籍，并下令查办。至此，蒋、冯矛盾公开化。在国民党中央发布的各项文告中，冯玉祥被称为“统一之梗”，成了“阴险成性、反复无常”之徒。
在此期间，冯玉祥的部将韩复榘、石友三突然通电维持和平，表示拥护中央、拥护蒋介石。两名部将的公开叛变，使冯玉祥痛心疾首，他在华阴日夜哭泣，咒骂自己，甚至打自己的嘴巴。在蒋介石的强大压力下，冯玉祥失去了迎战信心，他突然宣布：“自5月27日起，所有各处电文，一概谢绝，从此入山读书，遂我初衷。”他以此种方式下野当然不是为了读书，而是为了使蒋介石失去进攻西北军的借口，保存西北军的实力，然后设法联合阎锡山反蒋。这一招果然有效，蒋介石的武力进攻成了无名之师，只好暂时停了下来。
冯玉祥宣布下野后，一口恶气出不来，当然不肯善罢甘休。于是他派邓哲熙和曹浩森到太原找阎锡山，表示希望与阎联手反蒋。阎锡山在蒋、冯冲突中左右逢源反复其手，既媚蒋压冯、又拉冯抗蒋，使自己处在蒋、冯都要竭力拉拢的有利位置上。蒋介石自己就是玩弄这一套手法的大行家，岂能识不出阎锡山的把戏，只是以他当时的力量，无法一口吞下冯、阎两支实力军队，只好采取各个击破的办法，笼络阎锡山，先把冯玉祥弄垮，回过头来再收拾晋军。6月7日，蒋介石致电阎锡山，委任他为北路军总司令，要他帮助进攻冯玉祥。阎锡山则回电表示不愿内战，扬言他要与冯玉祥一起下野出洋，井派专程赴日本安排住处，还在天津订购了船票，摆出一副真的要引退的架式。在此之前，阎还让冯派来的特使邓哲熙和曹浩森捎话给冯玉祥，请冯玉祥赴太原共商反蒋大计。当时冯玉祥怀疑阎锡山别有他图，不敢贸然赴晋。后见阎真的是要出洋的架式了，加上阎锡山又派了一向受冯玉祥敬重的老朋友李书城前往华阴劝冯也一起出洋，遂打消了顾虑，于6月ZI日启程赴太原。24日晨，在运城住了3天，备受晋军将领优礼相侍的冯玉祥乘车前往太原，当晚与阎锡山在介休见面，25日一起到了太原。
冯玉祥一到山西，阎锡山自以为“奇货可居”，遂以冯玉祥为政治资本，暗中同蒋介石谈起交易来，蒋介石明白他的居心，便投其所好，亲赴北平约阎面谈。阎锡山在太原与冯玉祥虚以委蛇，却又偷偷跑以北平与蒋密谈。经一番讨价还价，蒋介石委任阎锡山为全国陆海空军副总司令，阎锡山则答应尽快解决西北军。“协议”达成后，阎锡山回到太原，先是“称病”住了医院，后又退掉了赴日的船票，并寻个借口将冯玉祥骗到五台县建安村软禁起来。
冯玉祥上了阎锡山的当，当然既怒又急。但他身处晋军之中，只能不露声色，暗地里却在寻找出路，设法拆散蒋、阎联盟。他在建安村里动弹不得，便暗中授意留在陕西主持西北军军务的宋哲元，要他绕开阎锡山，直接与南京政府联系，向蒋介石靠拢。冯的部下们痛恨阎锡山趁火打劫，又苦于冯玉祥被软禁，西北军军饷无法解决。得到冯玉祥的密令后，宋哲元等西北军将领算是找到了一条出路。当时，西北军的将领鹿钟麟在南京政府住军政部长，宋哲元便派参谋长陈琢如赴南京见蒋介石，表示西北军接受中央指挥，要求补给军饷。蒋介石闻言大喜，以为西北军已然不战自降，瓦解冯系不再需要借助晋军了。于是，他委派于右任和贺耀祖到西安宣抚点编西北军，安抚冯军部将，并供应军饷。从此，蒋介石与西北军的关系由对抗--缓和，转而成为“亲密”了。
阎锡山见此情形，深恐蒋、冯联合起来对付晋军。为了摆脱困境，他于中秋之夜亲往建安村，当面向冯玉祥赔罪，并提出联合反蒋的建议。冯玉祥见折散蒋、阎的目的已经实现，遂表示愿与间捐弃前嫌，联手反蒋。经商议，冯玉祥仍住在建安村，居于幕后，以留回旋余地，由西北军将领首先举事，并通电拥戴阎锡山为首领，共同讨蒋，然后再由晋军起而响应。
1929年10月10日，宋哲元等27名西北军将领，联名发表拥戴冯玉祥、阎锡山，讨伐蒋介石的通电，列举了蒋介石的六大罪状：
一、“自蒋氏继任主席，滥用威权，包办三全大会，党成一之党，中央成一之中央。假中央集权之名，行专制独裁之实”，“天下为私”。
二、“自蒋主中枢，政以贿成。政府委员及财政官吏，非其私，即其妻党。狐鼠凭陵，秽闻昭彰。贪污之风，实甚于昔北京政府，以致开国正气，竟被蒋氏一手破坏无余”。
三、“连岁水旱成灾，遍及全国。仅西北各省灾民数近二千万。哀鸿遍野，奄奄待毙”。蒋氏对非嫡系部队，“常景十余月发一晌，死者无抚恤，伤者无医药，生者无一食。而蒋氏及其左右私党，骄奢淫逸泊享帝王之奉。军民交瘁，漠不关心。自蒋氏到南京。不足三年，前后发行公债四亿二千万元”。“蒋氏用总司令名义支用特别费，每月百余万元。凡此黑暗贪污，即榨取民脂民膏民血”。
四、“蒋氏狡悍阴整”，“毫无政治道德、权术自民诡谋百出”“行帝王专制之淫威”，使“兄弟骨肉自相残杀。今年湘、鄂、粤。桂川卜滇、黔等省，战祸连绵，蒋氏一实为之涌。”
五、“蒋氏假借编遣为名，一面令竭力灭缩，一面自己加大招募。两度会议，皆属欺骗阴谋。近更向德国大购军械，暗扩军额。外标和平统一之名，阴行武力统一之实。”
六、“蒋氏自知多行不义，为国所不谅，乃更异想天开，学拿破仑三世之所为，利用外交问题，转移国的目标”。“此次中东路事件发生愈月。和平交涉，既无把握，武力抵抗更不准备，坐令俄兵出没边境，焚烧城池。边民数百万流离失所，财产损失，以数万万计，丧权辱国，薄海痛心。”
通电最后宣布：“蒋氏不去，中国必亡”，“即日出发，为国杀贼，万死不恤”。
宋哲元等的讨蒋通电慷慨激昂，指陈蒋的几条罪状都是有目共睹的事实，因此有一定的号召力。通电发出后，西北军兵分三路，浩浩荡荡向河南进军。但是，这一次西北军又上了阎锡山的当。通电讨蒋后，西北军进展很快，连战连捷，但晋军却按兵不动，迟迟不予响应，致使西北军后继乏力，士气大受影响，战局在短时间内发生了急剧变化。
28日，蒋介石以陆海空军司令的名义，发表了《讨冯誓师词》，大骂冯玉祥说：“冯逆反复，好乱成性，勾结暴俄，祸国殃民，既召外侮，又图称兵，内战国本，外失威信，举国同仇，疾首痛心，全军愤激，师出正名，为党讨逆，为国牺牲，党亡与亡，国存与存，身为后死，誓不偷生，义无反顾，勇往急进，军法连坐，敌代同心，内奸不除，国无幸存，叛徒不灭，民难安宁，歼除内奸，固我国本，肃清反叛，安我国民。”
由于蒋军兵多将广，弹药、粮食充足，而西北军孤军深入，兼以宋哲元和孙良诚因争夺指挥权而发生矛盾，孙良诚意气用事，竟擅自率部脱离战场，导致全线溃乱，全军退回到潼关以内。因此，仅仅一个多月，蒋介石就打败了西北军。冯玉祥第二次反蒋又失败了。所幸这一次冯玉祥身在幕后，从表面上看，蒋介石打败的是宋哲元和孙良诚部下的西北军，并未与冯玉祥发生直接的冲突。因此，西北军战败后，冯玉祥的处境至少没有变得比开战以前更糟糕，蒋介石也不敢逼冯过甚，给他指了两条出路：或者到中央供职，或者出洋考察。
冯玉祥处境如此，阎锡山的日子也不好过。10月28日，蒋介石把特任阎锡山为陆海空军副总司令的命令公布于众。11月5日，阎锡山也喜洋洋地宣布就任此职。然而，就在阎锡山脸上的笑容还没褪去的时候，11月26日蒋介石突然规定：“在中央有职务者不得再兼省职。国府委员应驻京，无公事不能离职。”按照这个规定，阎锡山将不得不离开太原到南京去当官，这实际上等于被蒋介石“削了藩”，等干将晋军拱手送给了蒋介石。接着，蒋介石又派宋子文到平、津两市，把平、津税收尽数归为国有，使盘踞平、津实地的阎锡山从此无税可收，空守着个水中月、镜里花。阎锡山几年来帮蒋介石绞杀其他派系，出力甚多，到头来落得这样的结局，连连吃了蒋介石几个“哑巴亏”。而且，眼看蒋介石将嫡系部队大批北调，明摆着是冲着晋军和冯军来的。在这种情况下，一向善于投机钻营的阎锡山也不得不考虑出路问题了。出路只有两个，或者拥蒋，任其宰割，弄个有名无实的闲官当；或者反蒋，拼个鱼死网破。若果然扳倒老蒋，前景自是妙不可言。在两条出路的抉择中，阎锡山还没拿定主意，蒋介石却又来逼他了。1930年1月16日，吴铁诚奉蒋介石委派来到太原，请阎锡山补行副总司令就职仪式。这不是个仪式的问题，而是蒋介石逼间表态的一种形式。阎锡山被挤到绝路上，遂借机发表了反对蒋介石的演说，公开指责蒋介石独裁。并要求蒋介石下台，“在野负责”。蒋介石则一面反唇相讥，一面调兵遣将进行武力威胁，同时授意何应钦提出也叫阎锡山下野。
蒋、阎的争吵，使冯玉祥看到了转机。他虽被困建安村，但与西北军将领仍保持联系。这一次，冯玉祥重施故伎，密令鹿钟麟派与蒋介石联系，并故意使阎知道。阎锡山果然上当，认为蒋、冯意欲联合对付晋军了。他审时度势，认为冯玉祥反蒋是一向坚决不馁的，现在冯处于逆境，自己若能主动与他修和，共同反蒋，冯玉祥多半会同意，何况他与冯是拜把子兄弟，冯又是个粗放豪爽之，凭自己三寸不烂之舌，不怕冯玉祥不尽释前嫌，联手发动新的反蒋战争。于是，阎锡山决定联冯打蒋。他自任首领，请冯玉祥回陕指挥西北军。在冯玉祥临走的前一天，阎锡山又来到了建安村，极其诚恳地对冯玉祥说：
“大哥来到山西，我没有马上发动反蒋，使大哥受了些委屈，这是我第一件对不起大哥的地方；后来未哲元出兵反蒋，我没有迅速出兵响应，使西北军受到损失，这是我第二件对不起大哥的地方。现在我们商定联合反蒋，大哥马上就要回到潼关，发动军队。如果大哥对我仍不谅解，我就在大哥面前自裁，以明心迹。大哥回去以后，倘若带兵来打我的话，我决不还击一弹。从今以后，晋军吃什么、穿什么、用什么，大哥的军队也吃什么、穿什么。用什么，一律待遇，决不歧视，我心耿耿，唯天可表。”为了表示诚意，阎锡山当场交给冯玉祥现款50万元、花筒手提机关枪200支面粉2000袋，于 1930年3月9日送冯玉祥回到陕西。
冯阎结盟后，阎锡山一边积极进行战前部署，一边制造假象，发出“下野”通电。3月10日，西北军将领23发电挽留，并表示愿追随阎锡山奋斗到底。13日和14日，晋军将领和第二、第三。第四集团军的将领共计57通电全国，一面历数蒋介石的罪状，要蒋还政于民，一面公推阎锡山为中华民国陆海空军总司令，推冯玉祥、李宗仁、张学良为副总司令，推刘骥为总参谋长。
4月1日，阎锡山在太原宣誓就任总司令，冯玉祥和李宗仁分别就任副总司令。阎锡山就职时发表通电，指斥蒋介石“专制独裁，为所欲为”。以致“党不党矣，政不政矣，国不国矣，民不聊生矣。”
至此，中原大战爆发。
4．军事与政治的双重胜利
1930年4月，蒋介石以国民党中央宣传部的名义，编了《讨伐叛党祸国殃民的阎锡山冯玉祥卜书，将《国民政府拿办阎逆锡山令》、《讨伐阎锡山宣传大纲》、《讨伐冯逆宣传大纲》等予以公布。并历数了阎锡山的罪恶：
“一、假革命之名而攫取权位”；二、“残害同志，劝袁称帝”；三、“假名村治搜括民财”；四、“摧残教育实行愚民”；五、“破坏交通扰乱金融”；六、“煽动冯唐破坏统一”；七、“妄发主张藉端倡乱”；八、“勾结反动倾危党国”；九、“封闭党部拘捕党员”；十、“阳唱出洋阴行南犯”；十一、“勾结外卖国求助”。“总之，阎逆为背叛中央，满足野心之故，不惜以华北民众为牺牲，不惜以国家主权为代价，其卖国求助之罪，较冯逆之勾结苏俄，断送蒙古新疆，实有过之无不及。”同时历数的冯玉祥的罪恶有：“甲、勾结苏俄，招纳共党；乙、破坏交通，图碍奉安；丙、拥兵割据，反抗中央；丁、感使桂系，称兵叛变；戊、吞没赈款，霸占赈粮；已、苛征暴敛，强迫种烟；庚、惨杀民众，摧残舆论；以上七端，特就其大者而言，有此七罪，已属死有余辜；况冯述种种劣迹，尤有笔所难宣者，虽欲以细行欺世，谁其信之。”
蒋介石还亲自发布了《为讨伐阎冯告将士》、《告国民革命军全体将士文》及《阎锡山扰乱党叛迹昭彰》、《北方反动势力的丑态》、《阎冯勾结反动余孽捣乱情形》。其中说：“阎逆锡山，冯逆玉祥，存封建之心理，具军阀之积习，举动恐统一将不利于其割剧之野心，和平将消挥其作乱之机会，故处心积虑，必欲破坏统一而后已，必欲扰乱和平而后快。”说阎锡山“狡诈为心，阴险成性，常欲以别供牺牲而立于不败之地，对中央虽貌示服从，对地方则使叛变，纵横排阎，挑拨离间，无所不用其极”。说冯玉祥“迭次谋叛，幸逃显戮，缉榜犹悬，野性复炽，此次受阎逆庇护，又图死灰复燃，啸聚渲关，进犯郑洛，与阎逆共肆披猖，作反革命之大团结。”蒋介石表示要坚决“讨伐”阎冯，认为“此役为封建军阀最后之挣扎，亦即革命战争最后之一幕”。此外，蒋介石还策动了两湖、两广州、苏、皖、赣、闽等省及上海、天津、武汉等市的党部发表通电要求蒋介石讨伐阎锡山。在大造讨伐阎冯舆论的同时，蒋介石亲自在武汉召开京汉线作战各部队将领军事会议。蒋介石在会上对各将领训话说：“作战的关键问题，是对敌兵员的杀伤。只有对敌兵员的大量杀伤，才能解决战事。……你们应当大胆放手地尽量利用我们的优势炮火，予敌以重大的杀伤。”
蒋介石投入的总兵力大约有60万，其中有一半左右是杂牌军。反蒋的军队总计集中了70万，兵力上稍占优势。这个反蒋阵营共分为八个方面军，桂军为第一方面军，由李宗仁统率；冯玉祥的西北军为第二方面军，阎锡山率晋军为第三方面军，原驻新乡地区后又倒戈投归西北军的石友三部被编为第四方面军；因张学良被内定为陆海空军副总司令，所以东北军被定为第五方面军；其余几个方面军则分别由四川刘文辉部、湖南何键部及樊钟秀部编组。这样，双方共计投130万，以河南、山东、山西。陕西等省区为主战场，展开了一场历史上空前的新军阀中原大战。
蒋介石对这场战争早有应变准备。他明白，这些地方实力派拥兵自重，不听差遣，不诉诸武力是断难使其俯首贴耳的。因此，早在冯、阎公开联盟之前，蒋介石就有计划地将其嫡系部队调到徐州、蚌埠一带集结，随时准备应付冯、阎两部的异动。
1930年5月1日，蒋介石发表了《讨阎誓师词》。11日蒋冯间中原混战正式打响。陇海线位置在全局的中央，津浦、平汉是它的左右两翼。双方把主要兵力使用在陇海线方面进行较量。初战，蒋军来势甚猛，并且有空军配合，激战数日，联军遭到了极大的挫折。蒋介石亲自到归德督战，想一举把陇海线正面的晋军打垮。但在此时，联军重新作了部署，全线发动攻势。
阎锡山集中了九个炮兵团324门大炮的火力，实行墙壁射击，蒋军损失惨重。冯玉祥派去吉鸿昌率部协同孙良诚增援晋军，孙吉二素以骁勇善战著称，而且又是刚刚加战斗的有生力量，一经接战，就把蒋介石的精锐陈诚部几度包围，杀伤很大；郑大章的骑兵奔袭归德，差一点生擒蒋介石。在周佛海写的《往矣集》上有这样一段叙述：“冯玉祥的骑兵郑大章部来袭击飞机场，他们的任务是烧了飞机就回去，谁知我们车上只有200多卫兵，（当时蒋介石在归德的朱集车站指挥作战），车站上又没有其它军队，如果骑兵到达车站，主帅以下都要被俘。”这时反蒋的波浪几乎弥漫全国，而蒋在军事上又打了败仗，与蒋介石有密切关系的就问蒋：“今天消灭甲，明天消灭乙，闹得自危，这样发展下去，将来何以善其后呢？”蒋介石忿然作色而又十分自信地说：“只要们要官要钱，我就有办法！”
经过几次激烈的战役，冯部消耗很大。阎锡山对冯部的补给，开始时还比较充分，可是越到后来，不仅数量少，而且不及时，尤其是械弹和战斗器材的补充，渐渐到了百呼不得一应的程度。在津浦线上，蒋介石军队于7月中旬开始反攻，晋军节节后退，蒋介石在7月24日给中央的呈文中说：联军“万选才就俘，樊钟秀炸毙，孙殿英被围，土匪行将次弟消灭。而阎冯寇部屡次冒死来犯，迄不得逞，徒自伤亡其精锐。最近闻我方增加部队将到，其恐慌愈甚，其为困兽之斗亦愈烈。本月11日起至20日止，此10日中，逆军竭全力兵攻我陇海正面，攻我平汉各军，攻我围毫部队，而皆自取覆灭。今其全力竟皆丧失已尽，解决不难立待也。”阎锡山“急来抱佛脚”，特派周观携带大批现款、弹药和面粉赶到郑州见冯玉祥，请冯救援。冯为了顾全大局，自不能对津浦线紧急情况袖手旁观。于8月上旬在陇海线又发动了全面攻势，以徐州为目标，分七路总攻。这时蒋介石鉴于情势危急，为了确保退路，就分电各路将领固守鹿邑、太和、阜阳、涡阳、蒙城、永城、夏邑和毫州各城，且明码标价：敌军来攻时能固守不失者，准各升二级，赏洋5万元。而同时，由于连日大雨不停，冯部的士兵疲劳过甚，给养又极困难，攻势受阻。这样，蒋介石的颓势有了扭转，冯部没有起到支援晋军的作用。晋军于8月15日放弃济南，撤往黄河以北，数万大军纷乱地抢渡黄河，被水淹死和在黄河铁桥上被蒋部的飞机炸死的不计其数，其状其惨。蒋介石在8月16日给中央的战报中说：“我右翼军蒋师已于15日下午二时确实占领济南，并因我军先绕道占领黄家庄等地，逆敌只一小部分渡河北窜，其余全数被擒，是役俘虏官长无数，获步枪2万余支，大炮230门，其他辎重弹药极多。逆敌仅有之飞机2架，亦不及运回。其狼狈窜逃情状，概可想见。查阎逆据济南以后，自诩胜利，号召各派反动分子妄思组织伪政府，且冯逆玉祥积极攻击陇海平汉两路，幸赖各将士忠勇奋发，一致努力，卒能克复济南，击溃晋逆主力军。现津浦路我军正分路渡河追击，胶济路各军亦早协同前进，晋逆必可完全歼灭，冯逆残部闻风胆落，而日来向我各部作最后之猛烈攻击者，昨晚完全沉寂。此据报告，且已呈溃退之象，我军部署追击，就不难一鼓荡平。”22日蒋介石发表训令，争取冯阎的部将。训令说：“阎锡山冯玉祥倡乱魁率，法无可有，至其所部将士，皆曾为革命尽力，徒以冯阎胁制，乃至误歧路。其情实有可原，其愚尤为可悯。现拟重行传檄，明白告诫各该部将士，果能大义灭亲，擒解祸首，听候中央惩治，自当特予赏，但使自拨来归，迫令其祸首阎冯卸除兵柄，驱逐于其所谓防地者之外，杜绝割据弄兵扰乱党国之野心，则各部本为中央军队，就必仍与中央各军享受一律待遇，决不稍有歧视，并以各军反正附义时期之先后，以为论功行赏次第之表率。”24日蒋介石下令各军，再次明码标价，先占领巩县者赏洋20万元，先占领洛阳、郑州者赏洋100万元。9月6日，蒋部发动对冯部的总攻。
就在这时，张学良不再袖手旁观，他于9月18日发表通电拥蒋，率东北军大举入关，加入蒋军集团。
张学良在两派争相拉他联盟的情况下一直不表态，静观风向达半年之久。一开始，他想置身事外，避免东北军卷入战火。因为当时张作霖去世不久，东北大局未能得到巩固，日本帝国主义插手东北事务的企图严重威胁着东北的政局。这种时候，如果东北军贸然加入内战，难免给日本以可趁之机。所以，张学良曾多次发表和平通电，呼吁通过会商解决纷争。但是，大战前及大战开始后，张学良成了双方决定胜负的筹码，一时说客盈门，各方代表你来我往，纷纷到沈阳与张学良会晤。在双方对张学良的“开价”上，蒋介石自然处于优势地位，他的亲信张群、李石曾、吴铁城等轮着班盯在张学良身边。张到哪里，蒋介石的就跟到哪里。蒋介石先是委任张学良为副总指挥，又委任东北军将领于学忠为平津卫戍司令，委任王树常为河北省主席。这么一来，等于把平、津两市和整个河北省送给了张学良。如此巨大的“实惠”，对张学良当然具有很强的诱惑力。与蒋介石比较，反蒋派拉拢张学良的手段就不值一提了。联军57位将领于3月14日联合发出讨蒋通电后，阎锡山先后派行营主任梁汝舟、军械处长张维清和山西省建设厅长温寿泉赴沈阳，冯玉祥也派了邓哲熙、门致中等先后到沈阳劝说张学良加盟。但他们都拿不出什么“实惠”的东西来拉拢张学良，又因为职衔与张学良相比太低了些，所以除了一般性的交谈之外，在态度上很难表现反蒋派拉张学良的“坚决”与“诚恳”。这样，使张学良认为阎、冯二对自己不够尊重，也就虚与委蛇，不肯表态。而蒋介石则不同，他一方面对张学良诱以重利，一方面又采取老一套的分化瓦解手段，以高官厚禄收买东北军的将领。这就使张学良感到很担心，因为他知道蒋介石手腕的“高明”，更知道蒋介石的不择手段的性情。初掌东北大权的张学良经过反复权衡利弊，终于决定倒向蒋介石。这一天，是1930年的9月18日。恰好一年以后--1931年9月18日，日军在东北发动“九·一八”事变。两个“九·一八”联系起来，是有着一定的因果关系的--一东北军入关，在军事上使日本有了可趁之机，张学良加蒋介石集团，把东北的命运交给了南京政府，在政治上成了蒋介石与日本帝国主义作交易的筹码。可以说，这是张学良所犯的一个无法挽回的错误。
张学良加盟蒋介石集团之前，冯、阎部队在中原战场上已呈败势。东北军一入关，蒋介石集团如虎添翼，在军事压力与安抚收买双管齐下的攻势下，先是著名的“倒戈将军”石友三投奔了张学良，其后晋军和西北军将领也纷纷自寻门路投靠了蒋介石和张学良，其它杂牌军更是忙不迭地换成了蒋军的旗号。
在蒋介石集团的强大军事压力下，阎锡山命晋军迅速北撤，回到山西老窝，企图保住这块赖以起家的根据地。而冯玉祥对此并不知情，仍集结部队于郑州外围，准备与晋军协力对付气势汹汹的蒋军。及至知晓实情，冯部将领已各奔东西，冯玉祥只身陷了众叛亲离、四面楚歌的境地。
声势浩大的反蒋联盟，被蒋介石用了半年多一点的时间就击溃了。
在击败反蒋军事联盟的同时，以改组派和西山会议派为主组成的反蒋政治联盟也宣告瓦解了。当中原大战的序幕刚刚拉开时，联合反蒋的改组派和西山会议派也开始了一场既要统一又互不相让的大争吵。说“统一”，是因为两派都是反蒋的，因为同受蒋介石的政治压迫而走到一起来的。但是，改组派与西山派的誓不两立是源自国共合作时期的，在党统问题上都十分敏感而且各不相让。在反蒋军事联盟业已实现的情况下，政治上也急需组成一个国民党中央，用以对抗蒋介石的那个“中央”。在此之前，为了对蒋介石一手操纵的国民党第三次全国代表大会产生的三届中央表示反对，改组派和西山会议派分别在广州和上海另立过中央。现在，双方都坚持以自己的二届中央为合法的党中央，因此争执不休，反蒋的中央政权在中原战火的炮声中酝酿了5个月，始终未能建立起来。
