其后，阎锡山又借国民党中央成立国民抗战精神总动员山西分会之机，成立起了山西省精神建设委员会（简称精建会），并将它发展到区县和基层。以精建会为同志会的外围，加强对社会各阶层的控制。
随着阎锡山日趋消极抗日，积极反共，为了加强对军队的控制，1939年秋，秘密建立起了反共组织的核心“铁军”，同时积极扩展“同志会”，并从中挑选“基干”，作为忠于他的核心骨干。到1941年，在克难坡举办“烘炉训练”时，阎锡山将封建帮会组织青、洪帮都利用起来，自立为山主，充分暴露了他为网络和控制部下，已经到了不择手段的地步。
出于狭隘的封建观念，阎锡山在用人时，讲究地域，强调非亲不用。“学会五台话，就把洋刀挎”，这句民谚形象地说明了他的用人方针。凡是五台人，是阎的亲戚，或依附并忠于阎本人，不管才能大小，都可得到重用，受到庇护。抗战时在晋南石口战役中，五台人王靖国部作战不力，时任军法执行总监的张培梅，极力主张要对王军法从事，阎锡山坚决不允。张培梅是从太原起义起就一直追随他的忠心耿耿的老部下，为此事气愤不过而服毒身死。王靖国则一直为阎所信任重用，后来成为晋绥军人中一人之下，众人之上的实权人物。利用老乡、宗族，编织起一个严密的关系网，如同一张庞大的蜘蛛网，他自己则位于网的中心。正是有了这么一张精心编织的网，阎锡山虽然曾经被迫离开过山西，但山西却从来没有脱离他的操纵。在以乡土亲情笼络部下的同时，阎锡山也有一套颇为得意的选人、用人方法。他主张用“能共事的人才”。所谓“能共事的人才”，就是：不要尖子，也不要奴才。尖子不好驾驭，奴才听话有余而办不成事。因此，能在他身边呆下去并得到重用者，多是看他的眼色行事，但又有点实际能力的。而真正的大将之才，出类拔萃之才，却往往被他排斥和暗算。中原大战失败后，阎锡山外逃大连期间，国民党山西省党部趁机在省内通辑、迫害阎的骨干，以知识界为主的各方人士也曾成立起“山西善后协进会”。揭发阎的罪行，提出将权力还给民众的方案，并派出代表到北平、南京等地活动，寻求国民党当局的支持，吁请各地声援，一时声势甚大。但因阎的亲信牢牢把持着权力，不为所动，不久之后就烟消云散。对比一下，冯玉祥和阎锡山都是在中原大战失败后下野的，而此后俩人的处境和结局却有天壤之别。关键就在于，阎锡山有一个牢固的根据地，有一支别人无法轻易动摇的干部队伍。从这一点来说，他的苦心经营是成功的。
四、拥蒋联共 守土抗战 三颗鸡蛋上跳舞
为保住山西这块赖以生存的根据地，在三颗鸡蛋上跳舞，堪称是谋略和诡诈之最；联共抗日，山西成为全国抗战的前线和中心；追随蒋介石反共，不得人心而又大蚀其本；勾结日伪，背弃民族大义，离汉奸不过半步之差；明里在三颗鸡蛋上跳舞，暗里只有一个心计：为维持在山西的利益和统治，坚决反共。
重整旗鼓 三面受制入困境
阎锡山被迫寓居大连期间，山西实际上也仍在他的控制之下。他依靠以五台人为核心的一派骨干，继续寻找机会，对蒋介石发难。中原大战后，蒋介石把华北的军政大权都交给了张学良，也因此又引起驻在华北一带的杂牌军的不安。其中，曾参加倒蒋作战的石友三、为蒋作战不力的韩复榘与张学良历史上关系紧张，又因为曾是冯玉祥的老部下，被利用过之后，受到蒋介石的冷淡和歧视。这时就与冯部藕断丝连，与张学良暗中对立。阎锡山观察到这种形势，就派人与石、韩联络，并与日本人暗中来往，各方出于共同的利益，顺利达成协议，约定再次联合反蒋。他们的计划是：驻在河南的石友三沿平汉线北上，驻在山东的韩复榘沿京浦线出兵，晋绥军和驻在山西的冯军宋哲元等部出山西配合，日军则在东北抄张学良的后路。几路夹攻，使张学良难以应对，将蒋介石的势力逼出华北。
1931年夏，石友三率先向张学良发动进攻，其余各路也都蠢蠢欲动。蒋介石施展惯技，以诱人的高价收买宋哲元。答应每月向宋提供军费二百多万，鼓动他在晋军外出时，趁虚占有山西，并允诺今后由他执掌山西军政大权。这个消息，被山西方面截获，当然不肯再出兵了。于是，韩复榘方面也止步不前。又一次反蒋联盟，就这样雷声大雨点小地收了场。
蒋介石对阎锡山的阴谋活动不无气愤，就抓住时机进一步离间和收买阎的部下。时任山西省主席的商震，虽然跟随阎锡山已有多年，但一直是处在阎的亲信的监视和牵制之下，感到难有作为且前途难测，因此在阎锡山离开山西期间，就渐渐向蒋介石靠拢。蒋介石将他拉进了国民党中央执行委员会，为解决中原大战之后山西面临的财政困难，还以中央政府名义资助贷款2000万，商震自然心领神会。这时，蒋介石就命令商震出兵娘子关，转而攻打石友三，切断石的后路。商震听从命令，率两个旅打出山西，从此就正式脱离了阎锡山。
商震的反叛，在山西内部引起一阵慌乱，也使阎锡山感到十分沮丧。而中原大战失败后，退居到山西的“友军”有十多万人，不仅是压在山西人民身上的极大负担，而且常常发生骚乱，更成为阎锡山的一块心病。远水难救近火，在大连的遥控看来是不灵了，于是，他开始寻找及早返回山西的途径。
这时，阎锡山就想到了日本人。阎锡山与日本人的关系，可谓是源远流长。早在日本留学期间，阎就与一些日本人有了交情。他所熟悉的冈村宁茨、板垣征四郎、土肥原等都已经是侵华日军中的大头目。在他独占山西期间，他与日本的联系也从未间断。山西扩军时，通过在京津的日本特务机关从日本购买过大批军火；20年代初，日本在天津的驻军司令铃木高桥和特务头子土肥原还先后到太原与阎锡山当面会晤过，宣扬所谓“日阎亲善友好关系”。阎能顺利到达大连并在此安心寓居，也就是依仗着日本人的庇护。阎锡山频频与日本人来往，并与土肥原密商后，达成了三项协议：一是阎要赞助日本关东军全部占领中国东北；二是日本关东军支持阎将来占据华北，担任华北首领；三是日本关东军将积极筹备，设法护送阎顺利返回山西。日本人将阎锡山作为分裂和削弱蒋介石力量的一大工具，阎锡山则为着实现自己的权欲不惜与觊觎中国的帝国主义势力作交易。当然，当时大大小小的军阀，也都无不做着这样的交易。在他们的算盘上，与个人的权力相比，国家和民族都没有什么份量。阎锡山与日本人密商后，心情颇为愉快，带随从人员到一家名为《观月楼》的日本饭馆吃日式 “牛锅”，以示庆祝。几个人三杯下肚，诗兴大发，你一句我一句凑出了一首联句：
观月楼上观潮来 （阎锡山）
龙虎风云气壮哉 （宁超武）
上下四维通彻底 （赵戴文）
一轮明月照天开 （孙奂仑）
此时的心情，已经将刚到大连时的郁闷和愁怅一扫而空。
正当阎锡山想要尽快返回山西的时候，国民党内部的又一次大分裂给他提供了空隙。大权在手的蒋介石迫不及待地要登上总统的宝座，制订颁布了“训政时期约法”，并扣押了激烈反对他的胡汉民。国民党内的反蒋派来了一次大联合，在广州成立由汪精卫任主席的国民政府，与南京政府对抗；眼见有机可趁，东北的张学良也回头联络冯、阎旧部，打出北方六省“大联合”的旗号，向蒋介石闹起了独立。面对这种形势，蒋介石不得不用主要精力对付汪精卫，从而也就放松了对阎锡山的监视和戒备。 阎锡山一直在做回太原的准备，看时机已到，就急忙行动。1931年8月5日，阎锡山还是打扮成一个商人模样，身穿绸衫，戴着墨镜，把头上的草帽压低，神神秘秘地带着几个亲信，登上了日本人特意准备的一架小飞机。虽然蒋介石与张学良别有所图，一时顾不上管他，但他知道，此行仍然风险重重。一旦被发现，怕是凶多吉少；况且，日本人也提有苛刻的条件，要求他返回山西后立即发动反蒋战争。只是小飞机飞这一趟，日本人就索要四万余美金的包机费用，着实让善于算计的他感到心疼。小飞机只能坐几个人，阎的妻儿都无法同行。阎锡山临行，颇有“风萧萧兮易水寒”的悲壮气慨，对暂时留在大连的亲信赵戴文说：万一有不幸，妻儿便托你照应了。咱们打出来的晋绥天下，决不能让人抢走。飞机到达大同，早有部下来接应。阎当晚在大同住下，部下担心地问：蒋先生和张汉卿是不是同意总司令回来？一路顺利，成功返回，阎不再紧张了，轻描淡写地说：张汉卿自顾不暇，哪顾上管咱们的事。咱是不怕他们的，要怕他们也不回来。
次日，阎锡山便回到了五台河边村的老家。回来后的第一件事，便是指使杨爱源、孙楚等组织起晋绥军事整理委员会，首先把军队抓到手里。阎锡山认为，只有军队是根本。有军队在手，政治可随军队实力而转移，经济可以靠军队实力而夺取。军事整理委员会建立之后，由他亲派出的委员每月到各部队去考察、点名、校阅，以在野之身，把晋绥军的实权牢牢操在了手中。回到河边，尽管他严格保密，消息还是传开了，国民党山西党部的头目向南京方面作了报告。蒋介石得悉后，责成张学良和山西省主席徐永昌等限期令阎离晋，但阎回到了老窝，张学良也无能为力，而且张学良有自己的打算，也只是装模作样而已。徐永昌也软磨硬拖，千方百计予以庇护。阎锡山赶忙给蒋写信，表示悔过，声称“锡山治全国而不足，治两省而有余”，暗示他决不会放弃晋绥。在河边居住的几个月里，阎锡山心情比在大连踏实多了。表面上，他闲居乡下，每日晨起散步，逍遥自在，并以相当的精力和时间，亲自编写《阎氏家族自治章程》，实际上，他时时刻刻都在注视着形势的变化，通过对亲信的指使和操纵，把失去的权力收拢回来。
不久，震惊中外的“九一八”事变爆发。日本帝国主义发动了侵华战争，东北大地的炮声，惊醒了中国人民，全国掀起了抗日救亡的高潮。此时，太原发生了“一二、一八”惨案。太原的热血青年，成立了山西省学生抗日救国联合会，组织学生举行抗日救亡示威游行。在面见当时的教育厅长，国民党山西省党部常委苗培成时，苗借口南京政府有电令，训斥学生的游行是与政府对抗。他的话激怒了学生们，在一派“打倒苗培成”的口号声中，苗被学生们轰走了。次日，学联组织了大批学生，再到省政府请愿，发生了冲击会议室并砸坏省教育厅和苗培成公馆的暴力冲突。12月18日，学生再次大集中，到国民党山西省党部门前示威请愿。省党部戒备森严，将进入院内的学生代表团团围住，棍棒欧打，激怒请愿的广大学生，学生高喊口号，奋力冲撞大门。此时，集结在党部的武装纠察开了枪。请愿学生被打死一人，伤十数人。阎锡山听到这个消息，立即对杨爱源说：“省党部这个祸根不除，山西不得安宁。不能让他们再存在下去了！”杨爱源迅速行动，当天下午就派兵缴了省党部纠察队的枪械，并将党部要员扣押，查封党部及其报馆，还明令全省各县一律停止了国民党党部的活动。阎锡山利用学生运动的力量，排除了蒋介石伸进山西的势力，为自己的复出扫清了道路。
全国的形势，也发生着巨大的变化。迫于各界抗日呼声的压力，因争权夺利而闹得纷纷扬扬的国民党两派，在“精诚团结、共同御侮”的旗号下再次走向合流。蒋介石担任了军事委员会委员长，汪精卫出任南京政府行政院长。汪精卫的暂时得势，给当年的反蒋盟友阎锡山的命运也带来一些转机。汪精卫向蒋介石提议，山西的事还得让阎锡山管。日本人加紧侵华，山西的地位很重要。如果山西乱了，北平势孤力单，日本人就会趁机占领华北。他还劝说蒋介石对阎锡山要宽宏大量，为国事不记个人恩怨，以示自己的君子风度，等等。这些话，使对阎锡山怀恨在心的蒋介石不得不点头称是。
1931年9月，国民党中央政治会议决定取消对阎锡山的通辑令，恢复其自由。阎锡山得到消息，自是高兴，觉得重返山西政坛，执掌大权的时日不远了。此种机会，哪能放松，他特意派亲信赵丕廉常驻南京，极力拉拢讨好汪精卫；同时又派徐永昌到北京，通过各种关系，走宋美龄的门路，在蒋介石面前说好话。蒋介石虽然对阎锡山极不放心，但迫于形势的压力，又碍于各方说客的情面，只好表示对阎“捐弃前嫌，团结御侮”。1932年1月，蒋接受汪精卫的提议，决定委任阎锡山为太原绥靖公署主任。2月29日，阎锡山由河边村回到太原就任，蒋介石还特派何应钦前往祝贺。势不两立的蒋、阎重新合流，阎锡山实现了自己的心愿，再度登上晋绥统治者的宝座。
阎锡山要解决的第一个大问题，就是整顿军队。一是如何将中原大战后进入和驻扎在山西的10多万“客军”请出去。二是裁减晋绥军，推行他筹划已久的“绥西屯垦”计划。“客军”分布在晋中、晋南和晋东南等地，所需一切，都向所驻地勒索摊派，给百姓带来极大的负担。同时，这些军队普遍军纪不严，欺压百姓，奸淫掳掠无所不为。更重要的是，他们的存在，时时给阎的独立王国形成威胁。但这些“友军”，有过共同反蒋的交情，也是阎自己请来的，难以采取逼迫手段。阎认真动了一番脑筋，决定还是利用他们在山西得不到实权，急于另谋出路的心理，采取分别对待，劝导离境的策略。经过多方活动，游说孔祥熙，“都是山西人，应该关心山西地方。”由孔祥熙出面通融，将西北军宋哲元部调往平津，其余部队也陆续开走。冯玉祥部的手枪团曾留下三百余人不肯离晋，阎锡山就派兵包围缴械，对昔日战场上的盟友，毫不手软。到1933年，驻在山西的“客军”陆续离开，算是恢复了阎的一统天下。
至于裁减晋绥军，他的目的有三：一是山西经济遭受严重破坏，军费开支浩大，难以支撑。二是为了向蒋介石表示从此埋头建设、不再打仗。三是想要根除军队中军官吃空饷的弊病。对晋绥军裁撤下来的官兵，阎锡山以“造产救国”、“富兵于农”、“屯垦实边”、“开发西北”等口号为旗帜，组织起来实行了“绥西屯垦”计划。绥西，即黄河河套平原一带。万里黄河，唯富一套，这里地势平坦，土地肥沃，又有黄河水灌溉之便，自古就有“塞上江南”的美称。最早提出在绥西开垦土地的是傅作义。在他任绥远省主席期间，已经组织了若干支屯垦队开进河套，并也取得了可观的成果。阎锡山借鉴他的做法，更大规模地实施屯垦计划。先后建立了四个垦区，所种土地达到1200多顷。应当说，这项计划取得了很大成功。农垦收入对发展山西经济做出了不小的贡献。但后来就渐渐起了变化。阎锡山为了攫取更大的经济利益，同意和指使负责屯垦的王靖国在垦区大量种植鸦片。这些鸦片，经过“山西禁烟考核处”的加工，制成所谓“官烟药饼”，又称“戒烟药饼”，并通过各县的“禁烟委员”进行推销，获得暴利。公然以官方的名义，打着禁烟的旗号，大肆贩卖毒品，这也算是军阀统治下的中国一大奇观。阎锡山为利益驱使，什么事情都干得出来。 经历了中原大战失败的折腾，山西的经济状况落入低谷，省财政陷入困境。如1931年，省财政的总收入不到1100万，而开支总额却达到4100多万，造成3000多万的赤字，加剧了经济的恶化。
面临这样的烂摊子，阎锡山从整顿金融入手，在省银行之外，又成立垦业、铁路、盐业三家银行，增加货币发行。因为省银行在中原大战期间滥发货币，信用丧失殆尽，阎锡山用这样的方法，分散发行减少风险，同时对百姓宣传说，垦业银行有绥西屯垦收益作担保，铁路银行有铁路作担保，盐业银行有盐产作担保，以取得信用。为推行他的物产证券学说，银行发行货币，废除从前的现金准备办法，改为实物准备。四银行之上，又设立“山西省省铁垦盐四银行号实物十足准备库”。由实物准备库出面，用四银行发行的货币收买物资。收多少物，发多少券，使物与券永远处于平衡状态。在理论上，阎锡山将他的物产证券学说吹得天花乱坠，并将其作为治疗社会弊病的良方。在实际操作中，人们看到的却是另一番景象。所谓的“实物十足准备库”并不是先有物资准备再让银行发行等量等值的券，而是在两手空空的情况下，先发行了纸币，再用以收购物资。这就等于是凭空出券，以券聚物。券出得多少，并不以物的准备为基础，而是以阎锡山的需要为转移。阎锡山曾得意洋洋地说，这就是“口吹大洋”之法。善于谋算的投机商出身的阎锡山，确实在这方面有他独到的才能。他常常挂在嘴边的口头语是：“锄尖子底下有水，算盘珠子底下有钱。”北方多旱，农民在暑天里将田禾多锄几遍，为的是截断土壤中的微细水道，以减少水份的蒸发，减少蒸发就等于增加了水份，即所谓“锄尖子底下有水”。这是几乎人人可做的事。而算盘珠子底下有钱，却并非什么人都可办到。像这样的“妙法”，同时代或不同时代的其它军阀，能想得出来吗？阎锡山在大连住了十来个月时间，花费达300万之多。但他却并没有赔钱，反而大赚了一笔。去大连时，他从省政府提走一笔现款，一到大连，凭着商人灵敏的感觉，他就以低价买进一批“老头票”（日元）。在他离开大连之时，外币汇率波动，老头票忽然大涨，阎将老头票卖出去，居然连本带利翻了一番。阎锡山对捞钱情有独钟，算计精明而财欲甚旺，有时也闹出笑话。早在他雄踞平津期间，其北平行营主任梁巨川密报：据清室一太监说，北平西四牌楼羊肉胡同七号是满清某王府的宅第，地下埋着大量金银。阎得知后，立即决定不惜代价将此住宅买到手，并派一排卫兵严加守护。不久后，开始动手挖掘。挖了一个多月时间，七号宅的地下全部挖遍，却一无所获。报告给阎锡山后，阎并不死心，又决定将旁边的六号、八号买下，继续挖掘寻宝。结果，挖了半年之久，始终未见一钱金银。此事成为一大笑谈。连负责买房、挖宝的山西省银行经理都感叹说：这事做得太可笑，银子没挖到，反倒花了十来万。
在埋头经营，谋取发展的同时，阎锡山也明白，不注意改善与蒋介石的关系，还等于在行进的路上设置障碍。因此，他处处对蒋表现出俯首听命的姿态，并利用一切机会讨好巴结。1934年11月，蒋介石到北平。此时的阎锡山成为日本人和西南势力争取的重要人物。蒋介石对此十分清楚。他认为阎锡山是稳定华北和西南，解除他入川指挥作战后顾之忧的重要人物。正是由于这些因素，蒋介石才屈尊亲自来太原与阎锡山会晤，做一些拉拢工作，以改善两人的关系。阎锡山得知消息后，虽然对蒋的用心洞若观火，但也不肯放过这个在蒋面前表现忠诚的机会，立即安排热烈、隆重的迎接。一时间，太原全城大动员，清扫街道，悬挂旗帜，张贴标语，组织夹道欢迎的队伍，洋溢出一派热烈气氛。蒋介石在宋美龄等的陪同下，到达太原，目睹如此隆重热烈的场面，不由得心中高兴。为表示进一步的亲近，还执意要到河边村拜望阎父。阎锡山受宠若惊，推辞不及，只好又在河边村举行一场盛大的欢迎仪式。村边的汽车站特意搭建了一座彩棚，棚内放置精致的桌椅、茶具。从彩棚到阎府，卫队三步一岗，五步一哨。村中特意组织起的百姓、学生，人人手执写有欢迎标语的小彩旗，两旁列队，呼喊口号。虽在乡下，其热烈程度并不亚于省城。蒋介石在鼓乐声中向群众频频挥手，此时，他感受到的是一个可靠部属表现出的忠诚和崇敬。蒋介石在阎府向阎书堂深深鞠了三个躬，吓得阎书堂连声说“不敢当，不敢当”。在来住河边的路上，蒋介石与阎锡山进行了长时间的交谈。据阎锡山在日记中记载，俩人主要谈了两个问题：一是国事如何处理，以济危难，二是山西建设经验如何推行到全国。阎锡山的日记中写道：“谈意：后者简单，定方略，索计划，严督促，实考核，当赏罚，事即举矣。前者，内忧外患，时不我许，无未雨绸缪，难常法以善后。余力主以非常法度非常事，抛弃武力，发展民力，减东邻忌，免日俄前后摧残。介公问非常法。余答，废金银制改行物产证券制，废劳资合分制，改行按劳分配制。介公遂约定派专员来详讨。”当然，这是阎锡山自己的说法，不能排除有着力美化的成份。不过从中也可以看出，阎锡山大谈物产证券、按劳分配那一套，除了在蒋的面前炫耀自己之外，也还是不忘用埋头建设的面纱遮挡自己行将崛起的雄心壮志。而从另一个角度来说，面对日本侵略者咄咄逼人的态势，他企图采取“减东邻忌”的办法予以回避，也暴露出在他的内心深处，并没有坚决抗日的准备。
阎锡山搞了“十年建设计划”，在发展山西经济，不断增强实力的道路上，取得了相当的成功。按照阎的想法，实力雄厚了，就有了与蒋介石争天下的资本。对蒋介石的表面忠诚并没有也不可能削弱取而代之的欲望，他念念不忘的还是扩大地盘，发展势力，攫取全国政权。
然而，历史已经不再给他这样的机会。因为在中国的大地上，能够左右大势的，除了原先那些大大小小的军阀之外，又增加了两股更强的势力：一是日本侵略者。他们的目标是要灭亡中国，气势汹汹地对任何不肯臣服的力量挥舞屠刀，不可一世，而在得到东北之后，首当其冲的便是华北，日军进攻，山西难逃一劫；二是中国共产党领导下的红军。经过万里长征，红军到达陕北并高举抗日旗帜，受到广大民众的衷心拥护和支持，其力量迅猛发展。在它的面前，任何势力都相形见绌。而陕北的红军要开赴前线，建立与日军对峙的根据地，进军路上，首当其冲的也是山西；面对这两股强大力量的压力，阎锡山还需要时时小心和防备背后暗算他的蒋介石。虽然在他表示臣服之后，蒋介石曾以谅解和亲近的姿态，以共商国事的名义，偕夫人乘专机到过太原，还专门跑到河边村看望了病中的老太爷，但分布在陕西、河北一带的蒋的嫡系部队，随时可以向山西进军。
这样，历史把阎锡山推进了三股势力的夹缝，使他陷进一个微妙的困境之中。以他自己的力量，单独对付哪一股都不可能取胜，在三股力量面前，他是弱者；但是，这三股力量又都是水火不相容的敌对力量，哪两股都不可能联合起来共同对付他，使得他有空隙可钻，有机会可用，有回旋余地。
阎锡山采用了“在三颗鸡蛋上跳舞”的策略。
正如他自己所说，“在三颗鸡蛋上跳舞，踩破哪一颗都不行”。从保全自己的目标出发，运用“中的哲学”，他走出了一条独特的“联共拥蒋抗日”的路线。应当说，顺应历史潮流，化解各方压力，努力保全自己，这是显现了他的政治智慧的选择。
联共抗日 山西烽火震全国
1935年10月，中央红军长征到达陕北。中共中央为了民族利益，声明停止内战，一致对外，要求阎锡山允许红军通过山西，开赴华北抗日前线。阎锡山认定这是红军趁机侵占山西的借口，因此坚决拒绝。次年初，中共决定组织中国人民抗日先锋队，渡过黄河，计划在山西建立抗日根据地，实现与日军直接作战的主张。东渡黄河的红军，受到晋绥军的阻击，首战即全歼阎军一个团，俘获一个炮兵连。阎锡山受到震动，亲自主持召开会议，将七个师14个旅的兵力集中编为4个纵队，与红军开战。经过一个多月的战斗，武器装备处于劣势的红军，由于得到了广大人民群众的拥护和支持，将晋绥军打得连连败退，将阎锡山的领地占领了几乎三分之一。无奈之下，阎锡山只好冒“引狼入室”的危险，请蒋介石派兵支援。蒋介石正好得着将刀子插入山西的机会，迅速抽调兵马，组织起10万大军，沿正太、同蒲路星夜兼程，插进山西腹心地区，并在山西成立陕甘晋绥四省“剿匪总指挥部”，任命其亲信陈诚为总指挥。以剿共为名，趁机在山西立住脚跟，扩大势力，削弱阎锡山，为以后的彻底解决打下基础。前门防虎，而后门又进了狼，阎锡山不免陷入左右为难的境地。
这时，从抗日的大局出发，红军为避免内战以保存国力，不久后就主动回撤，返回陕北，并发出回师通电，表明：“此次行动，向全国人民表示诚意，愿在一个月内与所有一切进攻抗日红军的武装部队，实行停战议和，以达到共同抗日之目的。”而蒋介石却不肯罢休，命阎锡山组织十几个团的兵力，由受蒋介石重视和收买的将领李生达为总指挥，派汤恩伯作监护，入陕追击红军。这明显是将晋绥军推向与红军作战的前线，借“剿共”之机将其削弱以致消灭的阴谋。阎锡山还没有从红军的打击中回过神来，立即就感受到了蒋介石杀气腾腾的锋芒。他当然不能让蒋的算盘如意拨动，于是，一面摆出服从命令的姿态，派李生达前往离石前线，一面就收买了李的卫士，在即将渡河的当日凌晨把李生达刺杀在军中。阎锡山扮出悲痛万分的模样厚葬李生达，同时就以大将遇刺，军心不稳为名，向蒋介石请求延期入陕。
在这次事件中不明不白被刺身亡的李生达，是晋绥军一名能征善战的高级将领。1926年奉军攻入山西时，李以团长驻守大同，率部英勇作战，坚强反击，使奉军不能南进。半年之间，由团长而旅长而师长，连升三级，在晋绥军中显赫一时。由此引起蒋介石的注意，1934年夏被调到庐山参加军官训练团，在学习期间，蒋亲自接见，临走时还送给他10万元，声称让他用以“照顾和改善生活”。1934年，蒋介石调晋绥军去江西“剿共”，李生达请缨前往，在南昌，李受到蒋的多方关照和重视。从江西返回后，李生达的部队按中央军的规范，一提到“蒋委员长”或“蒋总裁”，全体官兵则立正敬礼；而提到阎锡山却毫无表示，这使阎锡山极为不满。到1935年11月，国民党召开第五次全国代表大会时，山西的将领代表中又只有李生达被选为中央委员。李生达一步步受到蒋介石的宠爱，也就一步步被阎锡山所嫉恨。阎锡山生平最忌的就是部下不经过他的推荐直接与“中央”发生关系。他与蒋之间存在着相互猜忌、勾心斗角，不时发展到你死我活的矛盾，怎么能允许部下背着自己同蒋拉拉扯扯呢？因而早已将李生达划入另册。李生达不明不白地成为蒋、阎尖锐矛盾的牺牲品。阎锡山也从此事得到教训，看出蒋介石在寻找一切机会将势力开进山西，他忧心忡忡地对部下说：“蒙不亡于共，亦要亡于蒋。”因此，他不得不面对日本的侵略，同时又在红军的进攻和蒋介石的阴谋之间进行比较，寻求对自己更有利的出路。自己无力消灭这三方中的任何一方，更不能同时对付这三个强大的敌人。审时度势，他不能不看到，在民族危机空前严重的形势下，如果完全站到日本人一边，等于是在国人面前自寻绝路，会遭到千百万人的唾弃。 要守住山西这块根据地，只能在共产党、蒋介石和日本人这三者之间周旋。这是形势提供的唯一出路，又是他善于运作的左右逢源策略的极好用武之地。
这期间，阎锡山在太原两次会晤“陕北剿共副总司令”张学良，张学良的经历和感慨，对他也有不小的刺激。张学良听从蒋介石消极抵抗的命令，将东北三省拱手让给日军，就遭到了全国人民的指斥；之后又服从蒋介石的安排，丢掉了华北到陕西前线“剿共”。与红军作战的过程中，东北军屡屡败阵。受亡国之痛煎熬的东北军将士，渐渐对共产党的“停止内战，一致对外”，建立抗日联合战线的主张产生了共鸣。张学良在东北军将士的推动下，也接受了共产党的主张，私下里与红军达成西北抗日联盟的协议。为了争取支持，张学良找到了阎锡山头上。阎表示可以试试，并答应在劝蒋抗日的问题上可同张配合行事。与此同时，中国共产党中央也给阎锡山发来了表示愿意与其联合抗日的信函。毛泽东托晋绥军被俘的一名团长带给阎锡山等人一封信，信中说：“敝军西渡，表示停止内战，促使贵部及蒋氏觉悟，达到共同抗日之目的。……救国大计，非一手一足之烈所能济事。敝军抗日被阻，然此志如昨，千回百折，非达目的不止，亦料先生等终有觉悟的一日。”信中并表示，对东征时俘虏的晋绥军官兵，红军是“一律优待，同属国人，胜之不武，敝方绝无骄矜之心。”（《毛泽东书信选集》第34页）共产党表现的以国为重，不念旧恶，同仇敌忾，诚恳相待的气度，不能不对阎锡山们有很大触动。
在这样的情况下，阎锡山表示出了愿与中国共产党谈判的意向，并约请中共派代表去太原。对于中共提出的国共重新合作组成抗日民族统一战线的主张，阎锡山也表示赞同，认为“中国今日第一个问题就是何以图存的问题”。说白了，当然首先是他在山西图存的问题。多方权衡，阎锡山决定联共抗日。因为联合共产党，不仅可以在民族矛盾尖锐，抗日激情高昂的形势下提高他自己的威信，增强晋绥的力量，还能利用共产党的力量，阻止日军进入山西，并对蒋介石插在山西的中央军形成威胁，减轻自己的压力。走一步棋而全局皆活，阎锡山认为这是上上策。
这时，侵华日军和蒙奸对绥远的进犯，也使阎锡山看到亡国、亡省的危险就在眼前。1936年10月，日军指使蒙奸德王等人侵犯绥远。日本人说：九一八事变时，东北军一打就跑。绥远军更是不中用，可能一吓唬就跑，很容易就能把绥远拿下，你们就做好接收的准备吧。伪蒙军迅速占领了大庙子和绥北战略要地百灵庙。绥远省主席兼35军军长傅作义面对日伪的嚣张气焰，毫不畏惧，决心反击。他亲赴前线视察，提出“誓保国土，以尽责任”、“决心牺牲，以雪国耻”等鼓舞士气的口号，表示自己决不退缩的决心。阎锡山也指示要“抱着弱国的态度，守土抗战，踢破经常范围，加紧自强的方针”，同意进行抵抗，但不要主动出击，以免激怒日军，将战火烧到山西。但蒋介石却仍在强调“攘外必先安内”的政策，要求：对日本的侵略，以所谓不卑不亢的态度相机应付；对德王须以忍让为重，必要时给点地方也可以。阎锡山对蒋继续对日本采取让步政策表示不满，他在太原发表讲话说：“至国事前途，中央仍抱有限度的委曲求全之救国宗旨，努力折冲。”指责蒋介石用淡漠的态度对待抗日，还没有将抗日当作大事。11月上旬，伪蒙军大举进犯，晋绥军严阵以待，坚决反击，双方展开激战。傅作义将军巧用援兵，将来犯的伪匪军5000余人一举歼灭。晋绥军的胜利居然把蒋介石吓了一跳，11月17日，蒋介石亲赴太原，要阎锡山、傅作义迅速停火，“以免共匪借题发挥，影响中央誓死剿共政策”。阎锡山对蒋的做法大为不满，坚定地表示：“本人对绥事感想，认为纯是责任问题，守土是军人的责任，晋省军民人等，对剿匪御侮极具决心”。同时，立即命令晋绥军独立第七旅开赴绥远增援。为表示自己对绥远抗战的支持，阎锡山将其父所遗的87万巨款，以母亲的名义捐给前线。他的这一番举动，对部下高官及普通百姓都产生了巨大的影响，进一步激发了民众的抗日热情和决心。许多高级干部纷纷捐款，太原的学校、商界，也都积极募捐，支援前线。影响扩展到全国，全国各地都掀起了大规模的援绥运动。国民政府派当时的行政院长汪精卫率团前往绥远慰问，各大中城市的各界人士，海外侨胞，纷纷参加“以一日所得援绥”、“万件皮衣”等募捐活动，各地的慰问团、医疗队，源源不断开赴绥远。
当时慰问绥远伤员的，有各界人士，其中有大批共产党员。上海电影演员陈波儿率一个抗日慰问团前来慰问，却引起了阎锡山集团内部分上层人士的反对，他们说陈波儿是共产党员，不应该接受这样的慰问。阎锡山听后大不以为然，在一次干部会上批评这种排斥共产党员的论调时说：“天下第一等的好事不做，第一等的好人就离开你。第二等的好事不做，第二等的好人也会离开你。第三等的好事也不做，第三等的好人也离开你。现在抗日就是第一等的好事。人家一讲抗日，就说是共产党，这样就把第一等的好人推到共产党方面去了。有人到绥东慰问一下伤员，你就当人家是共产党，也会使这些离开你，这是把长四条腿的动物都当成老虎了。”表现出他很想拉拢、争取有影响的人物为己所用，并高高树起自己的抗日形象来。
正是出于这种心情，为了表示对抗日的积极态度，为了拉拢和团结抗日群众，阎锡山筹划建立一个群众性的抗战团体，用以发动和组织民众，并将此事责成梁化之负责。梁化之经过精心推敲，认为“抗日救国”是共产党的口号，这样提，对日本人刺激太大；而阎锡山主张“守土抗战”、“牺牲救国”，因此将这一团体的名称定为“牺牲救国同盟会”。同盟会提出了“不分党派、不分男女、不分职业，只要不愿做亡国奴的人们，一齐动员起来，积极参加一切救亡运动”等八条纲领。消息传开后，阎阵营内的不少高干表示怀疑和反对。面对这些意见，阎锡山坚持“冬天穿皮袄，夏天穿汗衫，需要什么就来什么。现在是需要牺牲救国的时候了。”一方面说明他看清了当时的形势，抗战的路是非走不可；但另一方面，也显现出他的思想深处，还是实用主义当家。经过一段时间的筹备，1936年9月18日，“九一八”国耻五周年的纪念日，山西牺牲救国同盟会正式宣告成立。阎锡山亲任会长，由他的表侄梁化之任总干事。牺盟会的成立，是阎锡山由反共转向联共，接受中共提出的建立抗日民族统一战线的标志。此后，对山西境内的共产党人的追捕和迫害暂时停止了，共产党员能够公开从事抗战救亡的宣传鼓动工作。他看出了共产党主张抗日救国，在民众中影响很大，就想利用共产党来动员和组织民众，于是以“晋人治晋，共策保晋大业”为旗号，从北平请回了山西籍的共产党人薄一波，主持牺盟会的日常工作。中共中央北方局也先后派杨献珍等人参加牺盟会，并组成由薄一波任书记的山西省公开工作委员会，以主要精力做阎锡山集团上层人物的统战工作，开展全省范围内的抗日救亡运动。随着工作的开展，共产党人逐渐在各部门担任了重要职务，不久之后，山西牺盟会就变成了披着阎锡山的合法外衣，在中共领导下的一个抗日群众组织。山西境内的抗日救亡活动得以轰轰烈烈开展起来。
在中共抗战决心的影响下，在民众抗战热情的推动下，阎锡山此时确实对抗战有了比较明确的态度。1936年10月31日是蒋介石的50岁寿辰，阎锡山与张学良联合起来，利用祝寿之机，向蒋介石进谏，要求蒋介石停止内战，联共抗日。他们面见蒋介石，陈述了自己的主张。蒋介石仍旧坚持其“攘外必先安内”的政策，并说共产党已成强弩之末，只要大家努力，短期内不难彻底消灭，永绝后患。蒋介石对二人还大声训斥,阎、张讨了个无趣，只好沮丧地退出。这一次进言遭斥，成为张学良采取更激烈行动的前奏；而阎锡山也并无后退，其表现是采取了更宽松的政策，使牺盟会的抗战宣传、组织活动得以更蓬勃地开展起来。
牺盟会先后开办军政训练班、民训干部团、村政协助员训练班、牺盟特派员训练班、国民兵军士训练班团、国民兵军官教导团等，对积极要求抗日的各方面人士进行大规模培训活动，不到一年时间里，培训了近万名骨干，为山西坚持抗战奠定了坚实的干部和人才基础。牺盟会利用公开合法的身份，广泛发动青年学生和工农群众，甚至连阎锡山的太原兵工厂的工人都动员了起来，其中有不少人参加了抗日武装，成为坚强的抗日战士。牺盟会还大量编印宣传抗日的期刊、书籍、传单，嘹亮的《义勇军进行曲》等革命歌曲响彻太原上空。牺盟会的卓有成效的活动，在全国产生了极大影响。一时间，山西成为全国抗日的前哨，全国各地的进步青年和各界人士，都纷纷涌来山西参加抗日活动，接受培训教育。国民党爱国将领，曾因痛恨蒋介石不抵抗而在南京中山陵剖腹自杀过的续范亭将军，此时对阎锡山治下的山西，作过热情洋溢的评价：“山西以一隅之地，进行了守土抗战，收罗了进步青年，成立牺牲救国同盟会，表现了思想自由，允许开设《生活书店》。我看见山西有了光明，虽然仅仅点出了一支土蜡烛来，光明不大，但我却和许多爱国青年一样，象扑灯蛾似的，围着这一点儿光明，不肯他去了。”
正是在这种浓烈的抗战气氛的鼓舞和激励下，晋绥军的“绥远抗战”取得了大胜，对全国抗战起到了推动作用。
有全国人民的支援，有阎锡山的支持，还有共产党人的支持和激励。中共先后两次派代表团持毛泽东的亲笔信到绥远慰问，表示坚决做其后盾，鼓励傅作义勇敢抗战。傅作义决定奇袭百灵庙，给日伪军以更沉重的打击。在傅作义的指挥下，经过三天激战，11月24日，百灵庙战役胜利的消息传来，在全国引起一片欢呼。此役共消灭和俘虏日伪军2000余名，缴获各种炮13门，机枪20余挺，面粉2万袋等大批物资。这是中国军队首次在对日伪作战中取得的大胜。北平的〈大公报〉宣称：“百灵庙大捷是整个国家的一次凯旋。”绥远抗战的烽火，燃起了全国民众的抗日热浪；绥远抗战的炮声，也进一步激醒了在陕西“剿共”的东北军、西北军将士。一直背着不抵抗罪名的张学良受到极大的刺激，爱国热情化作不顾自身安危的决心，他于11月27日向蒋介石递交〈援绥请缨抗敌书〉，要求派东北军北上援绥抗日。但蒋介石仍顽固坚持必须集中全力消灭共产党，厉声指斥，拒绝他的要求。12月8日，张学良与杨虎成决定进行兵谏，迫蒋抗日。12月12日，他们发动了震惊中外的“西安事变”。张、杨在通电中申明兵谏的理由时称：“绥东战起，群情鼎沸，士气激昂。于此时机，我中枢领袖应如何激励军民，发动全国整个抗战……”。可以看出，是绥远抗战的胜利，激发了东北军、西北军的抗日热情；而蒋介石对绥远抗战的消极和压制，也成为激起事变的直接原因。一定意义上可以说，没有山西军民的绥远抗战，西安事变可能会延迟，可能不那么激烈，而抗日民族统一战线的形成和发展也可能会遭到更多的曲折。
西安事变发生后，张学良、杨虎城两将军向各地方实力派发出电报，希望他们能够通电响应，打破蒋介石坚持进行内战的局面，推动蒋介石走向抗战。张学良还专门派出代表飞赴太原，邀请阎锡山到西安共商救国大计。而这时，南京政府出现了主战与主和两派互不相让的局面，两派都希望取得地方实力派的支持。阎锡山在地方实力派中资格最老，实力最强，且山西又与陕西一河之隔，他的态度如何，就成为各方关注的目标。孔祥熙等人还提出一个方案：先把蒋介石移送至太原，再说其他。可见阎锡山在这一事件中所处的地位异常特殊。
得知西安事变的消息后，阎锡山是感到意外的，一时也拿不出主意。他连夜召开高级官员会议，反复商讨恰当的应对办法。此时，正值绥远抗战之际，阎锡山需要国民党中央政府给他以经济和军事上的支持。如果全国陷入混乱，不仅晋绥抗战的形势会立即逆转，而且很可能给他带来更大的危险。西安事变发生后，南京方面弓拔弩张，激烈的内战一触即发，如果大规模的内战爆发，只会给日本的侵略造成可乘之机。当时在国内，只有占据中央政府位置的蒋介石有能力来领导对日战争。考虑再三，阎锡山最后决定拥护南京政府，谴责张、杨，营救蒋介石。于是，阎锡山向张学良、杨虎城发出了有名的“五乎”电报：“来电均诵悉。环读再三，惊痛无以。弟有四个问题质诸兄等：第一，兄等将何以善其后乎？第二，兄等此举，增加抗战力量乎？减少抗战力量乎？第三，移内战为对外战争乎？抑移对外战争为内战乎？第四，兄等能保不演成国内之极端残杀乎？”阎锡山的这种表态，受到中共的重视和称赞。中共中央给阎锡山致信，说“陕变突起，事出非常。从电讯中知我公反对内战，有‘共维大局’之语，至理名言，曷胜钦佩”，又指出“目前宁军攻陕甚急，愿我公出以有力之调停手段”。当然，他的表态，也是给张、杨迎头泼下的一盆冷水，使他们对阎锡山大失所望。张学良回电驳斥了阎的责难，同时也还是希望山西能在这一事件中保持中立，不要动用军队将矛头指向东北军和西北军。因为事变发生，南京方面与西安方面中断联系，与两方都有联系的阎锡山的举止就具有举足轻重的影响。南京政府代行政院长孔祥熙在收到阎锡山的电报当天，就复电阎，“我公公忠体国，雄镇边陲，登高一呼，众流响应；尚祈主张正义，领导群伦，俾抒国难……汉卿于公夙致推仰，尚责以大义，动以私情，挽已倒之狂澜，拯救国家于万劫。”同时就赋予阎锡山以营救蒋介石的全权。张学良也特意派出代表到太原转告阎，说明蒋介石在西安绝对安全。
