与原来的生活相比，武备学堂是一个崭新的天下。阎锡山既然把它看作改变命运的重要一步，也就拿出全部的精神投入其中。如同做买卖一样，期望厚利，自然须舍得本钱。他学习用功，成绩很快就凸现出来。他的国文基础好，作文在一百二十名同学之中常常名列前茅。先生为山西浑源人，是清进士，对他十分器重，特意赠字曰“伯川”，取百川归海之意，足见期望甚高。从此，阎锡山有了字。学习之外，他出操、训练也十分认真，尊敬师长，与同学关系也很热乎，受到学堂的重视，很快就当上了学生班长。他从小生活在闭塞的山区，家庭教育中又没有关心天下大事这一说，头脑中装得多的也就是个钱字。因此，在武备学堂的学习生活，使他大开眼界。当时的热血青年，大都对康有为发动“公车上书”，戊戌六君子慷慨就义的行为十分崇敬。在这样的氛围中，他对康有为、梁启超等的维新思想产生了浓厚兴趣，私下阅读了不少鼓吹变法维新的著作，日渐倾向于改革社会现状，对中国应走什么样的路进行思考。
1904年，清政府为适应组建新式军队的需要，选派一批青年学生赴日留学。山西武备学堂分到20个名额，经过筛选，阎锡山和他的拜把子兄弟黄国梁、张瑜都被选中。于这年7月，东渡日本，先后进入东京振武学校和日本陆军士官学校学习。在日本一呆，就是五年。
这五年，是国内形势急剧动荡的五年，也是青年阎锡山迅速成长变化的五年。国内的革命如火如荼，革命派和保皇派斗争激烈，日本东京成为中国资产阶级民主革命派集聚的大本营。受到清政府迫害的革命党人——华兴会，光复会，光中会等组织的骨干，都汇聚到了日本。大批有志青年从四面八方汇集在那里，创办刊物，著书立说，宣传民主革命，相互串连，组织革命队伍。从中国的偏僻的黄土高原，到近代资本主义高度发展的日本，阎锡山感受到了强烈的震荡。许多新鲜的事情，让他惊奇也让他沉思。他通过观察对比，不断思考中国为何落后的原因。到达日本的当年，日俄在中国土地上进行战争，给中国百姓带来极大灾难。而腐败无能的清政府居然宣布“中立”，这丧权辱国的行为深深地刺激了留日学生。阎后来回忆说：“由所听到的话和所看到的书中，感到满清政府太腐败，太误国，丧权辱国，割地赔款，所谓宁将国家送给外人亦不给家奴……，而决心加入推翻满清政府的革命。”在革命热潮的鼓励和影响下，阎锡山积极参加了“留日同学会”，在活动中又结识了一批朋友。五台同乡，日后成为他的忠诚追随者的赵戴文，当时在东京弘文学院学习，就是在这时相识相交的。
资产阶级民主革命形势急速发展，要求将分散的革命团体联合起来，组成统一的革命政党。1905年7月，孙中山先生来到了东京，受到响应和支持革命的留学生与华侨的热烈欢迎。在群情激昂的大会上，孙中山先生发表慷慨激昂的演说，热情宣传反清、反封建的民主革命思想，严厉批驳康、梁为首的保皇派。阎锡山亲耳聆听了演讲，受到极大的教育和鼓舞。会后，他还特意登门向孙中山先生单独求教，与孙中山先生研讨“平均地权”的有关问题，受到孙中山先生的热情接待。孙中山先生的风度给阎锡山留下了深深的印象。在孙中山的倡议与黄兴、宋教仁等人的支持下，兴中会、华兴会、光复会等组织的代表及其他革命分子70余人，在东京召开联席会议，决定成立中国同盟会。以孙中山先生提出的“驱除鞑虏，恢复中华，建立民国，平均地权”为纲领，在8月20日召开的成立大会上，选举孙中山先生为总理。孙中山先生在同盟会机关报《民报》的发刊词中，进一步把同盟会的纲领概括为民族主义、民权主义、民生主义，通称“三民主义”。同盟会特别注意军事活动，留日的军校学员自然成为积极争取的对象。在同盟会的积极宣传和动员之下，许多留日学生踊跃加入。阎锡山怀着为反清革命奋斗的理想，不顾清廷官员禁止参加革命活动的告诫，也违背了父亲“凡事要安分守己”的嘱咐，毅然参加了同盟会，并且还介绍赵戴文等人加入。
加入同盟会后，阎锡山的思想更加激进，活动也非常积极热情，在同盟会人士中，颇有影响，受到领导层的注意和会员们的好评。不久，孙中山先生要求东京同盟会总会，选拔军事骨干，作为回国后各省军事运动的核心人物。黄兴、陈之骥、李书城等挑选二十八人组成“铁血丈夫团”，山西的阎锡山、温寿泉、乔煦、何澄等人都被选为成员。
1907年，受同盟会总部的派遣，借回国探亲之机，阎锡山与赵戴文一起回山西宣传革命。他们坐轮船到上海上岸时，得知海关检查非常严格。因为他们携带着炸弹，赵戴文就有点紧张。阎锡山让赵把炸弹都交给自己，并说：“如果被检查出来，蒙（五台方言，我）一人担之，你不可承认是与蒙同行之友。检查时，蒙站在前列，你站到后列。”赵一时不解，带着炸弹却要站在前列，不是更容易被发现？以为阎锡山搞什么名堂，就说：“还是我站前列，你站后列，如何？”阎锡山回答说：“站后列有畏惧检查之嫌，易被注视，仍以蒙站前列为宜。”海关检查的时候，果然对后列查得更严格。过后，赵戴文对阎锡山胆大心细很是佩服，阎说：“事到危难宜放胆，不可畏缩，畏缩易使人怀疑。”其临危不乱的胆略，由此可见一斑。这次与赵戴文回乡，阎锡山只在家中待了五、六天，便辞别亲人，到雁门关内外考察形势，宣传革命，显现出一个热血青年为理想奋斗的无畏和执着。
这一年，阎锡山入日本陆军士官学校第六期学习。在陆军学校，接受日本军国主义教育后，他很欣赏和崇拜日本人的尚武精神，赞同“弱肉强食”“强权公理”等一套理论。他认识到，军国主义就是“政府之政策则为军国政策，人民之教育则为军国教育，社会之组织则为军国社会”。军国主义与封建思想相结合，对他形成“中国自立之道，非厉行军国主义，不足以图强”的思想有十分重要的影响。同时，他也在日本学生中广交朋友，与土肥原贤二、樱井隆治、坂垣征四郎等时有往来，为日后与日本长期来往，三十多年后同侵华日军相勾结埋下了种子。
夺得标统 参加起义 当选大都督
阎锡山和战友们积极活动，把目标首先对准两个标统。一标标统齐允，是旗籍贵族出身，沾染了八旗纨绔子弟的恶习，吸食鸦片，贪脏枉法，且又懦弱无能。同盟会组织人采取各种手段揭露他的种种劣行，大造舆论，频频攻击。不久，齐允因此去职，阎锡山的把兄弟黄国梁便升任一标标统。阎锡山此时兼了陆军小学的日文教官，经过苦心培植，学生张培梅、周玳等日后都成了他手下的干将。与此同时，阎和他的战友们又将夺取二标标统作为重要目标，但二标标统夏学津，既有靠山，人也能干，一时不好入手。
恰在此时，山西发生了“交文禁烟惨案”，给革命党人一个极好的机会。
1909年（宣统元年），清廷曾下命令，要求六年之内在全国禁绝鸦片烟。本来是装模作样欺哄百姓的举动，却也有贪心者欲从中取利。山西巡抚丁宝铨就是这么个聪明过份的人。次年，他就给清廷打假报告，宣称：“山西全省已完全禁种，吸食者不久也可绝迹。”清廷也假戏真做，就派钦差到山西实地查勘。这一下，可让丁宝铨急如热锅蚂蚁。原来，山西交城、文水一带，百多年来相沿成习，种植鸦片已经成为当地不少百姓一种重要的谋生方式，此时的情况根本没有一点改变。丁宝铨本来是想以假话制造政绩，邀功请赏的，如在钦差面前露了馅，岂不是欺君之罪？于是，立即派一标标统夏学津带兵，星夜赶往交城、文水等地，勒令当地官员迅速将地里长着的鸦片烟苗一律铲除。地方官员不敢怠慢，层层下令，纠集人员赶快动手。种烟农民以此为生，铲除烟苗无疑于断了他们的生路，加上此时正值烟苗开花结实季节，他们怎舍得让人毁掉？男女老幼始则成群结队苦苦哀求，继则挥舞锄头聚众抗拒。夏学津大怒，令士兵开枪恐吓。一开枪，场面更加不可收拾，混乱中烟民被打死打伤数十人。丁宝铨见出了大乱子，再扯弥天大谎，竟向清廷报告，诬烟民抗拒铲烟为土匪聚众作乱。流血事件引起山西各界的极大愤怒，同盟会员们抓住时机，通过太原的《晋阳日报》，连续登载揭露丁宝铨、夏学津镇压民众，造成流血惨案的真相，并写了成百上千的黑名帖四处散发。太原城搞得满城风雨，北京的《国风日报》和上海的《申报》也予以转载。一时间，全国上下，舆论哗然。在京的同盟会员又多方活动，经御史胡思敬奏参，清廷只得将巡抚丁宝铨撤职调离，将标统夏学津撤职查办。挤走了夏学津，阎锡山顺理成章成为二标标统。这样，革命党人把山西的军权控制到了自己手中。
阎锡山掌了军权之后，并没有满足陶醉，他处心积虑地寻求更多的支持，为下一步攀升打基础。此时立宪运动闹腾得正凶，各省成立咨议局，立宪党人也成为一派“代表民意”的势力。阎锡山看到这一派势力在社会上颇有影响，就用出自己善于谦恭阿谀的手段，以晚辈后学的身份拜访山西咨议局的议长、立宪党人梁善济等人，并与梁善济的秘书拉上关系，以拜把子的老办法结为“金兰之交”，从而取得立宪派的信任和重视。但同时，他又与革命党人中的同志合谋，凭借自己的“铁血丈夫团”的身份，发起成立“山西军人俱乐部”。通过这个组织，把新军里的革命党人团结起来，成为混成协内同盟会的秘密领导核心。
在立宪派和革命派之间，阎锡山就这样立于“左右逢源”的境地。阎锡山参加同盟会并进入铁血丈夫团，进行了一系列革命活动，显现了他追随革命、反对清政府的志向；但他在进行革命活动的时候，又不时暴露出力图圆滑处事，企求左右逢源的狡黠。应当说，这是善于投机的商人习性的表现。
1911年秋，丁宝铨被赶走后的新任山西巡抚陆钟琦到任。原新军协统姚鸿发升任督练公所督办，于是协统一职空缺。姚鸿发记得父亲的嘱托，想让阎锡山接这个位置。经过在巡抚面前和咨议局内的活动，事情已基本成为定局，但还需要阎出5000两银子，以便做进一步的疏通。姚鸿发找阎锡山商量，阎锡山开始听说有了升官的机遇，心里不由暗暗高兴。但权衡一番之后，他还是委婉地拒绝了姚的好意。他寻思，革命形势逼人，眼看着山西局面就会大乱。乱中立足，必得有实实在在的权力。协统听起来是个高官，但只是有高位厚禄却无指挥实权的虚衔。现时所任的标统，表面看在协统之下，却能指挥调度各营各队。要成就一番事业，还是不能离开。阎锡山虽然一心想着高升，但他的算计总是实实在在，图虚名的事，并不想做。
当此时也，全国各地民族民主革命运动风起云涌，清廷统治者已是土崩瓦解。立宪派吹吹打打，想着用调和的办法维持清朝统治的残局，却又得不到满清统治者的应允。社会矛盾愈积愈多，有如积薪成堆，一遇火星，就会大爆发。1911年10月10日，武昌起义的枪声终于点燃了东西南北的革命烈焰，各省纷纷起而响应。10月21日，与山西一河之隔的陕西省，同盟会员张凤翔领导的武装起义取得成功。消息传到太原，山西的革命党人受到极大鼓舞和激励，同盟会员们在新军中积极活动，很快就传开了“湖北、陕西革命成功，山西也要准备起义”的消息。
面对这“骤雨欲来风满楼”的汹涌势头，巡抚陆钟琦十分紧张。他对新军很不放心，决定把他们调离太原，同时请清廷紧急调派军队来太原防守。于是以防止陕西革命军东渡为名，发出严令：一标的两个营必须在10月28日（农历九月初七）全部从太原出发。标统黄国梁与标本部的人员，在各营领到子弹前（清廷对防止新军叛乱已有警惕，新军各部平时只发枪不发子弹），就必须先行出发，否则，以违纪砍头论处。
革命党人一边，这时也正进行紧张的活动。消息传来，他们立即识破了巡抚的“调虎离山”计。黄国梁与阎锡山、赵戴文、张瑜、温寿泉等紧急商议，认为不听命令，就领不到子弹，无法起事。只有想办法领到子弹，才能发动起义。最后决定：黄国梁带部分兵士先行出发，造成听从调动的假相；后续部队领到子弹后不离太原，找借口在城边拖延时间，黄国梁得到消息迅速回马，在城里的部队立即响应。黄国梁依计行事，10月28日下午，率标本部人员和骑兵营出发到了祁县，等候太原的消息。
二标标统阎锡山在城内连夜召集本标中同盟会员会议，也对起义作了部署。阎锡山对起义没有异议，但大目标下不忘打自己的小算盘。他决定，待一标先发动兵变后，二标再迅速进城。标下两个营的部队，一个营开往子弹库，把军械控制到手中；另一个营开往抚台衙门，见机行事。会议结束后，参加会议的一个排长，刚出会议室门，猛不防被反对革命的二营管带撞见，一把拉住，问开的什么会。这个排长一时语塞，说不上来，被那位管带凶巴巴地骂了几句。他惊惧之下，以为事已败露，惶恐不已竟跳井自杀。阎锡山闻讯，急得浑身直出冷汗，当机立断，派兵将那个管带囚禁起来，一边就赶忙召集军队，宣布起义的命令。
1911年10月29日凌晨，太原起义的枪声打响。里应外合，太原新南门被顺利攻下，起义军直扑巡抚衙门。兵士们冲进抚署，与巡抚陆宗琦及其儿子陆光熙相遇。陆宗琦还大摆巡抚架子，指手画脚怒责起义士兵“想造反”。其子陆光熙则看见势头不妙，掏出身上的银钱就往空中一抛，企图趁着士兵乱抢银钱的混乱，掩护其父逃跑。不料想这一举动反而激起士兵们的怒火，陆氏父子当即被乱枪击毙。协统谭振德也在街上被打死。
此时的二标标统阎锡山，心情忐忑地带着少数亲随，静静地藏在本标操场附近的小树林里，听着城里四处乱响的枪声，焦急地等待打探消息的士兵回来报告。战斗打响后，他就把属下的官兵撒到巡抚衙门周围的各街巷，打探进展情况，自己却小心翼翼地不肯走出军营一步。在得知一标的部队攻下抚署的消息后，他忙派出一名排长，他的得意门生张培梅带兵去攻打抚署后面的巡防营马队。他暗示张培梅，要像是配合起义，又要像是去保卫抚署，不要草率而应见机行事。自己躲在小树林里熬时间，一分一秒地过去，不知该不该出去露面。左盘右算，一时难得要领，心情十分焦急。出去露面早了吧，万一革命不成功，自己将落个造反罪名，辛苦奋斗得来的一切，瞬间毁灭。可如果革命成功，自己出去露面太迟，功劳被别人全都占去，多年来的革命行动，又成一把无果之花。这一套“成则居功，败则诿过”的算盘，确实显现了阎锡山的精明算计和善于投机的本能。终于，胜利的消息不断传来，阎锡山心里有底了，带着人马煞有介事地杀奔巡抚衙门而去。
29日中午，山西同盟会召集各界人士在省咨议局举行紧急会议。立宪党人、省咨议局议长梁善济主持，起义领导人阎锡山、温寿泉、姚以价、张瑜、张树帜等人参加了会议。会议决定成立山西军政府，并推选一位大都督作为领导人。阎锡山对此事已有精明算计和周到安排，于是他首先提议，山西应仿照武昌起义的做法，推举名望高的姚鸿发为都督。但姚鸿发以其父亲还在担任清廷陆军部侍郎而且家眷在北京为由，谢绝出任。起义中，一标出力最大，建功最多，有人又提议推一标标统黄国梁为都督，但黄国梁不是同盟会会员，起义打响时还在祁县未曾回来，而且黄不是山西人，结果遭到否决。这时，人们的眼光自然而然落到又一个领兵战斗的官员，二标标统阎锡山身上。但梁善济等立宪党人还跃跃欲试，就提出用投票的方法公举都督，大有当仁不让之势。众人吵吵嚷嚷，局面混乱的时候，阎锡山先人一着的安排就发挥了威力。经他授意的心腹将领张树帜，一个箭步跳到台上，把手枪“咣”地往桌上一拍，趁机把梁善济挤到一旁，振臂高呼：“选都督作么子要选票？我们军人不干这一套，要选就举手！我们选阎统标做大都督，赞成的都举手！”阎锡山的亲信张培梅、周玳等都把手枪亮了出来，大喊大叫：“赞成的都快举手，快举手！”立宪派议员们哪里经过这样的阵势，一个个被寒光逼人的手枪吓懵了，哆里哆嗦地乖乖举起了手。张树帜俨然以主持人的身份，连叫几声“全体赞成，全体赞成”，张培梅等人喧哗呼应，阎锡山就顺利当选为山西省军政府的大都督，时年二十九岁。这既是他投身革命积极奋斗应得的辉煌，也是他高人一筹善于算计而到手的果实。
军政府宣布，改称中华民国，从此用黄帝纪元年号，悬挂“八卦太极图”旗。它标志着清王朝在山西的统治寿终正寝，标志着山西成为革命省份。
不论实际过程中的是是非非如何曲折，就全国大局而言，太原起义，是辛亥革命中的一个重大事件。孙中山先生于1912年9月视察太原时说：“去岁武昌起义，不半载竟告成功，此实山西之力，阎君百川之功。不惟山西人当感戴阎君，即十八行省，亦当致谢。何也？广东为革命之最初省份，然屡次失败。满清政府防卫甚严，不能稍有施展，其他可想而知。倘非山西起义，断绝南北交通，天下事未可知也。”山西处在北京近侧，山西起义，对清政府的统治中心震动极大；山西又当南北通衢之侧，山西起义成功，对革命势力控制南北交通，极为重要。所以，孙中山先生的这个评价，并非客气之词。应当说，阎锡山作为同盟会的骨干，投身革命多年，参加太原起义并非投机，但他在紧要关头的机警和园滑却又非常人可比。这使他在历史重大关头获得了厚利，为此后的发展打下了一个坚实的基础。
这年春节,阎锡山要回老家过年。因为是当“大官”后第一次省亲，部下的亲信们就认为这次一定是“衣锦还乡”，因此就安排得异常隆重排场，要显示显示督军的威严和气派。于是，拟了一份筹备计划，有庞大的随从队伍，携带贵重的各色礼品，准备笔挺的洋服和炫目的军服，光大小车辆就备下三十多辆。呈给阎督军以后，阎眯起眼瞅看了一番却摇了摇头，拿起笔全都勾掉了。部下吃惊不小，心想这还不满意，如何是好？不料，阎锡山只要一辆旧吉普车，随员也只有两名士官和一名司机。车开到河边村头，阎即让停车。下车后，又取出随身带着的外祖母亲手缝制的中式衣服，认真地穿戴起来。尔后，让士官和司机跟在自己身后，步行着进了村。一路走，一路跟村民打招呼，说家常，一行四人，足足走了个把钟头才到家。
这个习惯，阎锡山一直坚持了很长时间。当都督不久，他就在家乡大兴土木，耗费重金建设府第，前前后后陆续建设二十多年。近千间房屋的二十多个院落，气势不凡，金碧辉煌。一朝为官，飞黄腾达，光宗耀祖，威风凛凛。他并没有脱出几千年来当官摆架子的常规和心态。而他本人出入河边，却又坚持一副本份的常人打扮。这一方面显现了他出自社会底层，又受儒家文化的影响较深，有比较浓厚的民本思想；而他的行为习惯，既蕴含着浓厚的封建色彩，也显露出淳厚民风的影响。但更重要的另一方面，是体现了他善于以低姿态掩饰自己，以换取百姓的好感。生活中的这种接近平民的作风，与政治上善于韬光养晦相一致，都是阎锡山做人的重要特点。
避难到包头 逢迎袁世凯 保住都督职位
北京眼皮底下的太原起义成功，山西巡抚陆钟琦被杀，还是使清廷大为震动，立即发表吴禄贞为山西巡抚，令其带兵入晋平乱。山西军政府也赶忙调兵遣将，准备抵抗。而此时，清廷内部迫于武昌起义及各省宣布独立的巨大压力，也发生了不小的变化。清廷以小皇帝溥仪的名义下了所谓“罪己诏”并解散了皇室内阁，宣布解除党禁，并令资政院起草宪法。当时，主持小站练兵起家，在变法维新中投机得宠的袁世凯，在慈禧死后，也赋闲在家，等待时机变化。因为他手中有兵权，革命派一方和清政府一方，都把稳定大势的希望寄托在他身上。资政院公举北洋军阀袁世凯为内阁总理大臣，全权组织新内阁。袁世凯欣然接受，正要从武汉北上。面对即将入晋的吴禄贞部，阎锡山一面准备抵抗，一面派出议和专使，到北京与北洋大臣段琪瑞接头，寻求新的靠山。但他没有想到，奉命带兵来山西平乱的新任巡抚吴禄贞，原来是一位老革命党人。
阎锡山刚当大都督时就吃了一吓，还有些心神不定，因此，不免对吴禄贞的邀请满腹狐疑。那是一天晚饭后，卫兵通报说原八十五标三营管带熊国斌求见，阎让进来。熊国斌进门后却一言未发，掏出手枪就向阎开枪。阎大吃一惊，情急之中倒还机敏，一矮身躲到椅子下，躲过了第一枪；熊国斌再开第二枪时，阎已转过神来，抄起脚边的铜痰盂猛砸过去，使他受到惊扰，无法瞄准。而这时，阎的卫兵枪响了，熊国斌受伤当场被擒。熊国斌是满族官员，原本不赞成革命，阎锡山当了都督提拔大批部下，又没有他的份，因此怀恨行剌。虽然这只是一个偶然事件，熊国斌又被扔进石灰池中活活烧死了，却也造成一场不小的混乱，让阎大都督多日心神不宁。熊死后，其部下立即溃散，在太原市内大肆抢劫，阎锡山和副都督温寿泉亲自带兵弹压，好不容易才平定下来。
吴禄贞一再诚恳邀请，又经部下多次劝说，并保证到石家庄没有问题，阎锡山才勉强同意东行。但在预定动身的时候，他又多出一个心眼，谋算说：“石家庄蒙还是不能去。那是吴禄贞的地盘，万一有变，如何是好。”于是又突然变卦，坚持把会面的地方改在娘子关。吴禄贞爽快答应，并取笑说：“昔日关云长敢单刀赴会，何以今日的阎百川不敢来见盟友，岂地灵人杰耶，时移势易耶？”见面那天，阎锡山由大批警卫人员护卫到了娘子关车站，而吴禄贞只带了三个参谋。
秘密会谈中，吴禄贞一再表明自己的反清立场，对阎锡山坦言，我是老革命党，你大可放心与我合作，我还会骗你吗？说得阎锡山很是惭愧。吴禄贞明确表示：清室授我为山西巡抚，是一种笼络手段，我决不就任。我们站在共同的革命立场上，亟愿意与山西携手。他分析了面临的形势，认为袁世凯是中国第一个大坏人，袁如回到北京，掌握大仅，革命就有很大危险。并高度评价山西的起义，认为山西起义，清廷震动，山西是革命最重要的堡垒。中国万一有事，海疆是不可靠的，山西这个堡垒，要好好爱惜，好好布置。现在趁着清军大批南下镇压革命，北京空虚之时，双方组成燕晋联军开进北京，革命大业胜利即成定局。革命前辈吴禄贞的这一番话，使年轻的阎锡山受到很大鼓舞，对山西位置的重要性也有了更清楚的认识。阎锡山表示，吴的分析甚有道理，这是天赐良机，不仅山西可保，还能趁机进入北京，就立即表示同意。双方达成协议：组织燕晋联军先占领石家庄，切断清廷南北联系，一俟时机成熟就直捣北京。于是推举吴禄贞为燕晋联军总司令，阎锡山任副司令。山西先派出两个营进驻石家庄，听从吴禄贞指挥，随后再派出一个旅为后继军。
这是阎锡山担任大都督后的第一个重要举措，在他看来也是成就更大功业的天赐良机，眼看着胜利在望的行动就要吹响进军号了，阎锡山颇为得意，但机遇的转化只在一瞬之间。吴禄贞的革命倾向早为袁世凯所忌恨，此前几日，吴禄贞又在石家庄截留了袁世凯由北京运往武汉的一批弹药，袁世凯恨之入骨。在得知吴禄贞联晋反清的密谋后，更加气急败坏，立即指派人带重金三万到石家庄活动，想方没法刺杀吴禄贞。吴禄贞的卫队长被收买，吴禄贞自己又麻痹大意，11月7日，也就是燕晋双方会谈达成协议仅仅三天，吴禄贞就不幸被刺身亡。部队失去统帅，立即四分五裂。除孔庚等人率一部投靠山西之外，其余大部溃散。已到达石家庄的山西军队，也只好匆忙退回。这一突然变故，使刚组建的燕晋联军夭折了，也让阎锡山受到一次极大的震动。
不几日后，11月14日，袁世凯从汉口顺利到达北京，着手组建内阁，并很快任命张锡銮为山西巡抚，并命曹锟率部进攻山西。曹锟于12月初亲率卢永祥部由石家庄向山西进军。进攻的北洋军队有近20个营，防守的山西军队只有三、四个营，虽经激战，但寡不敌众，到12月12日，山西重镇娘子关失守，晋军溃退。
阎锡山先是在娘子关前线视察督战，亲眼见到清军兵力强大，难以抵挡，便急速撤回太原，惊慌失措，心情十分沉重。撤回太原后，立即召开军政要员会议，商讨如何应对。阎在会上力主放弃太原。他认为，时局一日三变，难以料定；袁世凯就任内阁总理大臣，今后将决定中国命运。攻到娘子关的部队又是袁世凯的嫡系，山西没有力量对抗。太原离娘子关不过半日路程，关已失，城何能守？以保存实力为理由，他主张弃城北撤。他后悔娘子关联吴之行不够慎重，不仅引来了大祸，而且得罪了拥有重兵的袁世凯。他甚至后悔不该争这个都督来当，到如今成了引火烧身的由头。他先是想把都督的头衔让给周维藩（周是原外八旗巡防统领，太原起义将领），但周坚持不受；后来，吴禄贞的部下孔庚来附，他又向孔庚提出，希望孔庚能临危受任，代他渡过难关，可孔也不同意。情急之下，阎锡山声称自己要去五台山当和尚。抱着这种心态，阎锡山无论如何也不肯留在太原。副都督温寿泉表示反对，认为太原是革命根据地，不可随意放弃；况且，清军尚在几百里之外，仓皇出走只会动摇军心。争执结果，阎锡山反正是坚决不肯留下，于是就让温寿泉镇守太原，全权指挥抗清事宜，他自己与赵戴文带领一行人，取道清军兵力薄弱的晋西北，向内蒙包头方向撤退。
撤退时，阎锡山顾不得都督的身份，真的打扮成一个和尚模样，骑了头小毛驴出行。倒是孔庚颇有心计，认为这个样子出走，未免太狼狈，就建议阎锡山发个通电，声明自己此行是进军北伐，以保全革命军的名誉。听了孔庚的意见，阎锡山才沉下心来，觉得很有道理。于是就派人与北路军取得联系，并发了通电，任命孔庚为北路军总司令兼朔方兴讨使，做出一副向北进军的姿态。12月下旬，到达晋西北的河曲县时，寒冬腊月，军队还没穿上棉衣，吃饭也成了问题。阎锡山采用向地方借款的老办法，派张树帜带兵到河曲筹办军需，开口就要白银二万两。河曲知县还是清廷官员，不买都督的帐，与地方绅士串通一气以罢市抗拒。张树帜便令士兵将知县捆起来痛打一顿，知县只好求饶。市面马上开张，二万两也就到手了。此时，包头革命党人率领部队也前来归附。原来在此之前，包头革命党人已经准备好响应革命，发动起义，但却遭到五原同知樊恩庆的暗算，大批革命党人和同情革命的军官都被杀害。他们强烈要求阎锡山进攻包头，为死难的同志报仇雪恨。接着，丰镇革命党人也因起义失败，率兵来投。几支队伍合并到一起，马步兵已逾3000之众。撤退途中得此意外收获，阎锡山甚为高兴，认为又是天赐良机，自己就索性来个进军北伐。于是与众人商议一番，兵分三路，直扑包头。
1912年1月11日，革命军进抵包头。包头守军不知这军队从何而降，仓皇应战，而进攻的革命党人满怀深仇大恨，英勇冲锋，奋力拼杀，只不到一天时间就把包头攻下来了。1月13日，在举行入城仪式时，众人要求阎锡山穿上大都督戎服，骑高头大马率队入城，以显示革命党人的威风气势。阎锡山虽然对占领包头十分满意，兴奋时却也又多一个心眼。他私下向赵戴文表示，包头刚刚攻下，清军余部尚未肃清，入城混乱之时，会不会有人趁机施行暗杀？赵戴文明白这个老乡的意思，当即自告奋勇，愿意替都督担险。到入城仪式进行时，赵戴文身穿大都督戎服，骑着高头大马走在前面，竟然真的有埋伏在街边的人向骑在马上的“都督”开枪。幸好不曾击中，却也使阎锡山在暗自庆幸之余，冒了几身冷汗。进驻包头后，阎锡山当即以胜利者的姿态宣布将包头改名为东包头，并着手整编军队，扩张武装。进包头不几日，因南北开始议和了，山西巡抚张锡銮等人就派代表来迎阎锡山回太原。阎锡山怀疑是诱他回去以擒拿邀功的阴谋，于是不肯离开。不久后，又击溃了清绥远军的反攻，并攻克清军所占的托克托城。
在后来的回忆中，阎锡山将此次逃跑式的撤退，美化为“北征”，似乎逃离清政府重兵所指的太原，置他的根据地和老家于不顾，也是一次胸有成竹的战略转移。其实，在他北逃之后不久，执意留守太原的副都督温寿泉也带着残兵退往晋南，革命起义的太原已然变了色彩。在中国传统文化浓烈的“为尊者讳”的遗风薰陶之下，此等当事者或阿谀者涂脂抹粉反倒弄得不伦不类的事例实在太多，倒也不值得大惊小怪。不过，阎锡山逃离太原，反倒因祸得福，不仅在包头打下了此后发展的基础，而且还得到一支不小的武装力量。这也是命运对他的一次大照顾。
阎锡山在包头享受意外胜利的时候，全国的形势，也发生了急剧的戏剧性的变化。1911年年底，十七省代表在南京开会，选举孙中山为中华民国临时大总统，议决中华民国纪元改用公历，以宣统三年11月13日为中华民国元年1月1日。1912年1月1日，孙中山就任临时大总统。而于上年11月已到北京的袁世凯势力迅速膨胀，大权在握，看出了革命政府虚弱的真相，因此不断给新生的中华民国政府施加压力，一心要窃取革命的胜利成果。革命政府内部，也有不少人对当时中国实力最强的人物袁世凯抱有幻想。孙中山迫于内外重重压力，不得不与袁世凯进行南北议和。袁世凯表面上答应了定都南京、实行共和，对革命起义的省份由革命党人担任都督的局面不作变更等条件，孙中山同意在清帝退位后迎袁世凯为大总统。这期间，袁世凯原先任命的山西巡抚张锡銮已调往他处，进入山西的清军也已陆续撤出。太原城陷入人心浮动、鸡犬不宁的状态。山西咨议局的要员于是来到包头，请阎锡山回省主持大计。
阎锡山见南北议和大局已定，革命起义省份可得到承认，自己手中又多了一份实力，山西的老底子不能丢，于是决定回太原。2月18日，到达距太原只有七八十公里的忻州。回到忻州，附近的五台、崞县、定襄等县马上送来大批粮饷，老家河边村的人们也纷纷上门向其父阎书堂表示祝贺和亲热。人世炎凉的天翻地覆的变化，使阎书堂大为感慨。就在阎锡山北逃的消息传到河边村时，村里人都不敢和阎家来往，生怕受到牵连。阎书堂一家人则坐卧不安，东躲西藏，连家也不敢回，比当年躲债更惊慌百倍。这也从一个侧面，说明了阎锡山北逃时置家人于不顾，该是多么仓皇狼狈。在忻州稍事休息，正当阎锡山踌躇满志地即将动身赴并，重返大都督府时，却接到了刚当民国大总统三天的袁世凯发来的电报，电报口气严厉地命令：不准前进，就地待命。如违命擅动，即以军法从事。袁世凯拒绝承认山西为起义省份。袁的公开说法是“太原起义后，阎锡山北逃，山西局势混乱”，实际上是因山西地处北京近侧，地位显要，袁欲另选心腹占据。显然，袁世凯对阎锡山不放心，不肯将山西交给他。
虽然在危难时曾有过让出都督的想法，但在局势已经明朗，山西大局非己莫能的情况下，阎锡山当然不会就此罢休。他立即给正在南京的老部下南桂馨打电报，让南千方百计到孙中山、黄兴处活动，力争承认山西为起义省份。同时，又绞尽脑汁寻找能与袁世凯拉上关系的人，营造左右逢源的形势。定襄人董崇仁，家中几代人都在北京包揽皇宫工程，与太监头子及王爷多有交情。董崇仁自幼跟着父亲出入于宫廷，跟慈禧太后的宠信李莲英相交甚密。长大成人后，还通过李莲英纳捐买了个四品道台。在李莲英的引荐下，又与袁世凯相识。袁世凯为讨好慈禧太后，极力拉拢与宫廷有关系的人做耳目，便认董崇仁为门生。袁做直隶总督时，还与董有过拜把之交。阎锡山马上派人带厚礼到定襄把董崇仁请到忻州，口口声声称为“老前辈”，恳请他到袁世凯面前为山西多说点好话。南桂馨的活动很有效果，面见孙中山时，孙中山表示：如果不承认山西为起义省份，即使南北和议破裂，也在所不惜。显示出对山西革命的高度重视。南桂馨还多次向胡汉民、黄兴游说，也得到了这两位领导人的支持。胡汉民专为此事向袁世凯发电达10多次，一再要求保留阎锡山的都督职位。董崇仁则不负厚望，专门赶到北京，在袁世凯面前替阎锡山说了不少好话，说阎锡山“一向对袁公推崇备至，袁公就任民国大总统，甚为欢欣”，说阎锡山“衷心拥戴袁公，大可不必怀疑他”。他的特殊身份，对袁世凯改变初衷起到了关键的作用。而阎锡山也抓住一切时机，向袁世凯表示自己的忠诚。在请孙中山先生给予支持的同时，却又在建都问题上站到孙中山的对立面，赞同和支持袁世凯建都北京的主张，声称“以形势论，以事实论，以对内对外论，目前自无舍北就南之理”。这番举动，赢得了袁世凯的好感，看到阎锡山不同于其他同盟会员，于是在1912年3月发布委任令，正式委任阎锡山为山西都督。如果说，当选都督曾经让阎锡山费过一番心思的话，那么，重新被委任为都督就更显现了他善于钻营的本领。多日悬在心上的石头落地了，阎锡山踌躇满志地说：“这也是蒙阎家祖上有德，山西百姓不该遭难。今后，蒙要把山西治理得好好的，也让袁世凯看看咱的本事。”
阎锡山回到太原，立即决定办三件事：一是统一军队，二是筹办财政，三是委任县长。也就是说，枪，钱，人，三样紧要东西，他都紧紧抓到了手里，他要在山西建立自己的一统天下。
在他逃离太原，进驻包头期间，支撑山西起义局面的主要是南边的河东军政分府和北边的忻代宁公团。河东军政分府是副都督温寿泉撤离太原时，带兵南下在运城成立起来的。它以副都督的名义统一指挥河东各县的军政事宜。它所指挥下的军队，曾在临汾一带与清军激战，为起义军守住了富庶的晋南地区。忻代宁公团则是辛亥山西起义时的一支地方武装，配合军政府的北路军抗击侵犯雁门关的清军，并与地方义军里应外合，占领了晋北重镇大同。阎锡山要建立自己的一统天下，这两支力量在他看来都是异己，都是必须削平的“山头”。他首先向河东军政分府开刀，制造事端，向袁世凯报告河东分府的实权派、革命党人张士秀、李歧山叛乱。袁世凯早已知道李歧山是同盟会会员，为趁机削弱、打击山西的革命力量，便命令驻河南的直系军队进入山西，将张、李二人逮捕，并押往北京。阎锡山不损一兵一卒，在讨好袁世凯的同时就解除了心腹大患，可谓是“一石二鸟”的妙策。对忻代宁公团的首脑人物续桐溪，阎也利用小事，激化冲突，制造借口，准备派人将其逮捕。所幸有人暗中给续通了消息，续桐溪才得以逃走，免遭一难。
阎锡山虽然暂时保住了都督职位，又想方设法将权力集中到自己手中，但他很清楚，自己是同盟会员，太原起义的主要领导者，并参与过燕晋联军阻袁北上的活动，在袁世凯的心目中注定是个必欲拔除而后快的钉子。这个地位还极不稳固。袁世凯曾拟调他为黑龙江都督，阎费很大力气通过贿赂袁的总统府秘书长才好不容易留在了山西。因此，他把逢迎袁世凯，消除袁的怀疑，取得袁的欢心和信任，当作头等大事。当年，他到北京谒见袁世凯时，紧张得汗流浃背，俯伏在地，行跪拜大礼而不敢仰视。他向身边的亲信说，他生平最畏惧的一个人，就是袁世凯。这也从侧面证明，袁世凯确实是压在他心上的一块沉重的石头。
面对险恶的处境，阎锡山充分施展出他善于韬光养晦的才能。一方面他表现得卑躬屈膝，处心积虑，想方设法，利用一切机会和手段，对袁厚颜逢迎。山西的汾酒，动辄三、五百坛奉送进京，不断在袁世凯的左右打点笼络。通过董崇仁，买通袁家的女仆，密察袁的意旨，如有所需，极力逢迎。认段琪瑞的孀嫂为干妈，因为她与袁世凯家的奶妈是密友，通过这层关系，及时了解袁的动向，以便应对早有所备；同时也曲径通幽，把对他的美言送到袁的耳旁。将袁世凯的好友，曾为他在袁面前说过好话的董崇仁，任为晋南镇守使。请任袁世凯的亲戚，山西人陈钰为山西民政长。更让常人瞠目结舌的是，以让老人开眼界享福为名，将父亲和继母送往北京居住，实际上当作人质。为了讨好，他处处看袁世凯的眼色行事，甚至连起码的“革命”面子都弃之脑后。1912年8月，同盟会改组为国民党，作为同盟会的老会员，阎锡山被任为参议。但阎锡山看出袁世凯对革命党人恨之入骨，就赶快宣布脱离了国民党。并且雷厉风行地执行袁世凯的命令，饬令山西全省“各县知事将国民党分设机关一律解散”。作为国民党的元老人物，对待国民党如此冷酷无情，翻脸不认，曾让许多老同盟会员气愤不平，大骂阎锡山奸诈狡猾，却又无可奈何。
极力讨好的同时，阎锡山又委曲求全，“万事忍为高”，以屈求伸。政事听任袁派去的巡按使金永为所欲为，并通过巴结金永的老乡朱善元，与金永“联络感情”，使金永在心满意足之余，也在袁世凯面前帮阎锡山说些好话。军务推给把兄弟、第十二混成旅旅长黄国梁全权代理，在太原竟出现只知有黄国梁，不知有阎锡山的怪现象。他安于当一个“无为而治”的都督，表现出一副庸碌甚至昏聩的姿态来。这些招数果然见效，袁世凯渐渐消除了对他的怀疑和戒心，说他最大的特点就是“脑后没有反骨”。
袁世凯逼孙中山交出大总统之后，做出邀请的姿态，请孙中山到北京面谈。孙中山先生感到对政治局面无能为力，想要“专心致志于铁路之建筑，于10年之中，筑20万里之线”，以经济建设推动民主政治。于是，在1912年8月到北京，计划在与袁世凯会谈后顺便对北方各省进行一番实地考察。这样，就提出了到山西考察铁路、调查矿产的计划。善于利用时机的阎锡山，立即大作文章，组织隆重接待，造成他与孙中山先生关系非同一般的声势。因为他看到，能与袁世凯相抗衡的，当时的中国只有孙中山一人。隆重接待孙中山，能使他在袁世凯的眼里分量加重，使袁世凯更不敢轻易动他。对于这一得意策略，阎锡山曾私下对心腹赵戴文说：“这叫借助钟馗打鬼。”
1913年，革命党人、国民党代理理事长宋教仁，坚持民主共和思想，宣称要组织国民党责任内阁，并声言将选举黎元洪为总统，真正实行政党责任内阁制，因此引起袁世凯的忌恨，派人在上海火车站将宋暗杀。之后，袁世凯又同俄、英、日、德、法五国银行团签订《善后借款合同》，向帝国主义借巨款，作为镇压南方革命力量的军费，并令北洋军阀迅速对南方用兵。 这些倒行逆施，引起革命党人的极大愤慨，孙中山于是发动了武力讨袁的“二次革命”。阎锡山看出反袁的革命力量弱小,难以成事；但同时又不想落个与孙中山唱对台戏的名声,于是就标榜“中立”。所谓两不得罪，实际上是站在了袁世凯一边。果然，因军事力量对比不利和国民党内部涣散，讨袁军节节失利。南京被北洋军攻占，“二次革命”完全失败。阎锡山这次的算盘打对了，“二次革命”失败后，各省的都督大多被撤换，全国仅有山西的阎锡山和云南的唐继尧成为“不倒翁”。不仅不倒，而且受到了袁世凯的奖赏。1914年，袁世凯授予阎锡山“同武将军”的名号。阎锡山以之为荣，在老家河边村修建门楼，题名为“同武将军府”，以示夸耀。到1915年袁世凯改元称帝时，阎锡山首先向筹安会提供银币二万元作经费，接着又连电劝进，声称“诚以中国之情，决不宜沿用共和制度”，“辛亥革命之初，尝以共和为新旧递嬗时代之权宜手续，四年以来，默察国情，征诸经验，乃确信共和之不足以安中国。”“今日改定君主国体，正全国人民希望诞登彼岸之机会。天与人归，各当其时”，“国是一日不定，人心一日不安，锡山窃日夜延颈企望，私心默祝，早日决议，有以符舆情而巩固国基也。”这一番话，在讨好袁世凯的同时，确实也道出了阎锡山心目中的所谓革命，就是取得权力和利益。反满清并不意味着反皇帝，反封建。他要求“废共和而行帝制，以帝制而行宪政”，并恳求袁世凯“以大有为之才，乘大有为之势，毅然以救国救民自任，无所用其谦让”地登基称帝。袁世凯看到阎锡山的劝进电，“龙心”大悦，喜不自禁，立即朱笔批曰“颇有见地”。称帝后，很快封阎锡山为一等侯爵。
袁世凯的倒行逆施，遭到全国人民的唾弃和反对。蔡锷等在云南成立护国军，发讨袁檄文，向袁世凯发动进攻，孙中山也发表《第二次讨袁宣言》，各省纷纷响应和支持。而阎锡山这时仍然站在袁的一边，致电北京政府国务院，声称“滇、黔等省竟以少数地方二三首领擅立政府，私举总统，实属破坏大局，不顾国家”的行为，表示反对，并指斥他们为“不忠不义不仁不智”之徒，恳请皇帝“褫革唐继尧、任可澄、蔡锷等官职荣典，宣示罪状”。直到1916年3月，袁世凯在全国人民的强烈反对下被迫取销帝制后，阎锡山还煞有介事地通电要求蔡锷等人“痛加悛悔”，对自己反袁的行为进行反省。否则，他将把护国军将领“视为公敌，与众共弃，愿效前驱，以伸挞伐”。在台面上表演出来的对袁世凯的忠心和媚态，到了登峰造极，无以复加的地步。
然而，阎锡山不会有那么多忠诚，他的“反骨”深藏不露，显示他的政治算盘已越打越精。只要有机会可以利用，他总是不肯放过。他一面奉承袁世凯，信誓旦旦地表达忠心；一面却又与蔡锷暗中通气，更隐蔽熟练地玩弄“左右逢源”的游戏。形势的发展，不断给阎锡山桌面上的表演以沉重的打击，却又使心怀叵测的阎锡山窃喜不已。反袁气势日益高涨，宣布独立的省份越来越多，北方省份也纷纷宣布独立，到陕西也宣告独立之时，袁世凯大势崩溃，手中已经没有了可用之兵。帝制被迫取消，但袁世凯仍想霸占总统的位子，又指使段琪瑞在南京召开各省督军联席会议，以寻找苟延残喘的办法。阎锡山指使他的代表，赞同以袁世凯退居总统的办法，由袁继续把持国政。众叛亲离的形势之下，阎锡山的这种态度，深得袁世凯的赞赏。于是，在走投无路、捉襟见肘之际，他要阎锡山派兵到郑州，防备陕西的军队向河南进攻，还想用这个部下的忠诚抵挡一时。阎锡山接到出师郑州的电令，立即表示服从。但又说山西贫瘠，筹措军费困难，求袁世凯接济。袁信以为真，一口承诺，并随即拨发军费80万元，作为开拨所需。阎锡山也迅速行动，在娘子关集结兵力，派员领到粮饷之后，就以兵力一部进驻石家庄。袁世凯越发相信阎锡山此时是真心真意在拥戴自己，因而对拨付军资军械的要求满口答应。阎锡山的部队得到堆积如山的物资，从容装备，并不急于南下郑州。频频以军资尚缺请求拨付为由，继续拖延时日。军资军品堆积如山，又缺车装载，就请京津拨车备用。直到无法再拖延了，装载重兵的列车于深夜开行，但车并未开往郑州，却是向着北边背道而驰。车离郑州越来越远之时，阎锡山给袁世凯发电报称：“我军北驶，已抵保定。”袁世凯接到这封电报，才恍然大悟，原来自己被这个“脑后没有反骨”的部下戏弄了一场。措手不及而悔恨已晚，从此病沉难起。有人说阎锡山的这场戏和这封电报是袁世凯的催命符，也许并不夸张。阎锡山自己，在对袁世凯作了这一番嘲弄式的报复后，心满意足地微微而笑。这个曾让他坐立不安的袁世凯，终于也有被他玩弄的一天。最后这一着，不仅吐了一口多年来沉重郁闷的恶气，而且还轻而易举地得到一大批军资物资。
对于阎锡山媚袁的这一段经历，国民党内始终有一部分人耿耿于怀，斥之为“叛变革命”。阎锡山本人恐怕也感到不甚光彩。在他的回忆录中，极力予以粉饰辩解说：“在这一段时期中，全国民军势力均被袁氏摧毁，为什么我未被罢黜呢？就我的了解：第一，当他的帝制运动开始的前夕，我的部队已被裁编至一个旅和两个独立团，全部不到七千人，而他的心腹巡按使金永的警备队已有十一个营，其力量足堪与我抗衡；第二，山西在他北洋军队四面包围之中，与东南沿海各省不同，不可能对他作恶意的反抗，只好善意劝告。第三，对我不罢黜，尚可以作一个保全民军省份的幌子，使不深知内情的人还以为他有兼容并蓄的度量；第四，使我的革命同志对我发生误解，以为我已放弃了革命立场。在这种情况下，反对无益，徒足招损，故我始终一本中山先生所示以保持北方革命据点为重的原则，对袁氏虚与委蛇。四年九月奉天上将军段芝贵领衔致袁请速正帝位的电文中，列有我的名字，我未表示反对，十二月袁封爵的命令中，封我为一等侯，我亦未曾辞爵。”
攻之者认为事实铁定，辩之者苦心编织言词。从不同的立场出发，自然会有不同的说法。但历史的事实是：阎锡山确实是对袁世凯一身媚相；阎锡山的地盘和力量也确实是保存下来了。不过，从中倒是可以看出，能够在老奸巨猾的袁世凯眼前瞒天过海，显示阎锡山善于韬光养晦的手段此时已经相当成熟，而他那“存在第一”的哲学想必也经历了一次成功的喜悦。
拥段倒黎，反对护法，集山西军政大权于一身
阎锡山以他比别人多一个心眼的才能，早在竭力奉迎袁世凯的同时，就已经将投靠段琪瑞作为通向袁世凯的一条捷径。段琪瑞好为人师，阎锡山就投其所好，在1912年，到北京谒见袁世凯的时候，首先具了门生帖子，拜见段琪瑞，三跪九叩行了拜师大礼，从此自称为段的学生。在段的面前，表现得谦逊稳重，颇得段的好感。段琪瑞确实也在袁世凯的面前为他说了不少好话。现在段琪瑞在中央政府掌了大权，阎锡山自然更是趋炎附势，同时，自己的腰杆子也就硬了起来。在袁世凯执政时期，他韬光养晦，明哲保身，对于山西的军政大事，不闻不问，以示没有野心。袁世凯一死，他就再也不能容忍这种处境了。他先是赶走了袁世凯派到山西的巡按使（即省长）金永；接着就准备收回先前放弃的军权，把矛头指向了自己的拜把子兄弟，时任山西军政司司长、督军府参谋长、混成旅旅长的黄国梁。
这时，也有人想要利用袁世凯死去、黎元洪继任总统这个变化来对付他。这就是投靠山西的吴禄贞的部下孔庚。孔庚投靠山西后，也曾为阎锡山出过大力，长期坐镇包头，治理地方有方，名震塞北。袁世凯曾当面嘉奖过他，而他与副总统黎元洪又是老乡，来往密切，并将不少同乡旧部，安插在部队中，因此引起阎锡山的莫大疑忌。阎曾暗中操纵孔的部下发动“兵变”，企图将孔杀害，但孔因此时不在自己办公室而侥幸躲过。后来，在袁世凯称帝时，孔庚秘密进行过反袁活动，更为阎锡山所不容。阎曾一度撤掉孔的职务，将其软禁在太原。孔庚这时就和黄国梁勾结起来，密谋将阎锡山取而代之。由于袁世凯时代强行压缩山西军队的编制，只剩下黄国梁所部的一个旅。袁死后，黄国梁就着手扩军。他大批训练军队的基层干部，又挪用军费修建营盘。他拟定了一个计划，要把一个旅扩充为一个师。计划拟得非常周密详尽，只剩下将师长的名字填上黄国梁三个字。在黄国梁看来，与阎锡山的关系非同寻常。既是早年的拜把子弟兄，又从太原起义以来一直亲密共事，还在袁世凯的监视下替阎锡山担惊受怕地顶了几年门户。艰险过去，现在得到发展的机会了，军队扩编，自己顺理成章地当个师长还有什么过分之处吗？却不料，计划送到阎锡山处，阎看过后勃然大怒，将计划扔在地上，拍着桌子大骂：“绍斋也太不把蒙放在眼里了，这样，干脆这个督军就由他当好了，何必还用蒙作傀儡？一点小事，他都不听蒙的，难道蒙就那么听话！”素日积累的矛盾找着了爆发的导火索，早已成竹在胸的图谋得到了实现的时机。阎锡山逮着了好机会，岂能轻易放过。他既不看拜把子弟兄的面子，也不理采长期共事的交情，表现出一副震怒的模样，立刻把秘书长召来，拟了一份电报，拍发给北京黎元洪总统和段琪瑞国务总理。电文声称“黄国梁独断军事，虽无叛徒事实，实已迹近骄横，军人如此，国家纪纲，尚复何在”，请北京政府撤销黄的职务。当然，不用等北京政府的批复，他就迫不及待地采取了狠下毒手的行动。他怒气冲冲地把宪兵司令找来，亲手写了一道手谕：“黄国梁着即免职，限即日离开太原。”当面命令宪兵司令派兵包围黄的住所，禁止黄与外界任何人见面，监视黄于次日早晨离开太原。宪兵司令虽然曾是黄的好友，此时也不得不绝情相逼。黄国梁被迫郁郁寡欢地离去，临行感慨良多：因为原来的山西军政司长、阎锡山的另一位好同学，太原起义后曾任副都督的温寿泉，是黄国梁在阎锡山的授意下逼走的。性格爽直的黄国梁，虽然是阎锡山患难与共的把兄弟，却难与阎锡山同行一路。
对于时任晋北镇守使的孔庚，阎锡山也毫不客气，让亲信张树帜趁孔进京不在大同期间，带兵闯入镇守使署监印室，将镇守使关防抢走。孔庚知道是阎指使所为，只得忍气吞声，乖乖地将镇守使职务交与张树帜，离开了山西。