阎锡山所以如此顽固，要与太原共存亡，是因为他认为国民党仍控制着长江以南的半壁江山，只要还有这样一个基地，就能与共产党继续周旋。同时，他得到大西洋公约即将签字的消息后，认为美苏“不愿战亦须战不能战亦不得不战，美国已感到迟一日险一日矣”（《山西省公安厅敌伪档案》9—2—5），美苏必战，第三次世界大战很快就要爆发，只要大战一爆发，他就可以得到美国的援助。另一个重要原因是1949年1月21日，蒋介石下野，李宗仁成为代总统后，阎锡山指示在南京的杨爱源向李宗仁和美国驻华大使司徒雷登等，进行周旋，由他任行政院院长，如此，太原形势再紧急时，他可飞往南京任行政院长，太原形势缓和，又可仍在太原统治山西。在正争取行政院长的关键时刻，他不想给人留下弃城逃跑的印象，而想以“守城名将”赢得李宗仁等的好感。但严峻而无情的现实，却容不得阎锡山如此多想。阎锡山为了自己的“生存”，还是抛弃了与太原共存亡的旦旦誓言，选择了逃离孤城，以走为上之策。
1949年3月上旬，当平津战役结束后，奉中央军委和毛泽东之命的华北野战军第19、第20兵团 （原华北野战军改称中国人民解放军第18兵团），以及第4野战军第1炮兵师，相继开赴太原前线，使太原前线部队力量大大加强，总兵力达25万人，与阎军总兵力的比例为3.15﹕1，各种重型火炮的比例为1.27﹕1，弹药的比例为4﹕1，并且，解放军进一步紧缩了对太原的包围，不仅太原南郊和北郊的飞机场已被控制，而且，阎锡山新开辟的西门外红沟机场也进入了解放军的炮火射程以内，空中交通行将完全断绝，太原城破在即。面对如此危局，阎锡山不由大为恐惧和感到绝望。他终日坐卧不安，手内时常拿着一根木棍，不论亲信和部属，见人就想打，对请示或回答公事的人员，见了就要骂，除过问郊区的战况和运输粮食的飞机情形以外，其他事件，一律不愿过问。此种情况，据他周围的人说，是30多年来从未见过的。由此不难想见当时阎锡山心情坏到了什么程度。在此情况下，阎锡山为及早离开太原，又指示在南京的杨爱源向代总统李宗仁和美国驻华大使司徒雷登加紧对他出任行政院长一事的活动。事情进展顺利，眼看就要成功，但在蒋介石的施压下，李宗仁改变态度，发表何应钦为行政院长，并请贾景德电阎，告以阎的名望很高，不敢以行政院长委屈。贾在电中告阎，行政院既已发表敬之（何应钦字），当然副院长之席未便屈就，容再徐图办法。阎接电后，甚为生气，但因情势已十分危急，为早日离开险境，乃复电贾：“为了拯救晋民，名位高下，在所不计，虽副席亦可也”。见阎态度如此，李宗仁遂于3月28日致电阎锡山：“和平使节将于31日飞平。关于和谈大计，深欲事先与兄奉商，敬祈即日命驾入京籍聆教益”。阎锡山接到此电，当即批了“有飞机即去”5个字。次日复电李宗仁：“寅俭辰电敬悉，遵当如命晋京，恳赐饬派飞机为祷”（《山西省公安厅敌伪档案》9—2—5）。3月29日下午，阎锡山召开各军政负责人约20人参加的会议，进入会场后，他与大家亲热地打着招呼，一改长期以来满面阴沉，乖张暴戾之态，寒暄过后，他叫吴绍之向人们宣读了李宗仁电文，接着他告诉大家，“也许三天五天，也许十天八天，等和平商谈有了结果，我就回来”。并宣布，在他走后，由梁化之、王靖国、孙楚、赵世龄、吴绍之组成5人小组负责，一切由代主任孙楚主持。尔后，他又与人们交谈了约半个小时。这时，梁化之报告说：“天气已经不早，飞机在机场等候，请早动身吧”。阎锡山不让大家送行，从会议室出来后，立即乘汽车直奔太原西门外红沟（屹嶛沟）机场。阎锡山乘座的飞机起飞时，西山、东山的解放军炮火跟踪射击，打死了不少侍卫人员。在炮火声中，阎锡山只带了侍从长张逢吉与一名厨师逃离了太原。
本来，阎锡山想让其五堂妹阎慧卿也一同前往的，因为自抗战以来，阎慧卿就一直照料着阎锡山的生活起居，对阎锡山的生活习惯十分熟悉，照料得十分周到。人们也知道他兄妹俩关系非常密切，形影不离。但阎锡山为了稳定人心，只好忍痛割爱，让阎慧卿留下来，而人们见阎慧卿不走，也认为阎锡山肯定还要回来。岂料这是阎锡山使用的金蝉脱壳之计。以前人们常说：“十三个高干，哄的个老汉（阎锡山）”，可是这一次却是一个老汉，哄了十三个高干。阎锡山于太原辛亥起义后，因清兵攻入娘子关，曾率部离开过太原，中原大战失败后，在蒋介石、张学良的逼迫下，第二次离开太原，抗战爆发后，因娘子关失陷，在日军凶猛攻势下，第三次离开太原。但后来，随着形势的变化，他又都返回太原。然而这次离开太原，却是“黄鹤一去不复返”，再也未能回来了。
4月3日，中共中央同意了太原前线总前委司令员兼政委徐向前提出的太原作战方案，并同时要求他们：“注意和平解决的可能性，如有接洽机会应利用之”。5日，军委又来电指出：“阎锡山已离太原，李宗仁愿出面交涉和平解决太原问题。我们已告李宗仁代表（本日由平去宁）允许和平解决”。同日，太原前线总前委召开扩大会议，研究决定总攻太原方案。中国人民解放军副总司令彭德怀作了指示，并在此后担任了解放太原的总指挥（徐向前因兵休息）。11日，军委来电指出，虽然与南京代表的和谈“颇有进展，如南京方面同意，可能于15或16日签字。但破裂的可能性仍然存在，因此，请将攻击太原的时间推迟至20日，那时如能签订和平协定，则太原即可用和平方法解决；如果和谈破裂或签字后反悔不执行，则用战斗方法解决”（《解放太原》第10—11页）。根据军委指示，太原前线总前委，决定致函孙楚、王靖国，派赵承绶和高斌、曹近谦进城谈判，但被王靖国以“中央有命令，被俘人员不准进城”、“老头不在，无人做主”为由，加以拒绝，而国民党南京和谈代表在下野的蒋介石的干扰下，又缺乏和谈诚意，故意拖延时间，因此，用武力解放太原已不可避免。
4月17日，中央军委给太原前线总前委来电指出：“你们觉得何时发起打太原为有利，即可动手打太原，不受任何约束”。4月20日，太原前线部队对太原发起总攻。依作战部署，第18兵团附1野第7军主力以及4野炮1师1部，分组左、右两个集团，分别从大东门以南和以北攻城；第19兵团附晋中军区3个独立旅及4野炮1师1部，分别由城西、城南发起攻击，之后转由城南首义门以东攻城；第20兵团附1野第7军1个师、4野炮1师一部，由城东北及城西北实施攻击突破。4月21日，毛泽东、朱德发布《向全国进军的命令》，攻城部队坚决执行“全军指战员奋勇前进，坚决、干净、彻底地歼灭中国境内的一切敢于抵抗的国民党反动派”的命令，不怕牺牲，英勇战斗，经近3日之激战，至4月22日，太原外围据点已被全部肃清。除“铁血师”投诚外，阎军守备外围的12个步兵师被全歼。
4月24日早上5时30分，太原前线部队以1300门大炮从四面八方向太原城垣猛烈轰击，6点多钟，第19、20兵团在火力掩护下，分别从南、北首先登城，第18兵团及第7军由城东分4路登城。解放军相继杀进城内后，经过激烈巷战，10时，攻城战斗全部结束，太原胜利解放。阎锡山盘踞了近30年的老巢被彻底捣毁。不久，5月1日大同和平解放，结束了阎锡山统治山西38年的历史。太原战役历时6个多月，战役中共歼灭国民党太原绥靖公署，第11和第15兵团2个兵团部，6个军部，10个师部，2个特种兵师，1个特种兵总队，4个团及非正规部队3个师4个总队共124790人。活捉太原绥署副主任、第15兵团司令孙楚、第10兵团司令兼太原守备司令王靖国、太原绥署副总顾问兼炮兵副总指挥岩田等。山西省政府主席、同志会工委会主任梁化之，太原绥署特种警宪指挥处处长徐瑞 ，副处长兰风、李紫云，以及阎慧卿等则在城破后服毒自杀。出卖黄樵松的戴炳南太原解放后被搜捕镇压。战役中，人民解放军伤亡4.55万人。参战民工伤亡955人，其中203人牺牲。
5月1日，中共中央电贺太原解放，贺电称：“此次我太原前线人民解放军奉命攻城，迅速坚决，敌酋就缚。大同敌军，亦即投诚。从此，山西全境宣告解放，华北臻于巩固，当此伟大节日，特向你们致热烈祝贺”。