一、陇东败退
扶眉战役后，解放大军于7月21日以后挥戈西上，具体部署是：“以十八兵团之两个军钳制胡匪，保障我后方的安全，集中我一、二、十九三个兵团及十八兵团之六十二军共十个军，追击二马，力争歼其主力于平凉地区。以十九兵团附骑兵第二旅为右翼，沿西兰公路及其两侧向平凉攻击前进；以一、二兵团为左翼，分两路平行北上，先取陇县，直插平凉以西，断敌退路，并打击由兰州、固原方向可能增援之敌。以十八兵团之六十二军为总预备队。”（《兰州战役》）面对这一强大压力，相互矛盾的“二马”，战、退难决。7月24日，马步芳令其西北军政长官公署副长官刘任在静宁召开军以上军官的军事会议，参加者包括马继援、马步銮、卢忠良、张寄亚（马光宗军的参谋长）、马惇靖、王治歧等在内的20多人，会上互相指责，吵嚷不休。王治歧（陇南兵团一一九军军长）说，他在兴平的失利是由于友军没按时支持造成的。长官公署作战处长张涣祺则直言不讳地说，是马副长官的宁夏兵团没有执行长官部的命令造成的。会场气氛紧张。刘任慌忙和解说：“张处长今天发言走火，幸好没伤人。大家还是讨论如何保卫西北、保卫兰州的问题，同心协力，为党国争光。”最后决定：改宁夏兵团为陇东兵团，卢忠良为指挥官，固守陇东、平凉；改青海兵团为陇南兵团，马继援为指挥官，与周嘉彬、王治歧、黄祖勋等部共守天水、陇西、定西等地，保卫兰州。命令“宁马”以平凉为中心，从东北到西南，构成弧形防御地带，进行死守。“青马”由安口西移六盘山，待机实施迂回，胡部则从秦岭出击，共同协力，击破解放军。“宁马”立即觉察，此一计划乃是让自己打头阵，“青马”则保存实力，坐享其成。于是卢忠良会后电复不接受指挥官的任命，并眼见解放军主力已经压过来，势不可当，即于7月27日弃守平凉，西撤至瓦亭、三关口一带。7月28日，则有固关之战。
固关位于陇县西北的陕甘交界处，山势险要，地形复杂，历来为秦陇要冲。马继援命令骑十四旅、骑八旅共8个骑兵团的兵力，集结于固关、关山岭、马鹿镇一带；并以在这两个旅的后方庄浪、静宁、隆德等县，集结第一百师、二四八师、一九○师和一二九军的两个师，共5个师的兵力，准备增援，企图聚歼进攻的解放军。骑十四旅旅长马成贤，将一、二两个团布置在第一防线，将旅直属队和地方保安团布置在第二防线，指挥部设在固关镇右后边高地上。28日拂晓，解放军开始攻击，第一炮就命中马成贤的指挥部，几个通讯兵遭受伤亡。解放军英勇冲杀，出现白刃战。马成贤向骑八旅马英求援，马英答以“我已出动，你们坚守最后五分钟”，实际按兵不动。之后，马成贤受伤，以骑兵30名护送后方医治。双方战至上午11时，“青马”全线溃退，纷纷向西南山沟逃窜，多被解放军追及而被俘，最后全旅被歼，只有马成贤漏网。
固关镇解放后，马继援再未作抵抗，即西撤定西、兰州。“宁马”则以十一军后撤至固原东南之任山河一带布防，并以保一纵队退守固原，以为尔后主力向宁夏撤退时的掩护部队，一二八军撤至固原的大湾一带。七月底，马步芳给卢忠良打电话说：“你们的主席将要发表为甘肃省主席，现在要好好打，不能再退了。”同时又派慰问团前来慰问，师以上军官，每人发镀金奖章一枚。接着，马鸿逵自广州给卢忠良电话说：甘肃主席发表了，在三关口要抵抗一下。于是有“宁马”任山河阻击解放军之战。
卢忠良以4个师的兵力，在任山河村、鹦鸽咀、罗家山、哈拉山等处构筑工事，组织防御，掩护其一二八军在瓦亭、三关口之防御线的侧翼安全。8月1日拂晓，解放军十九兵团六十四军以3个师的兵力发起总攻，到下午1时许，其他阵地均被攻克，唯罗家山战斗激烈。此山较高，形势险要，为马部十一军任仰贤团防守。经过反复冲杀，下午4时许，“宁马”不支，阵地相继崩溃，部队失去控制，纷纷后逃，被歼5000余人，重武器几乎全部丢弃。同日上午，三关口被解放军一举攻占，一二八军溃退，下午，瓦亭阵地亦丢失。入夜，卢忠良下令全军后撤，夜11时退到固原，与十一军会合，即向宁夏撤退。时两个军在一条公路上互相抢路，混乱达于极点。由于解放军十九兵团主力翻越六盘山，意在分割“青马”与“宁马”的联系，未对“宁马”继续追击，故卢忠良部得于8月9日左右逃回宁夏。
至此，“青马”、“宁马”即被解放军分割，其各个被歼的命运即将到来。
二、兰州惨败
前述马步芳、马鸿逵到广州，是参加李宗仁召集的“西北联防会议”，阎锡山、顾祝同和胡宗南的代表亦参加这次会议。会上策划了兰州决战计划，国民党的如意算盘是以“青马”固守兰州，吸引解放军主力于兰州城下，然后“宁马”出宁夏、胡宗南出陇南，三方合击，加以空军大力支援，一举击溃解放军在西北的主力。而多年梦寐以求，刚将西北统治大权抓到手的马步芳，更是野心勃勃，妄图一战转败为胜，转危为安，以稳坐几年“西北王”。但他们这种一厢情愿的幻想，早在解放军彭德怀司令员预料之中。8月4日，彭德怀发布进军兰州歼灭“青马”的作战命令，确定如下之部署：以二兵团之三个军和十九兵团之两个军分两路包围进攻兰州；由一兵团附六十二军突破敌右翼向其青海老巢迂回……直取西宁；另以十九兵团的六十四军在固原一带向宁马佯动，并准备阻击来援之宁马；以十八兵团主力及七军等三个军沿川陕公路前进，以钳制胡匪。这样，就给青马布下了天罗地网，使其无法逃脱被歼的命运。（杨得志、李志民：《毛主席和彭老总的又一杰作——西北战场的决战》）
兰州是西北重镇，不仅是扼制青海、河西走廊、新疆及宁夏的枢纽，也是蒋、马统治西北的军事、政治中心。她南有以皋兰山为主峰的南山为屏障，北临滔滔黄河，河之北又是一道北山为阻，兰州城则在山水屏障环绕之中。所以，无论攻与守，均以山、河为重点。马步芳此时集中其精锐部队5万人于兰州，根据地形作如下部署：东以东岗坡为据点，由第一百师谭呈祥部把守冲要，并预计此为与解放军最先接触点。西以狗娃山为据点，由一九○师马振武部把守。南以皋兰山为据点，沿沈家岭一带，由二四八师韩得胜部把守。北面黄河河防由八十二军、一二九军的直属骑兵团扼守。以一二九军的杨修戎师、马璋师为总预备队。兰州外围的布置是：以九十一军、一二○军、八十一军共两万余人为左翼，在靖远、景泰沿黄河防御；以新组建的骑兵军韩起功部约两万人为右翼，控制临洮、临夏地区；将重炮设于城东郊的东岗飞机场。马继援的司令部则设于黄河北岸白塔山麓的金城关，同时急调驻新疆的骑五军马呈祥部驰援兰州。在兰州城关，则加紧对人民的镇压。组织城防警备司令部，以赵珑为司令，便衣特务遍及全城，专门对付共产党和进步人士，叫嚣“宁错杀一千，不让走脱一人”，群众稍涉嫌疑，即行抓捕，酷刑拷打甚至枪杀。在兰州大学，按黑名单捕杀了许多青年学生。对全城均实行逐户搜查，限制群众的居住和行动自由，以防内变。如此严密部署，马步芳父子满以为坚如铁桶，马继援扬言“决心与兰州共存亡”。
人民解放军在彭德怀率领下，突破马家关山防线，翻越六盘山，挺进千里，沿途解放30余县。8月20日，二兵团和十九兵团会师于兰州城郊，从东、西、南三面包围了兰州。而一兵团于22日解放临夏，骑兵军韩起功部闻风丧胆，不战自溃，马部丧失了守兰州的右翼。解放军于21日对兰州“青马”阵地进行了一次试攻，出动9个团的兵力进攻，但因对地形不熟，不清楚“青马”火力部署，没带炸药，也没组织步炮协同，虽然给马部一些杀伤，但并未奏效。后经重新准备，侦察地形，研究战术，配备大炮，于25日拂晓发起总攻。东岗坡首先接触，谭呈祥师死守不退。皋兰山遭到炮击，第一线阵地被摧毁，中午，第二四八师谭腾蛟团的防地沈家岭动摇，其主阵地上、下狗娃山被攻占。下午，营盘岭、古城岭、窦家山、马架山阵地相继被攻占。“青马”指挥官用机枪和大刀督战，驱兵连续向解放军发动反冲击，每一道壕沟、每一道峭壁、每一个阵地，都经双方反复争夺，多次拼刺、肉搏，但终于难以抵挡解放军的英勇攻击，被击破的缺口，越来越大。满山遍野，红旗飘扬。西线深入于七里河、雷坛河一带的解放军直扑西关，“青马”军心大乱，全线动摇。