同日，彭德怀以解放军第一野战军司令部名义发出进攻兰州的指示，强调“青海兵团”为今日国民党军中最有战斗力的部队，在全国也是有数的顽敌，全军要对国民党“青海兵团”有足够的估计认识，做好充分的精神准备，力戒轻敌骄傲思想。进攻时仔细侦察精密计划，集中优势兵力火力，一个一个山头、房舍、阵地，逐次地歼灭敌人。还要充分准备歼灭敌人反冲锋部队，组织好消灭敌人反冲锋的火力，构筑抗击反冲锋的工事，密切步、炮协同。炮兵要反复精细地侦察敌人兵力、火力的具体配备，组织良好的战场观察，切忌盲目射击。对敌人外壕陡壁要用挖对沟、改造地形来接近，用炸药来破坏，不攻则已，攻必奏效。
1949年8月21日6时，解放军第十九兵团第六十三军、第六十五军全线向马家山、古城岭、大山顶国民党“青海兵团”发起攻击，解放军第六十三军一九三师五七九团为主攻，五七八团一个连从敌左侧积极佯动助攻，五七七团集结于九条路口以北，随时准备投入战斗。战斗打响后，在炮火支援下解放军五七九团由卜家路口向古城岭之敌猛攻，因国民党“青海兵团”占领有利地形居高临下，又有天然伪装好的永久工事，到当日下午5点我军才攻破国民党“青海兵团”第一道防线，激烈战斗到晚上9点，解放军第六十三军仍未突破国民党“青海兵团”前沿阵地，解放军六十三军随即奉令停止攻山。22日凌晨1点，解放军第六十三军再次组织发起攻击，但仍未奏效。
凌晨4点，解放军第十九兵团第六十三军发起第三次冲击，但遭敌多次疯狂反扑，阵地争夺激烈。凌晨5点，经过惨烈冲杀，解放军第六十三军终于攻破了国民党“青海兵团”在马家山的第一道外壕。解放军第六十三军一九四师五八一团为主攻由南向北，五八二团为助攻由乾沟门右侧向上，对大山顶之敌进行攻击。由于国民党“青海兵团”顽强抵抗，解放军第一野战军彭德怀司令员果断地下令暂停攻击，要部队认真总结教训，重新组织兵力攻山。第一次攻击马家山、古城岭虽然受挫，但也让第十九兵团各级指挥员判断了解到国民党“青海兵团”在马家山、古城岭守备兵力、战术特点及工事等情况，同时也以血的教训，教育了部队各级指挥员，使他们深刻地认识到轻敌思想的严重后果。
鉴于解放军第一野战军对兰州国民党“青海兵团”只是三面包围，北面退路黄河铁桥仍在国民党“青海兵团”控制之下，这不能排除国民党“青海兵团”在我大军压力下突然逃跑的可能。1949年8月21日，第一野战军彭德怀司令员决定以9个团的兵力，对兰州守敌进行一次试攻。解放军第十九兵团由六十五军、六十三军用5个团攻击马家山、古城岭、十里山。这次攻击准备非常不足就仓促投入战斗，同时在千里追击中敌人不战而逃，战士中有轻敌思想，有些指挥员唯恐敌人跑掉，不看地形，不察明敌人兵力火力部署，不带爆破器材、炸药，更没有组织步兵、炮兵协同作战，一上阵地就带领部队向守敌猛冲。有个连队甚至还没有弄清攻击目标就急急忙忙率部往上冲；有个团长在敌情不明的情况下竟说：“给我两个钟头，保证完成任务。”
1949年8月21日、22日，解放军第十九兵团第六十三军、第六十五军在两天的攻击战斗中，战士们打得勇敢顽强，并多次和敌人肉搏，攻击虽然给敌人以很大的杀伤，但却没有夺得国民党“青海兵团”的一个阵地，自己的伤亡也很大；第二兵团以4个团的兵力向国民党“青海兵团”试攻也未奏效。彭德怀司令员根据这种情况，果断地下令全军暂时停止攻击，迅速进行阵地总结，按21日的战术指示，做好准备后再发动总攻。这次试攻虽然受挫，却摸清了国民党“青海兵团”第八十二军3个战斗力最强的主力师分别固守在敌防御体系中的马家山、营盘岭、沈家岭三个主要阵地；国民党“青海兵团”第一二九军及其他部队分别防守东西两翼阵地的守城部署，更重要的是通过这次攻击以血的沉痛教训，清醒地告诉全军干部、战士轻敌的危害性，并全力狠抓向国民党“青海兵团”发动总攻的战斗准备工作。
1949年8月23日，彭德怀来到第十九兵团指挥部，十九兵团司令杨得志、政委李志民因仗没打好心情很沉重，便主动对彭德怀司令员检讨说：“第十九兵团在历史上还从来没有遇到过这样的情况，守敌阵地两天没拿下一个，军、团干部都很憋气，急于要继续打。毛泽东曾指示过我们，千万不可轻视‘二马’，否则必致吃亏。现在果然吃了轻敌的亏。我们虽然经常给自己敲警钟，并一再教育部队，克服轻敌思想，但是最近对部队的教育放松了，轻敌思想又有所抬头，这次仗没有打好，责任主要在我们兵团领导人身上。”出乎意料的是，彭德怀司令员不仅没有发火，反而冷静地对杨得志、李志民说：“部队试攻受阻其主要原因是轻敌，次要原因是敌工事坚固，这次试攻是我决定的，时间仓促，部队准备不够，不过，我军通过试攻也达到了了解敌人的目的。你们要告诉部队沉住气，总结经验教训，研究敌人，扎扎实实地做好准备工作，待命向敌人发动总攻。”
彭德怀告诉十九兵团司令杨得志、政委李志民说：“王震率领的第一兵团前进速度很快，已于22日占领了甘肃临夏，现在暂时停止前进，以部分兵力进占永靖控制黄河，斩断兰州和西宁的联系，准备随时堵击截击敌人。”彭德怀分析了解放军第一兵团占领甘肃临夏后，可能引起的几种情况变化和我军应有的对策：第一种情况，使兰州守敌增加了对西宁的顾虑，因而分兵防守，重点仍放在兰州。这样，有利于我军攻取兰州，打下兰州后再抽部分兵力协助解放军第一兵团攻取西宁。第二种情况是国民党“青海兵团”放弃西宁而全力坚守兰州，这种可能性很小，或者以敌新骑六军及西宁警卫部队（一个师）守西宁，这种可能性很大。在这种情况下，解放军第一兵团暂时不宜孤军深入去占领西宁，假如我军同时攻打兰州、西宁而都要受阻，国民党“宁夏兵团”主力就可能乘我军远出疲劳之际出击我侧背。现天气渐冷，如果冬衣送不到，即使我军占领西宁，而兰州又久攻不下，再加上我军兵力分散，久拖不决，必会使我军今后遭到更大困难。第三种情况，如果国民党“青海兵团”放弃兰州而退守西宁，我第二兵团则跟踪追击，第一兵团不失时机地堵击截击敌人，在享堂百里地区把国民党“青海兵团”主力消灭再取西宁。第四种情况，如果我军攻打兰州无效，而国民党“宁夏兵团”主力又增援到兰州，国民党“青海兵团”兵力加强，再打兰州时困难更大，如果出现这样的局势，我军则可暂不急于打兰州而直取西宁，再用一两个月的时间，做好新解放区的地方工作，建立好地方工作基础，抓紧时间休整主力部队，再解决粮食困难，有了充足的弹药后再打兰州。当然，这种情况应当尽量避免。
因此，彭德怀决定调三边部队5个团加强留在宁夏的解放军第十九兵团第六十四军，要全力阻击国民党“宁夏兵团”，使其不能来增援兰州。彭德怀考虑问题全面周到，对困难充分估计，和毛泽东的来电完全一致。杨得志、李志民给彭德怀汇报说：“第十九兵团六十四军全军上下斗志高昂，在固原、海原缴获了国民党‘宁夏兵团’40多万发子弹，并有两个月的储粮，粮弹充足，工事也不断加强，曾思玉军长有信心完成阻击国民党‘宁夏兵团’援兰的任务，再加上三边部队5个团的支援，阻击援兰就更有把握了。至于攻打兰州，现在已经摸清了敌人的阵地情况和兵力部署，只要有一天的准备，我们有信心把国民党‘青海兵团’的阵地拿下来。”
在兰州战役前后十几天内，彭德怀司令员几乎每天都向中央军委和毛泽东报告前线情况，并多次得到毛泽东的指示。1949年8月23日，毛泽东又指示彭德怀说：“马步芳即决心守兰州，有利于我军歼灭该敌，须集中三个兵团全力于攻兰战役，王震兵团从上游渡河后，似宜迂回于兰州后方，即切断兰州通青海及通新疆的道路并参加攻击，而主要是切断通新疆的道路，务不使马步芳即至新疆为害无穷，攻击前似须有一星期或更多时间使部队恢复体力，详细侦察敌情、地形和鼓舞士气，作充分的战斗准备，并须准备一次打不开而用二次、三次攻击歼灭青海兵团。”
彭德怀遵照毛泽东指示立即调整了部署，并设想了可能出现的最困难的情况。1949年8月24日，彭德怀报告毛泽东说：“我军决定以3个兵团打兰州，王震兵团从兰州上游迂回兰州以北。国民党‘宁夏兵团’出动3个军经黄河左岸增援兰州的可能性很大。如果‘二马’集结兰州，加上周嘉彬、黄祖勋两部共有13万兵力据守坚城，我军即使集中3个兵团短期内亦不易攻占，同时粮食很困难，运输线长，运输工具少，弹药都不能得到充分接济，运粮更不可能。故决定乘国民党‘宁夏兵团’未到前，先攻打兰州，消灭‘青海兵团’主力。解放军第二兵团、第十九兵团攻城准备工作已妥，疲劳尚未恢复，粮、油、菜更难解决，‘青海兵团’不断反袭故很难得到休息。以现在准备工作看，攻城已有七八成把握，故决定在8月25日晨开始攻击。如果未解决‘青海兵团’主力，而‘宁夏兵团’援军迫近时，即以4个军攻打兰州，再集结5个军打‘宁夏兵团’”。
毛泽东接到彭德怀报告后，于1949年8月26日电复彭德怀指出：“如你们25日攻兰州得手，则局面起了变化，如不得手，则为侦察性质的作战，如果25日不得手而‘宁夏兵团’来援，则请照你们24日电的决心，确定先打援后攻城。”
1949年8月23日、24日，第一野战军深入进行了政治动员和两天的战斗准备，认真检讨了经验教训，仔细侦察地形，反复摸清道路，进行了详细的沙盘作业，开展了军事民主，发动群众研究攻击敌人的战术，组织力量挖交通沟改造了地形，并动员一切人力、畜力和交通工具运送物资器材。
1949年8月24日，兰州下了一天雨，整个兰州大地笼罩在云雾和蒙蒙细雨之中，这倒便利于解放军进行准备工作。可是大家都希望这种阴雨天气不要持续下去，以免影响我军的总攻。到了夜晚，果然雨停云散了，天空异常清澈透明，真是天公作美，有这样一个好天气，战士开玩笑说：“马步芳作恶多端，激起了天怒人怨，老天爷也来帮助我们消灭他了。”
（第三节）解放军和国民党“青海兵团”厮杀肉搏于兰州城
1949年8月25日拂晓，解放军第一野战军向兰州发起全线总攻，在猛烈炮火掩护下步兵勇猛地冲向敌人的阵地，经过激烈搏斗，解放军第二兵团第四军首先攻占了主阵地狗娃山。下午5时，解放军第六军攻克了南山最高峰营盘岭主阵地三营子，第十九兵团第六十三军一八九师于下午4时攻占敌主阵地豆家山，第六十五军一九三师于当晚攻占古城岭、马家山。战斗中国民党“青海兵团”指挥官用机枪和大刀督战，连续向我军发动反冲击。我军攻占敌人每一道壕沟、每一道峭壁和每一个阵地，都经过了艰苦的战斗和反复的争夺，同敌人厮杀肉搏。
第十九兵团第六十三军、第六十五军在强大炮火支援下向古城岭国民党“青海兵团”守军发起猛攻。经反复连续冲击，上午9时40分，解放军五七七团六连首先突破了古城岭国民党“青海兵团”守军的第二道外壕，三营随即跟进，七连攻占了第二道外壕的3个地堡。同时，解放军五七八团三营从右侧攻占了第三道外壕。战斗发展迅速，使敌人极其恐慌。
就在敌我双方恶战交锋还未见分晓的时候，国民党“青海兵团”守军使出了“杀手锏”，士兵在督战军官马刀、机枪的威逼下，兵分三路沿两边外壕向我军阵地连续反扑，阵地上展开了激烈残酷的、你死我活的争夺战，敌人冲下来，解放军打上去，往返拉锯战20多次，长达5小时。解放军五七八团七连沿右翼峭壁攀上，攻占了古城岭敌5号、6号阵地。阵地被我军占领后，国民党“青海兵团”守军组成三路连续反扑，我军战士英勇拼杀，坚守阵地，先后打垮敌人多次反扑。在“宁愿前进一丈死，决不后退一寸生”的口号下，解放军战士们英勇冲杀，同敌人展开了殊死搏斗。解放军五七八团三连一鼓作气攻占了古城岭第三道堑壕阵地。冲在前面的二排长，在抗击敌人第六次反扑时头部负了重伤，三排长马上代替指挥，他带领二排、三排一起作战。在打退敌人第七次反扑时，三排长也负了重伤，副排长领着大家又打退了敌人第八次反扑并接近了主峰。一班刺杀英雄陈振忠同志头上挂了花，连长、指导员都劝他下去，他坚决不下，连长大声喊道：“向重伤不下火线的陈振忠同志学习！”随之，全连干部战士精神更加振奋，越战越勇，连续打垮敌人14次反冲击，顽强地守住了阵地。
解放军五七九团三营班长刘维民指挥全班攻占了敌第三道外壕，以手榴弹、机枪击退敌连续多次反扑后，最后仅只剩下刘维民、于世元两位战士。在子弹打光了的危急时刻，刘维民、于世元二人机智地从敌人的尸体旁扒出一挺机枪和一些手榴弹，把猖狂反扑的敌人打退，守住了阵地，最后坚持到增援部队到来。战士史跃增身负五处重伤不下火线；三班战士刘云材一人投出130多枚手榴弹。五七九团六连战士任喜礼、李新、张有福、吴城英以勇猛的动作，手执红旗最先冲向敌人第三道外壕，敌人火力封锁了后续部队，他们在三面受敌的夹击下，坚持战斗，英勇抗击，连续击退敌人约两个连兵力的反扑。五七九团四连二班长杨顺文带领全班冲杀在最前头，给部队杀开了一条冲锋的血路，在班里战友全部牺牲后，他也两次负伤，一人在阵地上与敌人英勇作战，徒手与敌人厮杀搏斗，直至流尽最后一滴血，最终把红旗插在无名高地上。
两军决战，战局瞬变。不甘心失败的国民党“青海兵团”这时集中全部兵力、火力，多路猛烈地向我第十九兵团六十三军进行反冲击。我六十三军部队伤亡较大，先后失去了部分阵地。