小河村毛泽东给陈赓讲了项羽破釜沉舟的典故。不久，陈赓、谢富治率8万大军强渡黄河，截击了陇海线，东逼洛阳、郑州，西叩潼关，东西往返机动，沿伏牛山两侧展开。老百姓称“陈将军骑龙过黄河”。
1947年夏天，毛泽东召见陈赓。
6个月以来，陈赓与王震联合指挥了1月的汾孝战役，陈赓率第四纵队回师太岳解放区后，于4月发动了晋南反攻战役，其间既有攻城胜利的喜悦，又有未能全歼国民党军队的遗憾，陈赓知道此次陕北之行必有重任，他渴望在新的战斗中弥补遗憾。
1947年7月，中央在陕西靖边小河村召开前委会时，彭德怀、贺龙、陈赓(右二)、王震合影。多日不见的战友在小河村聚会了，他们双手紧握，互致问候，属于乐天派的陈赓，风趣幽默，更使整个院子充满了欢声笑语。
会上，毛泽东、周恩来详尽地说明了中共中央关于“将战争引向国民党统治区”的战略意图，确定战略进攻的主要突击方向对准中原，正式下令以陈赓和谢富治为首组建一个兵团，南渡黄河挺进豫西。开会期间，陈赓和毛泽东、周恩来同住一个院子，比别人有更多机会向毛泽东求教新的战略决策。毛泽东向陈赓指示：刘邓挺进大别山，一定搞得国民党军手忙脚乱，到处调兵去堵；胡宗南又被牵在陕北陷入绝境。豫西国民党军不多，是个空子，出师豫西是有战略意义的。进去以后应当放手发展，东面配合刘邓、陈粟，西面配合陕北，东西机动作战，大量歼灭国民党军，开辟豫陕鄂根据地。
陈赓返回部队时，毛泽东亲自送行，在小河村外，依依话别。毛泽东还津津有味地讲起了破釜沉舟的典故。当年项羽渡河的地方，正是陈赓部队将要渡河的地方。陈赓内心是十分清楚毛泽东的用意的，他深深感到中央军委和毛泽东对他的信任，倍感肩上的担子沉重。
陈赓于7月下旬返回山西翼城，即向全军传达了中共中央的进军命令。遵照中共中央军委的命令，原晋冀鲁豫野战军第四纵队，新成立的晋冀鲁豫野战军第九纵队，光荣起义加入人民解放军的第三十八军及太岳军区的二十二旅，共8万人组成兵团，陈赓被任命为前委书记，谢富治为前委副书记。
8月11日晚，陈谢兵团开始南征。在发起渡河作战前夕，西北野战军于榆林战役后，又在沙家店歼灭了胡宗南主力部队第三十六师，使胡宗南集团深陷在米脂以北地区，饥疲不堪；刘邓大军主力已通过黄泛区，渡过沙河、汝河直指大别山，调动了顾祝同主力20多个旅向南追堵。这就使顾和胡两个集团的主力无暇顾及豫西陕南地区。此时，沿黄河南岸孟津至潼关500里正面上，有国民党军整编十五师、青年军二○六、胡宗南七十六师的新一旅等等，分别位于洛阳、陕县、灵宝、潼关之间，依托陇海铁路作第一线机动防御，而陇海路以南广大地区只有各县保安队守备。
根据这一态势，陈赓在阳城召开了前委会议，提出为求在较大范围正面同时突破，并防止洛阳陕县之国民党军东西夹击，保证过河后部队能迅速展开和开展进攻，决定以第四纵队的4个旅为左集团，其第十、第十一旅在官阳至青河口，第十二、十三旅在大教至马湾施渡，尔后，以主力迅速向陇海路突击，攻占新安、渑池，并相机夺取洛阳。以第三十八军和第二十二旅为右集团，在茅津渡以东渡河，尔后以一部向东奔袭张茅镇和观音堂车站，以策应左集团作战，其主力向西南方向发展，威逼陕县并向西迂回大营车站，切断灵陕之间国民党军的联络，抗击与牵制由陕西东进之援军。以第九纵队为兵团第二梯队，尾随第四纵队渡河，尔后，主力向东南发展，牵制郑州之国民党军。
此番部署，陈赓经过了深思熟虑。对于挺进豫西，他的构想是：渡过黄河不打几个硬仗，不歼灭国民党军一些正规部队，自己就站不住脚，要想把地盘扎牢，还必须扫除国民党地方武装、建立根据地。纵观兵团总体情况，他决定将打硬仗的任务先由第四纵队各旅来承担，因为这几个旅有和蒋军作战的经验，且兵源足、装备好，经得起摔打，而第九纵队和三十八军均属新建部队，陈赓不愿意一下子就把重担推在他们身上，使他们去承受过大的牺牲，他的用心可谓良苦。
阳城会议后，陈赓的指挥所一再前移。8月19日，先头部队已抵进黄河渡口。
8月23日拂晓，渡河战斗开始。左集团在渡河点北岸25里正面组织了5000个强大的火力点，黑黝黝的大炮瞄向对岸碉堡，轻重机枪对准碉堡的窗洞和枪眼。渡船悄悄地推下水，隐蔽在岸边的突击队员迅速登上船头。晨雾迷漫，河水喧腾，掩盖了渡河行动的一切迹象。
5点30分，各渡口部队同时出发。第二旅二十九团三营突击队第七连，首先从李河口渡口向对岸飞驰。行至河心，国民党守军方才察觉，慌乱出击。船头的勇士们凭借沙包掩护，用机枪横扫滩头阵地上的国民党军。仅用了15分钟，第七连即登上南岸，一举攻克北村、西沃，俘国民党军50余人，随即向敌防最坚固的石头山跃进。
23日12时，第十三旅发起强渡。三十九团一营三连在全旅的火力掩护下，向对岸急驰，不少战士以铁锹代桨划水，加快船速，一举攻占了滩头阵地，进而占领了椿树坪香头庙要点，保障了后续部队的顺利渡河。三十九团乘胜南进，急行军90里奔袭新安。24日午夜进抵新安城下。此时，陇海线上灯火通明，人声鼎沸，国民党官僚们正在抢运资财，疏散眷属，县城陷入一片混乱。三十九团沿着凹道冲入北关，直到离城墙只差几米的地方，守军才惊慌地询问口令，发觉形势不妙，连忙打枪报警。三十九团的重机枪早已吼起来，突击队以敏捷的动作架起云梯登上城楼，向纵深发展，守军吓得满街胡跑乱窜，不及10小时，三十九团全歼守军1300人。
25日下午，十三旅主力按预定计划越过新安插入铁路以南，以一部南进夺取宜阳，主力沿陇海路西奔渑池。三十七团和十团二营冒雨涉过宽50米、深没脖颈的洛河，将宜阳团团包围住。黎明的夜漆黑一团，雨下得更大了，部队决定回撤，留下王安国所在的班作掩护。29日拂晓，县城西门洞开，守军100多人蜂拥而出，欲意西逃。王安国率领全班战士集中火力迎头痛击，紧跟着溃退的守军进入县城。此时，解放军主力部队又调头攻进城门。天明雨停，战斗结束，英雄王安国以其机警灵活带领全班创造了惊人战绩，俘敌60余名，缴重机枪2挺、六炮1门、步枪200余支、电台两部。
沿铁路线猛扑渑池的是三十八团和三十九团，经过1个小时的冲杀，轻而易举地占领了渑池。
第十三旅渡河后，神速前进，接连占领了3座县城，歼国民党军4000余人，受到兵团前委会的通令嘉奖。
西线的各集团集中在平陆茅津渡地区等待渡河，没有渡船的困难压不倒解放军战士，当地群众帮助他们“骑龙过黄河”。这“龙”指的是一丈多长黄澄澄的油布包，里面裹的全是临时收购来的玉米秆、高粱秆、棉花秆，还有棉花。这样的油布包可坐两三个人，枪打不沉，划着轻便，桨刚着水，油布包便向前冲击很远，缺点是遇风浪时油布包打转，难以控制它。经过反复试验，决定每3个油布包编成一架，后尾安上舵，可坐一班人，还可载一挺机枪和一门小炮，每架油布包上配一位有经验的老艄公掌舵。
23日凌晨，朦胧中，只见解放军战士们急速地挥动双臂，油布包立刻像脱僵的野马飞向南岸，约摸过了十几分钟，远处忽然一亮，南岸马家河底的山包上，燃起了三堆熊熊火焰，这是河防被突破的信号。
截至25日，陈谢兵团除九纵队和后方部队外，均已完成南渡任务。在黄河两岸人民中也传颂起“陈将军骑龙过黄河”的动人神话。
陈谢大军挥师南下，主力向豫西沿平汉路两侧进击。在伏牛山区上演了一场“牵牛、赶牛、宰牛”的壮举。到11月底，歼敌5万余人，完成了在豫陕鄂边的战略展开，形成了与刘邓、陈粟大军，三军配合，鼎立中原的态势。
不知道蒋介石是否相信陈将军骑龙过黄河的神话，现实是刘邓大军已跃进到大别山，好像一把利剑直插蒋军心脏。为了堵住陇海路上这个可怕的缺口，蒋介石不得不调整战略部署，急忙组织两个兵团，准备东西夹击陈、谢。
从8月30日起，毛泽东连拟数封电报指示陈赓：“西面空虚，攻取较易，洛阳附近，敌所必争，不应使用主力”，要求他“速以四纵全部、三十八军及二十二旅抢占陕县、灵宝、阌乡、卢氏，相机抢占各南、商县、商南，秦纵(秦基伟纵队，即第九纵队)位于新孟洛地区，牵制洛阳之敌，以一部攻占宜阳、嵩县……”
是时，国民党陕东兵团除集中1万余人据守陕县外，陕县以南的兵力还处在集结部署之中，或以营或以团为单位摆出了一个一字长蛇阵。据此，陈赓提出对策，先拿这个长蛇阵开刀，分段歼灭。为隐蔽作战意图，他决定一面派军绕过守军重兵把守的陕县、灵宝，直趋潼关，摆出一副欲重点抢占潼关、直取西安的姿态；另一方面又命第九纵队主力在洛阳以南分散活动，攻占城镇，歼灭地方部队，给国民党军以主力在豫西的错觉，借以稳住第五兵团。
9月2日，第十一、十三旅挥师西向，先以一部监视陕县、灵宝之敌，主力则以突然行动，扫清了陕县和灵宝之外围障碍，使这两地顿时孤立。9月11日，第十一、十三两旅分别在灵宝外围展开进攻。第十一旅以2个团的兵力向南关压缩，以1个团夺函谷关。至次日凌晨2时，即控制了城南外围，并占领函谷关。与此同时，第十三旅也攻占了城东之南营寨，直逼城关。
12日21时，敌守军离开坚固的工事，主动出城迎战。第十一、第十三旅乘机勇猛堵击，激战不到3个小时，俘获新一旅旅长以下5600人，战斗胜利结束。
同日，陈谢所部还占领了阌乡、卢氏。随后，以一部西叩潼关，另一部回打陕县。18日，解放军发起总攻，仅4个小时即占领陕县，全歼国民党军一三五旅和二○六师一部共5000余人。
灵陕战役半个月，全歼陕东兵团等部3万多人，控制了从新安到潼关的广大地区，切断了蒋军东西间的联系，直接威胁西安的安全。蒋介石不得不于20日急飞西安，再次调整战略部署，从进攻大别山的部队中抽出六十五师，空运西安，并从陕北战场调回部分部队，这样就更多地调动了进攻陕北的国民党军回头在陕中布防，有力地配合了西北野战军转入反攻。
就在蒋介石滞留西安期间，毛泽东电示陈赓：“西安、潼关一线数日内可到之敌共有10个半旅，继续西进，难以得手；郑州、洛阳间李铁军部6个旅较弱，应率主力东进，突然包围六十四旅及武廷麟第十五师师部，之后，攻占郑州、洛阳以南、平汉路以西各县，开辟豫西根据地；以一部出陕南，开辟陕南根据地。”
陈谢兵团奉命隐蔽东进，又一次出乎国民党意料之外。李铁军第五兵团还茫然无知，以为陈赓主力仍在潼关，妄想乘虚西进。10月1日，第四纵队在铁门与敌第十五师六十四旅遭遇，敌惊恐万状，除师长武廷麟率残部南逃外，余全部被歼。
这时蒋介石在洛阳集中整编三师、二十师等7个旅，在潼关集中一师、三十八师等8个旅，准备再度从东西两面夹击陈谢兵团，恢复陇海路的交通。面对瞬息万变的军情，毛泽东再次电示陈赓：“除留一部在陇海路钳制裴昌会兵团外，主力应从陇海路南下，歼灭豫西各县的反动武装，开辟根据地。
离开陇海路南下，意味着距黄河以北的解放区越来越远，陈赓毅然执行了这个“从中原大局着眼极为有力的一种安排”。10月底，陈谢兵团挥师南下。
至此，刘邓野战军主力、陈粟野战军主力和陈谢兵团在中原以“品”字形阵势展开，迫使国民党的战线由黄河移到长江，把国民党进攻解放区的战略后方变成解放军战略进攻的前进基地并且直接威胁到国民党江南统治区，这样人民解放军便转入了全国规模的战略反攻。
陈谢兵团离开陇海线分两路南下，其西线部队在陕西展开，执行开辟陕西根据地的任务。东线部队作为兵团主力，在伏牛山东麓南北300里战线上，即在平汉路西侧，北起登封，南至南召的广大地区发动新的攻势。在1947年11月1日至5日，连克8座县城，歼敌5700余人，初步打开了豫西的局面，连国民党的报纸也不得不承认“解放军攻城陷地，如入无人之境”。
11月4日下午，陈谢兵团刚进至南召、方城一带，李铁军率第五兵团南下尾追而来。5个旅的尾追，如在黄河以北的解放区，对于陈谢兵团根本算不上一件大事，因为那里有巩固的后方作依托，来去自如，而伏牛山地区的情况就不同了，根据地没有建立，群众没有发动，加之当时能够集中作战的兵力亦不过5个旅，对付尾追之敌，绝非易事。11月8日，陈赓主持，在南召县的南河店召开了兵团前委扩大会，着重研究对付李铁军的办法。
陈赓在发言中分析道：我们的作战方针是“不打无准备之仗，不打无把握之仗”。现时，我们仅有5个旅的兵力，又在新区，并无立即歼灭眼前这股国民党军的把握，如果贸然行动，可能会使自己陷入被动境地。但我们却能扯散它，消耗它。一旦时机成熟，我们就能集中优势兵力各个歼灭。同时，从中原的全局着眼，我们的主力绝不能向西钻到大山里去，而要在伏牛山东麓的广大地区展开，随时准备出击国民党军的动脉平汉线。这样才能有效地策应刘邓大军在大别山的斗争。
陈赓的分析赢得大多数与会者的支持，他们完全同意陈赓设计的“豫西牵牛”计划。
11月14日，“牵牛”部队从南召李青店出发，第二十五旅奔石佛寺，第十三旅朝镇平方向南下。为造声势，部队分为多路，浩浩荡荡地成扇面向前推进，路过村庄，战士们南腔北调，大声喧哗，故意暴露目标。第十三旅离开南召已经40多里后，仍不见李铁军的动静，旅长陈康便按陈赓说的办法，派出一支部队绕路返回到已经走过的村庄宿营，号房子，垒炉灶，一个班垒上好几个，有的用来做饭，有的用来烧水。顷刻，几个排就能把一个百十户人家的村子，弄得青烟缭绕，红火映天。第二天，解放军大部队路过的消息就传扬开了。
15日下午，第十三旅进了刘村镇，刚消灭当地的一股土顽，一个侦察员兴冲冲地跑来报告：李铁军上钩了。不久枪声传来，后卫部队果然与追兵交上了火。陈康松了一口气，命令部队前进。
熟料，老奸巨滑的李铁军没有上钩。作为黄埔一期生，李铁军素知陈赓这位同窗的历害，他一直在处心积虑地打探虚实，刘村镇遭遇战也不能使他相信陈赓主力在此。他命令部队按兵不动，继续侦察。
“请将”不成，陈赓决定“激将”。他下令：坚决夺取镇平，以暴露南阳。镇平是南阳西面的门户，也是南阳通往内乡、西峡口的要道，拿下镇平，南阳背后受到威胁，李铁军定会救援。