1946年底，在山东和苏北，陈毅、粟裕指挥华东野战军南征北战，先后取得宿北、鲁南战役的胜利，打破了敌人分割华中、山东两野战军，各个击破的企图，夺得战场主动权。
蒋介石不甘心苏中战役的失败，又调集重兵，分别向苏北、鲁南两线频繁地发起进攻，企图迫使我山东、华中两支野战军分兵应敌，然后予以各个击破。为了改变华东战局，粉碎敌人“先解决苏北，然后以苏北苏中主(力)军(12个军)进攻山东”的企图，中共中央决定将华中、山东两野战军集中行动，以便集中兵力，打更大规模的歼灭战。1946年9月23日，中央电示：“山野、华野集中行动，两个指挥部也应合一。提议陈毅为司令兼政委，粟裕为副司令，谭震林为副政委。”遵照此令，粟裕率华中野战军主力北上。
11月15日，蒋介石一手导演的“国民大会”召开。为了达到军事上配合政治的目的，他集中了25.5个旅分四路向我苏北、鲁南发起进攻，形成半包围的态势。粟裕进行了多方面的考虑，他认为，从战略防御阶段来看，把鲁南作为诱敌深入的底线要比淮海好，因此，全军入鲁的设想无疑是正确的，但在入鲁之前应在淮海地区打一仗。
经过反复商讨，陈毅、粟裕决定，全军暂缓去鲁南，先在淮海打一个大规模的歼灭战，并将这一想法立即报告给中央。10月15日，中央复电，肯定了粟裕的这一正确意见。
12月15日华野、山野部队在粟裕的指挥下发起宿北战役。为了尽快地歼灭敌人，粟裕还注意发挥各部队的特长。其中，山东八师是鲁南部队，有丰富的山地作战经验，作风勇猛顽强。而一纵长期在苏中平原水网地区作战，机动灵活，擅长野战。于是粟裕用八师负责攻坚，以一师担任穿插分割。
宿北一仗是我军摆脱被动夺取战场主动的关键，也是山东、华中野战军合并后共同作战的第一次，打胜了，兄弟部队之间就产生了信任；打败了，上下之间和兄弟部队之间就容易相互埋怨。毛泽东正是深深了解这一点，才来电命令：“只许打胜，不许打败。”
12月13日，我部队到达指定位置，敌人则已先行一步占领阵地。胡琏的整编第十一师占领了曹家集、高圩，戴谕的整编六十九师已占领晓店子、嶂山镇。
粟裕要采取各个击破的战术，整编十一师是蒋介石五大主力之一，全部美式装备，战斗力较强。因此，粟裕决定先打六十九师，再打十一师。5月，战斗打响了。负责攻坚的八师同敌军展开了对峰山的争夺。峰山是敌军驻地晓店子的正面屏障，也是敌重点设防的据点。八师经过一昼夜的激战拿下了峰山，并打退了敌军的多次反扑。
与此同时，第一纵队的一部越过宿新公路，插入敌人纵深，在曹家集附近歼敌十一师师属工兵营和骑兵营，迫使十一师向曹家集收缩。而第一、第二、第九纵队以及第七、第八师等部继续向敌人的纵深猛插，于17日在宿迁以北的晓店子、苗庄、傅家湖、罗庄地区，完成了对敌六十九师的包围和分割，并切断了六十九师和十一师的联系。
18日晚，六十九师在人和圩的师部被我军攻破，师长戴谕举枪自杀。19日上午，困守苗庄的六十九师残部向南北两个方向突围，除300余人逃跑外，全部被歼。
至此，敌整编六十九师全军覆没，宿北一役歼敌2.1万余人。宿北战役取得了全面内战爆发以来我军一次战役歼敌3个半旅的最好成绩。随后，陈毅、粟裕指挥部队跨过沐河，开始向鲁南进发了。
宿北战役的胜利，打垮了敌人四路进攻中对华东我军威胁最大的一路，打破了敌人切断我华中、山东两野战军的联系，实行各个击破以“迅速结束苏北战事”的企图，对改善华东战局具有十分重要的意义，也充分证明了粟裕先在淮海打仗的建议是非常正确的。
1946年12月，当宿北战役还在进行中时，新战役的设想便在陈毅、粟裕的头脑中开始酝酿了。宿北战役行将结束之际，毛泽东曾电示陈、粟，建议华东的第二步作战，宜集中主力歼灭鲁南之敌，并相机恢复枣庄、峄县、台儿庄，使鲁南解放区获得巩固，便于今后无顾虑地向南发展。
1947年1月陈毅、粟裕与华东野战军部分指挥员合影。左起：叶飞、丁秋生、韦国清、邓子恢、陈毅、唐亮、粟裕、陈士榘、谭震林。毛泽东的指示着眼于全局的发展，当然是有道理的。不过，陈、粟最初的设想却不是打鲁南之敌，而是准备西渡运河，恢复淮北，逼进津浦路及徐州，以调动敌人，寻机歼敌。他们慎重考虑中央意见后，觉得首先应从实际出发，哪里的敌人好打，就先打哪里。
战场上的情况瞬息万变。当宿北战役进入尾声时，陈、粟获悉：薛岳命令整编七十四师由涟水向北进攻，限12月23日攻占沭阳。他俩判断，如薛岳的上述命令得以实施，整编七十四师势必孤军冒进，有利于他们就近转兵将该敌围歼。因此，他们又放弃了西出淮北的设想，决定先打整编七十四师。
可是，过了好几天，直到12月23日，整编七十四师仍在涟水原地未动，并与友邻之第七军、整编二十八师靠拢。显然，敌军不敢冒进，企图等候其他部队到齐后，再继续北犯。既然该路敌人密集而不易分割，陈、粟遂又放弃了打整编七十四师的计划，决定按照毛泽东的指示，回师鲁南，并报告了延安。
接到报告后，毛泽东立即复电，再一次指示陈、粟：如放弃打整编七十四师计划，似宜集中25个团的兵力歼灭鲁南之敌，打一个比宿北更大的歼灭战。他还强调指出：“鲁南战役关系全局，此战胜利，即使苏北各城全失，亦有办法恢复。”
决心已定，又获得了最高统帅的批准，陈、粟当机立断，丢下当面之敌不顾，立即挥师北上，实施鲁南歼敌计划。
南北两路之国民党军慑于解放军宿北大捷之威，不敢继续东进，而中路整编二十六师却孤军深入。
整编二十六师是国民党在鲁南的主力，战斗力甚强。第一快速纵队更号称“国军精华”，配属有步兵旅、炮兵团、战车营、工兵营、汽车团等，全副美式装备。
陈毅、粟裕集中了27个主力团，正式发起鲁南战役。
参战部队分为两部分：以第一纵队、华中第一师为左纵队，15个团，归野战军指挥部直接指挥，第一纵队集中兵力围歼卞庄之敌，完成任务后，配合第一师歼灭快速纵队及一六九旅残部；第四、八、九、十师及警备旅为右纵队，12个团，归鲁中军区司令员王建安指挥，围歼敌第四十四旅，尔后视情况歼马家集整编二十六师师部，打乱其指挥机关。
1947年1月1日拂晓前，各部队都按时到达了指定地域隐蔽集结，在紧张的战前准备中度过了元旦。
国民党军丝毫没有察觉，以为总要过几天才会有仗打呢。元旦上午，整编二十六师师部还举行了庆祝元旦的会餐，师长马励武会餐后，将前方指挥任务交给了副师长曹玉珩和参谋长郑辅增，自己乘车回到峄县，向二十七军军长李玉堂作“新年的祝贺”。
元旦的第二天，华野左右两纵队分别从北面和南面向敌人发起攻击。
3日夜，陈、粟大军各部队相继完成任务，整编二十六师大部被歼，快速纵队完全陷于孤立被围的境地。
到下午3时，国民党军除整编二十六师副师长曹玉珩、参谋长郑辅增带7辆坦克逃回峄县外，3万余人全部覆灭，华野缴获到完完整整24辆坦克。在围歼的过程中，枣庄和峄县之敌曾各出动部分兵力东援，均被解放军击退，整编三十三军略作骚扰就赶快南撤。至此，鲁南战役第一阶段作战胜利结束。
鲁南战役第二阶段的作战任务，按预定方案是乘胜寻歼整编三十三军，并相机收复台儿庄、峄县。
但情况发生了变化，整编三十三军已在5日全部退缩到运河以南，背靠徐州，依托原有工事防御。峄县、枣庄守军也调整了布署，增加了兵力，加强了防御设施。此外，整编六十四师一部已进抵韩庄，整编二十师已接防临城(今薛城)，整编十一师正由宿迁向徐州东北转运中。战场敌情的变化，要求华野的作战计划也必须立即变更。
发现歼灭整编三十三军的战机已失，粟裕便向陈毅提出在战役的第二阶段同时攻取峄县、枣庄的建议。陈毅立刻表示同意，对下一步作战部署拟出了具体方案：
除以第八、九、四师第十团及警备旅按原计划攻取峄县外，调第十一师迅速北上攻取枣庄、齐村；
调第一纵队及新由苏北赶来的第十三旅，在峄县西南之文峰山、望仙山、白山一线，阻击可能由韩庄、台儿庄出援之敌；
另以第十师位于临城、齐村之间，阻击可能由临城东援之敌；鲁南第一军分区一个团进至临城、河沟之间，开展游击活动，破坏铁路公路，断绝敌人交通。
为掌握较大的机动力量，又从南线部队抽调第二纵队、第六师至沂河以西、兰陵至台儿庄公路以东地区，隐蔽集结，待机参战，留第七师、第九纵队，由谭震林指挥，牵制由沭阳北犯之敌。
攻打峄县的战斗进展顺利，1月6日截断县城通往韩庄的交通及通讯，7日攻下外围据点，将国民党军队压缩在城中。
10日，华野部队发起了总攻，第八师连续爆破首先突入南门，打退了马励武所部数次反击，缴获了前一阶段逃回峄县的7辆坦克，巩固了突破口，继而投入巷战，驻扎在天主堂的二十六师师部被解放军攻占。
在围攻峄县的同时，华中第一师主力对枣庄之国民党军发起攻击，并以部分兵力监视齐村、郭里集之国民党军，保障攻枣庄的主力两翼无恙。11日和12日两天，消灭了国民党军两个营，肃清了枣庄、齐村外围。13日，为使一师集中全力攻克枣庄，一纵被调来接替攻歼齐村。
19日晚总攻枣庄大围子。一纵二团攻占老枣庄，第四团连续爆破得手，炸开鹿砦围子，首先突入大围子，向纵深发展，进至小新街。同时，一师自南大井之西突进。20日，一师攻占中兴公司，全歼守军。
可以说，宿北、鲁南两战役的胜利，使解放军实现了自己的战略意图，夺取了战场主动权。
鲁南战役后，遵照中共中央的指示，华东解放区的党政军领导机构作了调整，部队也进行了统一整编。华中山东野战军正式合并，组成华东野战军。两军统一，为打更大规模的歼灭战，彻底粉碎国民党军对山东的进攻奠定了坚实的基础。
莱芜战役，陈诚挑起二陈决战，动用53个旅31万人向鲁南压来。陈毅、粟裕寻求战机，南击北进，结果用3天时间歼敌5.6万人，创造了新纪录。莱芜一战，林彪夸粟裕“尽打神仙仗”。
国民党军队遭受鲁南战役惨重打击后，又集中23个整编师53个旅，共31万人的重兵，分由陇海线徐州至海州段，津浦线徐州至济南段及胶济线中段三面向鲁南进犯。其主力18个整编师39个旅，置于徐州及其以东地区，并由陈诚亲自到徐州指挥。
鲁南战役一结束，陈毅、粟裕便开始密切注意和研究国民党军队的动向，考虑对付国民党军进攻的对策。远在陕北的毛泽东密切关注着华东战场，鉴于华东解放军连续获胜，毛泽东一再告诫陈、粟力戒急躁。
1月31日，在陈诚的严厉督促下，南线欧震集团按“鲁南会战”计划开始北进，20个旅分成左、中、右三路，向临沂杀气腾腾进击。陈、粟获悉国民党军队已行动的消息后，立即作出了相应的决策和部署。