1948年初秋，中共中央和毛泽东准备连续打几个大仗，在以徐州为中心的广大地区，歼灭长江以北的国民党军队主力部队，并指令华东野战军和中原野战军共同担负这一战略任务。这时，蒋介石鉴于全国战局吃紧，为了挽救南线危局，着手调整防御部署。他以重兵集结于以徐州为中心的津浦路和陇海路的十字架上，妄图阻止我军南下。
如何进行这场有关生死命运的决战？双方都展开了紧张而周密、细致的战略运筹。
粟裕再一次建言毛泽东：举行淮海战役
1948年9月24日凌晨，华野已由东、西两面突入内城，济南城计时可克。而在徐州方面，准备增援济南的国民党军邱清泉兵团才到成武、曹县地区集结，黄伯韬兵团还没有完全集结，李弥兵团则远在固镇附近地区；他们已经察知我军打援部队正严阵以待，顾虑重重，迟迟不敢前进。
在这种情况下，援敌一旦知道我军已经完全攻占济南，便可能停止北援而转为加强戒备，以防我军主力南进，那时，我军预定的打援计划便将落空。
因此，华野前委及时召开会议，着重讨论了若敌人停止北援，我军下一步如何行动的问题。会议提出了两个作战方向：一是出鲁西南，跨陇海路，会合中野，寻歼敌军于徐州西南；一是由鲁南南下，出苏北、战淮海，然后攻略徐州。
在讨论中，大家分析了这两个作战方向的利弊，认为前者战场辽阔，便于大兵团运动，一仗胜利，便可发展对徐州的战略包围，对敌人是致命的威胁。但是，这个地区东临徐州，南接蚌埠，西近武汉，我军在这地区展开将三面受敌，而且我军脱离了根据地，后方供应困难，也有许多不利因素。
后者可以避免出鲁西南的许多不利，可以改善南线战局，暴露津浦线，迫使敌人退守或加强江边及津浦铁路沿线的防务，以减少其机动兵力，有利于我军恢复江边工作，为将来渡江创造有利条件，而且交通运输和供应都很方便，可以争取华中人力、物力的供应和支持。这个方向的困难是，由于敌我双方兵力高度集中于鲁南地区，对老解放区的人力、物力消耗较严重，但这些困难比起出鲁西南要小得多。经过热烈的讨论，统一了思想，大家认为后一个作战方向最好。
华野副司令员粟裕，根据会议讨论的意见，于24日晨向中央军委报告，提出了在敌人停止北援的情况下，下一步行动的具体建议，这个建议提出了四个设想。
（一）为更好地改善中原战局，孤立津浦线，并迫使敌人退守（至少要加强）江边及津浦沿线，以减少其机动兵力，与便于恢复江边工作为将来渡江创造有利条件，以及便于尔后华野全军进入陇海路以南作战，能得到交通运输供应的方便和争取华中人力、物力对战争的支持，建议即进行淮海战役（这里所说的“淮海”是指淮阴、淮安和海州等地区）。该战役可分为两个阶段：第一阶段以苏北兵团（须加强一个纵队）攻占两淮，并乘胜收复宝应、高邮，而以全军主力位于宿迁至运河车站沿线两岸，以歼灭可能来援之敌，如敌不援或被阻，而改经浦口长江自扬州北援，则华野于两淮作战结束前后，即进行战役第二步，以3个纵队攻占海州、连云港，结束淮海战役，尔后，全军转入休整。
（二）只进行海州作战，仅以攻占海州、新浦、连云港等地为目的，并以主力控制于新安镇、运河车站南北及峄枣线，以备战姿态进行休整。此案对部队休整更便利，但亦增加今后攻占两淮的困难（敌可能增兵）。
（三）全力向南求援敌之一部而歼灭之，但济南攻克，敌人加强警惕，可能退缩，恐不易求战。
（四）全军即进入休整，如此对部队有好处，但易失去适宜作战秋凉气候和济南失守后加于敌人之精神压力。
粟裕的这个建议发出后，当天晚上我军即解放了济南，正如我军所料，徐州的敌人没有赴援。
9月25日，刘伯承、陈毅（陈毅当时任华野司令员、中原局第二书记、中原军区副司令员，随同中野行动）和李先念表示支持粟裕的建议，同意在济南攻克后，乘胜进行淮海战役，以第一方案攻两淮并攻打援敌为最好，如能配合一部分国民党杂牌部队反正则收效更大。同时表示，中野采取分散歼敌的方针，争取在江汉地区歼敌一部，以吸住西边的敌人，配合华野在东边的作战，中野的这一行动，为后来两大野战军会师淮海，并肩作战，奠定了基础。
同日晚，中央军委批准了华野关于举行淮海战役的建议，认为“举行淮海战役甚为必要”。中央军委指示华野，这个战役要准备进行几个作战：（一）第一个作战应以歼灭黄伯韬兵团于新安镇、运河之线为目标；（二）歼灭两淮、高宝地区之敌为第二个作战；（三）歼灭海州、连云港、灌云地区之敌为第三个作战。中央军委强调指出：进行这3个作战是一个大战役，打得好，可以歼敌十几个旅，打通山东与苏北的联系，迫使敌人分散一部分兵力去保卫长江，而利于我军下一步进行徐州、浦口线上的作战。中央军委要求华野在10月10日以前做好有关这一战役的充分准备工作，并开一次干部会议，统一作战意志，调整内部关系。
28日，中央军委又一次指示华野：淮海战役第一个作战，并且是最主要的作战，是钳制邱清泉、李弥两兵团，歼灭黄伯韬兵团。这一战役必比济南战役规模要大。因此，必须有相当时间使攻济兵团获得休整补充，并对全军作战所需包括全部后勤工作在内，有充分之准备，方可开始行动。战役时间包括打黄伯韬兵团，打东海，打两淮在内，须有1个月至1个半月，战后休整1个月，故须准备2个月至两个半月的粮秣用品。师长以上干部到会的曲阜会议宜推迟数日举行，以便攻济兵团各纵、师能在会议以前稍加整理。为照顾到攻济兵团的休补，淮海战役出动时间，似须推迟至10月20左右。
华野前委在济南战役尚未结束时，便提出了下一步举行淮海战役的建议，并立即得到了中野负责同志的支持和中央军委的批准，这充分说明，中央军委和前线指挥员的战略指导思想是一致的，即不失时机地歼灭国民党军的有生力量，加速解放战争的进程。
华野前委提出的淮海战役，实际上只限于华东战场的淮阴、淮安和海州等地区。中央军委在批准这一建议时强调指出，淮海战役的第一个作战应当首先歼灭在新安镇至运河一线的国民党黄伯韬兵团。
中央军委这一指示，确定了淮海战役的初战目标，首先歼灭黄伯韬兵团。从这里可以看出，中央军委当时的着眼点，是要把敌军主力歼灭在长江以北。因为，当时两淮守敌并不太多，而黄伯韬兵团当时却拥有3个军，我军歼灭了黄伯韬兵团，可以达到大量歼敌的目的。
从黄伯韬兵团所处的地理位置上看，对我军也有许多有利条件，黄伯韬兵团远离徐州，位置突出，联络线较长，有利于我军进行分割包围。我军在新安镇地区作战，可以依靠鲁南、苏北解放区，随时都可得到后勤物资保障。如果我军第一仗就消灭了黄伯韬兵团，等于砍掉了徐州敌人的右臂，敌我双方在南线的兵力对比会发生迅速的变化。如果黄伯韬兵团被我围歼，徐州的邱清泉、李弥两个兵团则有可能被我调动，我军还可以继续扩大战果，求歼这两个兵团；也可以乘胜打开南下的通路，进击两淮，威胁南京，从而调动徐州之敌南援，以利我军于运动中歼灭敌人；还可以向西侧击津浦铁路，配合中野，完全孤立徐州。
中央军委关于首歼黄伯韬兵团的指示，对于后来整个淮海战役的胜利发展起到了决定性的作用。
华野前委为了贯彻中央9月会议精神，充分做好进行淮海战役的准备工作，根据中央军委要求他们需召开一次干部会议，以统一作战意志、调整内部关系的指示，并决定在10月上旬召开一次扩大会议。
华野司令部在迅速处理了济南战役的善后工作后，于10月3日由济南到达曲阜。10月5日，中国共产党华东野战军前线委员会扩大会议在曲阜召开，参加会议的有前委委员和各兵团、各纵队、各师的主要负责干部。
会议传达了中央9月会议的决议，以毛泽东在1948年5月间提出的关于“军队向前进，生产长一寸，加强纪律性，革命无不胜”的指示为主要议题，展开了讨论。
到会人员经过认真讨论，明确地认识到毛泽东的这一指示是引导中国革命迅速夺取全国胜利的唯一正确方针，只有军队向前进，才能更迅速地摧毁国民党的反动统治，更有力地鼓舞和援助国民党统治区人民的反对美蒋的斗争，并使解放区获得休养生息、发展生产的可能。只有使生产不断增长，才能改善解放区的人民生活，才能支援军队向前进，加速战争进程。只有开展反对无政府、无纪律倾向的斗争，加强纪律性，才能达到全党全军在政治上、思想上、组织上、行动上的一致，加强团结，以保证革命的胜利。
在提高认识、统一思想的基础上，华野前委和各兵团、纵队党委的主要负责干部，自觉地进行了自我检查，通过充分发扬民主，开展了批评和自我批评，总结了华野全军解放战争以来在贯彻执行党中央和中央军委的各项有关政策、指示及交给的政治、军事等各项任务的成绩和经验，找出了存在的问题，分析研究了原因，明确了方向。
这次会议历时20天。会议通过了《华野前委扩大会议关于加强纪律性克服无纪律无组织无政府状态的决议》。决议表示忠诚拥护中央决议和毛泽东的指示，决心为贯彻执行党中央的方针政策、完成中央交给的作战任务努力奋斗。决议还决定在全军范围内进行加强纪律性的教育，要求广大指战员加强对毛泽东思想的学习和党的政策的学习，各级党委加强集体领导制度，提高各级领导机关的工作效率，改进工作作风，决议还确定要按照规定，严格执行请示报告制度。
曲阜会议期间，华野司令部还召开了3次作战会议，学习讨论了中央军委关于淮海战役的指示，研究制定了战役的作战计划并作了具体部署。
会后，各纵队党委也都相应地作出了加强纪律性的决议，纵队以下各级党委都召开了党委会或干部会，结合本单位的实际情况传达中央9月会议精神和华野前委扩大会议决议，进行初步学习和检查，有的单位还作出了决议，各连队支部也普遍召开会议，组织学习中央指示和华野前委曲阜扩大会议精神，进行总结检查。这样，使中央指示和华野前委曲阜扩大会议精神很快地转化为争取新的胜利的力量，为增强内部团结，牢固树立整体观念，胜利完成作战任务奠定了坚实的思想基础。
华野前委曲阜扩大会议，为发起淮海战役作了思想上、组织上的充分准备。
华野司令部为了贯彻中央军委的指示，于10月9日在曲阜召开作战会议，会议传达了中央军委的指示，分析了当时的敌我态势，研究了关于淮海战役的作战方案，对战役发起后可能出现的几种情况作了充分估计。
济南解放后，国民党邱清泉兵团集结在商丘、朱集等地区。
李弥兵团的八军接替了徐州防务，九军集结在宿县至固镇一带。
黄伯韬兵团的二十五军在郯城，六十四军在新安镇东南的官庄、高潭沟、高流以及新安镇以北地区，六十三军主力在瓦窑，一部守备赵墩、运河车站。
盘踞临沂的土顽武装、山东伪保安旅王洪九部6000余人已弃城南窜至郯城。
原驻守菏泽的国民党五十五军的一八一师已撤退至商丘。
孙元良兵团已由郑州东调，准备开往蚌埠。
国民党第四绥靖区刘汝明部也由商丘地区东移。
陇海线以北附近地区，从郯城、峄县、枣庄、临城、丰县、鱼台、青崮集、刘口一线，国民党军布置了前哨阵地，主力部队则完全集结在陇海铁路沿线。
根据中央军委关于首歼黄伯韬兵团的指示，和战场敌军的分布情况，到会同志讨论了两个作战方案：
（一）先以一部攻打新浦、海州、连云港，调动黄伯韬兵团东援，在新浦、新安镇地区于运动中歼灭该敌。
（二）根据黄伯韬兵团现在态势，首先对其进行分割包围而歼灭。
经过讨论，会议决定采取第二个方案。
粟裕在会上作了报告，他在报告中首先谈了此战役目的和意义，指出我军歼灭黄伯韬兵团后，直取两淮，夺取新海，直逼长江，威胁南京，假如能在歼灭黄伯韬兵团的同时再歼灭援敌1/3，收复淮海广大地区，就会使敌人的防线退缩到沿江一带，所以此次战役的意义极为重大。接着，他分析了情况发展的五种可能性：
（一）情况无大的变化，很快、很顺利地将黄伯韬兵团解决，邱清泉、李弥两兵团可能东援。首先依运河阻击，给以重大杀伤、消耗，待黄伯韬兵团大部解决后将正面放开，诱敌深入，再南北夹击而歼灭之，而后拿两淮，打新浦，一部南下攻宝应、高邮，威胁沿江一带。
（二）将黄伯韬兵团歼灭后，邱清泉、李弥两兵团不敢东援，而凭运河西岸固守，我们则以一部南攻两淮、宝应、高邮，迫其沿津浦线南进，加强沿江防务；同时，我再攻占新海。
（三）只能歼黄伯韬兵团，敌即转为守势而加强两淮、新海，我不能再扩大战果。
（四）敌发觉我行动意图，在我尚未接近黄伯韬兵团时，敌人即调邱清泉兵团靠拢黄伯韬兵团，先我集中，再从海上由连云港增援，进行收缩，依靠工事据守，不易分割。假如这样，我军则需要另找战机。
（五）在我主力向东去后，西面空虚，我若不能迅速解决战斗，敌以徐州以西的刘汝明、孙元良两兵团向北扰乱我后方，配合行动。
粟裕指出，以上情况判断，以第一种可能的实现性较小，我们应当尽一切可能争取；第二种可能性较大，也应当尽一切可能去争取；如第一、第二种都不能争取，则至少争取第三种可能，避免第四种可能，防止并破坏第五种可能。
12日下午，华野将会议情况报告了中央军委。当天夜里，华野便收到了中央军委的指示，这便是《毛泽东选集》第四卷中的《关于淮海战役的作战方针》。
《关于淮海战役的作战方针》中指示：
（一）本战役第一阶段的重心，是集中兵力歼灭黄伯韬兵团，完成中间突破，占领新安镇、运河车站……。为达到这一目的，应以两个纵队担任歼灭敌人1个师的办法，共以6个至7个纵队，分割歼灭敌二十五师、六十三师、六十四师（均指国民党军的整编师，这时已改编为军，编者注）。以5至6个纵队，担任阻援和打援。以1至2个纵队，歼灭临城、韩庄地区李弥1个旅，并力求占领临韩，从北面威胁徐州，使邱清泉、李弥两兵团不敢以全力东援。以1个纵队加地方兵团，位于鲁西南，侧击徐州、商丘段，以牵制邱兵团一部……以1至2个纵队活动于宿迁、睢宁、灵壁地区，以牵制李兵团。以上部署，即是说要用一半以上兵力，牵制、阻击和歼敌一部，以对付邱李两兵团，才能达到歼灭黄兵团3个师的目的，这一部署大体如同9月间攻济打援的部署，否则不能达到歼灭黄兵团3个师的目的。第一阶段，力争在战役开始后两星期至三星期内结束。