26日晨，仍以原来态势继续发起进攻，由于前日部队伤亡惨重，战斗能力大为减弱。邱清泉还一再用电话催促：“要不顾一切牺牲，要拚命攻！这是最后一着。”尽管我亲自到第一线指挥督阵，经过一天的苦战，才前进了1公里。
28日，第二兵团第一线各军仍停止于四堡、石官庄、褚兰、张集地区，再也无力前进了。此时，从“剿总”通报得知蚌埠方面李延年兵团受到解放军第三野第二、六两个纵队阻击，前进受挫，已向淮河南岸撤退，黄维兵团进攻顿挫，也已向后撤退，被围于双堆集附近。至此，国民党军企图南北夹击、在宿县会师的目的，又成为泡影了。
11月28日，杜聿明由南京接受蒋介石的指示后，飞回徐州，指挥徐州各兵团撤退。
29日午后4时，邱清泉在徐州机场附近召集第二兵团4个军长当面赋予撤退任务，指出：“杜老总已接受了老头子新指示，决心放徐州，所有各兵团都向徐州西南转移，绕过津浦正面敌人的主力，向永城以南实行机动，以便与黄维兵团会师，这样我们的力量就更大了。”
邱接着把军用地图打开，用红蓝铅笔在图上接着说：“现在我把全盘撤退部署给你们说说，要严守机密，不再下达笔记命令。”（一）第十三兵团担任掩护全军撤退。该兵团有一部在柳八集，荆山铺地区占领后卫阵地，掩护本兵团撤离阵地，它的1个师准备在黄昏后到达肖县，占领该地要点，掩护第二、十六两兵团主力通过瓦子口、岱山以后，向永城以南转进。（二）本兵团第五军派1个师在徐州东南水口、张集附近掩护主力撤退，尔后在兵团后尾沿兵团前进道向永城方向转移。（三）第七十四、七十、十二军各自派出掩护部队，占领后卫阵地。各军主力均在29日午夜11时整开始转移，经徐肖、徐永公路向永城以南转进。”
邱清泉将友军和本兵团的撤退目的和部署交代以后，军长们纷纷提出伤员和多余军用物资如何处理，他干脆说：“这些问题我没有办法处理，你们自行决定吧！”
2日晚，第七十四军先后到达杨双楼、鲁楼地区。到深夜12时左右，前哨发生战斗。据侦察部队汇报：永城方向发现解放军纵队向北挺进，3日晨，准备继续向永城前进已经不可能，但尚未被解放军完全合围，还有一定空隙。我正准备变更战斗队形、交互掩护前进时，忽接邱清泉电话：“第五军第四十五师在瓦子口以西襄山庙附近被共军第三纵队包围。”
邱问我能不能派出1个师去驰援，我说：“第七十四军正面已经打上了，撤下来需要一些时间。”他说：“等不及了，我派第七十二军去。”他最后又补充说：“第四十五师未接出去前，第七十四军暂缓前进。”
邱清泉这一决定，主要是怕把他的基本部队第五军消灭。当第四十五师被包围后，邱要杜下令全部停下来。因此，外围的解放军获得从容的时间，构成了严密的包围圈。等到4日我军想继续前进，已经不可能了。至此，徐州撤退企图与黄维兵团会师的路已行不通了（杜聿明说，3日正准备继续向永城前进时，接到蒋介石的命令，向濉溪口攻击前进，遂将撤退改为向东南攻击了）。
12月4日晨，邱清泉找我到第二兵团部研究新部署，接受新任务。
4日下午，第七十四军根据新任务决定以下布署：
（一）以第五十一师配属山炮营，工兵1个连展开于胡庄，杨楼以南地区，向铁佛寺东侧突击，右与第五十八师，左与第七十军密切协同；
（二）以第五十八师配属野炮营和工兵1个连，展开于刘集、鲁楼地区，向铁佛寺西侧进行主要突击，右与第十二军，左与第五十一师密切协同；
（三）搜索营配属工兵1个连为预备队，在杨楼以北地区集结，准备机动；
（四）军炮兵队（野、榴各1营）配属在杨楼附近地区，以主火力支援第五十八师，一部支援第五十一师；
（五）军指挥所在杨双楼（据查，当时杜聿明是决心向东南方向攻击前进，而本文的部署和攻击方向是向南的，本文记述展开地区各个村庄，12月3日尚未到达）。
当日部队调整完毕。入夜后，依规定信号发起进攻。
由于当面解放军到达不久，尚未构成坚固阵地，炮兵火力不大强，第七十四军颇有进展，以第五十一师正面进展最快，开始突破5个村庄，打开了一个缺口。该师师长王梦庚向我报告战况，似乎有把握继续推进。他说：“请你预做推进准备，我师进到铁佛寺以后，准备向东南快速推进，不能再等待了。”
我听他这么说，当然十分高兴，便对他说：“请你放心，我完全同意你的处置。现在我以全部炮兵大力支援你，必要时预备队归你使用扩大突破口。”
又经过两个小时的战斗，占领了几个小村庄。由于该师右邻第五十八师及左邻第七十军进展较缓，翼侧已经暴露，战至深夜2时许，解放军第九纵队一部由接合部突入到第五十一师的侧背，将该师第一五一团的一个营打残破，副团长和营长均阵亡。进攻受到顿挫，双方均呈胶着状态。
5日，天转阴雨，国民党军飞机停止活动。解放军已经明了国民党军力图脱逃的企图，实行由东南、东北、正北、西北4个方向进攻。当日第二兵团第七十、七十四军的进攻，进展甚小，充其量也不过四五公里。
6日，天气转晴。战斗机掩护进攻。第七十四军仍按原态势继续进攻，但进展很小。
7日下午，我将部署略加调整：（一）将配属的坦克大部交给第五十八师使用，一部控制做预备队；（二）榴弹炮第五团以及军炮兵，统由军副参谋长统一指挥，支援第五十八师；（三）第五十八师在坦克、炮兵掩护下，先从刘集打开一个缺口，再将军预备队投入扩大战果；（四）开始行动时，第五十一师配合牵制当面敌人。
8日晨，我令参谋长江崇林在指挥所负责，我率参谋二人到刘集第五十八师指挥所督战。激战4小时后，由于坦克与步兵协同太差，相互指责，毫无协调，纷纷向我告状。步兵指挥官说，坦克未冲进敌阵地，就迷失方向，把自己的人当做敌人打。坦克指挥官说，坦克冲进敌军阵地，看不见步兵跟上来，让他们暴露挨打。矛盾解决不了，坦克部队仗恃太子（蒋纬国）势力竟把部队开走了。第五十八师战至下午2时，仅占领刘集西南小刘集一个村庄，但部队伤亡很重。此时，解放军第十一纵队一部，向第五十八师反冲击，又将小刘集夺回去，双方激烈争夺时，国民党空军飞机4架而来临空助战，始将刘集阵地稳定下来。
经过4天的战斗，第七十四军伤亡惨重，实力已经消耗一半以上，企图“与黄维会合”毫无希望。
9日，解放军已获得5天时间的准备，构筑了完整的防御工事。从这一天起，第二兵团全线受到猛烈的攻击，特别是各军接合部曾数次被突破。第七十四军使用了自己全部的预备兵力，才勉强维持住阵地。
10日到17日，第七十四军方面虽无激烈战斗，但从各处传来的消息表明，外围据点频频告失，包围圈逐渐缩小，第十三兵团阵地岌岌可危。增援既不可能，会师又成画饼。此时已迫近严寒，在饥寒交困的情况下，官兵意志消沉已达极点。
18日，我得知杜聿明派参谋长舒适存飞往南京向蒋介石请示机宜。舒返回陈官庄后，对我说：“蒋介石指示，调援军来已是没有办法了，准备用飞机补充3天粮弹，要杜聿明指挥两个兵团，在空军施放毒气掩护下突围。”我听他这么说，感到大失所望，但又把命运寄托在空军掩护上，只不过是绝望的挣扎而已。
接下突围命令后，回到指挥所，我当即召集有关部队长商讨以后办法。我对他们说：“孙元良、黄维兵团都垮了，南进会师已绝望，固守在这里也非长远之计，现在唯一的一线希望，就是准备使用大量空军掩护我们突围。”
我列举突围成功的战例给他们打气说：“只要有充分准备，确实掌握部队，事在人为，还是有希望的。”经大家研究，决定向西和西南方向突围，集合地点是阜阳和周家口，要大家回去做好准备，听候命令实施。
19至29日，连下大雪，战地积雪很深，人车都难行动，加之云层低，飞机活动受到限制。美国协助蒋介石使用陈纳德的运输机（一说陈纳德的运输机未参加）在空中盲目投掷粮弹，结果大部分随风落到解放军的阵地内。包围圈内粮弹恐慌仍无法解决，饿死人的现象越来越严重。
此时解放军在周围火线上展开了声势浩大的政治攻势，通过喊话、广播、送信等活动进行劝降，他们还将国民党错投的粮食，甚至把自己的粮食送到国民党军阵地，这使国民党军士兵深受感动。有的国民党士兵说：“只要有吃的，咱们就跟他走。”此时军心更加瓦解。
有一天晚上，正下着大雪，第五十八师师长王奎昌在电话中对我说：“在刘集阵地前方，哨兵发现一头大肥猪，而且是宰好的。战士们好久未曾吃到猪肉，于是急忙抬回，发现猪肚内装满了宣传品，其中有致杜聿明、邱清泉、李弥和各军、师、团长的信。”这些信传开以后，一时各个阵地上的国民党军战士和下级军官，只要离开了指挥官的掌握，就纷纷携械投到解放军那里去了。兵法云：“攻心为上，攻城次之”，在这里完全证实了。
1949年1月9日，天已转晴，9时许，国民党空军飞机数架临空盘旋约10分钟，撒下一些烟雾。据联络台说，这就是飞机按计划施放的毒气，由于事先地面部队没有得到通知，因此，所有地面部队既无准备也无行动。由此可以证实，国民党空军所谓动员100架次飞机掩护地面部队的突围，完全是一套骗术。
9日晚，已休整20余天的解放军对包围圈内的国民党军发起了全面的声势浩大的攻势，压缩包围圈，动摇了国民党军内部的指挥系统。到晚11时，第十三兵团全线崩溃，青龙集、朱楼都被解放军占领。此时，第十三兵团已无立足之地，残部纷纷溃散于第二兵团阵地附近。
第七十四军指挥所门口已发现乱枪声。我要江崇林向第七十二军联络，由于电话线已经割断，所以派作战科长去联系。据说：第七十二军副军长谭心正和解放军通电话，讲缴枪条件，不让别人进去。我知道有异，叫特务营加强戒备，并将道路封锁。
12时许，我突然接到邱清泉电话，他说：“李弥兵团又垮了，共军已突到投掷场附近。请你注意，我以后不能统一指挥了，请你自行决定。”这是我和邱清泉最后的一次通电话。
我接此消息，知道情况已经十分危急，随即召集王梦庚、王奎昌和直属团营长以及各处负责人，研究如何突围，但此时阵地前后都发现枪声和手榴弹声，要想突围已经不可能了。因此仅向各级指挥员扼要规定：
（一）第五十八师仍守住原阵地到天明，掩护第五十一师从刘集向西突围；
（二）突围成功后，按以前规定的路线、方向前进，到阜阳集中；
（三）突围时间：10日凌晨2时开始；
（四）突围前，炮兵部队应以主火力向刘集以西地区进行压制，掩护第五十一师行动，然后随第五十一师行动，并归其指挥；
（五）第五十八师在第五十一师后交互前进，军炮兵受其掩护；
（六）一切文件应予销毁，笨重行李器材一律不带。
我下达突围指示后，令参谋长江崇林随第五十八师前进，我随同第五十一师先头行动。10日凌晨3时，我和王梦庚通过刘集时，部队和解放军发生了激烈战斗。半小时左右，虽然突破了从刘集到杨双楼解放军的阵地，但被解放军从杨双楼西侧进行阻击，王梦庚率特务连反扑，在解放军猛烈火力射击下，王梦庚中弹身亡。师长一死，部队失去掌握，该师第一线部队发生混乱，再无法前进。第五十八师在刘集阵地顽抗，挣扎到10日晚，战斗结束。至此，国民党第七十四军第二次被解放军歼灭了。
淮海战役的军事行动全部结束了，但在俘虏群里没有找到敌人的总指挥杜聿明，他究竟到哪去了？
经过查问，才知道，当杜聿明从陈庄掩蔽部向北逃的时候，因为跟不上邱清泉的特务营，乃留下来自己想办法逃走。他想：跟大队逃跑，不如人少夜间好钻空子，只要能钻出包围圈就好办了。
于是，他带着副官、卫士13人，先向西走出村庄，再转向东北，沿途见枪声渐停，四面沉寂，便钻入壕沟里隐蔽起来。这时，副官尹东生给杜聿明剃去了小胡子，换上普通士兵的服装，并说：“留得青山在，不怕没柴烧。”
等解放军大队过去后，他们继续向东北走了20多里，到了黎明时分，正在两个村庄之间行进，被一个老乡发现了，那老乡把见到的情形向驻在华东野战军十一师卫生处报告，该处就派了两个通信员去察看，在答问之中，那两个通信员觉得他们有问题，立即拿出武器来，把他们俘虏了。