接到矶谷的电报后，第2军参谋长铃木率道（日本陆军士官学校22期，广岛县人）的第一反应是：两师团协助作战，这本来就是很正常的事啊！他告诉矶谷：“板垣师团长那边我们会严厉警告，坂本支队立即配属给你，命令马上就会发布。”
再说坂本顺，接到濑谷启的电报质问后，一时不知如何回答，随后给板垣和濑谷发了相同的电报：“因当前急务是击败当面之敌，估计10日左右才可返回临沂。”
在4月5日的时候，濑谷支队的后方联络线被张金照第30师的一个团切断。
在台儿庄外的泥沟这个地方，中国的炮兵调来两门当时最先进的射程达20000米的德国卜福斯野战重炮，把濑谷支队的辎重弹药库打爆。至此濑谷支队已经处于弹药告罄、汽油奇缺的绝境。
被压至庄内一角的中国守军也开始反攻，经过一夜的浴血逆袭，恢复了四分之三的阵地，反而把日军逼到庄内北门。庄外，汤恩伯军团已切断濑谷支队的后路，台儿庄两翼的张金照和黄樵松的部队同时出击。
濑谷支队的战斗意志至此崩溃了。
武汉的军委会下了死命令：台儿庄诸部队，当于4月10日前击破面前之敌，奏凯奖励10万元；否则自师长以上全部军法论处！
这个命令太严格了，严格到残酷，为八年抗战中所仅有。
李宗仁接到电令后，以第5战区的名义又加了10万元。随后，已经赶到徐州协助指挥的程潜以第1战区司令长官的名义，又加了10万元。
再说日本人那边。第2军司令部做出了保证，一定安排好第5师团坂本支队协同濑谷支队作战这件事。矶谷廉介的火于是才消了下去。但就在这时候，濑谷启发来一封电报：“师团长！支队将暂时撤离台儿庄，兵力集结于后方……”
矶谷差点晕倒。
在别人要继续帮忙的时候，自己的部队先顶不住了。
他的参谋长堤不夹贵表示反对，说：“应该立即叫濑谷支队长停止撤退！”
但濑谷死了心，尽管接到矶谷要其顶住的电报，但仍坚持了自己的想法：走人。这是日本现代陆军成军以来所罕见的。
4月6日下午3点30分，濑谷下令支队残余人马向北面“转进”，攻击坂本支队正面之敌的侧背，换句话说，开始突围了。同时下令，将战马集中在城北野外，全部射杀。重炮牵引车由于没了汽油，不得不扔在路边。
濑谷决定撤退时，由于电报联系中断，没能迅速通知坂本。看到濑谷撤退，已经决意再打一阵的坂本非常懊恼，也无心恋战，带部队跑回了临沂。
在濑谷支队决意逃跑的时候，孙连仲也下达了总攻命令。
池峰城叫部队向西关和北关猛击。庄内的日军，只有福荣联队第2大队的残部，最后剩下的三十多人困守在庄东北的一座教堂。不可能指望日军打白旗出来，围攻的部队长开始用火攻。
最后一锅端。
小队长太田荒二郎在被烧死前裹着军旗剖腹自杀。
但就在守军打扫战场时，发现庄东一个房子里，居然还藏着几名日军。守军也没费劲，最后掀开房顶，往里投掷了18捆手榴弹。
此时台儿庄街道上光手榴弹弹片就有三四寸厚了。
当天深夜，濑谷启和福荣真平带着残部拼死向身后的关麟征第52军逆袭，在丢下众多尸体后，撕开一条生路，向峄县方向仓皇而去。
李宗仁、程潜、白崇禧、林蔚、刘斐、徐祖贻等人都来到台儿庄督战。
台儿庄大战，日军第10和第5师团最终的伤亡是11000多人，其中战死2300多人。但这是来自日军的数字。很多人认为日军的数字是客观的，实际上并非如此。因为夸大敌人死伤数字、缩小己方伤亡数字是战争中的惯例，日本也不能免俗。按战场上通常三比一的伤亡比例估算，日军战死人数要超过3000人。中国这边给出的数字是日军伤亡20000多人，未言及死亡人数。但缴获的轻重机枪达到900多挺，各类战炮130多门，击毁和俘获坦克、战车近百辆。
这确实是中国军队的胜利，以至于包括武汉在内的很多后方城市的人认为战胜日本已指日可待，甚至不少人判定：年内就可以把日军赶出山海关，恢复“七七事变”前的事态。这显然就不靠谱了。不过，却也反衬了这次战役的鼓舞人心。
中国太需要这样的胜利了。
在武汉，4月8日晚，10万市民进行火炬祝捷游行。
但不能忘记一支部队，它虽然当时不在台儿庄战场，但又相当重要，那就是桂军大将韦云淞的第31军。台儿庄战前后，归属廖磊指挥的韦云淞带部队在淮河流域的安徽明光与日军血战长达一个月，在延缓了南路日军推进速度的同时，让李宗仁得以全身心地指挥台儿庄之役。
此时的台儿庄火车站基本上已被炸平，只剩下一个标牌，视察战场的李宗仁站在标牌前照了一张相。后来我们一次次看到这张照片，被凝固的时光总是令人感慨万千。在他的指挥下，日军出现了自“七七事变”后第一次在进攻战中的崩溃。这是李宗仁一生中最辉煌的岁月。当两个月后他回到武汉时，上万人来迎接这位司令长官。
1938年5月10日，国民政府主席林森宣布：孙连仲、汤恩伯、田镇南、冯安邦、黄樵松、张金照、池峰城、王仲廉等11人同时获得青天白日勋章。一次给11人颁奖，这个规模在抗战中绝无仅有。老汤依旧高傲，在合影中可以看到，11个人，他站在了最中间，李宗仁在他的一边。但11个人里，没有关麟征的名字。
汤军团引爆徐州会战
从1938年4月中旬开始，得到补充和休整的日军第10师团濑谷支队再次南下，二攻台儿庄；第5师团也蠢蠢欲动，再次与张自忠的部队交火。后者打电话给第2集团军司令部，说：“板垣征四郎来势凶猛，你要作好他们突破我的防线南下与矶谷廉介会合的准备。”
台儿庄战后，孙连仲陷入忧虑中，取胜对中国军队来说只是暂时的，接下来怎么办？
几天下来，在濑谷支队二攻台儿庄的事态下，池峰城是真的受不住了。
4月14日晚，池峰城打电话给孙连仲的参谋：“我们的部队伤亡实在太大了！我要撤退！我一定要撤退！我找孙司令讲话！”
电话还是上次那个参谋接的，这一次他没敢顶撞池峰城，急忙去报告孙连仲。后者正躺在床上对着屋顶愣神。报告完了，孙连仲一骨碌下了床，说：“什么？他要撤？敢！”
孙连仲大步来到参谋的办公室，拿起电话，说：“台儿庄得失直接关系徐州战局，你马上带着师部人员到庄内增援，你打完了，我带着总部的人员顶上去！”
挂了电话，孙连仲说：“都给我准备，司令部所有人员都给我准备到一线去！”
但就在黄昏时，池峰城的电话又打了过来，得意地告诉参谋说：“你报告总司令，敌人又被我们打下去啦！”
孙连仲得报后，长长地出了一口气，说：“池峰城这小子，不从后面踢他屁股就不行！”
当然有玩笑的意思。
日军二打台儿庄，已经是徐州会战的一部分了。实际上，直到濑谷支队在4月6日被打出台儿庄后，东京才形成了一个完整的徐州会战的计划。
正如前面说的那样，虽然第5师团和第10师团在南下，第13师团也在北上，但对东京的陆军参谋本部来说，具体打到哪一步，并没有一个定案。一线的战斗，看上去只是寺内寿一说的追击战。在日军的词典里，追击战相当于主战役的收尾战。但在日军的另一个词典里，追击战往往又会成为一次新会战的序幕战。
在1938年3月底，也就是台儿庄大战趋于激烈时，华北方面军作战课长下山琢磨发现：中国方面仍不断地向徐州集结军队，随后发现汤恩伯部队番号的情报也被送了上来。
下山的第一反应，是给东京陆军参谋本部作战课长稻田正纯发电报，要求在徐州四野打一次大会战。
从这个细节处可以看到中日战争前期汤恩伯军团在日本人心里的分量。
下山的理由是，如果不打徐州会战，那么集结在徐州四面的中国军队就有可能自由施展，以优势兵力对日军各个击破，濑谷支队和坂本支队已经不能用遇到麻烦来形容了，在中国军队的血拼下，两个支队的战斗力直线下降。而且，3月中旬时，第2军的情报部门截获了一份中国第5战区的电报，电报中，李宗仁已显示出在徐州附近与日军来一次大战的动向。
所以下山希望东京立即批准打徐州会战，歼灭徐州周边以汤恩伯军团为主的中国军队。华北方面军司令官寺内寿一当然拍手认可。担任第2军司令官的西尾寿造没表示反对。东京的稻田正纯自接替河边虎四郎出任陆军参谋本部作战课长后，还没什么大手笔，所以接到下山的建议后立即来了精神。
稻田是个有身份的人，哥哥是后面露面的坂西一良（因入赘而改姓坂西，中日正面战场最后一战湖南雪峰山会战的日军主帅），岳父是阿部信行（陆军大将，后出任首相）。在稻田的牵头下，徐州会战成为定案，对此他有一段回忆，顺便谈到那两个支队的溃退，并为其进行了辩护：
濑谷、坂本两支队自台儿庄后退问题，从战况上看是当然的。当时，方面军也好，第2军也好，都焦虑地感到，为什么不更早一些后退呢？台儿庄的后退，并非败退，这是从一开始就和大本营说好了的，所以不成问题。得到台儿庄方面出现“汤恩伯军的情报”时，就担心情况要糟，过于突出的第2军那一部分，如果不及早收住，就很危险了。这是因为汤恩伯军的出现，意味着蒋介石的主力决战来了。由于濑谷、坂本两支队已脱险后退，所以安心了，但同时由于让敌人主力靠近了身边，这样就形成一个决策：那就来一场徐州会战吧！
稻田说濑谷支队的溃退“一开始就和大本营说好了的”，自可一笑了之。因为稍有常识的人都能明白：这可能吗？难道濑谷支队进抵台儿庄前就电报东京大本营，说自己几天后要撤退那么一下？
所谓信口雌黄，说的就是稻田正纯这样的家伙。
4月7日，台儿庄大战结束后的转天，东京向现地日军下达了进行徐州会战的命令。
会战主要由西尾寿造的第2军担纲。
按这个计划，刚刚打完南京战的隶属于第1军的中岛今朝吾第16师团和末松茂治第114师团暂时划归第2军，加上原本所辖的板垣第5师团、矶谷第10师团，这样就至少有4个师团成为会战的主力部队。
这几支部队领的任务是，占领河南兰封（今兰考）以东、陇海线以北地区，捕捉中国野战军主力。由土肥原贤二任师团长的第14师团（隶属第1军）领的任务是强渡黄河，迂回到兰封至归德（今商丘）一线进行包抄，类似于南京战时国崎支队的角色。至于华中派遣军，任务是协助第2军作战，拿出第9和第13两个强力师团，攻占徐州南面津浦线地带，以一个师团控制合肥周边（后来出动的是第6师团），切断南、东南、西南三个方向中国军队的退路。
这个作战计划是稻田拟定的，随后上报作战部长桥本群。
1938年4月15日，桥本群带领部下组成大本营派遣班，从东京直飞济南，现地商讨徐州会战计划。
两天后，徐州作战会议在华北方面军第2军司令部召开。
会议由司令官西尾寿造主持，参加者除桥本等人外，还有华中派遣军副参谋长武藤章、华北方面军作战课长下山琢磨、第1军参谋友近美晴、第2军参谋长铃木率道、第2军作战参谋冈本清福等人。
会议主题只有一个：作战的首要目的是占领徐州，还是围歼中国的野战部队？
再次露面的武藤章代表畑俊六的华中派遣军发言，认为徐州会战的首要目的在于歼灭上海和南京战后的中国野战力量，为进一步摧毁中国的抗战意志增加砝码。至于占领徐州，只是一个顺带的副产品。
冈本清福则认为：徐州虽然不大，但处四战之地，为兵家所必争，占领徐州仍具有重大意义，是作战的首要目标，至于歼灭中国军队，只能是占领徐州过程中的一个事。
深谙中国文化的第2军参谋长铃木率道不住点头，认为冈本说得不错，徐州位置太重要了，他甚至举了《三国演义》里各路诸侯争夺徐州的例子。
武藤章大笑，说：“铃木参谋长，您是不是有些迂腐了！”
武藤安静下来后，一字一字地说：“主攻任务分给了华北方面军第2军，按计划，第2军开始攻击后，我们华中派遣军的两个师团才可以行动。在这种情况下，中国军很有可能担心自己被歼灭而跑掉。那样的话，我们就会功亏一篑。所以华中派遣军的观点是，先用第2军吸引住中国军的主力，在第1军的部队和华中派遣军的部队完成对中国军的合围后，第2军再开始攻击，这样才会取得最大的战果。”
说实话，武藤章讲的比铃木率道靠谱多了，以致华北方面军第1军的作战参谋友近美晴没有力挺自己的兄弟部队第2军，而是转向支持武藤章。
下山琢磨则认为，中国集结在徐州的部队不可能撤退，认为在这种情况下以占领徐州为目标，即使最小规模的包围，歼灭周围中国军的成果也不会小。
显然，下山站在了第2军的立场上。
就看作战部长桥本群的意见了。
事实证明，桥本虽然持重，但也确实不是一个勇于决断的人。他开始骑墙。大本营确定的徐州主攻部队是第2军，他担心得罪第2军而影响战局，所以最终虽然没有明说，但实际上是支持铃木率道等人的。
武藤章为此极不客气地说：“桥本作战部长还是去年‘中国事变’之夜那个桥本吗？”
桥本群的回答倒也坚定：“一直是那个桥本。”
西尾寿造资历极深，他和畑俊六是陆军大学的同学，毕业时畑俊六是首席，他居第二位。西尾为人刻板，是个典型的职业军人，但此时他沉默不语，因为他认为桥本群带来的会议议题有些莫名其妙。在他看来，根本不存在一个首要目标的问题。他相信在中国第5战区司令部徐州附近会集结大量的中国军队，而且中国人不会轻易放弃那里，这样一来打徐州和围歼中国野战军就是一回事。
西尾关心的是作战时间。他的参谋认为第2军5月10日就可以发起进攻。但第1军的参谋认为，自己所在部队担负迂回任务，至少需要到5月15日才能完成合围。华中派遣军一直强调他们距徐州的路途要比第2军远，所以不管别人几号进军，反正他们4月底就会行动。
会议最后也没明确徐州会战的首要目标是什么，在吵吵闹闹中众参谋不欢而散。桥本群把派遣班的几个参谋留在济南，自己先行飞回东京，武藤章则飞回南京向畑俊六复命。
就这样，1938年4月8日，矶谷廉介给在台儿庄受重创的濑谷支队和坂本支队（已临时配属第10师团）下达了继续进攻的命令。
为了鼓舞士气，矶谷廉介于10日深夜由兖州抵达枣庄。
在台儿庄退却后，两个支队受到中国军队的追击，虽然没让中国军队取得更大的战果，但毕竟有差不多10个中国师在自己的正面。换句话说，矶谷所面临的问题是怎么对正面的这些中国师进行反击。
这一打，第10师团伤亡又不小。