小田原说的他所在的大队开始被要求支援临沂，后来又叫原地待命，一点也不假。3月19日的时候，日本华北方面军第2军参谋冈本清福由济南来到矶谷廉介设在兖州的师团司令部，要求矶谷派出一部分兵力支援在临沂苦战的第5师团坂本支队。矶谷当即答应，通知濑谷启，把支队所属的赤柴八重藏的第10联队转向临沂方向。
濑谷随即派兵，同时叫第63联队长福荣真平派一个大队直指台儿庄，自己则带余部坐镇峄县，作好随时支援两支部队的准备。但就在这时候，一份来自空中侦察的情报摆在濑谷面前，说在跟津浦线平行的微山湖发现大量中国军队用于运兵的船只。有多少呢？情报显示是上千艘。这叫濑谷启不得不三思，于是擅作主张取消了向临沂派援兵的计划。
此时，第63联队第2大队的一千多名日军，沿津浦线枣庄到台儿庄的铁路支线，一点点搜索前进。
台儿庄，位于鲁南与苏北交界处，徐州西北面的门户，打下台儿庄，只需要一天的时间就可兵临中国第5战区司令长官部所在地——徐州。
整个台儿庄背靠运河，有一千多户人家，听上去是个镇子，实际上是座小城，四周有砖石城墙。庄内的街道亦多用青石铺成，非常狭窄，民居密集，多为砖石建筑。这实际上决定了几天后血战的残酷性，那是真正的砖石横飞，而非一般的暴土扬长。
为在台儿庄拦截日军，第2集团军司令孙连仲也带着田镇南（保定陆军速成学堂，河南项城人）第30军和冯安邦（行伍出身，山东无棣人）第42军于3月22日经徐州开抵津浦线台枣支线上的车辐山车站。
这两个军，一共只有3个师：黄樵松（行伍出身，河南尉氏人）第27师、张金照（行伍出身，河南郾城人）第30师、池峰城（行伍出身，河北景县人）第31师，外加吴鹏举的独立第44旅，其中冯安邦的部队在山西娘子关损失殆尽。
按李宗仁对老西北军的印象，觉得进攻非其所长，所以孙连仲的部队一到，就被拉去进行台儿庄的守备。
此时集结在鲁南的中国军队既有中央军，也有西北军，又有川军，后来又来了滇军。如果换了别人，指挥起来确实成问题，但李宗仁到底有魄力，尽管后来他还是认为汤恩伯不太服从命令，但总的来说在令行禁止方面没出现什么问题。
3月23日上午，日军先头部队最先与池峰城第31师的骑兵接触了。
日军的这支部队也是骑兵。
骑兵是人类留下的战争化石。现代日军成军后，非常重视骑兵战术，日俄战争中骑兵的表现是他们的骄傲。如今在齐鲁平原上，中日两国骑兵挥舞着马刀，向对方冲去。
骑兵战斗，从某个角度来说，才是最残酷的战斗。因为你的脸所面对的，是最原始的冷兵器，你不是把敌人斜劈下马，就是被砍过来的钢刀划开面颊。日军骑兵到底是强大的，战术也灵活，几个冲锋下来，第31师的骑兵开始拨马后退。
日骑风卷残云般追赶，1938年春日午后的台儿庄，已经遥遥在望了。
池峰城第31师时是前一天进驻台儿庄的。开战前，已经叫庄里的居民全部撤出。
孙连仲到达前线后，把司令部推进到庄外西向5公里处的一个村子。当时，军委会的规定是，集团军一级的司令部距一线只要不远于20公里就行。
孙连仲想拼。他叫张金照第30师守备台儿庄右翼，黄樵松第27师守备台儿庄左翼，池峰城第30师一分为二，部署在庄内外。吴鹏举独立第44旅一部扼住庄后运河上游，一部作为集团军的总预备队。
台儿庄最初由第31师王冠五的一个加强团守备，王镇久部守备庄东，王祖献部（后胡金山代理）守备庄西，师长池峰城的师部在庄外火车站附近。此时大家并没有意识到这到底是一场怎样的战役。台儿庄需要守几天？打到什么程度？王冠五不知道，池峰城不知道，甚至孙连仲也不知道。
黄昏时分，日军进行了一阵炮击。转天清晨，进攻正式开始了。
一上来，日军攻势还是非常凌厉的，而且也颇见效果，半天下来，台儿庄外的前进阵地就被攻陷，一个小队的日军还顺势冲到台儿庄城下，从炮弹轰开的豁口处攻入庄东北角。虽然他们在第二个回合中被打了出来，但仍有15名日军残留城中。此时战斗虽然紧张，但还不算激烈。不算城里的15个人，日军打了一上午，伤亡只有132人，其中战死也就20个人。
台儿庄战打响的时候，3月24日，蒋介石带着副参谋总长白崇禧和新任侍从室主任林蔚直飞徐州。
随后蒋介石在李宗仁的陪同下，到车辐山火车站，视察了前线。他叫李宗仁不要担心部队的问题，杜聿明机械师第200师的3个战车营和1个师直属炮兵营都交给李宗仁调遣；更不用担心弹药的问题，军需部门会把弹药准备得足足的。
李宗仁还能说什么呢？只能说将拼尽全力打好这一仗，挽回淞沪和南京战后中国军队的颓势，给困境中的国人鼓把劲。
蒋介石说：“德邻（李宗仁字）兄也不必担心中央军的问题，对汤恩伯军团的指挥，你的命令就是我的命令。”
这样推心置腹的话让李宗仁吃了定心丸。
李宗仁说：“我必当全力以赴，不辜负委员长、国民和全军的期望。现在前线危险，委员长还是早些返回后方为好。”
蒋介石走前，把白崇禧和林蔚留下，跟先期到达的刘斐组成参谋团，共同协助李宗仁。等于说，蒋介石把他的高参都放在了徐州。李、白原本就是老搭档，合作起来当是言无不尽，顺风顺水；林蔚稳当，刘斐睿智，再加上徐祖贻，这样的参谋阵容当是非常强大的。
3月25日，在峄县的濑谷启给台儿庄前线的日军添加了两门野战重炮。在兖州的矶谷廉介告诉濑谷启，要求他在台儿庄采取“果敢的攻势”。濑谷遂命令第63联队长福荣真平大佐亲自带一个大队去增援台儿庄。太平洋战争爆发后转战东南亚最终在新加坡被处死的福荣真平，此时还不知道，他的“成名战”正式开始了。
虽然台儿庄内的15名日军还在顽抗中，但庄外的进攻一时减弱下来。这好像是激战前的短暂宁静。为防不测，池峰城把在城外的禹功魁的一个营调进庄里。
果然，从3月27日开始，战斗一下猛烈起来。日军从凌晨5点就发起袭击。3个多小时后，福荣真平率领的一个大队赶到了。日军援军到后，又有两个中队冲进庄内，一部盘踞西北角，与东北角的日军遥相呼应；另一部直扑位于庄内正中的大庙。
大庙是庄内的显着建筑物。
守军第8连连长裴克先急了，率全连士兵逆袭，与日军展开肉搏。在搏杀了大量日军后，裴克先全连战士殉国。
日军仍控制着大庙，以此为基地，像章鱼的触须一样，开始向左右和正前伸去。
庄外师指挥部里气氛异常紧张。显然不能坐视庄内日军如毒瘤一样越来越大。但池峰城苦于手里机动部队寥寥。副师长屈伸建议把城外的工兵营顶上去。就在这时候，接到团长王冠五的电话，说：“鬼子正在亡命突击，已潜进离我团部十五六米远的房子里！”
屈伸倒吸了口凉气，敌我之间相距十五六米是什么概念？
但屈伸能说什么呢？他语气一下子平静下来：“王团长！就是只剩下半米了，你也要给我顶住！不是给我顶住，是给师长顶住！”
池峰城抢过电话，说：“王冠五，你听好了，不是给我顶住，是给孙总司令顶住，给李长官顶住！”
大庙外，第8连全连殉国后，徐运太第7连在庙外北街中段阻击日军的进攻。
临街的重机枪阵地上已先后倒下3名机枪手，最后徐连长亲自顶上去。每次扫射下来，都有五六名日军被毙杀。日军则使用掷弹筒加重机枪反制，徐连长身中9弹，但仍打出最后一串子弹。
前面说过，台儿庄宅院密集，多为砖石结构，而且街道狭窄，从作战角度来说，极其适合巷战。每个房子都是个天然碉堡。所以进入激战后，每个院子和屋里都有中日双方的士兵，一个屋一个屋地争夺，一条街一条街地死拼。有时候为争夺一个院子，两边要死几十人；争夺一条小巷，两边要死上百人。
几天后，再俯视台儿庄，已经是处处残垣断壁，满眼战斗工事。
除了沙袋外，庄里一切能用上的掩体材料，都用上了：家具、水缸、门板……墙壁上除了弹孔就是血迹乃至于脑浆。由于中日士兵隔墙而战，导致一面墙上既有中国士兵挖的枪眼，又有日军挖的枪眼。很多射击孔都伸有步枪，而战士已经阵亡。当往外拽殉国战士的身体时，他手里的枪突然响了。因为，战死的瞬间，他的手指还紧扣着扳机。
城内守军与日军死战时，城外的部队当然也没闲着。
黄樵松第27师的士兵发现阵地前一片寂静。正奇怪时，对面的开阔地带多了几条交通壕，日军工兵像鼹鼠一样挖掘，由于中国军队阻击猛烈，日军只能用这样的方式向中国军队的阵地一点点靠近。
台儿庄战事吃紧，李宗仁急电汤恩伯，叫他从后面“侧击南犯之敌”。
此时汤恩伯军团在哪儿？
3月27日，汤恩伯已分出两路攻击，关麟征部郑洞国第2师主攻枣庄，张轸第110师袭峄。就是在攻打峄县时，前一年在南口血战的罗芳珪团长，在与副团长李友益指挥作战时，为日军炮弹击中，两人双双殉国。
枣庄那边遭日军顽抗。汤恩伯叫部队保持对峄县的攻势，但收缩了枣庄方向王仲廉的部队，只派出了一个团协助第2师。关于这一点，关麟征很不高兴，在电话里冲汤发脾气：“到底还打不打枣庄？”
汤恩伯说：“情况发生了变化，需要重新制定作战计划。”
但关麟征气没消，放下电话后对部下说：“汤先生是我们的老长官，对我们也玩弄这一手，实在太不应该。”
汤恩伯说的情况发生了变化，是指李宗仁叫他立即全军南下台儿庄。此时，孙连仲也给他发了求援的电报。汤恩伯不为所动，最后做出的新计划是：保持对峄县的攻势，牵制一部分敌人，对枣庄方向采取警戒，王仲廉第85军主力仍在抱犊崮山区不动，关麟征第52军慢慢向峄县与台儿庄之间的兰陵镇转进。至于救援部队，他只从关麟征和王仲廉的部队里各抽出一个团，再加上炮兵和骑兵部队，先期赶赴台儿庄。
关于这一点，招来了众说纷纭，但不外乎两个看法：一是汤恩伯避重就轻，怯于南下台儿庄；二是汤恩伯始终保持着自己的作战节奏，不等台儿庄方向的日军陷入筋疲力尽时他是不会南下的。因为他认为，只有等日军消耗完最大战力后，他的率军合击才能取得最好效果，所以他等待的不是“一鼓作气”和“再而三”的日军，而是“三而竭”阶段的日军。
汤恩伯的这个想法，不跟李宗仁做任何解释，所以搞得李既愤怒又烦恼。
汤恩伯是傲慢的，但他手下的关麟征是暴脾气。老汤虽然是蒋介石嫡系，但不是黄埔出身，关麟征可是正儿八经的黄埔1期，蒋介石的学生，后来做到陆军总司令且继蒋之后成为第二任中央陆军军官学校（黄埔军校）校长。关麟征脾气不好是出了名的。关有两个部下，他青睐张耀明，而对郑洞国态度一般，后者曾多次被其数落，有一次，郑干脆就不接关的电话了。
后来，再次接到李宗仁的电报，此时关麟征也主张全军南下。
汤恩伯终于没拧过关麟征，而且时机也差不多了，于是下令叫王仲廉的部队在左，关麟征的部队在右，又以右翼为主攻方向，挥师台儿庄外围。面对从后面扑来的汤军团，濑谷支队挤出一个大队进行拦截。但就在这时候，关麟征第52军侧背突然遭到日军袭击，来者正是由临沂南下的第5师团的坂本支队。
濑谷支队当初没能支援临沂，尽管如此，板垣的第5师团还算够意思，暂时停止了对临沂的进攻，前来解救濑谷。当然是奉了第2军司令部的意思。面对新的敌情，关麟征只好下令叫第25师师长张耀明带着戴安澜的一个旅在峄县和台儿庄之间的兰陵镇御敌。
等于说濑谷支队背后出现汤军团，汤军团后面又出现坂本支队，台儿庄战场成了夹心饼干。这时候，对汤恩伯来说，前后都有敌人。日军的两个支队相距已经不到30公里。也就是说，如果他们合击老汤的话，每个支队只需向前推进15公里。
汤恩伯没法不嘀咕一下。此时他不知道台儿庄的濑谷支队到底打成了什么样子，是不是还有力量反扑一口。如果那样的话，处于两面夹击的就是他了。
怎么办？
而台儿庄军情又急，将成玉碎之势。
汤恩伯的军团司令部跟着关麟征的部队行动，他对关麟征说：“我们在两支日军之间，大兵团进行内线作战，可以有胜机，但几个师打内线战斗，则十分不利，必须快刀斩麻。最好的办法是跳出内线，然后对日军进行反包围，这样也可以集中使用火力。”
关麟征说：“这也就意味着台儿庄里的守军要再顶上两天。”
汤恩伯说：“给孙连仲一个成名的机会。如果现在按原计划立即打到台儿庄，前面不能保证全歼濑谷支队，后面同样不能保证堵住坂本支队。再推迟两三天，等濑谷支队筋疲力尽时，可一击而成，取得最大的战果。”
就这样，在4月1日凌晨，汤军团主力没直下台儿庄，而是从濑谷支队和坂本支队中间跳了出去，随后呈弧形，在外线反包围日军，一点点地收紧。
从战术上来讲，汤恩伯的做法没错，随机应变是一个优秀指挥官必须具备的素质。有问题的仅仅是，整个台儿庄地区，就他一支中央军，其他都是杂牌军，所以本来就谁都不服的汤恩伯更加“独立自由”，没把自己的作战想法和行动计划告诉李宗仁，导致后者认为汤恩伯畏敌不前，觉得自己指挥不动汤恩伯。
关于打仗时汤恩伯“独立自由”这一点，并非仅仅出现在鲁南战场。这几乎成了辨别他的一个标志。在外人看来，老汤打着打着就自己玩了，不管其他部队了。出现这种情况，除了上面说的老汤的部队是骄兵悍将外，还跟他喜欢打运动战有关。
汤恩伯痛快了，但李宗仁难受了。
战后汤恩伯军团参谋处处长苟吉堂说：“汤军团长敏捷的处置，我们从研究战史的眼光来看，是那样的切合时机……这一正确而快速的处置，是我们在台儿庄会战胜败的主要关键。”作为汤的部下，当然有美誉的成分，但这也是白崇禧的观点。对于在台儿庄战中汤恩伯的表现，白用了四个字：“灵活适宜”。
《扫荡报》记者胡定芬跟着汤军团采访了3天，在一篇战地采访中这样写道：“20天之内，他们（汤军团）在抱犊崮台儿庄百余方里的地区内来回走了八次。”具体地说，“最初渡过运河向山地（抱犊崮山区——作者注）迂回，进攻郭里集、峄县、枣庄，其次由山地迂回到台儿庄东北侧袭敌之后路，再次迂回到洪山、兰陵腰击沂河西岸向西增援之敌，最后依旧迂回到台儿庄东北侧袭敌之后路……”
这是汤恩伯擅长和推崇的运动战。
但也有不少人对这种打法不认同，认为汤恩伯手里掌握着5个师，七八万人，光来回跑了，起到的作用不大。汤恩伯在接受《扫荡报》记者采访时解释：敌人装备较我占优，故不宜迎头顶，更不宜集中兵力来死守一地，而应在运动中争取主动攻势，不时打击日军的侧背。