10日下午3时许，张自忠由秦德纯、山东省政府委员张钺陪同来到四方城。一位青年军官将他们引入客厅。不一会儿，蒋介石由书房走了进来，张自忠立即起身请罪说：“自忠在北方丧师辱国，罪有应得，请委员长严予惩办。”说着，将留平报告双手呈交蒋介石。
蒋介石接过报告，略加浏览，点了点头。他见张自忠气色不佳，就说：“你在北方的一切情形，我均明了，我是全国军事委员会委员长，一切统由我负责，你要安心保养身体，避免与外人往来，稍迟再约你详谈。”
这时，淞沪战场战事正酣，中国数十万大军与日军进行着激烈厮杀。张自忠时刻关注着前线战况，他多么渴望率军杀奔前方，与日军拼个你死我活！然而，此时此刻，他只能形单影孤地困处南京，整天无事可做，度日如年。
10月下旬，钱大钩奉命前来山西路慰问张自忠，并带来一张蒋介石签署的委任状，任命张自忠为军政部中将部附。钱大钧还对张自忠说：“委座对你很关心，他让我转告你，可以接见记者，发表南来感怀，借以平息当日舆论的冲动。”
张自忠感动地说：“委座这样宽宏大德，我只有战死才能报答。”
11月12日，上海沦陷。国民党军向西溃退，日军跟踪追击，直逼中国首都南京。早在淞沪会战后期，蒋介石即预感南京难保，因而决定迁都重庆。但鉴于重庆地处西南一隅，交通及通信联络十分不便，为方便抗战指挥起见，大部分军政核心机构均暂迁至武汉办公。
随着日军的日益逼近，南京的军政机关纷纷向武汉转移。12月上旬，第一集团军驻京办事处也开始搬迁。张自忠搭乘搬迁专列随行，到达新乡。几天后，第一战区接蒋介石来电，批准张自忠以军政部部附名义暂代59军军长。
消息传来，张自忠惊喜万分，感激涕零。他语气郑重地说：“蒙各位成全，恩同再造。我张某有生之日，当以热血生命报答国家、报答长官、报答知遇！”此言出于至诚，说来泪水潸然而下。
对于张自忠来说，这是一个至关重要的转折，这个转折的意义并不在于权力与地位的恢复，而是给张自忠带来了洗刷冤屈和报效国家的机会。从此，张自忠开始了他一生中辉煌璀璨、壮怀激烈的黄金时代。
1937年12月7日，张自忠回到河南道口李源屯59军军部。
张自忠的归来，使59军结束了几个月来群龙无首的局面，军心为之凝聚，士气因此大振。
1938年1月初，59军由第一战区调归李宗仁执掌的第五战区，准备参加徐州会战。
1月中旬，华中日军第十三师团开始北犯，企图突破我淮河防线。东北军名将于学忠指挥第51军奋勇抗敌，屡次挫败日军进攻。但因战线过长，兵力不敷，2月初明光、临淮关、蚌埠等地相继失守，51军被迫退守淮河北岸。日军乘胜强渡淮河，又攻占了北岸的小蚌埠、曹老集等地，淮河防线岌岌可危。
2月4日，坐镇徐州的李宗仁急令张自忠第59军南下增援于学忠。张自忠接到命令，立即率部东开徐州。
2月12日傍晚，59军乘专列沿津浦铁路向南开进。
13日，59军准时抵达前线，部署于固镇、瓦疃集、徊小楼之线。攻击发起前，张自忠召开全军营以上干部会议，交代淮河战况和本军作战计划。最后，他以破釜沉舟的语气说：“我现在有过，无论谁都可以打败仗，独我张自忠不能打败仗！我的冤枉，只有一拼与死，拿真实的战绩，才能洗刷干净！这次作战，无论官兵，只准向前，不准后退！我带领大家一起拼命保国！”大家很理解军长此时此刻的心情，纷纷挥舞着拳头高喊：“决不打败仗！”“决不给军长丢脸！”
在张自忠的激励之下，全军土气高涨，跃跃欲试。
2月15日，张自忠指挥59军向当面之敌发起猛烈攻击。
日军抵挡不住59军的猛烈打击，丢弃阵地，向南面苏集、胡家口、曹老集一线溃退。19日59军又拿下日军在淮河北岸最坚固的防御要地小蚌埠。日军见势不妙，狼狈退守淮河南岸。中日两军遂在淮河一线隔河对峙。
张自忠回军后首战告捷，一举扭转淮河战局，使华中日军北上打通津浦路的企图遭到失败，日军南北夹击徐州、台儿庄的计划至此已破产一半。
3月12日下午，59军主力全部抵达临沂西郊。
正在与日军激战的第3军团官兵，忽闻张自忠大部队赶到，阵地上顿时欢声雷动，军心大振。
13日上午，张自忠召集全军营以上干部作战前动员。
14日凌晨3时许，59军强渡沂河，向日军第五师团发动猛烈进攻。一时间，枪炮大作，地动山摇。张自忠率军部推进至朱潘，就近指挥作战。
经过奋战，180师以伤亡800余人的代价将敌击退。15日一早，该师乘胜向前推进，日军阵脚混乱，向东西水湖涯溃退。
由于日军将主力用于对付59军，庞炳勋部正面日军兵力大减。庞炳勋抓住有利战机，率部猛袭日军侧背，有力地配合了59军的正面攻击。
经过3天的浴血鏖战，59军伤亡3000多人。
16日夜10时，59军向敌发起空前猛烈的攻击，拼杀至17日凌晨4时，59军胜利攻克日军全部主阵地。
随后，来自各方面的祝捷电报如雪片似飞来，但张自忠并未陶醉在胜利之中，当天他就下令发起追击作战。
第一次临沂战役至此结束。
3月22日晨，59军到达费县县城。这时李宗仁来电，命59军停止前进，原地待命。张自忠估计临沂战局有变，即派侦察队速返临沂了解情况。
果不出张自忠所料。连日来，被张自忠打得一筹莫展的坂垣征四郎，突闻张自忠部他调，欣喜若狂，连忙纠集残部、调派援军，向临沂发起猖狂反攻。庞炳勋以疲惫之师孤军应战，只有招架之功，几无还手之力，被迫退守临沂以东，并频频发出求援的急电。
蒋介石获知临沂战局紧急，即于23日致电张自忠，命59军速返临沂。
连日来，59军官兵都沉浸在对死去战友的怀念之中，心情十分沉重；加之往返奔波，备极辛劳，官兵们对于战区朝令夕改的不当指挥颇有怨言。为安抚军心，鼓舞士气，张自忠先后到180师和38师训话。
当晚10时，59军以强行军回返临沂。此时，全军可战之兵仅有1.3万人。
24日下午，张自忠进入临沂城。
当晚，黄维纲之38师连夜出动，以迅雷不及掩耳之势发起攻击，占领古城，歼敌甚多，并缴获大批战利品。次日，日军大举反扑，激战终日，38师才将敌击退。但临沂以东庞军主阵地三官庙、桃园均告失守，九曲店也岌岌可危。张自忠急令38师主力前往救援，一举收复桃园，并将三官庙包围。但由于庞军在此地筑有坚固工事，现反为敌用，我军久攻不下，伤亡惨重。战场上死尸如垒，沙石横飞。
张自忠危城苦撑。古城方面，日军趁38师主力他调，再次反扑。混战至深夜，古城西部被敌夺占。张自忠飞骑赶到，组织反攻，官兵们见军长来到，士气振奋，一鼓作气将敌击退。张自忠随后又赶到桃园、三官庙方面督战。日军调集重兵攻击桃园，并出动飞机轰炸，38师殊死抵抗，伤亡高达2000多人。目睹亲如手足的弟兄们死伤相继，血肉横飞，张自忠痛彻肺腑，不禁潸然泪下。
鉴于敌军源源增兵，张自忠审时度势，决定将战线收缩于王家岔河、七得、红埠寺、古城之线，并建议庞军收缩至黄山、赵家庄、九曲店之线。
28日，日军的攻势更加凶猛，战事空前惨烈，59军阵地八面告急。
随着战斗的延续，战局日趋严峻，不断增加的伤亡和持续半个多月的血战，使官兵们在体力和精神上都大受影响，依靠他们自身的意志几乎难以支持下去。这对于张自忠无疑是一个极大的考验。如果他不能使官兵们振作起来，恢复士气，那么奋战十几个昼夜的成果将付诸东流，后果不堪设想。
在如此巨大的压力下，张自忠表现了非凡的勇气和坚强的意志。他马不停蹄地奔波于各个阵地，给官兵打气，与官兵们一起战斗。他那铿锵有力、充满激情的训话，身先士卒、英勇无畏的气概和百发百中的射击，都给官兵们以巨大感染，重新点燃了他们内心的希望之火和胜利信心。
在张自忠的训勉激励之下，张宗衡率领官兵咬牙苦撑，殊死拼杀。日军在炮火掩护下两度冲入村内，该部以肉搏战将敌击退。日军再次猛攻，守军伤亡奇重，弹药用尽，眼看阵地就要失守。就在这千钧一发之际，张自忠飞马赶到。危急中的官兵，看到军长身骑白马的雄姿，顿时激情奋发，土气陡增，挥舞大刀向日军冲锋，终于打退日军，守住了阵地。
29日，援军20军团骑兵团和57军333旅先后到达临沂。
30日，张自忠下令反攻，日军抵挡不住，向东北撤退。第二次临沂战役胜利结束。
短短2个月之内，张自忠指挥59军连续取得三个战役的胜利。2月的淮河作战，将华中日军阻于淮河以南，打破了南北两路日军夹攻徐州的计划。两次临沂战役的胜利，又进一步斩断了北路日军的左臂，粉碎了敌第5、第10师团会师台儿庄的计划，造成矶谷廉介第10师团孤军深入为我围歼的契机，从而为台儿庄大捷拉开了序幕。
3月30日，军事委员会军令部致电李宗仁指出：“张军坚忍抗战，毙敌累累，希传谕慰勉。”同一天，国民政府以张自忠建树奇功，特颁令撤销对他的“撤职查办”处分。这样，张自忠就由59军代理军长而成为名副其实的军长。
4月上旬，第一集团军番号撤销，集团军直辖部队分拨张自忠、冯治安、刘汝明、石友三各部。其中59军分得姚景川之骑兵第13旅。至此，原29军部队完全被拆散，宋哲元将军专任第一战区副司令长官。
4月8日，姚旅及中央军李仙洲第92军第13师开抵临沂，归张自忠指挥。
4月13日，张自忠升任第27军团军团长，辖第59军和第92军。
中国军队在临沂和台儿庄的胜利，大大刺激了蒋介石、李宗仁等人的求胜欲望。
从3月下旬起，他们又陆续调集20多万精锐部队向徐州地区集结，与第五战区原有部队合计达64个师又3个旅，总兵力不下60万。同时，还将中央军胡宗南、黄杰、桂永清、俞济时、宋希濂等部布置于豫东，作为徐州的后援力量，摆出了与敌决一死战的架势。日军利用中国军队急于求胜的心理，调集13个师团30万兵力，于5月中旬将徐州包围。被围之中国军队虽数量庞大，但态势不利，在心理与士气上也处于劣势；若不及时突围，后果不堪设想。
5月15日，蒋介石在武汉主持召开最高军事会议，决定放弃徐州。第五战区据此决定将所属部队分三路，从日军兵力薄弱的西南面向豫皖边界山区突围。李宗仁指定张自忠指挥第59军和第21、27、139师等部殿后，掩护大军撤退，完成任务后开赴许昌集结。
张自忠又一次面临严峻考验。
自淮河作战似来，59军已连续作战三个月，全军5个旅只剩下不到两个旅，急需撤出战场进行整补。因此，以屡担巨艰、伤亡惨重的59军承担殿后重任，确属勉为其难。但张自忠毫不迟疑地接受了任务。
至5月17日，战区主力部队陆续脱离战场。18日，张自忠才命令各掩护部队放弃当面阵地，开始撤退。他让21、27、139师先行，自己率领59军殿后。
19日上午，日军占领徐州。
经过千里跋涉，59军终于6月1日抵达许昌。
日军占领徐州后，继续向华中推进，企图一举攻取武汉，迫使中国政府屈服。
武汉扼南北交通要冲，素有“九省通衢”之称，是华中地区的政治、经济、交通中心，得失关系重大。蒋介石亲自坐镇武汉，指挥5、9两个战区共100多个师和海空军各一部，组织防御，一场大战势不可免。
6月11日，规模空前的武汉会战正式打响。
战至8月底，长江以北日军攻占六安、霍山，并向固始、潢川推进。9月初，代理五战区司令长官的白崇嬉急调张自忠部开赴潢川布防，阻敌西进，要求张部守卫潢川至9月18日，以掩护胡宗南等部在信阳、武胜关等地集结。
就在张自忠挥师东进之际，固始已于9月6日失守，日军第10师团沿固潢公路直扑豫南潢川。
时间太紧了，59军必须抢在日军之前赶到潢川。但是，这些北方子弟不适应鄂东豫南阴霾潮湿的气候，加之连日强行军，官兵们身体抵抗力锐减，患恶性疟疾者日多。由于药品匮乏，每日都有数十名官兵死亡。张自忠焦急万分，却毫无办法。军情紧急，使他不得不狠下心来，严令部队不顾一切向潢川疾进。
15日，日军攻克潢川西北之息县城，并继续向罗山方向进犯，企图切断59军退路。
15日中午，日军骑兵突袭59军军部。保卫军部的只有一个手枪营，情况万分危急，有人建议军部南移，但张自忠不为所动。此时如移动军部不仅影响士气，而且将失去守城部队唯一退路。张自忠一面指挥手枪营抗击来袭之敌，一面调集部队增援，激战半天，终将敌骑兵打退。
日军屡攻屡挫，恼羞成怒，竟惨无人道地施放毒瓦斯，导致我官兵大量伤亡。16日晨，七里岗阵地失守，日军开始攻击潢川城。紧急关头，张自忠力排众议，带领180师师长刘振三和军部毅然进入潢川城，守城官兵士气为之大振。
16日午后，日军第10师团集中所有野战重炮，向潢川城发起了几天来最猛烈的攻击，毒气弹的施放也增加了数倍。
攻上来，打下去，往复拼杀至17日中午，城北、城西角均被敌炮摧毁，日军步兵蜂拥入城，潢川岌岌可危。张自忠命士兵架起刺刀，与敌展开肉搏战。震耳欲聋的炮声消失了，代之而来的是手榴弹的爆炸声和撕心裂肺的喊杀声。
日军还在不断拥入城内，战局万分险恶。情急之下，张自忠下令组织敢死队，发起反冲击，死命锁住日军突破口。城内日军成了瓮中之鳖，一个个、一伙伙地被守军吃掉。18日，潢川西北之日军，从息县分兵攻击罗山县城，切断了59军向西的退路。而此时59军已在潢川一带坚守了12个昼夜，完成了战区赋予的阻击日军至18日的任务。19日凌晨，张自忠下令，趁夜暗向潢川西南方突围。天明时分，日军再攻潢川城，才发现对手已经无影无踪。
潢川战役，59军孤军苦战12昼夜，为后方友军的集结争取了宝贵的时间。该役，59军歼敌3000人，自身伤亡4000余人，其中4位营长阵亡。日军第2集团军广播承认：“皇军在潢川方面遭到支那军队极强烈之抵抗，致蒙受巨大之损失。”
10月12日，李宗仁电告张自忠，他已升任第33集团军总司令，冯治安副之，张克侠为参谋长。
10月中旬，武汉南北屏障大部失守，各路日军已逼近武汉。与此同时，日军开始向广州发起进攻。蒋介石认为战局可能南移，遂决心结束武汉会战。
10月17日，张自忠出席第5战区高级将领会议，会议决定战区主力向平汉路以西转移，确保鄂西。鉴于日军的猛烈攻击对战区翼侧造成很大威胁，李宗仁命张自忠第33集团军殿后担任掩护。
这样，继徐州突围之后，张自忠又一次担起了殿后的重任。在成功地掩护了战区主力西撤之后，33集团军于11月中旬到达鄂北钟祥、荆门地区。
11月13日，张自忠又被任命为第5战区右翼兵团（又称右集团军）总司令，下辖第33集团军、王瓒绪之第29集团军、刘汝明之第28军团、郭仟之江防军及萧之楚第26军等部，总兵力达15万余人。
张自忠深感责任太大，致电李宗仁请辞说：“职自知任重才轻，万难胜任。”但李主意已定，张之固辞未能获准，只好于18日由钟祥赴荆门就职。从此，张自忠成为一方面的统帅。
1937年12月，张自忠背着“撤职查办”的处分重归军旅，戴罪立功，然而，时隔不到一年，不仅处分撤销了，而且连获晋升，由军长而为军团长，由军团长而为集团军总司令，由集团军总司令而为战区右翼兵团总司令，擢升之快，令人称奇。这一方面是因战争急需人才，另一方面则是张本人屡建战功使然。但张自忠并未因此而有丝毫居功自傲和沾沾自喜的情绪，他所感受的只是职务提高了，责任更重了，必须加倍勤勉，奋发努力，才能胜任工作。