第2军在日军攻略武汉的战役部署中，只是担任助攻任务，但是司令官稔彦王中将却狡猾无比，他准备采取后发先至与攻难于易的战略与白崇禧斗法。第2军开始时按兵不动，直到8月20日南路日军已经打得昏天黑地之时，才开始沿大别山北麓向西进攻。虽然这里的地形险阻，并不适合大兵团的运动与作战，但也正因为如此，中国军队在此的兵力也最为薄弱。白崇禧认为，日军进攻武汉的主力是沿长江两岸发动攻击，同时他又想围歼深入的日军第6师团，因此第5战区的重兵南调长江北岸，在大别山北麓的孙连仲，实在没有多少部队布防。
日军第2军在大别山北麓分南北两路作战，北路第10师团沿安徽六安至河南光州一线，向信阳推进，第3师团为后援跟进；南路第13师团沿安徽霍山至河南商城一线向武汉北面推进，第16师团尾随第13师团为预备队，并担负交通线的警备。
8月下旬日军发动攻势后，白崇禧才发现，敌人竟然把地形复杂的大别山北麓地区作为主要进攻方向，于是急调大军在大别山北麓加强防御，以第3兵团在六安、霍山以西至商城地区设防，准备迎击日军。其所部第51军部署于六安地区；第77军部署于霍山方面；第71军控制于商城东侧附近，准备对进攻之敌实施反突击。
8月27日，日军第2军发动进攻。28日，日军第10师团击败中国第51军，占领六安，继续向河南固始推进。29日，日军第13师团突破中国第77军阵地，攻陷霍山，向河南省商城推进。9月2日，第13师团攻占叶家集，当夜强渡史河，进攻富金山。
宋希濂部71军在富金山凭险设置阵地，面对装备极其精良的日军第13师团的进攻，血战不退。尤其是71军第36师的陈瑞河部，在十天十夜的富金山血战之中，几乎打光了所有的弹药，使第13师团死伤高达1万多人。稔彦王实在无法想象中国军队如此顽强，急派第10师团加入战斗，结果仍然无法突破富金山阵地。当时连日本的报纸都感到奇怪，究竟镇守这个阵地的中国军队是何方神仙，日军两个师团合力围攻都无法打开局面。由于中国军队后援不继，弹药打光，战斗减员严重，最后不得不退出阵地。富金山防御战虽然悲壮失利，但却给孙连仲调度兵马、调整部署争取到了宝贵的时间。
日军在攻占富金山阵地之后继续分兵两路进击：北路进攻固始、潢川、罗山，南路进攻商城与沙窝。南路日军第16师团于9月16日攻占商城。9月17日，日军第2军命令第13、第16师团突破大别山中国军队防御体系。9月20日，日军第13、第16师团向沙窝、新店发动进攻。中国军队利用大别山的险峻地形巧妙阻击日军。第13、第16师团在一个多月中以战死约1000人、伤约3400人的代价，才突破大别山地区防线，于10月25日占领麻城，然后沿宋埠、黄安（今红安）、河口镇向武汉推进。
向固始、潢川、罗山、信阳进攻的北路日军第10师团，于9月4日渡过史河，6日进攻固始。中国守军宋希濂的第71军第181旅抵抗一天之后撤退，固始失陷。9月12日，日军第10师团逼近潢川，遭到张自忠的第59军阻击。9月19日至20日，日军相继攻占潢川、光山、罗山等地，逼近信阳。这时，中国第5战区增加兵力，在信阳、大别山地区同日军第2军所属部队展开激烈的攻防战。
9月20日，日军第2军下令第10师团进攻信阳，第3师团在光山地区待机增援。9月28日，日军第10师团改编为驮马部队从光山出发向信阳进攻。中国第17军团所属的刚到战场的第1军与第45军向罗山附近日军展开攻击，迫敌退守罗山城。日军冈田支队在罗山附近受到中国军队第17军团所部从两翼的围攻，日军第10师团主力迂回到罗山南侧地区，向第17军团右翼发动攻击，第17军团两面受敌，被迫撤退。9月30日，日军第10师团在罗山以西继续向信阳发动攻势，又受到中国军队阻击，激战两昼夜，才于10月2日夜突破中国军队阵地。日军伤亡惨重，其中，步兵第39旅团由从庐山出发时2800人，到9月末减少到不足800人。在这种形势下，10月2日，日军第2军令第3师团从光山出发，经罗山北侧向信阳东北推进，策应第10师团进攻信阳，10月11日进至信阳北侧，切断了平汉铁路交通线。日军第10师团冈田支队于10月11日到达信阳东面，第10师团主力到达信阳南面，与第3师团一起包围了信阳。10月12日，日军在优势炮兵火力和坦克掩护下攻占信阳。中国守军进行顽强抗击，歼灭日军2610人。10月16日，日军第10师团从信阳南下，沿平汉线西侧向武汉推进，相继突破平靖关、武胜关。中国守军在桐柏山地区顽强抗击日军进攻。日军第3、第10师团于10月26日占领桐柏山地区后，向孝感、应城推进，协同第11军进攻武汉。
10月25日，日军波田支队攻占阳新、大冶后占领葛店，准备进攻武昌。日军第 9师团10月27日攻占贺胜桥，切断了粤汉线。日军第27师团从箬溪出发，10月18日攻占辛潭铺后，配合第9师团向粤汉线推进，27日占领桃林镇。
在全国人民大力支持下，中国军民在武汉外围同日军浴血奋战近3个月，毙伤日军20多万人，仍将武汉牢牢控制在手中。
日本《大本营陆军部》这样记载了当时的情况：“华中派遣军攻击汉口遭到中国军队的顽强抵抗，曾有一度陷于焦虑时期，即第101师团由1938年9月下旬至10月下旬在庐山、德安附近进行苦战，第2军突破大别山前进意外受阻的时期。日本陆军中央部也无增援的余力，至10月11日才勉强由华北方面军派骑兵第4旅团前往增援，而且弹药特别是炮弹消耗量极大，为其补充煞费苦心。”
板垣征四郎同日本陆军参谋本部次长多田骏再次协商武汉会战的作战方案。多田骏认为，日本要攻取武汉，仅在武汉动手不行，必须在广东发动进攻，在武汉背后捅蒋介石一刀。
日本海军对进攻广东最为积极。日本陆军被打得焦头烂额，只得让海军插手广东作战，但又担心兵力仍不够使用。多田骏早已在台湾预备好一支部队——古庄干郎的第21军已在台湾澎湖集结待命，300余艘作战舰只也久候多时。
板垣征四郎、多田骏立即将突袭广州的作战计划提交由裕仁天皇主持的御前会议讨论。日本大本营于1938年9月19日下达了第21军的动员令，发布了该军的战斗序列，重新任命以前曾准备任命为华南（平海）作战司令官的原日本驻台湾军司令官古庄干郎中将为第21军司令官。并下达进攻广州的“大命”。同日，日本陆军参谋总长闲院宫载仁以大陆指第273号发出指示，命第21军主力于大亚湾登陆，随后以一部兵力由珠江方面策应攻占广州。
1938年10月11日夜，美丽的大亚湾月光皎洁，风平浪静。古庄干郎秘密遣兵调将，命登陆部队分乘60万吨的两个输送船队在大亚湾占领攻击阵位，士兵偷偷登陆。中国部队猝不及防，仓皇后撤。广东省主席吴铁成闻讯出走，广州遂沦于敌手。
蒋介石在武汉得到广州失守的消息，大吃一惊，觉得武汉对外通路已被堵塞，武汉失去死守价值。他提笔在日记中分析形势写道：“日寇在大亚湾登陆之目的：一、表示其非达到使中国屈服不可；二、对英国示威，欲中国不借重英国而向其屈服；三、希望分化广东，不加抵抗；四、至于截断我广九铁路之目的尚在其次。”
此时，他对武汉会战又有了新的考虑：由于中国军队已在武汉外围的作战中被过度地消耗，已经没有有效的力量防卫武汉了。如勉强为之，将会重演以急需整补的残兵防卫南京的悲剧。加之日军在广东登陆，切断了中国主要的战略物资进口基地，武汉已无法继续成为战略物资进口的转运中心，战略地位也就不再那么重要了。还由于北路的日军在10月12日进占信阳，而守军胡宗南部溃败，向西退向南阳，而没有向南面的武汉方向退守，造成武汉北方的防线出现兵力空虚。这时日本第2军既然切断了平汉铁路，日军若是迅速地向南旋转，可以沿着平汉铁路南下发动攻击，对武汉中国军队的北方防线，形成了明显的侧后威胁。为保存军力起见，蒋介石在陈诚等人的极力建议之下，决定放弃武汉，以避免防守武汉的中国军队遭到日军的围歼攻击。
这一天，蒋介石在日记中写道：“此时武汉地位已失重要性，如勉强保持，则最后必失，不如决心自动放弃，保全若干力量，以为持久抗战与最后胜利之根基。对于敌军心理，若其果求和平，则我军自动放弃，反能促其觉悟，并可表示我抗战之决心，与毫无所求，且亦所不惜，使其不敢有所要挟。否则，如我军冀其停止进攻，则彼更将奇货可居矣！故决心放弃武汉。”
随后，蒋介石召集主要将领会议，做出撤出武汉的军事部署：江北的主力部队撤至平汉路以西的汉水沿岸和大洪山区，廖磊的第21集团军留在大别山区，开展敌后游击战争；薛岳的第1兵团留在九江以南抗击敌人；张发奎的第2兵团依托幕阜山，掩护西面的粤汉铁路；罗卓英指挥武昌以南金牛方面的作战，掩护各军撤退，整个武汉只留一个旅的正规军做象征性的抵抗。武汉大撤退随即全面开始。
1938年10月25日，国民党军队放弃武汉，国民政府军事委员会发言人同日接见中外记者指出，中国抗战方针为持久抗战，不在一城之得失，亦不在一时之进退，数月以来消耗敌人的目的已达到，掩护后方之任务已毕，武汉已失重要性，因此决定转移兵力，与敌周旋。
各路日军乘国民党军队全面撤退之机，迅速逼近武汉。10月24日，侵华日军从北、东、南三面包围了武汉。日军华中派遣军司令官畑俊六看中国部队有秩序地全面撤退，才放心大胆地来到设在九江的华中派遣军前方指挥所，指挥军队进占武汉。
武汉到了最后时刻。守卫武汉的中国官兵仍浴血奋战，以血肉之躯掩护中国大部队有计划地撤退。在撤离武汉的最后关头，蒋介石欲表现临危不惧的“大将风度”，硬是要同坚守武汉的将士“风雨同舟”。手下大将陈诚等和宋美龄一再“苦谏”，蒋介石才在10月24日夜偕同宋美龄乘飞机飞往湖南省衡阳市北面的南岳。岂知飞机迷航，燃油即将用尽，蒋介石只得命飞机重返武汉机场。10月25日凌晨，获悉日军离汉口城外仅15公里路程时，蒋介石才换乘飞机飞往南岳。
为保卫大武汉，年轻的中国海空军在苏联空军英雄的支援下，以血肉之躯，以灵与肉谱写了壮丽的诗歌，留下了丰功伟绩。
中国空军对陆军和海军起了良好的配合作用，可谓战功卓著。为阻止日本舰船输送日寇进攻武汉，他们驾着银鹰炸沉敌舰12艘，击伤29艘。特别是中国空军大队长沈崇海轰炸敌舰时不幸中弹，飞机油箱着火，他放弃跳伞逃生的机会，毅然驾驶飞机冲向敌舰，与日军战舰同归于尽。
中国海军将士也是出手不凡。中国仅有的11艘战舰和几十艘快艇几乎全被击毁。中国海军司令陈绍宽亲自率领“中山”号等军舰为国民党军事委员会撤出武汉担任运输任务，遭到日军飞机围攻轰炸。陈绍宽带领将士与日机殊死搏斗，却无法冲出重围。
10月24日上午9时，日本侦察飞机发现“中山”舰位于武昌江面，就引来9架作战飞机分两路向“中山”舰轮番攻击，劈头盖脸一阵扫射，使“中山”舰创伤累累。一刻钟后，又窜来6架日机，成一字形向“中山”舰轮番投弹。舰长萨师俊指挥海军官兵用全舰火力集中还击。日本飞行员改变战术，采用急速下降法俯冲投弹攻击，使“中山”舰上的高射火炮因飞机速度很快而不易击中目标。日机对“中山”舰展开更猛烈攻击，击中船尾左舷，舵机转动失灵。接着，锅炉舱又被击中，江水大量灌进舱内。萨师俊急忙带人抢救，但为时已晚，不到3分钟江水即齐腰深，顿时水淹炉火，机器停转，全舰失去控制力，舰体偏向左倾。日机又发动攻击，炸中舰首。萨师俊正在炮台上指挥作战，一发炮弹炸断他的腿，手臂也受重伤，人跌倒在血泊之中。炮台上的官兵也被炸得血肉横飞，无一幸免。
萨师俊神志尚清，从血泊中用一条腿支撑着坐起来，顽强地指挥舰上幸存人员奋勇作战，向日机开炮还击。敌机发疯般开炮施虐，使“中山”舰受伤更重，缓缓向江中沉没。全舰官兵站在深水中各自为战，开动手中武器对敌射击。最后，萨师俊舰长与全舰官兵，连同“中山”舰一起沉入滔滔的江水之中。其余炮艇，有的被日本飞机、舰艇击沉，有的羞于被日寇俘获而自沉江底，没有一艘投降日军。中国海军将士以鲜血和生命为保卫武汉谱写出壮丽篇章。
10月25日中午，吉住良辅中将率领第6师团自江北方面攻陷黄陂，其佐野支队的第23联队通过滠口，到达汉口北郊的戴家山，当夜占领汉口市街的一角，26日占领汉口。10月26日凌晨5时，波田支队（台湾旅团）沿长江南岸直逼武昌城下，波田重一率领他的旅团从宾阳门窜入武昌城，得意忘形地在武昌城门插上了太阳旗。10月27日，日军第116、第6师团各一部攻占汉阳。至此，武汉三镇全部陷于敌手。
武汉保卫战，从日军攻占安庆开始到武汉失守为止，历时4个半月，毙伤敌近4万人。此战意义重大。它大大消耗了日军的有生力量，打破了日本妄想迫使中国屈服、早日结束战争的计划，使形势发生重大变化，成为中国抗日战争的重要转折点。
武汉保卫战使日本的战略进攻被迫停止，军事战略为主的方针彻底破产。攻占武汉以前，日本实行“速战速决”的战略方针，妄想通过强大的军事进攻，一举摧毁中国的抵抗力量，迅速占领整个中国。经过中国军民15个月的奋力抵抗，日本兵力伤亡近45万人，军费支出近100亿日元，人力、物力和财力的消耗都已达到空前的程度，国内人民反战情绪不断增长。特别是中国共产党领导的敌后游击战争的猛烈开展，大片失地的收复和抗日根据地的建立，钳制了日军的大量兵力，拖住了日军的正面进攻，使日军受到严重威胁。在此情况下，日军不得不停止对正面战场的战略进攻，转施战略保守，以主力回师占领区对付游击战争。这也意味着日军“速战速决”的战略方针彻底破产，被迫转入长期持久的不利局面。从此，中国抗日战争开始进入战略相持阶段。