1931年1月上旬，红一军奉命返回福田河与红十军会师，根据中央指示，两军合编为红四军。此时，曾中生鉴于形势发展变化，敌人已渐处守势决定转入进攻作战。一方面以红军主力寻找根据地周围敌人弱点打歼灭战，扩大根据地；另一方面以一部分红军在地方武装配合下，扫清根据地内部敌人的孤立据点。根据这一方针，红四军主力采取“围点打援”战术，包围麻城北面磨家楼守敌一个营，诱使敌十三师师长朱怀庆带着4个团队从麻城急来援救。援敌走在半路即遭我红十一师的迎头痛击，伤亡惨重，弃阵逃去。我军经过3天苦战，终于攻克了磨家楼。这一战总共歼敌1个营，击溃4个团，缴枪千余支。
接着，红四军十师主力准备攻打新集。新集是敌人的一个顽固据点，是钉在鄂豫皖根据地中的一颗钉子，这里围寨坚固，易守难攻，我军两次强攻均未拿下。曾中生、邝继勋和担任主攻任务的三十团团长王树声等召集干部和战士，进一步分析地形和敌人设防特点，决定采取“坑道作业爆破攻城”的新方案。根据曾中生的指示，王树声带领战士从北墙脚五六十公尺的一个山沟旁挖进去一条坑道，直通围寨墙脚下，将300多斤黑色炸药和手榴弹放在一个棺材里，埋进坑道引火爆破，寨墙上顿时炸开了两丈宽的一道缺口。曾中生命令发起总攻，英勇的红军指战员，在人民群众的积极支援下冲进围寨，与敌人进行肉搏战，短短3个小时，就将围寨内千余人的反动武装一举歼灭。随后，红军又铲除了20余个敌军据点，使鄂豫皖根据地连成一片。
2月下旬，曾中生主持各师以上军事干部会议，讨论研究下一步的行动计划，决定趁敌人不备，向敌占领的京汉铁路发动进攻。3月下旬，曾中生等指挥红四军，乘敌不备，袭占李家寨、柳林河车站，歼敌千余人，切断交通，缴获大批军用物资。敌三十四师增援双桥镇，红军则集中主力突袭猛攻、迂回包围，大胆插入敌人指挥中心，全部歼灭敌三十四师，活捉敌师长岳维俊，这是曾中生领导和指挥鄂豫皖军民反“围剿”所取得的一次伟大胜利。
第一次反“围剿”的胜利，鼓舞了军心民心，鄂豫皖根据地得以巩固并扩大，红四军也得到了迅速的扩充，到处掀起了劳军、参军的热潮。全军已由4个师、12个团，发展到2万余人。部队党组织和政治工作有了加强，连有支部，在团以上各级都建立和健全了党务委员会、青年团务委员会。为了提高党员干部的素质，部队还编发了党课教材和《红军须知》手册，同时，在白区地方党组织的帮助下，红军和根据地人民打成一片，开始建立了一支红色医务工作者的队伍。除帮助地方进行分配土地建立新区域政权外，还举行军民联欢，送医送药，帮助群众生产，深受苏区人民群众的拥护。当时百姓之间流传着这样一首歌谣：“白匪来了，粮食柴草都抢光；红军来了，帮我割稻送进仓。”鄂豫皖根据地建设一派热火朝天的胜利景象，使曾中生万分高兴，感到自己没有辜负党的重托和希望。但又认识到身上的担子更重了，离党的要求和全国革命的胜利还差得很远。
在欢庆胜利的锣鼓声中，鄂豫皖临时特委、军委等领导机关迁入新集。在这里，曾中生主持召开了鄂豫皖临时特委扩大会议，正式组成了鄂豫皖特委和军事委员会。曾中生担任鄂豫皖特委书记和军事委员会主席，蔡申熙、郑行瑞为军事委员会副主席，曾中生代表临时特委在会上作了工作报告。会议总结了反“围剿”及根据地党政建设的斗争经验，制定了新的斗争方针，会议进一步清算了第二次“左”倾路线统治所造成的各种错误，提出了“巩固阵地与加强红军”为党的“第一任务”，“在粉碎敌人‘围剿’之后应有阵地的向敌人进攻，在巩固的基础上发展革命根据地。”
为执行这一任务，决定在发展主力部队的同时，大力加强地方武装的建设。特委扩大会议还就根据地建设中所面临的重大问题进行了热烈的讨论，纠正了侵犯中农利益、破坏中小工商业者的过左政策。规定了分配土地、发展生产、商业贸易、财政、粮食管理等一整套建设根据地的方针和政策，扭转了“立三路线”指导下的某些错误方针。
第一次反围剿胜利以后，曾中生代表鄂豫皖临时特委给中央写了报告。在报告中，他提出了根据地党政干部缺乏的问题，缺少受过正规训练的干部，给对敌斗争造成很大不便。为了培养地方武装干部和红军干部，特委决定创办四个教导队，还成立中国工农红军军事政治学校第四分校，曾中生兼任校长，郑行瑞为副校长，刘杞为政委，李昂茨为教育长。共办4队，两学兵连、一特种技术连(机炮连)、一政治连，学生由每连选4人送来。各工会、农会、青年团与党部都按规定选送，学生8个星期毕业。
在曾中生等的领导下，鄂豫皖根据地的建设进入了一个新阶段。红四军军长邝继勋在1931年4月15日给中央的报告中，充分肯定了特委和红军的革命功绩，还特别提到“中生同志在此，实际工作的确有大踏步的进展”，给曾中生以很高的评价。
1931年，张国焘等到鄂豫皖根据地，以曾中生为首的一批领导人对其错误行为进行了斗争。红军离开鄂豫皖根据地后，曾中生又指挥开辟了川陕革命根据地。
1931年4月，国民党集中了11个师的兵力，发动了对鄂豫皖根据地第二次“围剿”。红军避敌主力，打其虚弱，向皖西地区进发。
四中全会后，王明“左”倾主义政策在中央占据了统治地位，并派张国焘等到鄂豫皖区来“改造”党和红军。
鄂豫皖中央分局的成立，标志着王明“左”倾机会主义统治鄂豫皖苏区的开始。张国焘上任伊始，就对苏区党和红军大加责难，全盘否定鄂豫皖根据地的工作成就，并命令各级党组织重新分配土地和执行新的“左”的政策。
曾中生等一大批原鄂豫皖苏区和红军的领导人，与张国焘的“左”倾错误进行了针锋相对的斗争。如徐朋人主张应当允许富农享有土地，反对张国焘在春耕时期反复平分土地，影响生产的作法，陈定侯反对根据地内工人过分提高工资，以影响工农联盟。但是，这些人都被张国焘以“反对四中全会”、“反对分局领导”、“一贯右倾”等罪名，加以批判、斗争和撤职。
6月28日，在新集召开的鄂豫皖中央分局第一次扩大会议上，张国焘无耻地吹嘘只有他领导的“中央局在执行四中全会的路线，才使当地的工作又有了一个根本的改变”。他提出：“我们主要的是反对右倾机会主义，反对立三路线的残余，尤其是反对实际工作中的机会主义，反对调和路线及党内和平倾向。”
对于张国焘的无理指责，曾中生用大量事实予以驳斥，张国焘恼羞成怒，利用职权，发起了对曾中生的“围攻”。最后，给曾中生扣上一顶“反对四中全会”的帽子，逼他做检查、交待情况。张国焘还给徐朋人扣上“不可救药的右倾小组织分子”、“破坏工农联盟”等帽子，进行打击迫害，并突出书记意见，实行独裁统治。
6月初，鄂豫皖第二次反“围剿”结束后，敌暂取守势。曾中生认为这正是红军主力主动出击的好时机，他建议在敌人新“围剿”开始之前，红军应以一部分兵力发动群众结合地方武装肃清根据地内的反动武装，并以主力南下向外发展，恢复蕲春、黄梅、广济地区的工作，进而威逼长江，牵制敌军，配合中央根据地反“围剿”的斗争。
但是，张国焘却借口“巩固苏区”，借口“一寸土地也不让敌人蹂躏”，无理指责曾中生的建议“揭开了立三路线的面具，而来了个实际工作上的机会主义”，“将会招致敌人再来进攻根据地的危险”。结果，红军从5月底就集中在根据地内剿匪，未能利用有利时机向外发展。后来曾中生、余笃三、邝继勋等红四军领导再次申明南下进攻的必要性，经过激烈争论，他们的意见得到多数人支持，张国焘被迫同意红军主力南下向外发展。
7月初，军委在商城西南余家集召开军事会议，讨论兵力使用及南下进攻方向问题时，张国焘却走向另一极端，竟限红四军一个月内打下黄山，出潜山、太湖，威逼安庆，震动南京，直接配合中央根据地作战。曾中生等则提出不同意见，并强调向外发展，援助中央根据地应以根据地的巩固为基础，消灭敌有生力量，反对攻打敌人重要城市，但却被张国焘全部否决。
7月中旬，根据指示，曾中生、徐向前、许继慎等领导人在部队中进行了南下发展根据地的动员，极大鼓舞了广大指战员的士气。在徐向前和曾中生率领下，红四军主力挥戈南下，于8月1日一举攻克英山县城，“将陈调元部一个团的兵力全部消灭，无一逃脱，缴枪1200余支，机枪18挺，迫击炮四门，子弹军用品不计其数。”
攻克英山后，部队在此进行休整，徐向前和曾中生详细研究分析了潜山、太湖、安庆等地区和蕲春、黄梅、广济地区的情况，认为无论是敌情地势、群众基础，还是对中央苏区的配合，转出蕲(春)黄(梅)广(济)直捣武穴更为有利，那里敌人兵力薄弱，我军乘虚而入，调敌以歼之，可更有效地支援中央苏区。
曾中生和徐向前将意见报告鄂豫皖中央分局，同时举兵出蕲(春)、黄(梅)、广(济)地区。
在曾中生、徐向前等人的领导下，红四军以五个团的兵力在一个月内连克英(山)、浠(水)、罗(田)、广(济)4座县城。歼敌7个多团，俘敌5000余人，牵制了敌人原拟派往江西的兵力，有效配合了中央根据地的反“围剿”斗争，这一胜利，振奋了当地革命群众的士气，组织了800余人的地方武装，建立了工农民主政府，初步恢复了这一带的地方工作，形成了以英山为中心的罗(田)、蕲(春)、太(湖)大片红色区域。
但是，张国焘无视红四军南下作战胜利的事实，竟指责红四军的主要领导人改变东进计划是“违抗分局命令”，“放弃援助中央根据地的任务等等，并严令“部队立即北返，不得有丝毫停留”。
曾中生、徐向前等人，当即写了报告送到中央，详细地陈述了与张国焘的争论，明确反对张国焘错误的军事路线，并再次强调了巩固原有根据地的重要意义。
9月1日，曾中生、徐向前接到张国焘8月17日来信，被迫放弃大量歼敌的有利时机，按照分局的命令，带领部队北返。9月4日，部队移驻鸡鸣河后，曾中生总结了南下以来的工作，接着召开党的活动分子会议，公开讨论张国焘的来信。参加会议的大部分是支部书记、指导员以上的干部，他们都不同意张国焘的观念，一致通过申明书，再次说明了东进的不利和南下的正确性及其胜利的重大意义。
会后，曾中生根据会议讨论的结果，复信张国焘，表示“除在组织上绝对服从外”，“在政治上不得不向中央分局及军委会作极诚恳的申述的必要”。信中逐条驳斥了张国焘的无理指责，再次尖锐批评了其攻打安庆的错误军事方针。
曾中生等人的做法，令张国焘恼羞成怒，但又无公开明辨的勇气，遂蓄意阴谋对付曾中生等。
不料这时正好发生了一起敌特案件。国民党特务曾扩情，派人送信给鄂豫皖军委皖西分会主席兼红四军十二师师长许继慎，企图以黄埔同学关系诱使许率部投降蒋介石。许继慎立场坚定，不为所动，当即将来人逮捕，连人带信送往红四军军部。曾中生、徐向前经过审查了解，并根据许继慎的一贯表现和他对此事的明确态度，认为这完全是敌人用阴谋破坏我党团结的把戏，许继慎“不会有什么问题”，接着将特务和信件送鄂豫皖中央分局处理。
张国焘则抓住这个好机会，以此为借口，扩大事态，在新集非法下令逮捕鄂豫皖军委会参谋主任(原红四军党委书记)李荣桂，严刑逼供出所谓许继慎、周维炯等9人为反革命军事委员会，诬陷他们“确有准备把部队拉到长江边，投降蒋介石”的所谓“全盘的反革命计划”。红四军南下，即是曾中生等受了那些“反革命分子的怂恿和蒙蔽”。张还在后方部队中大肆宣扬此事，欺骗广大指战员。
9月13日，红四军继续北返至麻埠后，张国焘派陈昌浩前往红四军，撤销了曾中生红军政委职务，接任红四军政委。陈昌浩亲自“带着红四军的一支先头部队押送曾中生和许继慎回到白雀园。”同时在张国焘和陈昌浩的“指示”下，“各师团在行进中逮捕了100多个嫌疑犯。”
9月底，红四军北返至河南光山白雀园地区，张国焘主持了“全力肃清四军中之反革命”的整顿四军的工作。在他疯狂的打击迫害下，许继慎、熊爱暄等优秀指挥员，被张国焘罗织以“改组派”、“AB团”、“第三党”等罪名，予以杀害。
10月上旬，张国焘召开团以上干部会议“斗争”曾中生，张国焘施展其狡猾伎俩，抓住曾中生在鸡鸣河召开党的活动分子会议这件事进行攻击，责难其“动摇党在红军中的威信”。最后他给曾中生扣上“反抗中央分局”，“纵容反革命分子活动”的罪名，调离部队考察。张国焘对曾中生的处理决定，得到了以王明为首的坚持“左”倾路线的党中央的支持。
12月，红四军取得了黄安战役胜利，黄安独立团被扩编为中国工农红军第四方面军独立师。在广大指战员的强烈要求下，曾中生调任黄安独立师师长。鉴于这支部队是农民武装扩编起来的，新兵多，训练差，缺少武器的情况，他开始全力抓部队训练。在他的领导下，这支部队战斗力得到了提高，多次成功地配合主力红军的活动。如：1931年1月，国民党反动派对鄂豫皖根据发动了第三次“围剿”。由汉口北上的八十九师，乘红军主力围攻麻城的机会，侵入黄安高桥地区，曾中生指挥独立师奋起迎战，战士们勇敢冲锋，打得敌人狼狈逃窜，溃不成军，大显身手。
1932年秋，由于张国焘基于敌人若再进攻红军，就得由帝国主义亲自出马当主力军的想法，错误地估计了形势，提出了所谓“偏师”之说。9月间，红四方面军主力转战豫南、皖西，由于敌人固守待援，未获战果。10月初，红四方面军主力经英山、罗田再次西进。曾中生亲率两个团，在永家河与敌人搏斗，打垮了数倍敌人的进攻。此战中，他臂部中弹受伤，医治未愈便重返回了战场。这次转战，由于张国焘军事指挥上的错误，敌人乘机大举进攻，使皖西根据地损失了5/6。
此时，张国焘被气势汹汹的敌人所吓倒，由“左”倾变右倾恐敌，完全失去了粉碎敌人“围剿”的信心，遂率领红四方面军主力漫无目的地向西转移。在由湖北经河南去陕西的作战中，广大指战员与前堵后追的敌军浴血奋战，伤亡很大。
转移中，广大指战员对“一切战斗任务不清楚，行动方针不知道”的状态强烈不满。在张国焘军阀主义领导下，党内生活毫无民主可言，广大指战员有话无处说，有意见也不敢讲。