北京政变后，按照国民军的战略部署，国民军二军和三军立即沿京汉线南下，分别去攻取直隶的保定、大名及河南。这是国民军总的战略需要，也是冯玉祥对胡景翼、孙岳二部利益的关照。他曾表示，要以大局为重，对李景林、胡景翼、孙岳“必尽先与以好位置”。但是，国民军二军与三军却为河南发生了矛盾。冯玉祥在1924年11月7日的日记中写道：“胡师长平素不听我指挥，现在为救国救民竭力服从我。论公论私论厚薄，当先胡师长而后孙二哥，但为何任命胡往河南，孙二哥不甚乐意……”
胡景翼在受命河南督办之前，已将所部主力调至京南丰台一线。11月21日，胡率二军从直隶顺德进兵河南，12月4日占领彰德。此时，刘镇华憨玉琨部已攻占洛阳、郑州、开封，抗拒二军南下了
1925年3月，胡景翼国民军二军与刘镇华镇嵩军憨玉琨部爆发了一场短促而激烈的战争，史称胡憨之战。这场战争表面上是二者为争夺河南而发，但实际上是奉系、国民军系与段祺瑞皖系在北京政变后勾心斗角而混战的发端，有非常复杂的政治背景。
北京政变前，河南是直系吴佩孚的老巢，政变后，该省立即成为几大实力派军阀争夺的焦点。
1924年11月19日，吴佩孚由汉口逃回洛阳。此时，他对自己的力量还盲目地乐观，仍然幻想依靠豫省再起。他认为河南及长江流域还是自己的地盘，曾先期派亲信，原河南督军张福来回豫前往彰德一线布防，自己在洛阳收集残部，组织了“护宪军”，其兵力仅三万人，并在郑州设立了“前敌总司令部”。但是，河南直系残部已均属惊弓之鸟，将领也各怀异志。吴佩孚以此既无训练、又无斗志的军队来抵抗各方的进攻，无疑是痴人说梦。
北京政变后不久，直系河南省省长李济臣带部曾在漳河一带设防，但随即溃散。阎锡山晋军出兵石家庄后即自动撤出，国民军军一部沿京汉线南下，未遇任何障碍就抵豫境。11月7日，黄郛明令将豫督张福来、省长李济臣免职，特派胡景翼、孙岳分别取代其职。但是，刘镇华的镇嵩军头目憨玉琨在此时已捷足先登，占领了河南大部。
刘镇华是个反复无常的军阀，在北洋派系争斗中，有奶便是娘。第二次直奉战争中，他派张治公师到山海关参战，对吴佩孚的支持可谓不遗余力。但是，在吴兵败后，就开始另谋出路，随即投靠了段祺瑞。11月5日、7日，他两次发通电要段祺瑞“出任艰巨”，接着又派人参加了齐燮元召集的十省大同盟会议。随着局势的发展，他把目光又投向了河南，派人在段面前运动，谋求豫督。
刘镇华是河南人，所部称为“镇嵩军”，其头目憨玉琨、张治公也都是其同省乡亲，在陕西均属客籍。当时，刘镇华虽然名为陕西督办，但所辖不过是西安及周围几个县。陕北为井岳秀把持，关中一些重要县份为国民军二军及其他地方武装所占据。所以，他一心想攫取河南。这既可以荣归故里，又可以安抚有野心的憨张诸人。11月18日，他致电段祺瑞称“愿调河南，陕西督理一缺，即与胡笠僧，即陕人治陕，豫人治豫，顺理成章”。刘镇华的上述野心也正好为段祺瑞、张作霖等所利用。
段祺瑞上台后，手中除了安福系政客外，在地方上并没有什么实力。所以，他想安插王揖唐等到安徽，支持刘镇华取河南，不乐意将陕西给胡景翼，想让陕督一职给自己的死党吴新田，从而在地方上可以控制数省。刘对段的投效，正符合他的战略意图。二人不谋而合的政治阴谋，植下了河南进一步****的祸根。
奉系沿津浦线南下后，目标不仅仅是取得山东、安徽和江苏。奉张不乐意让国民军二军夺得河南，以防国民军势力的膨胀。他也想得到这中原大省，以进一步实现其独霸北洋中央及统治全国的最终目标。阎锡山在看到国民军控制察绥之后，也对其占领河南表示疑虑，希望刘镇华在河南得手。上述各派势力均把河南看作关系到自己政治前途的战略重点，使其一时成为国内政治热点之一。
但是，吴佩孚在此时的头脑还未清醒，尚把刘镇华视为自己的基本力量，指望依靠他东山再起。他逃回洛阳后，就电召刘部憨玉琨的三十五师赴郑州待命。为此，刘镇华在西安召集紧急军事会议，商议对策，决定了捧段、讨冯、胡，对吴佩孚虚以委蛇的战略方针。实际上，他在此时已派憨玉琨出兵潼关，进入了豫西。
胡景翼与刘镇华本来为旧相识，曾托他照料其留在渭北各县的军队。当时，刘镇华为敷衍直系及胡景翼，尚能与胡留陕的武装力量和平共处。但是，胡景翼建立国民军二军后，留陕所部企图离陕赴豫与胡会合，在华阴与刘部发生了冲突。刘镇华调憨部回师堵截，并杀了二军的代表彭仲华，将其部队赶回了渭北。因此，刘镇华与胡景翼矛盾激化。憨玉琨就是在此情况下直趋洛阳的。
北京政变后，刘镇华急于投靠段祺瑞而自保。为此，他向段祺瑞之子段宏业行贿二十万元。11月23日，刘镇华得段祺瑞的密令，伙同吴新田、陆洪涛等联名致电吴佩孚，劝他下野。这是他投靠段，谋夺豫省的公开信号。所以，段祺瑞在次年1月以执政元首的身份再次任命他为陕西督办、。
12月1日，进驻陕州的憨玉琨突然率部向东进发，并向吴佩孚发出最后通牒，限令他24小时让出洛阳。这对吴佩孚不啻是个晴天霹雳。他手头只有刚招募的新编第三师，二个旅长在此时畏战先逃，军队又发生哗变，无力抵抗，被迫率幕属及卫队于2日逃往郑州，接着就逃往鸡公山。憨玉琨率部随即占领了郑州、开封。
此时，憨玉琨已占领了大半个河南及所有重要城市。他大量收编土匪以扩充军队，并野心勃勃想脱离刘镇华“自霸中原”。
12月6日，段祺瑞又重新任命胡景翼为河南督办。这是他应付冯玉祥、胡景翼的又一手段，也是典型的两面政治手法。首先，由于冯玉祥的下野造成了严重的政治危机，他不得不对国民军有所安抚，故下此令；此外，也出于让胡憨双方互相牵制的目的。为此，他还进一步摆出调停姿态，让憨玉琨部退出了郑州、开封。憨部占据汴、郑本属名不正、言不顺，故被迫把二城让出，但仍占据着洛阳和豫西三十余县。此时，胡景翼也力图避免战端，见段政府有调停之意，憨玉琨也有意退让，就请正蛰居在家的张钫出面再进行调停。张钫与刘镇华、胡景翼、憨玉琨都有一定的历史渊源。在张的奔走之下，刘胡之间的关系一时有所缓和，憨玉琨也有与胡景翼合作的愿望。
憨玉琨，字润卿（1888--1925年）河南嵩县人，幼年为人放牛，16岁时为报兄仇用铡刀砍死仇人（地主），后随王天纵落草。辛亥革命后，他任刘镇华镇嵩军第三路分统，以骁勇闻名。1924年，他接受直系改编，任中央陆军第三十五师师长，名义上脱离了镇嵩军，但刘镇华仍能以旧上司的关系对他予以控制。憨与胡景翼也曾结为盟兄弟，并对他甚为仰慕。所以，他在胡景翼进兵河南之时，未加阻拦。胡对憨之所为深为满意，并打电报向憨许诺为河南军务帮办。此时，胡憨之间有合作的可能。
但是，事态突然发生逆转。
国民军二军进驻开封之后，国民党元老人物在此云集，如柏文蔚、李根源、张继、刘治州等。他们为胡景翼出谋划策，对二军今后的发展更多计议。其中，有人主张胡憨联合攻湖北，会师武汉。这对胡产生了一定影响。1924年12月中旬，他致电段祺瑞说：“我军拟乘此时机，会师武汉，肃清长江”。不久，他还致电广州政府建国湘军总司令谭延闿，请速定全赣，夹击武汉。胡景翼出于上述战略考虑，于12月7日曾致电在郑州的憨玉琨说：“此时，吴佩孚虽去，蝤据鄂疆，我辈志在澄清，当不令会有死灰复燃之日，兄能贯彻主张，甚愿一致进行，会师武汉。否则论功行赏，大河以南，任择何地……”胡景翼还答应憨三项条件：京汉道以西归憨部驻扎；京汉道以西正杂各项归憨军提用；京汉、汴洛两路各要站合设办公处。他计划国民军二军全力沿京汉路南下，让憨部全力经老河口、襄樊沿汉江南下，攻取汉阳，两军会师武昌。事成之后，胡据湖北，憨占河南，再帮助孙岳取河北，三省联成一片。憨玉琨对此也甚表赞成，与胡联合之意更坚，故将郑州交给了胡景翼。为此，他曾向刘镇华请示行止。刘虽然对此表示了拒绝之意，但憨的决心尚未因刘的态度而动摇，决定以孙殿英旅为主力，配合豫西民众武装为第一梯队，另派三个独立团附野炮六尊为第二梯队，由吴沧州统领，从豫西南下。此时，国民军二军主力李纪才部已到信阳。肖耀南在12月27日召集团长以上军官紧急会议，决定派孙建业旅赴随州、枣阳一线设防，令二十五师五十九旅增援孝感一线。28日，肖打电报给段祺瑞称，“闻某方有会师武汉之举，万一成事实，耀南愿率我师旅相与周旋”。为此，段祺瑞也急电致肖耀南，称决无会师武汉之事，俭电所称是有人挑拨之计。尽管如此，胡憨联合之说仍为各方所重视。
奉系对国民军在河南的发展极为关切，尤其惧其得豫之后再据鄂，然后与广东革命政府联合，对自己形成更大的威胁，故极力通过刘镇华影响憨玉琨，力图对其釜底抽薪，以达到消灭国民军二军的目的。段祺瑞的用心更为险恶。他一方面要极力保存直系在长江流域的势力与奉、国两系对抗，另一方面更想在西北重建能遏制国民军的力量。为此，他嗾使阎锡山、刘镇华、陆洪涛搞三省同盟“欲扶植与胡景翼足以对峙之势力于河南”。他在表面上号召所谓和平统一，骨子里是想维持或制造三种以上的实力派，使之互相争斗牵制，而自收********，纵横捭阖之利。
阎锡山对国民军势力的壮大一直感到恐惧。他一直视察绥为自己的势力范围，对国民军得二区不满，并怕自己夹在国民军地盘之中，成为其盘中之餐。所以，他也极力支持刘憨与国民军二军争豫。因此，遏制或消灭国民军二军一时成为北方各实力派共同的战略目标。憨玉琨则成为了各方实现上述计划的最有力的工具。
憨玉琨头脑简单，有较强的封建意识，对刘镇华表现愚忠。他在占领豫西之后，所部势力大增，野心也随之膨胀，很想在乡梓出人头地。各方正是利用了上述野心。胡景翼又在对待憨玉琨问题上犯了错误。他在开封就任督办后，未履行曾许诺给憨玉琨为河南“军务帮办”的前言，而保荐了老毅军首领米振标，从而引起了憨的强烈不满。憨认为胡不讲信义。胡虽然给憨写了一封亲笔信，对此事一再进行解释，说米做帮办是段政府所委任，自己无法拒绝。憨当然不相信胡之所言。所以，胡憨联合攻鄂之意立即化为乌有。
实际上，胡景翼在某些国民党人士参谋之下，开始对憨势力的发展发生猜忌。憨已占整个豫西，如得“帮办”的名义，其所据半壁江山已合法化。这是胡所不能容忍的。段政府没有再任命孙岳为河南省省长，也是胡景翼上述态度的反映。所以，孙岳对此也表示不满，只是由于同属国民军袍泽，又深知河南难养国民军二、三军，故才能隐而不发。但是，这却让憨对孙产生幻想，认为与己同病相怜，有让其出面调停自己和胡景翼关系之议。
1925年1月15日，段祺瑞任命孙岳为陕甘剿匪总司令；18日，又任命憨玉琨为陕甘剿匪副司令。这是段对二人的拉拢与安抚。憨玉琨虽然在洛阳大张旗鼓地就任了该职，但对胡仍不释前嫌。此后，胡景翼又主张河南省军政必须统一，要刘镇华把憨部调回陕西，而将他自己留陕的李虎臣等部调到河南。这当然不为刘憨所接受，并加剧了与胡景翼矛盾的发展。
国民军二军以客军治豫，但军纪很差，未能建立牢固的统治基础。憨玉琨在刘镇华的指使下，利用地域之见，极力煽动河南人受陕西人压迫的情绪。因此，国民军二军与憨玉琨部的关系，日益恶化。双方矛盾的实质是对河南统治权的争夺。这是奉系、皖系及国民军系矛盾发展的反映及必然结果。胡景翼和憨玉琨之间的战争是无法避免的。
1925年1月，奉系、晋系、刘镇华和憨玉琨在山西太原召开秘密会议并签订了联合消灭国民军二军、三军的密约。密约内容大略是：一、由憨玉琨发动，陕西刘镇华率其全部东出为憨后援；二同时，奉方也由李景林率部出大名；三、山东张宗昌率部由陇海线西进，会攻开封；四、山西军队则渡河横出陇海线西段。河南军民两政及一切善后事宜，届时由三方协商办理。但是，李景林不是奉系中的嫡系，已得到直隶督办一职，不愿意舍现在地位而冒险南进，不赞成此计划。为此，李景林让他的幕僚韩玉辰将密约照抄一份，派专人到开封送交给了胡景翼，并嘱其在即日就全线发动攻势，予以憨以歼灭打击，务求在张作霖生日前取得全胜（张的生日为2月底）。李景林自己借口准备未成熟，想方拖延时日，维持奉军与国民军的和平局面。与此同时，韩玉辰还直接到京，与国民军二军驻京代表张季鸾通报了上述情况。胡景翼得到这个情报后，立即改变了自己的全盘战略部署，放弃了南下图鄂的意图，决心先解决憨玉琨部。他派王典型去湖北，与肖耀南、陈嘉谟、寇英杰通好，相约鄂豫互不侵犯。与此同时，胡景翼全力进行了战争动员。
1925年1月23日，憨玉琨唆使禹县地方民团及土匪收缴胡部曹士英旅的枪械。双方发生激战，曹旅败退至许昌旋即和援军一起反攻，在收复禹县后纵兵烧杀，百姓死者千数，财产损失达千万元以上（曹士英系国民军二军收编的直系残部）。事后，胡景翼将该旅团长王祥生枪决，布告缉拿在逃的曹士英以安地方。并以憨部挑衅上报中央。段祺瑞内阁议决主张和解，拟派员查办，但没有采取任何制止事态恶化的步骤，实际上是对憨有所纵容。刘镇华、憨玉琨借此事件大造舆论，并否认阁议，还派人赴奉求援。
双方事态越来越恶化，都积极备战，广招土匪。1月28日，胡景翼发俭电给憨玉琨，限令他在冬日（2月2日）前离开洛阳。憨玉琨也回胡一电，即令他在1月30日前离开开封。双方剑拔弩张。大战一触即发。
2月9日，冯玉祥自张家口致电刘镇华、胡景翼、憨玉琨等，劝解双方互让，主张“以政权论，渭北应归陕，豫西应归豫；以驻军论，渭北驻军应归豫，豫之师应归陕”。该电实际上是反对刘憨染指河南，故被二人所拒绝。2月11日，胡景翼因前曾电致段祺瑞，以憨纵匪殃民，请免憨职，为段所拒，忿而电辞河南督办职。
2月17日，段内阁再议豫局，仍决定“调停”。此时，段祺瑞策划的善后会议已于2月1日开场。河南如果发生战事，那对段祺瑞政府的威信将是沉重打击。但是，憨玉琨对主张调解的阁议无复电。2月21日，段内阁再次会议，特令孙岳以检查驻豫军队为名赴河南担任调停人。
此时，关于对国民军三军的安置也成为国奉关系焦点之一。
段政府对此感到极为棘手。段祺瑞、李景林电函交驰，催三军将保定、大名地区交出。冯玉祥也怕由此引起与奉方的冲突，派人来疏通孙岳让防。刘镇华、憨玉琨认为，孙岳与己对胡景翼在地盘问题上有共同遭遇，也派人来劝其出面充调停人，以有利于己方。胡景翼视三军为友军，更不断电催孙率军南下助战。因此，孙岳一时成为调停豫局的最佳人选。孙岳也认识到，再留在直隶已不可能，只有向西谋求出路。但是，国民军三军如果谋图陕甘，刘镇华、憨玉琨是自己的最大障碍。因此，他也乐于接受“调停”名义，借机助胡灭憨。所以，孙岳介入豫争只能加剧局势的恶化。
孙岳在入豫前致电胡憨两方，重申了冯玉祥“佳”电的主张。这就充分表明了他的基本立场。这当然不为憨玉琨所接受。2月26日，孙岳抵新乡后就称病不前了。此时，胡憨之战全面爆发，孙岳等待事态的变化。
2月22日，国民军二军突然向憨玉琨部全线发动攻击。此时，各方对豫局调停空气甚浓。憨玉琨依照与其他各方密议，正等待三月初动手。国民军二军也正是听从了李景林的意见，选择了最佳战机。战区很快就扩大到北起荥阳，南到汝州一线的广大地区。憨部主要兵力有三十五师（憨亲任师长，驻陇海路西段）：张治公第二师（驻临汝、鲁山、宝丰）；赵树勋第八混成旅（驻郏县）；马河清第一混成旅（驻巩县）；王振、李有才、张崇勋第一、第二、第三补充旅（分驻登封、偃师、孟津）及孙殿英旅（驻密县）袁英旅（驻汝州）；马文德旅、詹老才旅（驻南阳）。总兵力在6万人以上。但是，其部除憨、张等师旅较有训练外，其他各旅均系新招募的军队，其中除张崇勋旅是由吴佩孚学兵改编外，其余均由土匪编练而成，战斗力极差。胡景翼投入的兵力有自己兼任师长的第一师（编有六个旅）；岳维峻的第二师（编二旅一团）；六个补充团及樊钟秀部。其总兵力超过了憨部，但也只有所部嫡系有些战斗力，其补充团也系新招募，缺乏训练。胡景翼总的战略部署是，以岳维峻、李虎臣率主力为正面攻击部队，沿陇海线进攻据守荥阳及以西憨部嫡系；以樊钟秀部迂回登封攻偃师，袭击憨部侧翼。
战端开启后，憨部一时被打个措手不及，处处被动。2月24日，憨玉琨在召集紧急军事会议之后，与张治公分赴郏县督战。他亲率柴云陞之一部和新收编的王老五部向白沙镇胡部猛攻。胡景翼急调李虎臣（云龙）蒋世杰二旅增援才稳住阵脚。在此次战役中，双方投入的兵力在二万人以上。与此同时，双方打起了电报战，相互指责对方首先开战；但是，在善后会议上却一致否认河南有大的军事冲突，只承认有小的摩擦；继而称对方如何单方进攻，并均要求执政府下达其所需要的讨伐令。段祺瑞在2月4日曾发表通电，称善后会议开会期间，各方军事行动及其他敌对行为均须完全停止，各方如有争执，均应提到善后会议上，听候解决。
胡憨战争的爆发，越发使段政府处于尴尬地位。2月24日，段祺瑞下令称现在驻豫军队防地交错，误会易生，所有胡景翼及憨玉琨部队，各退五十里驻扎，停止军事行动。但是，胡憨双方均置之不理。憨军包围了距郏县70里的苇渠，并袭击胡部左翼。胡军全力迎战，当即将憨部击退。憨军由白沙、童池、银河等镇调部来援，但也被胡军击退。
2月25日，胡景翼下令向憨部发动总攻击。岳维峻为前敌司令，率部自郑州向荥阳等地进攻。此外，双方还在登封激战。国民军二军约四个旅包围了憨部。胡景翼也亲自由开封来郑州督战。憨部不支而退。国民军二军遂占领登封。2月27日夜，驻沁阳的国民军二军一个团暗渡黄河并一举夺取了孟津，然后又与由登封绕道攻偃师的邓宝珊旅会合，共击汜水。与此同时，胡景翼又亲率主力猛攻荥阳。憨军几面受敌，力不能支。陕西第二师师长张治公原与憨玉琨地位相当，不乐意听憨玉琨指挥，其部下又与憨部有仇，故均不乐于助憨作战。开战之后，该部多未集中便全线败走。
憨玉琨令李有才自偃师援登封，但李在中途向国民军二军投降。28日，国民军二军占领荥阳、汜水、巩县等地后向洛阳进发，并派兵攻占新安，以断憨军后路。此时，憨部已失去虎牢关天险及巩县兵工厂，处于更加被动地位。憨玉琨虽亲自冒矢石到前线督战，但终未能挽回败局。
刘镇华见形势对憨玉琨不利，决定按照原来战略方针孤注一掷，将陕西督办一职让吴新田代理，自己以阅兵为名，率第二混成旅及两团卫队和甘肃孔繁锦部离开陕西，奔赴洛阳。2月26日，他在抵潼关后，即在各处张贴告示，声称此次率师出关，完全在于统一中原，解决时局。但在致段政府的电报中，却攻击胡景翼“乘我退避，猛烈进攻，违背政府撤军之令”。3月1日，刘镇华到洛阳之后，再次致电段政府，除继续谴责胡景翼外，还表示准备派员赴新乡会晤孙岳，筹备善后。实际上，这是他的缓兵之举。
刘镇华已拟定了三路反攻的计划。与此同时，憨玉琨急命马河清旅援偃师，命张治公部集中回援，以保洛阳。
胡景翼在取得战事主动后，3月3日，将孙岳迎至郑州。孙岳发通电称，对胡憨的调停已有端倪，双方预定于5日派全权代表到偃师会商办法，各自退兵。然而，孙的上述表示也是做些姿态而已。国民军三军的两个团在此时已投入战争。3月4日，胡憨双方在黑石关展开激战。国民军开始受重创，在得到李鸿翥旅增援后才稳住了战线。3月5日，憨军右翼严际明部向国民军二军投降，还拆毁了后方铁路，使憨军全线溃退。3月7日，国民军二军攻占了黑石关和偃师，3月8日攻占了洛阳。刘镇华、憨玉琨败走渑池。
3月6日，胡景翼发鱼电，攻击憨玉琨破坏和平，并宣布了憨玉琨3月7日和8日的训令一件，作战要领十二条。他又发阳、庚两电，一面报捷，一面请政府彻底调查禹县事件的责任。与此同时，憨玉琨也发虞电，除攻击胡景翼外，还称孙岳入豫，假借调停之名，实际加入了战争。
3月6日，孙岳通电声称调停失败，公开谴责刘镇华、憨玉琨应对战争负责。此后，他虽然还致电段祺瑞请张作霖出面调停，派人赴平地泉请冯玉祥出面斡旋，但已没有什么实际意义了。
3月14日，刘镇华败退到陕州之后，电请段政府制止国民军二军的追击，并急调镇嵩军二旅增援。他决定将残部编为六个联队，分三路反攻，以收复豫西。此时张治公已退至宜阳。刘镇华令张再进驻渑池、新安，以抵抗国民军西进。憨玉琨退据洪水镇，与刘部成犄角之势。与此同时，孙岳又在段祺瑞政府的训令下，派代表到陕州与刘镇华再商量和解办法。阎锡山、吴新田、陆洪涛也致电段祺瑞，请再派公正大员调停豫省战争。其偏袒刘镇华的态度十分明显。3月14日，张作霖为胡憨战争致电段祺瑞，责段袒胡。
3月17日，刘镇华袁英部从渑池败走陕州，在陕西的国民军二军田玉洁、冯毓东与在名义上属国民军三军的杨虎城部共同攻占了潼关、华阴；两天后又攻占了大荔。刘镇华退回陕西的道路已被切断，乃命令所部全力挣扎。
3月19日，刘镇华、憨玉琨、张治公命所部分三路向国民军反攻。张治公部一度占领了龙门和洛阳火车站。国民军二军全力反击。国民军三军叶荃部也加入战斗。岳维峻、孙岳、樊钟秀等均亲赴前线指挥。张治公部不支败走。国民军随即攻占渑池、观音堂。3月21日，国民军李虎臣部抵陕州。
此时，陕北井岳秀发电反对刘镇华回陕，代理陕督吴新田也落井下石，切断了刘镇华回陕的退路。刘于3月22日致电北京政府引咎辞职，并命柴云陞、张治公为镇嵩军正副总司令，只身一人渡过黄河，于3月24日到达太原。其部大多分散携械退往伏牛山或家乡藏匿，一小部分逃到陕南安康。张治公率部分残部退据南阳、襄樊。号称拥有10万人马的镇嵩军仅半个月就土崩瓦解。4月2日，憨玉琨服毒自杀。
国民军二军战胜了刘镇华、憨玉琨的镇嵩军，巩固了其在河南的统治。该战争基本上是军阀政治发展的产物，较少有值得肯定的因素。憨玉琨的蓄意挑衅引发了禹县事件，但胡景翼以此事件为借口而打响了战争的第一枪。就胡景翼而言，他有督办的身份，有平叛的借口，好似在“理”上占了上风。而就憨玉琨来说，占据豫西是没有法律依据的，有“作乱”之嫌，但其出兵洛阳又有段祺瑞的“命令”，又好似有“情”。从舆论方面而言，国内左翼势力倾向胡景翼；而右翼阵营方面基本同情憨玉琨。这是符合当时政治斗争形势的。憨玉琨之死自不足惜。该战最不合算的是刘镇华，陪了夫人又折兵。但是，他的潜在势力仍然存在。这恰是国民军二军所忽视的。此战从全国反奉斗争趋势及国民军总体战略而论，还是有一定价值的。它基本上巩固了国民军占领了的地盘，在一定程度上抑制奉系染指豫省的野心。国民军二军在胡景翼在世前后的一段时间内，执行了接近国民党的政策，对河南工农运动的发展曾起了一定作用。
国民军二军刚组编时，其编制是三个师另六个团（一教导团、五补充团）。其中，胡景翼自兼师长的第一师辖六个旅及二炮兵团；岳维峻任师长的第二师下辖二旅一炮兵团；以田玉洁为师长的第三师下属二个旅（仍驻陕西）。该军人豫后大肆扩张，收编直系败兵和土匪，并将各种杂牌军隶属于麾下，迅速膨胀。所以，时人评国民军二军一个“乱”字。
国民军二军占领河南信阳后，击败了吴佩孚嫡系李倬章的第三师，收编了其余部2000人。直军第二十四师王为蔚部溃散到砀山等地，被江苏陈调元收编，后因奉军南下，复回豫投靠了国民军二军。直系豫省长李济臣败逃后，部下被二军收编了一部分，其余溃散。与此同时，国民军二军还收编了原直系第十四师和第二十四师，将其改编为第四师和第五师，原师长陈文钊及王为蔚均留任。国民军二军又将原直系马吉第、田维勤、李鸿翥诸部分别改编为河南第一、第二、第三混成旅。胡憨战争之后，原刘镇华之赵树勋部被胡收编为第九混成旅。岳维峻当政后，仍继续扩编军队。到1925年夏，国民军二军在名义上有十一个师，十三个混成旅，二个骑兵旅，二个骑兵团，二个炮兵团，六个步兵团，又十二个补充旅。近20万人。
此外，毅军米振标部及“建国豫军”樊钟秀在名义上也属国民军二军系统。
米振标，陕西清涧县人，早年投清淮军宋庆部，历任管带、统带。1913年11月，他出任热河林西镇守使，后任热河军务帮办，1921年任热河都统，所部也称毅军。北京政变后，因他原追随直系而受奉系排斥。1924年12月11日，段祺瑞命令他到北京供职，所辖部队由奉系阚朝玺收束。这不仅使米振标失去地盘，也将失去所辖毅军。因此，他拒不从命。12月19日，所部万余人集中在古北口，反对由奉军接收，要求去河南。与此同时，胡景翼也致电段祺瑞保荐米为河南军务帮办12月22日，米率部进入河南。在此情况下，段祺瑞无奈，于1925年1月1日任命米振标“帮办河南军务善后事宜”。
胡景翼之所以招纳米振标有两个原因，一是出自于陕西乡谊，二是看重了他的一万余人枪。但是，米部毅军腐朽不堪，根本没有什么战斗力。该部到河南就食，只能增加人民负担而已。
樊钟秀（？---1930年）原名铎，别号醒民，河南宝丰人，年幼逃荒到陕西洛川，初组织自卫武装，抵御土匪；后打起靖国军旗号，反陈树藩。1919年，他到河南被直系编为“宏威军”，后被派往江西，进攻广东护法军政府。但是，他与孙中山取得联系，并于1923年10月率部打败陈炯明部后，进入广州。孙中山委樊部为“建国豫军”，并参加北伐。1924年12月19日，樊钟秀率部由江西返回河南光州固始一带。12月23日，孙中山致电樊钟秀、慰勉其由粤抵豫，并谓已电胡景翼量力接济，嘱其率部赴鸡公山歼击吴佩孚。樊与胡景翼本是靖国军时代的老战友，思想情趣比较接近，又兼孙中山从中撮合，故双方立即合作并十分融洽。樊部回豫后，旧部老友纷纷归来，兵额也大为扩充。他驭兵有方，指挥勇猛，其部战斗力较强。胡憨战争爆发后，樊部协力国民军二军由禹县登封进出洛河南岸，侧击憨军。憨军失败后，樊军进驻洛阳。胡景翼死后，豫境内杂牌军尽被收编。樊坚持打着“建国豫军”旗号，表示该名号是孙大元帅委派的，不准任何人更换。岳维峻对他也无之奈何。所以，樊部只能算国民军二军的友军。
二军军纪、训练一直比较差，嫡系部队本身就是坐下来多，站起来少（此为冯玉祥语，即领饷人多，打仗时人少）。胡景翼为人较为宽厚，但招纳的人员良莠不一，品质流杂入豫后，国民军二军接收直系败兵及杂牌军、土匪，并均未进行丝毫改造，甚至是原班人马不动，只是换了旗号而已。原直系将领王为蔚、陈文钊、田维勤一直与靳云鹗、吴佩孚保持密切联系，始终与国民军二军离心离德。因此，二军盲目扩充军队是其败亡的重要原因之一。
1925年4月10日，河南省督办兼国民军第二军军长胡景翼患疔疮暴卒，终年34岁。这给本来已初步稳定的河南局势又蒙上了一层阴影。
国民军二军攻占洛阳后，决心乘势得陕。3月19日，冯玉祥代胡景翼致电北京执政府，请任命孙岳、岳维峻分别为陕西军务善后督办及帮办。这是国民军向段祺瑞公开施加压力。冯玉祥在电报中称，让孙任督办是为其“以便就食”，让岳维峻任帮办是由于“此次戡平豫乱”，实为“首功”。对此，大公报评论说，这是国民军要实现“想象中的大西北主义”。段见此电大怒，回电非常简单，称“为政公平，政府力持此旨，以孙督陕，殊欠公平，万难照办”。与此同时，他还电令刘镇华，让他收拾残部，返回西安。
3月23日，刘镇华通电下野，并致电执政府保吴新田督办陕西军务善后事宜，柴云陞为帮办，孔繁锦为省长。柴、孔等人均为段祺瑞的亲信及死党，当然为段所乐任命，但是却不为吴新田所接受。
27日，段祺瑞派韩建锋赴河南与胡景翼、孙岳交换解决豫陕善后问题办法。韩电告段政府军务厅，报告达成五项办法，其中包括由胡景翼禁止国民军西进，由吴新田督陕，孙岳长陕等项内容。但是，此议仍不为段祺瑞所同意，认为孙岳本是调停人，但却加入战争，帮助胡驱逐刘憨，如使他据陕，“殊失公平之道”。此时，段祺瑞因孙岳没有任何投靠他的表示，故不允许孙与吴新田分据陕权。
另外，奉系更主张刘镇华回陕，否则，就要国民军让出察绥。胡景翼就是在此情况下突然去世的。胡临终前致电段祺瑞，请明令河南军民两政职务由岳维峻继任。段祺瑞执政府对此没有丝毫思想准备，一时手忙脚乱，但却不想放过这难得的机会，继续维护其在豫陕的利益。奉系也想趁此机会再次把手伸向河南。段祺瑞首先想让孙岳督豫。这样，既可以使国民军三军有就食之地，又可削弱国民军二军的势力，使二者自相争斗，让段自己从中渔利；此外，又可以让孙岳不再图陕，以保其皖系在西北的势力。此议也为奉方同意。4月15日，李景林致电段政府，要求任命孙岳为河南军务督帮办，所表达的就是同样的意思。但是，冯玉祥在此时来电保荐岳维峻继豫督。这使段祺瑞政府不得不予以重视。与此同时，孙岳来电，坚辞河南省长（前议）。此意是在表示，他决不会出任河南军务督办；并在电中称豫督以岳维峻为相宜。孙岳与胡景翼、岳维峻的私交均甚密，深知国民军二军及河南的复杂情况，并且明察段祺瑞及奉张的用心，故才有是举。段祺瑞虽然不喜欢岳维峻，但迫于上述情况，不得不同意他出任豫督，但又提出只让岳暂署，孙岳必须出任河南省长，并让刘镇华回陕的条件。段派刘治州以吊唁为名赴豫去磋商，向岳维峻表示欢迎孙岳就任豫长，岳不得干涉民政；国民军二军须停止对陕西军事行动，须将田玉洁等部由陕西调回河南等。这就是说，段祺瑞政府只让国民军二、三军分据豫权，不得染指其他。
4月13日，段祺瑞拟下岳维峻为豫督的命令，但因张作霖同时要求下达张宗昌督鲁的命令而搁置。山东是段张斗法的焦点之一。奉张逼段祺瑞让张宗昌督鲁，而让鲁督郑士琦督皖。但是，段祺瑞不肯就范。此时，奉张再次向段祺瑞施加压力，使段又踌躇起来。直到4月24日，段祺瑞才发布了令岳维峻督豫的命令（同时也发布了让张宗昌督鲁令）。至此，国民军二军才基本上控制了河南。