段祺瑞对张作霖的态度做了错误估计，他想张对徐树铮不满，但是他和直系也有矛盾。在直、皖之争会保持中立的，如果直系没有奉系的帮助，皖系打败直系是有把握的。不料，13日张作霖宣布奉军进关，并且二十七师、二十八师已经大批进关，在京奉路、津浦路以及马厂、军粮城一带布防，这样一来，段着慌了，皖军内部也有厌战情绪，傅良佐就不同意打这场战争，刘询的十五师不愿与直军接触。这时曹汝霖、傅良佐去公府往谒徐世昌，请求颁布停战令。7月14日徐世昌颁布停战令，要求所有各路军队均应恪守命令，一律退驻原防，戮力同心，共维大局。但是，为时已晚，不久直皖战争就爆发了。
政权一样都不能少
徐世昌发布停战令的当天，爆发了为时三天的直皖战争。
1920年7月14日晚，直、皖双方正式开火，分东西两路作战。西路在京汉路的京保段，皖军由段芝贵任总指挥。这位总指挥把打仗当儿戏，司令部设在火车上，前线激烈打仗，段和幕僚在车上打麻将。边防军曲同丰的第一师集中在涿州、琉璃河、良乡一线，陈文运的第三师驻固安，魏宗翰的第九师驻在门头沟，李进才的十三师沿京奉路向东布置，以策应第三师。
直系在西路以吴佩孚为总指挥，他的第三师及第二混成旅、第三混成旅布置在易县、涞水、琢州、固安以南一线。吴佩孚为防皖军两翼包抄，以第三师第六旅为左翼，第三混成旅及第三补充旅为右翼，而以第一补充旅挡正面，以保定第一补充旅、曹锟卫队及新从天津开到保定的六营为后援，双方的主力部队都集中在西路。
东路在京奉路的京津段展开。皖军总指挥为徐树铮。大军出发之际，徐在尊师段祺瑞面前，屈膝一跪，“老师，我此去誓死战胜吴佩孚，不杀身便成仁。”徐把西北边防军第二混成旅、边防军第三师两个团及第九师一部部署在落垡、廊坊一线。直军总指挥为曹瑛，将直军第四混成旅、第二补充旅及直隶守备队二十营驻守在杨村，与皖军对峙。
7月14日下午3时，段祺瑞发布总攻击令，皖军首先在西路向直军发动进攻，以大炮向直军阵地猛轰。直军见皖军来势甚猛，暂避其锋，然后直军进行反攻，两军你进我退，我进你退，双方互有伤亡。15日晨，皖军向固安的直军进攻，遇到直军顽强抵抗，皖军受挫，直军乘势进攻，皖军大溃。皖军再次发动进攻，在琢州、固安两处发生激战，占领域州、松林店，直军退到高碑店。
7月16日夜，突降大雨，皖军的榴弹炮发射失效。直军向皖军侧翼包抄，正面则由从河南赶到的奉军第一师邹芬旅加入作战，直军士气大振。直奉两军两面夹击，皖军腹背受敌，力不能支，纷纷弃城逃走。直军乘势收复松林店、三家店以及涿州等地。皖军刘询的第十五师原系冯国璋的卫队师，各级军官亲直仇皖，17日晨，与直军战于涿州北面，投降直军。由于该师反戈，皖军第一师势成孤军，被直军包围，师长曲同丰见大势已去，率部投降。19日，曲同丰在保定发表通电，敦劝边防军与曹锟携手共讨徐树铮，曲又致电段祺瑞，指责段纵恶养奸，丛尤聚怨。第一师是皖军的主力，该师投降，使皖军在西路全军溃散。总指挥段芝贵乘车逃回北京，谒见段祺瑞，跪伏在地，痛哭不已，请求徐世昌下令停战。
东路前线，皖军总指挥徐树铮在廊坊指挥向杨村的直军进攻，直军沉着应战。16日，两军战斗激烈，直军在杨村车站安设大炮抵御皖军，当地日本驻军提出抗议，直军抗辩无效，只好将大炮撤走，皖军乘隙突破缺口，在军后退到北仑，适有奉军工程兵一营驰来相助，直军得到奉军支援，转而反攻。
16、17两日，入关的奉军第二十七师、第二十八师两个旅开到天津附近。奉军的参战，大大加强了东路直军的实力，也给皖军官兵心理上以很大威胁。奉军与直军并肩战斗，17日，重新占领杨村，攻下落垡、廊坊，皖军溃败。徐树铮没有杀身成仁，当晚踉跄逃回北京，躲进六国饭店避难去了。
战争爆发前，段祺瑞密电长江上游总司令吴光新调遣驻鄂西的部队集中汉口，牵制和袭击直军的后路。7月16日，湖北督军王占元按照吴佩孚的指示，将吴光新扣押，部队被缴械。皖系驻洛阳的西北边防军第一、四两个混成旅，按照段的密电，配合京畿皖系的军事行动，但因处在直、奉军包围中，未敢轻举妄动。7月27日，吴佩孚致电该旅解除武装，他们不愿归顺，7月30日，直军王承斌旅会同奉军合力围剿，该两旅向西北方向逃窜。皖军在山东与直隶交界处的边防军第三师，拟夺取德州兵工厂，然后北上与东路皖军会师。19日，师长陈文运率部发动总攻击，20日，夺取德州。但是此时皖军东、西两路已失败，第三师成了孤军，在天津的龙济光振武军去接应边防军第三师，旋被奉军击溃缴械。26日，直军在奉军的配合下，向边防军第三师进攻，该师被击败予以遣散。至此，皖军被直奉军彻底打垮。
战争发动前，82岁的淮军宿将姜桂题劝段祺瑞不要打仗，并斥责徐树铮说：“什么坏事，都要你小子给闹出来了。”定国军总参议傅良佐也力陈皖系决非直军之敌，双方打起来必败无疑。可是这些苦口良言，段祺瑞一点也听不进去。如今惨败，悔恨交加，经过多年编练的边防军，不堪一击，彻底完蛋，意欲自戕，幸左右监护严密，百般劝慰，方得宽慰。
7月18日，靳云鹗去见段，向他进言说：战争已完全失败，边防军战斗力已失，要不从速解决，恐三数日内，京中粮食告罄，将令全军不战自溃，至兵临城下，为时已晚，追悔莫及矣！”段表示同意，便请徐世昌下令停战。是日，徐世昌颁布停战今，责成各路将领迅饬各守防线，停止进攻，听候命令解决。
7月19日，段祺瑞通电引咎辞职。
直皖战争于18日基本结束。“从23日起，直奉两军的先头部队陆续开进北京，相约不入城，分别接收南苑、北苑的营房。26日，徐世昌下令撤销对曹锟、吴佩孚的处分。28日，徐又批准段祺瑞辞职，撤销督办边防事务处，撤销西北边防军名义，西北边防军由陆军部接收。
7月19日，徐世昌委派靳云鹗、姜桂题、傅良佐、张怀芝等六人，携带经过段祺瑞同意的四点方案：一、惩办徐树铮；二、解散边防军；三、解散安福系及罢免曾毓隽、李思浩、朱深三总长；四、解散安福国会。赴天津与直、奉方面议和。当时曹锟、张作霖均不在津，直隶省长曹锐对他们态度冷淡。傅良佐因替段祺瑞作说客，被曹锐扣押，并缴械其武装警卫170多人，姜桂题等4人返京，靳云鹗则去奉天与张作霖磋商。
靳云鹗向张作霖转述了徐世昌的四点方案。徐世昌主张惩办极少数几个人，对段不予追究。靳希望给段留点面子，不要使他太难看。张作霖同段祺瑞的交谊原本不恶，主要是怕徐树铮掌握大权，现在安福系和徐树铮垮台、这时出面为段转圜，可以争取皖系势力的支持，增加同直系杭衡的力量，所以同意徐世昌的四点方案。张作霖看到段祺瑞19日发出的引咎辞职电报时，当即复电说：“引责各节，不忍卒谈”，“‘吾公一世令名，坏于群小之手，言念及之，泪下如雨”，表示“作霖当躬率三军，愿为督办扫除群小，至对于督办，决不稍有侵犯。”23日，张作霖又给段祺瑞去电安慰说：“翼青（靳云鹗）到奉，业已接洽，窃念此次兴戎，譬如子弟相争，无关长者，为父兄者尽可置之不问，任凭子弟自行设法了结，今日之事，无以异此。伏望我督办切勿介怀，遇事仍襄助元首、维持大局。并救济近畿一带之生灵，作霖日内到津，即当约集曹使。联络各省，筹商善后一切事实，以资收束，溽署逼人，尤望勉节忧劳，为国珍慑，无任盼祷。”张作霖这两份电报，为保护段祺瑞处理善后定下了基调。
吴佩孚对善后处理的主张，与张作霖相反，要求严厉处置皖系，“非将奸党歼除不可”。提出六项要求：一、解散边防军，取消边防督办官制；二、解散西北边防军，取消西北筹边使官制；三、安置段祺瑞于汤山，候国民公决；四、徐树铮、曾毓隽、朱深、李思源、丁士源五人交法庭审办；五、国会停止办公；六、追究安福系首领王揖唐及安福系议员，永褫公权。这六项条件得到曹锟、李纯、陈光运、王占元等人的赞同，作为向北京政府正式提出的处理善后问题的条件。吴佩孚还提出从速召集国民大会，以解决国是的主张。吴佩孚这个主张，立即引起张作霖的不满。25日，张作霖偕靳云鹗到天津。26日，他就向记者表示，他“不与吴佩孚接洽一切，仅与曹锟接洽。”并指出吴只不过一师长，不应干涉政治”，这说明，在直皖两个军阀之争结束之后，直、奉两个军阀的矛盾开始出现裂痕。
7月29日，曹锟、张作霖、靳云鹗及各省代表在天津曹家花园讨论直皖战争的善后处理问题。会议决定以下几个问题：
组阁问题：组阁是当务之急、然而，曹锟、张作霖和徐世昌各有各的打算，徐世昌想要他的老朋友周树模组阁。曹锟首先不赞成，认为“周是个老官僚，主张王士珍组阁，王是北洋老前辈，性素平和，与世无争，出主中枢有利于南北统一。”张作霖则认为：“与其由周氏组阁不如使靳云鹗复职，各方面均易融洽，”主张由靳组阁。周树模闻曹、张反对，四次致电徐世昌，不愿组阁。王士珍也表示不愿出山。徐世昌、曹锟放弃自己的意见，同意由靳云鹗复职担任总理。靳本人表示“愧对师门”不愿复职，因张作霖极力怂恿，并保证给以支持、吴佩孚曾对靳说：“闻公不欲组阁，公私两途，皆为最便，佩孚实表赞同。”靳得到各方面的赞同，才表示同意组阁。8月9日，徐世昌颁发了“特任靳云鹗署国务院总理”的命令。
惩办祸首问题。直系为了防止段祺瑞、徐树铮东山再起，要求彻底铲除段派势力。一是处分段祺瑞，驱出北京，放逐汤山，听候国民公决，一是严惩安福系。
吴佩孚坚决主张段祺瑞离开北京。他曾说：“段总不宜再居京中，如恐汤山时有外人游玩，诸多不便，何妨改驻西陵，我可派一营担任保护。”曹锟也主张段离开北京，他表示：“段在北京，我们不便来，须先请他回避。”但是徐世昌、张作霖、靳云鹗都不赞成。徐世昌认为段“三造共和，参战增高国际地位”，“有殊勋民国，朝野属望綦段。”坚决不同意再作进一步处置，“惩治祸首，须将段撇开，不能伤其体面。”靳云鹗也极力向张作霖、曹锟求情，说：如果再有轨外活动，他负完全责任。7月27日，北京内阁会议上，已决定不将段列入惩办祸首名单。曹、张进京后，徐世昌、靳云鹗又一再为段说情。张作霖表示理解和支持，曹锟不好再坚持己见。处分段的问题也就放下了。
关于惩办其他祸首问题。7月29日，徐世昌通令惩办徐树铮、曾毓隽、段芝贵、丁土源、朱深、王郅隆、梁鸿志、姚震、李思洁、姚国桢等十人。直系又提出第二批13人祸首名单。8月7日，徐世昌在公府召开会议。讨论惩办第二批祸首时，曹锟力主按所提名单惩处。徐世昌坚持应以定国军祸首为范围，不应多事株连，要求宽大处理。经过讨价还价，决议通缉王揖唐和安福系议员方枢、光云锦、康士铎、郑万瞻、臧荫松、张宣6人。褫夺曲同丰、陈文运、魏宗瀚、刘询、李进才、张树元军官军职，交陆军部惩处，即日由徐世昌以大总统名义明令公布。并重申“其余该部党员均查照前令免予深追”。至于曹汝霖、陆宗舆是安福系健将，段祺瑞的司库，曹吴也力主惩办。徐世昌以曹、陆没有参与战争策划为理由，不主张惩办。经斡旋徐世昌与张作霖、曹锟达成一项交换条件，由徐给曹、张以某种好处，曹、张则以保全曹汝霖、陆宗舆的面子了事。
天津会议还讨论了吴佩孚提出的召开国民大会的主张。8月1日，吴佩孚发表关于召开国民大会、解决国是的通电，电云：“九年民国，变乱相寻，追原祸始，军阀与政客，阶之厉也。军阀以政客为灵魂，政客以军阀为武器，伪造民意之术日精，而国民愈无所控诉。迭次政变，委曲迁就，敷衍一时，祸不旋踵，而天下之乱亟矣。比年来安福逆党，朋比军阀，以武力造法律，以外债成国会，遂至二三竖子，颠倒众生，痛毒四海，可为痛恨。幸涿鹿一役天诱其衷，群丑渍亡，元凶束手，正为拨乱反治之机。”吴佩孚认为，为了解决军阀之纷争，只有召开国民大会，一切重大问题，由国民公决。张作霖看出国民大会是吴佩孚沽名钓誉，企图制造一个政治工具来实现个人的政治野心，首先起来反对。8月2日，吴佩孚应曹锟之召，到天津谒见张作霖，陈述召开国民大会的意见时，张作霖即表示反对。吴退出后，张作霖对曹锟说：“吴某通电，三哥曾否赞成，我则事前一无所知，如三哥任其所为，则我将单独通电反对。”产曹锟在政治上不是张作霖的对手，没有张作霖那种机敏灵活的头脑，开始他同意吴佩孚的主张，现在张作霖表示反对，他又不敢与张争论，只好退让。曹又通电：“吴佩孚召集国民大会一节，经略使（曹锟的职务）已认为无效。”因此，吴的通电未发往全国各省，只在京、沪的一些报上有所披载。8月13日，张作霖向日本记者谈话时说：“国民大会非可为问题也，该会系吴子玉将军所主唱，然其背后有某国人煽动操纵，吴氏不过为其傀儡耳，就中国现状观之，此事万属不可能。”
徐世昌是反对召开国民大会的。8月5日，曹锟进京同徐世昌谈及召开国民大会时，徐当即表示不赞成。说：“国民程度过浅，且此事为吴子玉一人之主张，各省未必全数赞成，究竟能否实行，尚待研究。”靳云鹗也是坚决反对者，有记者问靳，他说：“只有在大乱之后，纪纲毁坏，法政失效，秩序破裂，没有了国家行政机关的条件下，才不得不以国民大会来补救。现在政府尚在，秩序未乱，纲纪法律虽有废弛，但未至失败毁坏的地步，政府可从而整饬之，自有正轨可循，不当诿其责于国民，即不应有国民大会，故当然无从承认也。”
吴佩孚并不放弃自己的主张。8月6日，他入京和曹锟、张作霖讨论善后问题时，提出“先开国民大会，后议内阁问题”。8月7日，徐世昌主持召开公府联席会议讨论国民大会问题时，除曹锟未表示反对外。其他人员均持异议，以为决不可行。会议最后决定待新内阁中成立后解决。
吴佩孚还想通过合法手段，取消徐世昌的总统地位，吴佩孚对徐世昌素无好感，他认为徐是个思想陈旧的官僚，毫无原则的昏庸老朽，不能担任总统。然而，张作霖是拥护徐世昌的，安福国会拥戴徐当总统时，张作霖就表示赞成。徐虽为安福国会所选出，但是后来受安福系的排挤，对安福国会的专横也是不满的。而且在直奉联合反对安福系中，徐是一个同盟者，现在斗争取得胜利，反要把徐撵下台，未免不尽情理，让徐留在总统的位置上，对于维护北洋集团的统治是有好处的。曹锟的态度“无可无不可”。最后，张作霖的意见占了上风，吴佩孚被迫放弃了自己的要求。吴在善后处理提出的一系列重大问题，被徐世昌、张作霖一一拒绝，心中愤愤不平。8月17日，吴离开北京，把部队开到洛阳练兵，积极扩大自己的军事实力。