汪精卫叛变革命后，国民党阵营形成三个主要派系，以蒋介石、胡汉民、李宗仁为代表的宁派，以汪精卫、唐生智为代表的汉派，以张继、许崇智为代表的沪派，即西山会议派。不同的是，宁汉两方各自都握有自己的军队、中央党部和国民政府，西山会议派则没有军队，没有地盘，没有政权，但却要与南京政府搞对等合作，蒋介石并不把他们放在心上。蒋介石的真正对手是武汉方面，宁、汉、沪的争斗，起关键作用的是宁汉。
蒋介石指责汪精卫是勾结共产党的祸首，企图将汪置于被告席上，排斥于国民党中央之外，以消灭这个自己最大的敌人。汪精卫则抨击蒋介石是破坏党权的罪魁祸首，挟持军队、党部，实行个人独裁，使中国只知有蒋中正，不知有国民党。汪还联合唐生智组织东征军向南京进逼，蒋介石为对付汉方的进攻，一边与张作霖暗中通气，暂时休战，一边从滁州前线撤回部分军队，加强在安徽、江西省的防务，以防汉方东进。
宁汉抗争之际，日军乘机由青岛开入济南，公开参加中国内战，支持北方军阀。直鲁联军许琨、徐源泉部会同孙传芳部反攻南京军，7月24日重占徐州，南京军损失重大，王天培的第十军败退安徽宿州，第二路军自鲁南急剧向陇海线撤退到苏北。
徐州为苏北门户，军事要冲，徐州失守，苏北、鲁南全线动摇，蒋介石当即在南京召集军事会议，决定亲自北上，夺回徐州。此时，宁、汉间矛盾已趋缓和，而李宗仁陈兵于芜湖——南京间，却使得蒋如芒刺在背。戎伍起家的蒋介石明白，要摆脱困局，只有在战场上重新杀开一条血路。
7月25日，蒋介石率第一军第二十一师赶赴蚌埠，准备北上一博。至此，第一军基本均已离开南京。李宗仁对北上态度消极，并对蒋说其部队到徐州会有思乡之情，不宜作战，而不愿向苏北发兵。白崇禧对此态度不明，何应钦的第一路军远在沿海海州一带，无法及时回军。北进收复徐州主要还是依靠王天培的第十军。26日，蒋介石下达作战命令，以第二路，第三路左、右两翼分由东、西、南三面向徐州分进合击。第二路总指挥仍为白崇禧，第三路总指挥蒋自兼，王天培、贺耀祖分任所属左、右两翼总指挥，第二十一师为总预备队。
当时，各部距徐州均不过百里左右，蒋介石希望乘孙、张联军新下徐州、立足未稳之机，一举收复徐州。他致电左翼总指挥王天培强调：现在敌人大部均集中于中路，左翼空虚，第三十师应迅速由阎村一带袭取徐州，从背后攻击敌军，速战速决意图十分明显。王部随即迅速北进，8月1日下午进抵徐州城郊，当夜，前锋直逼徐州城下。
左翼进攻顺利时，自东向西沿陇海路进攻的第二路却迟滞不前。第二路参战的第三十七、四十四两军均非该路主力，战斗力不强，也无进攻决心。该部7月31日与敌人发生接触，但直到徐州兵败，始终未组织起像样攻势，该军实际是处于观望状态。因此，二路军的攻击起点虽距徐州仅百里，在三路部队最为接近，但整个战役，纵深仅至徐州20公里左右处。
第三路右翼担任正面攻击任务，蒋介石随该路行为，并调预备队二十一师加入，该路战斗力较弱，行进也颇迟缓。经蒋一再督促，并以亲信部队第二十一师殿后，才于8月1日由徐州南面进抵徐州城郊。2日，左、右两翼分别从西、南两面向徐州郊外敌军据点发起强攻，前锋直逼徐城外围敌军最后据点，双方在此展开激烈拉踞战，宁军攻势甚猛，徐州城几乎被其合围。下午，蒋介石亲自抵达距徐城仅7里的云龙山麓督战，并判断敌人险要已失，不会持久，准备部署向徐州追击。然而就在此时，风云突变，敌军紧急自后方及战事较为平稳的陇海路东段抽调大批兵力，向进展最快的左翼第十军全力反扑。第十军进展正顺时，骤遇强劲反击，措手不及，遭遇挫折后即一蹶不振，于下午6时前全线后撤。
当第十军仓皇溃退的时候，第二路又蛰伏不动，担任正面主攻的右翼部队在各路敌军联合夹击下，溃不成军。3日凌晨，蒋介石忍痛下令各军全线后撤，徐州攻击战，功败垂成。
客观地说，反攻徐州失利，李宗仁按兵不动，白崇禧迟滞不进，是其根本原因，第三路右翼进展缓慢，左、右协调不够，再添作战隐忧，而左翼王天培部的溃退，则是导致失利的直接原因。6日，蒋介石狼狈逃往南京。为逃避指责，他将此役失败归结于王天培部的溃退，先将王关押，随后秘密处死。
与徐州兵败的同时，蒋介石在政治上也遇到了巨大麻烦。汪精卫武汉分共之后，使得宁方与汉方，以及沪方在反共立场上取得了一致。而冯玉祥担心宁汉相争，奉张得利，起兵攻击自己，主张平息宁汉之争，他还曾两次致电宁汉双方进行谈判，宁汉双方有了相互妥协的表示，于是出现了宁汉沪合流的趋势。
为了确保自己的“正统”地位，汪精卫提出了蒋介石必须下野作为各方和解的强硬条件，汪精卫一向自恃有政治优势，从广州到武汉，他一直有“正统”地位。此时他还有湖南唐生智部、粤军张发奎部为依靠，气焰自然十分嚣张。
与汪精卫相比，形势对蒋介石十分不利。在南京内部，蒋介石以李宗仁、白崇禧为首的桂系矛盾日益尖锐。早在1927年初，当蒋介石与武汉政府间裂痕初显时，桂系与蒋介石合作，东下攻略浙、皖，抵定宁、沪，随后又参加建立南京国民政府，成为南京政府的重要支柱。但桂系并不甘于久居蒋氏之下，宁、汉对立，蒋、汪叫阵，桂系实力派地位凸显，李、白开始与蒋同床异梦，双方分歧渐显。
5月中旬，李宗仁、王天培等防地直接与汉方对峙的将领曾往武汉政府辖区地江西湖口，与江西省政府主席朱培德会晤。李、王赴赣，是在得到蒋介石同意之后，本身并不越轨。不过，据朱培德报告，李宗仁在会谈中表示：对于宁汉双方的党务之争不负责任，表现出欲充当宁、汉两方之外第三者的姿态。汪精卫据此判断，宁方“内部已经起了分化的趋势”。李宗仁的表态，表现出其欲与蒋介石划清界限的态度。
7、8月间，汉方开始着手分共后，桂系与汉方各要员间更是信函往还，十分热络。7月13日，白崇禧致函程潜表示：桂系对于清党一事的超然态度在汉方以反蒋倒蒋为主要目标时，白氏此一表态进一步表明其与蒋之间的距离。但在双方态度尚不明朗、局势难以预料情况下，也不想公开与蒋决裂，不愿看到南京政权基础发生动摇。7月27日，李、白及有李济深、黄绍竑、陈可钰等粤、桂将领联衔致电张发奎，针对汉方所谓“反共倒蒋”主张，强调蒋介石为反共的主力军，反共就实不该倒蒋，公开为蒋介石辩护。蒋、桂关系若即若离。
8月初南昌起义爆发后，汉方对中共实行武装镇压，这使得桂系大感称心，双方更有意进一步接近。恰巧此时蒋介石又兵败徐州，军威重挫，桂系认为时机已到，开始跃跃欲试，准备出来收拾局面。桂系由李宗仁领衔，致电汉方及冯玉祥等，邀请武汉方面的领导人到南京，召开中央全会，解决党务问题。数封电报，蒋虽然也参与其中，但列名在李、白之后，更多地体现的是桂系的主张。
武汉方面对南京内部的派系之争自然是了如指掌。8月9日，唐生智发出通电，严厉指责蒋介石自立政府，擅开会议，屠杀异己，对蒋穷追猛打。随后，汪精卫等致电李宗仁，号召召开国民党四中全会以解决目前的诸多纷争。唐、汪两人一唱红脸、一唱白脸，中心意思是宁汉合作可以，但蒋介石必须下野，向桂系发出驱蒋合作的信号。
徐州兵败后，蒋介石意识到形势严峻。8月6日，蒋介石召来李宗仁，表示愿意辞职，以承担徐州失败责任。李宗仁因为摸不清底细，唯恐过早表态得罪蒋介石，所以进行全力挽留，一再劝蒋介石放弃辞职打算。
1927年8月11日，国民党中央党部在南京召开会议。在这次会议上，蒋介石提出了辞呈，与会人员自是挽留了一番。据吴稚晖记载：八月十一日开了中央党部会议，蒋介石先生要辞职，大家自然坚留，他先走，临了他说：“我服从监察委员会”……八月十二日，听见他走了，于是又开政治会议，武装同志都说蒋先生要歇歇，照唐生智那种气势汹汹，我们两面受敌不了，蒋先生且歇一歇也好……人家面孔沉了下来，我们只好滚蛋。在内外交困、进退两难之际，蒋介石忧虑重重，也不得不于八月十二日晚宣布辞去国民革命军总司令等本兼各职，次日在上海发表下野宣言，随即乘船去奉化老家。
蒋介石表面上不加张扬地离开南京，但他有着自己的打算：他需要统一，这样可以吞并汪精卫控制的具有法统地位的中央党部和政府，南京可以成为国民党的合法政权；他同意让步辞职，把汪精卫、西山会议派引来南京，稳住地方实力派桂系，为日后全面夺权放下鱼饵；他制造混乱，辞职时带走一大帮人，中央监委张静江、蔡元培、吴稚晖及国民政府主席胡汉民等人均跟着蒋介石辞职去了上海，南京城里负责与汪精卫、西山会议派谈判的是做不了主的桂系和何应钦等，这使得他可以从容地在日后的派系斗争中插上一手。
二、蒋宋联姻
1．初识宋美龄
蒋介石下野后，便忙着张罗与宋美龄的婚事。1922年，蒋介石与宋美龄第一次相遇在上海孙中山的寓所里。那是一次基督教教徒的聚会，宋美龄那娇小的身材，娟秀的面庞，伶俐的口齿，把蒋介石惊呆了，他简直是如痴如醉。尤其是宋美龄那夺目的风采和广泛的交际关系，加上她那美国式的教养和气质，以及她背后的那个有财有势的家庭，更令蒋介石一见倾心。此时，距蒋介石与陈洁如结婚刚刚一年。
然而，蒋介石追求宋美龄的最主要的目的还在于他要赢得孙中山的信任，以便成为孙的继承人。要得到孙中山的信任，最好的办法是成为孙中山的亲戚，与孙中山结成连襟，蒋介石自然明白裙带关系在中国的重要性。《大公报》创始人之一的胡霖对此做过如下分析：
蒋介石再婚是一个深谋远虑的政治行动，他希望做他们的妹夫，以便争取孙中山夫人和宋子文。当时蒋介石也开始想到有必要得到西方的支持，以宋美龄做他的夫人，他便有了同西方人打交道的“嘴巴和耳朵”。另外，他很看重宋子文这个金融专家。不过，说蒋介石不爱宋美龄那是不公正的。蒋介石显然认为自己是英雄，在中国历史上，英雄难过美人关。出于政治考虑，蒋介石无所不为。对蒋介石来说，在这种情况下娶一位新夫人似乎是理所当然之举。
蒋介石的目的是成为中国的统治者，这就需要强大的军事力量和雄厚的经济实力。他深知宋美龄的哥哥宋子文是理财能手，而宋美龄的姐夫孔祥熙更是有名的大财阀，若与宋家攀上千丝万缕的关系，对蒋的仕途将是有利的。
蒋介石决心一下，便制造了追求宋美龄的长线战略，他先向孙中山扣响了敲门砖。宋美龄是孙中山的妻妹，凭借孙中山的身份和地位向宋家提亲也许是条捷径，蒋介石利用闲暇之余，向孙中山道出了藏在心底的话：“我已无妻室，请问先生，宋小姐能受您劝说与我结婚吗？”很显然，他有意隐瞒了自己的发妻、侧室和新婚夫人陈洁如。
孙中山对蒋介石的风流韵事也略知一二，他当时没有明确表态，只是很含糊地说：“等等吧。”迟疑了一下，他又补了一句：“这主要看美龄的心思，她心高气傲，你先耐心等一等。”
当孙中山把这件事告诉夫人宋庆龄时，宋庆龄气愤地说：“我宁可看到美龄死，也不愿看到她嫁给那个自称没有妻室的人！”
孙中山并没有把宋庆龄拒绝的话转告给蒋介石，只是语重心长地对蒋说：“等一等吧。”孙中山的一句“等等”，让蒋介石心凉了半截，但是，他并没有灰心，一次投石探路不成，他又向宋美龄的哥哥宋子文提出这门婚事。宋子文深知蒋介石的为人，再加上他与宋美龄未婚夫刘纪文的关系，当然就回绝了蒋介石。两次不行，也没有打消蒋介石追求宋美龄的念头，他又把目标瞄准了宋蔼龄。蒋介石选择宋蔼龄为牵线人，如同他选择宋美龄作妻子一样，具有战略眼光。
西格雷夫在《宋家王朝》一书认为：宋蔼龄“始终是牵线的媒人，策划者和家庭财富的创造者。把小妹美龄嫁给这个有权势的国民党军队总司令，难道不是一个绝妙的计划吗？‘我们可以利用这个人，’她说。”宋蔼龄认为“这门亲事对大家有利，特别是对宋氏家族有利。”“对于蔼龄来说，还有什么比通过蒋宋联姻保证她在南京的影响更自然呢？”
于是宋蔼龄展开纵横捭阖之手段，使宋美龄相信嫁给蒋介石必能荣耀门楣，幸福终生，使宋子文意识到若阻止这桩婚姻，他将一事无成，使母亲宽慰，蒋介石必将光耀宋家门庭。宋蔼龄开始为蒋宋联姻忙碌着。
2．蒋介石处理三妻妾
在认识宋美龄之前，蒋介石已先后有过三次婚姻。为了扫除同宋美龄结婚的障碍，取得“合法”的求婚资格，蒋介石不惜采取各种手段，使得发妻毛福梅离婚不离家，侧室姚冶诚离婚别居，哄骗陈洁如“出国考察”，从而一一解除了与三个妻妾的关系。
毛福梅是蒋介石的结发之妻，生于1882年，卒于1939年。从19岁进蒋门到45岁被休，她与蒋介石的夫妻名分不过维持了26年。
毛福梅嫁给蒋介石，是由双方家长做主包办的旧式婚姻，毛氏又是缠足的旧式家庭妇女，年纪比他大，长得又不是秀外慧中。因此，结婚以后、夫妻二人感情极其一般，蒋介石对她很淡漠。所幸毛福梅心地宽厚，性情柔顺，“大姐姐”般地悉心照顾心无定性的小丈夫，事夫维谨，同时尽心尽力地辅助蒋母操持家务，极具孝道，深得婆婆王采玉的疼爱。蒋毛两人生有一子蒋经国。
1921年6月，蒋母王采玉溘然长逝，毛福梅成了丰镐房名副其实的女主人。虽然外有总管，内有账房，但她事无巨细，均插手过问，里里外外一把手，深得蒋家上下之敬重。然则，蒋母逝世，毕竟使毛氏失去了最强有力的依傍，使原本就不满于这桩旧式婚姻的蒋介石，更加为所欲为。11月，蒋母的丧葬大典方毕，蒋介石就正式向毛福梅提出离异的要求，后因乡里亲朋的反对而作罢。
1927年，蒋介石登上了中国政治舞台的中心位置，决定向宋美龄求婚。但宋家有言在先：蒋介石以往的一切婚约必须解除，然后“蒋宋联姻”才可付议。蒋介石再次面临着废糟糠之妻的难题，令他颇感棘手。