在广东各派的反蒋势力中，古应芬最积极。古应芬与陈济棠商定后，即拿着陈提供的巨款赶到香港与汪精卫、唐生智、唐绍仪、李烈钧等人联系。陈济棠则与李宗仁、白崇禧取得联系，争取他们共同反蒋。
4月30日，国民党中央四监委古应芬、邓泽如、林森、萧佛成（时林、萧尚在国外），以通电方式发表《强劾蒋中正提案》，历数了蒋氏的罪状。
5月1日，汪精卫亦发表“东”电，主张召集临时全国会议，以解决一切问题。
5月3日，陈济棠、李宗仁、白崇禧及张发奎、唐生智等联名发表通电，拥护四监委的弹劾案，要求立即释放胡汉民和蒋介石下野。
5月8日，广东的陆海空军将领黄任寰、张瑞贵、陈策、陈庆云、黄光锐等也发表了反蒋的通电。
两广既然联合反蒋，马上抛弃宿怨，陈济棠兵马遂从广西桂平、梧州一带退回粤境，桂系四十三师黄鹤龄东下浔、梧接防。白崇禧、张发奎、叶琪、李品仙偕冯祝万东下广州，同陈济棠等商谈建立新的中央及两广军事统一事宜。数天后，李宗仁也抵粤，接着，唐绍仪也到了广东。
孙科见反蒋势头已起，便偕陈友仁、许崇智由沪赴香港，并叫亲信张惠长带走南京航空处的飞机多架，飞往广州。
孙科等人到达香港后，立即到汪精卫的住所与汪举行会谈。三人进汪宅后，见白崇禧、张发奎等亦在室内。孙科见了，十分高兴，遂向汪、白、张转达了胡汉民反蒋之意。当天，六人便乘快车赴广州。
就在反蒋各方势力云集广东时，5月1日至2日，蒋介石在南京主持召开了三届中央全会第一次临时会议，中央执监委员43人出席，会议专门研究国民会议、制订约法事项。会议修正通过了《中华民国训政时期约法草案》、《全国一致消弭共祸案》等提案，以提交国民会议通过。5月5日，蒋介石又主持召开了国民会议，参加会议人员虽不足法定人数，法律程序虽不完备，而蒋介石执意如期召开。会议开了12天，通过了五项议案，中心议案为《中华民国训政时期约法》。在5月12日上午会议通过“约法”时，吴稚晖念了三遍。最后宣布通过，并把6月1日定为法约公布日。
1931年5月24日，孙科、陈友仁、许崇智、汪精卫、白崇禧、张发奎一行六人于下午4时抵广州后。当天下午在陈济棠家中，决定另立中央，成立政府，名正言顺地同南京方面对抗。
2．二次下野
由孙科联合起来的反蒋势力经过协商之后，决定效法孙中山当年在广州召开非常国会护法的先例，发起国民党中央执监委员非常会议，由非常会议产生的广州国民政府，与南京国民会议产生的国民政府相对抗。5月27日，中国国民党中央执监委员非常会议正式召开。会议否定南京的国民党中央党部的合法性，决定以非常会议出面发起召集第四次代表大会。会议决定，凡是国民党第一、二、三各届委员，只要愿意反蒋，一律为非常会议的当然委员。会议推举邓泽如、邹鲁、汪精卫、孙科、李文范为非常会议常务委员。28日，由唐绍仪领衔，发表了一份国民政府成立宣言，宣告国民政府成立，声言：因为蒋介石犯有非法扣押胡汉民，违法召开国民会议，任用陈果夫、陈立夫等小人把持党政等罪行，限定蒋介石在48小时之内下野。
这次会议推选唐绍仪、汪精卫、萧佛成、林森、古应芬、孙科、李宗仁、蒋尊簋、陈济棠、邹鲁、许崇智、邓泽如、唐生智、李烈钧、陈友仁等15人为国民政府委员。陈友仁兼任外交部长，邓召萌为财政部长，陈融为国民政府秘书长，李郎如为参军长。国民政府不设主席，由唐绍仪、汪精卫、古应芬、孙科、许崇智为国民政府常务委员，轮流担任主席。5月30日，广州国民政府委员联名通电就职，进一步申明其坚决反蒋的政治主张。
广州非常会议与广州国民政府成立后，中国出现了宁粤两个国民党中央与宁粤两个国民政府分庭抗礼的局面。广东方面以护党救国，实现民主政治及打倒独裁专制为号召，采用政治与军事交替运用的办法向宁方发动了强大攻势，双方陷入僵局。但正在此时，1931年9月18日，日本发动了侵华的九一八事变，各派又形成了共同抗日共赴国难的局面。
南京和广东方面在谋求妥协，与此同时，汪精卫与胡汉民的裂痕在增大，而与蒋介石的距离日渐缩小。上海和会举行前，南京和广州方面通过交涉，蒋介石已被迫同意下野，胡汉民业已被释放回到上海，古应芬、陈济棠目的已达，对和谈不再感兴趣，汪精卫正好相反，非常热心，孙科态度亦积极。“非常会议”推举汪精卫、孙科、邹鲁、伍朝枢、李文范、陈友仁为代表。当他们动身去上海开和平会议时，古应芬摆出一副送客出门的姿态，汪精卫则流露出此去不复返的神情，顾孟余已先于汪精卫去上海与宋子文取得联系。总之，各种迹象预示汪精卫与粤方要分手了。 10月14日，胡汉民被释放后，由南京前往上海。10月20日，汪精卫率100余名粤方代表到上海。22日，蒋介石到上海，然后汪、胡、孙三人合影，表示从此团结起来了。但说归说，做归做，胡汉民觉得自己不可能再进南京，又不愿意看到蒋汪合作。汪精卫想在南京和广州合作后当行政院长，汪精卫指示其拥护者在下面散布舆论，施加影响。胡汉民为了挡住汪精卫，极力推举孙科，由粤方提孙科为南京政府行政院长。胡汉民一心想回两广，对与宁合作取消极态度，主张和谈中如蒋介石不作出让步，就决裂，大家一齐回广东去。和谈结束后，宁粤双方达成协议，要分别在广州、南京开第四次全国代表大会，然后共同产生一个统一的中央。粤方代表们准备回广州去开会，临行的晚上，汪精卫的代表宣称，得到汪精卫的指示，不上船回广州了，在广州和香港的汪派代表齐集于上海。
这样，国民党就开了三个第四次全国代表大会：1931年11月至23日，宁方蒋介石一派在南京开会；11月18日至12月5日，粤方胡汉民等各派在广州开会；12月3日，粤方汪精卫派在上海开会。同年12月22日至29日，三个大会的中央委员，在南京开四届一中全会，会议决定国民党、国民政府改制，变集权为分权。
四大召开后，胡、汪认识到，要对国民党的权力重新分配，蒋介石必须下野，蒋介石此时也尝到了政治倒蒋的厉害。他知道要瓦解反蒋阵营，首先就是要使他们失去共同敌人，然后他们自然就会陷入内部的争斗。12月15日，蒋介石辞去国民政府主席、行政院长、陆海空军总司令之职，通电下野。四届一中全会，反蒋派取得多数职位，孙科任行政院院长。
1932年元旦，孙科内阁就职，但一就职他就陷于危机之中，最大的困难就是钱。江浙财团被蒋介石的势力牢牢控制，政府每月收入只有600万，而每月需要400万元的办公费，1800万的军费，透支1600万，孙科根本无法接受。孙科想请蒋、胡、汪三人到京，以加强其政府的合法性，从而找到解决财政的对策，但三人均没有回音。胡汉民在前段时间被禁，已决定在广州成立西南办事处，同蒋抗争到底。蒋、汪则相互勾结，企图挤垮孙科内阁。
1932年1月28日，国民党召开中央政治会议，决定改组行政院，由汪精卫出任行政院长，宋子文出任副院长兼财政部长。3月1日，国民党四届二中全会在洛阳西宫东花园举行。会议进行六天，主要任务是调整中央机构人选和决定蒋介石复职。在开幕式上，汪精卫以淞沪战役紧急，需要集中指挥，提议蒋介石出任军事委员会委员长。在会议的闭幕式上，中央政治会议又任命蒋介石为军事参谋部参谋总长。3月18日，蒋介石在南京正式就职。蒋介石在与国民党内部反对派进行斗争的过程中进一步巩固了自己的地位，为其实现专制与独裁铺平了道路。