临行前，蒋介石特地宴请谭延闿、陈果夫一行。席间，蒋气恨恨地说：“鲍罗廷简直是我们的统监，而非顾问了。今天武汉成了共产党的天下，真是令人痛心！”他要陈果夫转告武汉方面，他不能出席定于3月1日召开的国民党二届三中全会，要求会议延期到3月12日召开，他霸道地说：“武汉方面能够延期，便说明武汉方面有诚意。”陈果夫明明知道蒋介石是无理取闹，却也跟着蒋介石攻击武汉方面排挤革命功勋，并表示一定把蒋的话转告武汉方面，压迫武汉方面将会议延期。
陈果夫一行从南昌先到九江，然后由九江坐轮船溯江而上。3月6日，谭延闿、陈果夫等抵达武汉，受到了中共和国民党左派人士及武汉人民的热烈欢迎。随后，国民党中央委员会举行预备会议，讨论召开二届三中全会的有关事宜。会上，陈果夫将蒋介石不能如期来汉参加会议的意见转告大会，并力主三中全会延期，等蒋到汉后再开会。他说，如蒋总司令不参加二届三中全会，则会议的重要性会大大减弱。陈果夫的话还没说完，便在会上引起了激烈地争论，李烈钧、谭延闿等附和陈果夫的意见，认为应该延期到蒋介石来汉开会为止。吴玉章、恽代英、彭泽民等则表示坚决反对，不同意会议延期，他们认为，召开二届三中全会的日期，是中央早就定下的，不能因个别人不参加会议便更改日期，如再延期，是十分错误的。他们义正词严地质问陈果夫：“现在口号打倒独裁、打倒个人专政，因蒋，朱之不能来，而再展期开会，岂不犯了个人独裁之嫌吗？”陈果夫理屈辞穷，不能作答，十分尴尬。李烈钧、谭延闿还要坚持己见，因看到多数人反对，只能作罢。会议经过表决，一致通过决议，二届三中全会如期在武汉举行，并希望蒋介石能按时到汉参加会议。
陈果夫的无理要求没有达到，他又气又恨，却又无回天之力扭转局势。会议后，也没有多少人来理睬他，他独自一人在旅馆里发呆，一种孤立感笼罩在他的心头。3月10日下午2时，国民党二届三中全会在汉口南洋大楼开幕，陈果夫称身体有病，拒绝参加。3月12日，是总理纪念会，他不好拒会，迫不得已，装出一副病态十足的样子参加了会议，会议中默不作声，然后，又向会议主席请了病假。3月15日，他听说全会决定取消由他主持的广州、广东、江西三处党部的选举，他原先所圈定的名单也被推翻，便气不打一处来，再也顾不得有“病”在身，一反常态，精神抖擞地参加了会议。在会上，他多次发言，申辩原办法不应推翻的种种理由，他说他的选举方案是经过常会决定的，全会不应否定。陈果夫的发言当即受到与会者的驳斥，一些国民党人士也不满陈果夫的专横，如彭泽民当即批评陈果夫圈定名单是独裁行为，会议主席顾孟余也认为，常会决议案，全会完全可以否决。陈果夫还想申辩，但已经没有人来理会他了，他只好气急败坏地退出了会场。
陈果夫并不甘心就此罢休，他回旅馆后，即向谭延闿写了一信，罗列一些子虚乌有的“事实”，告彭泽民贪污违法。第二天，谭延闿将陈果夫的信在大会上宣读，即在会场上引起了一片混乱。这样，一方面打击了彭泽民，另一方面也分散了会议的注意力。但由于共产党人和国民党左派人士的努力，二届三中全会还是取得了预期的效果，发扬了孙中山的三大革命政策，产生了有中国共产党人参加的武汉国民政府，取得了反对右派斗争的一次胜利。
陈果夫在二届三中全会上的表演，撕去了他原来所谓“中派”的假面具，将其真右派的面目暴露于共产党和国民党左派面前，也引起了武汉人民对他的不满。三中全会召开后，武汉街头出现了“打倒蒋介石、驱逐陈果夫”的标语。3月18日，武汉人民举行盛大集会游行。高呼“驱逐陈果夫”的口号，一时群情激愤，口号声响彻大街小巷。此时的陈果夫，确实成了过街之鼠，陷入人人喊打的境地。他后来回忆说：“当时，我正在人丛中，可是没有人认识我。但从此行止便格外秘密了。几乎每天要换一个旅馆，避免人家注意。”
不久，蒋介石派人秘密到汉口通知陈果夫，要他赶紧离汉返沪，以谋更大的反革命叛变。于是，陈果夫急忙收拾行装，于午夜2时，秘密登上一艘轮船，此时“钟打五更夜正浓”，陈果夫在茫茫的夜色中，匆匆逃离武汉，前往上海。为蒋尽力
1927年3月19日，陈立夫随蒋介石到达安徽省安庆市，同行的还有杨虎，杨虎是安徽人。蒋介石的舰艇一到安庆，便有一些反共分子上船要求蒋对安徽的共产党下手，蒋介石先不说话，杨虎犹豫不决，陈立夫则极力主张打击安徽的共产党。他说：“必须立即采取行动，如有任何差错，一切由我协商负责。于是蒋介石派杨虎直接负责。
3月23日，蒋介石在出席安徽省党部的欢迎会并作完演讲离开后，杨虎便指挥国民党军队捣毁安徽省党部；安庆市党部、省农会筹备处，打死打伤10多人，造成安庆惨案。随后蒋介石等到南京、上海，并电陈果夫也来上海。
陈果夫到达上海的时候，蒋介石正紧锣密鼓地策划发动反革命政变。为了使反革命政变披上合法的外衣，蒋介石指使国民党中央监察委员蔡元培、吴稚晖、张静江、古应芬、李石曾于1927年3月28日在上海开会，会上，吴稚晖诬蔑加入国民党的共产党谋叛国民党，“为危害本党及中国”，提出“应行纠察”。会议决定由吴稚晖拟其草案交监察委员会全体会议讨论。
陈果夫到上海后，与已随蒋介石到达上海的陈立夫一起，积极参加各种秘密活动，策划于密室，点火于基层，为反革命政变进行最后的准备。
陈立夫到上海后不久，周恩来便来拜访。周恩来讲，现在国共合作，国民革命军应该保护工人的利益，上海的工人已经行动起来了，有组织的工人达60多万，工人也应该配合国民革命军。陈立夫满口答应，表示“应该”。于是，周恩来提出，国民革命军应该把宵禁的口令告诉工人组织，以免工人行动时，与国民革命军发生误会，引起冲突。但陈立夫坚决拒绝，因他知道，蒋介石已在暗中准备镇压工人运动，拿共产党开刀。所以，任周恩来反复要求，陈立夫就是不肯告诉。周恩来气愤地说：“你们口里说保护工人利益，实际上拿工人当异己，你真够厉害。”双方不欢而散。
4月2日下午，陈果夫、陈立夫随蒋介石神情诡谲地来到东路军前敌总指挥部，参加由蒋介石主持召开的秘密会议，他们到达的时候，何应钦、吴稚晖、李石曾、李济深、李宗仁、白崇禧，黄绍竑等人早已等候在那儿，见面后，互致简单的问候，蒋介石即宣布会议开始。
首先是蒋介石发言，他板着脸，煞有介事地说明清党反共，建都南京的原因。他说：北伐军到了武汉，国民党中央的某些机关和某些人受到共产党的分化或劫持，因此要把国民党中的共产党清除出去，否则，国民党就要被共产党所篡夺。这里，蒋介石把他蓄谋已久的反共叛变活动说成是为共产党逼迫所致，是不得已而为之，完全是一副贼喊捉贼的流氓嘴脸。蒋介石的发言刚完，何应钦、吴稚晖等便鼓噪起来，他们从反共的立场出发，罗列一些歪曲事实的所谓“亲身见闻”，加以渲染夸大，诬蔑中国共产党及其领导的工农群众革命运动，以此渲染“反共清党”的气氛。
陈果夫身穿长衫，长衫上又罩着一件小坎肩，活像一个钱庄的伙计，与何应钦、李宗仁、白崇禧等身着戎装的军人形成强烈的对比。他在会上发言很少，对其他人的讲话总是饶有兴趣地倾听，边听边在内心深深思考，怎样协助蒋介石发动的这场旨在屠杀共产党人和革命人民的反革命政变，不但使共产党在思想上、组织上、行动上毫无准备，而且在舆论上也必须先发制人，到时使共产党哑巴吃黄连——有苦说不出。想到这里，陈果夫嘴角边露出一丝别人不能轻易发觉的冷笑。至于陈立夫，虽然得到蒋介石的信任，主管秘书处的工作，但在吴稚晖等人的眼里，不过是个乳臭未干的青年娃娃，他还没有资格在会上高谈阔论。
会议在一片鼓噪声中，一致同意了蒋介石的意见，这样，“反共清党”的“大政方针”最后决定下来。
这次会议只是确立了进行反革命政变的大政方针，陈果夫还嫌不够，他建议蒋介石再召开一次会议，以商讨政变的具体步骤和方法，使其“合法化”。于是，蒋介石于4月5日上午在旧上海道尹公署楼上召开了秘密谈话会，陈果夫顾不得连日“辛劳”，再次参加会议，另外还有柏文蔚、宋子文、李济深、李宗仁、黄绍竑、白崇禧、古应芬、吴稚晖、张静江等人。会议开始，依旧是蒋介石讲话，他提出：为了使“反共清党”合法化，必须由中央监察委员会提出一个检举共产党谋叛的呈文，咨请国民党中央委员会、国民革命军总司令以及地方军事当局对共产党作“非常紧急处置”，这样，军事当局才可以对共产党实行武力解决。陈果夫即向蒋介石报告了3月28日监察委员会开会的情况，说明正由吴稚晖在拟定呈文草案，蒋介石认为现在是非常时刻，拟定草案的速度要加快，而吴稚晖年老体衰，不能尽快完成，必须另派人协助，陈果夫当即表示自己愿意参加进来，于是会议决定，由陈果夫协助吴稚晖，尽快拿出检举共产党谋叛的呈文。
会后，陈果夫便放下手中的一切事务，与吴稚晖一起躲进密室，炮制反共呈文。根据蒋介石的授意，陈果夫与吴稚晖冥思苦想，绞尽脑汁，终于制造出一个所谓“中国国民党中央监察委员吴敬恒呈中央监察委员会文”。该文盗用国民党中央监察委员会名义，伪造了所谓“中国国民党中央监察委员会在上海开会记录”，将4月2日的秘密会议冒称为中央监察委员会全体紧急会议”，公推“根本没有出席的蔡元培为会议主席，把到会的中监委人数仅占全体中监委的1／4说成是2／3。该呈文诬称：“现在汉口中央执行委员会，为共产党及附和共产党之各员奉俄国共产党鲍罗廷煽动而盘踞”，“今者共产党有谋逆之整备，遂喧腾其联共之口号，诬罔总理，挟制舆论以图大逞……”因此，“举凡执行委员会内叛逆有据之共产党员及附逆委员，应予查办。未便尚听其行使职权，恣为颠倒”。呈文后还附有包括戴笠充当蒋介石的鹰犬达15年之久。15年里，戴笠为维护、巩固蒋家王朝的独裁统治，立下了汗马功劳，自己亦从一个市井无赖升迁至蒋介石的心腹杀手。鲍罗廷、陈独秀、林祖涵、谭平山等在内的197人的名单，要求：“姑将所开各人及各地共产党首要危险分子，经党部举发者，就近知照公安局或军警，暂时分别看管监视，免致活动，致酿成不及阻止之叛乱行为……”
蒋介石接到咨文后，喜不自胜，即发出布告，称：“中国国民党中央监察委员会，举发共产党连同国民党内跨党之共产党员等有谋叛证据，……本总司令职司讨伐，以维护地方秩序为要，如有借端扰动，有碍治安者，定当执法。”此时的蒋介石已是磨刀霍霍，凶相毕露，只等时机一到，便向人民开刀。
陈果夫生怕蒋介石在反共决策时延误时间，他又与邓泽如、吴稚晖、张静江等人集结一起，进行密谋，决定通电全国，以敦促蒋介石把握时机，尽快反共。4月9日，陈果夫等人以国民党中央监察委员会名义发出所谓《护党救国》通电，该电文颠倒黑白地举出国共合作的武汉国民政府的所谓十一大罪状，认为这些“皆为武汉会议中所加于本党之根本之创伤，致使革命势力发皇张大之本党，有遍体创痍之观”，并耸人听闻地提出：“长此以往，不独北伐困难，而本党百万党员与朝夕以求中国的自由平等之民众，亦将何所寄托。”因此，要求国民党“全体同志念党国之危机，懔丧亡之无日，被发缨冠，共图匡济”，群起而一致反对共产党。陈果夫等的这个是非混淆的通电煽动性极强，在蒋介石叛变革命的关键时刻起了极为恶劣的作用。
这个通电发出后，以蒋介石为首的国民党反动派公开叛变革命的政治准备就完成了最后一道手续，他们武力镇压共产党的时机已完全成熟。
要将共产党斩尽杀绝，首先就要知道谁是共产党，因共产党从来没有将其党员的名单交给国民党。要分清谁是纯粹的共产党，谁是纯粹的国民党，是很困难的，蒋介石对此十分关心，要二陈想办法。
陈立夫脑袋一转，便想出一条诡计，他说：“惟一的办法便是打斗，因为一打起来，国民党的人和共产党的人自然就会分出鸿沟来，这个方法我们在安庆试过。”陈立夫还没说完，蒋介石便拍手叫好。于是，蒋介石命令浙江、江苏、安徽等省的亲信，组织打手，主动袭击各地工会、农会、国民党党部，以此发现共产党，然后一举清除，于是，这些地方相继出现反共逆流，白色恐怖从这些地方向全国蔓延。
为了试探武汉政府对其政变的反应，陈果夫建议，先向武汉中央军事委员会总政治部派驻上海的机构开刀。4月6日，蒋介石以总政治部人员“淆惑军心，背叛主义”等莫须有的罪名，手令白崇禧查封了总政治部上海办事处。而武汉方面漠然视之，这就使蒋介石更加肆无忌惮。这时，上海局势十分混乱，早在上海工人第三次武装起义后，在中国共产党领导下，便组成了上海特别市临时政府，蒋介石到上海后，即于3月29日下令解散了这个革命政权，临时政府解散后，上海便成无政府状态。为了控制上海的局势，陈果夫再次向蒋介石献计，他认为，要将上海掌握在自己手中，必须尽快成立一个市政府，以取代被解散了的上海市临时政府，这不仅可以消除共产党对上海的影响，而且有利于“反共清党”的进行。蒋介石听从了陈果夫的建议，于4月8日指派陈果夫、吴稚晖、白崇禧等人成立了上海临时政治委员会，陈果夫被任命为该委员会的主要负责人之一。获此要职后，陈果夫即春风得意地走马上任，在军方的支持下，临时政治委员会成为上海市最高权力机构，“得以会议方式决定上海市一切军事政治财政之权，并指导当地党务”。这就一举篡夺了上海人民的革命果实。蒋介石也就开始屠杀共产党和革命人民了。4月12日，由蒋介石、陈果夫等发动的反革命政变开始，随后向各地蔓延，中国共产党和革命势力遭到严重摧残，中国人民蒙受了巨大的灾难。
陈果夫在四一二反革命政变中助纣为虐，为蒋介石效尽犬马之力，他的所作所为受到共产党人和国民党左派的一致反对。4月14日，武汉国民党中央监察委员会开会，提出将蒋介石、张静江、陈果夫开除党籍。5月6日，武汉国民党中央第二届常委会第十次扩大会议讨论，通过《惩办反动分子案》，决定开除陈果夫等7人的国民党党籍。但由于共产党主要领导人陈独秀的右倾投降主义影响，再加之后来汪精卫的七一五分共，这些决议未能实现。而陈氏兄弟却在蒋家王朝中受到重用，一步一步爬上高位。