赞成“清堂”运动
1927年蒋介石发动四一二政变后不久，汪精卫也发动了七一五分共。在蒋、汪联合镇压共产党后，宁汉两政府的合并也就提到议事日程上来了。为了争夺中央领导权，国民党各派展开了激烈斗争，蒋介石一时成为众矢之的。处于各种矛盾旋涡中的蒋介石不得不于8月13日离宁赴沪，14日，在上海发表辞职宣言，在一番“进退生死，一以党之利益为依归”的冠冕堂皇言辞下黯然下野。
对蒋介石的下野，二陈虽感十分惋惜，却也无可奈何。8月14日，蒋介石要离沪到老家奉化溪口，陈果夫与张群亲自护送返浙。在溪口，陈果夫陪蒋介石登武岭，游剡溪，徜徉于高耸的危崖和潆洄的流水之间，赏隔溪之绿竹，观岭上之苍松，似乎其乐无穷。实际上，他们的心思，不在山水之间，他们在积极筹划，准备蒋介石的重新上台。
蒋介石下野后的第二天，即8月15日，北洋军阀孙传芳领残部偷袭京沪路龙潭一带，南京局势日渐紧张，陈果夫与陈立夫这时对南京方面采取不合作主义。当陈果夫陪蒋介石到奉化时，陈立夫退居上海。不久，陈果夫也来到上海。而南京方面因中央组织部代理部长吴倚沧病逝，电催陈果夫即到南京代理组织部部长职务。对此，陈果夫大耍滑头。他想，接受任命，对不起蒋介石，不接受任命，南京方面会任命其他人，因此他欣然接受，但却一直呆在上海，迟迟不赴南京上任，致使组织部长虽有名而无其实，部内工作处于混乱之中。
此时的陈果夫与陈立夫正在上海紧锣密鼓地开展拥蒋活动。他们上下串连，各方联系，逐渐聚集起一股强大的拥蒋势力。
还在北伐战争时期，陈果夫与陈立夫为了反对国共合作，建立自己的嫡系势力便与曾养甫、陈肇英等一些浙江籍国民党员于1926年11月在广东成立了一个组织——浙江革命同志会，这个组织以地域为纽带，以拥蒋反共为目的，很快得到发展。后来，陈果夫随蒋介石到南昌后，便与江西的反布尔什维克组织头目段锡朋搞到一起，并使这两个组织联合起来，成为国民党内右派势力的核心组织。为了使这股右派势力迅速控制整个国民党，陈果夫经与蒋介石密谋后，便以中央组织部长的名义，将这个秘密组织成员委派为一些尚没克复的省市党部负责人，使这些地区一克复，便由他们的势力控制起来。但北伐军占领南京、上海后，由于蒋介石、汪精卫先后背叛革命，北伐一度停止下来，于是，这些拿着空头任命的人一时好梦难成，只好从广州、武汉来到上海，寻找他们的主子，此时蒋介石与二陈都自身难保，岂能满足他们的要求，只能惺惺惜惺惺而已。但他们在同病相怜之中，也认识到了一个道理，即要想求得一官半职，必须蒋介石再起。而陈果夫与陈立夫也从这些散兵游勇中看到了东山再起的希望，于是极力鼓动他们联合起来拥蒋。这样，以二陈为中心，这股拥蒋的势力抱成了一团。
9月28日，蒋介石为了取得帝国主义的支持，偕张群一道赴日本访问。还在下台之时，蒋介石在军事上抓住黄埔系，把黄埔学生交给国民革命军总司令部参谋长朱绍良负责，以保持自己对军事实力的控制权；在党务上，则抓住陈果夫，让他控制各地党务干部。在访日前夕，蒋介石在上海召见了陈果夫与陈立夫，蒋介石希望陈立夫一起去日本，但陈立夫以身体健康欠佳，极需休息，且不懂日语为由没有应允，蒋介石也不强求，只是向他们面授机宜，要求他们带动拥蒋势力大造声势，使南京陷于困境，并看准机会，实行反击。对此，二陈心领神会。在蒋介石出访日本后，他们更加紧了国内的拥蒋运动。
桂系白崇禧曾专门找到陈立夫，希望聘请陈担任他的顾问，陈立夫因蒋介石下台，对政治没什么兴趣，因此没答应白崇禧聘任，他想放弃一切政务，重去当矿业工程师。虽然如此，他还是希望蒋介石有朝一日能上台，因此，在机要科交接时，蒋介石的机密文件、密码及其他一些高度机密的文件没有交出。然后离开南京，回到上海。
蒋介石的下野，促进了宁、汉、沪的合流。9月11日，宁、汉、沪三方中央党部代表终于坐在了一起，在上海戈登路伍朝枢的寓所举行谈话会，经过三天讨论，决定在国民党三大前先成立特别委员会，“汉宁沪三方中央党部将其职权委托于特别委员会”。“特别委员会委员32人，候补委员9人”。9月16日，国民党中央特别委员会经过紧锣密鼓的筹备后，正式在南京成立，决定接收宁汉沪的中央党部及中央政治会议，改组国民政府，宣告“中央特别委员会，代行中央执监委之职权，改组国民政府”，“以前峙立三党部均不复行使职权”。由于国民党的一批元老派人物如胡汉民、张静江、吴稚晖、蔡元培、李石曾等均辞职，声称“各为故里游，一了百了”，使得党务大权由西山会议派所掌握，谢持、居正、林森、张继、邹鲁等人均进入32人的特委会，谢持居然成为特委会3名常委之一。军政大权则操于桂系之手。
青白团入团者需面向孙中山遗像宣誓，孰不知，他们所信奉的三民主义早已非孙三民主义之本意。时刻窥测南京动向的陈果夫与陈立夫见时机来到，便率滞留在上海的那帮拥蒋势力揭起了反对中央特别委员会的旗帜，尽管陈果夫已被特别委员会推为农民部委员，但他表示决不就职，而将主要精力放在拥蒋上台方面。为了使他们反对南京方面的行动形成一股有纲领的政治力量，二陈经过多次策划后，于11月初成立了一个秘密组织，取名为“中央俱乐部”。因其英文缩写是CC（英文为CentralClub），故该组织也简称为CC。中央俱乐部以反对国民党中央特别委员会为名，实际上是以拥蒋、反共、清党为主要职责。
二陈兄弟表面上搞得似乎很热闹，而实际上是一个架子。中央俱乐部开始成立时，就只有滞留上海的一些人，加上邻近上海的一些省区党部骨干，计不到40人，“以浙江、江苏、山东、山西、南京、上海等省市的党部执行委员张强、洪陆东、许绍棣、潘公展、苗培成、马元放、郑异（后以字行，名郑亦同）、萧铮、程天放等为主干……并拥护戴季陶、丁惟汾、陈果夫等为领导人，负指挥责任”。戴季陶和丁惟汾虽然被推为中央俱乐部领导人，但却很少参与其活动，其主要负责的实际上是陈果夫与陈立夫。在二陈的领导下，其成员主要通过在一些刊物上写文章，反对南京中央特别委员会，为蒋介石上台大造舆论，如陈果夫当时与戴季陶等人创办的《新生命杂志》，就是作为其宣传的阵地。
正当二陈兄弟为拥蒋上台多方奔走，大力鼓噪的时候，蒋介石也完成了在国外的活动，取得了帝国主义的支持，于11月10日回到上海。蒋介石对二陈的举动给予了赞扬，并要求他们把活动开展到南京去。于是，陈果夫专程来到南京。这时，南京方面已发生桂系与汪派争夺中央权力的斗争，导致桂系出兵讨唐，并击败唐生智。11月22日，陈果夫运动一些国民党人举行“庆祝讨唐胜利大会”，实际上，矛头直指中央特别委员会。会议“通过促开四中全会，拥护蒋总司令复职，打倒中央特别委员会及西山会议派”等议案。会后还举行了游行，结果遭到西山会议派分子葛健所指使的军队枪击，击毙4人，伤20多人，这次事件使中央特别委员会和西山会议派声名狼藉。
1928年1月4日，蒋介石带领陈立夫等人，得意洋洋地回到南京“主持大计”。1月6日，在蒋介石的指挥下，谭延闿、陈果夫、丁惟汾接收了中央特别委员会。7日，中央党部正式办公，特委会宣告取消。9日，蒋介石向全国通电，宣告复职，担任了国民革命军总司令，国民党中央军事委员会主席、国民党中央政治会议主席、中央组织部长等职。
对二陈兄弟在拥蒋活动中所表现出来的耿耿忠心，蒋介石当然不会忘怀，他认为二陈是经过患难的忠臣，因而，对他们更加信任。此后，陈立夫继续留在身边参与机密事宜，陈果夫仍然回到组织部任副部长，并代行部长职权。
至于为拥蒋上台立下了汗马功劳的中央俱乐部成员，也都一一被蒋介石委以重任，将他们分派到一些地方省市担任党部负责人，去取代汪派或西山会议派在各地的势力。于是这些人也就皆大欢喜地分赴各地上任。这样一来，中央俱乐部似乎烟消云散了。其实不然，二陈由于掌握了中央组织部的大权，更加紧了对这些人的控制，而这些人也体会到，只有服从二陈，他们的乌纱帽才能保住，而且还可以升官晋爵。因此，这股拥蒋反共势力更加紧密地抱成一团，他们除了继续拥护蒋介石，排斥国民党内其他派系外，更主要的是开展反共活动。他们主持各地的清党委员会，大肆迫害和摧残共产党人与各级组织，在政治上起了更加反动的作用。在二陈兄弟炙手可热的权势下，人们开始把CC解释为二陈（陈字英文译音的第一个字母是C）的简称，CC系也就成为以二陈为首领的国民党内一大派系，是蒋介石在国民党内的嫡系。“将共产党遗留作风扫空”
1927年，蒋介石发动四一二反革命政变后，即开始在上海、广东、广西、江苏、浙江、福建、四川等省市进行反共反人民的“清党”运动，在“清党”运动中，大批共产党人和革命人民惨遭杀害。
蒋介石崛起于军界，在党方可以说毫无基础，这也就造成二陈兄弟在国民党中地位迅速上升。4月17日，南京中央政治委员会决定成立两个权力很大的委员会，一个叫中央宣传委员会、一个叫中央组织委员会，陈果夫分别成为这两个委员会的委员，并且具体负责主持“清党”活动，领导各级清党委员会，专门对付共产党人。
4月底，蒋介石在第一期“清党”的基础上又开始第二期“清党”，他认为，第一期“清党”虽“以极敏捷严厉之手腕，扑灭共产党徒之逆谋，摒除共产党徒于党外”，但并没有将共产党斩尽杀绝，“各地仍有该党余孽暗中活动，或仍匿居旧时共产党机关，藉口已经改组，巧自粉饰，或插入新兴团体，从中捣乱”，因此，还必须继续清党。
对于“清党”运动，陈果夫、陈立夫兄弟俩极力赞成，他们认为，光从中央机关清除共产党是不够的，还必须在国民党各基层组织中，清除隐藏的共产党，这样才能彻底消灭共产党。陈果夫此时已不在组织部任职，其代理组织部长一职由他推荐右派人物吴倚沧担任，组织部的大权仍然由他所控制。7月，蒋介石指令成立全国“清党委员会”，陈果夫、陈立夫都没有在委员会中担任职务，但他仍极力把自己的亲信安插进“清党委员会”，在7名“清党”委员中，就有曾养甫、段锡朋、吴倚沧、郑异、肖佛成等5人是他们所信用的人，对他们是惟马首是瞻，所以，二陈兄弟实际上是“清党”运动的主持者。
国民党政界，尔虞我诈，相互残杀，蒋介石却似一僧人般坐看风云起。“清党委员会”成立后，在二陈指挥下进行工作，陈果夫事事过问，事事插手，整个“清党”的程序，由他一手安排，以至蒋介石下野后，陈果夫依然能暗中操纵各地的“清党”运动。
1928年初，蒋介石重新上台，他接受陈果夫的建议，其首要任务仍然是继续“清党”，“乃欲移其势力之重心于党部”，基于此目的召开的国民党二届四中全会，就是要使“清党”的理论、组织、方法、程序更加完备，更加系统，更加严密。
在二届四中全会上，陈果夫是一个十分活跃的人物，他多次发言，陈述自己对“清党”的主张，他强调，要使“清党”运动收到实效，必须与整理党务结合起来，把整理党务作为“清党”的一个重要内容，他认为，以前虽然也整理过党务，但收效不大，这次应该彻底整理，为此，他与蒋介石、丁惟汾一起拟定了一个整理党务的提案交会议讨论。他还强调，要为“清党”制定法律条文，基于此，他还与蔡元培等提出了《制止共产党阴谋案》等，陈果夫参加拟定的提案几乎占了会议所有提案的一半，这些提案，对“清党”的理论、方法、程序进行了系统的阐述。
为什么要继续“清党”呢？陈果夫等认为：“清党时间倏逾半年，共产党之逆迹固以大暴国中，本党之精神亦日就淹没”，现在国民党的组织形式、工作方法、所持理论均沿用过去国共合作时的一套，“是昔者以共产党操纵国民党，今则以国民党继承共产党”，因此，“非将容共期中之理论与方法，一举清之不可”。继续“清党”就是要清除共产党的理论与方法。
如何“清党”，整理党务呢？陈果夫等的提案作了具体的布置。
第一，关于基本理论。陈果夫等攻击共产党的理论“为破坏，为阶级斗争，为反科学，为虚伪不择手段，为以民众为工具，为分裂三民主义为三个一民主义，为造成全民恐怖，为使中国产业由落后而至于绝灭，为遮断中国在国际间取得平等优裕之机会，为打破国民革命军的基本力量以培植爪牙”。因此要彻底清除，“一反其义”。他们提出国民党要树立自己的理论，即树立被他们篡改了革命内容的“三民主义”，为此，要“制定管理党报及党的一切刊物条例”，以利于宣传“三民主义”。
第二，关于组织。陈果夫等主张：“废除容共期内一切民众运动方式”；“严厉取缔农工间武装集团及潜伏暴动性之秘密结合”；“各地畸形农工集团一概取消”；“取消省党部以下一切畸形、残破的党部”；“省党部未正式成立时，由中央指定各省登记委员，专办全省党员登记，限期完成整理党籍工作”，“废止中央及各级之农民、工人、妇女、青年、商民等部，只设组织、宣传、训练三部，于必要时得设特种委员会辅助之”；“厉行监察委员会职权，监察委员会得指导中央及地方特种刑事法庭”。
第三，关于整理党务的方法。陈果夫等提出：整理党务要经过四个阶段，即总登记、总考查、彻底训练、彻底改组各级党部。先由中央成立考查委员会，考查各地曾任省级及与省同级党部的委员；再由中央选派指导员组织各省党务指导委员会；然后由省党务指导委员会选派指导员组织各县市的党务指导委员会，分级考查各地的国民党员。凡经登记合格者为预备党员；凡经考查合格者为正式党员；凡经长期考查与训练合格者为基本党员，在此基础上成立各地的国民党党部。
这些“清党”的方案提出后，陈果夫不遗余力，在会议的各种场合反复解释、说明，使二届四中全会通过了他们的提案。会议决定首先改组国民党中央机构，开除撤销共产党员和所谓“附逆”共产党的谭平山等人的国民党籍和国民党中央执监委员职务，选举蒋介石等36人为国民党中央执行委员；在国民党中央取消农民、工人等五个部，只设组织、宣传、训练三个部，并决定对各地的国民党党部进行整理，对党员重新登记。陈果夫由于在全会上的出色表现，他被选为中央监察委员会委员，在会议闭幕后，他又被任命为中央民众训练委员会委员、常委，主持该委员会的工作。