为了解决这一问题，二陈找来一些CC派高级骨干进行密谋。大家认为，蒋经国的势力已不容忽视，由于有蒋介石的关系，他们不可能与之争锋。最后，大家想出个妥协办法，即“党”“团”实行合并，以此消弥三青团与CC派的矛盾，团结一致，共渡难关。在国民党六届三中全会上，由庞镜塘等人提出了“党与团应统一领导”的提案，这一提案得到蒋介石的赞成，他也认为这是处理党团矛盾的最好办法，因为在党团争斗中，他既不愿儿子吃亏，也不能没有CC派，只有党团合并，双方妥协，利益均存，才可以消除矛盾。他说：党团如再不合并统一，“党与团惟有同归于尽”。于是国民党中常会作出决议，“撤销三民主义青年团，归并本党”。蒋介石为了表示他不偏向三青团，他将党团统一事务交由陈立夫与吴铁城、陈诚具体办理。
1947年9月9日至13日，国民党六届四中全会暨中央党团联会议在南京召开，会议通过了《统一中央党部党团组织案》，实现了党团合并。陈果夫与陈立夫虽然都被选为中央执行委员，但以蒋经国为首的大批原三青团骨干，却一跃变成了国民党中央执行委员和中央监察委员。很明显，党团合并加强了蒋经国太子派的势力，二陈势力已成了强弩之末，“蒋家天下陈家党”的时代宣告结束。
晚年的陈立夫，经历了政治上的大风大浪，又经历了经济上的惨败，他已心如止水，淡泊名利了。时局一天天紧张，呆在上海养病的陈果夫似乎也感到了蒋家王朝末日的到来。1948年的岁末充满了阴冷、肃杀的气氛，上海表面上华灯初照，霓虹闪烁，一派歌舞升平的景象，实际上，国民党达官贵人都在此清理财产，准备逃往台湾，到处是乱糟糟的。
国民党政权江河日下，陈果夫的病情也一天天加重，一些亲友都来劝陈果夫到台湾去养病，他却故作镇静地说：“余实不能打算私事也。人之生命实不能由自己作主。如其事业可随便放弃，生命即失却主宰，余病多年而不死，即因有事业维系之故，今如放弃事业，即无命可逃。况此时何能庸人自扰耶？”话虽这么说，内心并不能安定下来。11月13日，蒋介石高级幕僚陈布雷自杀，这在陈果夫心中也投下了一道阴影，心情越是沉重。再加，每天传来的消息都是国民党军队丢城弃地，人民解放军进展神速之类，陈果夫似乎听到了由北而南的隐隐炮声，他开始胆怯了，他开始考虑自己的生命了。11月15日，陈果夫终于拿起笔，向蒋介石写了一封信，提出要离开上海到台湾养病的要求，蒋介石很快给予批准。
12月6日晚10时，陈果夫登上中兴轮，离开上海前往台湾。他看着上海滩上那高低明灭的霓虹灯、那参差巍峨的楼宇，想到这一去不知能否再返这十里洋场，再返这生他养他的大陆，脑中不禁涌出了“一任朱帘闲不卷，终日谁来”的诗句，轮船徐徐开动，陈果夫长长叹了口气，一股无名的惆怅在袭击着他的心。
12月7日下午，陈果夫抵达台湾基隆港口，上岸后，再坐上火车，8日到达台中市，住进双十路8号一间公寓，他在这里度过了一年多的岁月。
蒋介石与二陈都希望通过党团合并来弥合CC派与太子派的矛盾，但这种形式上的合并却没有解决任何实际问题，国内形势继续朝着不利于国民党的方向发展。到1949年1月，国民党陷入军事总溃败、经济总崩溃、政治总危机之中，在此困境下，美国支持桂系加强了倒蒋活动。蒋介石多次请求美国给予援助，均遭美国拒绝，后又派宋美龄赴美活动，也一无所获。与此同时，国内李宗仁、白崇禧为首的桂系不失时机地发动了逼蒋下台的攻势。
面对重重危机，蒋介石在接连碰壁、走投无路的情况下，于1月16日召开国民党要人及民社党、青年党代表开会，商讨对策，一些人主张“政府迅速向中共求和”，邵力子“公然主张无条件投降”。陈立夫也参加了会议，他虽然坚决反对投降，要求大家团结一致，坚持到底，但却是色厉内荏，他对目前的形势也没有把握，认为在此情况下，蒋介石已无能为力，他的下野只是时间迟早的问题了。
1月9日，国民政府行政院举行政务会议，决定“愿与共方先行无条件停战，并各指定代表进行和平谈判”。与此相呼应，社会舆论一致提出“非蒋介石下野，则和谈不能进行”，时局至此，蒋介石深感大势已去，无法挽回，便于1月21日发表“引退”声明，提出“于本月21日起，由李副总统代行总统职权”，随后回奉化溪口老家。
蒋介石的下野，使二陈似乎已看到了国民党的最后失败，也感到自己失去靠山，行将走向末路，因此他们深感痛心。
正在台湾养病的陈果夫得蒋介石下野的消息后，十分感慨，他在日记中写道：“蒋先生第三次下野。前二次均有外敌侵入，一般人因而觉悟。这次共军必更深入无疑，而各报对蒋先生之退并无惋惜之口气，人心如此，有何公理。”他对逼蒋下野的李宗仁等桂系人物十分愤慨，认为他们为了自己私利而不顾党国的前途。陈果夫错误地认为，造成今天这种状况的主要原因是美国插手，“欲过问中国事，竞使中国沦人共党之手，此时虽觉悟，亦已迟矣。”陈果夫始终也不明白，他们之所以失败，是违背了人民的意愿，违背了历史发展的趋势，因而，不管是美国的支持也好，还是蒋介石重新上台也好，都不能挽救其失败的命运。
二陈虽然对蒋介石的下野痛心疾首，表示自己的忠心，但蒋介石并不感激他们，相反，他认为是二陈坏了他的事。是二陈操纵党务，培植CC派系统，使党内派系重重，矛盾迭出；是二陈搞特务政治，激起天怨人怒，才导致了他的失败。蒋介石根本不愿承认所有这些都是他纵容二陈搞的，他把一切罪责全推到了二陈身上。21日，当蒋介石发表引退声明后，准备乘飞机离开南京时，陈立夫等人为了表示自己对蒋的忠心，前往送行。只见蒋介石铁青着脸，见了陈立夫，气不打一处来，厉声说：“共产党没有打败我，打败我的是自家的国民党。”陈立夫见此，便低下头，不敢再说话。蒋介石还觉不解气，用手指着陈立夫的脸，气冲冲地说：“就是你们一班人”，并愤愤地发誓，再不入中央党部的大门。这是陈立夫跟随蒋介石20多年来，蒋介石第一次在他面前发脾气。陈立夫在众人面前被骂得面红耳赤，无地自容，呆在那儿半晌也说不出话来。
回来后，陈立夫想起被蒋介石痛骂的情景，又是委屈，又是恼恨，心想自己的一切行动都秉承蒋介石的意旨，要说错，首先应错在他老蒋，想不到他下台后，一股怨气都发在自己身上，真是晦气。他饭也不吃，蒙头便睡，好些天都无精打采，见了人也懒得说话，完全失去了往日的威风。
后来，陈立夫又原谅了蒋介石，因为他离不开蒋介石这座靠山，他专程去了一趟溪口。也许蒋介石觉得上次说话太过火，这次见了陈立夫显得格外亲热，于是陈立夫心中的恼恨也烟消云散。蒋介石要他不与李宗仁合作，要他把CC派、孙科及其他不满李宗仁的党政要人运动起来，拆李的台，造成混乱，他好乘机东山再起。
陈立夫接受密旨回南京后，便开始暗中活动，他劝说孙科将行政院搬到广州，使李宗仁的总统府只剩一块空招牌，对此，李宗仁回忆说：“在蒋氏幕后指挥下，孙科派和CC系就联合一致，共同来陷害我。其第一步就是把政府从南京迁往广州。”堂堂一个总统府设在南京，而行政院却迁广州，这成何体统，李宗仁又气又恼，他一面打电话给蒋介石，指责他不顾大局、暗中拆台的恶劣行为，一面给孙科打电话，要求行政院立即迁回南京。
蒋介石知道孙科耳朵软，听了几句好话就变卦，怕他顶不住，即令陈立夫急飞广州，稳住孙科，不理睬李宗仁。李宗仁见广州方面按兵不动，知道行政院迁回南京已无望，便使出最后一招，决定在南京召开立法会议，准备搞掉孙科，宣布行政院迁广州是非法的。陈立夫得知消息后冷笑几声，他心中自有主张。他是立法院副院长，对立法院在什么地方开会完全有权决定，李宗仁要在南京开会，他便提出在广州开会，并暗中将很多立法委员接到广州，李宗仁在南京开会的计划落空。在无法可想的情况下，李宗仁只好派张群到广州做说服工作，孙科由于有陈立夫的撑腰，干脆不见张群。李宗仁还是不甘心，只好于2月22日亲赴广州，陈立夫与孙科都到机场见李，李宗仁避开陈立夫，单独找到孙科，向他摊牌：现在华盛顿支持的是南京，不是溪口。孙科考虑再三，权衡利害，终于答应将行政院再迁回南京。陈立夫知道后，气急败坏地直奔孙科官邸，说：“你真糊涂！你知道背后谁在撑腰，他李宗仁能和总裁比吗？”但孙科自认美国支持李宗仁，还是决定迁回南京。陈立夫无可奈何，眼睁睁看着孙科的行政院重回南京，他只能让自己控制的国民党中央党部不回南京仍留广州。
孙科的行政院回南京不久，1949年4月20日晚，人民解放军发动渡江战役。23日，解放南京，国民政府还是南迁广州。这时，陈立夫知道国民党在大陆的统治不会久远了，他开始布置撤离大陆后的特务行动计划。
正如前面所述，首先，陈立夫派CC派特务骨干朱凌云到香港筹办潜伏特务训练班，计划以香港为据点待大陆解放后，潜回内地进行破坏。其次，派特务到华北去，准备在绥远和北平建立华北潜伏据点，以备将来进行破坏活动。再次，把情报活动的重点从大陆转移到东南亚一带地区，以对大陆造成情报包围圈。对陈立夫的整个特务行动计划，蒋介石十分赞赏，他专拨10万银元作为经费，给予资助。但随着人民解放战争的胜利进展，这些计划好多都没有成功。
10月14日，广州解放，国民政府匆匆逃往重庆。为了稳定人心，陈立夫也飞抵重庆。因局势紧张，他为安全起见而深居简出。不肯随便露面。
在重庆，陈立夫加紧了布置潜伏特务的工作，他兴致勃勃地准备筹建“大西南指挥中心”，还派一些特务到四川各县去建立根据地，以便同共产党周旋。但这些计划有些刚刚实施，有些还在拟定，人
能在风云变幻的国际形势中，认清主流，晚年的陈立夫在境界上已跃上了一个新台阶。民解放军就已逼近重庆。11月14日，蒋介石飞抵重庆，企图作最后顽抗，但也无任何办法，陈立夫后来回忆说：“继而重庆吃紧，共党已侵入外围，钱币一天天贬值，那时共党特务工作比我们做得好，政府的一切行止，他们都清清楚楚，‘兵败如山倒’，蒋公到重庆没多久，政府再从重庆迁到成都去，我也去了，那时乱得可怕，我的汽车也被抢去了。蒋公离开重庆时，座车几乎开不出去，好不容易才开到机场。”12月23日，重庆解放。29日，国民政府西逃成都，以作最后的挣扎。
为了收拾残局，陈立夫也随蒋介石来到成都。他将特务召集起来进行训话，说什么“只要拖到第三次世界大战爆发，党国即可复兴”。但这些话也不能维系人心了，大小特务纷纷要求陈立夫安排他们逃往台湾。陈立夫仍然要求他们鼓起勇气，坚持到底。蒋介石到成都后，提出一个新的战略计划，当时有三种构想，一是退守云南，二是固守川西，三是撤到西康。但当时川军将领都不理睬蒋介石。一天，蒋对陈立夫说：“真奇怪，我召集军事会议，一些人都不来了。”陈立夫一听，就预感到要出事了，他认为三种构想已不能实行。当时蒋介石说：“下一步，你和阎院长先飞台湾，我准备去西康。”陈立夫即反对：“不能去那里，刘文辉在那里搞了几十年，他如在机场请总统训话，再来一次西安事变的翻版怎么办呢？”蒋介石沉凝一下说：“那我去云南好了。”陈立夫又表示反对：“卢汉也靠不住，云南绝对去不得。”蒋介石终于打消念头，改派张群去，结果被卢汉扣留，几天后，云南正式宣布脱离蒋政权转向共产党。后来陈立夫十分得意地说他在最后时刻做了对得起蒋介石的三件事：第一是有效地阻止了李宗仁对党政权力的进一步谋取；第二，促成了蒋的复职；第三，救了蒋的性命。
此时，川军将领纷纷起义，人民解放军连克成都以南的简阳、仁寿、乐山等地，切断了国民党的退路。陈立夫见势不妙，虽要别人坚持到底，自己却一分钟也不能坚持，慌忙登上飞机匆匆逃离成都。不料飞机赴台途中，遭遇寒流、驾驶员临时决定返回成都，当飞机缓缓降落时，陈立夫发现城市灯火辉煌，疑为是到了汉口，当时从皮包内取出手枪，准备自杀。旁人觉得奇怪，问明情由，告知是成都，一场虚惊才化为乌有。陈立夫忙问返航原因，才知是同机的阎锡山携带了数十箱金条，负载超重所致。后来，阎锡山减少了卫士，第二天飞机重新起飞，真正要离开大陆了。当飞机穿越群山之间，徘徊于云海之上时，陈立夫的心情格外难受，作为败军之将，他有一种被自己国家抛弃了的感觉，将来的归宿在哪里，将来的命运如何，他自己也不能定，一种“天涯芳草迷归路”的心情油然而起。