及至黎元洪任期满一年，直系曹锟等人逐渐开始不满于黎元洪不肯自动退位、为曹锟当选总统让路。所以，依附于保派的议员、阁员开始策划“倒黎”事宜。保派政客开始在黎元洪任期的合法性和时间长短上大做文章。4月至5月，国会先后提出的有关总统任期的提案一共有二十多起，其中以保派议员范樵、吴莲炬的提案最为典型。这份提案上说，黎元洪的复职只能补足从洪宪改元开始到袁世凯败亡结束，共一百六十天；而黎元洪这次复职从1922年6月起已三百三十余日，超过了合法任期一百七十五日，所以应自动退位，再由国务院摄行总统职权，然后组织选举。但是，国会中一些依附黎元洪和不买北洋政府账的议员坚持认为，黎元洪的任期应从1914年5月袁世凯召集“约法会议”时补起，到1916年6月黎元洪继任正式大总统，再加上冯国璋代理的一年零两个月，合计为三年零三个月，因此黎元洪的任期应到1925年9月。这使保派政客和曹锟颇为焦虑。此时，内阁总理张绍曾向黎元洪这一方靠近，也主张先定宪法，后选总统。于是，保派不得不决定采取“倒阁驱黎”的战略，以便实现自己的政治阴谋。他们的如意算盘是先由保派阁员推翻张绍曾内阁，倒阁后各方不与黎元洪合作，使黎元洪组织不成继任内阁，尔后不得不辞职下台。
1923年5月，制宪经费政潮开启了“倒黎驱张”的序幕。国会复会后，拥黎派议员以加快制宪、后选总统为抵制保派的手段，附曹派议员以拖延制宪为拥曹锟上台的方法。由于在国会开会时，保派议员的随意缺席，宪法会议多次因不足法定人数而不能开会，制定宪法也就无从谈起。于是有人提议修改宪法会议规则，将法定人数减少，并规定出席者发给出席费每次二十元，缺席者每次扣岁费二十元，以示奖惩。这个提案得到国会通过后，两院议长及部分议员入总统府谒见黎元洪，要求拨款兑付。黎元洪见这一方案于已有利，便积极筹划经费。在与内阁总理张绍曾等人商量之后，决定在海关建筑经费名目下借拨一百二十万元，分四个月提拨，每月支付制宪经费十七万元，驻外使馆经费十三万元。这一举措为以曹锟为首的保派攻诘黎元洪和张绍曾内阁提供了口实。
在1923年5月8日召开的国务会议上，交通总长吴毓麟首先发难说：“府方不经过国务会议就擅自决定制宪经费，违背了责任内阁的精神，我们应设法取消。”内务总长高凌霨也附和说道：“这里面一定有黑幕，我看应向黄陂问个究竟。”张绍曾见保派阁员气势汹汹，连忙推卸责任：“事前我虽然知道，但一切都是总统决定的。”会后，阁员们出席了总统府的例行聚餐，各位阁员就席后，黎元洪仔细讲解了筹措制宪经费的前因后果。财政总长张英华说：“这件事论理不错，但手续不圆满。”黎元洪辩解说：我办这件事时曾邀请总理、财政总长次长、两院议长议员及有关各部长官商议过，与攫款乱花者是有区别的。”高凌霨马上接着说：“总统总得把这件事交到内阁议定，方符合责任内阁制吧！”高凌霨的一席话让黎元洪颇为生气，黎元洪激动地回答说：“筹款制宪，系为国家打算，不是为个人打算。况且公开行事，何尝违反内阁制精神！”宴会不欢而散。
此后，在6月6日举行的国务会议上，高凌霨拿出事先就已准备停当的辞职通电稿说：“总统近来对于政务，或者不经国务会议直接处理，或者以命令的方式交到院中、要求照办，实在是侵越职权。现在，责任内阁的精神已扫地无余，依我个人来看，总统既然不信任我们，我们也只好退避贤路，免得贻误国事。”吴毓麟、程克、张英华等人也异口同声地表示赞同此说。张绍曾还未来得及开口，高凌霨就逼上来说：“总理如有为难之处不愿辞职，我们就单独提出辞呈。”张绍曾没有办法，只好苦笑着说：“大家既然一起上台，就应当同一步骤，要辞大家一起辞。”在场的阁员中只有李根源与彭允彝默不做声。然后，高凌霨让大家在辞呈上一一签名，并于当日就将辞呈呈递，通电发出。当晚，张绍曾在吴毓麟半是胁迫、半是劝说下，乘吴毓麟早已为他准备好的专车离京赴津。
张绍曾内阁的辞职，实际上是直系保派计划“驱黎”的第一步。6月7日，黎元洪通电全国说明府院矛盾的来龙去脉以及自己的苦衷，并对内阁进行挽留。同时派金永炎和农商次长刘治洲赴天津劝张绍曾返任。张绍曾此时早已看出保派倒阁的用心，遂决意不再复出。保派的计划就是通过倒阁，让黎元洪无法组阁。黎元洪若识时务自动走人，保派阁员就能够早一点出任总理、摄行大总统职务，然后再操纵国会选举曹锟为总统。
然而，黎元洪并没有像徐世昌那样，保派一发难，就自动辞职。张绍曾内阁倒台之后，黎元洪又积极商议组建新内阁。保派见黎元洪没有主动退位的意思，决定弃文行改武行，采取武力逼宫的方式迫使黎元洪下台。就在内阁总辞职的次日下午，陆军校阅使冯玉祥、京畿卫戍总司令王怀庆、步军统领聂宪藩、警察总监薛之珩等人率所部军官三百人齐集总统府前索饷。黎元供只好在居仁堂接见他们，并厉声发问道：“尔等来何事？岂来逼吾退位乎？”军官等齐声说：“不敢，唯军饷无着，内阁无人，故敢直见总统，请求总统主持。”黎元洪许诺于端午节前二日筹发，军警官佐等人这才退出。
自此之后，总统府的秩序大乱，经常陷入军警索饷、流氓围攻、市民哄闹之中。8日，天安门前还开起了“公民大会”，指责黎元洪违法越权。同时，冯玉祥等九省区督军打来电报，声称总统干涉内阁职权、破坏内阁责任制。9日上午，北京的警察声称索饷不得，宣布罢岗。陆军检阅使冯玉祥和京畿卫戍总司令王怀庆联名致函外交团，除了保证维持北京治安、保护外国侨民的安全外，还特意告诉外国公使，警察的罢工“系政治作用”。外交团公推葡萄牙公使符礼德来到东厂胡同探望黎元洪，谈话中将冯玉祥、王怀庆的信拿给黎元洪看。黎元洪知道这些活动的矛头是对着自己来的。这一天，新华门和东厂胡同的卫戍军警踪影皆无，家中的电话也已不通。但是黎元洪仍然不为所动，并用通电的方式向外界披露有关情况。由于公使们威胁说要以洋兵巡逻，北京城内外的军警才在当日晚19时复岗。10日上午，又有三百多名军警官员来到总统府门前索饷，由总统府侍卫武官长荫昌好说歹说才劝走。可到了下午15时，又有“市民请愿团”四百多人，在天安门前集会，一路上打着反对黎元洪的标语向黎元洪东厂胡同的私宅迸发，在黎宅门前一直闹到天色已晚才散去。
面对直系保派所发起、组织的连番进攻，黎元洪显得相当镇定。毕竟，有过张勋复辟时自己狼狈下台的经历，黎元洪对眼前所发生的这一切都不觉得怎样了。况且，对大小军阀的“逼宫”行为也早已习以为常。此外，黎元洪有自己的政治信念，诚如他对幕僚所说：“民国六年，我受督军团和张勋的胁迫，违法解散了国会，致使天下动乱，人民生命涂炭，已经六载。此次出任总统，既然依法而来，就当依法而去。我的任期若何，静听国会依法解释。如果国会将我的任期说明，朝满而夕必去，决不恋栈。但是，如果有人依赖非法的暴力胁我去职，那我将为国家维持纪纲法律，决不会再蹈覆辙，遗害于百姓人民。”黎元洪以一位无兵权的总统身份，能够在极为艰难困苦的政治环境中，仍然不忘依法坚持职守，已属难得。
11日和12日，黎元洪遭到了更为猛烈的连番攻击。黎元洪家宅的电话被切断，自来水也被截断。冯玉祥与王怀庆又联名提出辞职，黎元洪派张怀芝前去挽留，冯玉祥与王怀庆二人执意不肯回职。黎元洪又致电曹锟、吴佩孚，请求出面解决问题；但电文发出之后，迟迟不见回应。到这时，不轻言放弃的黎元洪知道自己大势已去，直系的目的就是要赶他下台。眼见形势日益危急，黎元洪集合总统府的幕僚们商讨对策。事已至此，向直系屈服已经没有意义，黎元洪决定离京赴津。同时，拟定了七道命令：
一、准张绍曾辞职。二、由农商总长李根源兼署国务总理。三、除李根源外的其他阁员一律准其辞职。四、任命金永炎为陆军总长。五、裁撤全国的巡阅使、巡阅副使、陆军检阅使、督军和督理，军队由陆军部直接管辖。六、声讨这次政变的发纵指使之人。七、从民国十四年一月一日(1925年1月1日)起废除全国厘金。
由于当时印铸局已经被保派控制起来，命令由与外国记者有些来往的议员杨秉权和公府秘书熊小豪分别转给在北京的外国记者，向上海、汉口、香港等地的报刊发出。
13日，北京风声鹤唳。黎元洪决定立即离京赴津。临行前，黎元洪向外交团和国会各发一函，声明在北京已经不能行使总统权力，准备自13日起将政府迁往天津。下午13时，黎元洪乘专车离开东厂胡同赶往车站，离开北京。
至此，黎元洪在直系拥戴下从复职出山到仓皇出京，正好是一年零两天。短短一年，仿佛天上人间。
黎元洪被逼出走天津以后，北京一度混乱不堪的政治局势立刻就趋于平静。远在保定的曹锟也开始关心起北京的治安，打电报给冯玉祥等人要求维持好首都的秩序。而原本辞职不出的冯玉祥、王怀庆也复职上岗，“公民请愿团”、索饷的军警、罢工的警察也都在顷刻之间销声匿迹了。看来，北京城里容不下的只有黎元洪一人而已。
逼走黎元洪之后，保派政客开始着手按照既定的计划实行第二步，接收总统的权力。但是当他们赶到总统府时，却发现总统的印信竟然少了五颗。保派政客猜到必是黎元洪将总统印信带走，高凌霨立刻打电话给直隶省长、保派大将王承斌，要他在天津扣留黎元洪专车，索回印信。保派政客不知道，黎元洪离京之前已经做出安排，将总统印信交给他的如夫人黎本危保管，而黎本危在总统府秘书瞿瀛的陪同下正在东交民巷的法国医院躲避。黎元洪将印信交给黎本危保管，也是料到保派会向他索要印信，事实果然如他所料。