代宗继位后，对李辅国的专权十分不满，但他位高权重，不敢对他怎么样。五月，代宗封李辅国为司空兼中书令，实现了他当官的梦想。
另外，代宗尊他为"尚父"，食邑八百户。李辅国仍然不满足，比以前更加骄横了，公开对代宗说："陛下只管坐在内宫，外面的事情一切由老奴处置。"
代宗心中不高兴，但李辅国控制禁军，朝中官员大多是他的党羽，他刚刚继位，地位尚且不稳，只能听从李辅国的摆布。
李辅国更加跋扈，朝中大政都由他裁决，朝中大臣们出入内宫，必须先去拜见他，李辅国感到心安理得，欣然大喜。
他在朝廷各部门安置了大批党羽，程元振升为左监门卫将军；韩颖升为秘书监；刘炬升为中书舍人。
李辅国一心总揽大政时，许多人都在暗中窥视着他宰相的高位。
程元振在与李辅国合力诛杀张皇后和越王李系后，赢得了李辅国的宠信，由掌握射手的职务升到左监门卫将军。
程元振仍不满足，感到气愤，如果不是自己先安插眼线，李辅国到死都不知道为什么；如果不是自己带兵拦住太子，太子被杀后，禁军将领们见风使舵，李辅国就会死无葬身之地。
李辅国太老了，也该有人代替他了。为了铲除李辅国，程元振在代宗面前列举李辅国的罪行，求代宗加以制裁。
六月，代宗和颜悦色地对李辅国说："李公公，你是三朝老臣。朕念你劳苦功高，年纪大了，该好好养老，军务太繁重，交给程公公吧。这么多年来，真辛苦你了。"
代宗赏给他很多的绸缎布匹和金银，告诉他其他的职务仍然兼任，他仍然是宰相。
李辅国看着程元振，程元振连忙转过头去。
百姓们听说这件事后，举国欢庆。李辅国感到大难临头，他得罪的人太多了，上书请求辞职。代宗罢免了他的中书令之职，李辅国的宰相美梦结束了。
代宗认为不能太冷落拥立自己的李辅国，封他为博陆王，准许进京朝拜。
李辅国想进入中书省写封谢表，当他刚步进中书省门槛，值班的官员喝道："你不能再进入此门。"
李辅国跑到皇宫，气愤地对代宗说："老奴侍候不了您这个小皇帝，我去侍候九泉之下的老皇帝。"代宗下了一道诏书，对他进行宽慰。
李辅国要离开京城了，十月十八日这天晚上，有个刺客奉代宗之命，翻墙进入李辅国家，取其首级，扔进厕所，斩下其右臂埋到泰陵，奠祭唐玄宗。
李辅国死后，代宗派人用木头做了个脑袋，装在李辅国的无头尸上，给予厚葬，追赐他为太傅。这件事干得干净利落，没有产生任何恶劣影响。
李泌历经中唐五朝，辅佐了四朝天子。他善于谋划，处理了很多国家大事。他还精于韬诲之术，常能化险为夷，多次入朝主持大事，使李唐王朝转危为安。李泌被誉为"中唐杰出的谋略家"。