李辅国认为只有作为朝臣，在朝廷上奏事决议，才可能真正进入政治舞台。自己住在深宫，名不正言不顺，那帮大臣们总想把自己整垮。
上元二年（公元761年）八月，李辅国升为兵部尚书，手握重兵。文武百官设宴庆贺，饮酒赋诗。从小遭到阉割的李辅国，为了抖威风，每当他来到兵部，都派御林军站在街道两旁，鸣锣开道，车马相拥。
肃宗在皇宫设宴为其接风，宰相百官都来朝见，场面惊天动地，如同国宴。李辅国越来越骄横。他又向肃宗提出更加苛刻的条件，做宰相。
肃宗十分生气，但不敢拒绝，婉转地说："以你的功劳，做什么官都行，只是怕人们不同意。"李辅国仍不死心，要做宰相。
肃宗宝应元年（762年）三月，李辅国为了夺去萧华的宰相之权，在朝中选中了户部侍郎元载。李辅国为了控制京城，曾经任命元载为京兆尹，但元载不喜欢当京兆尹，只想当宰相，推辞了。李辅国为了拉拢元载，多次诬陷萧华专权，要求罢免萧华的宰相职务。肃宗被迫下诏罢免萧华，贬为礼部尚书，任命元载为宰相。四月，李辅国伙同元载，将萧华贬为峡州司空。
李辅国的飞黄腾达，与张皇后的秘密支持是分不开的。到了后来，肃宗久病不愈，李辅国对张皇后不再恭敬了。张皇后要垂帘听政，成为武则天第二。李辅国要把持朝政，二人不断发生矛盾，发展到势不两立的地步。为了预防不测，李辅国任命宦官程元振为禁军射手，直接控制部分禁军侍卫。
宝应元年（762年）四月，唐肃宗病重，把军国大政交给皇太子李豫（李傲改名为李豫），命其监国。张皇后多次谋夺他的太子之位，后来，张皇后的儿子死了，她担心李豫难以控制，要另立肃宗的儿子越王李系为太子。肃宗病重后，张皇后加快了废掉李豫的步伐，要想废掉他，必须先除掉倒向李豫的李辅国。
张皇后在肃宗弥留之际，召见李豫进宫，对他说："皇上快不行了，李辅国和宦官程元振不可不诛。"
李豫说："二人是陛下的有功之臣，一旦突然杀了他们，天下一定震惊，到那时恐怕就无法收场了。"张皇后看到李豫胆小怕事，心中十分焦急，对他说："你先回去，我再想办法。"李豫走后，张皇后把越王李系召进后宫，对他说："太子胆小，不能担当诛杀贼臣的重任！您能吗？"
越王李系立即跪倒，说："只要母后支持儿臣，儿臣愿意诛杀李辅国。"他派太监段恒俊挑选宦官二百多人，手持刀枪，埋伏在长生殿后。
张皇后矫诏太子李豫进宫，准备下毒手。禁军将领程元振的手下察觉了张皇后的阴谋，程元振立即把此事报告给李辅国。
李辅国急呼："你快去封锁宫中各个大门，不准任何人出入，一定要阻止太子进入皇上寝宫！我赶快去召集其他禁军将领。"
当时，太子李豫正赶往皇帝寝宫，在陵霄门外被程元振率兵捉住，缴了他的佩剑，送到玄武门外的飞龙厩中看管起来。
晚上，宫中灯火通明，禁军将士们高举灯笼，来回巡逻。一会儿，李辅国和程元振匆匆地赶来，身后跟着一群禁军。
李辅国和程元振冲到皇帝卧室。张皇后一声尖叫，跳起来躲到床后，拉住皇上的手："陛下救我！"程元振一把拽出张皇后，狠狠地拖到地上。李辅国说："皇后，奉太子令，迁你到后宫去。"
"不去。"皇后拼命后退，李辅国一把抱起她："皇上救不了你了。"
躺在床上的肃宗急得面红耳赤，眼睛充满了仇恨，活活气死了。
第二天凌晨，李辅国把张皇后、越王李系、兖王瑚一同处斩。禁军手起刀落，皇宫血流成河，支持越王李系的一百多人被杀，并在全国范围内追杀这些人的九族。
李豫在李辅国的拥立下，在肃宗的灵前即位，即唐代宗。