安史之乱爆发后，安禄山的叛军相继攻下洛阳、长安。玄宗逃亡，来到马嵬驿时，禁军发生兵变，诛杀杨贵妃家族。玄宗逃到成都，命太子李亨主持军国大事。李亨逃到灵武，登基称帝，即唐肃宗，玄宗沦为太上皇。
肃宗身边他文武大臣不足三十，没有匡时济世之才。肃宗想起李泌是个人才，传召李泌。不久，名将郭子仪率兵五万前来护驾。李泌和郭子仪亲密合作，成为肃宗的左膀右臂。
肃宗命李泌为右相，李泌拒绝了，愿以宾客相待，肃宗只好同意。肃宗与李泌出则并马而行，入则同室而眠。肃宗事无臣细都征询李泌的意见，李泌成为军政的决策人。
在李泌的力谏下，太子广平王升为大元帅，率诸将征讨安禄山。肃宗命李泌随军同行，赐紫袍一件。李泌对肃宗说："安禄山把掠夺的美女财宝，都运回范阳（北京大兴县），叛军没有夺天下的大志，只知道烧杀抢掠，真心追随安禄山反叛的只有史思明、安守忠、田乾真、张忠志、阿史那承庆等人，其他人是被迫的。"
李肃为唐肃宗制定平定叛军的战略计划。
第一，命李光弼从太原入井隆，郭子仪从冯翊入河东，使史思明、张忠志无法离开范阳、常山，安守忠、田乾忠无法离开长安，使洛阳只剩阿史那承庆和安禄山。使叛军在范阳至长安几千里的战线上，疲于奔命。唐军以逸待劳，拖垮叛军。
第二，命建宁王李俊为范阳节度使，率军攻打范阳之北，命李光弼攻打范阳之南，使叛军进退两难。再命大军围攻，一举歼灭。由于这个战略计划是可行的，唐军不断地战胜叛军，已经对叛军形成了围歼之势。
757年，安禄山被儿子安庆绪谋害，史思明坚守范阳不听安庆绪的命令。这对实施李泌的战略计划更加有利。李泌主张派安西、西域兵马攻打范阳，肃宗坚决反对。肃宗又把郭子仪从河东前线调回凤翔，率军攻打长安。由于战略上的严重错误，唐军的兵力严重分散，接连战败。
757年九月，无奈之下，郭子仪请求借用回纥兵，肃宗同意，回纥出动精兵四千来到凤翔。肃宗向回纥许诺，一旦攻下长安，土地、士庶归大唐，金帛、子女归回纥。这时，李泌已经被肃宗抛弃了。唐军、回纥、西域十五万大军，自凤翔出发，攻入长安。叛将安守忠、田乾真率军逃出潼关，不久，郭子仪率唐军攻下洛阳。
唐军收复了洛阳和长安，但叛军却逃脱了。安庆绪逃到了河北，坚守邺郡，统兵六万。肃宗命郭子仪、李光弼攻打邺郡。官军和叛军在邺城交战，史思明从范阳出兵十三万，援助安庆绪，康军惨败。不久，史思明杀害安庆绪，登基称帝，国号大燕。叛军的死灰复燃，使肃宗感到十分苦恼，悔不采纳李泌的战略计划。
肃宗忙派人传召李泌，李泌却要求归隐，说："陛下不让臣归隐，早晚会害死臣的！"肃宗说："我与你患难多年，现在正是享受荣华富贵之际，你怎么却走了呢？"由于李泌坚持归隐，肃宗只好同意了。
757年十月，李泌来到衡山隐居，肃宗命当地官府为李泌建造高宅，按三品俸禄给予照顾。李泌离开朝延其实是为了躲避杀身之祸，他正受到权臣崔圆、宦官李辅国的谋害。
762年，肃宗逝世。广平王李豫继位，即为代宗。768年，代宗召李泌来京，李泌欣然前往。代宗赐李泌金印紫绶，军国大事均向李泌询问。代宗要拜李泌为宰相，李泌为了免遭打击，坚决不受。李泌不食酒肉、不聚妻，以道士自居。
代宗命他做俗人，吃酒肉、娶妻生子，李泌不肯接受。后来，代宗强迫李泌娶妻，引起了宰相元载的嫉恨。770年，元载除掉宦官鱼朝恩，弄权舞弊，为非作歹，并诬陷李泌与鱼朝恩是同党。
代宗不相信，元载及其他大臣继续诬陷李泌。代宗对元载十分反感，对李泌说："你先离开京城，等我除掉元载后，再请你回来。"不久，代宗贬李泌为江西判官。
777年，代宗突然处死元载，抄了元载的家，仅胡椒就多达八百石，可见是个大贪官。代宗召李泌进京。
代宗说：."好不容易才除掉元载。"
元载死后，李泌的才能又被宰相常衮嫉恨。常衮要求代宗命李泌担任州刺史，使李泌懂得民间疾苦，然后再来朝廷当官。后来，沣州刺史出缺，代宗命李泌为刺史，后改任杭州刺史，政绩卓著。