他的生命力要在政治舞台上去释放。嘉靖三十六年（公元1557年）秋，张居正从江陵返京，再次投入政治的漩涡。
但政局依旧：严嵩仍然是内阁首辅，朝中又多了个严嵩的儿子严世蕃；嘉靖皇帝依然崇奉他的道教；徐阶则不动声色地在等候时机。
嘉靖三十九年，徐阶从少傅晋升为太子太师，张居正也从翰林院编修升为右春坊右中允兼国子监司业。此时的国子监祭酒是新郑人高拱。
严嵩和徐阶的斗争逐渐明朗起来。嘉靖三十七年（公元1558年）三月，刑科给事中吴时来、刑部主事张羽中和董传策同日上疏弹劾严嵩。前二人是徐阶的门生，后者是徐阶的同乡。这次弹劾虽未成功，但世宗对严嵩的态度较前已有改变，他开始厌恶起这个专横的首辅了。公元1562年五月，御史邹应龙给了严嵩致命一击，在他的弹劾下，严嵩政权倒台了，徐阶晋升为首辅。
严嵩失败后，张居正特别高兴，对自己的政治前途充满了信心：“佳辰已是中秋近，万里清光自远天。”嘉靖四十五年（公元1556年），世宗驾崩，朝廷的第一件事是发表遗诏。徐阶和张居正主持和筹划此事。他们以世宗遗诏的名义，革除弊政，平反冤狱，颇得人心。隆庆元年（公元1567年）二月，张居正晋升为吏部左侍郎兼东阁大学士，入阁参与机要政务。此时的内阁大学士还有徐阶、李春芳、高拱等人。不久，徐阶和高拱的对立逐渐尖锐起来。在明争暗斗中，高拱和徐阶相继罢职而去。李春芳取代徐阶为首辅，但他只是一个好好先生，谈不上什么作为。而这时的张居正已是少保兼太子太保，他开始提出自己的大政方针。隆庆二年八月，张居正上《陈六事疏》，审时度势，慷慨陈词，系统地提出了六条改革方案：省议论，振纪纲，重诏令，核名实，固邦本，饬武备。一切主张，都针对当时的需要，比较全面地触及社会的流弊，并且提出了相应的改进措施。前四条是从舆论、法制和组织上整顿吏治，加强朝廷权威，整顿官府机构，提高行政效率；后两条旨在富国强兵。尤其可贵的是，他在奏疏中指出了“耗财病民”的两大祸害，是豪强权贵的不纳田粮和官府的贪赃枉法。他认为只要克服这两大流弊，可以不用加税就能补足财源，解除财政危机，官府机构也可得到整顿。这时，张居正心里明白，不在其位，不谋其政，内阁中还有李春芳、陈以勤几位大臣，一切大政还轮不到他决断。他还得耐心等待，等待一个能把他的改革主张全面付诸实施的时机。
隆庆三年（公元1569年）十二月，高拱复入内阁。高拱入阁以后，司礼监掌印太监缺人，太监冯保认为应由自己顶补，偏偏高拱推荐了陈洪。后来陈洪出缺了，高拱又推荐孟冲，再给冯保一次失望。因此冯保和高拱结下不共戴天之仇，成为以后张居正联合冯保推翻高拱的基础。
高拱入阁后，成为事实上的首相。在国家大政方面，高拱的第一着便是推翻世宗遗诏。世宗遗诏是徐阶和张居正一手策划起草的，徐阶让高拱下了台，他现在要报复。徐阶原来用遗诏起用的一批人，高拱用同样手段对他们再来一次罢黜。但主持起草遗诏的还有张居正，现在遗诏被推翻了，张居正敢怒不敢言，只得一杯苦酒往肚里咽。高拱复入内阁之初，居正曾经对他说：“喜高老起用，素在同心，世事尚可为也。”但现在情形不同了，高拱的势力正在迅速膨胀，居正已经感觉到了威胁。
这年十月，高拱提议考察科道。这一次考察贬斥了27人，其中吴时来是徐阶的门生，耿定向是张居正的朋友，他们都离去了。张居正到这时慢慢有些“去留不能自必”了。首辅李春芳先是一切放任不管，后来索性辞职而去。高拱位进首辅并兼管吏部尚书事，他已经成为事实上的内阁独裁者。
隆庆五年（公元1571年）十月，内阁成为高拱、张居正的联合内阁。居正单凭那套谨慎小心的作风，还是时时感到位置不稳。徐阶离任时曾托张居正照应自己的三个儿子，后来他的三个儿子都因犯事被问罪。在严重的局势下，张居正还是尽力为他们周旋。高拱的心腹们便在这件事上寻找机会，搜求张居正帮助徐阶的动机。一天，一个心腹向高拱透露：徐阶的儿子送了三万两银子给张居正，于是张居正答应替他们开脱罪责。后来在大学士的朝房里，高拱便拿此事半真半假地将张居正嘲讽了一顿。张居正立刻变了脸色，指天发誓说没有此事。表白到了这个份上，高拱只得承认是个误会，事情才勉强了结。
隆庆六年五月，穆宗中风而亡，皇太子朱翊钧才10岁。这又是一个权力重新更替组合的时期。高拱和张居正的决战就在这个时期展开了。
冯保在这一时期起了重要作用。穆宗在世时，冯保屡次想升任司礼监掌印太监，都因高拱从中作梗而告吹。他现在要报复了，他乘穆宗新丧的机会，在皇后、皇贵妃和张居正之间频繁活动起来。张居正在高拱咄咄逼人的气势下，早已感到自己在内阁中的地位岌岌可危，在这内、外廷争权的关键时刻，他懂得与冯保联合的必要性和重要意义。冯保的后盾是皇后、皇贵妃，太子朱翊钧只有10岁，当然和母亲站在一起。
六月初十日，神宗朱翊钧即位，颁布手谕，授冯保为司礼监掌印太监。高拱痛恨极了，对传旨的太监理所叫道：“这是谁的旨意，皇上年龄还小呢！一切都是你们做的，迟早要把你们赶走。”太监把高拱的话传给冯保，冯保从“皇上年龄还小”这句话中得到灵感，他和张居正商量后将此事告到皇后、皇贵妃那里。他说穆宗皇帝逝世那天，高拱在内阁叫嚷：“10岁的孩子怎样做皇帝啊！”冯保把高拱失礼的口气夸大以后，提出质问：“这是什么意思？”当场，皇后、皇贵妃都吟味着“这是什么意思”而感到惊惧不已，连10岁的小皇帝也变了脸色。
冯保和高拱的胜负已明了，一切都在张居正的预料之中，尽管他在此期间并没有轻举妄动。六月十六日，冯保向众臣宣读了皇后、皇贵妃和皇帝的手谕，指陈高拱揽权专政，蔑视幼主，下令革职回乡。
高拱失败了，张居正循序升为首辅，这一年他47岁。他本是皇帝的老师，又是惟一健在的顾命大臣，年幼的神宗对他完全信赖。从此，张居正肩负起治理国家的重任，在接下来的十年中，他运用手中掌握的大明朝政大权，逐步实现他期待已久的政治理想。