“时孝武帝富于春秋，政不自己，温威振内外，人言噂沓，互生同异。安与（王）坦之尽忠匡翼，终能辑穆”（《晋书·谢安传》）。桓温在这样的心理压力下，无法违逆，野心被生生堵住，不久便在抑郁中病倒了。但是他仍然痴心于皇位，抱着幻想上书请求朝廷赐“九锡”之礼于他。所谓的“九锡”之礼，就是指皇帝赐给有功之臣的九种礼品，分别为车马、衣服、弓矢、铁钺、禾巨、虎贲、纳陛、朱户、乐则，礼物并不尊贵，但权臣们要的是个名分，因为一般“每朝禅代之前，必先有九锡文，总叙其人之功绩，进爵封国，赐以殊礼”（《晋世家》）。对于桓温的请求，辅政的谢安和王坦之不能拒绝，只好这样答复使者：“加九锡之礼是社稷大事，待廷议后方可决定。”
然桓温自知病势垂危，派往京城的使者一日几人，再三催促。谢安无奈，只好让吏部郎袁宏起草诏书。袁宏当时以才思敏捷、倚马千言而著称，但他无论怎么斟酌、润色，数次易稿，都不能令谢安满意，为此他深为苦恼。看着甚是痛苦的袁宏，王坦之笑着道破了机密：“大司马病笃，且日甚一日，可能不久于人世，卿起草赐文，何必那么着急呢？”袁宏这才恍然大悟，“由是历旬不就，会温薨，锡命遂寝”（《晋书·谢安传》）。又是谢安，掐断了桓温最后的企图。
出仕朝廷的谢安，在挫败桓温欲篡权谋位的行动中，导演并主演了一出以政治手腕抗拒军权、以弱者击败强者的历史活剧，向世人展示了他独到的政治才能。
桓温一死，谢安不顾其他一些大臣反对，立即诏桓温弟桓冲替代其兄长之职，任中军将军，都督扬、雍、江三州军事，兼豫、扬二州刺史，以此缓和桓家与朝廷的矛盾。而桓冲也是识大体之人，他认识到谢安不管是名望还是才能都比他高明得多，“为群情所归”，足以担当大任，况且兄长临终前曾告诫说：“杀之无益，更失时望；大事谨慎，欲取先与，不可忘我今日之言。”因此当家族中人和他的亲信们扼腕苦劝他乘机除掉谢安，这样就可以自振权势、“专执权衡”时，他置之不理，积极地全心配合谢安的工作，并自请出镇徐州，拱卫京师，这样就削弱了桓家在朝中的威权，让谢安更为放心地甩手工作。谢安杰出的政治才能又避免了一场政权的纷争，使晋廷得以安稳。
桓温时代结束后，谢安的地位得到巩固，并且更为迅速地上升。晋孝武帝宁康元年（公元373年）九月，谢安升任“尚书仆射，领吏部，加后将军……时强敌寇境，边书续至；梁益不守，樊邓陷没。安每镇以和靖，御以长算；德政既行，文武用命；不存小察，弘以大纲。威怀外著，人皆比之王导，谓文雅过之”。这是一种以儒家仁者精神和风范为内质的指导策略，是一种玄学政治的形式。“和靖”、“长算”的德政是谢安的施政目标，而“文雅”的施政表现便正是他一贯的行事风格，是他自然流露出的一种旷远的玄学情怀。
谢安“镇以和靖”的思想，应该说是他的施政方略的灵魂与核心所在。“和”就是努力达到全国上下、朝廷内外的和睦统一；而“靖”则是追求实现社会平安、消弭冲突和对抗，“和靖”是一种理想的社会状态，一个高难度的政治目标。至于施行“德政”，使“文武用命”，则是达到“和靖”这一目标的政策支持与保证。
谢安“镇以和靖，御以长算”，缓和各方面的矛盾，深得朝野的拥护，东晋出现了比较安定的局面。于是他决定修缮宫廷御苑，却遭到尚书令王彪之的反对，他认为在国力并不富裕，又有外寇在侧的情况下，不宜大兴土木，耗损人力物力。谢安不从，“竟独决之。宫室用成，皆仰模玄象，合体辰极，而役无劳怨”（《晋书·谢安传》）。
谢安从兼任扬州刺史以来，经常往返于京城与扬州之间，“诏以甲仗百人入殿”，重臣威仪，令人却步。然路遇有人当道呈状，即就地受理，秉公而断，决不姑息，朝廷内外，无不心服。
晋武帝太元元年（公元376年），加尚书仆射谢安为中书监，录尚书事，总领朝政。执政后的谢安明显地感到：没有军事力量的支持，作为京都的建康既不能保持与长江中下游的桓氏维持较为平稳的态势，也难以抵御和抗拒日益强盛的北方前秦的压力。再三斟酌后，谢安决定大胆起用人才，除自己亲督扬、豫、徐、兖、青五州军事外，又调桓温旧部朱序出任徐州刺史，以显示对桓温旧部的怀柔姿态，同时大胆举荐自己的侄儿谢玄去组建北府兵。谢安的侄儿谢玄素称“有经国才略”（《晋书·谢安附谢玄传》），但举荐自家人还是带来一些非议，“人间颇有异同之论”，甚至“巷议疑其不振”。和谢玄之间有对立情绪的中书侍郎郗超因此叹息着说：“安之明，乃能违众举亲；玄之才，足以不负此举。”因为二人是针锋相对的敌人，他对对方的了解当然就比别人更为透彻苛刻，这样他也就有助于澄清谢安的意图，那些认为谢安是任人唯亲的议论因此作罢。谢玄被任命为兖州刺史，负责江北诸军事。他在京口、广陵等地招募骁勇善战的将士，得到了“世以壮勇称”（《晋书·刘牢之传》）的彭城刘牢之和“有武干，标悟简率”（《晋书·桓宣附桓伊传》）的桓伊等，在徐兖流民武装的基础上组建了北府兵。招募的北府兵成员大部分是由于北方民族的驱逐被迫流亡南方，有着切齿的亡国丧家大恨，因此他们个个作战勇猛，谢安正是看到并利用了这一点。有着卓越的军事才华的谢玄任命刘牢之为参军，率领这支精良军队英勇作战，所向无敌，战战告捷，迫使秦军退守到了淮北，十分畏惧，东晋趁机收复了沿线大片地区。谢安能“违众举亲”，证明了盖世才华的谢玄没被看错；而对于自己的出自中兴膏腴之族的女婿太原王国宝，因为他“少无士操，不修廉隅”，即使他是王坦之的儿子，心如明镜的谢安也能“恶其倾侧，每抑而不用”（《晋书·王湛附王国宝传》）。另外，他又任命桓冲监守荆江地区，增强桓冲的实力来翼护中央，平衡了谢、桓两支家族的力量。王夫之评论道：“谢安任桓冲于荆、江，而别使谢玄监江北军事，晋于是而有北府之兵，以重相权，以图中原，一举而两得矣。”（《读通鉴论》十四）正是高度评价了这个举措。有了政府专属的军队做有效屏障，国内一时民心融融，社会秩序安定。这样到了北府兵的组建之时，东晋一直未能解决好的中央与地方藩镇的关系，因有谢安、桓冲等人的配合，大有缓解，谢安已经完全成为维护东晋政权的中坚力量。
要达到“文武用命”，不但要有谢安的这种伯乐精神，还需要一个比较健全合理而又精简的行政系统作保证。太元六年（公元381年），谢安为了“御以长算”，“改制度，减烦费，损吏士员七百人”（《晋书·孝武帝纪》），规模实在可观，增强了官员的紧迫感与责任心，大大提高了行政效率，这又是谢安的整体规划中十分重要的一环。
只有秉承儒学厚德化物的宗旨，用“不忍之心”施政，才能安抚民意。谢安为着实现“和靖”而实施的最大德政，要算太元二年（公元377年）九月废除“度田收租之制”这一大手笔了。“度田收租”制度源于咸和五年（公元330年），当时“成帝始度百姓田，取十分之一，率亩税米三升”（《晋书·食货志》），在以前的按丁收租之外，又增加了按亩税米的附加税。这种制度实行后，“凡民丁课田，夫五十亩，收租四斛”（王夫之《初学记》），这个税率已高达每亩八升。这样沿用到太元元年间，“朝廷赋役繁重，吴会尤盛……自军兴以来，征役及充运死亡叛散不返者众，虚耗至此，而补代循常，所在凋困，莫知所出”，在江南土著聚居的三吴之地，对赋役的苛严繁重反应尤其强烈。为了缓解社会矛盾，保护东晋的“粮仓”，谢安主政的太元二年便“除度田收租之制，王公以下口税三斛，唯蠲在役之身”（《晋书·食货志》）。废除“度田收租之制”后，再按照“凡民丁课田，夫五十亩”计算，减少到了亩税六升，极大地降低了税率。
谢安实施的新税法均平口税和对服役者蠲免赋税的规定，相对地减轻了农民的负担，使流亡的农民又回到土地上来，安心地从事农业生产。政府能痛下决心，轻徭薄赋，让利于民，带来了一片“百姓乐业，谷帛殷阜，几乎家给人足矣”（《晋书·食货志》）的盛况，难怪王夫之会由衷地称赞道“安之宰天下，思深而道尽”，“体天经以定民制矣”（《读通鉴论·孝武帝纪》）。
公元357年，苻坚即位，任用谋臣王猛，也进行了一系列改革，旨在恢复和发展农业生产，并广设学宫，奖励人才，使前秦经济迅速恢复，国力充实。晋废帝太和四年（公元369年），桓温率师北伐前燕，进军枋头。前燕主慕容日韦向苻坚求援，许诺将虎牢（今河南荥阳泛水镇）以西的地区割让给前秦。苻坚派兵二万救援，迫使桓温退兵。但慕容日韦在晋军撤退后毁约，拒不割地。苻坚大怒，派遣王猛督师向前燕发动了进攻。前燕统帅慕容暐集结三十万军队在潞川（今浊漳河）一线抵御秦军，采取以逸待劳的守势，伺机反击。王猛派精兵五千，趁夜从小道绕至敌后，放火烧毁了燕军辎重，迫使燕军出兵应战。燕军大败，被歼五万余人。次年，苻坚又派王猛攻燕，斩燕军十万人。王猛率师兵临邺城，慕容日韦不得不俯首投降，前燕灭亡。
此后数年间，苻坚又派遣军队先后消灭了仇池（今甘肃成县西）的氏族首领杨纂、前凉、代国等割据势力，并在东晋孝武帝太元七年（公元382年）派大将吕光进军西域，相继讨平了西域三十六国，自西晋末年以来长期纷扰割据的黄河流域，终于重新实现了统一。
统一后的前秦皇帝苻坚踌躇满志，欲图以“疾风之扫秋叶”之势，一举荡平偏安江南的东晋，统一南北。他不顾群臣反对，硬是在晋孝武帝太元八年（公元383年）八月，亲率步兵六十万、骑兵二十七万、羽林郎（禁卫军）三万，共九十万大军从长安南下。同时，苻坚又命梓潼太守裴元略率水师七万从巴蜀顺流东下，向建康进军。近百万行军队伍“前后千里，旗鼓相望。东西万里，水陆齐进”。符坚骄狂地宣称：“以我百万大军，即使将马鞭扔到长江中，也足以让长江断流。”这就是成语“投鞭断流”的来历。
消息传来，京城瓦肆歇业，“东晋朝野震恐”。战，敌强我弱，犹如螳臂当车；不战，则会受尽屈辱，也许生不如死。于是大家都把目光投向一向镇定自若、能力挽狂澜的谢中书谢安身上。而谢安也如平常一般，缓步出班，不慌不忙地启奏道：“前秦入侵，这是意料之中的事，因为从苻坚登基到现在前后才不过二十六年，即统一了整个北方，认为发兵灭晋也是易如反掌的，可惜我朝并非前燕，且王猛这位贤臣已死；发倾国之兵，号称百万，这也不足为奇，自从统一后，他已收罗了各部军队，但要说到战斗力就未必有‘百万’的实力。况且我们对苻坚灭晋之心早有察觉，早有戒备，在前秦军入侵徐淮之时，我们早已坚壁清野，没让他掠去大量的人力和财物；在京口、广陵等地，我们早已招集流民，由谢玄组建训练了一支英勇善战的北府兵，三阿解围，君川之捷，已经显露了这支军队的作战威力；最近，圣上又亲笔发诏，一方面减少官员的廪俸，事从节俭，一方面对鳏寡孤独者赐米相济，既得人心，又保证军费需要；还有自五月以来，桓将军出兵围襄阳，攻下益州五城，大长了我军的威风。这一切，都是我们对付前秦的战略手段，因此，我们大可不必惧怕苻坚的百万大军！”