1876年8月上旬，刘锦棠、金顺二部清军从阜康出发，采取声东击西的战法，避开供水困难的大道，走敌虽严密防守但水源充足的小道，出敌意外地迫近乌鲁木齐北面重地古牧地（今米泉）。扫清敌外围据点后，用大炮轰塌城墙，17日从缺口冲入城内，一举歼敌5000余人，并乘胜于18日收复乌鲁木齐。白彦虎、马人得等仓皇南逃。尔后，左宗棠命刘锦棠部驻守乌鲁木齐，防止阿古柏军北犯，并继续清剿山中残敌；命金顺挥军西进。昌吉、呼图壁及玛纳斯北城之敌闻风溃逃。9月初，金顺部开始攻玛纳斯南城，月余不克。后刘锦棠、伊犁将军荣全先后增援会攻，于11月6日占领该城。至此，天山北路为阿古柏军。
占领之地全部收复。时临冬季，大雪封山，刘锦棠等就地筹粮整军，以待来年进军南疆。1877年4月，左宗棠指挥清军三路并进：刘锦棠部自乌鲁木齐南下攻达坂；张曜部自哈密西进；记名提叫煺彪部出巴里坤，至盐池与张曜部会师，合攻辟展、吐鲁番。刘锦棠部奇袭包围达坂，19日破城，毙俘敌3000余人。随即分兵一部助攻吐鲁番，主力直捣托克逊，迫守敌海古拉（阿古柏次子）于4月下旬弃城西逃。与此同时，张、徐二部清军连克辟展、胜金台等地，吐鲁番守敌白彦虎望风西窜，马人得率部投降。至此，南疆门户洞开。阿古柏见大势已去，5月下旬于库尔勒气急暴病而死（一说绝望自杀，或谓被人毒死）。海古拉携其父尸西遁，由白彦虎防守喀喇沙尔（今焉耆）、库尔勒等地。阿古柏长子伯克·胡里在库车杀其弟海古拉，后于喀什噶尔（今喀什）称王，企图在英俄庇护下负隅顽抗。19世纪70年代，浩军国为沙俄所消灭，浩罕国流亡军官阿古柏，纠集一些亡命之徒窜入我国新疆，占据新疆喀什噶尔，后来逐渐占领了南部的八个城池，又攻败盘踞在乌鲁木齐的回族人妥明。妥明本是西宁的回人，当初以传播新教而来回于关外，同治初年，乘陕西、甘肃汉人、回民间有发生战事之机举兵发难，占据了乌鲁木齐，并兼并了北边的伊犁等城，收取那里的赋税收入。妥明不久被驱逐在路上死了，但是另一个头目白彦虎逃到乌鲁木齐，他派使者同英、俄勾结，购买军械器具装备自己，而英国人又暗中帮助他，想让他另立一个国家，以挟制俄国。就在这时，俄国以回民多次扰乱其边境为由，突然发兵驱逐回民，占领了伊犁，并扬言要攻取乌鲁木齐。
光绪二年三月，左宗棠举兵驻扎肃州。五月，刘锦棠向北翻过天山，会合金顺部队先攻打乌鲁木齐，乌城攻克后，白彦虎逃走到托克逊。丸月，清军攻克玛纳斯南城，北路平息，于是谋划南路。左宗棠发布命令说：“回族各部被他们的头目所驱迫，厌烦战乱已经很久了。我们大军所到的地方，不要奸淫掠夺，不要残杀无辜，朝廷的仁义之师如及时之雨，现在正应是这么做的时候。”光绪三年三月，刘锦棠攻克达坂城，把所擒获的回民全部释放，让他们回家。次日，清军即收复托克逊城。徐占彪和孙金彪两支部队也接连攻破各个城隘，会合罗长祜等部队收复了吐鲁番，收降回民达一万余人。阿古柏最后走投无路服毒自杀，他的儿子伯克胡里杀害了自己的弟弟，逃往喀什噶尔。
白彦虎逃到开都河，左宗棠想一鼓作气擒获他，奏章还没上，恰遇库伦大臣上书声言本部边境现在正议定疆界。其时朝中大臣也认为西域征战费用巨大；乌鲁木齐、吐鲁番既然已经收复，可以休兵罢战了。左宗棠感叹道：“目今正是有利之时，怎么能作出划边界退缩防守的计策呢？”便上疏据理力争，光绪觉得左宗棠的意见正确。此时俄国正与土耳其开战，金顺请求乘虚袭击伊犁。左宗棠说：“不行，出师没有名正言顺的理由，他们就会抓住口实了。”八月，与刘锦棠在曲会会师，就由大道向开都河进发；正面部队金虎恩等从库尔勒出奇兵以助。白彦虎逃到库国，又到阿克苏，遭到刘锦棠的拦击，白彦虎只好转而窜逃喀什噶尔。左宗棠大军不久收复了南疆东部四座城池，何步云献喀什汉城向清军投降。伯克胡里接纳白彦虎后，就合力攻打汉城。清军大部队人马赶到，他们又逃往俄国。南疆西部四城相继攻下，左宗棠向朝廷报捷，皇上下诏晋升左宗棠为二等候。至此在新疆的布鲁特蒙古十四部争相归附清朝。
光绪四年正月，左宗棠上疏奏叙有关在新疆建行省的事宜，同时请求派员和俄国谈判有关归还伊犁和交换战俘这两件事。朝廷派遣全仅大臣崇厚出使俄国。俄国用通商、划分国界和索要赔款三件事相要挟。崇厚轻率地签订了条约，这不禁引起了朝廷有识之士的纷纷反对，议论好久都没有决定下来。左宗棠上书说：“从俄国占据伊犁以来，蚕食侵占没有停止过，新疆已有每日缩地百里的势头。俄国把伊犁看成自己的外府，我们要讨回土地，他们就索要赔款卢布五百万元；俄国归还伊犁，对俄国方面没有一丝一毫的损伤，而我们得回伊犁，只不过是一片荒野郊原。现在崇厚又提出给俄国霍尔果斯河和帖克斯河，这就是将伊犁西南的土地划归给俄国。在军事上打不过人家的时候，才可能出现割地求和这样的事；现今一箭未发，就马上送献战略要地，这种条约是万万不可以签的！俄国的商人目的想要进行贸易，他们的政府便在各地广设领事馆，想借通商之由深入腹地，这也是切不可准许的。臣下认为俄国人包藏祸心，他们猜测我国可能已厌倦兵事，用全权大臣谈判的办法来牵制边疆大臣。当今之计，应当先和俄国人谈判，委婉而运用计谋，另一方面，要准备在战场上和他们决一雌雄，坚忍而务求胜利。臣下虽然衰老平庸不成样子了，但哪里敢不勉力效忠啊！”光绪皇帝认为左宗棠的话大长了朝廷志气，命令把崇厚逮捕治罪，朝廷今曾纪泽出使俄国，更改前面的和约。这时左宗棠请求亲自出兵驻防哈密，策划收复伊犁。他命令金顺立即率军出发，作为东路；张曜率部沿特克斯河进兵作为中路；刘锦棠经布鲁特游牧地区作为西路。又分别派遣谭上连等各带兵驻守喀什噶尔、阿克苏、哈密等地作为后路声援。这几路部队总共有马兵、步兵四万多人。声势浩大，士气高昂，他们决心与俄军不惜决一死战，务必收复伊犁。
光绪六年四月，左宗棠坚决表示自己收复伊犁的决心，命人抬着棺材从肃州出发，五月抵达哈密。俄国人听说清军大兵出动，就增兵守卫伊犁、纳林河，另外派兵舰在海上巡弋，以震撼京师。此时天津、奉天、山东等地也同时告警。七月，朝廷下诏让左宗棠回京城任顾问，让刘锦棠代替他。俄国人也害怕清军的威武，担心事态发展后会引起决裂而挑起战端。次年正月，在中国在赔款上又做出让步后，清与沙俄终于达成了《中俄归还伊犁条约》，中国收复了伊犁的绝大部分地区。
四、入京出京披甲领兵
左宗棠用兵善于审时度势，把握战机；筹措战事，更是注重节制兵丁人数，并且以保证粮饷充足为根本。当时刚开始西征，左宗棠担心各行省协助军饷不能按时到达，曾经上疏建议向外国借款。沈葆桢反对他的建议，光绪皇帝下诏说：“左宗棠以西线战事为重，国家又何惜千万金，特拨给款银五百万两，再准允他向外国借贷五百万。”左宗棠部队出塞共二十个月，新疆南北各城能全部收复，一个重要的因素就是能够做到军饷及时供给充足。当初议论西部边防事务时，左宗棠主张发展屯田，听到的人都认为左宗棠迂腐。等看到左宗棠上奏论述关内外过去屯兵的利弊，以及论及将兵农划开为二，挑选精壮的人为兵丁，让老弱的人去屯田垦地，大家于是才佩服左宗棠老谋深算。新疆平定后，朝廷升调左宗棠为军机大臣。入朝觐见后，皇上赏赐左宗棠可以在紫禁城内骑马，可由内待二人搀扶着上金銮殿。左宗棠在朝廷任高职，引起朝野上下的轰动。很多读书人兴奋地议论说，中国相当长时间落后，非常脆弱，这次左宗棠打败了沙俄，中国有希望了。外国人也渐渐传说他的战功。他刚入京师时，内城有教堂高楼，在楼上可以俯瞰宫殿，民间老百姓传说左候到，教堂高楼就要被捣毁。外国人为此也惶惶不安。左宗棠不得不公开贴出告示让大家放心，于是谣传停止了左宗棠在军机处当值，因他长年在外征战并不熟悉朝中的礼节、掌故，因而屡屡受害；他性格耿直，难免得罪人，因此就有许多同僚多厌烦埋怨他。宗棠本人也不乐意居住在京城之地，于是进京不久，便称病乞求引退。九月清廷命他出任两江总督、南洋通商大臣。左宗棠上任后出巡吴淞，路过上海时，洋人为左宗棠树龙旗，鸣礼炮，非常恭敬地欢迎他。
光绪九年，法国人攻打越南，左宗棠这时已七十有余，且身体多病，已致仕在家。但当他听知此消息时马上请求到云南指挥军队，并下令让旧部王德榜在永州招募军队，号称“恪靖定边军”。到光绪十年，中法战争终于爆发，云南、越南官军溃败，左宗棠被召入京，再次任职军机处。不久法军大举向中国内地进犯，光绪皇帝诏令左宗棠到福建视察部队，左宗棠命王鑫之子王诗正暗中率军渡海到台湾，号称“恪靖援台军”。王诗正到台南，受到法兵阻击，他与台湾军民一道最终击败法军。而王德榜会合其他部队在谅山取得大捷。中法和议达成，左宗棠称疾请求告退，但尚未获准，七月在福州病逝，时年73岁，赠太傅，谥“文襄”。将其灵位入祀于京师昭忠祠、贤良祠，并在湖南以及立有战功的各省建立专祠祭祀。