如果说左宗棠指挥西征大军歼除并驱逐了进犯我国新疆的阿古柏匪帮，为规复北疆和南疆立下了不朽的功绩，那么他下一步亲自率大军出关，以武力为后盾从俄国侵略者手中索还伊犁，更为伊犁回到祖国的怀抱和捍卫中国的领土主权做出了永远值得称道的历史贡献。
本来左宗棠在同治十年（1871 年）得知沙俄侵占伊犁的消息后就非常愤慨，他曾致函刘锦棠指出俄国“窥吾西陲”的阴谋，并决心“与此虏周旋”。俄国在入侵伊犁之后，也玩弄了花招，向清政府表示只是“代为收复”，“俟关内外肃清，乌鲁木齐、玛纳斯等城克复之后，即当交还”。①此时，俄国根本不相信清政府能收复乌鲁木齐。然而，左宗棠规复新疆的壮举，表明中国不仅在北疆，甚至在南疆都取得了前所未有的军事胜利。中国从俄国手中索还伊犁按理说已不成问题。但是，俄国不仅在中国收复了乌鲁木齐、玛纳斯后拒不交还伊犁，就是南疆底定之后仍想赖帐，拒绝了清政府提出的由左宗棠与其交涉索还伊犁问题。这样，清政府于光绪四年六月（1878年7月）决定派署盛京将军崇厚去俄国谈判收回伊犁。清廷还就伊犁“交还以后，如何防守”问题令左宗棠“先事图维”。②左宗棠对清廷偏倚外交谈判索还伊犁的作法只能表示赞同，但他仍然强调：“前疏所称地不可弃者，窃以腴地不可捐以资寇粮，要地不可借以长敌势，非乘此兵威，迅速图之，彼得志日骄，将愈进愈逼。而我馈运艰阻，势将自绌，无地堪立军府，所忧不仅西北也。伊犁收还以后，应于边境择要筑垒开壕，安设大小炮位，挑劲兵以增其险。……伊犁未收还之前，金顺大军驻库尔喀喇乌苏，其西精河地方，势处要隘，向驻马队，以资扼截。”③左宗棠对收复伊犁有他自己的“图维”，他希望以武力收复。
光绪五年八月十七日（1879年 0月2日），崇厚在出使俄国后擅自在克里米亚半岛与俄国签订了丧权辱国的《中俄伊犁条约》（即《里瓦基立条约》）。按照该约，俄国虽交还伊犁，但割去中国霍尔果斯河以西、特克斯河流域及穆素尔山口等要地，使伊犁以西、以南险要尽失，且俄国还攫得伊犁“代守费”和通商、免税等权益。消息传来，全国舆论大哗，群情激愤，要求改约，甚至“街谈巷议，无不以一战为快”。①左宗棠更是义愤填膺，他上奏指出：“武事不竟之秋，有割地求和者矣！兹一矢未闻加遗，乃遽议捐弃要地，餍其所欲，譬犹投犬以骨，骨尽而噬仍不止。目前之患既然，异日之忧何极！此可为叹息痛恨者矣。”他回顾了俄国在伊犁问题上施用的伎俩，主张武力收复伊犁，并亲率大军出关。他说：“俄人自占据伊犁以来，始以官军势弱，欲诳荣全入伊犁陷之以为质。既见官军势强，难容久踞，乃借词各案未结以缓之。此次崇厚全权出使，嗾布策先以巽词之，枝词惑之，复多方迫促以要之，其意盖以俄于中国未尝肇起衅端，可间执中国主战者之口，妄忖中国近或厌兵，未便即与决裂，以开边衅，而崇厚全权出使，便宜行事，又可牵制疆臣，免生异议。……就事势次第而言，先之以议论委婉而用机，次决之以战阵坚忍而求胜，臣虽衰庸无似，敢不勉旃！”他决定“明春解冻后，亲率驻肃亲军，增调马步各队，出屯哈密，就南北两路适中之地驻扎，督饬诸军，妥慎办理”。他还“务期内外一心，坚不可撼”①，以收复伊犁。
清廷采纳了左宗棠的建议，先是将崇厚革职拿问，交刑部治罪，继则把崇厚定为斩监侯，待秋后处决，并于光绪六年正月初三日（1880 年 2 月 12日）派驻英、法公使曾纪泽兼任驻俄公使，赴俄谈判改定崇厚所订的条约，并令左宗棠做好军事准备。
光绪六年四月十八日（1880 年 5 月 26 日），左宗棠亲自率领大军离开肃州（今酒泉市），出嘉峪关向哈密挺进。据说左宗棠为表示收复伊犁的决心，曾“舁榇以行”②，甘愿拚死于疆场。他 68 岁，抱病出关，表现出的正是“壮士长歌，不复以出塞为苦，老怀益壮”③的豪迈之情。五月初八日（6月 15 日），左宗棠行抵新疆哈密，布署三路进兵以收复伊犁的军事计划：一路由金顺进驻精河从正面佯攻，以牵制俄军主力，且防俄军向东进犯；一路由张曜从阿克苏越过天山进击伊犁南部；一路由刘锦棠经乌什越冰岭直赴伊犁西面的后路。左宗棠对“生力之军络绎而至，足供指挥”④的战局充满必胜的信心。因此，论者谓如果这次中俄之战真的按左宗棠的计划而实施，那将是他战场事业的新里程碑⑤，此言是有道理的。
然而，正当左宗棠为收复伊犁积极备战之际，清政府却在列强的胁迫和俄国的武力进逼面前有改变以往在新疆问题上的强硬态度而转向妥协的意图。首先，清政府对崇厚的处置，遭到西方列强的抵制。列强纷纷向清政府施加影响，英国女王维多利亚亲自写信给慈禧大后为崇厚求情，俄国也声称如不对崇厚予以赦免，便不同曾纪泽谈判。清政府迫于压力，宣布免去崇厚的斩监候之罪。其次，俄国加紧调兵遣将，对清政府进行武力恫吓，不仅增兵伊犁，还在黑龙江以北、乌苏里江以东部署重兵，并调集 20 余艘军舰组成一支舰队由黑海驶往日本长崎，扬言封锁中国沿海，威逼京津。再次，英人戈登的游说确实起到了恶劣的作用。此人曾任“洋枪队”头目，与李鸿章有私交，他此时受清政府之聘，为中俄伊犁交涉调停。戈登至天津面见李鸿章，威胁说：“如果你要作战，就当把北京的近郊焚毁，把政府档案和皇帝都从北京迁到中心地带去，并且准备作战五年。”①本来就不主张收复新疆且对崇厚签订条约加以支持的李鸿章非常恐慌，他立即将“戈登赠言”进呈清政府，内称：“中国一日以北京为建都之地，则一日不可与外国开衅，因都城距海口太近，洋兵易于长驱直入，无能阻挡，此为孤注险著。”②果然，清廷发生了动摇。七月初六日（8 月 11 日）清廷以“现在时事孔亟，俄人意在启衅，正需老于兵事之大臣以备朝廷之顾问”③为由将左宗棠调至北京。临战易帅，恰表明清政府在是否敢于以武力抗俄问题上举棋不定。
七月二十四日（8 月 29 日），左宗棠接到调他赴京供职的“谕令”。他对清廷的用意虽不十分清楚，但也预感到这次内调已意味着清廷的政策有所变化。因此，他在家书中说：“俄意欲由海路入犯，而在事诸公不能仰慰忧勤，虚张敌势，殊为慨然。我之此行本不得已，既奉朝命，谊当迅速成行”。①他致书帮办新疆军务的张曜说：“俄事尚未定议，而先以兵船东行，为恐喝之计，谟谋诸公便觉无可置力。国是混淆，计抵京时，错将铸成矣，为之奈何？”②但左宗棠仍对主战抱一线希望。他致函总理衙门说：“察看情形，实非决之战胜不可。究之言战本是一条鞭法，无和议夹杂其中，翻觉愈有把握。”③他奏请由刘锦棠接任督办新疆军务一职，以便继续抗击俄军，并致函刘锦棠说：“俄事非决战不可，连日通盘筹画，无论胜负云何，似非将其侵占康熙朝地段收回不可！”④左宗棠期望着早日抵京，“拟从新鼓铸，一振积弱之势”。⑤左宗棠于十月十二日（11 月 14 日）从哈密启行入关，经兰州交卸陕甘总督篆务后，又于十二月初四日（1881 年 1 月 3 日）从兰州赶往北京。
这个时候，曾纪泽正在俄国彼得堡谈判索还伊犁问题。在谈判中，曾纪泽以左宗棠在新疆的布防为后盾，经据理力争，于光绪七年正月二十六日（1881 年 2 月 24 日）与俄方签订了《改订条约》（又称《中俄伊犁条约》）。此约较崇厚条约争回了一些主权，俄国交还伊犁和特克斯河流域及通往南疆的穆扎尔山口，但仍将霍尔果斯河以西的中国领土划给俄国，且在赔款方面有增无减。这依旧是一个不平等条约。
恰在曾纪泽与俄国谈判代表订立条约这一天，左宗棠经日夜兼程抵达北京。他得悉条约签订的消息后，气愤他说：“伊犁仅得一块荒土，各逆相庇以安，不料和议如此结局，言之腐心！”①左宗棠“一振积弱之势”的愿望没有实现，而他“不复以出塞为苦”的坚定反侵略举动，确实为伊犁的收回起到了关键作用。
左宗棠为新疆“长治久安计”，在督办新疆军务期间四次奏请于新疆置行省，设郡县，他在调任两江总督后又作了第五次疏请。清廷采纳了他的建议，于光绪十年九月三十日（1884 年 11 月 17 日）在新疆正式设省，以刘锦棠为首任巡抚。从此，新疆与祖国的联系更加密切。
① 袁大化等：《新疆图志》，卷五四，页四，《交涉志二》。
② 《复陈新疆情形折》，《左文襄公全集》奏稿，卷五三，页三○。
③ 《复陈新疆情形折》，《左文襄公全集》奏稿，卷五三，页三一。
① 《清季外交史料》（光绪朝），卷二一，页一○。
① 《复陈交收伊犁事宜折》，《左文襄公全集》奏稿，卷五五，页三一至三九。
② 王安定：《湘军记》，卷一九，页二二。
③ 《答赵玉班》，《左文襄公全集》书牍，卷二四，页二七。
④ 《答刘毅斋》，《左文襄公全集》书牍，卷二四，页四四。
⑤ 张家昀：《左宗棠》，第 97 页，台湾联鸣文化有限公司 1981 年版。
① ［美］马士：《中华帝国对外关系史》，第 2 卷，第 369 页，三联书店 1958 年中译本。
② 〔清〕李鸿章：《述戈登回国》，《李文忠公全书》译署函稿，卷一一，页二五至二六。
③ 《清实录》（光绪朝），卷一一五，页六。
① 《与孝同》，《左宗棠全集》诗文·家书，第 236 页。
② 《答张郎斋》，《左文襄公全集》书牍，卷二四，页六二。
③ 《上总理各国事务衙门》，《左文襄公全集》书牍，卷二四，页七四。
④ 《与刘毅斋爵堂》，《左文襄公全集》书牍，卷二四，页七五。
⑤ 《与杨石泉》，《左文襄公全集》书牍，卷二四，页七六。
① 《答刘兰洲》，《左文襄公全集》书牍，卷二五，页六一。