19世纪60年代后期开始，外国侵略者开始蚕食我国边疆领土。1865年，中亚浩罕国（在今乌兹别克斯坦境内）的军事头目阿古柏，在英俄殖民主义者支持下，侵占我国新疆大部分地区，建立反动的“哲德沙尔汗国”。接着英俄宣布承认阿古柏为国王，并派出使团，订立条约，供给军火，以对抗收复国土的清军。1871年5月，沙俄悍然出兵侵占我国新疆的伊犁地区。新疆局势日趋严重，西北边防岌岌可危。
到1875年春，阿古柏侵占我国新疆的天山南北已达10年之久，沙皇俄国直接出兵强占我国新疆的伊犁地区也已4年，饱受殖民统治的新疆各族人民，迫切要求清军早日出关，驱逐外国强盗，使新疆回归祖国。这时，左宗棠所部清军已经基本结束了在甘肃的战事，出兵收复新疆的条件完全成熟了。
当时，左宗棠正任陕甘总督，对新疆局势十分关心。1874年，他开始准备进军新疆，但就在这一年，日本发动了对我国台湾的侵略战争，东南海防因此紧张起来，由此在清政府内部引发出一场海防与塞防的激烈争论。
以直隶总督兼北洋大臣李鸿章为代表的海防派认为：塞防不如海防重要，国防的重点在海防，而不在新疆边防，主张把用兵新疆的钱移作海防。李鸿章上奏朝廷说：“新疆不收复，不伤及国家的元气。”言下之意，新疆可以拱手让给外国侵略者。他完全站在侵略者的立场上，说如果进兵新疆就会损害与英俄侵略者的良好关系。英国侵略者看到李鸿章的态度，便大造舆论，散布阿古柏已归属土耳其，并与英俄订有条约，中国不能过问。李鸿章还说，乾隆年间堪定新疆只是收复数千里的荒凉旷野，对国家只有损失而无收益。目前财政困难，无力顾及新疆，因此，应该放弃塞防，专顾海防，准备出关的部队，能撤则撤，能停则停，就地驻守，不必进取，等等。这就是所谓的“海防论”，实质上是放弃新疆的卖国谬论。
以湖南巡抚王文韶为代表的塞防派认为，西洋各国，以沙俄为最大，离中国最近，又最狡猾，目前已经侵占了伊犁地区，势必长期不还，如不迅速出兵收复，沙俄必将得寸进尺，继续入侵。因此，“目前应倾全力西征，只要使沙俄的入侵阴谋不在我西北得逞，其他入侵者也就不会在我东南沿海挑衅”。这就是所谓的“塞防论”，实质上是主张暂时放弃海防，专注塞防。
这时的清朝最高统治集团，从自己王朝的利益出发，也不甘心放弃新疆，但在李鸿章为代表的海防论者的喧嚣声中，又不知如何是好，左右为难，举棋不定。于是，便秘密传旨给陕甘总督兼督办新疆粮饷事宜的左宗棠，不指名地转述了海防、塞防两种意见，让左宗棠帮助拿主意。此时的左宗棠，无论资历、声望，还是地位、才干，都是当时唯一可以同李鸿章相抗衡的人物，他的意见，无疑将对清政府的最后决策产生极其重要的影响。
左宗棠原来打算在陕甘战事结束之后告病回乡。但是，当他得知沙俄强占伊犁的消息后，便决心在垂暮之年与沙俄作一番较量。从此，他以收复新疆为己任，密切注视着新疆局势的发展。1874年10月，他受命督办新疆粮饷之后，已经从后勤供应方面，开始了进军新疆的实际准备工作。
1875年3月19日，左宗棠在兰州军营接到密谕旨之后，周密筹划了20多天，于4月12日上了一道长达5000多字的《复陈海防、塞防及关外剿抚粮运情形析》，坚决反对放弃塞防、专顾海防的主张。他认为：自从福州船政局开设以来，海防的创办已有头绪，不需要从别处再筹措经费，平时的训练费用花费不多，也不用另从别处筹措。如果西北边塞防守费用充裕，自然可以匀给海防一些，可是，历年来，各省欠西北塞防的钱饷已达5000多万两，没有余钱可匀。乌鲁木齐没有收复，新疆没有要地可以扼守，没有撤兵的道理，即使收复了乌鲁木齐，不再继续向前用兵，防守的军队数量也不可能减少，也不会节省军饷。只有尽快收复新疆，以伊犁和南疆等富裕地区的财富来负担新疆的防务，才有可能节省军饷。同时，竭力抨击了李鸿章自动放弃边防的谬论。他说：“若此时停兵节饷，自动放弃边防，那么我退一寸，入侵之敌则可能进一尺，新疆必然要被沙俄所占，我国便会断送这块富饶的疆土。”他还根据当时的形势，分析了新疆的战略地位，认为新疆是中国的西北大门，如果新疆失守，就会严重危及塞内安全。因此，指出：东为海防，西为塞防，两者不可偏废！总观目前情况，当务之急，必须收复新疆。西北边疆与北京的关系，好比是手与臂膀的关系，如果西北丧失了，那么直隶边关也就没有安眠之日，京城也就处在危险之中了。这就是所谓的海防、塞防两者并重的主张。
同时，左宗棠还上了一道《遵旨密陈片》，毫不客气地弹劾了原任新疆统帅景廉的无能和死板，弹劾了原任粮饷转运帮办袁葆恒的主观武断，对用兵新疆的人事安排提出了建议。
5月3日，清政府发布谕旨，肯定了左宗棠的意见，决定采纳海防、塞防并重的主张，在加强海防的同时，出兵收复新疆，并决定将景廉和袁葆恒调回北京任职，任命左宗棠为钦差大臣，督办新疆军务，且表示不实施遥控指挥。这样，清政府就打破了边疆不用汉人的传统，将收复新疆的大权全部交给了左宗棠。
左宗棠主张海防和塞防并重，具有重大的战略意义。我们知道，中国近代以前的国防重点是塞防，是在西、北两大方向。从鸦片战争开始，资本主义列强相继从东、南沿海入侵，海防的重要性便凸显了出来。从此，清王朝几乎把全部注意力都转移到了海防方面，渐渐忽视了塞防。林则徐对此早有预见，他指出：沙俄最终将成为中国的主要祸患。然而，他的话并没有引起朝廷的注意。不久，沙俄就侵占了我国150多万平方公里的领土。对于这样重大的国防失误，恭亲王奕却轻描淡写地说成没有仔细考察疆域图，可见清政府在塞防上糊涂到了何等地步！李鸿章发展这一错误，竟然主张放弃新疆、专顾海防，如果得逞，其后果不堪设想。因此，左宗棠的“并重”主张，不但避免了专注塞防的片面性，更重要的是克服了放弃新疆的危险性，实际上是一条从当时全国大局出发的唯一正确的国防方针。
这场争论虽然反映了湘系和淮系集团之间的利害冲突，但左宗棠的主张具有反抗外国侵略的爱国精神，得到国内爱国舆论的广泛支持。他的爱国之心和在军事战略上对国家大局利与弊的分析与谋划，体现了他的爱国热情和大智大勇。
1875年春，清政府任命左宗棠为钦差大臣，率军收复新疆。当时他已经64岁，身体又多病疾，但当他接到朝廷的受命之后，却是心情振奋，决心要从阿古柏手中夺回新疆。
收复新疆，有组织兵力，筹备军饷、组织粮食等作战物资的运送等困难。左宗棠认为：筹饷难于筹兵，筹粮难于筹饷，筹运输尤其难于筹粮。粮食和运输两件事，是出兵新疆的关键。
俗话说，兵马未动，粮草先行。粮食运输对作战的重要性本来就是不言而喻的。在进军前较长的一段时间里，左宗棠用极大的精力，着重抓了以粮食的筹措和运输为中心的各项进军准备工作。他首先对已在新疆和准备出关的部队进行了大刀阔斧的整顿。清政府军原驻新疆的部队有3支：一支是由当时任乌鲁木齐提督的满族贵族成禄统领的人马，约有17营8500人；一支是由任乌鲁木齐都统的满族贵族景廉统领的人马，约有34营17000人；还有一支是满族贵族金顺统领的人马，约有30营15000人。这些人马长期不训练，战斗力极差，左宗棠奏明朝廷，根据宜精不宜多的原则，成禄的17营整编成3营，景廉的34营改编为25营，都归到金顺部下，由他暂时统领，这时，由金顺率领的驻疆兵力有58营，左宗棠觉得还多，但金顺以拥兵多为荣，不愿裁减，左宗棠便奏请清政府，将其兵力整编为16营。
对于原来驻守新疆各城的清军残部，左宗棠命令他们保守现驻城堡，不担负作战任务。另从55营老湘军中精选25营作为主力，在粮运完成以前，暂在凉州（今甘肃武威）整训，待命出关。已经出关的张耀部14营嵩武军，令他在哈密举办屯田。
李鸿章从阻挠西征的目的出发，企图釜底抽薪，奏请将驻守甘肃的刘铭传部22营军兵调往山东、江苏驻防。有趣的是，当清政府征求左宗棠的意见时，左宗棠不但完全同意，而且还要求把其余的2支人马也一起调走或裁掉。
与此同时，左宗棠也对所带领的湘军进行整顿。他原辖有180多营，把老弱病残及无战斗力的人员，皆给钱遣回原籍，并且明确宣布凡是不愿随他出关西征的，不论官兵，一律听便，给钱回原籍，结果一下裁掉了40营，以后又作了进一步的裁减。留下来的大多为健壮之兵，而且是自愿出关西征的，战斗力都比较强。
他根据筹措粮食与运输的重要地位，坚决主张“精兵”。经过一番整顿，不但提高了部队的战斗力，而且最大可能减少了粮食筹备的数量和运输量。
其次是军饷的筹集。用兵新疆，每年需军饷约1000万两。当时的饷源仍靠各省供应。陕西和甘肃两省的协饷、厘金和海关税，总计每年应到800多万两。可是，拥护“海防论”的督抚们，一味拖欠，有的甚至不提供，就连主张全力西征的一些人，提供军饷也很不积极。当时，李鸿章统领的淮军，每年可发9个月的军饷，而进军新疆的部队，每年只能发1个月的军饷。对于实行雇佣兵制，兵勇们是靠薪饷养家，钱总是拖欠，不但不能打仗，而且军队都难以维持。由于左宗棠与士卒同甘共苦，将每年官俸的大部分都捐作军需，加上广大官兵的爱国热情，军心还未动摇，薪饷还可继续拖欠一阵子。但是，全军的粮草、盐菜、武器、被服的采买费和数额巨大的运输费，是绝对不能拖欠的。
1875年，左宗棠筹办粮食和运输，急需饷钱，当年却只收到了260多万两，他急得如坐针毡。1876年年初，左宗棠在要饷、催饷无效的情况下，只得上书朝廷，申请借外债1000万两，受到李鸿章等人的肆意阻挠。不得已，左宗棠再次恳请朝廷准他借400万两外债，以解燃眉之急。朝廷体谅左宗棠的难处，决定从户部库存四成洋税项下，一次拨给左宗棠200万两，令各省3个月必须拿出300万两给进疆的军队，超过期限的，准许左宗棠指名弹劾，从重治罪。另外，让左宗棠自己设法借外债500万两。左宗棠接到上谕后，高兴万分，开战前的军饷筹集终于有了着落。
此后，左宗棠通过上海采运局，几次向外国银行借债，至1881年，总计借了1300多万两；同时还向本地、外地富商挪借了一些；加上各省每年送到一些，总算勉强解决了筹饷的难题。
与此同时，左宗棠还组织了一套庞大的机构进行军粮的采购和运输。他改变过去成禄之流采取强行摊派、强拉民夫逼运的错误做法，实行用钱买和花钱雇运的方法。他强调，百姓是军队的衣食之本，没有百姓的支持，无法打仗。他规定必须以合理价格收购粮食、支付运费，在一个地区采购粮食不准过多，要保证农民留足口粮和种子，以便恢复和发展生产，为日后准备粮源。
按左宗棠在西北修订的《楚军营制》，步兵每营500人、民夫200人，骑兵每营250人、民夫100人，战马250匹。兵、夫每月口粮45斤，战马每月粮料150斤，草料360斤，草料不够以粮料补充。总计入疆部队最多时达到百营左右，其中骑兵约占四分之一。每年约需粮食5000万斤，准备3个月作战口粮和3个月储备口粮，需要2000多万斤。军粮的采运，基本上按照这个标准进行。
在粮食的采购上，左宗棠开辟了五个粮源：一是甘肃河西走廊地区。1875年采购到3600多万斤粮食。二是口北地区。由于河西地区粮少价贵、运费高昂，左宗棠经过调查研究，发现宁夏、归化（今呼和浩特市）和包头以西盛产粮食，经内蒙古北部有一条近路直达新疆的巴里坤，用骆驼运送，每百斤粮只要8两银子，比从河西采运便宜一半左右。左宗棠就在归化设了采运总局，在包头和宁夏设了分局。从1875年夏到1876年夏，共从此地采购到700多万斤粮食。三是北疆地区。从古城（今新疆奇台）到济木萨，产粮虽然不多，还可以买到一点。为了防止采粮过多，左宗棠采取事先调查、确定购量的方法，共买到300多万斤粮食。四是俄商之粮。1875年夏天，俄国商人索斯诺夫斯基到兰州拜访左宗棠时，主动提出从沙俄为清军采运500万斤粮食到古城，每百斤收费七两五钱，条件是允许俄商来西北做生意。左宗棠一合计，觉得很划算，就答应新疆收复后再行通商。双方当即签订了合同。其实，这个所谓的商人原是沙俄军官所扮，卖粮的目的是左右清军行动，左宗棠虽未识破其阴谋，但也没有依赖他的粮食。由于清军在战争中迅速胜利，索斯诺夫斯基的罪恶目的没有得逞。五是屯垦之粮。他命部下张曜率14营兵马，进驻哈密开荒种田。1875年开荒近2万亩，1876年收获了150多万斤粮食，也解决了一点问题。
在运输方面，左宗棠采取了多种办法。俄国商人的粮食包给俄商运送，口北粮食包给骆驼商队运送，这两路的运输，费力不大。最困难、最复杂的是河西走廊一线，不仅要运输几千万斤粮食，还要运输大批的武器、弹药、军装、被服等军用物资。从凉州经甘州（今甘肃张掖）、肃州、安西、哈密、巴里坤到古城，全长3540里。沿途人烟稀少，道路年久失修。尤其是从安西到哈密的1000多里，茫茫戈壁，沙砾纵横，除马莲井有点水外，没有台站，没有水草。从哈密到巴里坤，中隔天山，山高路险，大车难以翻越。由于多年战乱，牲口、民夫和车辆严重缺乏，即使花钱也难雇到人畜、车辆。左宗棠从实际出发，规定玉门关内主要采用车运，玉门关外主要采用骆驼运。在充分发挥官运（辎重部队）作用的同时，主要雇请民夫运输，关内百斤百里给银四钱，关外加价一钱。具体方式是“接力传递运送”，也就是分路程包干，各运一段，相互衔接，流水作业。此外，还让军队自己带粮出关。凡出关部队，除随身背带马车、骆驼装运一批粮食之外，走一大站后，再腾出车、骆驼回头再运一批，如此往复而前。
另外，左宗棠知道阿古柏的部队大多用洋枪洋炮，西征军武器装备如不改善，作战将会遇到困难。当时，虽然李鸿章创办了江南制造局、金陵机器局和天津机器局，但李鸿章是反对左宗棠进军新疆的，自然不会将这些机器局生产出来的枪炮支援左宗棠。在这种情况下，1873年左宗棠在兰州南关创办了兰州机器局，从广东、浙江聘请熟练工人，由总兵赖长（他对制造枪炮有一定经验）筹办。这个厂一年之后，便能造出各种枪炮。后来，由兰州机器局制造的军火、修理的军械不断送至前线。1876年，一次便供应清军子弹、炮弹2万多发，使已经装备了相当多洋枪洋炮的清军，在新疆反击入侵者的战斗中获得极大支持。
在左宗棠的精心组织和周密调度下，从1874年10月到1876年5月，用了一年零八个月的时间，将大批作战物资运达新疆前线，并在哈密、巴里坤、古城等地库存了2000多万斤粮食。至此，以粮运为中心的各项后勤准备工作基本就绪了。
左宗棠收复新疆必须面对两个敌人：一个是强占伊犁地区的沙俄，另一个是受到英国支持已经囊括新疆大部地区的阿古柏。左宗棠认为，阿古柏与投降他的叛匪白彦虎、马人得等相勾结，占据着新疆全疆大部分地区和重要的城池，是主要威胁，如能集中力量连打数仗，消灭其主要的力量，再不断地进行追剿，就有可能很快掌握收复新疆的主动权。至于沙俄，他非法侵占我新疆伊犁后，正在观望我对新疆的用兵情况，对我新疆用兵暂时构不成威胁。左宗棠权衡轻重缓急，决定首先消灭阿古柏集团，待收复新疆大部分地区以后，再集中全力来对付沙俄。
当时，阿古柏集团兵力的分布情况是：阿古柏本人及其主力驻守南疆，马人得、白彦虎等部据守北疆乌鲁木齐、红庙子、古牧地等要地。左宗棠对当时的情况作了认真思考和分析：第一，清军当时还控制着北疆的哈密、巴里坤、古城、济木萨等城堡，可以保障新疆与内地的交通，西征大军有一条安全畅通的补给线。第二，阿古柏集团分散据守南、北疆各城堡，白彦虎等流窜成性，不得人心，战斗力较弱，可以各个击破。第三，新疆地势北高南低，先北后南，可以形成高屋建瓴之势，正如龚自珍所说“北可制南，南不能制北”。第四，首先攻克乌鲁木齐，进驻玛纳斯，可以遏止沙俄由伊犁东犯。于是他制定了“先北后南”的作战思路，具体进兵的步骤是：第一步收复新疆北路，也就是先收复乌鲁木齐、红庙子、古牧等要地，消灭马人得、白彦虎的部队；第二步收复南疆门户吐鲁番；第三步收复新疆南路，也就是直捣阿古柏的老巢。
1876年春，左宗棠上奏朝廷，调擅长组织后勤保障供应的刘典到兰州，负责对进军新疆的总的后勤供应。同时，任命有勇有谋、机智果断、只有33岁的刘锦棠做先锋官，统一率领先头部队冲锋在前。4月7日，他自己将指挥大营由兰州移到肃州，靠前指挥，统筹调度。
4月26日，刘锦棠在肃州正式受命率兵出征，临行之前，左宗棠根据敌人部署纵深大，兵力分散，清军补给线长、兵力少不占优势等情况，考虑到鼓舞各族民心，保持旺盛士气等因素，告诉刘锦棠，用兵要采取“缓进急战”的方法。“缓进”就是不打无准备之仗，谨慎用兵。每次战斗之前，必须做好充分准备，特别是人、马要有充足的粮、草供应，才能组织一战。战后，必须肃清残敌，休整部队，调整部署，以利再战。“急战”，就是在组织进攻时，要集中优势兵力，充分发挥炮兵和骑兵的作用，速战速决，避免旷日持久，屯兵坚城之下，久攻不克，打消耗战。
按照先北后南作战思路，清军出关后，第一个战役是攻占北疆，收复乌鲁木齐至玛纳斯一带，控制全疆的战略要地，为向南发展进攻准备后方基地。盘踞北疆的白彦虎、马人得、马明各部，总兵力约有2万人，主力6000余人部署在乌鲁木齐东北的古牧地（今米泉）。左宗棠确定由刘锦棠和金顺2部64营3万多人马担负攻打北疆的作战任务，具体部署是：刘锦棠进疆与金顺部队会师后，首先攻占古牧，古牧是乌鲁木齐的东大门，攻占古牧，等于打开了通向乌鲁木齐的大门，便可形成直捣敌巢穴的有利态势。而后攻占乌鲁木齐，如果阿古柏从南路率军来援，必然有数场大的恶战，刘、金两部应集中力量歼灭阿军援兵，为大兵南下扬威，大造声势。接下来，分兵两路，金顺率部西攻昌吉、呼图壁和玛纳斯南北二城，刘锦棠率部在乌鲁木齐地区清剿残匪，准备对付阿军可能的反扑。战斗发起的时机，左宗棠和刘锦棠经过反复商量，最后定在秋初，因为这时正是粮食遍野的季节。
1876年8月上旬，北疆战役打响。在刘锦棠的指挥下，清军集中炮火猛攻古牧城，将城墙轰塌，清军蜂拥而入，城迅速被攻破，清军乘势猛攻乌鲁木齐，此时的白彦虎、马人得的人马被清军的凌厉攻势所吓倒，无心再战，乌鲁木齐随后被攻破，金顺率部迅速向西发展进攻，昌吉、呼图壁和玛纳斯北城不攻自破。历时仅10多天，清军便收复了北疆，白彦虎、马人得率残部向南逃窜。战斗打响后，阿古柏派出5000骑兵来援，刚到达坂城，便与败下来的白彦虎、马人得的人马相遇，只好收兵。
此战，要比左宗棠预计的顺利得多，这使左宗棠异常高兴，便立即着手部署天山战役，准备分兵攻取天山地区的达坂城、吐鲁番和托克逊，打开进军南疆的门户。计划上奏朝廷，皇上很满意，便令他赶紧实施。不料，金顺没有攻坚的经验和良策，玛纳斯南城守敌顽强抵抗，金顺部久攻不克，直到刘锦棠派去11营老湘军增援，到11月6日才攻克。这时大雪已经封山，无法南进了。
清军攻占乌鲁木齐后，阿古柏非常恐慌，一面请英国主子出面调解，企图通过外交途径阻止清军南进；一面赶赴托克逊部署防御，企图以吐鲁番、达坂城、托克逊三城互为犄角，组织坚固防守，阻止清军南进。后见清军没有动静，便又进一步部署：以南逃的白彦虎、马人得残部配合他的部下艾克木汗率步兵、骑兵8500人、民团1万人防守吐鲁番；以其大总管爱伊德尔呼里率步兵、骑兵4400防守达坂城，并在东西天山隘口之间筑起一座新城；令其次子海古拉率步兵、骑兵6000防守托克逊，总兵力有3万多人，其中主力2万余人，并配备了大量的后膛枪、炮。阿古柏自己则率大军驻守喀喇沙尔（今焉耆），遥控指挥。为了保护阿古柏这条走狗，英国公使威妥玛，以代表阿古柏向清朝“投降”为借口，发动外交攻势，要求清朝停止进军，获准阿古柏在南疆作为清朝附属国，但要免除每年的朝贡。朝廷便致电左宗棠，征求他的意见，左宗棠断然拒绝，指出英国的阴谋是让阿古柏长期侵占我南疆地区。同时，左宗棠函告刘锦棠，大军南进时，如果阿古柏派代表真意求降，可押解到肃州大营，由左宗棠处理；如果阿古柏的意图是缓兵之计，便立即将来使遣回。
左宗棠认为，天山战役不同于北疆战役，清军将同阿古柏的主力交战，需要认真对待。为此，他计划：集中刘锦棠、张曜、徐占彪三支部队作战。同时给刘锦棠增调了骑兵、炮队各三营，给张曜增调了骑兵、炮队各一营，给徐占彪增调了骑兵一营，合计三部兵力为53营、2万多人。依据敌情和刘、张、徐三军目前的部署，决定兵分三路，同时进击：以刘锦棠为北路，从乌鲁木齐出发，由北而南，攻打达坂城，如果得手快，则用兵配合张、徐两军夹攻吐鲁番；以张曜为东路，从哈密出发，由东而西，以徐占彪为东北路，从巴里坤出发，由东北而西南，越天山南下，与张曜在盐池会师后，合兵西攻吐鲁番，如果进展快，则西进配合刘锦棠夹攻达坂城；两城攻克后，三军合攻托克逊。战役发起的时机定于次年春天，具体发起进攻的时间，由刘锦棠与张曜、徐占彪约定，分头、分期出发，约定日期联合攻敌。
同时，左宗棠为确保南下后后方的安全，对乌鲁木齐及其周围地区的兵力做了新的部署和调整。玛纳斯一战，再次证明金顺的无能，难以独当一面，恰好清政府任命金顺为伊犁将军，左宗棠便将金部39营裁并为20营，担负玛纳斯以西到精河一带的防务；调驻包头的金运昌部10营皖军西行，接替刘锦棠的防务，驻守乌鲁木齐地区；调徐万福3营、范铭1营接徐占彪之防，驻守巴里坤、古城地区，哈密防务则由刘风清部2营豫军和原哈密4营防军负责。
为了保证大军南下作战的粮食供应，左宗棠令古城粮局采购和运送900万斤粮食到乌鲁木齐，加上清军在乌鲁木齐地区收割和采购的秋粮，为刘锦棠的部队备足了4个月口粮，并令巴里坤粮局就地采购200万斤粮食，加上从口北运来的粮食，合计有600万斤，供徐占彪的部队和接替他防务的部队食用；又令肃州粮局采运600万斤新粮到哈密，满足张曜的部队之需。同时还赶运了一批军装、被服和新买的后膛枪、炮到达前敌。
大军南进之前，左宗棠向各部反复叮嘱：必须严禁杀掠奸淫，严禁骚扰百姓，要宽待阿军俘虏，争取南疆人民的支持和配合。按照左宗棠的部署，天山战役从1877年4月中旬开始，前后不到半个月就胜利地结束了。刘锦棠一路攻打达坂城，仅用了4天就全歼守敌，无一漏网，还生擒了爱伊德尔呼里，打了一个漂亮的歼灭战。接着，刘锦棠分兵一部，与张、徐两军同日抵达吐鲁番城下。这时，艾克木汗、白彦虎已经南逃，马人得稍作抵抗后，率部投降。刘锦棠亲自率一部直捣托克逊，阿古柏仓促应战，由于军心浮动，加上清军乘胜进攻，士气大盛，阿军难以抵挡清军的进攻，慌忙烧毁存粮和火药，仓皇逃往喀喇沙尔。这一仗，共计歼敌2万余人，救出百姓2万余人。
按照左宗棠的要求，刘锦棠对俘虏全部宽大释放，对百姓作了妥当的安置。左宗棠的作战计划顺利地实现了，这时的南疆八城，已门户大开。
天山战役结束后，刘锦棠向左宗棠建议作战行动暂时告一段落，部队作短期的休整，以利再战。左宗棠认为，只作小停顿，粮运准备来不及。从吐鲁番到库尔勒1000多里，沿途产粮极少，必须准备足够的粮食才能进军。吐鲁番本是产粮区，可是，存粮已被敌毁，当时青黄不接，新粮还要3个月才能收获。哈密、巴里坤、古城和乌鲁木齐各粮局所储存粮，短时间内运不上来。需要派人到吐鲁番和托克逊设粮局，在当地采购粮草，同时，还需要调运足够的银两随军前进，以备在库车以南随地买粮之用。因此，左宗棠决定，部队暂缓进军，待秋天到来，采购和运上足够的粮食后，再大举进兵。
清军的暂缓进攻，客观上促进了阿古柏营垒的分化瓦解。这给清军继续进兵创造了极其有利的条件。
左宗棠预计，阿古柏死后，当下之敌，以伯克胡里和白彦虎两股为最强，伯克胡里擅长坚守，白彦虎擅长流窜。一旦清军进攻，白彦虎必然迅速逃跑，其逃跑路线有三：一是西窜库车、阿克苏，这一路正是清军追剿的重点，不必重新部署；二是经罗布泊、吐鲁番边界，东窜敦煌，逃入青海。这一路荒山野岭，沙漠戈壁，缺粮少水，可能性不大；三是由西转向北，经伊犁边界，回窜昌吉、玛纳斯一带，这一路地势平坦，道路纵横交错，对清军威胁最大，必须预先设防。为此，左宗棠命令金顺和金运昌两军，尽可能向远处派出侦探，提高警惕，随时准备截击白彦虎的回窜。
南疆八城，以喀喇沙尔、库车、阿克苏、乌什为东四城，夹在天山山脉和塔里木盆地之间，东西一线，延绵3000余里。以喀什噶尔、英吉莎尔（今新疆英吉莎）、叶尔羌、和阗为西四城。由阿克苏向南，经1500多里驿路到达叶尔羌，叶尔羌以东700多里是和阗，往西约300里是英吉莎尔，再往西200多里是喀什噶尔。八城中，以阿克苏的地理位置最为重要。
根据这种敌情和地形情况，左宗棠计划南疆战役分两个阶段进行：第一个阶段攻占东四城，控制阿克苏；第二个阶段攻取西四城，收复整个南疆。为了使作战顺利进行，左宗棠将清军分成三部分：以刘锦棠部31营为主要进攻力量，打头阵，主要担任消灭敌人，攻克城池的任务；以张曜部16营为预备力量，紧跟在刘锦棠部队的后面，主要担任接防刘锦棠部队攻克的城池，清剿残敌，防敌回窜；由于徐占彪在天山战役中曾勒索敌财，破坏军纪，左宗棠便将其撤回巴里坤、古城一带驻防，另调7营军在张曜军之后，主要任务是在张曜部队前进后，接管防守阿克苏以东各城。作战发起的具体时间，授权刘锦棠决定。
1877年9月下旬，清军粮运准备完毕，先头部队控制了托克逊至曲惠一线。刘锦棠不失时机地发起了南疆战役。由于白彦虎一触即逃，刘锦棠抓住有利时机，果断率精锐骑兵和步兵，以迅雷不及掩耳之势，1月驰骋3000里，在维吾尔族人民的支持和协助下，一举收复了东四城。
在此之际，英国又向清政府交涉，要求清政府准许伯克胡里在西四城建国，作为清朝的附属国，年年朝贡。驻英公使郭嵩焘和李鸿章一唱一和，鼓动清政府批准这一侵略要求。清政府将情况通报左宗棠，左宗棠怒不可遏，立即上奏痛斥了李鸿章之流的卖国主张和英国的无理要求，同时命令刘锦棠马不停蹄，继续进攻，坚决消灭残余的敌人，如果遇到外国人交涉，请他到肃州大营说话。
1877年12月初，刘锦棠得知尼牙斯和何步云起义的消息之后，不等张曜率军到达阿克苏接防，便分兵三路，于年底收复了西四城。除伯克胡里和白彦虎各率一部，分道投奔沙俄而漏网之外，余敌全部被歼，阿古柏侵略势力终于被消灭了，沦陷10多年的天山南北终于回到了祖国的怀抱。胜利捷报传到肃州大营时，左宗棠高兴万分，情不自禁地赞扬说：“这样快地取得了胜利，真是古今罕见之事。”
南疆回归祖国后，左宗棠决心乘胜收复仍为沙俄霸占的伊犁。1879年10月，清政府派往俄国谈判的使臣崇厚屈服于压力和讹诈，竟擅自签订了丧权辱国的《里瓦几亚条约》，除割去霍尔果斯河以西和特克斯河流域大片领土外，还赔款500万卢布。消息传来，国人上下群情激奋。左宗棠极为愤慨，坚决反对这一卖国条约，左宗棠认为，单靠外交谈判是不可能解决问题的，必须做好武力收回伊犁的准备。他随即上书朝廷，请令出征，坚决收复失地。清政府在全国舆论的压力和以左宗棠为代表的主战派的强烈要求下，最终将崇厚治罪，并改派驻英法公使曾纪泽赴俄谈判，不承认崇厚所签的条约，同时命令左宗棠统筹兵事，做好打仗的准备。
沙俄侵略者见清政府拒绝批准他一手炮制的“条约”，就一面施加外交压力，一面进行军事讹诈。在同我国新疆毗连的地区集中了几万俄军，仅在伊犁地区俄军便增至12000人，同时还向远东派出了一支由20多艘军舰组成的舰队。
面对沙俄侵略者的挑衅，左宗棠毫不畏惧，于1880年春拟订了一个三路出击，收复伊犁的计划：即以金顺率军扼守精河地区，防止俄军向东进犯；命张曜率所部5000人由阿克苏出发，沿特克斯河前进，作为主要进攻的力量；刘锦棠率所部1万余人，出乌什，从西面配合。
1880年5月，年近七旬的左宗棠，豪情满怀，亲自出关，将自己的大营移到哈密。他嘱咐部属为自己准备了棺材，随军运行，决心与沙俄侵略者决一死战，不收回伊犁，死不瞑目。全军将士看到自己的统帅把生死置之度外，个个精神振奋，斗志昂扬。沙俄侵略者听说左宗棠亲临前线指挥，十分惊恐，他们深知在远东的军力不敌左宗棠，这才被迫与曾纪泽在彼得堡签订了《中俄伊犁条约》，虽然仍是个严重损害中国领土主权的不平等条约，但总算夺回了伊犁，将被沙俄已吞并的特克斯河流域大片领土归还我国。这其中除了曾纪泽坚持正义立场外，左宗棠的军事活动支持外交斗争是十分重要的。
