在收复新疆的战争进行过程中，清政府多次同俄国交涉，要求归还伊犁，但沙俄政府制造种种借口，拒不交还。阿古柏侵略势力被消灭以后，清政府乘胜向俄国索还伊犁，并要求引渡白彦虎等。沙俄政府一面答称，如果赔偿俄国占领伊犁之军费，可以交还伊犁；一面唆使白彦虎、伯克·胡里残部等多次回窜，騷扰边境，企图借口边境未靖，缓交伊犁。清军粉碎了敌人的騷扰，并从俘虏口供及查获俄国所给的路票，证实这些騷扰均系俄国政府所指使。
俄国政府的陰谋败露，只得答应进行谈判。清廷派吏部侍郎崇厚为钦差全权大臣赴俄交涉。1878年底，崇厚到达俄都圣彼得堡（今苏联列宁格勒）。这时，俄土战争已经结束，狡猾的沙俄政府利用清政府深恐与俄国作战的心理，趁机敲诈。在沙俄的威胁讹诈下，崇厚于1879年10月在黑海岸边的里瓦基亚（靠近雅尔达）与俄方代表签订了丧权辱国的《交收伊犁条约》（即《里瓦基亚条约》）。条约规定：俄国归还伊犁东部地区，但由中国赔偿俄国占领费五百万卢布（合银二百八十万两），并割让霍尔果斯河以西地区和伊犁南部特克斯河流域领土，修改《塔城界约》①所规定的斋桑湖地区国界，增辟由新疆到西安、汉口、天津的通商路线；在嘉峪关、乌里雅苏台、科布多、哈密、吐鲁番、乌鲁木齐、古城七处增设领事馆。这样，伊犁虽在名义上归还中国，实际上却变成一座三面临敌、险要皆失的孤城。这一讹诈性条约传出后，激起了中国朝野的极大义愤，以致“街谈巷议，无不以一战为快”②。左宗棠也表示反对，主张对于解决伊犁问题必须“先之以议论，委婉而用机；次决之以战阵，坚忍而求胜”③。而李鸿章则主张履行崇厚所订的卖国条约。清政府慑于朝野舆论，最后拒绝批准这个条约，并判崇厚“荒谬误国”之罪，逮捕下狱。1880年2月19日，清政府正式照会沙皇政府：崇厚所议条约“多有违训越权之处”，“窒碍难行”。④同时，另派驻英法公使曾纪泽兼任驻俄公使，授权谈判改约问题。
俄国没有达到预期目的，恼羞成怒，决定对清政府施加压力。其驻华使馆代办凯陽德扬言：“俄国并非无力量，至条约准与不准，在俄国总是一样”①。与此同时，沙俄在我东北、西北边境调集上万军队进行威胁，甚至出动黑海舰队到中国黄海示威，并增兵伊犁。清廷为了自卫，也在中俄边境和沿海地区采取防御措施，并命左宗棠部署新疆军务，准备用武力收复伊犁。左宗棠拟定了分三路向伊犁进军的计划：东路由金顺率步骑二十五营一万二千余人，扼住晶河一线，严防俄军窜犯；西路由刘锦棠率步骑二十八营一万一千人，取道乌什，从冰岭以西经布鲁特游牧地区直指伊犁；中路由张曜率步骑十九营八千五百人，从阿克苏冰岭之东，沿特克斯河指向伊犁。此外，以六千人分屯阿克苏、哈密为后应，以三千人增强塔尔巴哈台防务。准备参战的部队共约五万余人。5月，左宗棠“亲自舆榇出关，誓与俄人决一死战”②。6月，左宗棠进驻哈密，积极部署进军事宜。然而，清廷却在沙俄的压力下“暂免”崇厚死刑，不久又将左宗棠调回北京。
同年7月底，曾纪泽由伦敦抵达圣彼得堡，与沙俄政府谈判。曾纪泽自称此行是“障川流而挽既逝之波，探虎口而索已投之食”③，深知任务艰巨。但由于此时俄土战争结束不久，沙俄又忙于镇压中亚地区少数民族的反抗，已经没有多大力量进犯中国，特别是注意到左宗棠等的军事准备，加之对曾纪泽的威胁刁难又未收到预期效果，最后于1881年2月24日与曾纪泽签订了《中俄伊犁条约》和《陆路通商章程》，以代替崇厚所订的条约。中国虽收回了伊犁地区及特克斯河流域具有战略意义的一万九千平方公里土地，但条约规定“赔款”增加到九百万卢布，霍尔果斯河以西地区仍被沙俄强行霸占。条约还规定中俄已定的西北边界有“不妥之处”应重新“勘改”，为沙俄下一步继续侵占我国西北领土留下了伏笔。随后，沙俄根据这个条约的原则，于1882年至1884年与清政府签订了《伊犁界约》等五个子约，分段勘定新疆的中俄边界，把七万一千多平方公里的中国领土正式并入了俄国的版图。