西征新疆、收复失地是一场正义的反侵略战争，直接关系到中国的领土完整、国家统一、国防巩固、前途命运、社会发展，以及政治、军事、经济、外交等多方面长远的根本的利益。鉴于新疆地处边陲、交通不便、人烟稀少、产粮不多等客观现实，左宗棠决计花较多的时间从事战前准备。
早在当俄国侵占伊犁，新疆局势危急时，左宗棠就提出了在理也在势的主张，强调没有兵威和兵势，在理也等于无理。不久，他又提出“整军乃可经武”，把组调一支能征善战的军队作为西征准备的一个重要前提。
左宗棠在组调西征军时，首先注意了精选能将，筹调军队。
左宗棠认为，金顺虽然不能担当大任，但能力顾大局，深知缓急，益惬私怀，长处很多，因此很愿意与他合作，用他来帮办新疆军务。
刘锦棠则是最得左宗棠重用的人物。刘锦棠，字毅斋，湖南湘乡人，生于鸦片战争后的1844年。父亲厚荣、叔父松山，都是湘军中的军官。刘锦棠10岁时，其父因镇压太平天国农民起义而丧生；成年后，投入叔父所在的湘军，随同叔父镇压太平军和捻军，为朝廷立下汗马功劳，积勋至州同、巡守道，还获得了“法福灵阿巴图鲁”的荣誉称号。
1870年，刘松山在甘肃金积堡围攻起义回民马化龙部被击身亡。清廷根据陕甘总督左宗棠的推荐，任命刘锦棠接统他叔父留下的老湘军。这一年他才26岁。马化龙在刘锦棠的猛攻之下投降，刘锦棠也因战功而得到了云骑尉的世职。一年多以后，他又攻占西宁、肃州（今酒泉），被派署理甘肃西宁道。
1871年，刘锦棠正在湖南湘乡休假，这时沙俄侵占伊犁。左宗棠当即写信给他，信中已经透露出想让他率军西征。
到了1875年4月，左宗棠以自己“年衰病久，深虞精力未足副其志”，向清政府推荐了“英锐果敏，才气无双，近察其志虑忠纯”的刘锦棠来率所部老湘全军从征，并委总理行营事务，作为中军，与金顺汇合，承担收复新疆的主要任务。
除了刘锦棠之外，左宗棠还选拔了他的另一员爱将就是张曜、得意之将金运昌、得力干将还有徐占彪、易开俊、董福祥等。
在选将调军时，左宗棠奏请简派刘典帮办陕甘军务，更具有重要意义。左宗棠说，他在调陕甘总督时已苦衰病侵，令其督办新疆军务，负荷更重，而出塞远征，兵事饷之事必以关陇为根本，一有间隔，则局势立形滞碍，贻误戎机。而所事未能预计岁月，师行未能预计远近，若非慎图于始，何能一意驰驱，无忧后顾，此私怀所不能释然者也。因此，他请派与他长期共事的刘典赴兰州帮办陕甘军务，对外可孚民望，对内足以协助军情，于时局必有裨益。如此一来，西征军前有刘锦棠作主力，后有刘典管后方，左宗棠就可高瞻远顾、指挥裕如了。
在选定了得力干将之后，左宗棠即开始着手精选丁壮，裁汰冗杂。
当时关内外诸军冗杂疲弱已极，于是，他大川阔斧，对西征军进行了认真的整顿。为了西征事业，左宗棠不怕得罪满洲贵族，大胆上奏，劾罢成禄，调走穆图善、景廉，并将各部大加裁汰。
成禄部裁剩3营；穆图善部、文麟部全部遣撤；金顺、景廉二部合并裁剩40营，以后又裁去20营。这些部队原共约90营，结果裁剩23营。
左宗棠一秉至公，在裁汰属下军士营制的同时，对自己所统各部也认真裁虚汰疲，所部180余营就裁去40余营。
军队战斗力的强弱，除了有好的将领之外，还须要严纪律，精枪炮。
严明纪律直接影响军队的战斗力，而军队纪律的养成也在平时的训练和严格要求。左宗棠为了加强军队纪律，极力倡导劳动俭朴，以保持和发扬农家士兵的耐苦特色，增强对不良恶习的抵抗力。
另外，左宗棠还颁发《行军必禁》，要求严格遵守。如犯奸掳烧杀者，查明即行斩示，决无宽贷；即打牌聚赌、吸烟酗酒、行凶宿娼、私出营盘、聚众盟会、妄造谣言揭贴、讹索民财、封掳民船、强买民货，皆当严禁。
西征军出关作战的对象虽然是阿古柏匪帮，但也有可能与沙俄军队作战。阿古柏匪帮的武器装备，主要来自英国，是比较先进的，沙俄军队更是装备着一色的近代枪炮。为了尽量缩小敌我双方武器装备的差距，甚至争取到一定的优势，左宗棠对出关作战部队的轻重武器进行了调整和充实。
实际上，西征军都配备了多少不等的新式武器。如金顺出关时，调配开花大炮1门；张曜出关时，调配连架劈山炮10尊，德国造后膛2号螺丝大炮1门，7响后膛枪10支；刘锦棠部队调配的更多，有新式大炮在内的各种大炮10多门，各种枪1000多支，后来又陆续调给大号及3号开花后膛火炮4尊，车架开花后膛小炮4尊，田鸡炮数尊，后膛7响枪300支，快响枪80支，来复枪500支，各类炮弹1000余枚，大洋火100颗，各类子弹28000多颗。
此外，左宗棠还建立了一支由侯名贵率领的炮队，有后膛炮12尊，弁勇160余人。
正由于左宗棠在组建西征军时，注意精选能将，训练丁壮，严明军纪，讲求武器，就使这支军队达到了较好的水平，它基本上近似一个欧洲强国的军队。
军和饷是密不可分的。左宗棠在组建西征军时，就特别注意筹饷，并把“可恃之兵，资以足用之饷”视为化弱为强的重大问题。
然而，左宗棠自从奉命到西北来后，每次大规模用兵之前都要为军饷、粮运等问题伤一番脑筋，费一番心血，现在督师远征新疆，更是不得例外。西征部队6万人，每年需饷600万两，加上西征粮运每年又需200多万两白银，共需800多万两白银。
西征军饷是按协陕甘军费，由各省、关每年协饷820余万两。无奈各省、关并没有照额解寄，每年实际交到的只有500余万两。到1873年11月，肃州之战结束、西征开始时，各省、关积欠陕甘军费协饷达1796万多两。
左宗棠在“饷源日绌，待用甚急，大局难支”的情况下，只好要上海转运局道员胡光墉向华商洋商筹借银100万两，让湖北后路粮台道员王加敏向汉口各商筹借10万两，以资接济，将来以收到各省、关的协款之后再陆续抵偿。左宗棠原以为这样可以暂渡难关，可是，这110万两只收到70余万两，归还各地方借款尚不敷银20余万两。由于日本侵占台湾，沿海各省以海防为急而纷议停缓，使收入更为减少，每年实际解到的只有200多万两。这点钱刚好够为西征军运输粮草，6万官兵的饷银是一概无着。作为西征军的主帅，左宗棠当然是焦虑不安。
1874年11月，左宗棠说：“总全局计之，非确得实饷300万两，难以支持。”因而奏请清政府允由胡光墉借洋款300万两，由江苏、广东、浙江三省协饷内，分作三年划还。
1875年9月下旬，左宗棠奏请清政府：“俯念边塞军务紧要，饷源枯竭，待用方殷”，让户部和各省速将部拨出关粮运专款内短解140余万两限期提解，所有积欠甘饷2610余万两分省分限指提若干，应解协饷仍按月如数提解，“毋再延欠，俾速戎机”。
左宗棠为了解决军饷的问题，还提出了增辟饷源的具体措施：
1.盐斤加价。他说，“除闽省现在办防，直隶现准加价，均毋庸议外，如淮、浙、川、粤请一律照办，每斤加价两文，由各省收解以抵协饷，似可稍事补苴。一俟洋防解严，各省协饷不缺，由各省自请停止复旧”。
2.改革茶引，疏通商务，增加收入。
3.发为期两月的三联银票。
4.屯田，收入归己，以改善生活，减缓缺饷压力。
5.节省开支。
在左宗棠如此绞尽脑汁，既据理力争，又近乎乞求的情况下，清政府于11月8日为使西征军解决年终一月满饷，谕令浙江、四川、湖北、山西各提银7万两，福建、广东、河南各提银6万两，江苏提银5万两，安徽提银4万两，湖南提银3万两，山东提银2万两，凑足60万两，“均在各省积欠西征协饷内提解”；对以前欠解月饷，清政府要各省、关在一年内先解一半，其余一半仍随同现解饷银按月设法措解，俾资接济。
1875年，左宗棠向英国怡和洋行借款300万两，由江苏、浙江、广东三省在应解西征协饷内划还。
1876年1月，当西征军整装待发之际，左宗棠在“饷源涸竭，局势难支”时上奏清政府。因此，他奏请清政府允照沈葆桢前筹办台防借款1000万两，年息8厘，分作10年筹还的办法，允许借洋款1000万两，仍归各省、关应协西征军饷分10年划扣拨还，以济急需。
左宗棠的这一要求遭到了两江总督沈葆桢的强烈反对，最后清廷只得折中处理：同意他借洋款500万两，户部拨给200万两，各省、关提前拨解西征协饷300万两，总共凑足1000万两。左宗棠接到这道上谕，跪诵再四，大喜过望，不禁老泪纵横。
清政府如此破例地采取这种有效措施，对西征产生了重大影响。特别是拨库存四成洋税200万两，并使原来由西征协饷归还改为海防经费内扣还，左宗棠说，这是减海防以益塞防，“自此国是明，而内外阴翳潜消，不独西事之幸也”。他对清政府的认识虽有不切实际之处，对未来困难也估计不足，但清政府此举表明它是重视塞防的，并在行动上有重大体现，是它为收复新疆在命左宗棠督办新疆军务后的又一重大措施。
由于各省、关入不敷出的严重情况有增无减，因而靠各省、关协款的西征军饷的困难很快又严重起来。直到1877年5月，各省、关协款不足30万两。这时，正值西征军连克吐鲁番三城后正准备向西挺进，左宗棠上奏清廷，以新疆南路战局顺利，盼饷正切，自己筹措无方，除暂请部库存银，实属别无更好的办法，请清政府再次破例拨库存银。
然而，清政府没有批准再次拨用部库存银。左宗棠除向各省、关催解协款和向各地华商按洋款办法息借外，只好忍痛借用洋款。在1874年至1881年的七年多时间里，左宗棠共向华商借款846万两，向洋商借款1375万两，总计借款2221万两。
可见，左宗棠为筹措西征军饷，常年饱尝各种难以想象的苦难，事后尤为心寒。难能可贵的是，一切苦楚左宗棠都独自承担了。
