创立沿海渔团，借助人民力量，进行反侵略斗争，这是左宗棠继承了林则徐“民心可用”的进步思想。他认为“渔船水手之胆夙优，能通方略者代不乏人”。他们熟悉江海水情地势，勇敢善战，是一支不可轻视的力量。左宗棠下令江苏沿海沿江的22个厅、州、县各设团练局，每百名年轻渔民中选取30名，在数万名渔民水手中共计挑出精壮四五千名作团丁，组成团练局，每月初一、十六两日集中到局军训，操练演习。每人每天发给口粮100文。另在吴淞口设立渔团总局，由苏淞太道总负其责，苏淞镇总兵为会办，统辖全省各县渔团。一旦外敌入侵，渔团便可作为正规军队的补充，协同作战。这种军民联防的威力，使得外国侵略者“颇为震慑”。各地渔团成立后，左宗棠于光绪九年九月和十年十一月（1883年10月和1884年12月），两次到崇明、靖江、通州等地检阅渔团。光绪九年九月十九日（1883年10月19日），左宗棠从江宁乘船东下，特地校阅了江阴、靖江、通州（今南通）、海门渔团。二十一日晨抵达崇明，调阅崇明渔团，因该团训练无方，就将其会办刘光才记过，团总、团佐停给功牌、顶戴，团丁撤销，以示惩罚。午后，驶抵吴淞口校阅水勇。这些水勇“精能过人”“观者靡不诧为罕见”。当天夜晚，他泊舟上海。二十二日，他又在上海召集奉贤、南汇、常熟、昭文、太仓镇、洋华亭、金山各渔团团总、团佐会议，一面晓以大义，一面颁示奖惩，“于操演纯者奖进之，技艺左疏者训斥之”。由于左宗棠这样亲临校阅、奖惩分明，各渔团“无不欢欣鼓舞，踊跃争先”。经过一年多的训练，到第二年十月，他再次视察各渔团演练时，放炮打靶，攻夺防守，技术熟练，阵容井然，成为一支颇具实力而不脱产的海防武装，配合军队严防海口及沿江。
左宗棠在筹划两江布防的同时，对法国侵略越南并进而入侵中国南疆的局势极为关切，特别是光绪九年四、五月间奕、李鸿章等人的议和妥协主张以及李鸿章拒绝往广东“督办越南事宜”而仍以北洋大臣的身份去上海同法国代表脱利古谈判，对此，他异常愤懑。他致函总理衙门说：“法越交兵一事，议论纷纭，究以执咎无人，莫敢以正义达诸政府。”他则“默察时局”，强调“唯主战于正义有合，而于事势攸宜”。
左宗棠还令其部将王德榜于回湖南省墓之际，将云贵总督岑毓英（字彦卿，广西西林人）在江南制造总局订造的枪炮顺道由上海经湖南转运云贵，并嘱王德榜“回籍后，遗其旧部与刘永福熟识者，径赴刘永福处探视军情，路途据实禀报，以便区画，一尽南洋职分”。不久，左宗棠在写给两广总督张树声（字振轩，安徽合肥人）的信中，说他筹防江南海防乃“未雨绸缪之计，果能制敌死命与否固未可必，而自处之道则预以白诸朝廷。盖衰朽余生，得以孤注了结，亦所愿也。法虏骄横，谓越南非我属国，竟思倾国从事，而不顾其后。刘永福以一健卒，为越捍边，力挫虐焰，似亦人所难能。但孤立无援，势难持久，吾华将有唇亡齿寒之虑。南洋以兼筹边防为责，岂能袖手旁观？”接着，左宗棠致函其密友、时为漕运总督的杨昌浚，谈了他愿请求奔赴抗法第一线的想法。他说：“法越交兵一案，枢部束手。不得已为赴滇粤边界之请，先令王朗青（按指王德榜）于回籍之便挑募广勇乡兵数营，一面径赴刘永福处察看军情、地势。弟再率新募各营接踵前进，一往图之，为西南数十百年之计，以尽南洋大臣之职。未知朝廷许我否耳？”七月，左宗棠专折向清廷陈述南洋应办边务机宜。他指出，法人脱利古“始则欲以西贡为屯兵之所，继则扬言进规广东矣”，对此不能在谈判中示弱。“我愈俯则彼愈抑，我愈退则彼愈进”，“法人得陇望蜀，滇、黔、广西边患愈迫。中国吁食方勤，未敢置之不理。臣任重南洋，兼管七省海口，尤属义无可辞。”尽管左宗棠对李鸿章不愿赴两广“多责备之词”，他欲“反而求之”，即希望清廷能派自己去“督办越南事宜”，但“朝命未临”又使他不能实现这个愿望。于是，左宗棠请求“由南洋出师，助滇越边防”，计划“于巡勘崇宝海防后，率新募各营回湘继进，以赴戎机”。然而，清廷并没有同意左宗棠奔赴抗法前线的要求，以“滇粤边界，均有重兵”为由，令左宗棠继续留任两江。
从左宗棠的上述言论来看，他是一反李鸿章之所为，甘愿冒死请缨前往抗法前线，“以赴戎机”。尽管未能如愿，但其抗击法国侵略者的决心则是始终不渝的。尤其是他对刘永福领导黑旗军抗法斗争的肯定，回击了李鸿章把刘永福称作“土寇伎俩”的说法。他派王德榜携军火至云南，并在广东、湖南一带募兵，确为增强抗法前线的军事实力起到了积极作用。光绪九年秋冬之交，王德榜募军十营，被左宗棠命名为“恪靖定边军”。提督陈广顺等富于作战经验的将领都被左宗棠调派充实到该军中，同时还解去饷银十万余两和军火物资。随后，左宗棠派王德榜率领该军驰赴广西。在抗击法国侵略的战争中，该军发挥了重要作用。因此，左宗棠作为南洋大臣，是称得上恪尽职守的。
再入军机处
19世纪下半叶，法国开始侵入中国传统属国越南。1856年，法国远东舰队因越南处死传教士炮轰土伦港（今岘港），并于1858年一度登陆占领。1858年，法军攻占西贡。1860年，法国借第二次鸦片战争结束借用侵华法军进攻南圻，先后占领嘉定、定祥、边和、永隆等省和昆仑岛。1862年6月，法国和越南阮朝签订第一次《西贡条约》（即《柴棍条约》），越将西贡一带地区割让给法国。1863年，越南承认法国是柬埔寨的保护国。
1870年到1871年的普法战争中法国大败，暂时推迟了侵略中国的进度。1873年11月，法国驻西贡总督杜白蕾派安邺率军攻占河内以及海阳、宁平、南定等城。越南皇帝阮福暶请当时在越南保胜地区活动的刘永福领导的黑旗军协助。12月21日，黑旗军在河内近郊大胜法军，击毙安邺。阮福暶为达到政治平衡，一方面和法国议和，于1874年3月15日签订了《第二次西贡条约》，承认法国是越南的保护国；另一方面则任命刘永福为三宣副提督，管理宣光、兴化、山西三省，以黑旗军阻止法军北上。
1879年6月，法国驻海防领事土尔克称：“法国必须占领北圻（qí），……因为它是一个理想的军事基地，由于有了这个基地，一旦欧洲各强国企图瓜分中国，我们将是一些最先在中国腹地的人。”
1881年7月，由法国总理茹费理主导的法国议会同意将240万法郎的军费用于越南。1882年3月，法国西贡殖民政府派海军上校李威利（又译为李维业）率军数千于4月占领河内。1883年3月李威利一军占领南定。阮福暶再次邀请刘永福出兵，在越南北圻统督黄佐灸一部的支援下，于5月19日在河内城西伏击法军，杀李威利等三十余法国军官和数百法军，残余法军只能死守河内。刘永福之后被升为三宣正提督。
法国马上任命西贡法军司令波滑继任北圻法军统帅，并成立由海军少将孤拔为统帅的北圻舰队。8月，波滑沿红河进攻黑旗军，同时孤拔率海军进攻越南首都顺化。波滑一军损失很大，波滑本人则被遣返巴黎。但孤拔一军却攻入顺化，阮福暶正好病死，继位的越南（安南）皇帝阮福升于8月25日和法国签订《法安第一次顺化条约》。至此，越南已被法国征服，法国开始直接进攻中国。
光绪九年十一月十二日（1883年12月11日），法国侵略军在孤拔的指挥下，向驻扎在越南山西的中国守军发起进攻，正式挑起了中法战争。十六日，法军攻占山西。光绪十年二月二十五日（1884年3月12日），法军新任统帅米尔又率军占领北宁。
4月3日，国子监祭酒盛昱上《疆事败坏请将军机处交部严议》的奏折。其本意只是要恭亲王振作精神，力图补救，不料却为西太后所利用，趁机大做文章。
恭亲王奕自1861年11月协助西太后发动“辛酉政变”后，以议政王名义任首席军机大臣兼管总理衙门，总揽清廷内政外交大权。随着西太后统治地位的不断巩固，她与恭亲王间的矛盾日益尖锐。西太后此前就曾试图将恭亲王赶下台，终因时机不成熟而中止。现在盛昱的奏折正好为她提供了口实，遂于4月8日明发上谕，以“委蛇保荣，办事不力”的罪名，将恭亲王、宝鋆、李鸿藻、景濂、翁同龢一概逐出军机处。恭亲王且被“开去一切差使”，令“家居养疾”。同日宣布任命礼亲王世铎，户部尚书额勒和布、阎敬铭，刑部尚书张之万，工部左侍郎孙毓汶五人为军机大臣，又命庆郡王奕劻（光绪二十年晋封庆亲王）主持总理衙门。次日又颁谕：“军机处遇有紧要事件，著会同醇亲王奕譞商办。”
新组成的军机处，实权操诸奕譞及其心腹孙毓汶之手。这次清朝最高统治集团的重大人事变动，史称“甲申易枢之变”或“甲申政潮”。然而，清朝统治中枢的这次大规模的人事变动并没有给中法战争带来什么转机，新的军机处对外实行的仍是妥协方针。因此，时人有“易中驷以驽马，代芦服以柴胡”之说。与奕关系甚密的李鸿章不但未受到这次政局之变的牵连，反而弹劾他有六可杀之罪的翰林院编修梁鼎芬却被清廷加以“莠言乱政”的罪名革了职。李鸿章攀附上奕譞，不久即有“在内醇亲王主之，在外李鸿章主之”的传言。
法军在越南战场虽取得一些军事胜利，但仍困难重重。1884年4月，法国海军中校福禄诺通过粤海关总税务司的德国人德璀琳，对李鸿章进行诱和，并威胁说中国如不答应法国的议和条件，法国将增派海陆军进攻中国本土。清政府急于求和，屈从法国的压力，任命李凤苞为驻法公使，代替主战的曾纪泽，并授权李鸿章“通盘筹划”对法议和事宜。经过数日的谈判，李鸿章与福禄诺代表中法两国于1884年5月11日在天津签订了《中法会议简明条款》，又称《李福协定》，共五款。主要内容是：中国承认法国与越南签订的条约和对越南的保护权；中国驻越清军调回境内（未明确规定撤军期限）；法国不索赔款，中国在中越边境开埠通商；法国与越南修约时，不出现有损中国体面的字样；三个月后，双方派遣全权大臣，制定详细办法。这一条约满足了法国占领越南和打开中国西南门户的侵略要求。
左宗棠于光绪九年七月上奏请求督师“以赴戎机”的愿望未能实现后，十月因目疾加剧恳请开缺回籍调治，清廷准假两个月。而他鉴于两江海防仍需他“力疾料理”，便带病在“赏假以后于海防、水利、盐务各要件”继续加紧部署。左宗棠本想通过“延医多方调治，期得早日痊可，届时即行奏明销假，以副余年图报之忱。无如年老气血衰惫，病根已深，未见速效。见在所最苦者，右目因流汁过多，受伤益甚，检校文书万分吃力，稍一搁置，隔日即成堆垛，勉强判阅，下笔不能成字”，不得已于光绪十年正月再次请求准假，以免“贻误要公”。清廷勉如所请，又赏假四个月。左宗棠奏荐安徽巡抚裕禄、漕运总督杨昌浚、前两广总督曾国荃自代。清廷决定由曾国荃署两江总督兼南洋大臣。同时，清廷以“左宗棠劳勤懋著，朝廷倚任方殷，当此时局艰难，尤赖二三勋旧之臣竭诚干济”为由，希望左宗棠“早日就痊，出膺重寄”。三月十三日（4月8日），左宗棠向“兼程莅任”抵达南京的曾国荃交卸两江总督篆务。
自正月十八日起，左宗棠就因目疾加重续行休假四个月，但他并没有安心回籍休养，而是仍留在南京部署江海防务并关注着前线战局的变化。特别是在“频阅越南电报文牍”，得知“北宁失守，兴化相继沦陷”，法国提督又“带兵船八号分驶福建、江南、天津，横行无忌”的情况后，遂于四月初二日上奏请求提前销假。四月初九日（5月3日），清廷下令召左宗棠这位“素著公忠，不辞劳瘁”的老臣进京“陛见”。
左宗棠在进一步了解了滇、粤边防的局势之后，于四月十七日上奏指出：
法人既攻北宁、兴化，兵端已开，滇、粤藩篱尽撤，边防之不可不急谋增黾也明矣。滇、粤溃败各营，不足复用，所恃者仅王德榜楚军八营，而分扼镇南关、谅山两处，要区兵分力单，能守而不能进，坐失事机。自应增调一军为后劲之师，俾王德榜得一意驰驱，免虞后患。庶足绥藩服而伸天讨，收已失之人心，戢（jí）异族之凶焰。
因此，他建议由前任浙江提督黄少春在湖南“挑选弁兵五营，驰赴广西镇南关外，为王德榜策应之师。并饬预选臣旧部之散处本籍者，编为数营，名之臣军，营务处营率之同征，以厚其势。如蒙谕旨允行，是黄少春此行，于王德榜为后劲，于臣为前驱，似与时局较为有益。”左宗棠仍抱有率军前往滇、粤抗法前线的愿望。
左宗棠呈递拟令黄少春募兵策应滇、粤边防的奏折这一天，正与李鸿章在天津签订《中法简明条约》同日。这两个同被清廷所倚重的“中兴名臣”，一个在积极请战，另一个却在妥协求和，孰高孰低，自不待言！
