左宗棠对时事非常敏感，他对大规模的农民起义早有预感。早在鸦片战争初期，他就预感到外患必然加剧内乱，形势的发展更加难以收拾。为此，左宗棠百忧交集，夜不能寐，因为报国无门、空有壮志而一度打算当个买山而隐的“山隐翁”，不再过问世事。当然，左宗棠的买山而隐，决不能作寻常的消极避世论。在当时的时局下，他这是一种应变措施。他曾多次说过：“天下无不了之事，无不办之寇，亦未尝无了事办寇之人。”显然，他自己就是以这种“了事办寇之人”自期的。他坚韧不拔地求经世致用之学，特别是究心于地学、兵学和洋务之学，时刻关注国内外形势，就是为了有朝一日，担大任、办大事。他既然早年便自比于诸葛亮，对诸葛亮隐居隆中，散闲卧龙岗，躬耕陇亩，等待着刘备三顾茅庐，是有心仿效的。他屈居山乡，避隐白水洞，密切观察形势，也是为了待机出山。
道光三十年（1850），左宗棠邀郭嵩焘等人一起考察湘阴东山（即青山），他择定了白水洞，而郭氏兄弟则选中了附近的周礤岭。两家共为山居结邻，并于1852年秋天，一同迁移于此，伐茅筑屋，开始营建避险之处。
当他从好友胡林翼那里得知太平军已经进占广西永安（今蒙山）时，立刻就如何对付太平军发表了一通议论。他说，自古兵法有言，“谋定而后战”，“善用兵者致人而不致于人”。由于清军的确不懂得这个道理，在作战中处处被动，经常挨打。他主张清军应该在太平军的营地附近广筑碉堡，步步为营，渐逼渐进，迫使太平军离开营垒，改守为攻，这样一来，清军则可以反客为主，由被动变为主动。
左宗棠的这番话，表明他对镇压农民起义之事具有很高的热情，同时也说明他有较好的兵法素养，知道两军对阵的首要问题是争取主动权。他所提倡的筑碉堡以合围的“铁桶战术”，对初起于广西山区的太平军的确具有一定的效用，这在中国军事史上也是首次出现。
胡林翼听了左宗棠的这番议论，觉得应该设法起用这位时运不济的“姻丈”，让他发挥其军事专长。于是，他多方荐举，希望能引起当道者的重视。
胡林翼，号润之，湖南益阳人，道光十六年进士。陶澍素有知人之明，看中了微时的胡林翼，招为女婿。陶任两江总督时，年轻的胡林翼住在岳父的督署内。林则徐任江苏布政使，是陶的下属。胡林翼比林则徐小二十余岁，但过从甚密。他极钦佩林则徐的人品学问，在岳父面前竭力推荐，林则徐很快由布政使升任江苏巡抚。后来陶澍又奏保他才力能胜任两江总督。陶去世不久，林则徐调任湖广总督，因而点燃了鸦片战争之火，揭开了近代史上悲壮的一页。
胡林翼和左宗棠关系很深。他们是世交、同学、好友，又兼亲戚。而最重要的还是二人志同道合，意气相投。胡林翼的父亲云阁公（讳达源）与春航公同读书于长沙岳麓书院，感情执笃。嘉庆十七年六月胡林翼出生，四个月后，左宗棠也出生。两位父亲异常高兴，买酒对饮，互相庆贺。胡林翼和左宗棠都是贺熙龄的学生。左宗棠和陶澍结成亲家后，和胡林翼也成了亲戚，胡林翼倒比左宗棠小了一辈。咸丰六年，胡林翼妹同芝又嫁给左宗棠侄儿左贗（癸叟），即宗植的长子。左宗棠告诫子侄们，决不可与胡林翼以平辈相待，应尊之曰先生。胡林翼信中称左宗棠为“丈”，左宗棠称他为“兄”，彼此十分敬重。
1850年，道光皇帝逝世。第二年，咸丰皇帝即位，是为咸丰元年（1851）。此时的左宗棠已经将近40岁。皇帝新即位，特颁恩诏开孝廉方正科，以搜集乡野遗才。郭嵩焘和湘阴县士绅都推荐左宗棠应举。左宗棠早已打算做一辈子“农夫”，现又准备隐居深山逃避战乱，并不愿进入仕途，因此谢绝了乡里友人的推荐。
咸丰元年冬天，湖广总督程矞采接到胡林翼的荐书后，不敢怠慢，立即修书一封派人送往湘阴，请左宗棠出山。但左宗棠在家中读了这封聘函后却直摇脑袋，一向恃才傲物的他，是不会轻易为人所用的。以诸葛自诩的他希望程矞采能够屈尊就加、诚恳地“三顾茅庐”，然后他再做决定。可惜的是这个程矞采远没有当年刘备的诚心，而且他不久便被革职发配，也就没有机会再来延请左宗棠给他当军师了。
1852年（咸丰二年）4月，太平军从永安突围北上，一路夺城闯关，兵锋直指湖南长沙。不仅朝廷震惊，湘中官绅们也都惊恐不安。6月中旬，太平军从广西挺进湖南，加剧了清朝统治者的惶悚不安。6月21日，清廷将原云南巡抚张亮基调补湖南巡抚，命其迅速赴湘就任，抵御太平军。
张亮基，字石卿，江苏铜山人。原是林则徐的属吏，与胡林翼关系甚佳。他在云南，早就听林则徐盛赞左宗棠为“负经世才”，因而将有关左宗棠的材料一直储存着。胡林翼也曾多次向他函荐左宗棠才堪大用，希望召之出山。
因此，在8月22日，当张亮基经由贵州进入湘境，到达常德时，就在途中聘请左宗棠，力请出山共谋大局。但考虑道路难行，同一天又派专人带上大礼去请。又驰书胡林翼，征询湘省人才和御敌之方。
这时的左宗棠在过完中秋节后，就忙着将自己的全家移居到了湘阴东山白水洞，其中有他的哥哥宗植一家及妻妹全家。郭嵩焘兄弟等人也迁居东山邻近白水洞的周礤岭。
胡林翼收到张亮基的信后，再次向张亮基极力推荐左宗棠。
张亮基读过胡林翼信后，再次派专人往请。但左宗棠依然一脸傲气，托辞推谢。其实，此时的左宗棠只是出于对张亮基还不了解，不愿意将自己的命运草率地同一个自己并不了解的人捆绑在一起。
10月6日，张亮基抵达长沙附近的乔口，连夜驰书胡林翼，请他尽快想办法请出左宗棠，望即出山相助。胡林翼见此情景，便反过来做左宗棠的说服工作，立即写信给左宗棠，敦促其急速出山。
张亮基除托胡林翼外，还驰书已尾追太平军到达长沙的江忠源，托他写信劝说。
江忠源（1812～1854），字常孺，号岷樵，湖南新宁人。清道光十七年（1837）举人。1844年，在籍办团练，灌输忠孝礼义，教兵法技勇。1847年，率团丁配合清军镇压雷再浩会党起义，升署浙江秀水知县。1851年（清咸丰元年）7月，太平天国金田起义后，奉命赴钦差大臣赛尚阿广西军营。随后在籍募勇五百赶赴广西，号“楚勇”，为湘军之雏形。
清咸丰二年（1852），江忠源所部扩至1500人。5月，在全州以北的蓑衣渡伏击太平军，夺其船只辎重，打破了其沿湘江北攻长沙的计划。这时，江忠源正率部尾追太平军入湖南，驰援长沙。江忠源也是左宗棠的好友，而且也向张亮基举荐过左宗棠。
张亮基也请江忠源写信敦促左宗棠出山，这里还有一个故事。在长沙被围的紧急时刻，江忠源为张亮基献上一计：长沙现有兵力4000人，当率1000人出城，还有3000千人分别扎营东门、西门和北门，他亲率五百楚勇和部分绿营军正面挡敌。这一筹划，得到张亮基的极大赞赏：“将军调迁兵力，着眼全局，实在高明，若古之诸葛亮在世，亦不过如此。”
江忠源道：“大人言重了。卑职乃平庸之人，岂敢与诸葛相比。不过大人一提，卑职倒想起有人跟我说过，湖南有三亮，得一亮，湖南可治。”
张亮基眼睛一亮，忙说：“哪三亮，请将军明言。亮基虽比不得当年刘备，但亦愿效法前贤，重金相聘。”
“三亮即‘老亮’、‘小亮’和‘今亮’。‘老亮’者，罗泽南也。他目前正在湘乡练勇。‘小亮’者，刘蓉也，此人对经济之学钻研甚深。‘今亮’者，湘阴左宗棠也。”江忠源接着道，“卑职对‘老亮’、‘小亮’虽然佩服，但觉得终究不能与‘今亮’相比。唯有‘今亮’，敬佩至极，此人真乃人中之杰，诸葛再世也。”
“这样看来，左宗棠确有真才实学，但不知比起将军来相差几多？”
“卑职怎敢与左宗棠相比？如果套用徐庶的一句现成话，那是以驽马比骥骐、寒鸦匹鸾凤耳！”
听了江忠源的这番话，张亮基对左宗棠是个“绝世奇才”，更是深信不疑，故在“火烧眉毛”之时，请江忠源再送一信催促左宗棠前来。
其实，左宗棠虽然已经避居白水洞，但他也并非真的想做隐士，他本来就视农民起义为“盗寇”，期望能做“办寇之人”；加上张亮基再三再四的礼聘托请，胡林翼、江忠源的盛言举荐敦促，使他心动；与左宗棠同时避乱山中的郭嵩焘、郭昆焘兄弟以及他的二兄左宗植等人，也劝其应聘，齐说：“公卿不下士久矣，张公此举，宜有以成其美。”于是，徙居白水洞还不到十天的左宗棠，就在湖南巡抚张亮基的再三礼请下，为了封建地主阶级的利益和个人的功名利禄，终于答应应聘出山了。
10月7日傍晚，张亮基“率卫卒亲秉炬梯北门”进入早已被太平军重兵逼围的长沙。第二天即10月8日，左宗棠也从湘阴白水洞赶到了长沙，“缒城而入”，诣抚署谒张亮基。张亮基“握手如旧，留居幕府，悉以兵事任之，至情推倚，情同骨肉。”从此左宗棠便开始了历时8年的幕府生涯。
左宗棠出山之后，在张亮基的手下做起了幕僚。这既符合他此前的布衣身份，也为日后步入政坛积累了宝贵的经验。
在众多亲友邀劝之下，左宗棠终于为“保卫桑梓”而出山。即使出山后，他仍然想抽身引退，匿迹荒山，在同时人中是仅见，也可见他思想深处自有想法。在邀劝推荐他的众多亲友和官员中，有其二哥宗植、友人胡林翼、曾国藩、江忠源、罗泽南、王柏心，地方大员张亮基、骆秉章，京官宗稷辰、潘祖荫等，他终于出山，真有“斯人不出，如苍生何”的光景。
