后来，曾国藩对于这一段经历有过一段深刻的自省。曾国藩曾经在家信当中谈道：我以前总是自负得很，以为自己本领很大，可屈可伸，可行可藏，每每看见的，总是人家的不是。后来，才知道自己实际上还有很多不足。有了这样的自知之明之后，曾国藩变得谦恭了，也变得圆滑了。以前，曾国藩对官场之风是很厌恶的，很容易和别人发生矛盾，致使自己腹背受敌。重新出山之后，曾国藩调整了自己的策略，对于乌烟瘴气的官场，也能主动适应了。他的好友胡林翼看出了他的变化，在写给曾国藩的信中，胡林翼不无调侃地说他重新出山之后，渐趋圆熟之风，无复刚方之气。曾国藩看后微微一笑一他清楚地知道，如果要想有所作为的话，就必须适应自己身处的现实环境，适应那种流传了上千年的中国官场文化。
曾国藩在湘乡白杨坪在籍守制期间，外面的形势发生了很大变化，湘军并没有因为曾国藩的出走而元气大伤，相反，在二号人物胡林翼坐镇湖北的指挥下，取得了不错的战果，一举攻克了江西重镇九江。胡林翼大力举荐、任用湘军大将李续宾、鲍超等，声望直线上升。不过，在湘军中，曾国藩的政治、军事以及精神地位是无法取代的，那些平日里曾国藩积极灌输的“忠”、“信”、“义”的传统道德观，仍像幽灵一样游走在这支队伍中。即使在胡林翼威望不断上升的情况下，备受胡林翼赏识的李续宾，还专门给胡林翼写了一封信，公开提出请胡林翼向朝廷说情，让曾国藩复出。李续宾在信中说：环顾国内大局，只有湘军可以依赖，要实现克复金陵、平定东南的战略目标，就必须请曾国藩再度出山，由“涤帅”主持前方战事，由“胡公”在后方支撑大局，现在大家都在想念“涤帅”，有的还说出一些不利于胡大人的话。这些，都不利于湘军目前的局面，希望胡大人全力向朝廷建言，让朝廷敦促“涤帅”出山一一李续宾的这一封信，代表了绝大多数湘军将领的想法，言之凿凿，坦坦荡荡。聪明的胡林翼从这封信看出湘军还是“唯涤公马首是瞻”，明白曾国藩的地位是无法取代的。胡林翼一直等待时机，准备向朝廷进谏。
这段时间里，太平天国分裂的事态进一步恶化。石达开在逃出南京之后，先是在安庆待了五十多天，惊魂未定，不知所措。然后，石达开拿定主意，准备东进江西、浙江、福建一带，另外开辟地盘，与金陵争雄。从1867年9月底开始，石达开率精兵万余人从安庆出发，突入江西，经景德镇进入赣南抚州、吉安，又经鹰潭、上饶攻入衢州。一路上各路太平军纷纷加盟，石达开的人马一下子增至十万之众。
清廷感到非常震惊，火速命胡林翼征调李续宾部增援浙江。出牌的机会终于到了，胡林翼不失时机地向朝廷上了一折，借口皖、鄂军情紧张，拒绝抽调李续宾赴援浙江，逼迫朝廷重新起用曾国藩。朝廷见事态紧急，赶忙召和春赴浙江，和春借口生病，也不赴任。与此同时，湖南巡抚胳秉章上了一个奏折，请求朝廷重新起用曾国藩，说只有曾国藩才能对付得了石达开。在这种情况下，朝廷无奈只好降旨，命令曾国藩由原籍迅速返回湘军大营，火速带兵前往浙江办理军务。就这样，曾国藩在白杨坪接到让他重新出山的上谕。
1858年7月，曾国藩再次出山。这段时间沉潜老庄，运其深思，已有一些东西在他的内心暗暗生成，现在，该是这种东西开花结果的时候了。经过铜梁山时，曾国藩感慨万千。回乡后，为了方便行人往来，曾国藩曾亲自出资在此修建了一条青石板山路，同时，在峰顶修建了一座两湘亭〔这里是湘乡、湘潭两县交界处〕，并亲自为“两湘亭”题写了对联：“稍停息，到此已登峰造极；息重担，远眺则放眼开怀。”现在，亭子上的对联墨迹似乎未干，自己却又要出征了。站在两湘亭中，极目远眺，曾国藩不由仰天长啸，很长一段时间淤积于胸的浊气，随着一声长啸，一下子消失得干干净净。此次再度出山，何去何从，一切都像眼前空蒙的景色一样，云蒸霞蔚中，既无法判断，也无法估量了。
出山之后的曾国藩变得更加迅猛，很快，曾国藩又在长沙一带招募了一支一万五千多人的人马。然后，曾国藩赶到武昌，与湖广总督官文、湖北巡抚胡林翼等会商追击石达开事宜。又率部队顺流而下，进人江西境内，图谋从赣南绕道进人浙江，全力追击石达开部。
重新出山之后，一个新的曾国藩出现了。当年那个稍显刚愎而呆板的曾国藩不见了，现在的曾国藩，是阅尽千帆，始终能保持坚韧之心的曾国藩，是一个既有原则性，又具灵活性的政治家。当曾国藩重新落座时，就像一个棋手大睡三天，重新端坐在旧日的棋局前。如果说原来的曾国藩是一只剌猬的话，那么，重新出山的曾国藩就更像是一只狐狸，或者说，他变得同时具有剌猬和狐狸的品质一既坚韧有力，又狡猾无比。曾国藩一改往日稳重迟缓的风格，落子飞快，一方面他仍能顽强地将对手拖人泥淖，另一方面，他又能跳将出来，谋划着在适当的时机，竭尽全力丢出自己的胜负手。值得一提的是，在内心的窗口豁然打开之后，那种相关联的幽默感也在曾国藩身上充分体现了。原先紧张而阴鸷的曾国藩开始气定神闲、举重若轻了，他频繁地跟部下谈笑风生，经常说一些笑话，把部属们逗得前仰后合，而他却一直端坐着，捻着胡须，悠然地看着他们，就像看着一群淘气的孩子。曾国藩很少开那种凝重无比的会议，他经常是利用吃饭时间，把将领召集过来，让厨师烧几个好菜，然后，又上一汤好茶，轻轻松松地，就把很多问题解决了。当曾国藩以一种轻松而幽默的方式来对待眼前一切时，他突然发现，战局就如同游戏一样，已变得一目了然。
当然，此刻的曾国藩在骨子里仍是一如既往的忧郁。一个新的问题摆在他面前一一在离开这支部队十五个月之后，曾国藩突然发现，这支湘军的变化是那么大，几乎已不是当年的那支湘军了。湘军的军纪变得更糟糕，当年自己为这支部队所制订的很多规章和约束，早就被他们置之脑后。每当湘军夺取一个城镇，随之而来的，即使不是滥杀，也总是在掠夺。枯燥的战争夺走了士兵们最后的一点人性，当年那些老实巴交的庄稼人，此刻已变为名副其实的职业刽子手。这样的变化不仅仅是指那些普通的士兵，甚至，那些饱读诗书的湘军将领，也变得焦躁而冷酷。他们不仅仅对士兵疏于教诲，有的，还睁一只眼闭一只眼对于士兵的荼毒给予支持。而且，士兵的成分也变得越来越复杂，原先曾国藩倡导到偏避山区招兵买马的初衷，早已被他们颠覆，为了省心省力，那些将领们只是在城区附近随意招兵买马。这样，湘军的组成人员鱼龙混杂，社会上那些无法自食其力的地痞流氓小混混，全都充斥到湘军当中。这些，都让曾国藩很无奈。曾国藩刚回湘军遇到的一件事就是：曾国荃的一支部队在江西吉安附近打了胜仗之后，随意屠杀和掠夺，当地的百姓叫苦连天。消息传到曾国藩这里，曾国藩大为光火，一气之下，将这支两千多人的部队全部解散回老家。曾国藩才不要这样的部队呢，如此失去人性的部队，又有什么益处呢？曾国藩感到困惑的一件事就是，如果很长时间陷人战争泥淖的话，那些麻木不仁的士兵们会不会因此丧失人性？
曾国藩出山之时，清军正取得战场上的节节胜利。在此之前，湘军李续宾部攻克九江，太平军林启容部一万五千人战死。九江的争夺，是长江沿岸的关键，经历这一场胜利后，湘军大受鼓舞，上上下下普遍轻敌。1858年11月，正当曾国藩全力追击石达开部的时候，噩耗传来，刚刚在九江取得大捷的湘军李续宾部六千多人，被太平天国李秀成、陈玉成联手在庐州三河镇全歼，李续宾和他的亲家，也即曾国藩的弟弟曾国华战死。
曾国藩五雷轰顶。李续宾是曾国藩非常欣赏的儒将，一直对自己忠心耿耿；曾国华是曾国藩的三弟，虽然自小起过继给叔父，但一直跟曾国藩、曾国潢、曾国荃、曾国葆在一起长大。在曾家，曾国藩排行老二，上有一姐，下有三妹四弟，因最小的妹妹早夭，实际上曾家兄弟姐妹共有八人。曾国藩兄弟五人感情是很深的，二弟曾国潢字澄侯，在族中兄弟中排行居四，称为老四；三弟曾国华字温甫，小时候过继给了曾麟书的三弟曾骥云，在族中大排行居六，称老六；四弟曾国荃字沅甫，在族中大排行居九，称老九；五弟曾国葆字季洪，后改名曾贞干，字事恒，称季弟。这几个弟弟分别小曾国藩九岁、十一岁、十三岁、十七岁。“长兄为父”，曾国藩在他们面前，的确有这样的感觉。曾国华读书不太用功，科举不顺，但对于兄长，却一直很敬重。当年曾国藩在江西被围困时，正是曾国华奉父亲曾麟书之命，孤身一人到湖北胡林翼处搬了五千救兵，冒着大雨，连续攻下咸宁、蒲圻、崇阳、通城四县，之后又攻克新昌、上高等地，直达瑞州城外，帮助曾国藩缓解了危机。其时正是盛夏，一路行军打仗，曾国华透支了心力和体力，到了瑞州之后，一病不起。稍好之后，曾国华赶到南昌，兄弟相见，悲喜交加。在曾国藩看来，曾国华性情粗躁，缺乏心机，很容易犯错让对手抓住破绽，不太适合打仗，所以曾国藩多次劝阻他回老家。这一回，果真验证了曾国藩的判断。
让曾国藩感到更伤心的是，探子向他报告说：三河战斗结束后，尸横遍野，堆积如山，一开始，连曾国华的尸体都找不到。很多天后，才在如山般的尸体中，找到一具无头尸，只是从衣甲打扮上看，估计是曾国华。谁也不知道那些太平军是如何处置曾国华首级的。曾国藩伤心欲绝，这么多年与太平军的战斗中，曾国藩得到了很多，但他失去的，要比得到的远远多得多。曾国藩整整流了一天一夜的眼泪，悲恸之中，曾国藩提笔写下了一首《哀词》，最后几句是：
骨不可收，魂不可招。峥嵘废垒，雪溃风飘。
生也何雄，死也何苦。我实负弟，茹恨终古！
曾国藩还为曾国华的葬礼题写了一副挽联：
归去来兮，夜月楼台花萼影；
行不得也，楚天风雨鹧鸠声。
鹧鸪声中，曾国藩在大帐中为曾国华招幡还魂。夜幕降临之后，曾国藩圆睁着一双猩红的眼睛，在黑暗中苦苦地酝酿复仇计划。
1861年，曾国藩满五十岁，从1854年出山作战开始，屈指一数，与太平军的战争已经到了第七年。这么多年的戎马生涯，曾国藩发现，自己改变得太多了。
