曾國藩辦湘軍最大的難題莫過於軍餉了，數萬人馬，天天都要吃飯，常言道“兵馬未動，糧草先行”，可是湘軍卻得不到國家的正當供餉，況且曾國藩規定的軍餉標準還很高。
初辦湘軍之時，招募軍隊無餉可供。曾專派郭嵩燾回籍籌借軍餉，又賴衡州知府借給他10萬兩準備修城牆的錢，後來打了湘潭第一次勝仗，10萬借款才由湖南藩庫報銷。
當時，武漢形勢吃緊，朝廷連番下旨讓他自湖南出援武漢，他遲遲未動。其中原因主要是皇帝命他率兵千裏迢迢，援救湖北，而且一路征戰，竟未提軍餉自何而出。沒有軍餉如何出征?他讓人各處求助，懇求商紳捐資，猶如泥牛入海，毫無消息。
恰在此時，有個在籍戶部候補員外郎楊江要求捐助。曾國藩聞訊自然高興，但楊江提出個條件，讓曾國藩代他上奏皇帝，準許為其祖父在原籍衡陽建鄉賢祠。曾國藩是了解其中原委的；楊江的祖父楊鍵是湖北巡撫，道光二十五年(1845年)病死。死後其家屬便活動地方官入奏道光，請求建鄉賢祠。而有人反映，楊鍵官聲很壞，有嚴重的貪汙、受賄行為。道光帝聞奏，不僅未允其入祠，且把上奏請入祠的地方官臭罵了一頓。這件事鬧得轟動京城，曾國藩時任職詹事府，熟知此事，曾為楊家而不恥。如今，為了軍餉問題，要親自出麵為一個貪官申請入鄉賢祠，一是不合儒家道德規範，再是要冒風險，弄不好自己要背上惡名。可是，為了軍餉所逼，曾國藩竟同意為楊鍵寫了奏折。
奏折封送之後，楊江當即捐助兩萬白銀，還說等皇帝批複後再捐5萬兩。楊江帶頭捐款，其他官紳也不能旁觀，一下子捐了10萬餘兩。這點錢雖不多，但總算解了燃眉之急。
誰知湘軍初戰不利，在“東征”的途中吃了敗仗，退回長沙。吃敗仗是個打擊，長沙官紳齊罵曾國藩無用，使他抬不起頭，而雪上加霜的是，鹹豐帝看了曾國藩請楊鍵入鄉賢祠的奏折，下旨申斥他，還降了他兩級官銜。
鹹豐四年八月(1854年10月)，湘軍僥幸攻克武昌，占領武漢三鎮。曾國藩以為該是喘口氣的時候了，他上奏鹹豐，要求鞏固湖北，徐圖東進。其中理由之一，是好好解決一下湘軍的供給，待到兵精糧足之時，再東下長沙，好好與太平軍打幾仗。但是，鹹豐不管這一套，逼令他立即東進。當時新占武漢，正是得勝之師，在武漢總算湊備了“東征”的軍餉，接著取得田家鎮大捷。鹹豐再令他繼續東進，攻九江，取南京。
田家鎮一戰，雖然取得不小的勝利，但湘軍損失很大。曾國藩要為戰死的官兵發恤銀、為有功的官兵發賞銀，加上戰爭消耗，從武漢帶來的銀子花得精光。馬上又要“東征”，軍餉又成了大問題。他向鹹豐帝請求發餉，鹹豐下旨讓陝西巡撫王慶雲解銀14萬兩，江西巡撫陳啟邁解銀8萬兩。然而，曾國藩等了許久也不見銀子匯到，甚至連個回音都沒有。
就在這時，郭嵩燾提出江北大營在揚州仙女廟抽厘金助軍餉的事，請求曾國藩也仿效辦理，在軍過之處向商賈抽厘，以助湘軍作戰。當時曾國藩不知抽厘的辦法，郭嵩燾說：“江北大營也缺軍餉，有左都禦史雷以xck1.eps；p到揚州助軍，想出了一個籌餉的辦法：仿照漢朝算緡之法，對商賈征厘稅，值百抽一，稱作‘厘金’，居然順利抽得大量銀兩，解決了江北大營的軍餉。”
到底湘軍辦不辦厘金?曾國藩令大家充分發表意見。劉蓉說，聽說蘇北辦的厘金，到處設關，關卡林立；處處抽厘，各為百金抽一，連續勒抽，往往抽之過半，弄得商民怨聲載道。湖南、湖北、江西連年征戰，百姓已被敲骨吸髓，若再強抽厘金，就沒有活路了。
但郭嵩燾認為蘇北辦理不善，是混進了壞人，我們可以作為借鑒，認真辦理。
其他人意見不一致，但用餉急迫，對抽厘之事堅決反對的卻不多。曾國藩見眾人的意見趨於一致了，便讓郭嵩燾去湖南與駱秉章商量，利用“東征局”的名譽，先在長江、湘潭、益陽、嶽州、常德、衡州6處試行。若是可行，就認真實行，顆顆銅子都要有交待，莫對不起三湘父老；若不可行，立即停止。
湖南的厘金尚未辦妥，江西戰場便發生所料不及的大戰。九江攻不下來，湖口打了大敗仗，江外水師全部瓦解，湘軍受到了前所未有的巨大損失。隨後，太平軍攻占了江西大部分地區，曾國藩遇到了太大的困難!水師要重建，陸師要大幅度調整，還要隨時準備與石達開打大仗。曾國藩最發愁的還是軍餉，還是銀子!他沒有辦法得到，隻得向江西巡撫陳啟邁伸手要，盡管前次碰了壁，但曾國藩認為，前次是在湖北，這次是在江西，完全是為江西的失地與太平軍作戰，諒他陳啟邁不會置之不理。可曾國藩想錯了，陳啟邁不僅分不給，還大造其謠，他在江西官員中散布：曾國藩的湘軍打仗發了財，湘鄉、平江、新寧肥的流油，隻要家裏出個湘勇，全家都不要做事，銀子花不完。湘鄉的田地沒有買的，都買到外省外縣去了，皇帝的銀子運到了曾國藩家，皇帝都沒錢了，我們哪得錢給他。曾國藩聽了這些謠言十分氣惱。
正在曾國藩又氣又急之時，江西萬載縣舉人彭壽頤向他建議，在江西籌銀有辦法：一是勸捐，目前在籍刑部侍郎黃讚湯黃大人在籍守製，極讚揚湘軍的抗敵義舉和曾大人您的行為，他若出麵勸捐，一定奏效。自己也可以去好友之處，以大人之德，向同鄉、同窗們募捐。再是可以在江西就地設厘局，抽厘助餉。
曾國藩讚揚彭壽頤的行為，募捐之事立即去辦，抽厘之事容再商量。
經過活動，果然先得了一筆銀子。黃讚湯出麵大力張羅，在鄉紳之中很快募得白銀10萬兩，彭壽頤竟也募來3萬兩，這真是雪中送炭。
設厘局之事，經過商量也搞了起來。曾國藩讓彭壽頤負責，在南康設總局，在各縣設了十幾個關卡，出手便抽得數千厘金，曾國藩甚是高興，以為這下子軍餉有指望了。
然而好景不長，曾國藩設厘局用了彭壽頤，彭是江西地方人，江西巡撫陳啟邁以為這是越權用人；江西地麵不歸曾國藩管轄，他有何權在這裏設厘局抽厘金?於是，陳啟邁煽動地方，與曾國藩對抗。不久，湘軍的厘局在抽厘時，查到了地方官走私鴉片，厘局扣了地方官的走私船，地方官又向陳啟邁告狀，雙方便鬧了起來。可陳啟邁不問曲直，批令地方官封了曾國藩的厘局，還把彭壽頤捆綁入獄。事情鬧得非要曾國藩出麵不可了，曾國藩率劉蓉等幕僚，到出事地點調查，查出了地方官私賣鴉片的確證。在忍無可忍之下，向鹹豐上奏參了自己的同鄉同年陳啟邁。參奏的內容也是他調查來的，如陳啟邁曾為已革職總兵趙如春冒功請賞，曾為奉旨正法的守備吳錫光虛報過戰功。這兩條是地方官常幹的事；地方大吏，明明打了敗仗可以說打了勝仗，逃將可以說成功臣。隻要不出大婁子，即使皇帝知道了也不會怎麽樣。曾國藩還告陳啟邁並不認真安排戰守，丟了江西的8府54州縣。又告他阻撓破壞湘軍作戰，捆綁逮捕辦團有功舉人彭壽頤，縱容地方官私運鴉片。
曾國藩的奏折上達後，其中丟了江西大部分土地給太平軍一節打動了鹹豐帝，他本來就惱恨太平軍在江西攪得心神不安，怪罪陳啟邁沒有守住江西。因而準了曾國藩的彈劾，一下子把陳啟邁罷了官。
然而，去了陳啟邁，來了俊，曾國藩在江西的軍餉問題仍未解決。為了軍餉，使他的一軍全軍覆沒；為了軍餉，俊害死了湘軍大將畢金科。以後的日子，仍靠“討飯”維持。多虧黃讚湯一人先後為湘軍籌捐百餘萬兩，劉於淳、甘晉等士紳也極力幫他籌措，才勉強維持住，使湘軍沒被困垮而已。
正在曾國藩極度困難和苦惱之時，突然接到其父曾麟書於鹹豐七年二月四日(1857年2月27日)去世的訃告。聞此噩耗，曾國藩反而感到是擺脫困境的天賜良機，立即向鹹豐帝陳報丁憂，並要求開缺守製。他不等諭旨允準，便與弟弟曾國華自江西奔喪返鄉。在陳情奏折中，除以孝道為由，堅決要求開缺外，還說此時返鄉守製並不影響大局，因為自鹹豐六年(1856年)秋，太平軍內部發生內訌，使整個戰局發生了逆轉。在江西方畫，湘軍逐步奪回了被太平軍占領的廣大地區。武漢也被胡林翼和李續賓攻克，湖北綠林軍和李續賓湘軍聯合東下，長江上遊沿江城鎮又被奪了回來，大軍來到江西，與曾國藩湘軍一部又包圍了九江，江西的吉安、瑞州等要地雖還在太平軍手中，但也都被湘軍包圍了。所以，曾國藩說，此時返鄉，把軍隊交待給部下，同自己未離去是一回事。
曾國藩到家多日才收到從江西轉來的皇帝的批複：隻準他3個月假，不允開缺。3個月假滿之前，鹹豐下旨命他立即返回江西軍營。曾國藩再次上奏，要求給假3年，在這個奏折中，他向鹹豐表白了不願再回軍營的理由。他說：自古帶兵者從未有他的困難大，領兵打仗卻沒有軍權，自己“雖居兵部堂官之位，而事權反不如提鎮”。湘軍雖負擔了兩湖、江西的抗敵重任，但卻沒被國家和地方承認，領兵人員都沒得到武官的實缺，自己要為湘軍將領申請個獎賞，必得地方官同意，由地方官上奏。還說：湘軍無軍餉，行軍作戰，獎功恤死，都得向地方官討錢，而地方掌握了政權與財權，視湘軍為累贅，打擊、排擠、陷害者有之，就是無人給軍餉。又說：自己擔起了出省作戰的命令，並無出省作戰的資格，地方官也沒接到皇帝給的接待湘軍的旨意，軍中連個正式印信都沒有，湘軍在別的省客位虛懸，處處受刁難。他明確表示：在江西帶兵，不給個巡撫實職或欽差頭銜是無法維持下去的。如果還像前幾年那樣，就讓江西巡撫和提督、將軍去帶兵作戰好了，他不會再回去了，就讓他留在家裏盡孝道好了。
鹹豐看了曾國藩的奏折，見他直接伸手向皇帝要實權，考慮再三，最後認為太平軍的勢力一天天衰落下去，不一定非要曾國藩才能打贏太平軍；讓曾國藩又有軍權，又有督撫大權也太危險。遂順水推舟，批準讓他在籍守製3年的請求。這樣，曾國藩便離開了湘軍，開始了鄉居的生活。
曾國藩自鹹豐七年二月二十九日奔喪至家，至八年六月初七日再度出山由湘鄉動身赴浙江，先後家居一年半時間。
這一年半時間，名曰“鄉居”，實則是曾國藩一生思想、為人處世巨大轉折的時刻，就像練武功的“坐關”、佛道的“坐禪”一樣。曾國藩經鄉居之後，為人處世簡直判若兩人。
首先，如前所述，他是遭受了極大的折辱，很不情願地鄉居的。所以，回到家裏心情十分苦悶，怨天尤人。他不明白，自己出於對清政府的一片忠心，“打掉牙活血吞”，在戰場上拚命，但是結果卻處處碰壁，連皇帝都不買他的賬，甚至根本就不信任他，“卸磨殺驢吃”，現在磨還沒推完，就要殺驢。多少人看他的笑話!他越想越氣，“心殊憂鬱”。憂鬱無處發泄，整日生悶氣，動輒罵人。他數著江西的一幫武罵，罵夠了就找幾個弟弟的茬吆喝。曾國荃等人開始還勸他，後來勸不了隻好不理他，再過些日子就返回了戰場。弟弟們走了，他又開始罵幾個弟媳婦。什麽話都罵得出來，語言粗俗，根本不像個道學家了，弟媳們也都躲著他。頭一年夏天，兒媳(曾紀澤之妻)難產死掉了，兩個月後，曾國荃的妻子熊氏又臨產，怕是被兒媳的魂纏住了也難產，於是鬧著請神漢進府做道場。曾國藩知道了大罵一頓，罵她們裝神弄鬼，罵得道場做不了。
曾國藩不被皇帝信任，吃了極大一顆軟釘子回到家裏。但不少朋友認為他是言不由衷，是背叛前誓，前線正吃緊，跑回家待著，是要挾皇帝。於是，有的批評，有的規勸，還有的幹脆大罵他。罵得最凶的是左宗棠，罵他是假仁假義假道學，在湖南撫衙裏拍著桌子罵，罵他臨陣脫逃，自私無能；罵他不該伸手要官，要不來就躲回家。左宗棠一罵，長沙的大小官都附和著罵。罵得蟄居荷葉塘的曾國藩飯難下咽，夜不成寐，從此“得不寐之疾”。當時他深恨左宗棠，認為別人可以罵他，左宗棠不該罵，他們是同門同道，相互也看得起，尤其在與太平軍對抗，捍衛儒家道統方麵，他應該是知己的。如今我曾國藩被上下整到這步田地，你左宗棠不同情，反而帶頭怒罵，太不懂事了!所以，他又開始在家裏咒罵左宗棠。
盛夏襲擊了湘中，火熱的南風像從巨大的火爐中噴射而出，午夜之後，仍有令人心焦的蟬鳴，蟈蟈也無休無止地叫著，好像有意和徹夜不眠的曾國藩過不去。他時而躺在**，時而在室內外踱來踱去，輾轉反側，反複而痛苦地回憶、檢查自己的前半生。自入仕途，以孔孟入世救世，對自身的修養嚴厲酷冷，一絲不苟；對社會抱有“以天下為己任”的堅定胸懷。持身嚴謹，奮發向上，關心國事，留心民情，因而贏得君王信任和同僚的尊崇，10年京官春風得意。正是抱有這種信念，以一官而白手建軍、治軍，5年來一身正氣，兩袖清風，出生入死。但是，為什麽皇上反而不信任?為什麽上至樞垣，下至府縣，都那麽嫉恨自己?
為了解決這些問題，他又日夜苦讀，重閱《左傳》、《史記》、《漢書》、《資治通鑒》，希望能從這些書裏找到解決問題的決竅。然而，這些書他已讀得爛熟了，重新翻讀，隻能找到自己過去的思維印跡，並未發現新東西。
據說在百思不得其解之時，曾國藩曾想要走入空門。然而，深厚的儒家根基使他終於拔不動塵世間的雙腿。但因為他遁入佛門，使他認真閱讀了以前看過，但並不相信的《道德經》、《南華經》等老莊的著述。這些書名為出世之學，但曾國藩重讀，卻為他的立身處世指點了迷津。你看：同樣為人處世，孔孟主張直率、誠實，而申韓(申不害、韓非)等法家卻主張以強碰強，硬對硬，老莊則主張以柔克剛、以弱勝強，“天下之至柔，馳騁天下之至堅”，“江河所以為百穀之王者，以其善下”。下反而是王，弱反而能強，柔則是至剛。把老子的言論對比自己過去的行事，他發覺自己處處直截了當，用的是儒家的至誠和法家的強權，表麵上痛快幹脆，似乎是強者，結果處處碰壁，實質上是失敗，是弱者。到頭來弄得上上下下處處是敵人，前前後後處處是障礙。過去也知道“大方無隅”、“大象無形”、“大巧若拙”，但一直沒有真懂，所以自己的行事恰好是有隅之方，有形之象，似巧實拙，真正的大方、大象、大巧是無形無象、鬼斧神鑿的。“大柔非柔，至剛無剛”，太妙了!讀到這裏、想到這裏，曾國藩如同從黑夜裏一下子走上了光明世界，豁然開朗。
自此之後，曾國藩行動做事，由前時的方正，變為後來的圓通。他自己承認，“昔年自負本領甚大，可屈可伸，可行可藏，又每見人家不是。自從丁巳、戊午大悔大悟之後，乃知自己全無本領，凡事都見得人家幾分是處，故自戊午至今9年，與40歲前迥不相同”。曾國藩這裏把家居的兩年自稱為“大悔大悟”之年，他自認為前後行事“迥不相同”了。
曾國藩大徹大悟後的巨大改變，使他的朋友都有所感覺，胡林翼就說他“無複剛方之氣”。出山之前，他對清廷上下的官場習氣很是反感，“與官場落落不合，幾至到處荊榛”。而再次出山之後“改弦易轍，稍覺相安”。其中原因人多不知，隻在他的至親密友中私下告知他自己學問思想方麵的變遷，行為處世方麵的變化，曾國藩個人對自己的“大徹大悟”既是痛苦的，又是滿得意的。苦在被迫放棄了自己前半生的信仰與行為；得意在畢竟發現了做人處世的“真正”秘訣“大柔非柔，至剛無剛”。
曾國藩家居的一年多時間裏，戰爭形勢發生了巨大變化。他離開江西時，太平軍與湘軍正在相持苦戰，九江、吉安、瑞州等城尚在太平軍手中。但是，由於太平軍的內訌，石達開先是離開湖北戰場，後又於鹹豐七年五月(1857年5月)底分裂革命隊伍，率太平軍精銳出走，湖北、江西的兵力大部分跟隨石達開而去。湘軍乘機攻陷九江、瑞州、撫州、湖口、臨江，湖北方麵的武昌等城也再度為湘軍攻陷。湘軍控製了兩湖、江西的絕大部分地區，開始向安徽方麵進攻。
由於湘軍作戰有功，其將領們一個個升官晉爵，今非昔比。到鹹豐八年(1858年)，胡林翼加太子少保，楊載福官拜提督，李續賓也官至巡撫，賞穿黃馬褂。其他將領，也都得到相應的官銜。然而，在籍守製的湘軍統帥曾國藩仍然是原來的侍郎官銜。這兩年他雖信奉老莊，但相比之下也太懸殊了，心裏不免激憤不平。他給曾國荃寫信說：“願吾弟兢兢業業，日慎一日，到底不懈，則不特為兄補救前非，亦可為吾父增光泉壤。”還說，湘軍官員都“大有長進，幾於一日千裏，獨餘素有微抱，此次殊乏長進”。他親手創建的湘軍，在鎮壓太平天國的戰爭中立下殊勳，將領們升官揚名，他自己卻在關鍵時離開了戰場，自然也就失去了立功揚名，光宗耀祖的大好機會，如果戰爭馬上結束，自己也就太吃虧了。
想到這裏，曾國藩後悔非要回家守製。他曾想給鹹豐帝上書，要求馬上返回戰場，但礙著麵子，畢竟拿不起寫折的筆。
但是，湘軍在曾國藩家居的一二年內，雖然順利地取得了不小的勝利，實則是由於太平軍上層領導的內訌提供的大好機會。而湘軍畢竟是曾國藩親手創建，湘軍將領都是曾國藩親手培植，曾國藩是湘軍統帥。他雖然家居一二年，湘軍將領與他仍然聯係密切，仍起到遙製作用。在作戰中，別的人很難統一指揮，他的作用絕無人可以代替。因此，由曾國藩保奏而升任湖北巡撫的胡林翼，時刻想著讓曾國藩出山。
鹹豐八年(1858年)，石達開率20萬大軍出走，由江西的饒州、廣信轉入浙江，攻占了浙江的常山、江山等地，對衢州發起攻擊。胡林翼於鹹豐八年三月二十九日(1858年5月12日)上奏，請求起複曾國藩帶湘軍進援浙江；湖南巡撫駱秉章也於五月二十五日(7月5日)上奏。鹹豐帝看到形勢又緊張起來，遂於五月二十一日(7月1日)即在駱秉章出奏之前發布了起複曾國藩，令其率兵援浙的命令。
曾國藩六月三日(7月13日)接旨，再不提任何條件，於六月初七日(7月17日)便離開荷葉塘，趕赴戰場，再度出山率領湘軍作戰。
二次出山之後的曾國藩變得更加迅猛，很快，曾國藩又在長沙一帶招募了一支一萬五千多人的人馬。然後，曾國藩趕到武昌，與湖廣總督官、湖北巡撫胡林翼等會商追擊石達開事宜。又率部隊順流而下，進入江西境內，圖謀從贛南繞道進入浙江，全力追擊石達開部。
重新出山之後，一個新的曾國藩出現了。當年那個稍顯剛愎而呆板的曾國藩不見了，現在的曾國藩，是閱盡千帆，始終能保持堅韌之心的曾國藩，是一個既有原則性，又具靈活性的政治家。當曾國藩重新落座時，就像一個棋手大睡三天，重新端坐在舊日的棋局前。如果說原來的曾國藩是一隻刺蝟的話，那麽，重新出山的曾國藩就更像是一隻狐狸，或者說，他變得同時具有刺蝟和狐狸的品質既堅韌有力，又狡猾無比。曾國藩一改往日穩重遲緩的風格，落子飛快，一方麵他仍能頑強地將對手拖入泥淖，另一方麵，他又能跳將出來，謀劃著在適當的時機，竭盡全力丟出自己的勝負手。值得一提的是，在內心的窗口豁然打開之後，那種相關聯的幽默感也在曾國藩身上充分體現了。原先緊張而陰鷙的曾國藩開始氣定神閑、舉重若輕了，他頻繁地跟部下談笑風生，經常說一些笑話，把部屬們逗得前仰後合，而他卻一直端坐著，撚著胡須，悠然地看著他們，就像看著一群淘氣的孩子。曾國藩很少開那種凝重無比的會議，他經常是利用吃飯時間，把將領召集過來，讓廚師燒幾個好菜，然後，又上一壺好茶，輕輕鬆鬆地，就把很多問題解決了。當曾國藩以一種輕鬆而幽默的方式來對待眼前一切時，他突然發現，戰局就如同遊戲一樣，已變得一目了然。
當然，此刻的曾國藩在骨子裏仍是一如既往的憂鬱。一個新的問題擺在他麵前在離開這支部隊十五個月之後，曾國藩突然發現，這支湘軍的變化是那麽大，幾乎已不是當年的那支湘軍了。湘軍的軍紀變得更糟糕，當年自己為這支部隊所製訂的很多規章和約束，早就被他們置之腦後。每當湘軍奪取一個城鎮，隨之而來的，即使不是濫殺，也總是在掠奪。枯燥的戰爭奪走了士兵們最後的一點人性，當年那些老實巴交的莊稼人，此刻已變為名副其實的職業劊子手。這樣的變化不僅僅是指那些普通的土兵，甚至，那些飽讀詩書的湘軍將領，也變得焦躁而冷酷。他們不僅僅對士兵疏於教誨，有的，還睜一隻眼閉一隻眼對於士兵的荼毒給予支持。而且，士兵的成分也變得越來越複雜，原先曾國藩倡導到偏僻山區招兵買馬的初衷，早已被他們顛覆，為了省心省力，那些將領們隻是在城區附近隨意招兵買馬。這樣，湘軍的組成人員魚龍混雜，社會上那些無法自食其力的地痞流氓小混混，全都充斥到湘軍當中。這些，都讓曾國藩很無奈。曾國藩剛回湘軍遇到的一件事就是：曾國荃的一支部隊在江西吉安附近打了勝仗之後，隨意屠殺和掠奪，當地的百姓叫苦連天。消息傳到曾國藩這裏，曾國藩大為光火，一氣之下，將這支兩千多人的部隊全部解散回老家。曾國藩才不要這樣的部隊呢，如此失去人性的部隊，又有什麽益處呢？曾國藩感到困惑的一件事就是，如果很長時間陷入戰爭泥淖的話，那些麻木不仁的士兵們會不會因此喪失人性?
曾國藩出山之時，清軍正取得戰場上的節節勝利。在此之前，湘軍李續賓部攻克九江，太平軍林啟容部一萬五千人戰死。九江的爭奪，是長江沿岸的關鍵，經曆這一場勝利後，湘軍大受鼓舞，上上下下普遍輕敵。1858年11月，正當曾國藩全力追擊石達開部的時候，噩耗傳來，剛剛在九江取得大捷的湘軍李續賓部六千多人，被太平天國李秀成、陳玉成聯手在廬州三河鎮全殲，李續賓和他的親家，也即曾國藩的弟弟曾國華戰死。
曾國藩五雷轟頂。李續賓是曾國藩非常欣賞的儒將，一直對自己忠心耿耿；曾國華是曾國藩的三弟，雖然自小起過繼給叔父，但一直跟曾國藩、曾國潢、曾國荃、曾國葆在一起長大。在曾家，曾國藩排行老二，上有一姐，下有三妹四弟，因最小的妹妹早夭，實際上曾家兄弟姐妹共有八人。曾國藩兄弟五人感情是很深的，二弟曾國潢字澄侯，在族中兄弟中排行居四，稱為老四；三弟曾國華字溫甫，小時候過繼給了曾麟書的三弟曾驥雲，在族中大排行居六，稱老六；四弟曾國荃字沅甫，在族中大排行居九，稱老九；五弟曾國葆字季洪，後改名曾貞幹，字事恒，稱季弟。這幾個弟弟分別小曾國藩九歲、十一歲、十三歲、十七歲。“長兄為父”，曾國藩在他們麵前，的確有這樣的感覺。曾國華讀書不太用功，科舉不順，但對於兄長，卻一直很敬重。當年曾國藩在江西被圍困時，正是曾國華奉父親曾麟書之命，孤身一人到湖北胡林翼處搬了五千救兵，冒著大雨，連續攻下鹹寧、蒲圻、崇陽、通城四縣，之後又攻克新昌、上高等地，直達瑞州城外，幫助曾國藩緩解了危機。其時正是盛夏，一路行軍打仗，曾國華透支了心力和體力，到了瑞州之後，一病不起。稍好之後，曾國華趕到南昌，兄弟相見，悲喜交加。在曾國藩看來，曾國華性情粗躁，缺乏心機，很容易犯錯讓對手抓住破綻，不太適合打仗，所以曾國藩多次勸阻他回老家。這一回，果真驗證了曾國藩的判斷。
讓曾國藩感到更傷心的是，探子向他報告說：三河戰鬥結束後，屍橫遍野，堆積如山，一開始，連曾國華的屍體都找不到。很多天後，才在如山般的屍體中，找到一具無頭屍，隻是從衣甲打扮上看，估計是曾國華。誰也不知道那些太平軍是如何處置曾國華首級的。曾國藩傷心欲絕，這麽多年與太平軍的戰鬥中，曾國藩得到了很多，但他失去的，要比得到的遠遠多得多。曾國藩整整流了一天一夜的眼淚，悲慟之中，曾國藩提筆寫下了一首《哀詞》，最後幾句是：
骨不可收，魂不可招。崢嶸廢壘，雪漬風飄。
生也何雄，死也何苦。我實負弟，茹恨終古!
曾國藩還為曾國華的葬禮題寫了一副挽聯：
歸去來兮，夜月樓台花萼影；
行不得也，楚天風雨鷓鴣聲。
鷓鴣聲中，曾國藩在大帳中為曾國華招幡還魂。夜幕降臨之後，曾國藩圓睜著一雙猩紅的眼睛，在黑暗中苦苦地醞釀複仇計劃。
1861年，曾國藩滿五十歲，從1854年出山作戰開始，屈指一數，與太平軍的戰爭已經到了第七年。這麽多年的戎馬生涯，曾國藩發現，自己改變得太多了。有時候，曾國藩照鏡子，就像看見陌生人一樣。這個人已不是一個氣宇軒昂的讀書人了，他開始變得衰老，變得臃腫，變得皮膚鬆弛，牙齒鬆動，行動遲緩。這些，隻是外部的變化。在內部，有一些東西已然冷若冰霜，變得更加冷酷和堅韌了。當然，有一種驚人的洞察力出現了曾國藩往往一瞥之中，就能斷定事情的來龍去脈和前因後果。這是一種驚人的能力，也是一種特別的智慧。曾國藩已變成這樣一個人他可以擁有足夠的耐心和堅韌，去等待別人的失誤，等待別人力衰勢竭，而一旦對手稍稍有點走神，或者一時控製不住，露出一些破綻，曾國藩便會像潛伏的眼鏡蛇一樣，一躍而起，死死地咬住對方的死穴。
現在，曾國藩全身心地投入到這場戰爭中去了。這個一直不好色、不賭博、不酗酒、不喜歡揮霍、不愛戶外運動，隻喜歡讀書和下棋的傳統書生，將自己的全部心力都用於軍事的籌劃和搏擊之中。戰爭就是智力和暴力的對壘，曾國藩就像一頭重新出山的狼一樣，一方麵變得更加凶猛，另外一方麵變得更加陰險狡猾。他瘋狂地撕咬著別人，同時進行的，還有自己與自己的戰爭。
戰爭一如既往地慘烈。這樣的慘烈，在更多的時候，對人心也是越來越大的考驗。曾國藩致書曾國荃說：既已帶兵，自以殺賊為誌，何必以多殺人為悔?在某種程度上，可以說，曾國藩已放棄了原來的帶兵理想。現在，他隻想贏得這場戰爭的勝利，不惜代價，也不惜妥協。戰局轉入中盤之後，像羅澤南和李續賓那樣的儒將兼“道德完人”已陸續喪生，營一級的將領中，讀書人已越來越少了，曾國藩不得不開始放棄他一開始隻起用讀書人為將的初衷，開始大規模地啟用那些盲和半盲的猛將。他太需要勝利了，至於軍紀以及戰爭過程中的屠殺和掠奪，曾國藩已顧不得了。新提拔上來的大部分將領隻能勉強認識幾個字，但他們打仗勇敢不怕死，能攻城拔寨。曾國藩起用鮑超和朱洪章就是一個信號鮑超曾是湖南黑社會組織“哥老會”的頭目，他大字不識，隻會寫自己的名字，但他打起仗來剽悍無比；朱洪章也是如此，幾乎沒讀什麽書，行伍出身，是一個殺人不眨眼的家夥。
到了1859年之後，湘軍與太平軍進入了全麵交鋒階段。1859年冬，江南大營的清軍對金陵的包圍趨緊，進攻猛烈，金陵險象環生。太平天國忠王李秀成像一個救火隊員一樣，風馳電掣地從浦口趕回金陵。這個燒炭工出身、身經百戰的將領向洪秀全建議集中兵力全力殲滅江南大營，以消除金陵的心腹之患。商議的結果，是照搬了當年“圍魏救趙”的方式李秀成先虛張聲勢全力進攻杭州，浙江巡撫羅遵殿人出身，不擅布兵，下令兵士死守。各路救援的清軍畏葸避戰，進展緩慢，到達杭州附近後，見太平軍勢大，慌稱道路不通，遠遁躲避。李秀成一舉攻下了杭州，浙江巡撫羅遵殿戰死。聽聞杭州被攻占，鹹豐憂憤至極，下詔催促江南大營的和春、張國梁派兵去救。在這種情況下，江南大營慌了神，連忙調集主力趕赴浙江。李秀成知曉江南大營兵馬調動的消息後，立即從杭州殺了一個“回馬槍”，與陳玉成聯手，兵分五路，直撲金陵城下。具體安排是：陳玉成自全椒南下渡江，經江寧鎮殺向板橋；李秀成從溧陽、句容直殺向淳化鎮、紫金山；李世賢自常州、金坊殺向金陵北門；楊輔清自高淳殺往秣陵關、雨花台；劉官芳自溧陽趨往高橋門。
1860年5月5日，李秀成、陳玉成的十萬兵馬突然出現在清軍江南大營前，隻有數萬人的江南大營潰不成軍，太平軍一上午就殲滅清軍一萬餘人。江南大營統帥和春、張國梁等敗逃江蘇丹陽。李秀成緊追不舍，指揮太平軍全力攻克丹陽，擊斃江南大營幫辦張國梁。兩江總督何桂清逃往上海；和春繼續敗逃到蘇州城郊之後，又驚又怕，自縊身亡。李秀成一直追到上海城下。6月2日，李秀成又會合李世賢軍攻占蘇州，清江蘇巡撫徐有壬戰死。這一次太平軍大獲全勝，不僅順利地解除了金陵之圍，而且使東南局勢發生了根本變化，清軍經營了很多年的局麵一下子逆轉。
太平軍攻打江南大營之時，曾國藩的湘軍大營正駐紮在安徽宿鬆縣，全力準備安慶戰役。所部萬餘，分布在潛山、太湖、宿鬆一帶；李續賓近一萬人，也駐紮在桐城西南，掩護包圍安慶的曾國荃部。小小的皖西，一下子聚集了這麽多兵馬，到處都是黑壓壓的一片，人喧馬嘶，雞犬不寧。江南大營被攻破的消息傳來之時，曾國藩正和部下們在宿鬆羅家祠堂悼念戰死的浙江巡撫羅遵殿。羅遵殿是安徽宿鬆人，也是胡林翼的好友，前一年，他先從湖北藩司的位置上調任福建巡撫，數月後，又調任浙江巡撫。沒想到此番調動，竟遭此噩運。羅遵殿的靈堂一派肅殺氣象，高高懸掛的挽聯由曾國藩親筆題寫：“孤軍斷外援，差同許遠城中事；萬馬迎忠骨，新自嶽王墳畔來。”現在，江南大營二次被破的消息，無疑雪上加霜，在曾國藩看來，這樣的錯誤完全不應該犯下，綠營是朝廷的正規軍，無論是裝備還是籌餉上，都遠遠超過湘軍，更何況朝廷對於綠營一直很重視，要錢給錢，要人給人。這樣的失敗，明顯是因為指揮失誤、官兵怕死造成的。江南大營一破，太平軍必定會重新集結人馬，將主攻目標對準南京上遊。這意味著湘軍的壓力會繼續增大，湘軍弟兄們會因此加倍犧牲。
吊唁之後，曾國藩會同胡林翼等湘軍高級將領在宿鬆召開了一次會議。這是一次具有非凡意義的會議。曾國藩和眾將領在分析了軍事形勢之後，堅信戰爭的最終勝利一定屬於湘軍。而且，綠營一敗，朝廷肯定會重用漢臣，形勢將會有根本性的轉機。在此之前，湘軍在長江中遊取得了一係列的勝利後，雖然受到朝廷的重用，但湘軍畢竟是“體製外的軍隊”，始終沒有納入最可依賴的圈子。曾國藩知道朝廷的真實想法，那就是：讓湘軍在長江中遊與太平軍鏖戰拚消耗，而讓綠營在金陵地區集結，這樣，硬仗由湘軍來打，勝利果實則由綠營來摘取。但朝廷沒有料到的是，民兵部隊湘軍越打越強，逐漸占了優勢；正規軍綠營卻屢戰屢敗，不堪一擊。江南、江北大營連續被攻破，特別是這一次江南大營慘敗，朝廷肯定會調整有關政策半月以後，湘軍大營收到消息，對於江南大營被破事件，鹹豐非常憤怒，下旨將逃到上海的何桂清革職逮問；軍機大臣彭蘊章革職。聽到這樣的消息，曾國藩稍感愉快一些，何桂清一直跟曾國藩不和，彭蘊章更是一個嫉賢妒能的小人。這些人不在台上，對曾國藩當然是好事。
1860年6月李秀成攻克蘇州，形勢對於清廷變得越來越不利，朝廷不得不打曾國藩和湘軍這張牌了一個好消息傳來6月8日，朝廷著曾國藩署理兩江總督，令統率所部兵勇，取道皖南，恢複東南。8月上旬，朝廷實授曾國藩為兩江總督，並命為欽差大臣督辦江南軍務，所有大江南北水陸各軍均歸節製；又將楊嶽斌、彭玉麟統率的湘軍水師撥歸曾國藩節製調遣。
接到上諭的那一刻，曾國藩長籲一口氣，終於感到揚眉吐氣了。曾國藩得到的，不僅僅隻是官位，更重要的，還是承認。從一開始組建湘軍起，曾國藩就一直在不信任甚至打壓中度過。或許朝廷清楚地知道，曾國藩之所以挺身而出，隻是為了維護漢民族數千年的化道統，對於滿族的朝廷，並不是油然於心。曾國藩感到欣慰的是，朝廷此番決定，對湘軍各方的情形有利，尤其是那些抗戰的兄弟們，會因此有些名分，對於今後的前程，也會有利一些。身處兩江總督的位置，曾國藩擔心的一點是，太平軍在蘇南一帶勢頭正旺，力量倍增，此時讓他督辦江南軍務，壓力是可想而知的。在家信當中，曾國藩流露出自己的情緒：擔當此重任，深感害怕，最擔心的是跟前任一樣，遭受失敗，讓自己的家人蒙羞。這樣的事，真不知是禍還是福，隻有自己辛勤地做事吧，以報效朝廷。
有一個小插曲，足以說明曾國藩的做人準則曾國藩接到上諭後，幕僚提醒說，在任命過程中，新上任的軍機大臣肅順起到非常大的作用，是因為肅順的舉薦，鹹豐才下決心讓曾國藩擔當兩江總督的。建議曾國藩給肅順寫一封感謝信，這樣對曾國藩以後的升遷也有好處。曾國藩考慮一番後，沒有寫這封信，他覺得自己擔任兩江總督是朝廷的任命，不是哪一個人的原因，如果硬要歸功某一個人的話，就把是非搞顛倒了。曾國藩隻是給皇上上了一個折子，以謝龍恩。等到鹹豐去世，慈禧聯合慈安以及鹹豐的兩個弟弟發動宮廷政變，殺掉肅順之後，在肅順家找到一個密封的大箱子，裏麵裝的都是全國各地的命官給肅順的效忠信，幾乎所有人的都有，唯獨沒有曾國藩的。這一下，也讓慈禧對曾國藩有了一個很好的認識，確認曾國藩是忠於朝廷的大臣，也敢用曾國藩了。一次陰差陽錯的經曆，足以說明曾國藩的處事原則和處事方法。
應該說，曾國藩就任兩江總督，不僅僅是曾國藩個人的轉折點，也是戰爭的一個轉折點，甚至可以說，是中國近代史上的一個關鍵點。正是滿族君主政體和漢族上層分子中的領袖人物融為一體所造就的強大保守聯盟，才使得這個腐朽的王朝苟延到二十世紀。同時傳來的好消息是：朝廷同意了曾國藩的請求，在全國推廣厘金製度。這一件事，讓曾國藩非常高興。這樣，湘軍的軍事供給就有了很大的保障，最起碼，會比以前的狀況改善很多。晚清的厘金製度，是1853年幫辦江北大營的刑部侍郎雷以xck1.eps；p創議的，其辦法是，在鹽、土藥、洋藥以及百貨中征收百分之一的厘金，用於地方庫銀，這一部分，主要作為地方政府承擔的軍餉。1856年，曾國藩曾與湖南巡撫駱秉章達成協議：湖南的大部分厘金被指定作湘軍經費之用。曾國藩重新出山之後，曾經力爭為整個江西的厘金另外開辟一個不受省布政使控製的特別官署，這樣，便繞開正式的財政機構，將這一部分錢財直接用於湘軍的供給上。但這個渠道一直通行不暢。現在，朝廷正式同意了這一項措施，這意味著從此之後，湘軍軍費有了重要保證。曾國藩如釋重負，自己這麽多年牽扯精力最多的，就是湘軍的供給。
1860年7月3日，滂沱大雨中，曾國藩按照朝廷的旨意，從宿鬆開往皖南。28日，到達徽州祁門縣。祁門是安徽最南部的一個縣，跟江西景德鎮交界，是南京和南昌之間的必經之地，地理位置非常重要，也是湘軍和太平軍的重要糧道。曾國藩把自己的大營設在縣城敦仁裏弄堂的洪家大院裏，這座大屋建於清代中期，原為一洪姓大茶商的私宅，坐北朝南，由承恩堂、養心齋、承澤堂、思補齋四部分組成，房房相連，屋屋相通，是駐紮軍隊的理想之地。曾國藩在洪家大屋巡視了一番後，決定將行轅設置在後花廳之中。然後吩咐筆墨伺候，親自撰寫了一副對聯，讓人貼在柱子上：
雖賢哲難免過差，原諸君讜論忠言，常攻吾短；
凡堂屬略同師弟，使僚友行修名立，乃盡我心。
每到一個地方，曾國藩往往都會親自撰寫楹聯。在楹聯中，往往能看出那一段時間曾國藩在想些什麽，努力避免什麽。祁門洪家大屋的楹聯顯示，到祁門時，曾國藩的心情不錯。
在祁門的那段時間，曾國藩主要是部署防務，查視營壘，巡視嶺防，督戰徽城。白天繁忙的軍務停歇下來之後，每天晚上，曾國藩就要一個人在堂前凝神屏息端坐一會，這樣，就可以讓白天的喧囂和煩躁如塵埃般慢慢落下，內心的漣漪也如微風掠過後的湖麵一樣，重新歸於平靜。曾國藩喜歡在這樣的靜謐中，汲取神秘的力量。然後，曾國藩會繼續抖擻精神，處理大量的來往公。有時候，在公處理的閑暇，曾國藩會認認真真地寫一些私人信件，這些信件就像候鳥一樣，順著蛛網般的驛道飛向四麵八方，當它們飛回來的時候，又帶來了各地的消息。寫信，是曾國藩多年養成的習慣了，既是曾國藩的安慰，也是他情緒的通風口。當曾國藩提筆寫信的時候，他就不再是一個大臣，不是一個殺人機器，一個暴徒；他隻是一個父親，一個兄長，一個朋友。曾國藩寫信對象最多的，就是幾個兄弟，還有兒子曾紀澤和曾紀鴻。在曾國藩看來，自己的幾個兄弟，國潢生性疏闊，國荃豪爽任俠，至於曾國華和曾貞斡(國葆)，曾國藩一直擔心他們“氣太清”，氣太清，就容易單薄，所以每次曾國藩都要囑咐他們多讀書，隻有深厚的思想和紮實的學問，才能彌補氣質的輕薄。當然，曾氏兄弟在通信當中，有很多家長裏短的私事。在曾國藩看來，家事與國事，同樣重要，疏忽不得。鹹豐九年底，曾國藩寫信給曾國荃，安排他回老家全權主持兄弟之間的分家。曾國荃回了老家荷葉塘一趟，把兄長的意思向大家轉達了。這次分家，幾個兄弟互相謙讓，姿態都非常高。在宿鬆駐紮的曾國藩收到了妻子從老家來的信，告知他分家的情況：
內有分家分關一紙稿。大分金、玉二號，係先考與叔父離軒所分。小分福、祿、壽、喜四號，係餘與澄、沅、季洪兄弟四人分，配合停勻，公私鹹得歡心，沅弟之所經營也。
兄弟幾個中，曾國藩最偏愛的，就是九弟曾國荃了，花費心血也最多。曾國藩最擔心國荃的急躁脾氣，幾乎每次給曾國荃寫信，都要告誡他不要冒進，要穩紮穩打，步步為營。對於大他十三歲的家兄，曾國荃當然非常尊敬，曾國荃統領“吉”字營時，曾在軍營中手書一聯，掛於帳中：
打仗不慌不忙，先求穩當，次求變化；
辦事無聲無息，既要精到，又要簡捷。
曾國藩還寫過一首《憶弟詩》送給曾國荃，這詩曾在湘軍中廣為流傳：
無端繞室思茫茫，明月當天萬瓦霜。
可恨良宵空兀坐，遙憐諸弟在何方?
紛紛書帙誰能展，豔豔燈花有底忙?
出戶獨吟聊妄想，孤雲斷處是家鄉。
每一次寫信，曾國藩總是不厭其煩，細致無比。讀曾國藩的信函，可以感覺到的是，無論什麽時候，曾國藩的氣脈都非常順暢，仿佛這些信函不是寫自劍拔弩張的軍中大帳，而是置身於恬靜安寧的鄉野古舍。當然，在家書中，曾國藩也流露出他的迷茫和痛苦，告知家人一些棘手的事情，比如他身患癬瘡所遭遇的折磨這種皮膚病自曾國藩三十歲時感染後，一直沒能見好，曾國藩整天感到瘙癢，尤其是到了夜晚，更是奇癢難耐，無法入睡。曾國藩每到一地，就遍尋名醫，但幾乎所有中醫對這種奇怪的皮膚病都束手無策。在信中，曾國藩經常向他的親人們敘述自己患病的痛苦和無奈，排遣鬱悶，也尋找慰藉。曾國藩就是這樣心無旁騖地寫著家信。家信對於曾國藩來說，就像是每天必需的修身功課，讓曾國藩在肅殺冰冷的戰爭歲月裏，感受到來自老家的溫暖，也讓他冶煉安詳凝重的靜氣。
進軍皖南，是朝廷的旨意，剛剛就任兩江總督的曾國藩自然不好違背。因為江南大營潰敗，金陵附近清軍勢力不再，朝廷想讓曾國藩領軍東援，繼續給金陵施壓。曾國藩也知道孤軍深入的危險，移師祁門，在很大程度上，曾國藩隻想做一個姿勢給朝廷看。此次屯兵祁門，也是跟胡林翼商量過的。之所以把大營選擇在祁門，主要出於多重考慮，一是湘軍的錢糧供給大都來自江西，駐軍祁門，可以保證江西的安全，確保餉源的供給；二是根據事態發展的情況，可以隨時從皖南東進浙江，攻克杭州、湖州，在南部，對金陵形成包圍；三是可以兼顧安慶那邊的戰局，如果時機不成熟，就掉頭回安慶城下。在曾國藩心目中，真正重要的，不是迅速進駐浙江，殺到金陵城下，而是步步為營，把長江沿岸的各個城市，逐一收複，穩紮穩打，然後由西向東推進，直逼金陵城下。在曾國藩看來，安慶的位置太重要了，它就像是太平天國長江沿岸的一個橋頭堡，如果這個橋頭堡占領了，大勢就會逆轉，勝利的天平也就會傾斜。曾國藩率領人馬到達祁門之後，太平天國立即有了激烈反應，調集了李世賢部和李秀成部，全力堵截湘軍的進攻路線。這樣，一直以來富庶寧靜的皖南，不可避免地成為雙方廝殺的戰場。那段時間裏，大大小小發生在皖南的戰役，竟達百餘次之多。由此可見戰爭的頻繁和慘烈。
徽州的戰鬥差一點讓曾國藩身敗名裂。這個時候，曾國藩的主力部隊一部分在安慶城下，一部分在江西境內，戰線拉得過長。一萬多人進入徽州後，一下子掉入太平軍的包圍圈中。當時，在皖南的東北麵，由太平軍李秀成據守；在南麵，則是太平軍李世賢部；在西北，太平軍英王陳玉成的大軍一直在長江沿岸，總兵力在五萬左右。置身這樣的局麵，無疑岌岌可危。湘軍在徽州的崇山峻嶺中一再受阻，通向浙江的道路無法打開。這當中，最嚴酷的戰爭是徽州府的失陷。1860年10月，太平軍兩路夾擊，一路從北到南，從寧國方向殺向祁門；另一路則由南至北，從景德鎮方向殺來。從寧國方向殺來的太平軍連續攻克旌德、績溪，兵臨徽州府城下。曾國藩下令徽州府的將領李元度堅守不出，李元度違背命令，輕易出城，結果被打得大敗。徽州府失守，李元度無臉見曾國藩，南下逃走。曾國藩勃然大怒，要將李元度軍法治罪，李鴻章等一幫幕僚苦苦相勸。為此，曾國藩還跟李鴻章翻了臉，致使李鴻章後來出走南昌。
危機之時，一件意想不到的事情發生了第二次鴉片戰爭爆發，英法聯軍侵犯天津、北京，擊敗僧格林沁的軍隊。鹹豐隻好帶著皇妃、皇太子及親信大臣肅順、載垣、端華等逃往熱河承德避暑山莊。十萬火急中，鹹豐降旨，要曾國藩速派鮑超率精兵數千拱衛京師。接到詔書，曾國藩和胡林翼一下子慌了神，此時此刻的曾國藩正是泥菩薩過江自身難保，正指望鮑超軍從江西趕往皖南救援，如果鮑超軍此時轉赴京城，皖南的戰局將徹底崩潰。如果不派部隊進京，曾國藩又會背上一個“抗旨”罪名，同樣也承擔不起。情急之下，曾國藩趕忙召集幕僚商議，李鴻章的一個建議解了燃眉之急，那就是采取“拖”的方式派人送信給朝廷，堂皇地建議：鮑超人地生疏，斷不能去，是否由曾國藩和胡林翼二人中酌派一人進京，這一招，明顯的是給朝廷出難題，因為朝廷最忌諱手握重兵的“節度使”進京。這樣，朝廷當然不同意，還會下詔來調人。這樣，信在路上一來一往，就會占用很長時間也就達到了爭取時間、調集人馬的作用。這一招果然有效不久，京城的事態得到了有效緩解，曾國藩接到朝廷新旨：清廷與八國聯軍已議和，鮑超軍不用北上。
一個危機躲過去了，另一個危險接踵而至。1860年12月，太平天國忠王李秀成部由羊棧嶺進山，攻克黟縣，距祁門湘軍大營僅有六十裏。此時此刻，祁門已是一座空城，除了大營內的一些親兵之外，其他湘軍全距祁門很遠，曾國藩想調集部隊回援已不可能。曾國藩長歎一聲，準備原地等死。那天晚上，曾國藩努力克製自己的情緒，將親兵全打發到內室之外，一個人在燈下安靜地寫自己的遺囑，讓人連夜送往湖南老家。天亮之時，一個好消息傳來，湘軍鮑超部和張運蘭部晝夜行軍，趕到祁門附近，全力抵擋李秀成部的進攻。由於李秀成不知道曾國藩的大本營在祁門，沒有全力進軍祁門，部隊退出了羊棧嶺，繞道進了浙江。
雖然皖南的形勢得到了緩解，危機並沒有解除。不久，太平軍又先後兵分兩路進軍祁門，這一次，是太平天國主將陳玉成親自率領人馬。形勢變得異常緊急：在北麵，太平軍攻到了離祁門二十裏的地方；在南麵，太平軍李世賢部攻克景德鎮，皖南鎮總兵陳大富戰死；在東麵，李秀成部也從浙江境內掉轉方向，再次向徽州發起攻擊。曾國藩又一次陷入了包圍之中。1861年4月，曾國藩由祁門赴休寧，調集徽州境內的各軍進攻徽州府，以期打開通往浙江之路，徽州府的太平軍乘夜出城偷襲，湘軍大敗潰散，太平軍乘勝追擊，將曾國藩圍困在休寧。高度危機之時，曾國藩隻好坐在大帳之中，再次給兒子紀澤、紀鴻寫信。從這封信中，我們看不到慌亂，卻能感受到事態的危急；還可以管窺曾國藩的真實思想很明顯，這已算是一封遺書了：
接到你們二月二十三日來信，知道家中兄弟五房都很平安，心中很安慰。我在初三日到達安徽休寧縣，就聽到景德鎮失守的消息。初四日所寫的家書，托你們九叔曾國荃寄回湖南老家，已經講到此地的局勢十分危急，恐怕難以支持下去。但還想到可以強攻徽州，如果得手，還是一條生路。初五日強攻徽州，強中營和湘前營在西門受到一次挫敗；十二日再攻，未能引誘敵人出城一戰；當夜二更天，敵人偷偷出城打劫營寨村莊，強中營和湘前營大敗。……目前的局勢更加緊急，四麵都被阻塞，外麵的接濟已斷絕。經過這次大敗，軍心受到很大的震動。我所盼望的是左宗棠的軍隊可以打敗景德鎮和樂平的敵人，鮑超的軍隊能從江西湖口迅速來救援，事情或許可能有轉機，不然的話，這裏就不堪設想了。
我自從投入軍事以來，即抱著一種臨危受命的誌向。丁巳和戊午那兩年在家養病，常常怕自己突然在家中去世，違背我的初誌，失信於天下人。後來起複再出山打仗，意誌尤其堅定。這次即使遇到什麽不測之禍，我也毫無牽戀的了。回想我自己，從小貧窮無知，現在能官至一品大員，年齡也已過五十，在外麵也稍有點名聲，又手握兵權，占據了高位，還有什麽可遺憾的呢?隻是我對古和詩歌，都花了不少精力，苦苦地加以探索，但是沒有好好地創作，在這方麵施展才華，打開一條大路。我對古的研究尤其有根源和依據，如果現在突然死了，那麽我的一些心得，就永遠無人領會了。我的書法用功較淺，但近年也深入了一些。這三方麵一無所成，心中不免耿耿於懷。
至於行軍打仗，本來不是我的專長。因為打仗要用奇兵，而我的性格太平易；打仗要欺騙對方，而我的性格太直，這怎麽能對付兵勢滔天的敵人?以前雖然有些勝利的捷報，那也是僥幸，並不是我應得的戰果。你們兄弟長大之後，切切不可涉足於軍隊之間，這種事難以見功業，而且容易造下大孽，尤其會留給後代人非難的口實。我長久地在行軍中生活，每天如同坐在針氈上一樣。稍可安慰的是我沒有辜負我最初的願望，沒有辜負我的學問，沒有一刻忘掉仁政愛民的心願。近來我的閱曆更多，深深體會到帶領軍隊的痛苦。你們都要一心一意地讀書，將來不能從軍，也不必出去做官。
我教育子弟有“不離八本”和“三致祥”的格言。這“八本”是：讀古書要以字句解釋為本，作詩要以講究聲調為本，侍養父母要以得到他們的歡心為本，修養身心要以少惱怒為本，立身處世要以不亂講話為本，治家要以不遲起床為本，做官要以不要錢為本，行軍打仗要以不騷擾百姓為本。“三致祥”是：孝順能帶來吉祥，勤奮能帶來吉祥，寬恕能帶來吉祥。我的父親竹亭公教育別人，專門講一個孝字，所以他在少壯時期敬愛父母，晚年熱愛兒女，都出於心中一片至誠，所以我為他寫的墓誌銘，就隻說這一件事。我的祖父星岡公教訓別人，則有八個字，還有“三不信”。八個字是：“考”(不忘祭祖先)、“寶”(與親屬鄰裏和睦相處)、“早”(早起)、“掃”(打掃庭院)、“書”(讀書)、“蔬”(種蔬菜)、“魚”(養魚)、“豬”(養豬)。“三不信”是一不信和尚道士巫師，二不信土地廟神仙鬼怪，三不信醫藥。處在這個亂世之中，錢越少，就越能免除禍患；家中用度越儉省，就越能養福延年。你們兄弟將來奉養母親生活，除了一個“勞”字和，一個“儉”字外，沒有其他安身立命的辦法。我在此軍事極其危急之時將這兩個字叮囑你們一遍，此外也就沒有什麽遺訓給你們了，你們可以將這點意思稟告給幾位叔叔和母親，不要忘掉。
遺書送出之後，曾國藩還與剛剛趕來為自己出謀劃策的老友歐陽兆熊開玩笑：“死在一堆如何?”歐陽兆熊大笑著應允了。也算是曾國藩命不該絕，第二天，由南麵包抄而來的太平軍李世賢部在江西樂平與左宗棠大戰後潰敗，無奈隻好撤兵浙江。徽州府的太平軍聽到這個消息後，信心頓失，也將人馬北移，撤出了徽州。危機再次解除，曾國藩的心重新落回胸腔。此次絕處逢生，明顯地暴露了太平軍的命門，那就是，太平軍的各路人馬全是各自為戰，缺乏配合和協作，關鍵時候，往往難以形成合力。這是典型的遊寇習氣。對於這樣的對手，曾國藩的信心更足了。在此之後，湘軍進行了大規模反撲，陸續收回徽州府所在地歙縣以及黟縣等地。一個大膽的計劃在曾國藩胸中變得成熟，那就是利用圍攻安慶的機會，大量殲滅太平軍的有生力量，先從英王陳玉成下手。曾國藩開始將目光死死地盯在長江沿岸，精心設計一個巨大的陷阱，誘騙對手不顧一切地往裏跳。
1861年5月5日，曾國藩留張運蘭守祁門，將湘軍大本營從祁門轉移到長江邊的東流。如果說曾國藩將大本營設在祁門是由於首鼠兩端拿不定主意的話，那麽，搬遷到安慶城對岸的東流，則表明鐵心圖謀安慶之役了。到了東流後不久，夏天到來了，白天的長江邊上像個火爐一樣，熱浪灼人；但一到夜晚，習習江風中，又變得異常涼爽。置身長江邊上，每到夜色降臨，曾國藩就把自己關在大帳裏，踱著步，像一頭將要出擊的孤狼一樣，周密地思索戰爭的步驟。對於安慶戰役，曾國藩總體上是這樣考慮的：一是一定要攻下安慶，拿下金陵的橋頭堡；二是圍城打援，先圍而不攻，一方麵減少損失，另外一方麵重點打擊太平天國英王陳玉成的援兵。在曾國藩看來，二十來歲的太平天國英王陳玉成雖然打仗勇猛，但在謀略上遠遠不夠。曾國藩想把陳玉成部隊先拿下，給在三河之戰中斃命的李續賓和曾國華報仇。
實際上從1860年秋天開始，湘軍就已經將安慶城團團圍住。圍城的主力，正是曾國荃的“吉”字營。“吉”字營在安慶城的北、東、西三麵挖了很多長壕深溝，又堆築幾個高高的土城，築成牢固的防禦工事，切斷了城內太平軍與外界的聯係。安慶的守軍共有兩萬餘人，都是陳玉成的部下。自1853年太平天國翼王石達開西征攻下安慶後，考慮到安慶地理位置的重要，太平軍一直派重兵守護。到了1860年，太平軍已駐守八年之久。駐守期間，太平軍將城牆築高了五尺，又添築子城一道，子城南自鎮海門西起，先西北後東北繞一大圈後，止於北城牆。除此之外，太平軍還另建了一座“耳”城，全力保衛安慶。這樣，城內的太平軍與城外的湘軍形成了對峙局麵，雙方都構築了鐵桶般的防守陣勢。
從1861年5月開始，曾國藩將他的全部精力用在安慶戰役上。他的三角眼鷹隼一樣死死地盯住安慶，沒有什麽能讓他轉移注意力。戰爭進行到中盤之時，這個一開始不會打仗的人，對於軍事的駕馭和調度已明顯熟稔了，甚至有了幾分諸葛孔明的神韻，對於戰局的控製和調度，已變得遊刃有餘。這時候，湘軍已經形成了自己的戰略方針，那就是，對待太平天國這樣的對手，不能輕易打浪仗，要集中優勢兵力，給對手以致命打擊。
布置戰術之餘，曾國藩安詳地在大營之中開始了自己的菜農生涯。每天下午，他都要一身短打，扛著鋤頭進入自己的菜園，鋤草、鬆土、澆肥。在給老家的兒子曾紀澤的信中，曾國藩對這一段時間的生活感到怡然自得：
吾現在營課勇夫種菜，每塊土約三丈長，五尺寬，窄者四尺餘寬，務使芸草及摘蔬之時，人足行兩邊溝內，不踐菜土之內。溝寬一尺六寸，足容便桶。大小橫直，有溝有澮，下雨則水有所歸，不使積潦傷菜。四川菜園極大，溝澮終歲引水流，頗得古人井田遺法。吾鄉一家園土有限，斷無橫溝，而直溝則不可少。吾鄉老農，雖不甚精，猶頗認真，老圃則全不講究。
當曾國藩如一個經驗豐富的老農，津津有味地摸索種菜之經驗和方法的時候，那段時間，在安慶附近數十公裏的範圍內，聚集了成千上萬的湘軍，他們正按照曾國藩的部署，張開了口袋陣，等著陳玉成帶領太平軍鑽進來。對於曾國藩的圍城打援之計，太平天國同樣製定了針對性的措施：安排李秀成從長江南麵、陳玉成從長江北邊同時進軍，夾攻武昌。武昌是湘軍的大後方，也是湖北巡撫胡林翼的老巢，湖廣總督所在地，戰略位置極其重要。如果太平軍圍攻武昌，必定會讓曾國藩分兵，這樣，安慶之圍也就迎刃而解了。
陳玉成不愧為太平軍的急先鋒。很快，陳玉成帶領數萬大軍進駐安慶桐城附近，虛晃一槍後，轉道皖西，連下英山、蘄水，攻占黃州，逼近武漢。陳玉成的西進，是曾國藩和胡林翼最為忌憚的，此刻湖北境內兵力空虛，幾乎不堪一擊。沒有想到的是，陳玉成在黃州駐紮時，恰巧英國長江水師提督何伯巡視到了武漢江邊，見陳玉成大兵屯集，便讓參讚巴夏禮告誡陳玉成，如果陳玉成進攻武漢的活，英國商業利益將會受損，他們不會袖手旁觀。這等於警告陳玉成不能進攻武漢。在這種情況下，陳玉成隻好放棄對武漢的進攻，轉向進攻鄂北的襄樊一帶。這樣的軍事調動根本不足以吸引曾國藩西援。曾國藩和胡林翼得悉後大鬆了一口氣，重新布置人馬進攻安慶。一直到幾個月後，陳玉成才掉轉人馬，回到安慶集賢關附近，開始在外圍直接進攻圍城的曾國荃部。
在長江以南，李秀成由浙江進入江西中部之後，迂回輾轉，沿贛江北上，攻下吉安、瑞州。湘軍九江守將吳坤修急忙派人向曾國藩告急，請求火速派兵救援。這時候曾國藩手中的機動部隊隻有鮑超一軍。在這種情況下，曾國藩讓鮑超軍駐紮在九江與安慶之間的地方，伺機而動。關鍵時刻，李秀成優柔寡斷的老毛病又犯了。曾國藩看透了李秀成的心思，料定他肯定會投鼠忌器，不敢進攻九江。素來小心謹慎的曾國藩一反常態，大膽地將鮑超軍調至安慶城下增援。安慶的戰局發生了根本性變化。陳玉成見鮑超援軍將至，料定自己獨力難解重圍，隻好留下劉倉琳等精銳一萬二千人分守安慶城外的集賢關、菱湖等營壘，自己帶五千人去接應來援被阻的洪仁殲、林紹璋、黃金、楊輔清等部。陳玉成的離去，更給湘軍可乘之機。曾國藩下令各部全力圍殲劉倉琳，同時分割陳玉成等人的救援。陳玉成在與洪仁玕等會師後，無法突破湘軍多隆阿的掛車河防線。這樣，劉倉琳部太平軍主力一萬二千人全部被殲。這一結果，使得安慶攻防戰基本定局。陳玉成率各路援軍因為無法突破掛車河，隻好繞道湖北境內馳援安慶。太平軍大隊人馬從西部長途跋涉，好不容易到達安慶城下時，早已人困馬乏，成了強弩之末。雖然陳玉成帶領太平軍全力發動進攻，想解安慶之圍，但湘軍兵強馬壯，又早有準備，陳玉成幾次進攻均告失利，手下大將程學啟部還投降了湘軍。這是一次全麵交鋒的戰鬥，湘軍在太平軍的內外夾擊下，兩邊行動，一部分全力攻取安慶，另一部分全力抵禦陳玉成在外圍的救援。
那段時間，整個戰局陷入了膠著狀態。旌旗蔽日，屍橫遍野。在戰爭麵前，時間仿佛停滯，生命就像泡沫一樣脆弱而短暫。在東流大營，前方的消息像走馬燈似的傳來，曾國藩心急如焚，食不下咽，整夜都無法合眼。曾國藩的皮膚病也因為內心的火急火燎，瘙癢得更厲害了。可以說，曾國藩每時每刻都麵臨精神崩潰的危險。這一場徒死的對抗完全是力拚消耗，在安慶，守城的太平軍漸至彈盡糧絕；在城外，攻城的湘軍也開始麵臨饑餓，他們供給的糧路同樣被外圍的太平軍切斷。時間一如既往地漫長陰晦，食物儲備變得越來越少了，到軍士手中的食物如同垃圾，能調動大家情緒的酒也沒有了。白天在陣地周圍遮天蔽日的，是如陰霾一樣的烏鴉，它們喑啞地鳴叫，如同鬼魂一樣在陣地上遊蕩。更讓人覺得討厭的，是戰壕裏出現了成群成群的老鼠，像集體發了瘋似的，向所剩無幾的食物發動攻擊；夜晚之時，它們甚至把在溝壕裏睡得像死豬一樣的湘軍軍士的耳朵或者鼻子咬掉。湘軍軍士們不僅僅要跟太平軍打仗，還要跟這些“強盜”作戰，把它們趕到角落裏，目的不僅僅是消滅它們，而且為了將其當作美食享用……陣地上所有能吃的東西都吃掉了，然後，吃捆綁帳篷的牛皮帶，吃一切有綠色的植物……
1861年8月底，湘軍由城外馬山直抵北城門城牆根的地道終於挖通了，湘軍用炸藥將城牆下的地道塞得滿滿的。1861年9月5日，曾國荃下令點火，隨著炸藥“轟”的一聲巨響，安慶北城牆被炸出一個豁口，太平軍叛將程學啟部率先呐喊著攻了進去。安慶的太平天國守軍自葉芸來以下一萬六千多人已餓得奄奄一息，失去了抵抗力，眼睜睜地看著湘軍的大刀向自己頭上砍來。此刻的陳玉成站在不遠處的山頭上，親眼目睹了安慶城的失陷，長嘯哀號，淚如雨下。然後，命令部隊掉轉方向，撤回廬州。在東流的曾國藩第一時間接到了戰報，欣喜若狂。安慶戰役是一個轉折點，在搶占了這個戰略高地之後，曾國藩清晰地知道，勝利已唾手可得了。
1861年9月25日，曾國藩渡江後進入了安慶。昔日的太平天國英王府被修繕了一番，恭候他的到來。進入這座化古城，曾國藩感慨萬千，這座昔日人氣十足的市民城市，在經曆了這場浩劫之後，一如陰曹地府似的陰森，大街小巷的每一個人都戾形鶴立。在湘軍攻下這座城市之時，這裏已經開始吃人肉了，人肉價五十一兩，割新死者肉也要四十一兩。城破之時，太平軍的鍋裏，皆煮人手足，有的碗中還有人的手指。聽著這樣的消息，曾國藩臉色都變了。
戰爭就是這樣殘酷無比。曾國藩的所見所聞，隻是很小的一部分。在他視線沒有到達的廣袤地區，平民百姓更是無比悲慘：千百萬人流離失所；一些隨身攜帶財寶的富人同他們為數不多的仆人在大路上被趁火打劫後勒死；一些斷垣殘壁在冒煙，瓦礫下壓著無法確認的一家老小；一些被抓走的弱女子，或受**，或因為寒冷或遭遺棄而死去，有的無奈之下生下施暴者的孽種；不舍田地和家畜而被殺害的百姓的骸骨在大雨之中泛白，與死去的牲畜的骸骨混雜在一起……對這一切司空見慣之後，人們又開始修葺和重建，麻木又變得熱情。人生和世界，就是這樣周而複始，生生不息。
初辦湘軍之時，招募軍隊無餉可供。曾專派郭嵩燾回籍籌借軍餉，又賴衡州知府借給他10萬兩準備修城牆的錢，後來打了湘潭第一次勝仗，10萬借款才由湖南藩庫報銷。
當時，武漢形勢吃緊，朝廷連番下旨讓他自湖南出援武漢，他遲遲未動。其中原因主要是皇帝命他率兵千裏迢迢，援救湖北，而且一路征戰，竟未提軍餉自何而出。沒有軍餉如何出征?他讓人各處求助，懇求商紳捐資，猶如泥牛入海，毫無消息。
恰在此時，有個在籍戶部候補員外郎楊江要求捐助。曾國藩聞訊自然高興，但楊江提出個條件，讓曾國藩代他上奏皇帝，準許為其祖父在原籍衡陽建鄉賢祠。曾國藩是了解其中原委的；楊江的祖父楊鍵是湖北巡撫，道光二十五年(1845年)病死。死後其家屬便活動地方官入奏道光，請求建鄉賢祠。而有人反映，楊鍵官聲很壞，有嚴重的貪汙、受賄行為。道光帝聞奏，不僅未允其入祠，且把上奏請入祠的地方官臭罵了一頓。這件事鬧得轟動京城，曾國藩時任職詹事府，熟知此事，曾為楊家而不恥。如今，為了軍餉問題，要親自出麵為一個貪官申請入鄉賢祠，一是不合儒家道德規範，再是要冒風險，弄不好自己要背上惡名。可是，為了軍餉所逼，曾國藩竟同意為楊鍵寫了奏折。
奏折封送之後，楊江當即捐助兩萬白銀，還說等皇帝批複後再捐5萬兩。楊江帶頭捐款，其他官紳也不能旁觀，一下子捐了10萬餘兩。這點錢雖不多，但總算解了燃眉之急。
誰知湘軍初戰不利，在“東征”的途中吃了敗仗，退回長沙。吃敗仗是個打擊，長沙官紳齊罵曾國藩無用，使他抬不起頭，而雪上加霜的是，鹹豐帝看了曾國藩請楊鍵入鄉賢祠的奏折，下旨申斥他，還降了他兩級官銜。
鹹豐四年八月(1854年10月)，湘軍僥幸攻克武昌，占領武漢三鎮。曾國藩以為該是喘口氣的時候了，他上奏鹹豐，要求鞏固湖北，徐圖東進。其中理由之一，是好好解決一下湘軍的供給，待到兵精糧足之時，再東下長沙，好好與太平軍打幾仗。但是，鹹豐不管這一套，逼令他立即東進。當時新占武漢，正是得勝之師，在武漢總算湊備了“東征”的軍餉，接著取得田家鎮大捷。鹹豐再令他繼續東進，攻九江，取南京。
田家鎮一戰，雖然取得不小的勝利，但湘軍損失很大。曾國藩要為戰死的官兵發恤銀、為有功的官兵發賞銀，加上戰爭消耗，從武漢帶來的銀子花得精光。馬上又要“東征”，軍餉又成了大問題。他向鹹豐帝請求發餉，鹹豐下旨讓陝西巡撫王慶雲解銀14萬兩，江西巡撫陳啟邁解銀8萬兩。然而，曾國藩等了許久也不見銀子匯到，甚至連個回音都沒有。
就在這時，郭嵩燾提出江北大營在揚州仙女廟抽厘金助軍餉的事，請求曾國藩也仿效辦理，在軍過之處向商賈抽厘，以助湘軍作戰。當時曾國藩不知抽厘的辦法，郭嵩燾說：“江北大營也缺軍餉，有左都禦史雷以xck1.eps；p到揚州助軍，想出了一個籌餉的辦法：仿照漢朝算緡之法，對商賈征厘稅，值百抽一，稱作‘厘金’，居然順利抽得大量銀兩，解決了江北大營的軍餉。”
到底湘軍辦不辦厘金?曾國藩令大家充分發表意見。劉蓉說，聽說蘇北辦的厘金，到處設關，關卡林立；處處抽厘，各為百金抽一，連續勒抽，往往抽之過半，弄得商民怨聲載道。湖南、湖北、江西連年征戰，百姓已被敲骨吸髓，若再強抽厘金，就沒有活路了。
但郭嵩燾認為蘇北辦理不善，是混進了壞人，我們可以作為借鑒，認真辦理。
其他人意見不一致，但用餉急迫，對抽厘之事堅決反對的卻不多。曾國藩見眾人的意見趨於一致了，便讓郭嵩燾去湖南與駱秉章商量，利用“東征局”的名譽，先在長江、湘潭、益陽、嶽州、常德、衡州6處試行。若是可行，就認真實行，顆顆銅子都要有交待，莫對不起三湘父老；若不可行，立即停止。
湖南的厘金尚未辦妥，江西戰場便發生所料不及的大戰。九江攻不下來，湖口打了大敗仗，江外水師全部瓦解，湘軍受到了前所未有的巨大損失。隨後，太平軍攻占了江西大部分地區，曾國藩遇到了太大的困難!水師要重建，陸師要大幅度調整，還要隨時準備與石達開打大仗。曾國藩最發愁的還是軍餉，還是銀子!他沒有辦法得到，隻得向江西巡撫陳啟邁伸手要，盡管前次碰了壁，但曾國藩認為，前次是在湖北，這次是在江西，完全是為江西的失地與太平軍作戰，諒他陳啟邁不會置之不理。可曾國藩想錯了，陳啟邁不僅分不給，還大造其謠，他在江西官員中散布：曾國藩的湘軍打仗發了財，湘鄉、平江、新寧肥的流油，隻要家裏出個湘勇，全家都不要做事，銀子花不完。湘鄉的田地沒有買的，都買到外省外縣去了，皇帝的銀子運到了曾國藩家，皇帝都沒錢了，我們哪得錢給他。曾國藩聽了這些謠言十分氣惱。
正在曾國藩又氣又急之時，江西萬載縣舉人彭壽頤向他建議，在江西籌銀有辦法：一是勸捐，目前在籍刑部侍郎黃讚湯黃大人在籍守製，極讚揚湘軍的抗敵義舉和曾大人您的行為，他若出麵勸捐，一定奏效。自己也可以去好友之處，以大人之德，向同鄉、同窗們募捐。再是可以在江西就地設厘局，抽厘助餉。
曾國藩讚揚彭壽頤的行為，募捐之事立即去辦，抽厘之事容再商量。
經過活動，果然先得了一筆銀子。黃讚湯出麵大力張羅，在鄉紳之中很快募得白銀10萬兩，彭壽頤竟也募來3萬兩，這真是雪中送炭。
設厘局之事，經過商量也搞了起來。曾國藩讓彭壽頤負責，在南康設總局，在各縣設了十幾個關卡，出手便抽得數千厘金，曾國藩甚是高興，以為這下子軍餉有指望了。
然而好景不長，曾國藩設厘局用了彭壽頤，彭是江西地方人，江西巡撫陳啟邁以為這是越權用人；江西地麵不歸曾國藩管轄，他有何權在這裏設厘局抽厘金?於是，陳啟邁煽動地方，與曾國藩對抗。不久，湘軍的厘局在抽厘時，查到了地方官走私鴉片，厘局扣了地方官的走私船，地方官又向陳啟邁告狀，雙方便鬧了起來。可陳啟邁不問曲直，批令地方官封了曾國藩的厘局，還把彭壽頤捆綁入獄。事情鬧得非要曾國藩出麵不可了，曾國藩率劉蓉等幕僚，到出事地點調查，查出了地方官私賣鴉片的確證。在忍無可忍之下，向鹹豐上奏參了自己的同鄉同年陳啟邁。參奏的內容也是他調查來的，如陳啟邁曾為已革職總兵趙如春冒功請賞，曾為奉旨正法的守備吳錫光虛報過戰功。這兩條是地方官常幹的事；地方大吏，明明打了敗仗可以說打了勝仗，逃將可以說成功臣。隻要不出大婁子，即使皇帝知道了也不會怎麽樣。曾國藩還告陳啟邁並不認真安排戰守，丟了江西的8府54州縣。又告他阻撓破壞湘軍作戰，捆綁逮捕辦團有功舉人彭壽頤，縱容地方官私運鴉片。
曾國藩的奏折上達後，其中丟了江西大部分土地給太平軍一節打動了鹹豐帝，他本來就惱恨太平軍在江西攪得心神不安，怪罪陳啟邁沒有守住江西。因而準了曾國藩的彈劾，一下子把陳啟邁罷了官。
然而，去了陳啟邁，來了俊，曾國藩在江西的軍餉問題仍未解決。為了軍餉，使他的一軍全軍覆沒；為了軍餉，俊害死了湘軍大將畢金科。以後的日子，仍靠“討飯”維持。多虧黃讚湯一人先後為湘軍籌捐百餘萬兩，劉於淳、甘晉等士紳也極力幫他籌措，才勉強維持住，使湘軍沒被困垮而已。
正在曾國藩極度困難和苦惱之時，突然接到其父曾麟書於鹹豐七年二月四日(1857年2月27日)去世的訃告。聞此噩耗，曾國藩反而感到是擺脫困境的天賜良機，立即向鹹豐帝陳報丁憂，並要求開缺守製。他不等諭旨允準，便與弟弟曾國華自江西奔喪返鄉。在陳情奏折中，除以孝道為由，堅決要求開缺外，還說此時返鄉守製並不影響大局，因為自鹹豐六年(1856年)秋，太平軍內部發生內訌，使整個戰局發生了逆轉。在江西方畫，湘軍逐步奪回了被太平軍占領的廣大地區。武漢也被胡林翼和李續賓攻克，湖北綠林軍和李續賓湘軍聯合東下，長江上遊沿江城鎮又被奪了回來，大軍來到江西，與曾國藩湘軍一部又包圍了九江，江西的吉安、瑞州等要地雖還在太平軍手中，但也都被湘軍包圍了。所以，曾國藩說，此時返鄉，把軍隊交待給部下，同自己未離去是一回事。
曾國藩到家多日才收到從江西轉來的皇帝的批複：隻準他3個月假，不允開缺。3個月假滿之前，鹹豐下旨命他立即返回江西軍營。曾國藩再次上奏，要求給假3年，在這個奏折中，他向鹹豐表白了不願再回軍營的理由。他說：自古帶兵者從未有他的困難大，領兵打仗卻沒有軍權，自己“雖居兵部堂官之位，而事權反不如提鎮”。湘軍雖負擔了兩湖、江西的抗敵重任，但卻沒被國家和地方承認，領兵人員都沒得到武官的實缺，自己要為湘軍將領申請個獎賞，必得地方官同意，由地方官上奏。還說：湘軍無軍餉，行軍作戰，獎功恤死，都得向地方官討錢，而地方掌握了政權與財權，視湘軍為累贅，打擊、排擠、陷害者有之，就是無人給軍餉。又說：自己擔起了出省作戰的命令，並無出省作戰的資格，地方官也沒接到皇帝給的接待湘軍的旨意，軍中連個正式印信都沒有，湘軍在別的省客位虛懸，處處受刁難。他明確表示：在江西帶兵，不給個巡撫實職或欽差頭銜是無法維持下去的。如果還像前幾年那樣，就讓江西巡撫和提督、將軍去帶兵作戰好了，他不會再回去了，就讓他留在家裏盡孝道好了。
鹹豐看了曾國藩的奏折，見他直接伸手向皇帝要實權，考慮再三，最後認為太平軍的勢力一天天衰落下去，不一定非要曾國藩才能打贏太平軍；讓曾國藩又有軍權，又有督撫大權也太危險。遂順水推舟，批準讓他在籍守製3年的請求。這樣，曾國藩便離開了湘軍，開始了鄉居的生活。
曾國藩自鹹豐七年二月二十九日奔喪至家，至八年六月初七日再度出山由湘鄉動身赴浙江，先後家居一年半時間。
這一年半時間，名曰“鄉居”，實則是曾國藩一生思想、為人處世巨大轉折的時刻，就像練武功的“坐關”、佛道的“坐禪”一樣。曾國藩經鄉居之後，為人處世簡直判若兩人。
首先，如前所述，他是遭受了極大的折辱，很不情願地鄉居的。所以，回到家裏心情十分苦悶，怨天尤人。他不明白，自己出於對清政府的一片忠心，“打掉牙活血吞”，在戰場上拚命，但是結果卻處處碰壁，連皇帝都不買他的賬，甚至根本就不信任他，“卸磨殺驢吃”，現在磨還沒推完，就要殺驢。多少人看他的笑話!他越想越氣，“心殊憂鬱”。憂鬱無處發泄，整日生悶氣，動輒罵人。他數著江西的一幫武罵，罵夠了就找幾個弟弟的茬吆喝。曾國荃等人開始還勸他，後來勸不了隻好不理他，再過些日子就返回了戰場。弟弟們走了，他又開始罵幾個弟媳婦。什麽話都罵得出來，語言粗俗，根本不像個道學家了，弟媳們也都躲著他。頭一年夏天，兒媳(曾紀澤之妻)難產死掉了，兩個月後，曾國荃的妻子熊氏又臨產，怕是被兒媳的魂纏住了也難產，於是鬧著請神漢進府做道場。曾國藩知道了大罵一頓，罵她們裝神弄鬼，罵得道場做不了。
曾國藩不被皇帝信任，吃了極大一顆軟釘子回到家裏。但不少朋友認為他是言不由衷，是背叛前誓，前線正吃緊，跑回家待著，是要挾皇帝。於是，有的批評，有的規勸，還有的幹脆大罵他。罵得最凶的是左宗棠，罵他是假仁假義假道學，在湖南撫衙裏拍著桌子罵，罵他臨陣脫逃，自私無能；罵他不該伸手要官，要不來就躲回家。左宗棠一罵，長沙的大小官都附和著罵。罵得蟄居荷葉塘的曾國藩飯難下咽，夜不成寐，從此“得不寐之疾”。當時他深恨左宗棠，認為別人可以罵他，左宗棠不該罵，他們是同門同道，相互也看得起，尤其在與太平軍對抗，捍衛儒家道統方麵，他應該是知己的。如今我曾國藩被上下整到這步田地，你左宗棠不同情，反而帶頭怒罵，太不懂事了!所以，他又開始在家裏咒罵左宗棠。
盛夏襲擊了湘中，火熱的南風像從巨大的火爐中噴射而出，午夜之後，仍有令人心焦的蟬鳴，蟈蟈也無休無止地叫著，好像有意和徹夜不眠的曾國藩過不去。他時而躺在**，時而在室內外踱來踱去，輾轉反側，反複而痛苦地回憶、檢查自己的前半生。自入仕途，以孔孟入世救世，對自身的修養嚴厲酷冷，一絲不苟；對社會抱有“以天下為己任”的堅定胸懷。持身嚴謹，奮發向上，關心國事，留心民情，因而贏得君王信任和同僚的尊崇，10年京官春風得意。正是抱有這種信念，以一官而白手建軍、治軍，5年來一身正氣，兩袖清風，出生入死。但是，為什麽皇上反而不信任?為什麽上至樞垣，下至府縣，都那麽嫉恨自己?
為了解決這些問題，他又日夜苦讀，重閱《左傳》、《史記》、《漢書》、《資治通鑒》，希望能從這些書裏找到解決問題的決竅。然而，這些書他已讀得爛熟了，重新翻讀，隻能找到自己過去的思維印跡，並未發現新東西。
據說在百思不得其解之時，曾國藩曾想要走入空門。然而，深厚的儒家根基使他終於拔不動塵世間的雙腿。但因為他遁入佛門，使他認真閱讀了以前看過，但並不相信的《道德經》、《南華經》等老莊的著述。這些書名為出世之學，但曾國藩重讀，卻為他的立身處世指點了迷津。你看：同樣為人處世，孔孟主張直率、誠實，而申韓(申不害、韓非)等法家卻主張以強碰強，硬對硬，老莊則主張以柔克剛、以弱勝強，“天下之至柔，馳騁天下之至堅”，“江河所以為百穀之王者，以其善下”。下反而是王，弱反而能強，柔則是至剛。把老子的言論對比自己過去的行事，他發覺自己處處直截了當，用的是儒家的至誠和法家的強權，表麵上痛快幹脆，似乎是強者，結果處處碰壁，實質上是失敗，是弱者。到頭來弄得上上下下處處是敵人，前前後後處處是障礙。過去也知道“大方無隅”、“大象無形”、“大巧若拙”，但一直沒有真懂，所以自己的行事恰好是有隅之方，有形之象，似巧實拙，真正的大方、大象、大巧是無形無象、鬼斧神鑿的。“大柔非柔，至剛無剛”，太妙了!讀到這裏、想到這裏，曾國藩如同從黑夜裏一下子走上了光明世界，豁然開朗。
自此之後，曾國藩行動做事，由前時的方正，變為後來的圓通。他自己承認，“昔年自負本領甚大，可屈可伸，可行可藏，又每見人家不是。自從丁巳、戊午大悔大悟之後，乃知自己全無本領，凡事都見得人家幾分是處，故自戊午至今9年，與40歲前迥不相同”。曾國藩這裏把家居的兩年自稱為“大悔大悟”之年，他自認為前後行事“迥不相同”了。
曾國藩大徹大悟後的巨大改變，使他的朋友都有所感覺，胡林翼就說他“無複剛方之氣”。出山之前，他對清廷上下的官場習氣很是反感，“與官場落落不合，幾至到處荊榛”。而再次出山之後“改弦易轍，稍覺相安”。其中原因人多不知，隻在他的至親密友中私下告知他自己學問思想方麵的變遷，行為處世方麵的變化，曾國藩個人對自己的“大徹大悟”既是痛苦的，又是滿得意的。苦在被迫放棄了自己前半生的信仰與行為；得意在畢竟發現了做人處世的“真正”秘訣“大柔非柔，至剛無剛”。
曾國藩家居的一年多時間裏，戰爭形勢發生了巨大變化。他離開江西時，太平軍與湘軍正在相持苦戰，九江、吉安、瑞州等城尚在太平軍手中。但是，由於太平軍的內訌，石達開先是離開湖北戰場，後又於鹹豐七年五月(1857年5月)底分裂革命隊伍，率太平軍精銳出走，湖北、江西的兵力大部分跟隨石達開而去。湘軍乘機攻陷九江、瑞州、撫州、湖口、臨江，湖北方麵的武昌等城也再度為湘軍攻陷。湘軍控製了兩湖、江西的絕大部分地區，開始向安徽方麵進攻。
由於湘軍作戰有功，其將領們一個個升官晉爵，今非昔比。到鹹豐八年(1858年)，胡林翼加太子少保，楊載福官拜提督，李續賓也官至巡撫，賞穿黃馬褂。其他將領，也都得到相應的官銜。然而，在籍守製的湘軍統帥曾國藩仍然是原來的侍郎官銜。這兩年他雖信奉老莊，但相比之下也太懸殊了，心裏不免激憤不平。他給曾國荃寫信說：“願吾弟兢兢業業，日慎一日，到底不懈，則不特為兄補救前非，亦可為吾父增光泉壤。”還說，湘軍官員都“大有長進，幾於一日千裏，獨餘素有微抱，此次殊乏長進”。他親手創建的湘軍，在鎮壓太平天國的戰爭中立下殊勳，將領們升官揚名，他自己卻在關鍵時離開了戰場，自然也就失去了立功揚名，光宗耀祖的大好機會，如果戰爭馬上結束，自己也就太吃虧了。
想到這裏，曾國藩後悔非要回家守製。他曾想給鹹豐帝上書，要求馬上返回戰場，但礙著麵子，畢竟拿不起寫折的筆。
但是，湘軍在曾國藩家居的一二年內，雖然順利地取得了不小的勝利，實則是由於太平軍上層領導的內訌提供的大好機會。而湘軍畢竟是曾國藩親手創建，湘軍將領都是曾國藩親手培植，曾國藩是湘軍統帥。他雖然家居一二年，湘軍將領與他仍然聯係密切，仍起到遙製作用。在作戰中，別的人很難統一指揮，他的作用絕無人可以代替。因此，由曾國藩保奏而升任湖北巡撫的胡林翼，時刻想著讓曾國藩出山。
鹹豐八年(1858年)，石達開率20萬大軍出走，由江西的饒州、廣信轉入浙江，攻占了浙江的常山、江山等地，對衢州發起攻擊。胡林翼於鹹豐八年三月二十九日(1858年5月12日)上奏，請求起複曾國藩帶湘軍進援浙江；湖南巡撫駱秉章也於五月二十五日(7月5日)上奏。鹹豐帝看到形勢又緊張起來，遂於五月二十一日(7月1日)即在駱秉章出奏之前發布了起複曾國藩，令其率兵援浙的命令。
曾國藩六月三日(7月13日)接旨，再不提任何條件，於六月初七日(7月17日)便離開荷葉塘，趕赴戰場，再度出山率領湘軍作戰。
二次出山之後的曾國藩變得更加迅猛，很快，曾國藩又在長沙一帶招募了一支一萬五千多人的人馬。然後，曾國藩趕到武昌，與湖廣總督官、湖北巡撫胡林翼等會商追擊石達開事宜。又率部隊順流而下，進入江西境內，圖謀從贛南繞道進入浙江，全力追擊石達開部。
重新出山之後，一個新的曾國藩出現了。當年那個稍顯剛愎而呆板的曾國藩不見了，現在的曾國藩，是閱盡千帆，始終能保持堅韌之心的曾國藩，是一個既有原則性，又具靈活性的政治家。當曾國藩重新落座時，就像一個棋手大睡三天，重新端坐在舊日的棋局前。如果說原來的曾國藩是一隻刺蝟的話，那麽，重新出山的曾國藩就更像是一隻狐狸，或者說，他變得同時具有刺蝟和狐狸的品質既堅韌有力，又狡猾無比。曾國藩一改往日穩重遲緩的風格，落子飛快，一方麵他仍能頑強地將對手拖入泥淖，另一方麵，他又能跳將出來，謀劃著在適當的時機，竭盡全力丟出自己的勝負手。值得一提的是，在內心的窗口豁然打開之後，那種相關聯的幽默感也在曾國藩身上充分體現了。原先緊張而陰鷙的曾國藩開始氣定神閑、舉重若輕了，他頻繁地跟部下談笑風生，經常說一些笑話，把部屬們逗得前仰後合，而他卻一直端坐著，撚著胡須，悠然地看著他們，就像看著一群淘氣的孩子。曾國藩很少開那種凝重無比的會議，他經常是利用吃飯時間，把將領召集過來，讓廚師燒幾個好菜，然後，又上一壺好茶，輕輕鬆鬆地，就把很多問題解決了。當曾國藩以一種輕鬆而幽默的方式來對待眼前一切時，他突然發現，戰局就如同遊戲一樣，已變得一目了然。
當然，此刻的曾國藩在骨子裏仍是一如既往的憂鬱。一個新的問題擺在他麵前在離開這支部隊十五個月之後，曾國藩突然發現，這支湘軍的變化是那麽大，幾乎已不是當年的那支湘軍了。湘軍的軍紀變得更糟糕，當年自己為這支部隊所製訂的很多規章和約束，早就被他們置之腦後。每當湘軍奪取一個城鎮，隨之而來的，即使不是濫殺，也總是在掠奪。枯燥的戰爭奪走了士兵們最後的一點人性，當年那些老實巴交的莊稼人，此刻已變為名副其實的職業劊子手。這樣的變化不僅僅是指那些普通的土兵，甚至，那些飽讀詩書的湘軍將領，也變得焦躁而冷酷。他們不僅僅對士兵疏於教誨，有的，還睜一隻眼閉一隻眼對於士兵的荼毒給予支持。而且，士兵的成分也變得越來越複雜，原先曾國藩倡導到偏僻山區招兵買馬的初衷，早已被他們顛覆，為了省心省力，那些將領們隻是在城區附近隨意招兵買馬。這樣，湘軍的組成人員魚龍混雜，社會上那些無法自食其力的地痞流氓小混混，全都充斥到湘軍當中。這些，都讓曾國藩很無奈。曾國藩剛回湘軍遇到的一件事就是：曾國荃的一支部隊在江西吉安附近打了勝仗之後，隨意屠殺和掠奪，當地的百姓叫苦連天。消息傳到曾國藩這裏，曾國藩大為光火，一氣之下，將這支兩千多人的部隊全部解散回老家。曾國藩才不要這樣的部隊呢，如此失去人性的部隊，又有什麽益處呢？曾國藩感到困惑的一件事就是，如果很長時間陷入戰爭泥淖的話，那些麻木不仁的士兵們會不會因此喪失人性?
曾國藩出山之時，清軍正取得戰場上的節節勝利。在此之前，湘軍李續賓部攻克九江，太平軍林啟容部一萬五千人戰死。九江的爭奪，是長江沿岸的關鍵，經曆這一場勝利後，湘軍大受鼓舞，上上下下普遍輕敵。1858年11月，正當曾國藩全力追擊石達開部的時候，噩耗傳來，剛剛在九江取得大捷的湘軍李續賓部六千多人，被太平天國李秀成、陳玉成聯手在廬州三河鎮全殲，李續賓和他的親家，也即曾國藩的弟弟曾國華戰死。
曾國藩五雷轟頂。李續賓是曾國藩非常欣賞的儒將，一直對自己忠心耿耿；曾國華是曾國藩的三弟，雖然自小起過繼給叔父，但一直跟曾國藩、曾國潢、曾國荃、曾國葆在一起長大。在曾家，曾國藩排行老二，上有一姐，下有三妹四弟，因最小的妹妹早夭，實際上曾家兄弟姐妹共有八人。曾國藩兄弟五人感情是很深的，二弟曾國潢字澄侯，在族中兄弟中排行居四，稱為老四；三弟曾國華字溫甫，小時候過繼給了曾麟書的三弟曾驥雲，在族中大排行居六，稱老六；四弟曾國荃字沅甫，在族中大排行居九，稱老九；五弟曾國葆字季洪，後改名曾貞幹，字事恒，稱季弟。這幾個弟弟分別小曾國藩九歲、十一歲、十三歲、十七歲。“長兄為父”，曾國藩在他們麵前，的確有這樣的感覺。曾國華讀書不太用功，科舉不順，但對於兄長，卻一直很敬重。當年曾國藩在江西被圍困時，正是曾國華奉父親曾麟書之命，孤身一人到湖北胡林翼處搬了五千救兵，冒著大雨，連續攻下鹹寧、蒲圻、崇陽、通城四縣，之後又攻克新昌、上高等地，直達瑞州城外，幫助曾國藩緩解了危機。其時正是盛夏，一路行軍打仗，曾國華透支了心力和體力，到了瑞州之後，一病不起。稍好之後，曾國華趕到南昌，兄弟相見，悲喜交加。在曾國藩看來，曾國華性情粗躁，缺乏心機，很容易犯錯讓對手抓住破綻，不太適合打仗，所以曾國藩多次勸阻他回老家。這一回，果真驗證了曾國藩的判斷。
讓曾國藩感到更傷心的是，探子向他報告說：三河戰鬥結束後，屍橫遍野，堆積如山，一開始，連曾國華的屍體都找不到。很多天後，才在如山般的屍體中，找到一具無頭屍，隻是從衣甲打扮上看，估計是曾國華。誰也不知道那些太平軍是如何處置曾國華首級的。曾國藩傷心欲絕，這麽多年與太平軍的戰鬥中，曾國藩得到了很多，但他失去的，要比得到的遠遠多得多。曾國藩整整流了一天一夜的眼淚，悲慟之中，曾國藩提筆寫下了一首《哀詞》，最後幾句是：
骨不可收，魂不可招。崢嶸廢壘，雪漬風飄。
生也何雄，死也何苦。我實負弟，茹恨終古!
曾國藩還為曾國華的葬禮題寫了一副挽聯：
歸去來兮，夜月樓台花萼影；
行不得也，楚天風雨鷓鴣聲。
鷓鴣聲中，曾國藩在大帳中為曾國華招幡還魂。夜幕降臨之後，曾國藩圓睜著一雙猩紅的眼睛，在黑暗中苦苦地醞釀複仇計劃。
1861年，曾國藩滿五十歲，從1854年出山作戰開始，屈指一數，與太平軍的戰爭已經到了第七年。這麽多年的戎馬生涯，曾國藩發現，自己改變得太多了。有時候，曾國藩照鏡子，就像看見陌生人一樣。這個人已不是一個氣宇軒昂的讀書人了，他開始變得衰老，變得臃腫，變得皮膚鬆弛，牙齒鬆動，行動遲緩。這些，隻是外部的變化。在內部，有一些東西已然冷若冰霜，變得更加冷酷和堅韌了。當然，有一種驚人的洞察力出現了曾國藩往往一瞥之中，就能斷定事情的來龍去脈和前因後果。這是一種驚人的能力，也是一種特別的智慧。曾國藩已變成這樣一個人他可以擁有足夠的耐心和堅韌，去等待別人的失誤，等待別人力衰勢竭，而一旦對手稍稍有點走神，或者一時控製不住，露出一些破綻，曾國藩便會像潛伏的眼鏡蛇一樣，一躍而起，死死地咬住對方的死穴。
現在，曾國藩全身心地投入到這場戰爭中去了。這個一直不好色、不賭博、不酗酒、不喜歡揮霍、不愛戶外運動，隻喜歡讀書和下棋的傳統書生，將自己的全部心力都用於軍事的籌劃和搏擊之中。戰爭就是智力和暴力的對壘，曾國藩就像一頭重新出山的狼一樣，一方麵變得更加凶猛，另外一方麵變得更加陰險狡猾。他瘋狂地撕咬著別人，同時進行的，還有自己與自己的戰爭。
戰爭一如既往地慘烈。這樣的慘烈，在更多的時候，對人心也是越來越大的考驗。曾國藩致書曾國荃說：既已帶兵，自以殺賊為誌，何必以多殺人為悔?在某種程度上，可以說，曾國藩已放棄了原來的帶兵理想。現在，他隻想贏得這場戰爭的勝利，不惜代價，也不惜妥協。戰局轉入中盤之後，像羅澤南和李續賓那樣的儒將兼“道德完人”已陸續喪生，營一級的將領中，讀書人已越來越少了，曾國藩不得不開始放棄他一開始隻起用讀書人為將的初衷，開始大規模地啟用那些盲和半盲的猛將。他太需要勝利了，至於軍紀以及戰爭過程中的屠殺和掠奪，曾國藩已顧不得了。新提拔上來的大部分將領隻能勉強認識幾個字，但他們打仗勇敢不怕死，能攻城拔寨。曾國藩起用鮑超和朱洪章就是一個信號鮑超曾是湖南黑社會組織“哥老會”的頭目，他大字不識，隻會寫自己的名字，但他打起仗來剽悍無比；朱洪章也是如此，幾乎沒讀什麽書，行伍出身，是一個殺人不眨眼的家夥。
到了1859年之後，湘軍與太平軍進入了全麵交鋒階段。1859年冬，江南大營的清軍對金陵的包圍趨緊，進攻猛烈，金陵險象環生。太平天國忠王李秀成像一個救火隊員一樣，風馳電掣地從浦口趕回金陵。這個燒炭工出身、身經百戰的將領向洪秀全建議集中兵力全力殲滅江南大營，以消除金陵的心腹之患。商議的結果，是照搬了當年“圍魏救趙”的方式李秀成先虛張聲勢全力進攻杭州，浙江巡撫羅遵殿人出身，不擅布兵，下令兵士死守。各路救援的清軍畏葸避戰，進展緩慢，到達杭州附近後，見太平軍勢大，慌稱道路不通，遠遁躲避。李秀成一舉攻下了杭州，浙江巡撫羅遵殿戰死。聽聞杭州被攻占，鹹豐憂憤至極，下詔催促江南大營的和春、張國梁派兵去救。在這種情況下，江南大營慌了神，連忙調集主力趕赴浙江。李秀成知曉江南大營兵馬調動的消息後，立即從杭州殺了一個“回馬槍”，與陳玉成聯手，兵分五路，直撲金陵城下。具體安排是：陳玉成自全椒南下渡江，經江寧鎮殺向板橋；李秀成從溧陽、句容直殺向淳化鎮、紫金山；李世賢自常州、金坊殺向金陵北門；楊輔清自高淳殺往秣陵關、雨花台；劉官芳自溧陽趨往高橋門。
1860年5月5日，李秀成、陳玉成的十萬兵馬突然出現在清軍江南大營前，隻有數萬人的江南大營潰不成軍，太平軍一上午就殲滅清軍一萬餘人。江南大營統帥和春、張國梁等敗逃江蘇丹陽。李秀成緊追不舍，指揮太平軍全力攻克丹陽，擊斃江南大營幫辦張國梁。兩江總督何桂清逃往上海；和春繼續敗逃到蘇州城郊之後，又驚又怕，自縊身亡。李秀成一直追到上海城下。6月2日，李秀成又會合李世賢軍攻占蘇州，清江蘇巡撫徐有壬戰死。這一次太平軍大獲全勝，不僅順利地解除了金陵之圍，而且使東南局勢發生了根本變化，清軍經營了很多年的局麵一下子逆轉。
太平軍攻打江南大營之時，曾國藩的湘軍大營正駐紮在安徽宿鬆縣，全力準備安慶戰役。所部萬餘，分布在潛山、太湖、宿鬆一帶；李續賓近一萬人，也駐紮在桐城西南，掩護包圍安慶的曾國荃部。小小的皖西，一下子聚集了這麽多兵馬，到處都是黑壓壓的一片，人喧馬嘶，雞犬不寧。江南大營被攻破的消息傳來之時，曾國藩正和部下們在宿鬆羅家祠堂悼念戰死的浙江巡撫羅遵殿。羅遵殿是安徽宿鬆人，也是胡林翼的好友，前一年，他先從湖北藩司的位置上調任福建巡撫，數月後，又調任浙江巡撫。沒想到此番調動，竟遭此噩運。羅遵殿的靈堂一派肅殺氣象，高高懸掛的挽聯由曾國藩親筆題寫：“孤軍斷外援，差同許遠城中事；萬馬迎忠骨，新自嶽王墳畔來。”現在，江南大營二次被破的消息，無疑雪上加霜，在曾國藩看來，這樣的錯誤完全不應該犯下，綠營是朝廷的正規軍，無論是裝備還是籌餉上，都遠遠超過湘軍，更何況朝廷對於綠營一直很重視，要錢給錢，要人給人。這樣的失敗，明顯是因為指揮失誤、官兵怕死造成的。江南大營一破，太平軍必定會重新集結人馬，將主攻目標對準南京上遊。這意味著湘軍的壓力會繼續增大，湘軍弟兄們會因此加倍犧牲。
吊唁之後，曾國藩會同胡林翼等湘軍高級將領在宿鬆召開了一次會議。這是一次具有非凡意義的會議。曾國藩和眾將領在分析了軍事形勢之後，堅信戰爭的最終勝利一定屬於湘軍。而且，綠營一敗，朝廷肯定會重用漢臣，形勢將會有根本性的轉機。在此之前，湘軍在長江中遊取得了一係列的勝利後，雖然受到朝廷的重用，但湘軍畢竟是“體製外的軍隊”，始終沒有納入最可依賴的圈子。曾國藩知道朝廷的真實想法，那就是：讓湘軍在長江中遊與太平軍鏖戰拚消耗，而讓綠營在金陵地區集結，這樣，硬仗由湘軍來打，勝利果實則由綠營來摘取。但朝廷沒有料到的是，民兵部隊湘軍越打越強，逐漸占了優勢；正規軍綠營卻屢戰屢敗，不堪一擊。江南、江北大營連續被攻破，特別是這一次江南大營慘敗，朝廷肯定會調整有關政策半月以後，湘軍大營收到消息，對於江南大營被破事件，鹹豐非常憤怒，下旨將逃到上海的何桂清革職逮問；軍機大臣彭蘊章革職。聽到這樣的消息，曾國藩稍感愉快一些，何桂清一直跟曾國藩不和，彭蘊章更是一個嫉賢妒能的小人。這些人不在台上，對曾國藩當然是好事。
1860年6月李秀成攻克蘇州，形勢對於清廷變得越來越不利，朝廷不得不打曾國藩和湘軍這張牌了一個好消息傳來6月8日，朝廷著曾國藩署理兩江總督，令統率所部兵勇，取道皖南，恢複東南。8月上旬，朝廷實授曾國藩為兩江總督，並命為欽差大臣督辦江南軍務，所有大江南北水陸各軍均歸節製；又將楊嶽斌、彭玉麟統率的湘軍水師撥歸曾國藩節製調遣。
接到上諭的那一刻，曾國藩長籲一口氣，終於感到揚眉吐氣了。曾國藩得到的，不僅僅隻是官位，更重要的，還是承認。從一開始組建湘軍起，曾國藩就一直在不信任甚至打壓中度過。或許朝廷清楚地知道，曾國藩之所以挺身而出，隻是為了維護漢民族數千年的化道統，對於滿族的朝廷，並不是油然於心。曾國藩感到欣慰的是，朝廷此番決定，對湘軍各方的情形有利，尤其是那些抗戰的兄弟們，會因此有些名分，對於今後的前程，也會有利一些。身處兩江總督的位置，曾國藩擔心的一點是，太平軍在蘇南一帶勢頭正旺，力量倍增，此時讓他督辦江南軍務，壓力是可想而知的。在家信當中，曾國藩流露出自己的情緒：擔當此重任，深感害怕，最擔心的是跟前任一樣，遭受失敗，讓自己的家人蒙羞。這樣的事，真不知是禍還是福，隻有自己辛勤地做事吧，以報效朝廷。
有一個小插曲，足以說明曾國藩的做人準則曾國藩接到上諭後，幕僚提醒說，在任命過程中，新上任的軍機大臣肅順起到非常大的作用，是因為肅順的舉薦，鹹豐才下決心讓曾國藩擔當兩江總督的。建議曾國藩給肅順寫一封感謝信，這樣對曾國藩以後的升遷也有好處。曾國藩考慮一番後，沒有寫這封信，他覺得自己擔任兩江總督是朝廷的任命，不是哪一個人的原因，如果硬要歸功某一個人的話，就把是非搞顛倒了。曾國藩隻是給皇上上了一個折子，以謝龍恩。等到鹹豐去世，慈禧聯合慈安以及鹹豐的兩個弟弟發動宮廷政變，殺掉肅順之後，在肅順家找到一個密封的大箱子，裏麵裝的都是全國各地的命官給肅順的效忠信，幾乎所有人的都有，唯獨沒有曾國藩的。這一下，也讓慈禧對曾國藩有了一個很好的認識，確認曾國藩是忠於朝廷的大臣，也敢用曾國藩了。一次陰差陽錯的經曆，足以說明曾國藩的處事原則和處事方法。
應該說，曾國藩就任兩江總督，不僅僅是曾國藩個人的轉折點，也是戰爭的一個轉折點，甚至可以說，是中國近代史上的一個關鍵點。正是滿族君主政體和漢族上層分子中的領袖人物融為一體所造就的強大保守聯盟，才使得這個腐朽的王朝苟延到二十世紀。同時傳來的好消息是：朝廷同意了曾國藩的請求，在全國推廣厘金製度。這一件事，讓曾國藩非常高興。這樣，湘軍的軍事供給就有了很大的保障，最起碼，會比以前的狀況改善很多。晚清的厘金製度，是1853年幫辦江北大營的刑部侍郎雷以xck1.eps；p創議的，其辦法是，在鹽、土藥、洋藥以及百貨中征收百分之一的厘金，用於地方庫銀，這一部分，主要作為地方政府承擔的軍餉。1856年，曾國藩曾與湖南巡撫駱秉章達成協議：湖南的大部分厘金被指定作湘軍經費之用。曾國藩重新出山之後，曾經力爭為整個江西的厘金另外開辟一個不受省布政使控製的特別官署，這樣，便繞開正式的財政機構，將這一部分錢財直接用於湘軍的供給上。但這個渠道一直通行不暢。現在，朝廷正式同意了這一項措施，這意味著從此之後，湘軍軍費有了重要保證。曾國藩如釋重負，自己這麽多年牽扯精力最多的，就是湘軍的供給。
1860年7月3日，滂沱大雨中，曾國藩按照朝廷的旨意，從宿鬆開往皖南。28日，到達徽州祁門縣。祁門是安徽最南部的一個縣，跟江西景德鎮交界，是南京和南昌之間的必經之地，地理位置非常重要，也是湘軍和太平軍的重要糧道。曾國藩把自己的大營設在縣城敦仁裏弄堂的洪家大院裏，這座大屋建於清代中期，原為一洪姓大茶商的私宅，坐北朝南，由承恩堂、養心齋、承澤堂、思補齋四部分組成，房房相連，屋屋相通，是駐紮軍隊的理想之地。曾國藩在洪家大屋巡視了一番後，決定將行轅設置在後花廳之中。然後吩咐筆墨伺候，親自撰寫了一副對聯，讓人貼在柱子上：
雖賢哲難免過差，原諸君讜論忠言，常攻吾短；
凡堂屬略同師弟，使僚友行修名立，乃盡我心。
每到一個地方，曾國藩往往都會親自撰寫楹聯。在楹聯中，往往能看出那一段時間曾國藩在想些什麽，努力避免什麽。祁門洪家大屋的楹聯顯示，到祁門時，曾國藩的心情不錯。
在祁門的那段時間，曾國藩主要是部署防務，查視營壘，巡視嶺防，督戰徽城。白天繁忙的軍務停歇下來之後，每天晚上，曾國藩就要一個人在堂前凝神屏息端坐一會，這樣，就可以讓白天的喧囂和煩躁如塵埃般慢慢落下，內心的漣漪也如微風掠過後的湖麵一樣，重新歸於平靜。曾國藩喜歡在這樣的靜謐中，汲取神秘的力量。然後，曾國藩會繼續抖擻精神，處理大量的來往公。有時候，在公處理的閑暇，曾國藩會認認真真地寫一些私人信件，這些信件就像候鳥一樣，順著蛛網般的驛道飛向四麵八方，當它們飛回來的時候，又帶來了各地的消息。寫信，是曾國藩多年養成的習慣了，既是曾國藩的安慰，也是他情緒的通風口。當曾國藩提筆寫信的時候，他就不再是一個大臣，不是一個殺人機器，一個暴徒；他隻是一個父親，一個兄長，一個朋友。曾國藩寫信對象最多的，就是幾個兄弟，還有兒子曾紀澤和曾紀鴻。在曾國藩看來，自己的幾個兄弟，國潢生性疏闊，國荃豪爽任俠，至於曾國華和曾貞斡(國葆)，曾國藩一直擔心他們“氣太清”，氣太清，就容易單薄，所以每次曾國藩都要囑咐他們多讀書，隻有深厚的思想和紮實的學問，才能彌補氣質的輕薄。當然，曾氏兄弟在通信當中，有很多家長裏短的私事。在曾國藩看來，家事與國事，同樣重要，疏忽不得。鹹豐九年底，曾國藩寫信給曾國荃，安排他回老家全權主持兄弟之間的分家。曾國荃回了老家荷葉塘一趟，把兄長的意思向大家轉達了。這次分家，幾個兄弟互相謙讓，姿態都非常高。在宿鬆駐紮的曾國藩收到了妻子從老家來的信，告知他分家的情況：
內有分家分關一紙稿。大分金、玉二號，係先考與叔父離軒所分。小分福、祿、壽、喜四號，係餘與澄、沅、季洪兄弟四人分，配合停勻，公私鹹得歡心，沅弟之所經營也。
兄弟幾個中，曾國藩最偏愛的，就是九弟曾國荃了，花費心血也最多。曾國藩最擔心國荃的急躁脾氣，幾乎每次給曾國荃寫信，都要告誡他不要冒進，要穩紮穩打，步步為營。對於大他十三歲的家兄，曾國荃當然非常尊敬，曾國荃統領“吉”字營時，曾在軍營中手書一聯，掛於帳中：
打仗不慌不忙，先求穩當，次求變化；
辦事無聲無息，既要精到，又要簡捷。
曾國藩還寫過一首《憶弟詩》送給曾國荃，這詩曾在湘軍中廣為流傳：
無端繞室思茫茫，明月當天萬瓦霜。
可恨良宵空兀坐，遙憐諸弟在何方?
紛紛書帙誰能展，豔豔燈花有底忙?
出戶獨吟聊妄想，孤雲斷處是家鄉。
每一次寫信，曾國藩總是不厭其煩，細致無比。讀曾國藩的信函，可以感覺到的是，無論什麽時候，曾國藩的氣脈都非常順暢，仿佛這些信函不是寫自劍拔弩張的軍中大帳，而是置身於恬靜安寧的鄉野古舍。當然，在家書中，曾國藩也流露出他的迷茫和痛苦，告知家人一些棘手的事情，比如他身患癬瘡所遭遇的折磨這種皮膚病自曾國藩三十歲時感染後，一直沒能見好，曾國藩整天感到瘙癢，尤其是到了夜晚，更是奇癢難耐，無法入睡。曾國藩每到一地，就遍尋名醫，但幾乎所有中醫對這種奇怪的皮膚病都束手無策。在信中，曾國藩經常向他的親人們敘述自己患病的痛苦和無奈，排遣鬱悶，也尋找慰藉。曾國藩就是這樣心無旁騖地寫著家信。家信對於曾國藩來說，就像是每天必需的修身功課，讓曾國藩在肅殺冰冷的戰爭歲月裏，感受到來自老家的溫暖，也讓他冶煉安詳凝重的靜氣。
進軍皖南，是朝廷的旨意，剛剛就任兩江總督的曾國藩自然不好違背。因為江南大營潰敗，金陵附近清軍勢力不再，朝廷想讓曾國藩領軍東援，繼續給金陵施壓。曾國藩也知道孤軍深入的危險，移師祁門，在很大程度上，曾國藩隻想做一個姿勢給朝廷看。此次屯兵祁門，也是跟胡林翼商量過的。之所以把大營選擇在祁門，主要出於多重考慮，一是湘軍的錢糧供給大都來自江西，駐軍祁門，可以保證江西的安全，確保餉源的供給；二是根據事態發展的情況，可以隨時從皖南東進浙江，攻克杭州、湖州，在南部，對金陵形成包圍；三是可以兼顧安慶那邊的戰局，如果時機不成熟，就掉頭回安慶城下。在曾國藩心目中，真正重要的，不是迅速進駐浙江，殺到金陵城下，而是步步為營，把長江沿岸的各個城市，逐一收複，穩紮穩打，然後由西向東推進，直逼金陵城下。在曾國藩看來，安慶的位置太重要了，它就像是太平天國長江沿岸的一個橋頭堡，如果這個橋頭堡占領了，大勢就會逆轉，勝利的天平也就會傾斜。曾國藩率領人馬到達祁門之後，太平天國立即有了激烈反應，調集了李世賢部和李秀成部，全力堵截湘軍的進攻路線。這樣，一直以來富庶寧靜的皖南，不可避免地成為雙方廝殺的戰場。那段時間裏，大大小小發生在皖南的戰役，竟達百餘次之多。由此可見戰爭的頻繁和慘烈。
徽州的戰鬥差一點讓曾國藩身敗名裂。這個時候，曾國藩的主力部隊一部分在安慶城下，一部分在江西境內，戰線拉得過長。一萬多人進入徽州後，一下子掉入太平軍的包圍圈中。當時，在皖南的東北麵，由太平軍李秀成據守；在南麵，則是太平軍李世賢部；在西北，太平軍英王陳玉成的大軍一直在長江沿岸，總兵力在五萬左右。置身這樣的局麵，無疑岌岌可危。湘軍在徽州的崇山峻嶺中一再受阻，通向浙江的道路無法打開。這當中，最嚴酷的戰爭是徽州府的失陷。1860年10月，太平軍兩路夾擊，一路從北到南，從寧國方向殺向祁門；另一路則由南至北，從景德鎮方向殺來。從寧國方向殺來的太平軍連續攻克旌德、績溪，兵臨徽州府城下。曾國藩下令徽州府的將領李元度堅守不出，李元度違背命令，輕易出城，結果被打得大敗。徽州府失守，李元度無臉見曾國藩，南下逃走。曾國藩勃然大怒，要將李元度軍法治罪，李鴻章等一幫幕僚苦苦相勸。為此，曾國藩還跟李鴻章翻了臉，致使李鴻章後來出走南昌。
危機之時，一件意想不到的事情發生了第二次鴉片戰爭爆發，英法聯軍侵犯天津、北京，擊敗僧格林沁的軍隊。鹹豐隻好帶著皇妃、皇太子及親信大臣肅順、載垣、端華等逃往熱河承德避暑山莊。十萬火急中，鹹豐降旨，要曾國藩速派鮑超率精兵數千拱衛京師。接到詔書，曾國藩和胡林翼一下子慌了神，此時此刻的曾國藩正是泥菩薩過江自身難保，正指望鮑超軍從江西趕往皖南救援，如果鮑超軍此時轉赴京城，皖南的戰局將徹底崩潰。如果不派部隊進京，曾國藩又會背上一個“抗旨”罪名，同樣也承擔不起。情急之下，曾國藩趕忙召集幕僚商議，李鴻章的一個建議解了燃眉之急，那就是采取“拖”的方式派人送信給朝廷，堂皇地建議：鮑超人地生疏，斷不能去，是否由曾國藩和胡林翼二人中酌派一人進京，這一招，明顯的是給朝廷出難題，因為朝廷最忌諱手握重兵的“節度使”進京。這樣，朝廷當然不同意，還會下詔來調人。這樣，信在路上一來一往，就會占用很長時間也就達到了爭取時間、調集人馬的作用。這一招果然有效不久，京城的事態得到了有效緩解，曾國藩接到朝廷新旨：清廷與八國聯軍已議和，鮑超軍不用北上。
一個危機躲過去了，另一個危險接踵而至。1860年12月，太平天國忠王李秀成部由羊棧嶺進山，攻克黟縣，距祁門湘軍大營僅有六十裏。此時此刻，祁門已是一座空城，除了大營內的一些親兵之外，其他湘軍全距祁門很遠，曾國藩想調集部隊回援已不可能。曾國藩長歎一聲，準備原地等死。那天晚上，曾國藩努力克製自己的情緒，將親兵全打發到內室之外，一個人在燈下安靜地寫自己的遺囑，讓人連夜送往湖南老家。天亮之時，一個好消息傳來，湘軍鮑超部和張運蘭部晝夜行軍，趕到祁門附近，全力抵擋李秀成部的進攻。由於李秀成不知道曾國藩的大本營在祁門，沒有全力進軍祁門，部隊退出了羊棧嶺，繞道進了浙江。
雖然皖南的形勢得到了緩解，危機並沒有解除。不久，太平軍又先後兵分兩路進軍祁門，這一次，是太平天國主將陳玉成親自率領人馬。形勢變得異常緊急：在北麵，太平軍攻到了離祁門二十裏的地方；在南麵，太平軍李世賢部攻克景德鎮，皖南鎮總兵陳大富戰死；在東麵，李秀成部也從浙江境內掉轉方向，再次向徽州發起攻擊。曾國藩又一次陷入了包圍之中。1861年4月，曾國藩由祁門赴休寧，調集徽州境內的各軍進攻徽州府，以期打開通往浙江之路，徽州府的太平軍乘夜出城偷襲，湘軍大敗潰散，太平軍乘勝追擊，將曾國藩圍困在休寧。高度危機之時，曾國藩隻好坐在大帳之中，再次給兒子紀澤、紀鴻寫信。從這封信中，我們看不到慌亂，卻能感受到事態的危急；還可以管窺曾國藩的真實思想很明顯，這已算是一封遺書了：
接到你們二月二十三日來信，知道家中兄弟五房都很平安，心中很安慰。我在初三日到達安徽休寧縣，就聽到景德鎮失守的消息。初四日所寫的家書，托你們九叔曾國荃寄回湖南老家，已經講到此地的局勢十分危急，恐怕難以支持下去。但還想到可以強攻徽州，如果得手，還是一條生路。初五日強攻徽州，強中營和湘前營在西門受到一次挫敗；十二日再攻，未能引誘敵人出城一戰；當夜二更天，敵人偷偷出城打劫營寨村莊，強中營和湘前營大敗。……目前的局勢更加緊急，四麵都被阻塞，外麵的接濟已斷絕。經過這次大敗，軍心受到很大的震動。我所盼望的是左宗棠的軍隊可以打敗景德鎮和樂平的敵人，鮑超的軍隊能從江西湖口迅速來救援，事情或許可能有轉機，不然的話，這裏就不堪設想了。
我自從投入軍事以來，即抱著一種臨危受命的誌向。丁巳和戊午那兩年在家養病，常常怕自己突然在家中去世，違背我的初誌，失信於天下人。後來起複再出山打仗，意誌尤其堅定。這次即使遇到什麽不測之禍，我也毫無牽戀的了。回想我自己，從小貧窮無知，現在能官至一品大員，年齡也已過五十，在外麵也稍有點名聲，又手握兵權，占據了高位，還有什麽可遺憾的呢?隻是我對古和詩歌，都花了不少精力，苦苦地加以探索，但是沒有好好地創作，在這方麵施展才華，打開一條大路。我對古的研究尤其有根源和依據，如果現在突然死了，那麽我的一些心得，就永遠無人領會了。我的書法用功較淺，但近年也深入了一些。這三方麵一無所成，心中不免耿耿於懷。
至於行軍打仗，本來不是我的專長。因為打仗要用奇兵，而我的性格太平易；打仗要欺騙對方，而我的性格太直，這怎麽能對付兵勢滔天的敵人?以前雖然有些勝利的捷報，那也是僥幸，並不是我應得的戰果。你們兄弟長大之後，切切不可涉足於軍隊之間，這種事難以見功業，而且容易造下大孽，尤其會留給後代人非難的口實。我長久地在行軍中生活，每天如同坐在針氈上一樣。稍可安慰的是我沒有辜負我最初的願望，沒有辜負我的學問，沒有一刻忘掉仁政愛民的心願。近來我的閱曆更多，深深體會到帶領軍隊的痛苦。你們都要一心一意地讀書，將來不能從軍，也不必出去做官。
我教育子弟有“不離八本”和“三致祥”的格言。這“八本”是：讀古書要以字句解釋為本，作詩要以講究聲調為本，侍養父母要以得到他們的歡心為本，修養身心要以少惱怒為本，立身處世要以不亂講話為本，治家要以不遲起床為本，做官要以不要錢為本，行軍打仗要以不騷擾百姓為本。“三致祥”是：孝順能帶來吉祥，勤奮能帶來吉祥，寬恕能帶來吉祥。我的父親竹亭公教育別人，專門講一個孝字，所以他在少壯時期敬愛父母，晚年熱愛兒女，都出於心中一片至誠，所以我為他寫的墓誌銘，就隻說這一件事。我的祖父星岡公教訓別人，則有八個字，還有“三不信”。八個字是：“考”(不忘祭祖先)、“寶”(與親屬鄰裏和睦相處)、“早”(早起)、“掃”(打掃庭院)、“書”(讀書)、“蔬”(種蔬菜)、“魚”(養魚)、“豬”(養豬)。“三不信”是一不信和尚道士巫師，二不信土地廟神仙鬼怪，三不信醫藥。處在這個亂世之中，錢越少，就越能免除禍患；家中用度越儉省，就越能養福延年。你們兄弟將來奉養母親生活，除了一個“勞”字和，一個“儉”字外，沒有其他安身立命的辦法。我在此軍事極其危急之時將這兩個字叮囑你們一遍，此外也就沒有什麽遺訓給你們了，你們可以將這點意思稟告給幾位叔叔和母親，不要忘掉。
遺書送出之後，曾國藩還與剛剛趕來為自己出謀劃策的老友歐陽兆熊開玩笑：“死在一堆如何?”歐陽兆熊大笑著應允了。也算是曾國藩命不該絕，第二天，由南麵包抄而來的太平軍李世賢部在江西樂平與左宗棠大戰後潰敗，無奈隻好撤兵浙江。徽州府的太平軍聽到這個消息後，信心頓失，也將人馬北移，撤出了徽州。危機再次解除，曾國藩的心重新落回胸腔。此次絕處逢生，明顯地暴露了太平軍的命門，那就是，太平軍的各路人馬全是各自為戰，缺乏配合和協作，關鍵時候，往往難以形成合力。這是典型的遊寇習氣。對於這樣的對手，曾國藩的信心更足了。在此之後，湘軍進行了大規模反撲，陸續收回徽州府所在地歙縣以及黟縣等地。一個大膽的計劃在曾國藩胸中變得成熟，那就是利用圍攻安慶的機會，大量殲滅太平軍的有生力量，先從英王陳玉成下手。曾國藩開始將目光死死地盯在長江沿岸，精心設計一個巨大的陷阱，誘騙對手不顧一切地往裏跳。
1861年5月5日，曾國藩留張運蘭守祁門，將湘軍大本營從祁門轉移到長江邊的東流。如果說曾國藩將大本營設在祁門是由於首鼠兩端拿不定主意的話，那麽，搬遷到安慶城對岸的東流，則表明鐵心圖謀安慶之役了。到了東流後不久，夏天到來了，白天的長江邊上像個火爐一樣，熱浪灼人；但一到夜晚，習習江風中，又變得異常涼爽。置身長江邊上，每到夜色降臨，曾國藩就把自己關在大帳裏，踱著步，像一頭將要出擊的孤狼一樣，周密地思索戰爭的步驟。對於安慶戰役，曾國藩總體上是這樣考慮的：一是一定要攻下安慶，拿下金陵的橋頭堡；二是圍城打援，先圍而不攻，一方麵減少損失，另外一方麵重點打擊太平天國英王陳玉成的援兵。在曾國藩看來，二十來歲的太平天國英王陳玉成雖然打仗勇猛，但在謀略上遠遠不夠。曾國藩想把陳玉成部隊先拿下，給在三河之戰中斃命的李續賓和曾國華報仇。
實際上從1860年秋天開始，湘軍就已經將安慶城團團圍住。圍城的主力，正是曾國荃的“吉”字營。“吉”字營在安慶城的北、東、西三麵挖了很多長壕深溝，又堆築幾個高高的土城，築成牢固的防禦工事，切斷了城內太平軍與外界的聯係。安慶的守軍共有兩萬餘人，都是陳玉成的部下。自1853年太平天國翼王石達開西征攻下安慶後，考慮到安慶地理位置的重要，太平軍一直派重兵守護。到了1860年，太平軍已駐守八年之久。駐守期間，太平軍將城牆築高了五尺，又添築子城一道，子城南自鎮海門西起，先西北後東北繞一大圈後，止於北城牆。除此之外，太平軍還另建了一座“耳”城，全力保衛安慶。這樣，城內的太平軍與城外的湘軍形成了對峙局麵，雙方都構築了鐵桶般的防守陣勢。
從1861年5月開始，曾國藩將他的全部精力用在安慶戰役上。他的三角眼鷹隼一樣死死地盯住安慶，沒有什麽能讓他轉移注意力。戰爭進行到中盤之時，這個一開始不會打仗的人，對於軍事的駕馭和調度已明顯熟稔了，甚至有了幾分諸葛孔明的神韻，對於戰局的控製和調度，已變得遊刃有餘。這時候，湘軍已經形成了自己的戰略方針，那就是，對待太平天國這樣的對手，不能輕易打浪仗，要集中優勢兵力，給對手以致命打擊。
布置戰術之餘，曾國藩安詳地在大營之中開始了自己的菜農生涯。每天下午，他都要一身短打，扛著鋤頭進入自己的菜園，鋤草、鬆土、澆肥。在給老家的兒子曾紀澤的信中，曾國藩對這一段時間的生活感到怡然自得：
吾現在營課勇夫種菜，每塊土約三丈長，五尺寬，窄者四尺餘寬，務使芸草及摘蔬之時，人足行兩邊溝內，不踐菜土之內。溝寬一尺六寸，足容便桶。大小橫直，有溝有澮，下雨則水有所歸，不使積潦傷菜。四川菜園極大，溝澮終歲引水流，頗得古人井田遺法。吾鄉一家園土有限，斷無橫溝，而直溝則不可少。吾鄉老農，雖不甚精，猶頗認真，老圃則全不講究。
當曾國藩如一個經驗豐富的老農，津津有味地摸索種菜之經驗和方法的時候，那段時間，在安慶附近數十公裏的範圍內，聚集了成千上萬的湘軍，他們正按照曾國藩的部署，張開了口袋陣，等著陳玉成帶領太平軍鑽進來。對於曾國藩的圍城打援之計，太平天國同樣製定了針對性的措施：安排李秀成從長江南麵、陳玉成從長江北邊同時進軍，夾攻武昌。武昌是湘軍的大後方，也是湖北巡撫胡林翼的老巢，湖廣總督所在地，戰略位置極其重要。如果太平軍圍攻武昌，必定會讓曾國藩分兵，這樣，安慶之圍也就迎刃而解了。
陳玉成不愧為太平軍的急先鋒。很快，陳玉成帶領數萬大軍進駐安慶桐城附近，虛晃一槍後，轉道皖西，連下英山、蘄水，攻占黃州，逼近武漢。陳玉成的西進，是曾國藩和胡林翼最為忌憚的，此刻湖北境內兵力空虛，幾乎不堪一擊。沒有想到的是，陳玉成在黃州駐紮時，恰巧英國長江水師提督何伯巡視到了武漢江邊，見陳玉成大兵屯集，便讓參讚巴夏禮告誡陳玉成，如果陳玉成進攻武漢的活，英國商業利益將會受損，他們不會袖手旁觀。這等於警告陳玉成不能進攻武漢。在這種情況下，陳玉成隻好放棄對武漢的進攻，轉向進攻鄂北的襄樊一帶。這樣的軍事調動根本不足以吸引曾國藩西援。曾國藩和胡林翼得悉後大鬆了一口氣，重新布置人馬進攻安慶。一直到幾個月後，陳玉成才掉轉人馬，回到安慶集賢關附近，開始在外圍直接進攻圍城的曾國荃部。
在長江以南，李秀成由浙江進入江西中部之後，迂回輾轉，沿贛江北上，攻下吉安、瑞州。湘軍九江守將吳坤修急忙派人向曾國藩告急，請求火速派兵救援。這時候曾國藩手中的機動部隊隻有鮑超一軍。在這種情況下，曾國藩讓鮑超軍駐紮在九江與安慶之間的地方，伺機而動。關鍵時刻，李秀成優柔寡斷的老毛病又犯了。曾國藩看透了李秀成的心思，料定他肯定會投鼠忌器，不敢進攻九江。素來小心謹慎的曾國藩一反常態，大膽地將鮑超軍調至安慶城下增援。安慶的戰局發生了根本性變化。陳玉成見鮑超援軍將至，料定自己獨力難解重圍，隻好留下劉倉琳等精銳一萬二千人分守安慶城外的集賢關、菱湖等營壘，自己帶五千人去接應來援被阻的洪仁殲、林紹璋、黃金、楊輔清等部。陳玉成的離去，更給湘軍可乘之機。曾國藩下令各部全力圍殲劉倉琳，同時分割陳玉成等人的救援。陳玉成在與洪仁玕等會師後，無法突破湘軍多隆阿的掛車河防線。這樣，劉倉琳部太平軍主力一萬二千人全部被殲。這一結果，使得安慶攻防戰基本定局。陳玉成率各路援軍因為無法突破掛車河，隻好繞道湖北境內馳援安慶。太平軍大隊人馬從西部長途跋涉，好不容易到達安慶城下時，早已人困馬乏，成了強弩之末。雖然陳玉成帶領太平軍全力發動進攻，想解安慶之圍，但湘軍兵強馬壯，又早有準備，陳玉成幾次進攻均告失利，手下大將程學啟部還投降了湘軍。這是一次全麵交鋒的戰鬥，湘軍在太平軍的內外夾擊下，兩邊行動，一部分全力攻取安慶，另一部分全力抵禦陳玉成在外圍的救援。
那段時間，整個戰局陷入了膠著狀態。旌旗蔽日，屍橫遍野。在戰爭麵前，時間仿佛停滯，生命就像泡沫一樣脆弱而短暫。在東流大營，前方的消息像走馬燈似的傳來，曾國藩心急如焚，食不下咽，整夜都無法合眼。曾國藩的皮膚病也因為內心的火急火燎，瘙癢得更厲害了。可以說，曾國藩每時每刻都麵臨精神崩潰的危險。這一場徒死的對抗完全是力拚消耗，在安慶，守城的太平軍漸至彈盡糧絕；在城外，攻城的湘軍也開始麵臨饑餓，他們供給的糧路同樣被外圍的太平軍切斷。時間一如既往地漫長陰晦，食物儲備變得越來越少了，到軍士手中的食物如同垃圾，能調動大家情緒的酒也沒有了。白天在陣地周圍遮天蔽日的，是如陰霾一樣的烏鴉，它們喑啞地鳴叫，如同鬼魂一樣在陣地上遊蕩。更讓人覺得討厭的，是戰壕裏出現了成群成群的老鼠，像集體發了瘋似的，向所剩無幾的食物發動攻擊；夜晚之時，它們甚至把在溝壕裏睡得像死豬一樣的湘軍軍士的耳朵或者鼻子咬掉。湘軍軍士們不僅僅要跟太平軍打仗，還要跟這些“強盜”作戰，把它們趕到角落裏，目的不僅僅是消滅它們，而且為了將其當作美食享用……陣地上所有能吃的東西都吃掉了，然後，吃捆綁帳篷的牛皮帶，吃一切有綠色的植物……
1861年8月底，湘軍由城外馬山直抵北城門城牆根的地道終於挖通了，湘軍用炸藥將城牆下的地道塞得滿滿的。1861年9月5日，曾國荃下令點火，隨著炸藥“轟”的一聲巨響，安慶北城牆被炸出一個豁口，太平軍叛將程學啟部率先呐喊著攻了進去。安慶的太平天國守軍自葉芸來以下一萬六千多人已餓得奄奄一息，失去了抵抗力，眼睜睜地看著湘軍的大刀向自己頭上砍來。此刻的陳玉成站在不遠處的山頭上，親眼目睹了安慶城的失陷，長嘯哀號，淚如雨下。然後，命令部隊掉轉方向，撤回廬州。在東流的曾國藩第一時間接到了戰報，欣喜若狂。安慶戰役是一個轉折點，在搶占了這個戰略高地之後，曾國藩清晰地知道，勝利已唾手可得了。
1861年9月25日，曾國藩渡江後進入了安慶。昔日的太平天國英王府被修繕了一番，恭候他的到來。進入這座化古城，曾國藩感慨萬千，這座昔日人氣十足的市民城市，在經曆了這場浩劫之後，一如陰曹地府似的陰森，大街小巷的每一個人都戾形鶴立。在湘軍攻下這座城市之時，這裏已經開始吃人肉了，人肉價五十一兩，割新死者肉也要四十一兩。城破之時，太平軍的鍋裏，皆煮人手足，有的碗中還有人的手指。聽著這樣的消息，曾國藩臉色都變了。
戰爭就是這樣殘酷無比。曾國藩的所見所聞，隻是很小的一部分。在他視線沒有到達的廣袤地區，平民百姓更是無比悲慘：千百萬人流離失所；一些隨身攜帶財寶的富人同他們為數不多的仆人在大路上被趁火打劫後勒死；一些斷垣殘壁在冒煙，瓦礫下壓著無法確認的一家老小；一些被抓走的弱女子，或受**，或因為寒冷或遭遺棄而死去，有的無奈之下生下施暴者的孽種；不舍田地和家畜而被殺害的百姓的骸骨在大雨之中泛白，與死去的牲畜的骸骨混雜在一起……對這一切司空見慣之後，人們又開始修葺和重建，麻木又變得熱情。人生和世界，就是這樣周而複始，生生不息。