太平天國起義爆發之後，太平軍從廣西金田開始，席捲半個中國。清軍面對太平軍的攻勢，已經呈現頹敗之勢。1852年12月太平軍從湖南北出，攻克漢陽。咸豐皇帝下詔令禮部右侍郎曾國藩協同湖南巡撫辦理團練，抗擊太平軍。此時曾國藩因為丁憂在湖南湘鄉守制。曾國藩奏請咸豐皇帝，團練已經不堪作戰，需要另建新軍，得到皇帝允許後，曾國藩以湘鄉練勇為基礎，組建一支新軍，稱為湘湘勇，或稱湘軍。

湘軍以湖南湘鄉人為主，士兵由營官招募，士兵聽從營官調遣，全軍只服從曾國藩一人。湘軍1854年在湖南衡州編練組建，建制陸軍13營6500人，水師10營5000人。在對太平軍作戰中，逐漸擴大，兵力加強，並且有對太平軍作戰的勝績。1864年7月，湘軍攻破天京，太平軍滅亡。

湘軍興起，對於清朝兵制有很多影響。湘軍在對太平軍戰鬥中，勢力加強，兵多將廣，江忠源、胡林翼、左宗棠、楊載福、彭玉麟、劉長佑、曾國荃、劉坤一、劉錦棠、李鴻章都是湘軍將領，打敗太平軍之後，陸續升至總督、巡撫封疆大吏。在晚清時，總督、巡撫權力很大，朝廷對其管理也漸漸力弱。

滅掉太平軍之後，曾國藩權力與聲望達到高峰，他的部下外放封疆大吏的人員甚多，遍佈全國。此時有人勸曾國藩黃袍加身，取代清廷。但是曾國藩沒有這樣做。其原因有三：其一，曾國藩受儒家思想影響深，不肯違背名教，行不忠之事，背上篡權奪位之惡名。其二，曾國藩審時度勢，意識到如果他稱帝，必然收編太平軍李秀成殘部，導致太平軍死灰復燃，形成湘軍、太平軍、朝廷的三方勢力奪天下局面。其三，湘軍稱帝，國家再次進入群雄爭霸，內戰劇烈，百姓受苦，國家分裂、外國列強趁虛而入的局面。其四，曾國藩意識到那樣他將會揹負罵名，由清朝中興之臣變成千古罪人。

曾國藩所想是正確的，戰爭頻發，百姓流離失所，社會財富被破壞，他也將成為民族罪人，落個千古罵名。

帝制己走向瓦解的趨勢，曾國藩雖然成功鎮壓太平天國但要打倒滿清，做皇帝是一件非常難的一件事，還有列強虎視華夏，清王朝能否延續都會成為一個問題。曾國藩年齡將老，自然會顯得力不從心，立功、立德、立言三不朽，又復何望哉？