在咸豐皇帝時期，清朝已經面臨著內憂外患。咸豐元年太平天國運動爆發，而且越來越壯大。咸豐二年的時候太平軍就已經席捲廣西進擊兩湖。當時大清的國家戰鬥力非常弱小，根本不足以與太平軍抗衡，為了有效抗擊太平軍，咸豐帝決定發動地方團練來挽回敗局。當時的曾國藩正因母親病逝在家丁憂，咸豐皇帝就提名曾國藩組織地方團練，配合地方軍隊消滅太平軍。

剛開始，曾國藩並不想接管這差事，可是有一天，她的好友郭嵩燾登門拜訪，並對他說：“你不是一直想救國救民嗎？這不就是一個千載難逢的好機會嗎？”一直憂國憂民的曾國藩被這話所觸動，就決定出山辦團練。

由於曾國藩確確實實是想拯救風雨飄搖中的大清，救人民與水火，所以她並沒有像其他人那樣敷衍了事，並且藉機斂財，而是要打造一支強硬的軍隊。曾國藩所創立的湘軍軍官大多為自己的學生、同鄉和親戚中堅持義理的知識分子，招募計程車兵多是深山寒苦之人，這就是相軍的基本特點“儒生帶鄉奴”。

曾國藩先是插手地方吏治，奪了湖南地方官的財與權，此舉得罪了湖南大大小小的官吏，自己建立的團練士兵與地方綠營兵發生衝突，綠營兵在綠營軍官鮑起豹的鼓動下，闖入曾國藩衙門，曾國藩差點死在綠營兵的刀斧之下，而就在隔壁的巡撫駱秉章佯裝不知，曾國藩無奈逃到巡撫衙門求救，駱秉章才出面為曾國藩解了圍。

此次事件後，曾國藩知道很難在長沙立足，就決定離開長沙去衡陽練兵。但是擺曾國藩面前的是所未有的困難，。首先是整個湖南官員的排擠，撥不下來錢，諸事舉步維艱。於是，曾國藩就向皇帝哭苦叫窮，終於得到皇帝的認可，從湖南財政中分得一杯羹。而此時的駱秉章也態度迴轉，給了曾國藩很大的幫助和支援。曾國藩的湘軍日漸壯大，終於掃平了太平軍，為清廷延續了半個世紀的命。

咸豐二年（1852）年，太平天國席捲半個中國，佔領了南京、安微、浙江、江蘇等長江中上游之地，並大力進軍武昌、上海等地。恰逢曾國藩因母喪在家，清朝的主要軍隊是人數較少的滿人蒙古人為主的八旗軍和數量龐大的漢人綠營，但軍費卻大多用在八旗軍上，綠營軍薪餉和補給不足，訓練不夠戰鬥力不強，與太平軍的戰鬥處於下風。1853年，他接受皇帝的任務組建地方團練即後來的湘軍，是他的理學道德秩序觀在軍事上的體現，用嚴格紀律管教他的部隊，懇請皇上耐心等待，寫道：“但求其精，不求其多；但求有濟，不求速效。”

首先，定下嚴格徵兵標準，要來自農村的年輕人，而非城市出身。其次，堅持統兵者親自招募下屬，他會從弟弟、朋友、同僚等熟悉的人中選拔統兵官，然後統兵官再以同樣的方式挑選下屬，從步卒往上到將領大家都是同鄉關係，建立起堅不可破的情感聯結、義務意識。他告諭麾下諸統兵官：“將領之管兵勇應如父兄之管子弟。父兄嚴者，其子弟整肅，其家必興。溺愛者其子弟驕傲，其家必敗。”其三，將軍不能越過其麾下統兵官，向更下級的官兵下命令，不能越級指揮。如統兵官調走，其所轄單位跟著調走，新來的官長得自己招募人馬，從頭組建自己的子弟兵。其四，用優渥的薪餉（綠營步卒薪餉的3倍），豐厚的賞金，來激勵他們英勇殺敵，獲取豐厚的物質報酬。其五，進行思想建設，一方面灌輸對皇上感恩應當報效國家。另一方面強化學習殺人面對死亡的心理訓練。其六，建立了嚴酷的懲罰治軍辦法。每個士兵都是統兵官家鄉招來，錄下指紋和家族成員名字，為此人從軍具保。這一做法，湘軍士兵無一人會臨陣脫逃，遁入鄉間，違反軍規，家人會連坐，保持了戰鬥的凝聚力和強大性。其六，曾國藩以農民軍會犯聖廟，推翻儒家思想，毀中國數千年禮義人倫詩書典

則的嚴重後果取得鄉紳大地主等的財力支援，又以物質報酬取得農民的兵力補充。

曾國藩組建的湘軍從武器來說，用的冷兵器和火器，還有火繩槍和銅炮，建立了自己的兵工廠，成立了一支水師，創設了三個造船廠，可建造戰船。到了1854年，己有隨時可作戰的十三營陸師，十營水師，有二百多艘戰船、一百艘補給河帆船，一艘充當旗艦的大船。在實際統兵作戰上，一介書生的他表現不盡人意，一敗塗地，敗退到長沙，投水自盡，被救上後，咸豐帝沒怪他，又重整軍隊，重建水師，又奪回湖北省城武昌。咸豐帝龍心大悅說到：“不意曾國藩一介書生，乃能建此奇功。”

隨著湘軍的日益擴大，曾國藩充分發揮識人用人的長處，麾下聚集了一批能征善戰的統兵官，制定了詳細周密的戰略規劃，加上太平軍內部的不統一矛盾重重，終於在1864年，湘軍在其弟曾國荃的率領下攻克天京，成為鎮壓太平天國的功臣，被封為一等勇毅侯，成為清代以文人而封武侯的第一人，後歷任兩江總督、直隸總督，官居一品。

太平天國運動爆發後，清朝的正規軍綠營兵已完全沒有了戰鬥力，八旗兵也早就腐化墮落了。清廷允許閒賦在家的鄉紳官員自行辦團練。湘軍就是這樣一步步被曾國藩帶出來的。

曾國藩打仗叫“結硬寨，打呆仗”。就是行軍的時候走半天，另外半天挖壕溝，修防禦圍牆，而且是外面一層，裡面一層。打仗攻城的時候，同樣挖壕溝修圍牆，裡面一層防止敵人逃跑，外面一層防止敵人增援。就像蟒蛇一樣，死死纏住敵人，所以湘軍攻城不是按天計，也不是按月計，而是按年計

就像一支球隊裡不是所有人都願意幹髒活累活，工程施工隊式的軍隊也不是什麼人都適合，所以曾國藩用人的方法是“選士人，領山農”。提拔的軍事將領都是熟讀程朱理學的書生，沒有實戰經驗，也沒有孔武有力的身板，就只有讀書讀出來的一根經。湘軍悍將羅澤南，白天領兵打仗，晚上開班當老師講學，就是個教書先生；另一個悍將李續賓也是鄉下讀書人，沒有口才，不善言辭，就是個呆頭呆腦的笨人。士兵的來源是山裡的農民，不滑頭，不投機取巧，不怕髒不怕累的肯做事。