1937年，全面抗戰爆發後，湯恩伯升任第20軍團軍團長，第20軍團下轄第13軍、52軍和85軍三個軍。其中，第13軍軍長由湯恩伯兼任，第52軍軍長為關麟徵，第85軍軍長為王仲廉。
第20軍團除了第110師屬於雜牌軍外，其餘都是嫡系精銳，全軍團共有6萬餘人，每個軍下轄的每個師有1.1萬餘人。在裝備上，第20軍團擁有不少山炮、加農炮、榴彈炮和戰防炮等重武器。如此兵力和裝備，在同地域的國軍部隊中，第20軍團是實力最雄厚、裝備最好的部隊。
1938年3月，臺兒莊戰役打響，日軍向滕縣守軍川軍第22集團軍發起進攻，湯恩伯部被緊急調往滕縣、臨城增援。15日，第85軍先頭部隊奉命趕往滕縣東南山地，湯恩伯也於當天抵達臨城。
此時滕縣之戰正在激烈進行，第五戰區司令李宗仁命令湯恩伯部迂迴滕縣以北，與川軍第22集團軍聯合夾擊滕縣之敵，當時第22集團軍總司令孫震緊急給湯恩伯發來電令，請求湯恩伯儘快派兵增援。湯恩伯認為日軍已經有一部繞過滕縣南下，滕縣外圍陣地已經丟失，於是拒絕了李宗仁的命令和孫震的請求，就地讓第85軍佔領臨城，準備側擊南下的日軍。
3月17日，湯恩伯給李宗仁發去電報，表示將親自率第85軍收復滕縣。但當他看到日軍源源不斷攻擊而來，守軍大部已經潰散，於是又決定避免和日軍正面決戰，命令第85軍向臨城以東的地區移動，又命令趕來的第52軍沿著運河佈防。孫震第22集團軍苦苦支撐，得不到湯恩伯部的支援，川軍傷亡慘重，堅守到18日，川軍名將王銘章及3000名川軍全部戰死滕縣，滕縣被日軍佔領。
日軍攻下滕縣之後，調整了作戰策略：以磯谷廉介第10師團沿著津浦路南下，以板垣徵四郎第5師團攻佔臨沂，進入嶧縣，與日軍第10師團匯合，一舉殲滅運河以北的中國守軍。日軍的這一南北攻擊計劃，妄圖將中國軍隊全殲。
然而，日軍料想不到的是，第5師團板垣徵四郎部在臨沂遭到了張自忠和龐斌勳部的頑強阻擊，日軍第5師團在臨沂被殺得寸步難移，日軍南北兩路夾擊的計劃落空。
就在此時，日軍第10師團為了搶奪頭功，不等第5師團突破臨沂策應，就孤軍冒進，瀨谷支隊攻佔滕縣後，立刻向韓莊、嶧縣發起追擊。3月20日，日軍瀨谷支隊攻下嶧縣，嚐到甜頭的日軍繼續冒進，為李宗仁圍殲這股敵人創造了機會。
為殲敵創造了機會，李宗仁立刻命令孫連仲的第2集團軍迅速開到臺兒莊附近的運河南岸集結，池峰城部第31師於3月22日進入臺兒莊佈防；命令在臨城的湯恩伯第20軍團讓開津浦線，將主力集結在嶧縣東側及棗莊西北一帶山地，側面攻擊南下的日軍第10師團。李宗仁的戰略非常明顯，以池峰城部第31師吸引日軍，以湯恩伯部在臨棗支路與韓莊運河之間圍殲日軍主力。這一戰略被稱之為“棗嶧計劃”。
3月22日，湯恩伯率第20軍團司令部和第52軍趕往臺棗支線佈防。在經過臺兒莊時，池峰城求見了湯恩伯。池峰城問湯恩伯，第20軍團何時能夠南下共同夾擊日軍，湯恩伯回答，只要槍聲一響，我們馬上就回援，第31師只要堅持三天就夠了。
湯恩伯離開臺兒莊後，立刻佈置兵力實施殲敵計劃，湯恩伯命令第52軍攻打嶧縣，命令第85軍攻打棗莊。湯恩伯這一戰略，其實是有他的盤算的，第52軍與第85軍雖然都是精銳，都是自己的老本本，但要細細區分起來，第85軍在感情上才是自己一手帶起來的。於是，湯恩伯將第52軍調去攻打日軍主力據守的嶧縣，第85軍則在棗莊附近進行牽制和掩護。
3月22日，日軍瀨谷支隊沿著臺棗支線進犯臺兒莊，臺兒莊戰鬥打響。赤峰城率部堅守臺兒莊，戰鬥打得相當激烈。湯恩伯第一時間得到了訊息，但他沒有立刻命令第52軍、第85軍向嶧縣、棗莊之敵發起進攻，策應臺兒莊，而是發去給李宗仁一份電報，聲稱情況發生變化，決定改變原作戰計劃。
3月24日凌晨，湯恩伯命令在前線的第52軍掉頭向北，冒著大雨向棗莊北面的鵓鴿窩、郭裡集一帶轉進，隨後又命令第85軍前來匯合。兩軍匯合後，湯恩伯率領第20軍團進入了棗莊東面和北面的山區之中，隱伏起來。
湯恩伯不按原定計劃進攻，理由是在郭裡集發生了戰鬥。第52軍在郭裡集的確與日軍發生了戰鬥，但戰鬥並未如湯恩伯所說全軍被日軍擋住，無法前進。當時在郭裡集的日軍，數量並不多。在郭裡集戰鬥結束後，52軍軍長關麟徵請求湯恩伯令第85軍配合攻擊日軍的沂州支隊主力，湯恩伯也予以了拒絕。
而就在此時，日軍主力已經被孫連仲部吸引在了臺兒莊正面，此時湯恩伯部要是以少量兵力牽制棗莊之敵，親自率領第20軍團主力南下，迅速與孫連仲部匯合，圍殲日軍主力是非常有利的。實在不行，集中主力殲滅棗莊的日軍，再揮軍南下救援孫連仲部，也是一個不錯的戰略，但是湯恩伯兩個方案都沒選，選了第三個方案，就是收攏兩軍向山區隱伏起來。
3月26日下午，關麟徵派出參謀長姚國俊和第25師參謀長覃藝之等人到抱犢崮山區去找湯恩伯，請示作戰計劃和命令。湯恩伯告訴姚國俊等人，日軍猛攻臺兒莊，看來臺兒莊是守不住了，日軍可能會提前衝破運河南下。湯恩伯最關心的是，一旦日軍突破運河南下，第20軍團將成為日軍首要攻擊的目標，他最擔心的是這個問題。
3月27日，臺兒莊之戰已經進行到了第5天。在這5天時間裡，湯恩伯既不攻擊棗莊，也不攻擊嶧縣，也不南下前後夾擊臺兒莊之敵。第20軍團6萬多精銳全部閒置在棗莊以北山區，按兵不動，隱伏不出。
孫連仲部遲遲等不來增援，日軍攻入臺兒莊內部。李宗仁見狀不得不改變戰略，先調集主力圍殲臺兒莊正面之敵，然後解決棗莊、嶧縣之敵。李宗仁親自給湯恩伯發去電報，讓他火Superb兵南北夾擊臺兒莊之敵，不得有誤。
湯恩伯得到電報後，於27日晚上9點鐘命令關麟徵、王仲廉率部夾擊臺兒莊之敵。然而，湯恩伯又一次食言，他認為日軍主力還在嶧縣徘徊為由，命令第85軍全部留在山區，命令第52軍派出3個團南下策應臺兒莊守軍，攻擊日軍。
湯恩伯的這一舉動，讓第52軍軍長關麟徵覺得反感。關麟徵認為湯恩伯一再將85軍調在後面休息，第52軍卻總是衝鋒在前，這種親疏有別的做法一次又一次傷透了52軍士兵的心，於是關麟徵拒絕執行湯恩伯的命令，原本要派出去的3個團，也沒有了下文。
3月28日晚上10點鐘，臺兒莊守軍苦戰了6天6夜，也沒有看到半個援軍的身影。李宗仁第4次給湯恩伯發去電報，讓他趕緊率部來援，李宗仁在電報中言辭激烈。湯恩伯於是於29日下午，才命名第20軍團出山向嶧縣東南方行進。
29日下午，日軍攻擊臺兒莊的兵力增加到了16000餘人，臺兒莊守軍期待援軍望眼欲穿，戰場情況危急萬分。但是湯恩伯部行動依然遲緩，一直到了30日凌晨，第52軍主力才抵達臺兒莊以北25公里處的蘭陵鎮。
4月3日，各部對日軍發起總攻擊，但湯恩伯部還是拖延避戰，僅第52軍在牛莊殲滅了日軍180人外，並沒有多大舉動。4月5日，蔣親自給湯恩伯發來電報，蔣對湯恩伯率領第20軍團在臺兒莊作戰半個多月，竟無尺寸之功非常不滿。若再這樣，將以軍法論處。
湯恩伯到此時才著急了，於是親自到前線督戰，第20軍團各部也行動迅速，日軍瀨谷支隊和坂本支隊被擊潰，被迫放棄陣地北逃。4月7日，臺兒莊內的日軍被全部肅清，臺兒莊大捷完成。
臺兒莊戰役紀念碑
1980年代，第52軍參謀長姚國俊在回憶錄中，詳細記錄了臺兒莊戰役中湯恩伯消極避戰的經過，為我們留下了這一段鮮為人知的歷史，揭開了湯恩伯儲存實力，消極避戰的實情。李宗仁在晚年的回憶錄中，同樣也記錄了此事。
從姚國俊和李宗仁等人的回憶錄來看，湯恩伯在臺兒莊戰役中的消極避戰行為確有其事，絕非杜撰與誣陷。
1937年，全面抗戰爆發後，湯恩伯升任第20軍團軍團長，第20軍團下轄第13軍、52軍和85軍三個軍。其中，第13軍軍長由湯恩伯兼任，第52軍軍長為關麟徵，第85軍軍長為王仲廉。
第20軍團除了第110師屬於雜牌軍外，其餘都是嫡系精銳，全軍團共有6萬餘人，每個軍下轄的每個師有1.1萬餘人。在裝備上，第20軍團擁有不少山炮、加農炮、榴彈炮和戰防炮等重武器。如此兵力和裝備，在同地域的國軍部隊中，第20軍團是實力最雄厚、裝備最好的部隊。
1938年3月，臺兒莊戰役打響，日軍向滕縣守軍川軍第22集團軍發起進攻，湯恩伯部被緊急調往滕縣、臨城增援。15日，第85軍先頭部隊奉命趕往滕縣東南山地，湯恩伯也於當天抵達臨城。
此時滕縣之戰正在激烈進行，第五戰區司令李宗仁命令湯恩伯部迂迴滕縣以北，與川軍第22集團軍聯合夾擊滕縣之敵，當時第22集團軍總司令孫震緊急給湯恩伯發來電令，請求湯恩伯儘快派兵增援。湯恩伯認為日軍已經有一部繞過滕縣南下，滕縣外圍陣地已經丟失，於是拒絕了李宗仁的命令和孫震的請求，就地讓第85軍佔領臨城，準備側擊南下的日軍。
3月17日，湯恩伯給李宗仁發去電報，表示將親自率第85軍收復滕縣。但當他看到日軍源源不斷攻擊而來，守軍大部已經潰散，於是又決定避免和日軍正面決戰，命令第85軍向臨城以東的地區移動，又命令趕來的第52軍沿著運河佈防。孫震第22集團軍苦苦支撐，得不到湯恩伯部的支援，川軍傷亡慘重，堅守到18日，川軍名將王銘章及3000名川軍全部戰死滕縣，滕縣被日軍佔領。
日軍攻下滕縣之後，調整了作戰策略：以磯谷廉介第10師團沿著津浦路南下，以板垣徵四郎第5師團攻佔臨沂，進入嶧縣，與日軍第10師團匯合，一舉殲滅運河以北的中國守軍。日軍的這一南北攻擊計劃，妄圖將中國軍隊全殲。
然而，日軍料想不到的是，第5師團板垣徵四郎部在臨沂遭到了張自忠和龐斌勳部的頑強阻擊，日軍第5師團在臨沂被殺得寸步難移，日軍南北兩路夾擊的計劃落空。
就在此時，日軍第10師團為了搶奪頭功，不等第5師團突破臨沂策應，就孤軍冒進，瀨谷支隊攻佔滕縣後，立刻向韓莊、嶧縣發起追擊。3月20日，日軍瀨谷支隊攻下嶧縣，嚐到甜頭的日軍繼續冒進，為李宗仁圍殲這股敵人創造了機會。
為殲敵創造了機會，李宗仁立刻命令孫連仲的第2集團軍迅速開到臺兒莊附近的運河南岸集結，池峰城部第31師於3月22日進入臺兒莊佈防；命令在臨城的湯恩伯第20軍團讓開津浦線，將主力集結在嶧縣東側及棗莊西北一帶山地，側面攻擊南下的日軍第10師團。李宗仁的戰略非常明顯，以池峰城部第31師吸引日軍，以湯恩伯部在臨棗支路與韓莊運河之間圍殲日軍主力。這一戰略被稱之為“棗嶧計劃”。
3月22日，湯恩伯率第20軍團司令部和第52軍趕往臺棗支線佈防。在經過臺兒莊時，池峰城求見了湯恩伯。池峰城問湯恩伯，第20軍團何時能夠南下共同夾擊日軍，湯恩伯回答，只要槍聲一響，我們馬上就回援，第31師只要堅持三天就夠了。
湯恩伯離開臺兒莊後，立刻佈置兵力實施殲敵計劃，湯恩伯命令第52軍攻打嶧縣，命令第85軍攻打棗莊。湯恩伯這一戰略，其實是有他的盤算的，第52軍與第85軍雖然都是精銳，都是自己的老本本，但要細細區分起來，第85軍在感情上才是自己一手帶起來的。於是，湯恩伯將第52軍調去攻打日軍主力據守的嶧縣，第85軍則在棗莊附近進行牽制和掩護。
3月22日，日軍瀨谷支隊沿著臺棗支線進犯臺兒莊，臺兒莊戰鬥打響。赤峰城率部堅守臺兒莊，戰鬥打得相當激烈。湯恩伯第一時間得到了訊息，但他沒有立刻命令第52軍、第85軍向嶧縣、棗莊之敵發起進攻，策應臺兒莊，而是發去給李宗仁一份電報，聲稱情況發生變化，決定改變原作戰計劃。
3月24日凌晨，湯恩伯命令在前線的第52軍掉頭向北，冒著大雨向棗莊北面的鵓鴿窩、郭裡集一帶轉進，隨後又命令第85軍前來匯合。兩軍匯合後，湯恩伯率領第20軍團進入了棗莊東面和北面的山區之中，隱伏起來。
湯恩伯不按原定計劃進攻，理由是在郭裡集發生了戰鬥。第52軍在郭裡集的確與日軍發生了戰鬥，但戰鬥並未如湯恩伯所說全軍被日軍擋住，無法前進。當時在郭裡集的日軍，數量並不多。在郭裡集戰鬥結束後，52軍軍長關麟徵請求湯恩伯令第85軍配合攻擊日軍的沂州支隊主力，湯恩伯也予以了拒絕。
而就在此時，日軍主力已經被孫連仲部吸引在了臺兒莊正面，此時湯恩伯部要是以少量兵力牽制棗莊之敵，親自率領第20軍團主力南下，迅速與孫連仲部匯合，圍殲日軍主力是非常有利的。實在不行，集中主力殲滅棗莊的日軍，再揮軍南下救援孫連仲部，也是一個不錯的戰略，但是湯恩伯兩個方案都沒選，選了第三個方案，就是收攏兩軍向山區隱伏起來。
3月26日下午，關麟徵派出參謀長姚國俊和第25師參謀長覃藝之等人到抱犢崮山區去找湯恩伯，請示作戰計劃和命令。湯恩伯告訴姚國俊等人，日軍猛攻臺兒莊，看來臺兒莊是守不住了，日軍可能會提前衝破運河南下。湯恩伯最關心的是，一旦日軍突破運河南下，第20軍團將成為日軍首要攻擊的目標，他最擔心的是這個問題。
3月27日，臺兒莊之戰已經進行到了第5天。在這5天時間裡，湯恩伯既不攻擊棗莊，也不攻擊嶧縣，也不南下前後夾擊臺兒莊之敵。第20軍團6萬多精銳全部閒置在棗莊以北山區，按兵不動，隱伏不出。
孫連仲部遲遲等不來增援，日軍攻入臺兒莊內部。李宗仁見狀不得不改變戰略，先調集主力圍殲臺兒莊正面之敵，然後解決棗莊、嶧縣之敵。李宗仁親自給湯恩伯發去電報，讓他火Superb兵南北夾擊臺兒莊之敵，不得有誤。
湯恩伯得到電報後，於27日晚上9點鐘命令關麟徵、王仲廉率部夾擊臺兒莊之敵。然而，湯恩伯又一次食言，他認為日軍主力還在嶧縣徘徊為由，命令第85軍全部留在山區，命令第52軍派出3個團南下策應臺兒莊守軍，攻擊日軍。
湯恩伯的這一舉動，讓第52軍軍長關麟徵覺得反感。關麟徵認為湯恩伯一再將85軍調在後面休息，第52軍卻總是衝鋒在前，這種親疏有別的做法一次又一次傷透了52軍士兵的心，於是關麟徵拒絕執行湯恩伯的命令，原本要派出去的3個團，也沒有了下文。
3月28日晚上10點鐘，臺兒莊守軍苦戰了6天6夜，也沒有看到半個援軍的身影。李宗仁第4次給湯恩伯發去電報，讓他趕緊率部來援，李宗仁在電報中言辭激烈。湯恩伯於是於29日下午，才命名第20軍團出山向嶧縣東南方行進。
29日下午，日軍攻擊臺兒莊的兵力增加到了16000餘人，臺兒莊守軍期待援軍望眼欲穿，戰場情況危急萬分。但是湯恩伯部行動依然遲緩，一直到了30日凌晨，第52軍主力才抵達臺兒莊以北25公里處的蘭陵鎮。
4月3日，各部對日軍發起總攻擊，但湯恩伯部還是拖延避戰，僅第52軍在牛莊殲滅了日軍180人外，並沒有多大舉動。4月5日，蔣親自給湯恩伯發來電報，蔣對湯恩伯率領第20軍團在臺兒莊作戰半個多月，竟無尺寸之功非常不滿。若再這樣，將以軍法論處。
湯恩伯到此時才著急了，於是親自到前線督戰，第20軍團各部也行動迅速，日軍瀨谷支隊和坂本支隊被擊潰，被迫放棄陣地北逃。4月7日，臺兒莊內的日軍被全部肅清，臺兒莊大捷完成。
臺兒莊戰役紀念碑
1980年代，第52軍參謀長姚國俊在回憶錄中，詳細記錄了臺兒莊戰役中湯恩伯消極避戰的經過，為我們留下了這一段鮮為人知的歷史，揭開了湯恩伯儲存實力，消極避戰的實情。李宗仁在晚年的回憶錄中，同樣也記錄了此事。
從姚國俊和李宗仁等人的回憶錄來看，湯恩伯在臺兒莊戰役中的消極避戰行為確有其事，絕非杜撰與誣陷。