1948年11月6日，淮海戰役正式打響，為了打好這場戰略大決戰，老蔣不惜血本，投入了80萬重兵，其中許多部隊都是他的嫡系精銳，比如邱清泉兵團和黃維兵團。兵有了，將也有了，但該由誰來掛帥指揮呢？老蔣在這個問題上犯了難。最初他是打算讓白崇禧來統率這80萬精銳來和我軍決戰的。

在國軍高階將領當中，白崇禧有小諸葛之稱，解放戰爭初期，他奉命率部圍攻挺進大別山的中野，半年時間，中野就損失了6萬餘人，最後只能被迫撤出了大別山，白崇禧能力之強可見一斑。正因為如此，老蔣才把他當成了淮海戰役國軍司令官的第一人選。一開始白崇禧很痛快地就答應了，但當老蔣催他上任時，白崇禧卻突然變卦，拒不上任。

淮海戰役結束後，有桂系同仁問白崇禧當時為何拒絕去華東任職，如果他能指揮這80萬國軍作戰的話，淮海戰役的結局或許不會這麼糟糕。白崇禧當時是這樣回答的：“不糟又怎樣？打勝了還不是老蔣的天下！老蔣的成功！北伐時我打的勝仗還少嗎？結果怎樣呢？現在叫他也嚐嚐失敗的滋味。”老蔣就這樣被白崇禧涮了一把。

由於白崇禧拒不上任，老蔣無奈之下只得把劉峙推上了前臺。劉峙擔任過黃埔軍校的教官，資歷很老，因此那些黃埔將領都要給他幾分面子。但他的軍事指揮能力卻很差，在抗日戰爭和解放戰爭中一敗再敗，人稱“長腿將軍”。因此把80萬大軍交給他老蔣無論如何是不放心的，於是就把正在東北處理國軍撤退的杜聿明給調到了徐州，出任劉峙的副手。

杜聿明事後回憶說他在接到這個調令時心情十分糟糕：“恐懼心理一直上湧，覺得徐州戰場好像是一個刑場，我一到徐州，不是被打死，即是被俘。”杜聿明還在途中的時候，淮海戰役就已經爆發了，由於劉峙的錯誤指揮，黃百韜第7兵團十餘萬人馬被華野包圍在了碾莊圩一帶。決戰才剛剛開始，國軍就已經在局面上陷入了被動，最終一敗塗地。

其實，淮海戰役爆發前，有一個國軍名將正在南京閒置，他的能力遠在劉峙之上，這個人就是薛嶽。薛嶽的軍事才能有目共睹，抗日戰爭全面爆發後，他以獨創的天爐戰法在長沙城下重創日軍，殲敵十餘萬，人稱“長沙之虎”。那麼在白崇禧拒不上任後，老蔣為何寧用劉峙這個庸才也不用薛嶽這個抗日名將來指揮淮海戰役呢？

答案其實很簡單，因為薛嶽在解放戰爭初期的表現實在是太糟糕了。不少人認為老蔣在解放戰爭中沒有重用薛嶽是一大損失，其實這是個誤解。解放戰爭一開始，老蔣就對薛嶽委以重任，讓他擔任了徐州“綏靖公署主任”一職，指揮數十萬國軍和華野作戰。但面對粟裕，薛嶽完全失去了以往作戰的靈氣，連戰連敗，不到半年時間就葬送了老蔣兩個嫡系整編師。

特別是整編第26師和第1快速縱隊的覆滅令老蔣尤為心痛，整編26師師長馬勵武不僅是黃埔一期生，而且還擔任過老蔣的侍從室副官，是老蔣的心腹愛將。1947年1月，馬勵武在嶧縣被華野包圍，屢次請求突圍均被薛嶽拒絕，最終全軍覆沒，馬勵武本人也被華野俘虜。上任半年就損兵6萬多人，老蔣對薛嶽失望之極，以“指揮無力”為由將他撤職。正是因為在和粟裕交手時敗得太慘，所以淮海戰役爆發時老蔣寧用劉峙也不用薛嶽。