這個縱隊，叫華野先遣縱隊。是根據粟裕的指示，於1948年4月組建起來的。該縱隊由於沒有正式公開，沒有正式編制，史學界和很多軍迷們對其沒有更多的概念。其實，這個縱隊在淮海戰役中發揮了很特殊的作用。

1948年初，中央決定繼劉鄧千里躍進大別山之後再來第二個躍進，即派粟裕率三個縱隊過江，在江南執行寬大機動作戰任務。當時，中央要粟裕渡江的決心是堅定的，粟裕對戰爭準備也是認真的。於是，為更好地遂行渡江南進戰略任務，粟裕在濮陽整訓期間決定組建先遣縱隊。根據《粟裕年譜》記載：先遣縱隊是於5月31日正式成立的。

當時，中央要粟裕率三個縱隊渡江屬於絕密級。因此，先遣縱隊的組建及有關事宜也是在很祕密的情況下準備和完成的。這也是很多人不知道這段歷史的根本原因。

先遣縱隊主要由華野司令部1個加強營偵察部隊和第1、4、6三個縱隊各抽調1個加強營組成。“孫仲德任司令員，譚啟龍任政治委員”，沒有明確參謀長的人選，“華野司令部偵察科長嚴振衡兼參謀長”。粟裕要求先遣縱隊在組織上一定要適應戰略偵察和敵後鬥爭的需要，人員組成要精幹，武器配備要精良。按照這個要求，所有幹部一律降一級任職，師長任團長，排長任班長，戰士由正副班長和老兵充當，共產黨員佔百分之七八十。

先遣隊組建的特殊性決定了先遣隊任務的特殊性。粟裕決定組建先遣縱隊的初衷，當然主要是為1、4、6三個縱隊過江先期進行戰略偵察。具體是潛入長江北岸，區分偵察地段、了解當地民情、水情及船隻情況，籌集渡江船隻和其他過江必要物資，適時深入江南敵後偵察，搞清作戰區域敵社情，同時做好當地群眾工作，為將來三個縱隊過江創造有利條件。

發揮作用特殊。

9月24日，濟南戰役結束那天，也即粟裕建議舉行淮海戰役的同一天，粟裕電令“先遣縱隊南渡淮河，進入淮南敵後開展游擊戰爭”。11月19日，在即將發起淮海戰役第二階段作戰的關鍵時刻，粟裕電令先遣縱隊：要他們以配合主力作戰為中心任務，協同江淮軍區部隊破襲津浦路徐蚌段，切斷徐州之敵南逃、寧漢之敵北援的通路，積極鉗制李延年、劉汝明兩兵團增援徐州杜聿明集團和黃維兵團的行動。

先遣隊完成任務非常出色，他們把對津浦線的破襲戰貫穿於淮海戰役全過程。這使得國民黨軍始終未能發揮津浦路的作用，使得李延年、劉汝明兩兵團始終不能放膽北進，直接配合了圍殲黃維和阻擊李延年、劉汝明的作戰。淮海戰役結束後，先遣縱隊又與蘇皖地方部隊“在津浦路兩側阻擊南逃之敵，乘機解放了合肥以及江蘇、安徽兩省江北大小城市，併為後來的渡江作戰作了必要的準備”。

回過頭來看，粟裕一方面向中央“斗膽直呈”，建議三個縱隊暫不過江；另一方面，認真紮實做好過江各項準備。因為，作為一名黨的高階領導幹部，作為一個戰略區的負責人，粟裕深知：他的建議歸建議，但最終要把思想和行動統一到中央的決策部署上來，一旦中央最後決定讓他過江，他將隨時率部開向江南。