1945年8月15日日本宣佈無條件投降後，國共兩黨之間的矛盾再次開始浮現。雙方在華北、中原等廣大地區競相展開城市與戰略物資的接收，在東北地區乾脆已經刀兵相見。為了避免一觸即發的內戰危險，毛澤東於8月29日率領代表團親赴重慶，與國民黨方面展開了連續43天的談判，最終在10月10日簽署了《政府與中共代表會談紀要》，即《雙十協定》。

1946年1月，全國政治協商會議召開，中共聯合民盟等民主黨派經過20多天的激烈鬥爭，同國民黨達成了全面協議，其中重要的一點就是各方共同組成聯合政府。考慮到中華民國法定首都在南京，將來聯合政府辦公也要到南京，如果將黨中央駐地繼續設在偏居西北的延安，顯然會帶來諸多不便。

為了方便就近到南京工作，黨中央決定由陝北延安遷移到與南京隔江相望的淮陰城。1945年9月，這座位於蘇中、蘇北、淮南、淮北之間的城市解放，使這4塊根據地連成一片，形成了地域寬廣的蘇皖邊區。10月，中共華中分局、華中軍區等機關先後遷移至淮陰，將這裡建成了蘇皖邊區的政治、經濟和文化中心，為黨中央南遷奠定了堅實基礎。

淮陰市作為黨中央駐地，可以使黨中央處於進退自如的主動地位。如果真能實現全國和平，國共兩黨能夠合作，那麼毛澤東等同志可以隨時到南京開會或協商事宜，開完會、辦完事直接回來，往來便利，也十分安全。如果蔣介石再次耍陰謀，又搞第二次“四·一二”反革命政變，黨中央就可以迅速向北，撤入抗戰時期長期堅持的山東解放區，與其繼續周旋。

然而，就在黨中央積極籌劃南遷的時候，國民黨卻於1946年3月召開六屆二中全會，對當初政治協商會議的相關決定提出了修改意見，推翻了成立聯合政府的協議。在這種情況下，抗戰後期一度出現的“和平民主新階段”一去不復返了。與此同時,國民黨報紙四處散佈“武力收復蘇北”等言論，已經還都南京的蔣介石更是主張“臥榻之側，不容他人酣睡”，明確要求中共撤出蘇北。5月3日，國民黨飛機幾次到淮安上空盤旋、偵察;5月14日，又對其進行低空掃射。

在這種情況下，無論是從政治還是軍事角度考慮，淮陰城已經不再適合作為黨中央駐地，原來計劃的南遷行動尚未實施就被迫取消了。