遼天贊五年（926年）二月，遼太祖攻滅渤海，在其故地建立東丹國，由耶律倍主政❶。基於防止渤海遺民反叛、鞏固皇權、入主中原、重建東丹國管理體制及對遼東歷史地位的認知等原因，遼太宗採納耶律羽之的建議，於天顯三年（928年）將渤海遺民遷徙至“地衍土沃，有木鐵鹽魚之利”❷的遼東之地，並將東丹國都遷至東平，升為“南京”。遼太宗時期渤海遺民的遷徙規模，在遼代歷史上是空前絕後的。數十萬遺民被遷入遼東之地，導致部分渤海遺民向王氏高麗（新羅）及靺鞨住地逃亡。

遼太宗即位不久，下令南遷東丹國都城於東平郡，升東平郡為南京，同時遷東丹國民於遼東地區

關於東丹國南遷的時間，文獻與石刻的記載略有不同。根據史書記載：（天顯三年十二月）“時人皇王在皇都，詔遣耶律羽之遷東丹民以實東平……升東平郡為南京。”❸而《大契丹國東京太傅相公墓誌銘並序》即耶律羽之墓誌則曰：“比及大聖大明昇天皇帝收伏渤海，革號東丹，冊皇太子為人皇王，乃授公中臺右平章事。……天顯二年丁亥歲，遷升左相……以天顯四年己丑歲，人皇王乃下詔曰：‘朕以孝理天下，慮遠晨昏，欲效盤庚，卿宜進表。’公即陳：‘遼地形便，可建邦家於是。’允協帝心，爰興基構。公夙夜勤恪，退食在公。民既樂於子來，國亦期年成矣。”❹表明東丹國南遷是耶律羽之於天顯四年（929年）上表奏請的，整個南遷工作歷時一年。此次南遷的東丹國民，大部分都被安置在以今遼陽為中心的遼東地區一帶。有學者估計，在東丹國南遷時遷入東京道的渤海人，有40餘萬之多。

東丹南遷後，遼統治者在遼陽設立南京以管轄渤海人，同時也對相關的制度作了調整，廢除了原渤海國“十五府、六十二州”的地方管理模式，將遷徙而來的渤海遺民安置在新設定的六十餘個府、州、縣及三個府州並稱之州中。❺

東丹南遷時也有大量渤海人進入今吉林境內，並建立州縣，比如韓州、信州等，加上原渤海國西京鴨淥府不服從遼朝統治的渤海人，吉林地區的渤海遺民數量也不在少數，這為當地的發展提供了契機。

❶[元]脫脫，等.遼史·太祖本紀下[M].北京：中華書局，1974：22.❷[元]脫脫，等.遼史·太祖本紀下[M].北京：中華書局，1974：21.❸黃為放.10—12世紀渤海移民問題研究[D].長春：長春師範大學，2017.❹劉浦江.遼〈耶律元寧墓誌銘〉考釋[J].考古，2006（1）.❺黃為放.10—12世紀渤海移民問題研究[D].長春：長春師範大學，2017