元初時,黑龍江省地區屬於成吉思汗季弟鐵木格斡赤斤之封地。他的封地“在蒙古東北最遠處,再往東即無蒙古部落。他的封地範圍很大,包括今呼倫貝爾盟大興安嶺東西之地,後來其東境擴充套件至嫩江、松花江一帶。”

黑龍江省的地域全部囊括在斡赤斤的封地之中。當時在黑龍江省之地設立了遼陽等處行中書省,簡稱為遼陽行省。於至元“二十四年(1287),始立行省。”包括現在的遼寧、吉林省轄地以及黑龍江省以北、烏蘇里江、鴨綠江以東廣大地區。在現在的黑龍江省轄區內,行省下設了開原路和水達達路。

並有失寶赤(孫吳縣霍爾莫津屯)、浦峪路(克東縣金城鄉古城)、肇州(肇東縣八里城)、開元(東寧縣附近)、斡朵憐(依蘭縣牡丹江西岸)、胡裡改(依蘭縣北松花江南岸舊古城)、塔海(通河縣大古洞)、桃溫(湯原縣香蘭鄉固本納城)、脫斡憐(樺川縣萬里河通古城)、李苦江(富錦縣附近)等十個萬戶府。

元時居住在黑龍江省轄區的蒙古族,除了遼時期延續下來的尼倫蒙古的杜爾伯特部和迭兒列斤蒙古的郭爾羅斯部外,還有部分兀良哈人遷徙到黑龍江省西部地區。斡赤斤的家族在各級官府中任職,並隨同來的家眷遍及全省各地。尤其斡赤斤的嫡孫塔察兒、曾孫乃顏權勢最大,人數最多,在通肯河上游西岸建立了乃顏城。

斡赤斤家族在黑龍江地區獨霸一方。忽必烈繼任後,地方勢力與中央政權的矛盾異常激烈,爭奪最高領導權的鬥爭仍在加劇,斡赤斤五傳至乃顏,“前後五、六十年,父子祖孫兄弟雄據遼東,早有輕朝廷之心,而乃顏年少嗣為國王,尤躁妄。”至元十一年(1284)“北京宣慰使亦力撒哈察其有異志,密請備之”忽必烈為了加強中央集權,對地方機構進行了改造,這引起了地方割據勢力的強烈反抗。乃顏首先於黑龍江舉旗叛亂。

至元二十四年(1287)四月,從乃顏城(今通肯河上游右岸地區)出發,直犯上都開平。忽必烈早有準備,“籌備戰爭秘密迅速,十日或十二日間,除其近臣以外,無人能悉其事者。徵集騎兵三十六萬,步兵十萬”。親率大軍,戰於西拉木倫河上游的撒裡禿魯地區。乃顏被擒執死,叛軍大潰。平定了元朝歷史上規模最大的一次武裝叛亂,粉碎了地方諸王割據勢力,維護了統一,為開發黑龍江創造了條件。

洪武元年(1368),朱元璋建立了明朝,同年,元朝末帝妥懂帖睦爾退居上都,建立北元,繼續與明朝對抗,雙方展開了激烈的戰爭。1370年“明朝派人招降故元遼陽省平章劉益正式接管遼陽行省。”從此,黑龍江省地區歸明朝管轄。

先後設立了188個衛所。洪武二十二年(1389)五月在齊齊哈爾一帶設福餘衛,以惠寧王海撒男答溪為指揮同知;在吉林省洮安附近設泰寧衛,以遼王阿札失裡為指揮使;在綽爾河流域的朵顏山附近設朵顏衛,以朵顏府元帥脫魯忽察兒為指揮同知。以上三衛統稱為兀良哈三衛或朵顏三衛。永樂七年(1409)四月“明政府令設奴兒干都指揮使司。後任命內地官員康旺(蒙古族)為都指揮使同知。”從此,兀良哈三衛隸奴兒干都司。

福餘衛在今黑龍江省轄地,治所在齊齊哈爾附近,蒙語稱福餘衛為烏齊耶特。杜爾伯特和郭爾羅斯部以及元時遷來的部分兀良哈人均歸福餘衛管轄。

嘉靖二十六年(1547),北元達來孫庫登汗,為了收復三衛夷屬,率察哈爾部遷至兀良哈人地區。這時哈薩爾十四世孫,科爾沁部主奎孟克塔斯哈喇正在呼倫貝爾一帶駐牧。

為了輔佐達來孫庫登汗,他也率部與庫登汗同時從呼倫貝爾順洮兒河、綽兒河向東遷徙,遊牧於嫩江流域,吞併福餘衛,依兀良哈部。“因同族有阿魯科爾沁,故號嫩科爾沁以自別”

“奎孟克塔斯哈喇有子二,長博第達喇,號卓爾郭勒諾顏次諾門達喇,號嘎勒濟庫諾顏。”博第達喇有九子。第三子烏巴什,號鄂特歡諾顏,遊牧於嫩江下游兩畔的郭爾羅斯部之地。沿用了郭爾羅斯部之名號。

第八子愛納嘎,號車臣諾顏,遊收於嫩江中游左畔的杜爾伯特之地,續用了杜爾伯特部之名號。第九子阿敏,號巴嘎諾顏,遊牧於嫩江中游右畔,始號為札賚特部。奎孟克塔斯哈喇及其後裔,雖然都是學爾只斤氏,但他們來到嫩江草原遊後,全部沿用了當地部族的名號。與遼金元三朝遷徙來的蒙古族,共同繁衍生息,相互融合。從此,他們便成為松嫩平原這塊土地的主人。