蒙哥於1259年在四川去世後，其弟忽必烈與阿里不哥開始爭奪汗位。1260年3月，阿里不哥在宗王阿速臺等大多數蒙古正統派的支援下於大蒙古國首都哈拉和林透過“忽裡勒臺”大會即大汗位。與此同時，忽必烈與南宋議和後返回開平（今內蒙古多倫），在中原儒臣及部分蒙古宗王的支援下集會自稱大汗。4月，忽必烈設立中書省，總管國家政務。5月，忽必烈頒佈《即位詔》，並建元中統。由於忽必烈在中原漢地自行集會稱汗，並且推行漢法，明顯違背了蒙古傳統，引起了阿里不哥和蒙古正統派的強烈不滿。忽必烈與阿里不哥隨即展開了四年的內戰，直到1264年阿里不哥兵敗投降。忽必烈定為一尊，但他的“行漢法”主張卻造成許多蒙古貴族的不滿，拒絕歸附忽必烈，結果導致四大汗國紛紛脫離，忽必烈的政權遂只包括中國與蒙古本土。大蒙古國不復存在。

至元八年（公元1271年），忽必烈公佈《建國號詔》，取《易經》中“大哉乾元”之意，正式建國號為“元”。這是蒙古國家由世界帝國轉為中原王朝的分水嶺，蒙古之前對中原的統治是掠奪性的殖民地式統治，只有到忽必烈時才轉型為以中國為主體的王朝，且在這之前“元”之名尚未出現，故“元朝”的建立應由此算起。

至元九年（公元1272年），在劉秉忠規劃下，建都於中原的大都（今北京市）。

統一中國

至元十三年（公元1276年），元軍攻陷宋都臨安（今浙江杭州），俘虜5歲的宋恭帝及謝太后。至元十六年（公元1279年），元軍在崖山海戰消滅了南宋最後的兵力，陸秀夫揹著8歲的小皇帝宋幼主趙昺投海而死，南宋滅亡。元朝遂統一全中國。