公元304年，李特子李雄繼立後擊敗羅尚並稱成都王，又於306年稱帝，國號“大成”，338年改國號為“漢”，史稱成漢。成漢割據在西南，且不再十六國之列。公元304年，匈奴人劉淵乘機自立，稱漢王，自稱承繼漢朝正統。308年劉淵稱帝並遷都平陽，國號“漢”。劉淵養子劉曜稱帝后改國號為“趙”史稱前趙。前趙時期實際控制範圍，只侷限在山西一隅和關中部分地區。成漢與漢趙的建立，開啟了五胡十六國時代。

公元319年，據守關東（函谷關以東）的前趙大將羯人石勒在襄國（今河北邢臺）自立，稱趙王，史稱後趙。公元329年，石勒滅前趙，次年稱大趙天王，行皇帝事，旋稱帝，佔有除遼東、河西以外的中原地區。公元350年，石虎養子漢人冉閔於後趙宗室內亂中脫穎而出，稱帝自立，國號“魏”，史稱冉魏，後趙為冉魏所滅。

公元337年，鮮卑人慕容皝以遼東為根據稱燕王，乘後趙內鬨之際南下用兵。352年攻滅冉魏，慕容俊稱帝，國號“燕”，史稱前燕。公元350年，後趙氐族將領苻洪之子苻健趁亂成功奪取關中，自立稱帝，國號“秦”，史稱前秦。公元370年，前秦滅前燕取得關東地區，隨後於373年滅前仇池（氐人），376年滅代國（拓拔鮮卑）及前涼，前秦統一北方。

公元317年，西晉在前趙的持續打擊走向了滅亡，南渡的司馬睿於建康稱帝，史稱東晉。東晉曾多次試圖北伐，但由於內部不團結，幾無建樹。公元378年，前秦發動了滅亡東晉統一全國的淝水之戰，戰局以前秦的全面失敗收場。伴隨著前秦的落敗，短暫統一的北方再次分崩離析。

公元384年，前燕文明帝五子慕容垂在河北成功復國，史稱後燕。前燕皇族慕容泓與慕容衝於幷州（今山西）建立燕國，史稱西燕（後被後燕吞併）。公元386年，前秦羌將姚萇於關中自立，國號“秦”，史稱後秦。苻堅為姚萇所殺後，鎮守前秦勇士川（今甘肅榆中）的鮮卑將乞伏國仁自立，國號“秦”，史稱西秦。前仇池氐人楊定宣佈復國，史稱後仇池（亡於北魏）。公元386年，鮮卑人拓跋珪於代地復國，國號“魏”，史稱北魏。

關中方面，公元394年，後秦姚興滅殘存於隴西前秦。公元407年，赫連勃勃於統萬城自立，國號“夏”，史稱胡夏。公元416年，東晉劉裕開始第二次北伐，次年破長安，後秦亡。晉軍南歸後，留守將領內鬨，赫連勃勃趁機奪取關中。

關東方面，公元395年，前燕於參合陂之戰慘敗給北魏，國勢大衰。次年，北魏攻下幷州，大舉入侵前燕，陷後燕都城中山，後燕遷都平城。後燕被一分為二，南北不能相顧。宗室慕容德南下滑臺，後遷都廣固，復建燕國，史稱南燕。公元409年，劉裕第一次北伐滅南燕。407年馮跋舉兵殺後燕慕容熙，擁慕容雲（高雲）為帝，都龍城 ，後馮跋自立，國號“燕”，史稱北燕。

公元426年，北魏伐夏，攻下關中，胡夏遷至平涼。430年西秦為北涼所逼，意圖投降北魏，但次年為胡夏所滅。胡夏赫連定受吐谷渾（鮮卑慕容部所建）君主慕容慕璝襲擊被俘，最後梟首於北魏，胡夏亡。公元436年，北魏遠征北燕，馮弘出逃高句麗，北燕亡。公元439年，北魏大軍圍攻姑臧，沮渠牧犍出降，北涼亡。北魏統一北方。劉裕北伐得勝南歸，於公元420年，代晉自立，改國號“宋”，史稱劉宋。至此，北魏與劉宋完成南北對峙，中國進入南北朝時期。

公元534年，北魏分裂成東、西兩魏。高洋廢北魏孝靜帝，代東魏自立，國號“齊”，史稱北齊，據有關東之地。公元557年，西魏恭帝禪位於宇文覺，改國號“周”，史稱北周，據有關中之地。

南朝前後共經歷宋、齊、梁、陳四朝。公元479年，蕭道成迫使劉宋順帝劉準禪位，改國號為“齊”。為區別於北朝高洋建立的北齊，史學界稱之為南齊或蕭齊。公元502年，南齊宗室蕭衍稱帝，改國號為梁，又稱蕭梁。公元557年，陳霸先廢梁自立，改國號陳。公元577年，北周滅北齊，統一北方。公元581年，北周靜帝禪讓於楊堅，北周滅亡。楊堅定國號為“隋”，定都大興城（今陝西西安）。公元589年，南下滅陳，統一中國，結束了自西晉末年以來長達近300年的分裂局面。

西晉被北方匈奴所滅，司馬睿建立東晉。東晉被宋滅，齊滅宋，梁滅齊，陳滅梁，宋齊梁陳史稱南朝。北方除了匈奴以外先後出現過五胡十六國局面，被拓跋珪建立的北魏統一，北魏分裂為東魏和西魏，東魏被北齊滅，西魏被北周滅，北周又滅了北齊。北魏，東魏，西魏，北齊，北周合成為北朝。南朝與北朝對峙，稱為南北朝時代。直至楊堅滅北周建立隋朝，隋又滅了南朝的陳，才統一了全國。