西晉末年到南北朝的一百多年間，五胡諸族在北方相繼建立了十六國政權。儘管十六國的制度多采取胡漢分治，但禁衛軍制度大多以繼承為主。但由於時局動盪，史書記載簡略，所以只能大體概述了。

匈奴劉氏建立了漢（劉淵）和前趙（劉曜），漢趙（304-329）在禁衛制度上一脈相承，且基本以參照西晉的制度為主。設有領軍、護軍、左衛、右衛將軍、車騎將軍、衛將軍，西晉幾乎不設的武衛將軍和沒有實權的衛尉似乎也領有禁兵。四軍、五校等職也存在，劉曜末年還曾設過類似漢代郎官的“親御郎”。漢趙的禁衛軍是中軍的主力，不僅要宿衛宮城，還有頻繁出征作戰，所設的禁衛武官似乎都在領兵。

劉聰“大定百官”時，又設輔漢等十六大將軍，“營各配兵兩千，皆以諸子為之”。另外史書中載： “署其衛尉呼延晏為使持節、前鋒大都督、前軍大將軍。配禁兵二萬七千，自宜陽入洛川，命王彌、劉曜及鎮軍石勒進師會之。”之前設定了十六大將軍，又一次性調動兩萬七千人的禁衛軍出征，再加上留守兵力，漢趙時期禁衛軍總數在三萬人以上。太子也有前後左右四衛率，共五千精兵。後期出現過都督二宮禁衛諸軍事這樣全面控制禁衛軍的官職。

石勒建立後趙（319-350）後，禁衛軍制度同樣參照西晉。地位最高的是領軍將軍，後趙擔任此職的將領或是宗室或與君主交情極深。此時的領軍將軍擁有自己的官署“領軍省”，位於宮內距離皇帝的極近。

左右衛將軍負責宮內宿衛，十分重要。在石勒剛即位之時，左衛將軍是僅次於太子和都督中外諸軍事的官職。但後來，左衛將軍之上有多了武衛將軍、左右戎昭將軍、曜武將軍等職。另外還設有中壘將軍、遊擊將軍、驍騎將軍、左右積射將軍、越騎校尉（由此可見可能設有五校）、門臣祭酒（類似漢代的城門校尉）、殿中將軍和殿中員外將軍（殿內宿衛）。

後趙太子除了前後左右四衛率外，還有左右統將軍。石虎曾一次性奪諸公“餘兵五萬，悉陪東宮”。後太子石宣失寵被誅，史書中載:“東宮衛士十餘萬皆謫戍涼州”。但東宮衛士超過十萬，顯然不太可能。及時太子被廢，十萬大軍不可能被隨意發配。後文中又說“故東宮謫卒高力等萬餘人當戍涼州”，所以 十萬餘應該是萬餘之誤，而高力是隸屬東宮的一支精兵。

後趙還設有龍騰中郎，屬於殿內侍衛。龍騰中郎同漢代郎官類似，由龍騰、龍驤將軍統領，人數在萬人以上。石虎還曾在太武殿建造密室，屯兵五百，顯然是一支秘密禁衛軍。石虎還對後宮女官進行軍事訓練，身邊專門設定女騎一千。

石虎曾“命石宣祈于山川，因而遊獵，乘大輅，羽葆、華蓋，建天子旌旗，十有六軍，戎卒十八萬，出自金明門。”由此看出這十六軍十八萬人應是後趙的中軍主力。另外在史料中頻頻出現的“中外精卒（步騎）四萬”應該就是禁衛軍的主要兵力。

氐人苻氏建立的前秦（351-394）雖然存在時間非常短，但禁衛軍制度也完整地建立起來了。領軍將軍、護軍將軍、左右衛將軍、武衛將軍都存在，四軍、五校、中壘、驍騎、強弩等傳統禁衛武職也存在，羽林可能是一支重要的禁衛軍，數量在七千人以上，羽林監統領。殿中將軍、殿上將軍、羽林郎、三署郎、侍御郎、騎都尉等職都可以居中宿衛，還新設立了前後左右四禁將軍。

姚氏建立的後秦（384-417）、西安北乞伏國仁建立的西秦（385-431）存在時間不長，制度上與前秦以及前代各國類似。

慕容氏建立的前燕（337-370）、後燕（384-409）、西燕（384-394）、南燕（398-410）、馮跋建立的北燕（409-436）的禁衛軍制度同源同宗。前燕早期，慕容氏還未稱帝時，國家建制似乎還是諸侯王國的水平。因此出現郎中令這種漢代禁衛武官還在領兵的情況，還設有郎將一類的官職。但主要還是以西晉領軍、護軍、左右衛將軍系統為主，五校、中壘、武衛等官都存在。後燕時，中衛將軍負責殿內宿衛，還設有類似漢代郎官的侍御郎。後燕築有規模龐大的龍騰苑，駐守這座宮城的部隊同樣以龍騰為名。

呂光建立的後涼（386-403）以及南涼（397-414）和北涼（401-439）較為完整地參照了西晉的禁衛制度。後涼中領軍、左右衛、驍騎、中壘、強弩、虎賁中郎將等官都存在。左衛將軍、虎賁中郎將率領的禁衛軍精銳鎮守宮內，殿中監掌殿內宿衛。南涼設殿中都尉掌殿中兵，與西晉的殿中將軍、殿中司馬督類似。北涼有鎮京將軍鎮守新都，中兵校郎負責中兵事務。

張氏建立的前涼（371-376）始終未稱帝，禁衛制度則用東宮的制度代替，只建立了前後左右四衛率。各種禁衛武官雖然也廣泛出現，但都是地方將領的兼職，並不存在禁衛任務。

李氏建立的西涼（400-421）所任命的官職類似霸府官制，大多隻是幕僚級的職位。領軍、護軍等官往往由各郡太守、將領兼任，只有武衛將軍地位超然，靠近權利中樞掌握大權。