隋朝末年，天下大亂，群雄逐鹿，風雲激盪。本來屬於隋朝貴族的李淵家族，在這動盪的時局中敏銳地嗅到了時機，在少有大志的李世民的勸告下，李淵審時度勢，決定在這熊熊燃燒的大火中，主動出擊，問鼎天下。

於是，他們招兵買馬，蓄勢待發，後來看到各地起義已是星羅棋佈之勢，時不我待，李淵在次子李世民、僚屬裴寂、劉文靜等人的幫助下，誅殺了隋煬帝監視他的王威、高君雅宣佈。終於在晉陽（今太原市）起兵。

在隨後的南征北戰中，由李世民擔綱領軍，勢如破竹，橫掃天下，雖也偶有敗績，但也只是通往勝利道路中的一點挫折。那麼讓李世民統領的大軍能夠傲視群雄，所向披靡的秘訣何在呢？根據史籍的記載，我們瞭解到，這是因為李世民在多年的征戰中訓練培養了一支令敵軍聞風喪膽的神秘特種部隊，玄甲軍。

所謂玄，在古代就是黑色的意思，玄甲軍，顧名思義，就是所有挑選出來的能征善戰的精壯軍士們全部身著黑甲。想想在戰場中，如烏雲一般的這樣一支軍隊，騎著駿馬，手中高揚著明晃晃的大刀利刃，在滾滾的飛揚的塵土中風馳電掣一般向敵軍衝殺的場景，該有多麼威風凜凜。

翻閱《資治通鑑》，我們可以看到其中對於玄甲軍的記載：“秦王世民選精銳千餘騎，皆皂衣玄甲，分為左右隊，使秦叔寶、程知節、尉遲敬德、翟長孫分將之。每戰，世民親被玄甲帥之為前鋒，乘機進擊，所向無不摧破，敵人畏之。行臺僕射屈突通、贊皇公竇軌將兵按行營屯，猝與王世充遇，戰不利。秦王世民帥玄甲救之，世充大敗，獲其騎將葛彥璋，俘斬六千餘人，世充遁歸。”

這段文字雖然不長，但玄甲軍的戰鬥力和作用可見一斑。李世民有一個一般統帥很難做到的習慣，那就是幾乎每戰都身先士卒，這樣一馬當先引領帶動作戰，對其部屬的激勵可想而知。他自己一身玄甲，率領著騎兵如同黑雲一般壓向敵陣，個個奮勇當先聲勢迫人，加上玄甲軍本身的精銳，幾乎是無堅不摧的。

這支部隊的組成，也是經過李世民精心選拔調教，同時在歷年的戰爭中不斷收降了許多能臣猛將，以及他們手中的悍旅。例如同樣受突厥支援的劉武周與唐朝在幷州展開激戰，被李世民挫敗，他的部眾很多都歸降了唐朝，尤其是尉遲敬德這樣非常勇猛的騎將，他的部眾就有8000多人，其中不乏精銳的騎兵。山東的秦叔寶、程知節等人本身就是名震天下的驍勇騎將，後來投到了李世民的麾下。

在李世民麾下，有著這樣一支糾合了四方精銳的騎兵部隊，而在這些經歷無數戰火，擁有出色的軍事素質的兵士基礎之上選拔出來的玄甲軍，必然是極其驍悍的。

要說玄甲軍最為大放異彩的一仗，當屬在虎牢關對陣竇建德十幾萬大軍之役。要知道當時李世民僅僅率領了三千多玄甲軍士，敵眾我寡之懸殊，在歷史上的戰爭記載中都罕見。然而李世民首先把守險要，觀察敵情，等待時機出現的那一刻。

首先在幾次小規模的戰鬥中，李世民就挫了對方的銳氣，獲得的戰果極大程度激勵了將士們，這為後來的大獲全勝奠定了自信。

而當發現竇建德的軍隊疏於防範，散亂放任之時，李世民沒有錯過這天賜良機，一聲令下，這批虎狼之師如猛虎下山，黑壓壓一片衝鋒過來，這時本就麻痺大意的竇軍，哪裡見過這等陣勢，立刻四散奔逃，而一些倉促之間奮起抵抗者，也被玄甲軍勢如破竹的兵勢瞬間風捲殘雲撕的粉碎。

於是，這場幾千人對陣十幾萬大軍的戰績令人瞠目結舌的刻在了歷史上，成為玄甲軍最為輝煌的戰果。

李世民登基後，拆分玄甲軍。一部分成為皇宮近衛部隊“百騎”，長期駐紮在皇宮附近只在內部實行輪換而不離開京城。玄甲軍的主要部分，交給了李靖，在唐對突厥的滅國性戰爭中起到中流砥柱的作用。