最初是沒有的，後來由於東西方之間強烈的意識形態鬥爭，東西德成為了華約和北約對抗的最前線，於是50年代西德、東德相繼建立其了自己的軍隊，開始了長達近40年的對抗。最終東西德統一後，東德人民軍併入西德軍隊，如今的德國軍隊就是德國聯邦國防軍。所以德國是擁有正式的軍隊的，而日本的自衛隊雖然也是軍事力量，但是嚴格而言自衛隊員還是公務員，而不是軍人，這點和德國有很大的區別。

二戰之後，德國被盟軍和蘇軍分別佔領了一部分，後來在此基礎上相繼成立政權，建立了新生的聯邦德國政府和民主德國政府。後來在美國和蘇聯的主導下，東西方相繼成立了北約和華約兩大軍事集團，而德國就成了兩個軍事集團對抗的最前線。

而在這樣的情況下，建立一支新的德軍來協助自己的陣營就成了很重要的工作。於是1955年西德建立了自己的軍隊，其在軍事裝備、訓練等方面很大程度上接受了美軍的幫助，同時也有不少二戰德軍的將領再次參軍，攜手北約盟友再次對抗蘇聯。

東德後來也建立了自己的軍隊，東德軍隊的訓練水平堪稱華約盟國中僅次於蘇軍的水平。而在兩德統一後，東德人民軍併入德國聯邦國防軍，但是僅有極少量的官兵得以繼續服役，絕大多數都被清除出軍隊。至於東德軍隊的裝備，也基本被出售或者銷燬了。