雖然早在中國古代最早的詞典《爾雅》中就有“憲，法也”的解釋，但是漢語中本來並沒有“憲兵”這個詞，這個詞和近現代的許多新名詞一樣，都是來自日語藉詞。近代中國的憲兵制度，就是仿效日本的憲兵制度建立起來的，而日本於1881年建立的憲兵隊，則又是仿效法國的國民憲兵（Gendarmerie nationale）建立起來的。

憲兵制度的源頭不能說僅僅是大陸法系的法蘭西，世界上許多國家都在軍隊內部設有糾察軍紀、執行軍隊內部案件偵查任務的軍事警察（Military police），但大多數並沒有對普通民眾的執法權。

（德國第三帝國的憲兵）

（紐倫堡審判中在法庭執法的就是美國憲兵）

相比較之下，法國的憲兵制度是一個相對獨特的制度，其國民憲兵也是一支相對獨特的武裝力量，其獨特性表現在，法國國民憲兵既是法國軍事武裝力量的一部分，又是法國警察力量的一部分。

（法國憲兵）

在19世紀，法國國民憲兵作為一支具備上述獨特性也就是相關雙重性質的武裝力量，既在法國本土維持治安秩序，鎮壓革命，又和法國軍隊一起聯合前往法國海外殖民地鎮壓當地民眾的反抗，甚至直接參與法國的對外戰爭。

（義大利憲兵，最早由義大利國王在法國東南部Savoy建立，目的是提供與Savoy相鄰的Piedmont地區類似法國憲兵性質的部隊）

沙皇俄國、近現代日本所處的國內外環境和法國有一定程度的類似，所以在很多方面借鑑了法國的憲兵制度。

前面我們說過，日本的憲兵制度建立於1881年，當時日本的憲兵叫“敕令憲兵”，顧名思義，是根據天皇詔令設定的部隊，成立憲兵之後，日本基本上將原屬警察的政治職能和軍事職能完全剝離而交付給了憲兵。

（在舊帝國時代，日本警察的職能範圍被憲兵侵蝕，變得比較狹窄）

1885年，日本的憲兵已經完全變身成為政治警察了，1899年日本頒佈的《憲兵令》裡更明文規定：

憲兵為陸軍兵科之一，受陸軍大臣管轄，職掌軍事安全及軍紀維護，兼掌司法警察之業務。

因為上述種種原因，在近現代日本，憲兵的權力異乎尋常地大，負有刑事偵緝、維持治安乃至部分審判的職能，後期還有情報收集職能，在國內和北韓等殖民地，憲兵具有維持治安的職能，尤其是維持“戰時秩序”的職能，而在所謂“戰區”，日本是不設民事警察機構的，各項警務事宜直接由憲兵管理，這也就是在各類影視作品中，“憲兵隊”成為“魔窟”的代名詞的最根本原因。

沙皇俄國的憲兵同樣承擔著鎮壓內外反抗的職能——甚至沙皇俄國本身因為積極干預歐洲事務、鎮壓革命運動，而被稱為“歐洲憲兵”——所以在某種意義上也被人們視為“魔窟”。沙皇俄國憲兵名聲之差，直接造成了十月革命之後，蘇維埃政權不再設立名為憲兵的軍兵種，也間接影響到後來不採用憲兵這一稱呼的制度安排。

回到晚清民國時候，中國的憲兵制度主要仿效日本的憲兵制度建立起來，但也不排除向德國學習的部分。國民政府時期的憲兵，和法國日本一樣，既承擔了軍事警察的職能，也承擔了司法警察的職能，另一方面，憲兵也作為國軍的一部分，參加了內戰、抗戰中的多次戰役，同時也還承擔警衛國家元首和政府首腦的職能。

綜上，題主所提到的後發的俄國、晚清民國、近現代日本所效仿法蘭西大陸法系的憲兵制度，和各國面臨的具體國內外環境有關，也和制度學習的路徑依賴有關，原因還是相當複雜的，值得進一步深入探究。