是因為傳說有一位女子曾經在此駐守。唐朝平陽公主，她父親是唐高祖李淵，弟弟是唐太宗李世民，丈夫是唐王朝的開國元勳柴紹。

李淵已經打定主意起兵的時候，平陽公主和她的丈夫柴紹並沒有在太原，而是在長安。二人商量決定柴紹先去投奔李淵，平陽公主留下來善後。

但是這留下來的平陽公主，卻展現出了強大的軍事能力，利用當時長安城內的混亂局面，變賣家產，招兵買馬，竟然也在短時間聚集了上千人馬，才出發往北去和李世民會合，長安城周圍的農民軍何潘仁、李仲文、向善志等幾個草頭王都來投奔她，他們一起多次擊敗了追擊他們的隋軍部隊。

可能柴紹都沒想到，他們再次見面的時候，平陽公主的麾下已經有了精兵萬人。夫妻倆率領一萬精兵與李世民會師渭北。因這一萬精兵，是由平陽公主一手建立的，所以就被稱為“娘子軍”！而她曾經駐防過的“葦澤關”也因此被改稱為“娘子關”。

歷史上這裡曾發生過多次戰役，娘子關歷經無數次戰爭洗禮，其中近代抵禦德法聯軍入侵的“娘子關之戰”最為著名。

1900年10月，德法聯軍2.7萬人進入山西境內，而當時守衛娘子關的清軍總數僅有8700人，將領是湘軍出身的山西大同鎮總兵劉光才。

德法聯軍歷時半年多對娘子關發動了數十次進攻，結果始終未能攻克，全部被清軍擊退，整個戰役法軍陣亡1258人，德軍陣亡1400人、傷2580人，城牆上的彈痕至今仍清晰可見。

娘子關之戰也成為從明末西方進入中國到甲午戰爭前，中國軍隊消滅侵略軍最多的戰役。