漢武帝之前，當然是打過匈奴的，中原農耕文明與北方遊牧民族的戰爭，從未停止。司馬遷在《史記》中記載：

匈奴，其先祖夏后氏之苗裔也，曰淳維。唐虞以上有山戎、獫狁、葷粥，居於北蠻，隨畜牧而轉移。

所以匈奴也是諸夏民族的後裔，他的先祖是夏王朝遺民。而在王國維的《鬼方昆夷獫狁考》中，認為，商朝時期的鬼方、昆夷，周朝時期的獫狁，還有春秋戰國時期的戎、狄、胡都是後來所謂的匈奴，如果這樣算來，那麼中原王朝對始終與匈奴作戰。

例如，春秋戰國時期，齊桓公“九合諸侯，一匡天下”，聯合諸侯進攻的就是對弱小諸侯造成威脅的胡、狄等遊牧民族，也就是匈奴。而戰國七雄之一的趙國，派名將李牧北擊匈奴收復河套地區，極大的拓展了趙國的疆域，並修築趙長城。

到了，秦始皇一統天下，更是派蒙恬北擊匈奴，鎮守長城。賈誼在《過秦論》中寫到：

“乃使蒙恬，北築長城而守藩籬，卻匈奴七百餘里，胡人不敢南下而牧馬，士不敢彎弓而抱怨。”

可見，在面對與匈奴的戰爭中，秦朝始終處於戰略優勢地位，不但將匈奴打得退後700裡，更使得匈奴人不敢南下。

而到了劉邦建立漢朝時，由於秦末大亂，中原凋敝，再加上此時匈奴出了一個雄主冒頓，統一了匈奴，趁著中原王朝虛弱，冒頓開始帶領匈奴擴張，同時對富庶的中原地區虎視眈眈。

漢高祖七年，由於冒頓率匈奴寇邊，韓王信（另一個韓信，不是戰神韓信）率部投降匈奴，劉邦親率大軍北上抵禦匈奴，平城白登之圍爆發，漢高祖的率領的漢軍慘敗，這也成了漢室最屈辱的一場戰爭。

自此之後，漢朝採取了和親等與匈奴為善的政策，將主要精力放在了發展民生和經濟上。但是，雖然緩和了關係，但匈奴對漢朝的侵略從未停止。漢文帝、漢景帝之時，漢匈之間爆發了多場戰爭。雖然漢朝也曾多次擊敗匈奴，但總體而言，依然處於防禦守勢。

直到有了文景之治的豐厚積累，漢武帝時，開始了對匈奴全面的反擊，湧現瞭如衛青、霍去病這樣的千古名將，將匈奴擊敗，徹底一洗之前屢被匈奴侵略的恥辱。