火箭其實不是現代的產物，大約在1000多年前的宋朝初期，我們的祖先就發明了利用反作用力的古代火箭。後來，古代火箭被廣泛地用做作戰武器。最原始的古代火箭，箭桿前端是傷人的箭頭，後端是羽毛做的箭尾，它在飛行中起穩定作用，箭桿上綁黑色火藥筒，點燃黑色火藥，就可推動火箭前進。到六七百年前的元、明時代，中國的火箭技術進一步發展，不僅火箭的樣式增多，而且能多箭齊射。如“二虎追羊”，以及一次能發射2～100枚火箭的裝置，其射程可達200～400步。這些火箭威力很大，既可以由士兵拿在手裡發射，也可以裝在戰車、戰船上發射。大約在13世紀，中國的火箭傳入阿拉伯國家，又經阿拉伯人傳入歐洲。雖然中國古代的火箭並沒有能開啟天門之鎖，但是全世界都承認，火箭的故鄉是中國，中國的火箭是開啟天門的第一把鑰匙。後來終於有人在20世紀40年代從中國古代的火箭中得到啟發，製造出了真正的火箭。它首先被法西斯德國用做作戰武器，那就是在第二次世界大戰末期，布勞恩等人制造的V-2火箭(導彈)。

“火箭”一詞根據古書記載，最早出現在公元3世紀的三國時代，距今已有1700多年的歷史了。當時在敵我雙方的交戰中，人們把一種頭部帶有易燃物、點燃後射向敵方、飛行時帶火的箭叫做火箭。這是一種用來火攻的武器，實質上只不過是一種帶“火”的箭，在含義上與我們現在所稱的火箭相差甚遠。唐代發明火藥之後，到了宋代，人們把裝有火藥的筒綁在箭桿上，或在箭桿內裝上火藥，點燃引火線後射出去，箭在飛行中藉助火藥燃燒向後噴火所產生的反作用力使箭飛得更遠，人們又把這種噴火的箭叫做火箭。這種向後噴火、利用反作用力助推的箭，已具有現代火箭的雛形，可以稱之為原始的固體火箭。

無法確定火箭發明的確切時間。大部分專家認為華人早在13世紀就研製出了實用的軍用火箭。19世紀出現了幾項重大技術進步：燃料容器的紙殼改為金屬殼，延長了燃燒的持續時間；火藥推進劑的配方標準化；製造出發射臺；發現了自旋導向原理等等。19世紀末，火箭開始用於非軍事目的，如用火箭攜帶救生索飛向海上遇難船隻。19世紀末20世紀初美國科學家戈達德和其他幾位專家奠定了現代火箭技術的基礎，併發射了第一枚液體燃料火箭。