1620年，首艘有文字記載的“可以潛水的船隻”由荷蘭裔英華人克尼利厄斯·雅布斯縱·戴博爾建成，推進力由人力操作的櫓產生。史上第一艘用於軍事的潛艇出現於美國獨立戰爭。美國耶魯大學的大衛·布什奈爾建成海龜號，透過腳踏閥門向水艙注水，可使艇潛至水下6米，能在水下停留約30分鐘。1863年，法國建造了“潛水員”號潛艇，使用功率58.8千瓦（80馬力）的壓縮空氣發動機作動力，速度為2.4節，能在水下潛航3小時，下潛深度為12米。1886年，英國建造了“鸚鵡螺”號潛艇，使用蓄電池動力推進，航速6節，續航力約80海里。1897年，美國建造了“霍蘭”Ⅵ號潛艇，水面使用33千瓦（45馬力）的汽油機動力裝置，航速7節，續航力達到1000海里；水下使用電動機為動力，航速5節，續航力50海里。

最早的潛艇，是一艘人力推進的木製潛艇，是荷蘭人德列布什爾於1624年所製造的。這艘木製潛艇外面蒙著塗油脂的皮革，艇體兩邊開有孔座，槳板從孔座中伸到艇外。艇上有12名划槳水手，靠人力划槳來前進。它能在四五米深的海水中，潛航好幾小時，乘坐多人。為了保持艇內空氣清潔，艇內設有特種液體，能吸收二氧化碳。此外還有許多人嘗試過製造潛水艇，但都未成功。1653年，一位名叫德桑的法國發明家，建造了一艘20多米長的潛水艇。這位發明家曾誇張地說這艘潛水艇如何的好，說它快如飛鳥，能攻擊許多戰艦。但是艇造成後，卻不能在水中運動。17世紀70年代，還曾出現過用漁船改裝成的潛水艇。艇的中部設定有一個水密艙，壓載重物後便能下潛，而拋掉壓載物便會浮出水面。後來為了一次打賭，這艘漁船改裝成的潛艇，潛入30米深的海中，由於艇體被水壓力毀壞，最後不知被海流衝向何方。總言而之，這些早期的潛艇，沒有一艘是合格的，更不用說參加水中戰鬥。不過它們都為後來潛艇的發展奠定了基礎。