魚的起源很早，在世界上還沒有人類的時候，魚類就生活在海洋裡了。雖然在數億年的演化過程中有一些古老的種類已經滅絕，但另有其它新興的種類繼之產生。據文獻記載，魚最初發現於據今四億年的奧陶紀地層，但所得到的那時魚類的化石是不完整的，一直到了志留紀晚期，才完整地獲取了關於化石及早期脊椎動物關係的概念。泥盆紀時，各種古今魚均已出現。泥盆紀時代既可謂是魚的初生年代，也是魚的極盛時代，當時，由於其它的脊椎動物還不多，所以有人把泥盆紀城為“魚的時代”。到了新生代，各群魚類十分繁多，成為脊椎動物中最大的類群，為魚類的發展史中的全盛時代。從泥盆紀所取得的化石分析，古代魚類可分為四大類：無頜類、盾皮類、軟骨魚類、及硬骨魚類。無頜類動物在志留紀及泥盆紀中最多，被公認為最早的脊椎動物，化石的無頜類的身體幾乎被厚硬骨板及硬的東西包被，故稱為甲冑魚類。盾皮魚類是最早的有頜類，它們泥盆紀時盛極一時，但到了末期則大部分絕滅。有人認為軟骨魚類及硬骨魚類是由盾皮類沿兩個方向演變而來，但至今仍無證據證實。軟骨魚類被認為是最“原始”的魚類，但一般認為軟骨魚類與硬骨魚類是兩支平行發展的分支。最早的硬骨魚類是古鱈類，再由此演變現存的絕大多數的硬骨魚類。硬骨魚類中的內鼻孔魚類的典型原始型別代表是雙鰭魚與和骨鱗魚，後者是最早的泥盆紀的總鰭魚類。