最開始的魚類是無頜類，顧名思義，就是沒有上下頜的魚類。它們無法透過嘴巴的開合來捕獵，把含有微小動物和沉積物的水吸入口中，其中一類身上還覆蓋著堅硬的骨片“盔甲”，生活在海底。它們最早出現於5億多年前的早寒武紀，是最早分化出來的魚類。無頜類在當時海洋中的主要代表是甲冑魚類。

後來由於基因突變，出現了第一隻長出頜骨的魚，有頜魚類能夠主動、有效地捕食。在“物競天擇，適者生存”的自然選擇下，越來越多的有頜魚類開始出現，無頜魚類在捕獵競技中落入下風。

為了能夠繼續生存下去，有的魚進化出了超強的頜骨，擁有可以將鯊魚一分為二的咬合力，有的魚卻開始探索新的天地。

有頜魚類的出現，使海洋中的生存競爭愈發激烈，“大魚吃小魚，小魚吃蝦米”的食物鏈，從那時便已形成。

沒有第一條之說，魚的起源很早，在世界上還沒有人類的時候，魚類就生活在海洋裡了。雖然在數億年的演化過程中有一些古老的種類已經滅絕，但另有其它新興的種類繼之產生。據文獻記載，魚最初發現於據今四億年的奧陶紀地層，但所得到的那時魚類的化石是不完整的，一直到了志留紀晚期，才完整地獲取了關於化石及早期脊椎動物關係的概念。泥盆紀時，各種古今魚均已出現。泥盆紀時代既可謂是魚的初生年代，也是魚的極盛時代，當時，由於其它的脊椎動物還不多，所以有人把泥盆紀城為“魚的時代”。到了新生代，各群魚類十分繁多，成為脊椎動物中最大的類群，為魚類的發展史中的全盛時代。從泥盆紀所取得的化石分析，古代魚類可分為四大類：無頜類、盾皮類、軟骨魚類、及硬骨魚類。無頜類動物在志留紀及泥盆紀中最多，被公認為最早的脊椎動物，化石的無頜類的身體幾乎被厚硬骨板及硬的東西包被，故稱為甲冑魚類。盾皮魚類是最早的有頜類，它們泥盆紀時盛極一時，但到了末期則大部分絕滅。有人認為軟骨魚類及硬骨魚類是由盾皮類沿兩個方向演變而來，但至今仍無證據證實。軟骨魚類被認為是最“原始”的魚類，但一般認為軟骨魚類與硬骨魚類是兩支平行發展的分支。最早的硬骨魚類是古鱈類，再由此演變現存的絕大多數的硬骨魚類。硬骨魚類中的內鼻孔魚類的典型原始型別代表是雙鰭魚與和骨鱗魚，後者是最早的泥盆紀的總鰭魚類。而總鰭魚類又被認為是最早的兩棲類的直接祖先。1938年12月22日，有人在非洲東南沿岸捕到一條大魚，其身長1.5米，重58公斤，後經專家研究與確認，認為這條魚應屬總鰭目的一個新的科，至此，人們終於把已絕跡的魚找了回來，後來此魚被命名為拉蒂邁魚（即矛尾魚）。矛尾魚這種活化石的出現給了我們很大的啟示。大家都知道，人類是經過漫長的歷程進化而來的；魚類上陸進化為兩棲類，然後完全脫離水域進化為陸地是的爬行類和哺乳類，最後才進化為人類。具體地說，總鰭魚類分為兩支，其中一支（骨鱗魚類）脫離了水域。逐步進化為人；另一支比較保守（空棘魚類），始終沒有離開水。現在的矛尾魚類就是後者的後代。矛尾魚這種活化石為我們提供許多無法從化石材料中獲取的情況。

所謂魚，生物學家給出的概念是體被骨鱗用鰓進行呼吸，用鰭 作為運動器官進行運動，憑藉其上下頌進行攝食的變溫水生脊椎動物。魚類是起源最早的脊椎動物，根據現在考古學所發現的化石證明，魚 類的起源最早可以追溯到泥盆紀的初生時代，並旦經歷了中生代的中興時代後，在新生代達到物種的全盛時代，並且已成為脊椎動物中的 最大類群和地球生物圈中極為重要的一員，至今，各種各樣的魚類還都廣泛地存在於地球上。