二胡的命名由胡琴演變來的，跟有兩根弦無關。

二胡起源於“胡琴”，始於唐朝，至今已有一千多年的歷史。它最早發源於中國古代北部地區的一個少數民族，那時叫“奚琴”。宋朝學者陳暘在《樂書》中記載“奚琴本胡樂也……”唐代詩人岑參所載“中軍置酒飲歸客，胡琴琵琶與羌笛”的詩句，說明胡琴在唐代已開始流傳。

據《中國文化史三百題》提供資料，宋代是外來樂器與中原文化融合發展的第二階段。 到了宋代，又將胡琴取名為“嵇琴”。宋代末學者陳元靚在《事林廣記》中這樣記載：嵇琴本嵇康所制，故名“嵇琴”。

宋代大學者沈括在《補筆談樂律》中記載：教坊伶人徐衍為皇帝大臣們演奏“嵇琴”時，斷了一根弦，仍然用另一根弦奏完曲，沒有嫻熟的技藝是做不到的，這說明在宋代已有很高的演奏水平。 到了明清時代胡琴已傳遍大江南北，始成為民間戲曲伴奏和樂器合奏的主要演奏樂器。

宋元明清時期，隨著戲曲、曲藝的發展，民間樂器發展了自己的伴奏樂器。其中最主要的樂器是源自蒙古、西域的馬尾胡琴（又稱“二絃琴”），經與前朝留下的嵇琴、乳箏融合，創制出新穎的胡琴。這一樂器充分標明中國弓弦樂器走向成熟。

後來，由於地方戲唱腔風格需要，胡琴又逐漸分化，出現板胡、京胡、京二胡、墜胡等等弓弦樂器。所以，二胡實際上是這眾多的弓弦樂器中的一種，其名由胡琴演變而來。