在中國古代，距今五千年前的黃帝時期有一位叫做伶倫的音樂家，傳說中他曾進入西方崑崙山內採竹為笛。當時恰有五隻鳳凰在空中飛鳴，他便合其音而定律。雖然這一傳說並不完全可信，但把它作為管樂器的起源也未嘗不可。原始時代的人類，他們的勞動生活，可以說是和音樂為伴而開拓發展，兩者是緊密聯絡在一起的。從這個意義上來說，音樂是直接從人類的勞動生活中產生出來的

音樂包括聲樂和器樂。聲樂起源很早，最初是為了協調勞動時的動作和減輕疲勞而發出的呼喊聲，演變為帶有一定音調和節奏的勞動號子，逐漸再發展為歌詞與曲調相結合的歌曲，最初全靠人聲歌唱，沒有樂器伴奏。

樂器的出現是比歌唱要晚得多，但至少在新石器時代就已產生。所謂樂器，就是奏出音樂的工具，樂器的發明與生產勞動有密切的關係。人們在打擊石塊，製造石器，或是砍鑿木頭製作木器時，都會發出聲響，有一定的節奏，會啟發人們用不同節奏和力度去敲打，以發出悅耳的聲響。用於音樂的發聲器具（除人聲外）皆為樂器；其中包括無固定音高（見音）的各種節奏性樂器。能產生不同音高樂音的曲調性樂器是樂器中的主體。少數生產工具或生活用具亦可列樂器之屬，如鐵砧、手鋸、酒蠱、杯碟。某些特製音響效果工具，如雷鳴器、鼓風機，則不宜歸入。

原始社會

從原始社會的生產和生活中，可看出樂器起源的端倪；原始人類的狩獵圍捕、訊號傳遞、祈天禱神和巫術的驅魔鎮邪，無不借助於音響工具和節奏效果，從而促成打擊樂器的產生。笛、管類則與自然物如牛角、海螺、鳥獸骨及竹葦管的直接運用和模擬音響有關。人類製造樂器從對自然物的加工開始，進而為生產和生活工具的加工。

《尚書·益稷》：“擊石拊石，百獸率舞。”就是描寫擊打石塊發出有節奏的聲響來伴舞的。格羅斯（德國）認為：史前人使用樂器，是伴隨著舞蹈的律動而出現的，所以狩獵民族中鼓的使用是“樂器中最原始又最古老的形式”。黎族婦女會利用舂米時木杵和木臼發出有節奏的音響，並跳一種舂米舞。高山族的杵臼舞所用的樂器就是實用的杵臼。畲族人死後，“少年群集而歌，劈木相擊為節。”即用木頭敲打出有節奏的音響。可以說這些原始生產工具就是原始的打擊樂器，後來才在此基礎上發展成鼓、磬等樂器。

近現代所用樂器（包括一些古代樂器）的起源，由於人口遷徙、戰爭影響、貿易發展和文化交流等變得十分複雜，但多數樂器起源於亞洲和北非，則是公認的事實。《詩經》記載有打擊樂器、吹管樂器與絃樂器；歐洲的銅管樂器和定音鼓源於阿拉伯；琉特琴的前身為阿拉伯的烏德琴，更早有波斯的琶爾琶特琴（barbat），後者與中國的琵琶皆源於印度；古希臘的里拉琴，後發展為基薩拉琴，源出近東蘇美爾地區；中國笙18世紀末傳入歐洲，促成一系列自由簧樂器（口琴、手風琴等）的誕生；雙簧管類最古老的出土文物見於4800年前的西亞兩河流域，單簧管則以埃及領先，金屬號亦以3300年前埃及古墓出土的銀製號為最古老。

很多透過絲綢之路傳播的樂器都是起源於西亞的波斯（現在的伊朗）。據說追溯魯特琴（lute）的源頭就是原產于波斯的琵琶（Pipa）與烏得琴（Oud）。Snatur也是伊朗的樂器，與巴格達樂器——洋琴（Dulcimer）是兄弟。當它向東方改進和傳播時就演變成中國的古箏與揚琴。同樣的，傳到西方就改進並發展為鋼琴。中國長笛同樣也和埃及的納依（Nay）及阿拉伯的一種吹管樂器是兄弟。巴拉邦（Barabarn）同樣也是亞美尼亞及維高地區的雙管樂器，同時也是篳篥（一種日本宮廷樂器）的起源。

河南舞陽

1987年河南舞陽骨笛的出土，不僅把笛的歷史推到8000年以前，而且首先把這種骨制樂器明確地稱之為骨笛。這樣，由骨哨到骨笛，已成為最古老、最悠久的樂器的象徵。因此，鼓是最古老的樂器這一論斷難以成立，事實是骨笛已成為人類歷史上最早出現的樂器。

2002年10月，中國科考隊對興隆洞古奉節人遺址進行第二次發掘時，在同一年代的地層除發現多種化石外，又十分意外地發現了一隻史前人類製作的哨形壎