樂府的名稱，起源於秦，到漢時沿用秦時的名稱，漢惠帝時設樂府令，漢武帝時立樂府署，當時是音樂的官府，並以李延年為「協律都尉」。由於該官署是採集趙國、秦國、楚國各地的謳謠，後人便以樂府或樂府詩作為民歌的代稱。漢以前的民歌，稱風、辭，如詩經中的國風、楚辭中的九歌，漢人樂府最早稱“歌詩”，也就是可以歌唱的詩。其後文人也大量仿製民歌來寫詩，於是有民間無名氏的樂府和文人樂府的區別。由於樂府是合樂的聲詩，以後凡是可傳唱的詩歌，廣義上都可稱為樂府，因此樂府不僅是齊言的詩，連長短句的詞、曲，也稱為樂府，如蘇軾的詞集《東坡樂府》、張可久的小山樂府等便是。古代樂府是合樂的詩，如今曲譜的部分已失傳，惟歌詞流傳下來，今從標題上，依然可以看出合樂的痕跡，很多標題上有歌、行、吟、曲、樂、弄、操、引等字眼的，往往是合樂的樂府詩。兩漢樂府詩的特色，在於“感於哀樂，緣事而發”，故多長篇的敘事詩，如陌上桑(諷刺上層社會之醜態)、孤兒行、孔雀東南飛(描述愛情、家庭悲劇)等；六朝樂府大都是“緣情而綺靡”的小詩，故大半為抒情詩，如子夜歌、華山畿、襄陽樂等，而相對於北朝的雄渾大方(如木蘭詩)。此外，還有不少名目看似樂府詩的作品其實是唐朝以後的詩人在並無樂府曲的情況下自創的篇目，最著名的如杜甫的《麗人行》、《兵車行》、白居易的《長恨歌》、《琵琶行》等等，往往被稱為“新（題）樂府”，實際是並不配樂的古體詩，以示與已傳世的樂府曲目的區別。