有一種傳說，早在周初，有一位匡俗先生,在廬山學道求仙。據說匡俗字君孝,有的書稱匡裕,字子孝,也有稱為匡續的。俗字是誤傳，俗、續二字罔音，也是傳聞之悅。但現在普遍流傳的名字是稱他匡俗，匡裕很少有人知道了。為了方便,這裡依照人們熟悉的稱呼。此外，還有稱匡俗為廬俗的。據說，匡俗在廬山尋道求仙的事蹟，為朝廷所獲悉。於是，周天子屢次請他出山相助，匡俗也屢次迴避，潛入深山之中。後來，匡俗其人無影無蹤。有人說他成仙去了。後來人們美化這件事把匡俗求仙的地方稱為“神仙之廬”。並說廬山這一名稱，就是這樣出現的。因為“成仙”的人姓匡，所以又稱匡山，或稱為匡廬。到了宋朝，為了避宋太祖趙匡脫匡字的諱，而改稱康山。

　　另一種傳說，在周武王時候，有一位方輔先生。同老子李耳一道，騎著白色驢子，入山煉丹，二人也都“得道成仙”，山上只留下一座空廬。人們把這座“人去廬存”的山，稱為廬山。“成仙”的先生名輔，所以又稱為輔山。

　　第三種傳說，說是匡俗的父親東野王，曾經同都陽令吳芮一道，輔佐劉邦平定天下，東野玉不幸中途犧牲。朝廷為了表彰他的功勳，封東野玉的兒子匡俗於鄔陽，號越廬君。越廬君匡俗，有兄弟七人，愛好道術，都到都陽湖邊大山裡學道求仙。這座越廬君兄弟們學道求仙的山，被人們稱為廬山。