廬山從兩漢、三國、吳、晉直至南朝，皆隸屬柴桑縣。隋時隸屬湓城縣。唐代隸屬潯陽縣。五代楊吳，始以廬山之南為“星子鎮”，隸屬江州德化縣。宋太平興國三年（公元978年），升星子鎮為縣。太平興國七年，以江州星子縣南康軍，廬山便一分為二：吳障山北隸屬德化縣，吳障山南隸屬星子縣，因而廬山由九江德化、南康二境管轄，一直至元、明、清三代無變化。民國初年，廢府制，德化縣改為九江縣，星子縣名依舊，廬山之分隸無改變。

1886年冬，外國傳教士上山佔地，立石劃界，建造別墅，設立“牯嶺公事房”、“市政會議”，設定巡警。

20世紀初，廬山設立了隸屬九江的“警察分所”。1922年，改警察分所為“警察專署”。1926年，成立“廬山管理局”，隸屬九江市政府，1930年，江西省政府議決，廬山管理局直屬江西省政府。

1949年5月，成立“廬山軍事管制委員會”及“江西省廬山管理處”。1950年改稱“江西省人民政府廬山管理局”。1953年7月改稱“江西省廬山特別區人民政府”，後移交中南行政委員會，又改稱“中南行政委員會廬山管理局”；1954年12月，複名“江西省人民政府廬山管理局”，1955年2月，改稱“江西省廬山管理局”；1968年5月，成立“廬山革命委員會”，隸屬九江地區；1968年11月，廬山行政區劃縮小，改為“廬山鎮”，1969年11月，恢復“廬山革命委員會”，隸屬九江地區；1977年1月，恢復“江西省廬山管理局”，1980年5月，改稱“九江市廬山區”，1984年5月，成立“江西省廬山風景名勝區管理局”，一直至今。