一說，“山有云氣，蜿蜒如龍”。其山九節山峰，高低起伏，其狀恰如一條臥龍，而春夏雲霧繚繞時，又如龍起舞，故名雲龍山。

二說，因劉邦曾藏於此山。公元前206年，劉邦在豐澤斬白蛇，舉義旗，宣佈抗秦起義。但當時不過20餘人，勢單力薄，便南下徐州，來到雲龍山。為安全計，劉邦每天換一個地方。可呂雉每次從沛縣來，都能很快就找到他。劉邦問其故，呂雉說，山上某個地方的上空，總有一片祥雲，形狀如龍。我就直奔過去，果然你就在那裡。因劉邦後來當了漢朝的開國皇帝，皇帝是“龍”，他藏過身的山，也就稱為雲龍山了。

三說，南宋皇帝劉裕曾來過此山，故名。古彭城有個劉裕，是楚元王劉交的二十一世孫。東晉時期為大將。為消滅割據勢力，曾在彭城設幕府，指揮戰事。期間，曾多次登雲龍山，傳說見有云中之龍環繞。四年後，劉裕當了南宋朝的皇帝，為人間之龍，為紀念劉裕故山名雲龍。

四說，雲龍山為一條惡龍所變。惡龍長期把持黃河，危害徐州百姓，常汲黃河之水，吐水為災。後被徐州一見義勇為青年用劍刺死，化為此山，故名雲龍山。

六說，源於一個悽楚動人的愛情故事。一個名叫雲龍的小夥子與鯉魚精變化的大鳳姑娘戀愛，大鳳為救徐州於大水，假意答應嫁給九小龍王，後撞死於山石之上。雲龍死後，兩人合葬山上，故名雲龍山。