城隍有始於堯、先秦、漢、三國之說，古代學者鄭玄認為水墉代表的是溝渠，孔穎認為水墉代表的是是水坊，也有學者認為“水”是護城河，“墉”則代指城牆。借用學者鄭土有的觀點：按照學術界的一般認識，認為城隍神是以年終祭拜的八位神明之中的水墉神作為原型的。而在原始村落的挖掘之中，可以發現做護衛用的溝渠已經存在。城隍神形成早期其職能只是作為一個村落保護神，圍繞著聚居地的笆籬則是最原始的城牆。如果是從城隍神是聚居地防護而產生的崇拜的話，伴隨著原始聚落定居的是農業生產的發展，那麼城隍神原型可以追溯到五六千年前。

到了漢代，出現了剛正不阿的人死後擔任城隍的觀念，所以雖然它的職能沒有發生變化，但是身份卻是由自然神轉變為了人格神。

城隍老爺受人朝拜的廟宇稱為城隍廟。歷史記載中最早的城隍廟至遲到東漢三國時代，祭祀城隍神的場所——城隍廟已經出現，宋代學者趙與時《賓退錄》記載：“蕪湖城隍祠建於赤烏二年”，赤烏二年即公元239年，正是東吳大帝孫權統治時期。