土地廟因神格不高，且為基層信仰，多半造型簡單，簡陋者於樹下或路旁，以兩塊石頭為壁，一塊為頂，即可成為土地廟，俗稱"磊"型土地廟。也有簡單以水泥或磚塊砌成小廟，現今臺灣甚至有工廠開模以水泥灌製大量生產。也有土地廟因香火鼎盛，逐漸中大型化者。

土地神源於遠古人們對土地權屬的崇拜。土地能生五穀，是人類的“衣食父母”，因而人們祭祀土地。土地廟作為人們集中祭祀土地神的地方，自然隨之興盛起來。按照漢族的習俗，每個人出生都有“廟王土地”——即所屬的土地廟，類似於每個人的籍貫；人去世之後行超度儀式即做道場時都會獲取其所屬土地廟。

土地廟在大陸曾由於“文革”作為“四舊”大部分被搗毀。隨著“改革開放”和強調信仰自由以後，自1980年前後有蒸蒸日上的恢復和發展勢頭。多由農民自發組織建設，屬於微型建築，高度從不到2米至正常房屋高度；面積大小小則幾平方米，大則十幾平方米。關於大量恢復建設“土地廟”的問題，1980年代和1990年代大陸官方和媒體一直密切關注。在當時農村小學基礎教育設施落後的情況下，呼籲鄉民多關注鄉村基礎教育，集中精力投資建學校，不要熱衷於“迷信”，仍舊無濟於事。1980年代部分農村地區出現一股建設土地廟的浪潮，在當地小學教學設施仍舊沒有改善的情況下，鄉民只熱衷建設土地廟，使得部分地區官方進行強行拆除，這股熱潮才有所遏制。至2000年以後，幾乎每鄉至少有一處或多處，其數量分佈因地而異。臺灣也有相當普遍的土地廟，據官方的調查，其數量超過1300所以上，為臺灣數量最多的廟宇。