據瞭解，距今5000—6000年的仰韶文化、距今約6000年的半坡文化為標誌的母系氏族社會繁榮期的新石器早中期文化，和距今約4000年的龍山文化為標誌的父系氏族社會的新石器晚期，黃土高原窯洞不單成為這兩種文化的內容，而且發育得相當成熟——“呂”字形窯洞居室已經出現。

窯洞是中國西北黃土高原上傳統居民的古老居住形式，這一“穴居式”民居的歷史可以追溯到四千多年前。在中國陝甘寧地區，黃土層非常厚，有的厚達幾十公里，勞動人民創造性利用高原有利的地形，鑿洞而居，創造了被稱為綠色建築的窯洞建築。

黃土高原南界的西安半坡先民的45座居住古建築的主要形式就是方型、圓形的半地穴式。

而在陝北，發掘出的穴居遺址已發展到具有內外兩室的“套間”性質，呈“呂”字形，石板鋪地，料礓石粉抹牆，還建有中國最早的壁爐。陝北的窯洞是依山勢開鑿出來的這樣一個拱頂的窯洞。由於黃土本身具有直立不塌的性質，而拱頂的承重能力又比平頂要好，所以窯洞一般都是採取拱頂的方式來保證了它的穩固性。

在山西省石樓岔溝有仰韶文化穴居遺存，平面呈方圓形，中央有灶，入口處小，已有了門的雛形。

內蒙古涼城園子溝發現了龍山文化早期穴居聚落遺址，其中橫穴28座，3間為一組，已呈“一明一暗”的“套間”雛形。

新石器時代正是恩格斯所說的從母權走向父權，是“人類所經歷的最激烈的革命之一”，是“一切文化民族在這一時期經歷了自己的英雄時代”。此也正是以陝北軒轅黃帝陵為標誌的傳說中的炎黃時代。先民們就這樣經歷了從原始穴居到人工穴居、半穴居，最後釀成了土窯洞的出現。