從所羅門王為神建立聖殿到耶穌時期的聖殿，猶太人共經歷了三次建立聖殿的歷史，結果兩次被毀。最後一次應了耶穌的預言——沒有一塊石頭留在上面。此後聖殿沒有再被建立。

所羅門王建立的聖殿於公元前586年被新巴比倫帝國毀滅，聖殿的器皿被擄走，約櫃從此失蹤，直到今日仍未找到。

公元前538年，波斯王古列允准重建聖殿，並歸還從新巴比倫帝國奪過來的聖殿器皿。公元前516年，先知撒迦利亞與哈該被興起，傳達神諭，激勵百姓重建聖殿。後來擴建到比第一聖殿還大三分之一的規模，史稱第二聖殿。

公元前20年，以土買人大希律王為收買猶太人的心，大興土木擴充聖殿，到公元26年完工，歷時46年。後來繼續整建，直到公元64年正式竣工。

公元70年，猶太人反抗羅馬帝國暴政，羅馬將軍提多率軍攻打耶路撒冷，聖殿再次被毀。應了耶穌的預言——沒有一塊石頭留在上面不被毀壞的，僅留下西邊一道圍牆（哭牆）。這次第二聖殿被毀。

提多將軍把聖殿的金燈臺與器皿帶回羅馬，將得勝的景象刻在羅馬的“提多拱門”上，現在依然能夠看到。

此後，聖殿再沒有被重建過。