晉祠始建於北魏前，是為了紀念週武王次子叔虞而建。武王滅商之後分封諸侯，把次子叔虞封於唐，叔虞死後，其子夑繼位，因有晉水，改唐為晉國。後人在懸甕山麓、晉水源頭建祠立設，以祭祀叔虞。酈道元《水經注》記載：“際山枕水，有唐叔虞祠”，即今晉祠。晉祠歷代均有修建和擴建。

南北朝天保年間（550-559年）擴建晉祠“大起樓觀，穿築池塘”。

在漫長的歲月中，晉祠曾經過多次修建和擴建，面貌不斷改觀。南北朝時，文宣帝高洋，推翻東魏，建立了北齊，將晉陽定為別都，於天保年間（550——559年）擴建晉祠，“大起樓觀，穿築池塘”。隋開皇年間（581—600年），在祠區西南方增建舍利生生塔。

唐貞觀二十年（646年），太宗李世民到晉祠，撰寫碑文《晉祠之銘並序》，並又一次進行擴建。

宋太宗趙光義於太平興國年間（公元976—983年），在晉祠大興土木，修繕竣工時還刻碑記事。宋仁宗趙禎於天聖年間（1023——1032年），追封唐叔虞為汾東王，併為唐叔虞之母邑姜修建了規模宏大的聖母殿。自從北宋天聖年間修建了聖母殿和魚沼飛樑之後，祠區建築佈局更大為改觀。此後，鑄造鐵人，增建獻殿、鐘樓、鼓樓及水鏡臺等，這樣，以聖母殿為主體的中軸線建築物就次第告成。原來居於正位的唐叔虞祠，坐落在旁邊，退處於次要的位置。

晉祠創建於西周（前11世紀）時期，是為紀念晉國開國諸侯唐叔虞（後被追封為晉王）及母后邑姜後而建，是中國古代建築藝術的集約載體。

北魏酈道元《水經注》中記載晉祠已有相當規模。後經北齊、隋、唐、五代、宋、金、元、明、清及民國諸時期，歷經2000多年的擘劃營造和修葺擴充，遂成當今規模。其中於7世紀至12世紀間最為興盛，是中國唐、宋古建園林、雕刻藝術之典範。

現存的有盛唐時期碑刻，宋、元、明、清不同時期的古代建築100餘座，特別是主體建築聖母殿被譽為中國古代建築史上唯一具有典型性的北宋時期的代表性建築例項。

儲存在聖母殿內的宋塑群像突破了宋以前宗教造像的模式，而成為當時社會上真實人物的寫照，開創了雕塑藝術寫實作品的先河，它不僅是中國雕塑史上唯一反映宮廷人物的造像，也是中國雕塑史上的罕見精品。

晉祠建立年代久遠，所處地理位置優越，以大量的古建築、雕塑、碑刻、壁畫、古樹名木，從不同的側面反映了中國古代政治、經濟、建築、園林、雕塑、宗教、文化等諸多領域的發展變化。

晉祠的歷史、藝術、科學和鑑賞價值，使其成為古代宗祠與園林藝術相結合的且跨越的歷史最長又最具代表性的唯一例項，也是中國古代文化和人類建築藝術寶庫中一份珍貴的遺產。