查理曼死後，西羅馬帝國皇帝這個頭銜，始終由東法蘭克王國和西法蘭克王國的加洛林君主輪流擁有，但東法蘭克王國的胖子查理887年被廢黜後，加洛林帝國瓦解，羅馬帝國皇帝的頭銜多是由教皇加冕的義大利的國王。

而這些義大利的國王實際統治範圍極其有限，僅限於義大利東北部，又是義大利本土貴族，所以儘管被加冕為羅馬帝國皇帝，但影響極其有限。

最後一位義大利的羅馬帝國皇帝貝倫加爾一世924年死去，“帝國”再沒有“皇帝”，直到奧托一世接受教皇約翰十二世的求援，進軍義大利平叛，扶正教皇的位子，被教皇於962年加冕羅馬帝國皇帝。

962 年 2 月 2 日，教皇約翰十二世在羅馬聖彼得大教堂為奧托加冕，奧托從此成為“神聖羅馬帝國”的皇帝。11 天后，皇帝和教皇簽訂“奧托特權協定”，規定皇帝為教皇的保護者，教皇要忠於皇帝，教皇的產生要由皇帝決定。奧托初步使皇權居於教權之上。

“神聖羅馬帝國”出現皇位空缺的情形也並不鮮見，德意志歷史霍亨斯道芬王朝1254年絕嗣，導致1254年～1273年帝國出現空位，史稱“大空位”，直到哈布斯堡家族魯道夫一世1273年即位。