伊金霍洛為蒙古語，聖主陵園之意，以境內有著名的成吉思汗陵園而得名。

伊金霍洛旗由原扎薩克旗和郡王旗合併而成。扎、郡旗所轄地域歷代為北方少數民族的遊牧區。

春秋戰國時為林胡活動地域。

秦時屬上郡之北境。秦始皇三十二年（公元前215年）派大將蒙恬討伐匈奴，收河南地（河套以南鄂爾多斯地區），當時把關中一帶叫秦中，把新收復的河南地叫新秦中。

西漢時，為西河郡、上郡等轄境。西河郡轄境，包括今本旗、準格爾旗、西南和陝西北部，山西北部、中部，黃河兩岸地區。紅慶河古城即西河郡虎猛縣為郡西部都尉駐地。上郡轄境，包括伊旗和準格爾旗南部，陝西省西北部地區。

東漢時，仍沿西漢舊制，南匈奴降漢後，為南匈奴各部駐牧地。

三國魏晉南北朝五湖十六國時。先後有河西鮮卑、羌胡、鐵弗匈奴等在此駐牧。後趙、前秦曾置朔方郡統轄鄂爾多斯地區，該旗亦在內。

宋遼金元時，宋淳化年間（994年）為消滅党項族，下令毀廢夏州城（指統萬城）直到宋寶元年（1038年），党項族李元昊稱帝，寶都興慶府公銀川為西夏領域。遼金爭而未獲。元時，滅西夏後置西夏中心路後復其地屬東勝、雲內二州及延安路。東勝州設在郡王旗境內（即東勝境），雲內州設在神木寨。

明朝時置東勝，明天順年間廢之。

清於順治六年（1649年）為便於控制陸續歸附的蒙古各部落，在鄂爾多斯地區實行盟旗建制的劃分，指定牧場界限，當時劃分了六個旗組成伊克昭盟。

清乾隆元年（公元1736年）清高宗（弘曆）從烏審旗將近族臺吉的平民分為十三蘇木，劃撥土地，組成鄂爾多斯右翼前末旗，即札薩克旗。封定咱拉什為該旗札薩克。從此，伊盟成為7旗。

1914年，歸綏改為綏遠特別區，札、郡兩旗屬綏遠管轄。民國16年起，札、郡兩旗隸屬蒙藏委員會管轄。民國25年（1936年）2月，綏境蒙政會在歸綏成立，札、郡兩旗統屬綏境蒙政會管轄。

1958年兩旗合併為伊金霍洛旗。

1959年1月15日，取旗名“伊金霍洛旗”。旗址駐地設在新街鎮，1964年7月1日遷往阿勒騰席熱鎮。

2000年，伊金霍洛旗轄7個鎮、3個蘇木、6個鄉。