歷史上胡惟庸最終官職的確官拜丞相，位居群臣之首多年，一時之間權勢滔天。但是正是因為他權利慾太過旺盛，為人處事過於獨斷專行，又加上在朝中結黨營私，肆意貪汙腐敗，結果觸碰了朱元璋的底線，為朱元璋所不容。另一方面，朱元璋亦深感宰相專權，導致自身皇權旁落，最終胡惟庸被朱元璋以“謀不軌”的罪名誅殺了九族，史稱“胡惟庸案”。

1370年胡惟庸靠著自己的能力和李善長的推薦官拜右丞相，一直到1377年九月胡惟庸最終官拜左丞相，這幾年的時間裡胡惟庸自然是大權在握，而且胡惟庸自認為深得朱元璋的寵信，一時之間被權利慾衝昏了頭腦，肆意結交大量朋黨。另外，作為淮西派主要頭目的胡惟庸在丞相任期內在朝中不遺餘力地打擊異己，尤其是對於與淮西派有矛盾的浙東派的人，即使他們立下汗馬功勞，胡惟庸也從不重用。因為他對朝中大臣的一系列措施，使得淮西朋黨集團的勢力在短時間內不斷膨脹。

歷史上胡惟庸在當丞相後除了結黨營私之外，最讓朱元璋所不能容忍的是胡惟庸為人處事過於獨斷專行，漠視皇權。例如，對於朝中上報的生殺廢黜大事，胡惟庸經常利用私權，在未上報朱元璋之前便自行處理。另外，胡惟庸膽敢在朱元璋之前檢視所有奏摺，朝中各部門的奏章在上報朱元璋之前都要經過他的篩選，在此期間他便會將參奏自己的奏章扣留下來。朱元璋作為明朝開國皇帝，極其多疑，猜忌心極重，雖經過他的削弱，但是相權的權力依然是一人之下萬人之上，所以胡惟庸的所作所為，引起了朱元璋深深的忌憚。

據記載，在明洪武十三年，胡惟庸突然發現他的舊宅枯井中湧出醴泉，他興致勃勃的以此為藉口邀請朱元璋前來觀賞祥瑞，朱元璋並未過多注意，欣然決定前往。但是在朱元璋走至西華門的時候，太監雲奇忽然死死的拉住鑾駕的韁繩，雲奇當時氣喘吁吁的說不出話來，情急之下，太監雲奇指向胡惟庸的府宅，朱元璋感覺事態不妙，他急登上宮城檢視情況，朱元璋發現胡惟庸府上塵土飛揚，府院、牆道內殺機四伏。

朱元璋頓時大怒，立即派兵捉拿了胡惟庸和他的朋黨，並迅速以謀反叛亂罪名將胡惟庸誅殺。隨後，朱元璋趁機大開殺戒，其中包括開國第一功臣南韓公李善長和大批功臣都受到株連，當時與胡惟庸案有關係牽連的竟然多達三萬餘人，真的是一場血腥的清除朋黨的政治行動，自此之後中國歷史上再無宰相。

個人認為胡惟庸在自己的府中藏兵，藉機誅殺朱元璋的可能性和可信性並不高。因為胡惟庸雖然處事卑鄙，但極其聰明，他應該不會傻到在自己的家裡誅殺朱元璋，一絲後路都不給自己留。另外退一萬步說，他即使真的在府內藏兵，又怎麼會那麼容易在城樓上看到，所以說朱元璋在宮城上親眼看見胡惟庸舊宅中暗藏兵器和人馬屬實有點牽強。後代世人沒有機會親身去經歷那些權勢爭鬥，也難以辨認真假，但是胡惟庸的獨斷專權，肯定是引起了朱元璋的注意和忌憚，他的被殺結局是註定的了，只是理由可能不同而已。