菲爾普斯獲得奧運會18枚金牌共22枚獎牌，前無古人，成為現代奧運會歷史上，獲得金牌數量以及獎牌數量最多的運動員。為此，國際奧委會為菲爾普斯頒發了特別獎“最偉大的奧林匹克運動員”。2004年7月7日，菲爾普斯在雅典奧運上打破了他自己創下的400米個人混合泳的世界紀錄（4分08秒41）。在雅典奧運上，他獲得了6枚金牌和2枚銅牌，平了前蘇聯體操運動員阿列克桑德在1980年莫斯科奧運會上創造的一屆奧運會獲8枚獎牌的紀錄。 2008年北京奧運會，菲爾普斯共獲得8枚金牌，成為單屆奧運會奪取金牌最多的選手。2012年倫敦奧運會上，儘管400米個人混合泳和200米蝶泳兩個單項未能見金，儘管他領銜的4×100米自由泳接力只收獲一枚銀牌，但這無礙其成為有史以來最偉大的奧運選手——隨著31日美國隊強勢奪得男子4×200米自由泳接力金牌，8月2日和3日，他接連在200米混合泳和100米蝶泳中衛冕成功，又在5日男子4x100米混合泳接力決賽中，獲得金牌邁克爾·菲爾普斯將自己的奧運金牌和獎牌數改寫為18和22枚，一舉超越前蘇聯體操名宿拉蒂尼娜所保持的18枚奧運獎牌的紀錄，成為奧運歷史上獲得獎牌及金牌最多的運動員。