關羽早年因犯事逃離家鄉流落至幽州涿郡。 期間結識劉備，並與劉備、張飛結成兄弟，感情好到連睡覺也要睡在一起。 劉備擔任平原相時，任命關羽、張飛為別部司馬，分統部曲。隨劉備出席活動時，關羽和張飛則侍立劉備左右，保護劉備周全。

興平元年（194年），曹操因曹嵩被殺而遷怒於陶謙，於是發兵攻打徐州。陶謙求救於劉備，劉備和關羽率千餘人前往救援。曹操兵退後，陶謙表劉備為豫州刺史，關羽與劉備屯兵於小沛。而後在陶謙等人的再三相讓下，劉備領徐州牧。

建安元年（196年），劉備被袁術、呂布夾攻，丟失徐州，關羽便跟隨劉備一起投奔曹操。後與曹操許田圍獵時，關羽勸劉備殺掉曹操，但劉備此時認為當時的曹操是要匡扶漢室的，覺得殺了他可惜，於是不從。

建安三年（198年），劉備與曹操共擒呂布於下邳，奪得徐州，關羽與劉備便跟隨曹操班師回許昌，曹操任車胄為徐州刺史。

後袁術北上投奔袁紹，劉備奉曹操命攔截袁術于徐州，劉備趁機襲殺車胄，命關羽守下邳（今江蘇省睢寧縣古邳鎮），代行太守職務，劉備則返回小沛（今江蘇沛縣）。

建安二十四年，關羽在與曹仁之間的軍事摩擦中逐漸佔據上風，隨後水陸並進，圍攻襄陽、樊城，並利用秋季大雨，水淹七軍，將前來救援的于禁打的全軍覆沒。關羽威震華夏，使得曹操一度產生遷都以避關羽鋒銳的想法。

但隨後東吳孫權派遣呂蒙、陸遜襲擊了關羽的後方，關羽又在與徐晃的交戰中失利，最終進退失據，兵敗被殺。

關羽去世後，逐漸被神化，民間尊其為“關公”，歷代朝廷多有褒封，清代奉為“忠義神武靈佑仁勇威顯關聖大帝”，崇為“武聖”，與“文聖” 孔子齊名。《三國演義》尊其為蜀國“五虎上將”之首，毛宗崗稱其為《演義》三絕中的“義絕”。