郭淮出自東漢名門之後，曾祖父是東漢兗州刺史郭遵，祖父郭全是東漢大司農，父親郭縕是東漢的雁門郡太守。十八歲的郭淮因家世不錯，被任命為平原府丞。因為能力出眾，家族在軍中有聲望，便安排隨軍出征。因為多次帶兵阻止劉備進攻漢中有功，便被封做司馬輔佐夏侯淵。在定軍山戰敗後，郭淮收攏大量敗兵並推舉張郃為帥，並率軍漢水布疑兵阻滯了劉備進兵，迅速扭轉了敗局等待曹軍救援。

山匪鄭甘、盧水等人帶著一萬多人趁曹操剛逝世便起兵造反，郭淮隨張郃前去平叛，由於郭淮指揮有方，很快就平定了叛亂，鄭甘等也被斬首，收降了大部分叛軍，並在關內安撫百姓，在幾個月時間裡，關內的百姓都已安定，周邊餘匪全部招降剿清，郭淮被封為雍州刺史，不久羌族大帥闢蹄起兵反叛，郭叛起兵剿滅，並招降了大部分羌人，228年羌人唐泛隨蜀軍起兵攻魏，也被郭淮打敗了，由於郭淮對於羌人很細心治理，他在羌人心目中地位很高。

蜀軍北伐之戰，郭淮隨司馬懿出征多次擊敗了諸葛亮，在軍中斷糧的情況下，他主動鼓動了羌人多次獻糧，從而解決了軍中缺糧危機，為擊敗蜀軍創造了有利條件，蜀軍第五次北伐時，郭淮建議迅速搶佔北原之地，大家都不贊同，郭淮說:"如果諸葛亮跨過渭水登上北原，就可以連兵北山，斷絕隴道，驚嚇臣民和胡人，此乃國家安危之大患。"司馬懿這才意識到北原的重要性，命郭淮等率兵移屯北原。在那裡郭淮做了充分準備，成功阻止了蜀軍北進，將蜀軍徹底阻擋在北原之外的五丈原，雙方耗戰了幾個月後，諸葛亮病逝於五丈原。

240年蜀將姜維出兵隴西被郭淮擊敗，郭淮又趁勢率軍討伐羌族反叛部落，並且將三千多戶羌人遷移到關中地區，又將涼州休屠胡人梁元碧等率二千多家安置在安定郡的高平。

247年等羌族十多個部落幾萬人聯合起來反叛，聯合蜀軍一起進攻魏軍並佔據了很多州郡，郭淮率軍前往平叛抵抗，眾將都覺得應該先平叛再去對付蜀軍，郭淮覺得應先擊退蜀軍再平叛，當郭淮軍剛到達渢中，姜維大軍就到了，郭淮趁姜維立腳未穩，身先士卒一舉擊了姜維大軍。然後他率軍討伏羌族反叛聯軍，殺死羌族首領餓何、燒戈，斬首一萬多人，招降了幾萬人。

248年羌族首領遮塞率軍反叛，在河關、白土故城依據河險抵抗。郭淮假裝從上流出兵，卻秘密派兵從下流渡河，佔據白土城，發動進攻，大破敵兵。郭淮出奇兵又在龍夷之北與偷襲羌軍相遇大戰，羌軍大敗逃走。

255年郭淮病逝了，他是曹魏集團中期非常重要的大將，三十多年裡多次配合擊敗蜀軍北伐，還成功策反了蜀漢牙門將句安等眾多將領，並多次平定羌族叛亂，並有效治理羌族在很大程度上解決了對曹魏集團的危險。