秦懷玉為唐初名將秦叔寶之子，由秦叔寶的正室張氏所生。秦懷玉從小練武，習得了雙鐧及長槍的套路，在唐初諸將的後輩中屬於一流。唐高祖李淵愛慕其才華，將尚未成年的秦懷玉封為右千牛衛中郎將。武德四年，李世民率軍東征，一舉殲滅了王世充和竇建德兩大勁敵。王世充被俘後，李淵赦免了他的死罪，而是將他遣往蜀中。途中，王世充忘恩負義，與舊部邴元真等密謀再次起兵。秦懷玉正巧受父親之託，給單雄信弔喪，路過王世充軍營，發現了這個陰謀。秦懷玉於是和手下獨孤修德一起化裝成乞丐，潛入了王世充的軍營，並且很快獲得了王世充的信任。不久，將軍賈潤甫領兵經過，秦懷玉於是派獨孤修德出去會知了賈潤甫，然後趁夜發難，裡應外合大破王世充叛軍。秦懷玉手刃邴元真，而王世充被獨孤修德所殺。此後，秦懷玉因功得寵，被招為駙馬，與李淵的孫女晉陽公主成親。貞觀年間，突厥叛亂，唐太宗李世民御駕親征討伐北番，不慎中計被圍困在牧羊城。秦懷玉經過比武選拔，當上了唐軍的二路掃北副元帥，和元帥羅通一起領兵北進。途中秦懷玉擊敗並收降了落草為寇的單雄信之子單天長。之後秦懷玉和羅通一起在牧羊城外打敗了擅長使用飛刀的吐魯公主和突厥元帥左車輪，救出了困在城中的李世民。貞觀後期，唐太宗親征高麗，被圍困在三江越虎城。此時秦叔寶已經病故，秦懷玉世襲成為護國公，領第二路東征大軍支援前線。在三江城外，秦懷玉單人獨騎衝殺東西南北四座城門，陣斬了泉蓋顯殿等數員敵將，並且牽制住了高麗國元帥泉蓋蘇文，使得唐軍能裡應外合打敗高麗軍。不久，唐朝名將薛仁貴用龍門陣徹底擊敗泉蓋蘇文，泉蓋蘇文向荒原逃竄，被埋伏在那裡的秦懷玉和羅通截擊，然後被逼到了海邊，走投無路自殺。唐高宗時期，西涼國入侵，秦懷玉隨大軍出征西域。在兩軍陣前秦懷玉與西涼國大元帥蘇寶同大戰五十回合不分勝負，並且識破了蘇寶同的飛刀計。之後蘇寶同騙走了秦懷玉家傳的金裝鐧，秦懷玉騎馬追趕，蘇寶同趁機把金裝鐧反手一扔，打在秦懷玉臉上，將秦懷玉砸死。