前秦軍隊雖多，但很多是強徵漢族和鮮卑族人，他們不願為前秦賣命，他們更希望東晉能夠取勝～以解除他們的勞役之苦，所以前秦軍隊人數雖多～都是烏黑之眾，所以才聽到撤退命令，他們就拼命逃跑，造成所有前秦軍隊大潰退，人馬自相踐踏，再加上東晉軍隊追殺，因此大敗，潰不成軍

謝玄（343—388年），字幼度。陳郡陽夏（今河南太康）人。謝裒之孫，謝奕之子，謝安之侄。東晉時期軍事家、文學家。謝玄有經國才略，善於治軍。

謝玄自幼喪父，跟隨其叔父謝安長大。他天資聰慧，勤奮好學，深得謝安器重。有一次，謝安出於對晚輩的厚望，把所有子侄召集在一起，問大家：作父母的為什麼期望兒孫們個個都能出類拔萃、有出息呢？眾人悶不作聲，謝玄答道：“譬如芝蘭玉樹，欲使其生於庭階耳”。大意說：好的子弟就象香花佳木一樣，都願意讓它們長在自家庭院裡。謝安聽後很滿意，久而久之，人們就把以謝玄為代表的謝家子弟譽為“謝家寶樹”。 謝玄成年後，經國治軍才能逐漸顯露出來，朝廷幾次徵召，他都推辭不受。後來，晉明帝的女婿桓溫欽佩謝玄的才華，將其與王洵（王羲之的侄兒）一起聘入府中，作為幕僚。謝玄後又轉為徵西將軍桓豁的司馬，監北征諸軍事。受到桓溫的禮遇和器重。

當時，東晉偏安江南，北方處於十六國封建割據的時期。謝玄八歲那年，原在今甘肅的氐族首領苻健率部進入關中，在長安(今陝西西安市西北)建立前秦政權。苻健死後，其侄苻堅殺君奪位，自立為大秦天王。苻堅重用漢人王猛治理朝政，採取了一系列改革措施，使前秦 “兵強國富”，勢力迅速發展。晉海西公太和五年 (370年)，東向滅了鮮卑慕容氏建立的前燕; 簡文帝鹹安元年(371年)，吞併了同族仇池; 孝武帝太元元年(376年)，滅了鮮卑代和漢族張氏建立的前涼; 寧康元年(373年)，佔領了東晉的梁(今陝西漢中)、益(今四川成都)二州。整個黃河流域及長江、漢水上游均在其控制之下。前秦擁有騎兵近三十萬人; 步兵可徵集六七十萬人。與江南東晉相比，無論在地域、軍事實力等方面均佔優勢。當時前秦苻堅多次侵擾東晉邊境。東晉朝廷於是下令徵召能夠抵禦外患的良將。謝安任人不避親，推薦了謝玄。

中書侍郎郗超歷來與謝玄不和，但聽到這一舉薦，也不得不嘆息說：“謝安敢於冒觸犯眾怒的風險舉薦親侄子，的確是英明的；謝玄一定不會辜負他叔叔的推薦，因為他確實是難得的人才”。當時許多人都不贊同郗超的看法，郗超說：“我曾經與謝玄共同在桓將軍幕府做事，親眼見他用人能各盡其才，即使是一些細小事務，他也安排得非常恰當。因此我知道他一定能成功的”。朝廷於是召謝玄入朝，授其為建武將軍、兗州刺史，領廣陵相，監江北諸軍事。謝玄到任後，廣募頑強勇敢之人，劉牢之與何謙、諸葛侃、高衡、劉軌、田洛及孫無終等人都因為勇敢威武而入選。謝玄授劉牢之為參軍，命他領精銳“北府兵”為前鋒，劉牢之不負眾望，號稱百勝將軍，前秦對謝玄軍頗為畏懼。

太元三年（公元378年）秦王苻堅命其子、徵南大將軍苻丕督率兵馬四路分進，會攻晉之襄陽。次年二月，前秦軍攻陷襄陽，守將朱序被俘。與此同時，前秦另派大將彭超率兵七萬分路進攻彭城、淮陰(今江蘇淮陰東南)、盱眙(今江蘇盱眙東北)，企圖東西並進，奪佔江淮戰略要點，為會攻建康(晉都，今南京)創造條件。東晉方面遂發兵兩支援救： 一由車騎將軍桓衝率領，西上救援襄陽; 一由謝玄率領，救援彭城。謝玄奉命率領兵萬餘援彭城，他探知秦軍輜重存放在留城（今江蘇沛縣東南），便揚言派兵攻取留城。彭超急忙率軍回軍保護留城。謝玄則命後將軍何謙領兵急馳彭城，解彭城之圍，接彭城守將戴遂，返回駐地。彭超見中了謝玄的調虎離山之計，當明白過來的秦將彭超再趕回來時，只得了一座空城。秦軍繼續南下，又攻佔淮陰，留下邵保駐守。五月，秦軍佔領盱眙，並以六萬人攻下晉幽州刺史田洛駐守的江北要鎮三阿（江蘇高郵西北）。晉軍抵敵不住，驚散潰敗，東晉門戶大開，形勢十分危急。

彭超在三阿用六萬軍隊包圍晉幽州刺史（虛銜）田洛。朝廷急命謝玄的叔父、徵虜將軍謝石率水軍前往塗中（今安徽滁州），右衛將軍毛安之、遊擊將軍王曇之、淮南太守楊廣、宣城內史丘準往堂邑（今南京六合）。不久，盱眙（今江蘇省淮安屬縣）城失陷，高密內史毛藻戰死，毛安之等人驚恐，各自退軍，朝廷為之震動。於是命謝玄率“北府兵”二萬餘人自廣陵援救三阿。謝玄軍進至白馬塘，前秦俱難派部將都顏率騎兵迎擊晉軍，戰於塘西，秦將都顏陣中被斬。謝玄揮兵進至三阿城下，採取了勇猛迅捷、內外配合、水陸夾擊、直衝敵營的戰法，與圍城的彭超、俱難所率的秦軍展開大戰。彭超、俱難六萬餘秦軍在白馬塘一帶被擊潰，秦軍大敗。彭超、俱難“相率北走，僅以身免”。晉軍趁勢收復了淮北地區。不知道東晉朝廷那根弦搭錯了，命令放棄彭城，下邳兩地南撤。謝玄回到廣陵，晉封為冠軍將軍，加領徐州刺史，封東興縣侯。

太元八年（383年），苻堅親自率前秦軍駐紮項城，徵調全國兵馬“戎卒六十餘萬，騎二十七萬，旗鼓相望、前後千里”。秦號稱百萬雄兵，大舉伐晉。前秦涼州之軍抵達咸陽，向南順流，幽並二州的軍隊也接連而至。苻堅先遣苻融、慕容暐、張蠔、苻方等人至潁口，梁成、王顯等屯駐洛澗。

東晉命尚書僕射謝石為征討大都督，謝玄為前鋒都督，率領輔國將軍謝琰、西中郎將桓伊等部共八萬兵馬前往迎敵，又命龍驤將軍胡彬率水軍五千救援壽陽。謝玄受命後，對如何以區區八萬之兵抵禦秦軍百萬之眾，沒有把握。他特意去向宰相、主持朝政的叔父謝安請教方略。謝安當時坐鎮建康。並沒有告訴謝玄任何方略，卻召集謝玄等子侄及親朋郊遊，並約謝玄下棋，似乎並無敵情，至夜方回。謝玄再問方略，謝安僅以“各當其任”四字為勉，只說了一句“都安排好了”。

十月，苻融前鋒部隊攻克壽陽，慕容垂則進佔鄖城（今湖北安陸）。晉援軍胡彬退保硤石（今安徽風臺西南）。苻融進兵圍攻硤石，同時派梁成率軍五萬駐守洛澗（安徽懷遠西南），以遏止晉軍救援。梁成曾屢敗晉軍，所以謝石、謝玄等在離洛澗二十五里處紮下營寨，不敢輕進。胡彬軍糧草將盡，遣信使密告謝石，信使為秦軍所獲。苻融得知晉軍糧盡後，飛報苻堅：“敵少易擒，只恐逃走，宜速進兵”。苻堅得報後，將大軍留置項城，自率輕騎八千，兼程趕赴壽陽。

苻堅打算依仗秦軍聲勢，迫使晉軍不戰而降。命原晉襄陽守將朱序為使前往晉軍駐地勸降。朱序來到晉軍營中，私下對謝石、謝玄等說：“若秦百萬之眾盡至，誠難與為敵。今乘諸軍未集，宜速擊之。若敗其前鋒，則彼已奪氣，可遂破也”。謝石聽說苻堅親自到了壽陽，心存畏懼，不願出戰。謝琰則力勸謝石聽從朱序之言。謝玄反覆權衡利弊後，贊同速戰。苻堅進軍駐紮在壽陽，在淝水沿岸佈陣列兵，謝玄的軍隊不能過河。謝玄派人對秦將苻融說：“你們那麼遠到我們的疆土，卻在淝水邊上列陣，這是不想速戰速決。請你們稍微退後一點，也好讓我們的部隊渡過河去同你們拼一拼。看看到底誰厲害”？ 苻融對苻堅說：“咱們人多，晉軍人少，把他們堵在淝水河對岸。情勢一定是有利於我們的”。苻堅卻說：“只管讓我們軍隊退後，讓他們過河，等到他們過來了，我們再用鐵騎數十萬把他們全部趕進河裡去，徹底消滅他們”。秦軍於是後退，誰知後退的命令一發出，秦軍就一下子亂了陣腳，再也控制不住了。

謝石命令晉軍乘勢從後面進攻。謝玄親率謝琰、桓伊等精兵八千，涉渡淝水，直衝秦陣，斬殺秦將梁成，王顯等十多人。秦軍驚潰，陣勢更加混亂。朱序等東晉降將又在陣後大呼：“秦兵敗矣”！秦軍兵馬愈發退而不止。苻融見秦軍陣容已亂，急馳入陣中，想指揮秦兵停止退卻，不料乘馬在亂軍中摔倒，晉兵衝到，殺死了苻融。秦軍失去前線統帥，大敗奔逃，劉牢之斷敵歸津，縱兵追擊，秦軍敗逃無路，爭赴淮水，死傷近半。營於壽陽城外，史稱“自相蹈藉技術死者不可勝計，淝水為之不流”。“其走者聞，皆以為晉兵且至，晝夜不敢息”。謝玄揮兵追擊，直至青崗（安徽壽縣西北），秦軍潰逃途中，“草行露宿，重以飢餓，死者什七八”。苻堅身中流矢，單騎奔向淮北。晉軍獲得苻堅所乘雲母車和堆積如山的軍資器械、以及騾馬十餘萬匹。

成語“八公山下，草木皆兵”、“風聲鶴唳”都是說的這場戰役的。“淝水之戰”因此也成了我國古代以少勝多的經典戰例。淝水之戰後，謝安向朝廷提出，宜乘苻堅喪敗的時機，出兵北上伐秦，開始中原，以圖恢復舊部基業。謝安上奏朝廷，認為苻堅新近敗喪，應乘有利時機，太元九年（公元384年）八月，東晉以謝玄為前鋒都督，率冠軍將軍桓石虔直指渦、潁，經略舊都。謝玄軍所到之處，敵軍無不聞風喪膽，彭城、鄄城，河南城堡、山東兗州很快全部收復。十月，謝玄軍攻秦青州（山東益邵）、伐冀州（河北冀縣）、佔濟陽（山東茌平西南）、取滑臺（河南滑縣東）。隨後，謝玄大敗桑據，攻克黎陽（河南浚縣北）。前秦苻丕此時正在鄴城 （河北磁縣南），無力抗晉，遣使請降。此時謝玄的晉軍聲威大震，三魏無不驚恐，一一皆降。

當時，東晉朝廷內部的鬥爭日趨激烈，謝安受到會稽王司馬道子的排擠，自求北征，出鎮廣陵，不久病逝。謝玄北伐大勝，刺激了司馬氏朝廷的神經，讓朝廷不是人想起了桓溫的所作所為，十分猜忌。深怕謝家出現一個桓溫式的人物。謝安去世之後，謝玄又失去了朝中的支持者，謝玄回到淮陰後，又患上疾病，只好上疏請求解除職務，詔令不許。

司馬道子又以“徵役既久，宜置戍而還”為名否定了謝玄鞏固北伐成果，否定了他的謀劃，削去他的兵權。謝玄功業不成，又遭排斥，心灰意冷，上書說：“追尋前事，可為寒心。臣之微身，復何足惜，區區血誠，憂國實深”。不久，謝玄在歸途中病情轉重，於太元十三年（公元387年）正月病逝，終年四十六歲。朝廷念起功，追贈為車騎將軍，開府儀同三司，諡號“獻武”