西晉滅亡後，北方土地淪陷於五胡之手。

琅琊王司馬睿南渡建康，建立了東晉王朝。

出於各種原因，東晉組織了多次北伐。在東晉中前期的歷次北伐中，以祖逖、庾亮和殷浩三人主持的北伐規模最為龐大。

然而，令人奇怪的，三次北伐卻出現了一種不好的傾向，越是東晉朝廷支援，北伐就打得越弱。起初，祖逖北伐全靠自籌兵糧，卻能與後趙打得平分秋色，到後來，殷浩在朝廷的全力支援下，卻遭到慘痛的失敗，一勝難求。

箇中原因何在呢？

祖逖，本是河北范陽的豪強。五胡之亂，他舉家逃亡到江南。公元313年，祖逖向琅琊王司馬睿——此時晉愍帝尚在，司馬睿沒有公開稱帝，但已掌握江東的大權，請求趁後趙立足未穩，發兵進攻河南，收復失地。

為什麼說後趙立足未穩呢。彼時晉愍帝尚在洛陽苦苦支撐，前趙劉聰剛剛自立為帝，石勒率兵攻略河北山東河南一帶，後趙帝國正在形成過程中。趁此時機進攻，能掌握相當大的主動權。

司馬睿的注意力全放在開拓和鞏固江東上，對北伐並無太大興趣。他雖然允許祖逖北伐，但只給他“千人廩、布三千匹”，除此之外，“不給鎧仗，使自招募”。

只有一千人的糧食，三千匹布，此外無兵、無甲、無兵器，任憑祖逖自行招募。

但祖逖並未喪氣，他率領本族部曲百餘家渡江北上，招募軍隊，打造兵器，不斷消滅各地塢堡勢力。石勒遣石虎來攻，被祖逖屢屢擊敗。河南各地首鼠兩端的塢堡豪強見勢不妙，紛紛歸附祖逖。

祖逖也並不是一味發動進攻。他把大本營前移至譙州（今安徽亳州）後，大力鞏固已恢復的土地，組織居民耕種，大力發展生產。所以東晉雖然沒有繼續補給，祖逖大軍卻也豐衣足食，在河南站穩了腳跟。

石勒忙於和前趙劉曜大戰，無暇顧及河南戰事，不得不對祖逖示好。祖逖暫時用心於鞏固河南，也無力繼續過河北進，雙方都擺出一副和好的陣勢，沒有發生大規模戰事。這對祖逖來說倒是件好事，假以時日，將河南經營的鐵桶一般，無疑有利於進一步擴大北伐戰爭的規模。

然而東晉內部發生了變化。從祖逖上書北伐，到鞏固河南，已經7年有餘。這期間晉愍帝投降，司馬睿在建康稱帝，江東逐漸被司馬氏和王氏掌握，司馬睿終於有餘力關注北伐。他任命藩邸舊臣戴淵為徵西將軍、都督兗豫幽冀雍並六州諸軍事、假節，實際上取代祖逖，成為北伐的前線統帥。

戴淵不具備足夠的軍事才識，而擔當此任，目的不外乎是為司馬睿掌控各地軍權。祖逖聞訊，憂憤難平，321年祖逖發病而死。他北伐恢復的兩淮和河南土地，重新淪入後趙之手。

祖逖北伐，由低調出發，到紮實進取，再到恢復河南，成就之大，為東晉開國以來最強的一次。然而最終由於東晉支援不夠，祖逖儘管實力非常強盛，仍然不免掣肘於國內政局，最終導致無法繼續進取，反而被後趙後發先至，白白喪失了北伐成果。

晉元帝、晉明帝相繼去世後，第三任皇帝晉成帝即位。庾亮是晉成帝的舅父，靠著庾太后在宮中的支援，庾亮實際上掌握了朝政。

晉成帝咸和八年（333年），後趙石勒病死，庾亮認為北伐時機已至，遂發動了北伐。庾亮彼時擔任都督江荊豫益梁雍六州諸軍事、江荊豫三州刺史，手中掌握著東晉幾乎全部兵馬。

庾亮分遣諸將進駐邾城（今湖北黃岡）、江陵等要地，自率大軍十萬進駐襄陽，而後上書請求北伐。晉成帝年少，並不能決斷朝政。庾亮名為上書，實際上是徵求建康各家門閥的意見。結果，以王導為首的諸大臣都反對北伐。庾亮鬱郁難平，遲遲無法動兵。

後趙石虎則主動進攻，派兵包圍邾城，晉將毛寶、樊峻等戰死，晉軍還未出師便遭遇挫折，這次北伐也就不了了之了。339年，庾亮病死，其權柄由弟弟庾翼繼承。

庾翼吸取了庾亮北伐準備不充分的教訓，大力整頓軍紀，加強武備，發展生產，數年之間，諸州人情歸附，秩序井然，呈現出一派積極的局面。建元元年（343年），庾翼一邊上書朝廷試探朝臣的意見，一邊遣使約遼東前燕、隴西前涼一同出兵攻趙。

東晉朝中一如既往地反對和牽制北伐。庾翼沒有像庾亮那樣躕躇不前，把朝臣們的意見棄若敝履，徑自發兵4萬北伐。庾翼的外甥晉康帝不得不下詔同意庾翼北伐，並加授其官，讓他專心北伐。

結果晉軍進至丹水一帶，又被後趙軍擊敗。庾翼不得不從襄陽退守夏口。志猶未已的庾亮仍然整頓軍馬，補充軍實，意圖再舉。然而不幸的是，次年庾翼不幸病亡，北伐之議便停止了。

庾氏兄弟北伐，雖然最終取得了朝廷支援，但由於東晉內部反應過慢，沒有達成軍事上的突然性。晉軍在緩慢地準備進攻時，後趙早已動員完畢，並能搶佔先機，打敗晉軍前鋒，極大地挫傷晉軍銳氣。這導致晉軍主力還未與後趙決戰，便在國內洶洶之議中被唾沫淹死。

永和五年（349年），後趙石虎病死，諸子爭位，發生重大政治動盪。東晉抓住時機，以褚裒為主將北伐。褚裒和庾亮一樣同是外戚，系晉康帝的岳父。這位國丈爺並沒有統軍作戰的本事，他擔綱北伐主帥，只不過是以北伐為旗號，強化門閥勢力。

晉軍進至代陂，結果又被後趙二萬騎兵進敗，晉將王龕被俘，褚裒狼狽退還京口，隨軍南下的二十多萬軍民，被尾追而來的趙軍抄虜殆盡，東晉遭到慘重的失敗。京口亡故士兵的家屬哭聲震天，褚裒素以名士自居，對政治聲譽看得極重。打了敗仗他倒沒有什麼觸動，但軍民的哭訴與指責，卻結結實實地造成他政治上的減分。褚裒慚恨交加，於兵敗次年病亡。

但東晉並沒有因此停止北伐，此時後趙內亂正在進一步擴大，北方前燕不斷南下襲擊，正是因亂取敵的大好時機。東晉又以名士殷浩為中軍將軍，都督青、徐、兗、豫、揚諸州軍事，再次整頓軍隊，準備北伐。

352年，經過近三年的屯田與整軍，殷浩率大軍數萬北出壽陽，向西北方向進攻河南腹地。但因前軍謝尚轄下的將軍張遇叛變，晉軍慘敗於許昌城下，謝尚逃回淮南，殷浩主力軍不得不退回壽陽。

次年，殷浩再度整軍北進，發兵7萬進入河南，直取西晉舊都洛陽。其時羌族姚襄一部兵力屯駐在淮北一帶，名為東晉治下，實際上處於擁兵自守的狀態。

殷浩以名士自許，對胡人甚不禮遇，曾數次發兵進攻姚襄，企圖消滅之。進攻失敗後，殷浩又遣刺客暗殺姚襄，也未能成功。由此與姚襄結下深仇大恨。殷浩北進之時，沒有充分估計姚襄的危險性，放心大膽地進兵。

姚襄懷恨在心，發兵在山桑（今安徽蒙城）偷襲殷浩大軍，晉軍猝不及防，死傷萬餘人，被迫退兵。

殷浩也不甘心，退兵之後屢屢發兵進攻譙城、山桑，企圖解決這個毒瘤。然而殷氏治軍無方，打仗又不在行，諸軍在淮北屢吃敗仗。殷浩的政敵桓溫上書彈劾，指責殷浩連年動兵喪師失地，晉帝無法承受桓溫的壓力，將殷浩廢為庶人。

殷浩是東晉士族的典型代表，他以清談而聞名於當世，嘴頭上功夫了的，實際卻沒本事。但就是這樣一個草包貨，居然還被士族們吹噓為管仲、諸葛亮，可見士族整體已經腐朽至極，無力進行北伐了。