大業九年春，楊廣再度御駕親征，於三月初四率領百萬大軍進抵遼東，拉開了第二次東征高麗的序幕。與高句麗激戰數月後，傳來的一則訊息讓楊廣不得不撤軍回國——楊玄感造反。第一次東征之後已經有許多人都在造反，楊廣置之不理，為何唯獨楊玄感造反讓他寧願丟棄堆積如山的軍資、糧草，都要回國平叛呢？

因為楊玄感是貴族，他是隋朝開國元勳楊素之子，襲爵楚國公，時任上柱國、禮部尚書，在帝國的政治高層擁有不可估量的影響力。在楊廣看來，這樣一個重量級人物起兵反叛，必將產生“振臂一呼，應者雲集”的可怕效應，也無疑會引發巨大的政治離心力，使更多的門閥世族生出謀求天下的野心！而後來的事情發展證明了楊廣是對的。楊玄感在黎陽起兵，許多人紛紛響應他的號召。在楊廣徵討高麗時，楊玄感已經兵圍洛陽。而洛陽被圍僅僅幾天時間，洛陽城中竟然有四十多個貴族和高官子弟出城投降，如韓擒虎之子韓世咢、觀王楊雄之子楊恭道、來護兒之子來淵等等，楊玄感也是來者不拒，把這些官二代通通封官封爵，但是他也知道這些人的水平，只能撐撐場面，對於戰爭的實際作用卻不大。

他真正重用的人是——李密。沒錯，就是隋末叱吒風雲的瓦崗首領李密，現在他在楊玄感手下當幕僚。在楊玄感圍困洛陽之前曾向李密詢問過謀取天下的策略，李密進獻上中下三策。

他說：“天子出征，遠在遼東塞外，距幽州足有一千餘里，南有大海，北有胡虜，中間僅有一條遼西走廊，是遠征軍和國內聯絡的唯一生命線，形勢極為險峻。如果你親率大軍北上，出其不意攻佔薊縣，奪取臨渝，便能控其險要，扼其咽喉。如此一來，東征軍的歸路被切斷，高麗人勢必從他們背後發起攻擊。旬月之間，糧秣給養告罄，軍隊不戰自潰，你就能兵不血刃，生擒楊廣！此乃上策。”

接著又說：“關中自古乃四塞之地、天府之國，如今雖有隋將衛文升據守，但此人不足為慮。我們若率大軍擊鼓向西，所經城池一律不加攻打，直取長安，收其豪傑，撫其士民，據險而守，天子縱然班師，但根據地已失，我們便有足夠的時間審慎籌劃，穩步進取。”此乃中策。接著他又說：“派出精銳，晝夜賓士，襲取東都，號令天下！問題是，萬一一百天拿不下來，天下之兵四方而至，事態就不是在下所能預料的了。所以，這是下策。”而楊玄感在聽完之後選擇了下策。我相信，那一刻李密內心是失望的。楊玄感認為，如今百官眷屬皆在東都，若先取之，足以動搖士心，顛覆國本！所以就有了楊玄感兵圍洛陽的局面。

可以他錯了，圍困洛陽之後，楊廣的東征大軍便已迅速回師中原對楊玄感形成了反包圍。而這時楊玄感又犯了一個致命的錯誤，他聽信部將李子雄的計策，把本來就不多的兵力分成兩路，一路抵擋已經屯兵黃河北岸的屈突通，一路進攻從長安趕來馳援東都的衛文升。結果不用多說，他兵敗逃走，他這時想西進關中，入關拒守。可這個時候想入關就太難了。他再次失敗，慌不擇路地跑到了一個叫葭蘆戍的地方，他不願被俘受辱，最後叫自己的弟弟殺了他。

這場叛亂雖然很快就平定了，可是卻給隋帝國撕開了一個大口子，拉開了隋末大亂的序幕。楊廣的威望降低，那些其他的高層貴族也在蠢蠢欲動，等候時機推翻隋朝。