公元228年，諸葛亮第一次出師北伐，攻打曹魏。深受諸葛亮器重的參軍馬謖，被派往駐守戰略要地街亭。而馬謖在街亭違背諸葛亮的部署，不聽從副將王平的勸告，主觀武斷，在遠離水源的山上安營紮寨。結果曹魏大軍蜂擁而至圍困孤山，蜀軍大敗，馬謖失魂落魄、灰頭土臉逃回大營，致使街亭失守，這就是著名的馬謖失街亭的故事。事後諸葛亮上表劉禪免去自己的丞相職務，降級三等，並且處斬了主要責任人馬謖。

諸葛是不想讓馬謖死的，即使他失了街亭，馬謖當時在諸葛心中的地位應該和比日後的姜維一樣，是後繼之人。但是他失了街亭，這樣使得諸葛非常沒有面子，沒有一個臺階下。不殺他吧，自己日後何以服眾，殺他吧，又不捨得。最後沒有辦法，只能殺之。三國演義裡說後面不知道是蔣琬還是費禕或是其他人過來勸諸葛不殺馬謖，諸葛當時是不想殺，奈何過來勸解的人身份地位不夠。在別人眼裡，你諸葛如果聽了他的話，不殺馬謖，那自然就認為你諸葛偏心。但是如果來的人身份地位比諸葛高，這時過來的勸解就不是勸解，而是命令，那諸葛是很樂意的，自己在蜀中的聲望又不會下降，沒錯這個人只能是劉禪，奈何，劉禪無能，且遠在成都。所以這樣說來，馬謖必死無疑。

想當年華容道，關羽照樣簽了軍令狀，照樣違反了軍令狀，回去見諸葛啊，諸葛說“殺”，這時，諸葛的上司劉備說“不殺”，諸葛還能怎樣，只能說“YES SIR”

還讓他留守荊州以重用。