根本原因就是政治理念不同，諸葛亮顯然是漢王朝的支持者，與劉備的匡扶漢室是一致的，曹操只是名義上的漢臣，打敗袁紹之後，乾脆把丞相府搬到了鄴郡，這是明顯另立中央，臉面都不要了，只維持漢朝的一個形勢，顯然世代為漢臣，又重視儒家名節的諸葛亮是不能接受的

有兩個原因：

一、從武侯他的理想角度說：他的理想是恢復漢室天下，而在當時的漢室宗親中，劉表垂垂老矣，滿足於據荊州一地，割據自保。而劉璋沒什麼才能，庸碌無為，除了他們，始終保持獨立、曾為一方諸侯的，只有劉備。只有他才有讓武侯實現政治理想的可能，而劉備也符合儒家知識分子心目中的“明君”標準：能識人、用人，有良好的道德修養。

1、能識人、用人，比如劉備對趙雲，就始終信任不疑，認為他不會背叛自己，還用手戟擲告狀的人。再說關張，從184年起兵到207年武侯出山，長達23年時間裡，劉備屢敗屢戰、顛沛流離、寄人籬下，無論混到多慘，關張始終不離不棄、忠心耿耿，此外還有糜竺、糜芳、孫乾等人也是如此，這就說明劉備能夠團結手下，識人、用人上有過人之處。混這麼慘還能保持團隊如此團結的，當時就劉備一人而已。

2、有良好的道德修養：劉備從起兵當時，幫助、投奔過公孫瓚、陶謙、呂布、曹公、袁紹、劉表等人，而他卻沒要求過這些人應該回報、幫助自己。從184年起兵到212年與劉璋反目，長達28年（半輩子的時間了。）的時間裡，幫助過別人不求回報的，當時只有劉備一人，因此劉備贏得了非常高的聲望，這些符合儒家知識分子對明君的標準。

二、1，從現實角度說，武侯出山前，大軍閥如曹公、二袁、孫家兄弟、劉表等，羽翼已豐、格局已成，若武侯投他們，就要從普通幕僚做起，而且上升空間有限。對武侯這種自比管、樂的人才來說，這不是理想狀態。而劉備集團當時還處於事業低谷，羽翼未豐、格局未成，武侯上升空間非常大，而事實上武侯出山也立即獲得了僅次於劉備的地位，這是別的軍閥都不能給武侯的。

2，曹操徐州大屠城，徐州的好多士族門閥都對此很憤怒，而孔明的家族也在徐州，孔明對曹操就更加失望了。