說到公孫勝和宋江的關係，其實很多人都覺得兩個人既然都是梁山的好漢而且都各自坐在掌事者的位子上那麼關係一定是非常融洽甚至可以稱得上是生死之交的朋友，可事實上事情並不像我們所想的那樣。公孫勝雖然歸順了梁山，可是他真正敬佩的並不是宋江，而是晁蓋，晁蓋是個仗義的英雄好漢，平時不愛美色也不愛錢財，就是對舞刀弄槍感興趣。這一點和當時的公孫勝是志氣相投啊，可是他死後宋江當上了梁山的一把手讓公孫勝感到很不滿意。

再說晁蓋的死很是蹊蹺，這一切都讓公孫勝覺得是宋江想要謀權篡位而施的陰謀詭計，只是抓不到他的把柄只有把疑惑一直藏在心裡，日積月累這樣的疑惑越來越多也就讓他越來越討厭宋江的為人了，再有一個原因就是公孫勝看不起宋江身邊跟隨的眾人，就拿李逵當做例子，公孫勝認為李逵為人蠻不講理是個典型的粗人，他殺人如麻，不管三七二十一見人就砍，這一點尤其讓公孫勝覺得宋江並不是他要跟隨的那一類人，所以就在水泊梁山的勢力越來越壯大的時候，他毫不猶豫的離開了梁山，一個人去遊歷四方，成了個真正的道士。

宋江是梁山的第三任老大，公孫勝之前是跟隨第二任老大晁蓋的，在上梁山前曾參與擷取生辰綱，與晁蓋建立了深厚的友誼，後來晁蓋死後繼續跟隨宋江，坐梁山第四把交椅。但再後來宋江接受詔安，寒了很多梁山兄弟的心，在徵方臘的路上，公孫勝成了第一個離開梁山的好漢。簡言之梁山共108位兄弟，大哥是宋江，公孫勝算是宋江的四弟。