假設你指代的是西漢的那種大司馬，我就簡單說說，不對的地方請指正。漢初，三公主要是丞相、太尉和御史大夫。丞相為百官之長，主民政；太尉主軍政，相當於最高軍事顧問；御史大夫監察百官，但是比起丞相地位略低，時人稱之為副丞相。漢武帝廢太尉，立大司馬。而大司馬最初並不是一個官位，而是一個加封虛銜。所以你看衛青之類的都是大司馬大將軍。因為他實際是大將軍（帶兵打仗）但是功勳卓著深受喜愛，所以封大司馬以示尊寵。所以大司馬說起來跟漢初的太尉是有些類似。但是不同的是，自此開始，大司馬有凌駕於丞相之上，併成為三公之首的趨勢。這跟漢初丞相為百官之首的地位有些不同，意味著孝武意圖削弱外朝的想法。舉例：漢武帝死後，漢昭帝至漢宣帝時期的權臣，大司馬霍光想要廢掉當時的皇帝劉賀時，派大司農田延年去通知當時的丞相楊敞。漢書對此的描述是，楊敞“徒唯唯而已”（感覺就是覺得廢皇帝這個事情本丞相是不敢的，但是你太厲害我也不敢對你強勢地拒絕），還是楊夫人機智地勸老公：你如果不下定決心和大司馬一起做這事兒，你就先被大司馬搞死。由此可見大司馬連丞相都不敢輕易開罪之。不過霍光權力那麼大也算是大司馬職位的鼎盛時期了，比以前的丞相還嚇人，皇帝必然不能容忍。君權和相權之間的關係感覺貫穿中國古代史，然而這也是另一個話題了。