唐初實行四等官制，以尚書都省為例，長官就是尚書令（唐代只有特例），通判官就是左右僕射，本判官（也有的學者稱為主判官）為六部尚書、侍郎、郎中、員外郎，典史就是各種吏；勾檢系統的長官則是尚書左丞、右丞。地方行政機構也類似，長官就是刺史，通判官是別駕、長史、司馬，本判官就是各曹判司，典史都是吏；勾檢長官為錄事參軍。前期的司馬作為通判官是有實權的，如《新唐書·孔述睿傳》：“曾祖昌寓，字廣成，貞觀中對策高第，歷魏州司馬，有治狀，帝為不置刺史。為政三年，璽書褒美，進膳部郎中。”可見司馬掌握實權，而且是代理刺史的長官行政權。但中後期的確成為了大量貶官的安排，史籍中不乏貶為某州司馬這樣的記載，而且貶官後，司馬並沒有實權。司馬五品下司馬是從五品下的官員,在唐朝的時候，司馬這個官職的職務就是協助當地的刺史辦事，但是更多的只是個虛名而已，沒有任何職權，幾乎成為了朝廷貶官的一個代名詞。唐朝中後期，司馬已經是很低階的職務了，而且京官被貶，一般是被貶為司馬。所以唐朝司馬是個很特殊的官職，沒有實權，只領俸祿，每天都是遊山玩水的。而且一般情況下，官員們不會跟他們交往，因為如果交往了，被人抓到把柄，有可能會被罷職。而且這些司馬很有可能還會回到京城做官，所以只能敬而遠之。長史，為幕僚之長。亦可領兵，其實質若現今之參謀長之職務。刺史是名義一把手，長史是具體行政者，司馬是沒啥權的。