中央，設御史大夫：

　　在中央，設立有御史臺，作為最高監察機關。其長官在西漢初期為御史大夫，與丞相及太尉同為“三公”。其職責是“內承本朝之風化，外佐丞相統理天下”，兼有行政與監察長官之性質，相當於副丞相。他以察舉違法為職責，對官吏的違法行為，不問是否有皇帝和丞相的指令，均有權進行案問，但御史大夫僅負責朝內和京畿地區三輔的監察。在御史大夫之下則設立御史中丞為其佐官。

　　地方，設刺史：

　　為了加強對地方郡縣的監察，漢武帝時開始在地方設立專門的監察機構，由各部派遣刺史一人，稱為十三部刺史，隸屬於中央御史臺，專門負責監察郡縣，於每年八月，“周行郡國，省察治狀，黜陟能否，斷治冤獄”，同時還負責“課第長史，不稱職者為殿，舉免之”。

漢武帝時，為了加強監察地方的諸侯王和郡守縣令，在各州均設定刺史，即監察官

漢武帝的辦法是重用酷吏，就是讓那些專好蒐羅別人違法、錯誤和可疑行為事件的人升官發財。如果皇帝要收拾某個人，可以暗示酷吏們放手去幹；如果皇帝要保留某個人，即使酷吏們彈劾了，他也可以置之不理，酷吏們也會知趣地停止彈劾。

漢武帝致力於建立個人絕對獨裁的統治，要消除一切可能反對他的勢力或個人，因此他喜歡恐怖統治，需要酷吏們幫他的忙。 而且漢武帝又要打仗又要蓋宮殿，需要很多錢，因為官方認定花錢的人可以贖罪，所以讓酷吏們多抓些人進監獄有利於提高財政收入。

所以漢武帝時誕生了很多有名的酷吏，比如張湯、杜周等。還有比如主父偃，善於發現皇親國戚們的違法行為；江充，善於揭發王公大臣的“巫蠱”行為。