明太祖朱元璋痛恨官吏的貪汙腐敗，建立了對官員進行監督的常制。洪武十三年（1380），罷御史臺，洪武十五年（1385），置都察院。長官是左右都御史。都御史與六部長官均為正二品，明人稱為“七卿”，都御史下分十三道設道監察御史。監察御史和六科給事中合稱“科道官”，共一百六七十人，這些人通常被稱為“言官”，專職彈劾百司。監察御史品秩不高，但代表皇帝，可以小制大，以內製外，尤其巡按御史，小事立斷，大事奏裁，很有權威，成為肅清吏治的重要依憑。尤其需要注意的是，由於明朝沒有宰相之制，都御史直接向皇帝負責，六部、地方政府和監察御史、給事中不相統屬，從而避免了由於隸屬關係而對言官產生行政干涉，保障了言官職能的有效發揮。

言官的職能主要是進行諫諍和封駁，糾舉百官，肅清吏治。俗話說：“打鐵還需自身硬”，言官要起到肅清吏治的作用，由誰來擔任言官就是非常慎重的事情了。朱元璋要求由“賢良方正”之人來充任言官，記憶體忠厚之心，外振正直之氣，政治上一定要忠君愛國。明成祖朱棣則進一步強調言官要“有學識、通達治”，器識遠大，學問賅博，不僅如此，明代還要求言官有實際的仕途經歷，不是僅憑藉書本上的抽象理念來行事，而是能真正切入實務，不務空言。由於言官的道德勸諫職能，就必然對言官任職資格提出了專業技能之外的更多要求，首先是任職迴避。其次對言官出身有資格限制。明代規定，不能選用胥吏出身者為言官，如果曾犯“奸貪罪名”，也失去獲選資格。總之，言官的選任在官員選任體系中屬於最為嚴格的範圍。

在選任程式上，一般有薦舉和考選兩種途徑，在洪武之後，科舉漸成定式，透過科舉的考選成為主流，但是，透過科舉之後的任命程式，言官比起其他普通官員要嚴格複雜很多，先要進行察訪，調查輿論民情，然後，“或策以時務，或試以章疏，議論正人”，最後擬出名單，供皇帝批准。考核程式也遠較普通官員複雜，根據任期屆滿進行考核叫“考滿”，分三年一考（初考），六年一考（再考），九年一考（通考），同時還有六年一次的“考察”，稱為“京察”，考核的標準主要有除革奸弊、伸理冤枉、揚清激濁等，非常完備。

對言官體系的任職資格、選任與考核均如此嚴格，使得明代的吏治在經歷了洪武的嚴刑峻法之後走向常規，並取得了較好的效果。總體而言，因為能出現像海瑞這樣抬棺死諫的言官，有這樣一個群體的存在，使得明代吏治的清明程度比其他王朝要好。要做到這一點，除了對言官自身要求嚴格之外，對言官也要進行有效保護，不因言獲罪是重要的原則。明代在制度上繼承了宋代不殺讀書人的傳統，言官在社會上有很高聲譽和公信力，儘管明代有言官因言得禍的時候，比如王陽明就是因為上疏申救言官而遭貶謫，但總體上，言官能夠有人身安全的保障。由於明王朝非常強調從道德情操角度來培養士風，士氣高揚，言官盡職盡責，哪怕是對皇帝也不放過。萬曆時期言官雒於仁批評萬曆皇帝“皇上之恙，病在酒色財氣也”。言官群體對皇帝不當行為的勸諫成為明王朝一道有趣的風景線，比如荒嬉無道的明武宗總是想著出巡，言官們堵住宮門，哪怕挨板子也在所不惜。更有甚者，言官以挨板子為盡職盡責、替天行道的標誌，並不以為恥，反以為榮，以至於萬曆頭疼不已，說這些言官是以“賣直”求榮，下令裁抑言官，使得很多崗位出現空缺，同時萬曆的朝政也就更加腐敗，終於導致明王朝亡國。

言官對閣臣的監督也非常有效，比如嚴嵩當政時期，有十餘位言官前赴後繼地彈劾嚴嵩，即便遭到嚴嵩假借皇權對言官進行廷杖、除名、貶謫、下詔獄等打擊報復也在所不辭，終於使嚴嵩、嚴世藩父子伏法。言官對地方政治的監督也頗為有效，當明王朝的朝政荒怠的時候，地方運轉基本正常，言官可謂功不可沒。