中國歷史上的郡縣制實際上有多種方式：秦漢時期，郡有郡、王國、屬國都尉三種，到東漢時郡仍有公國之封，真正的州郡三級行政管理架構，是從東漢靈帝時成型的，那就是州郡縣三級行政區，這個時候，州實際上相當於元代的行省及之後的省；由於歷史變遷，三國兩晉南北朝時期，州郡縣的設定混亂之極，故在隋唐時期，郡一級形同虛設，隋朝罷天下郡，以州領縣，統一南北，將州縣兩級制推行全境，後又改州為郡，從此州即是郡，郡即是州，唐初又恢復郡為州，叫州縣制，是為兩級行政區劃，此制一直沿用到宋。宋的路是一種特殊機構，它不是獨立的行政區，實際上仍是州縣兩級制。

到元代，就採取了行省制度，實際上恢復了三級行政區制。因此，從這樣的歷史情況就可以看到，郡縣制並不是在處理地方事務上缺乏獨立性的，它有很複雜的沿革情況，不能一概而論。

在三級行政區劃中，州和省是地方（縣）與中央的中介，其地位相當於周代的分封，但人事權不在地方自己，而由中央控制，中央控制州和省，再由州和省去控制郡縣，這就是三級制度。在隋唐和宋代，三級行政演變為兩級行政，就是由中央直接控制到郡，取消了州和省的管轄權，減少了中間環節，出亂子的途徑也少了，這就是趙匡胤強化中央集權制度的根本意圖。

因此，所謂中央集權和郡縣制是緊密聯絡的，其根本所在就是控制權的掌握。國家版圖越大，中央直接控制的能力就相形見拙，越顯得需要中間機構，在元代，由於版圖超級龐大，這種行政分割槽更顯作用，故正是在元代開始實行行省制度，也即恢復三級行政區劃制度，此後的朝代沿用至今。

粗略的說是一個劃分中國的方法，但中國版圖龐大，需要有效對廣大的領土進行管理，行省制度的建立也為了更進一步加強中央集權。