這個和各朝代的行政層級制度有關，中國歷史上的行政管理層級因為各種原因，基本一直在二級制和三級制之間迴圈，東漢的“州”、唐朝的“道”在開始設立時都是監察機構，但最終又變成了行政機構，而宋朝的“路”則在設定之始就是行政機構。下面簡單介紹一下這種演變吧

秦朝統一天下後，開始加強中央集權，全面推行郡縣制，天下一共被分為37個一級行政區（36個郡+內史地），郡下設縣（約1000個），從而形成了“郡-縣”二級行政制度。

西漢建立之後，由於封賞功臣，以及漢武帝開始實行的“推恩令”，一級行政區開始大量增加，至西漢末全國共設郡103個，而縣則有1587個，雖然仍是“郡-縣”二級行政制度。但由於一級行政區的大量增加，導致朝廷直接管轄的一級行政區數量太多，造成管理難度加大。因此漢武帝又在郡之上設立了13個監察區，被稱為13刺史部（13州），由監察刺史管理，從而形成了虛擬三級行政制度。

東漢末年，黃巾起義爆發，由於一級行政區數量龐大，國家無法有效對起義進行鎮壓。於是，監察刺史的權力被加大，稱為擁有兵權、財權和政權的州牧，原本作為監察區域存在的州開始變成真正的行政層級，從而形成了“州-郡-縣”三級管理制度。但由於大行政區各自為政，中央已無法有效管理，最終致使天下大亂。

魏晉南北朝時期仍然實行“州-郡-縣”三級制，但由於意識到管理區域過大的州嚴重威脅中央，於是對州進行拆解，加之後來戰亂頻發，職務分配需求擴大，行政區被分割的越來越小，南北朝時期合計，共設有220州，999郡，但由於國家眾多，管理問題尚不夠突出。

隋朝重新統一天下後，“罷天下諸郡”，使得行政管理層級重新恢復到“州-縣”二級制。隋煬帝時，大量並省州縣，並效仿漢朝，改州為郡，全國設有190郡，1255縣，再次實行“郡-縣”二級制。然而由於一級行政區設定過多，導致隋末群雄逐鹿時期，各郡（州）力量過小自顧不暇，無法凝聚力量救駕勤王，於是隋朝迅速滅亡。

唐朝建立後，依舊沿襲隋制實行二級制度，而為了招安各路起義者和隋朝地方勢力，為了滿足官職需要，於是再次縮小州的區域。這導致州的數目再次膨脹。唐太宗繼位後，為了便於管理，開始大力裁併，但即使如此，至貞觀十三年（639年）全國上下仍有358個州，縣則有1551個，中央管理幅度仍然太大，而每個州只管理五個縣左右，幅度又太小。

為了便於管理，唐太宗於是考慮延續漢朝的監察區模式，為了避免監察區再次演變成行政區，他未按行政區設定監察區，而是按照交通線路將全國劃分為10道，後增至15道，由朝廷派遣監察官員不定期赴多事地區視察，這時的監察官員無定職，所以再次形成了一種虛擬三級管理制度。此時的道便是監察機構。

唐玄宗繼位後，唐玄宗開始在各道設定採訪使，如同漢朝的監察刺史一般，開始成為定職。後來由於邊患逐漸嚴重，為加強邊帥權力，於是又形成了邊境節度使兼任採訪史的制度，各節度使權力開始增大，最終釀成“安史之亂”之禍。安史之亂被平定後，節度使制度已經蔓延至全國，從而又形成了“道（藩鎮）-州-縣”三級行政區，藩鎮割據之勢開始變的尾大不掉，最終導致了五代十國分裂局面的產生。

宋太祖趙匡胤建立宋朝後，汲取了藩鎮割據、節度使制度的歷史教訓，於是一招“杯酒釋兵權”，將節度使的領地重新劃歸中央，一度再次回到了“州-縣”二級制。

不過有了漢唐的前車之鑑，趙匡胤也明白在一個幅員遼闊的國家實行二級制將是極為困難的，於是經過深思熟慮，又建立了“路-州-縣”三級管理制度，但同樣由於教訓，宋朝並不將“路”這級管理機構交給單一的官員管理，而是將其一分為四，以水陸轉運使為行政長官，又置安撫使、刑獄使、常平使，分掌兵、刑、市場平糴與鹽鐵專賣，實行分而治之的管理模式。

同時，作為二級行政區的州依然保留著向中央直接奏事的權力。因此，宋代的“路-州-縣”雖在行政區劃上是三級制，但在行政權力上卻又是虛三級制。

蒙元則由於征服政權眾多，因此管理制度一度很亂，一度形成了三級制和司機紙，甚至出現過五級制，而且各級行政首長都是蒙古人或色目人，所以分級雖多、效率較差，但控制力卻並不弱。

明朝建立之後，又開始削減行政層級，開始形成獨具特色的三級制和四級制並存的特殊模式，並學習宋朝制度，第一級行政區分別由都指揮使司、布政使司和按察使司共同承擔。

清雍正年間，又一度將明朝的三四級行政區簡化為“省-府-縣”三級制度，後來還在省以下設定了“巡道和守道”兩個派出機構。