很多人在描述秦始皇功業的時候總把郡縣制當作他創造，覺得這項影響千年的政治創舉是發源於始皇帝的創造，但實際上，這是對歷史的誤解。

郡縣制其實發源於春秋時期。春秋時，秦、楚、晉、齊、吳諸大大陸就逐步出現了一種新起的地方制度，那便是後世所稱為秦始皇帝創制的郡縣制。在後世所稱為周初的書《周官》和《逸周書》裡已有“郡縣”的名稱，是一種國都郊外地域的區劃。

比如秦國郡縣，據史料記載它大約發源於春秋初年，歷史上說秦武公十年（魯莊公六年），秦人滅絡冀戎，設為縣屬。魯僖公九年，晉惠公也曾對秦使說道：“秦君已有著郡縣了。”這些都是在表明秦國早有郡縣制了。

同樣的，也有明確的歷史記載描述齊國晉國和楚國等在春秋時期陸續建立了郡縣制。

縣郡本是國都郊外的區劃，是秦、楚、晉、齊四國在春秋初年因開疆闢地的結果，因此各國大小不一。歷史記載看楚縣最大，大致都是小國所改；晉縣次之，大致都是都邑所改；齊縣最小，大致是從鄉鄙改的。秦縣的大小，當在楚、晉之間。楚、晉、秦的縣是獨立的區域；齊縣則大致是附屬於邑內的小組織。楚和秦的縣郡似直隸於君主，晉、齊、吳的縣則多是大夫的封邑。

從這樣看來，郡縣很多是大國征伐掉的小國，要麼是不便於管理的自然聚居地或者說郊外之地，為了加強管理，就創設這種制度，直接列為自己所轄縣，這樣直接派官吏進行管理，列入中央集權之下，也算是一種加強管理的手段。

這樣通過不斷征伐和強化組織管理，郡縣越來越多，小國和遊離於管理的自然聚居地越來越少，大國越來越強，而中央集權也得以加強。後世秦始皇也只不過是採納推行了郡縣制這個已有的制度，而不是首創。瞭解了一項制度的來龍去脈，才能真的瞭解這個制度。