郡縣最初起源於戰國時期，當時小國被滅以後都統統改稱為縣，楚國滅九國後原來的九個小國家就被設定成了九個縣，晉滅七國後也把原來的七個小國家分成了七個縣，並且把首都也稱為絳縣，後來隨著社會的發展，把人口多的都邑也稱為縣；郡本是晉國的一個地方制度，後來隨著戰國爭霸時代的需要，郡縣制在各國普及開來。郡和縣一開始是依據地方遠近富裕程度來區別的，彼此不相統屬，後來三家分晉後郡的地位就提高了。秦統一中國後郡縣制代替了分封制成了國家的基本政治制度，至此中國進入了全新的文明時代！

春秋時期，縣制普遍形成。楚國最早出現了縣邑。縣邑的收入用來提供軍隊給養、王室消費等。國君在縣邑上直接徵兵，並控制著縣邑的土地，從而使國君在政治軍事上保持絕對的優勢。

春秋晚期，郡、縣兩級制就出現了。但最初是縣大郡小。但在以後的發展過程中，郡逐漸成為縣以上的地方行政區劃單位。楚縣具有極強的軍事性質，縣邑軍隊具有舉足輕重的力量。戰國以後，楚縣的軍事性質向行政性質轉變。

楚國內地縣邑長官普遍地向行政管理轉化，但楚國邊邑的縣令還是要負責軍事的。戰國時期，楚縣的規模普遍縮小，難以應付戰國時期激烈的兼併戰爭。這樣，楚往往在戰爭緊急的情況下，聯縣為郡，即把幾個縣聯合起來，組成郡一級的組織，以應付戰爭的需要。

楚郡設在邊境，是在邊事緊急的情況下臨時設立的。戰國時期，諸侯各國都設立了郡，縣二級地方行政組織。郡縣制的產生對我國國家行政機構的形成和中央集權的建立都具有重要意義。郡、縣二級地方行政制度的建立，無疑加強了國君對地方的控制，國君透過郡長官管理縣級長官，而郡令又無地方實權，縣令權力又太小，從而加強了國君的權力。

在秦始皇統一六國之後，郡縣制取代了分封制成為了主要的地方行政制度，之後其發展就比較穩定了，而且縣一級的地方行政機構也是最為穩定的構成，自其出現到如今始終存在，並且發揮著重要的作用。

郡縣是地方行政區劃，大約始於我國的春秋時代。《左傳》記載:公元前690年前後，當楚武王、楚文王滅了權、申、息等小國後，便開始置縣。《史記·秦本紀》中記載，秦國約在公元前688年滅了邽戎、冀戎，也開始置縣。以後在晉國、齊國、吳國陸續出現了縣，大約經過一個世紀左右，縣就比較普遍了。至於郡的出現比縣晚一些，《國語·晉語》中記載：到公元前659-620年秦國才開始有郡。

那時設定的縣大概有三種情況：一種是透過兼併戰爭，吞滅了小國以後設定為縣，這樣的縣往往比較大；第二種情況是將私家之田分了置縣，如《左傳》所記晉的六卿分羊舌氏的田為三縣，分祁氏的田為七縣，這種縣一般不很大；第三種情況是將一些小鄉聚集為一縣，如《國語·魯語》中記為“三鄉為縣”，秦國後來也有聚並小鄉為大縣的事，這種縣往往較小，在齊國居多。

春秋時各國所置的縣不僅大小不等，而且性質也不盡相同。一種如秦、楚國滅了小國置縣後，直接由國王派官員前往管理，它是直屬該國君主的。而另外一種如晉、齊、吳國出現的縣，還帶有采邑性質，由該國君主賞賜給一些貴族去管。

為什麼春秋時出現郡縣的國家僅秦、楚、晉、齊、吳五國呢？原來郡縣開始出現時主要為了防備別國侵擾，往往多在邊地。而這五國都地處中原地區邊緣：秦國在西，楚國在南，吳國在東南，齊國在東，晉國在北。他們在邊區易於開拓國土，得到新的心方以後就有可能設定郡縣。特別是郡，最早都出現在邊地，具有軍事管轄的性質，其郡長稱為守，就是防守的意思，開始只有秦晉兩國邊地為了防禦西北地區落後部落而設定，以後發展到兩國交界的地方。

至於郡縣間的關係，因為在《逸周書》中記有:“縣有四郡”。《左傳》中記載有:“克敵者，上大夫受縣，下大夫受郡，士田十萬。”容易使人誤認為春秋時是以縣轄郡。其實《左傳》的意思並非是縣大郡小，而是指好壞而言，因為郡一般在邊地，相比之下比縣差一些，所以當時的郡縣還不存在統轄關係。

總之，郡縣在春秋時期尚處於萌芽狀態，與後來的郡縣制還有很大的不同。到戰國時，郡縣制得到了發展：一是各國普遍設定了郡縣，不僅邊地設定，內地也設定了，唯齊國始終沒有郡，但有“五都”，其性質與其他各國的郡略同；二是各國郡縣性質漸漸統一，規模也逐漸一致，原來的大縣分小，小縣並大；三是郡縣之間關係也漸趨明確。隨著經濟的發展，增設了許多縣，內地原先沒有郡，但由於所設的縣愈來愈多，而且各國長期處於戰爭之中，內地的縣也需要置郡專掌軍事，進行防守，這樣由郡轄縣的關係也就形成了。郡縣制在戰國時雖然得到了很大的發展，但由於各國分裂，制度不完全相同。直到秦始皇統一全國以後，為了加強中央集權，才健全了郡縣制，並在全國推行。

自秦始皇在全國推行郡縣制後，這種地方行政區劃一直為歷代所沿用。只是郡這個名稱以後變化較大一些，甚至被其他名稱所代替了，而縣始終為我國初級地方行政區劃。歷代除對它依大小和重要性不同而進行分等外，其性質名稱一直不變。僅有些朝代因政治需要出現了一些與縣同級的其他行政區劃名稱，如漢代有侯國、邑、道，晉時有侯國、公國，五代時有軍、監，宋代還有城、堡、寨、關、鎮等名稱。這些從數量上說也還是少數，往往是為了適應一時需要而設立，過後即廢。整個基層一級地方行政區劃歷代主要還是稱縣。縣的穩定性還表現在它的數量上。秦代縣數不太清楚，估計有好幾百個，漢代有一千五百多個（除去侯國等外，縣邑有一千三百多個），以後歷代幾乎都在一千一、二百個上下，僅唐代達一千五百多個，直到民國才達二千個左右。

春秋時期，我國就開始出現了郡縣制的雛形。而它的確立，則在於秦朝，由秦始皇確立。

自商鞅變法以來，秦逐漸形成了郡縣兩級地方行政體制。秦始皇聽從李斯的建議，分天下為三十六郡，到秦亡時則有四十六郡。郡有郡守、郡尉、郡監，分掌民政、軍事和監察百姓官吏。郡下設縣，大縣長官稱縣令，小縣長官稱縣長。其下有縣丞和縣尉。整個郡縣體制中的官員，他們的任免權和調動權都在中央，因而他們也就只能對任命他們的中央，即皇帝負責。

縣的下面有鄉，鄉有鄉官。包括三老、嗇夫、遊徼。鄉下設裡，相當於村。有里正（為避嬴政諱而改稱裡典），即村長；村中每五戶人家編為一“伍”，有一人為“伍老”。裡典和伍老相當於後代的保、甲長。鄉和裡是地方行政機構，而亭則是地方性治安組織，相當於今天的派出所，負責地方治安和迎送過往官吏。

可以說，這種郡縣制開創了中國後世地方管理體制的局面；而鄉里制則成為中央控制基層社會的基本模式。