夏商西周時期，學在官府，官辦學校就已出現。如，《漢書•儒林傳》中有記載：“三代之道，鄉里有教，夏曰校，殷曰庠，周曰序。” 其中的，校、庠、序，就是官辦學校的名稱，設在國都的學校稱 “國學”，國都以外的稱“鄉學”，從學段來看，又分為“小學（八歲入學，學習“六藝”。）” 和 “大學（十五歲入學，學習治國理政。）”。這一時期的學校，只有貴族子弟才有入學資格。

春秋戰國時期，宗法分封制崩潰，貴族政治瓦解，一些落魄的貴族後裔為了生存遊說於諸侯、聚徒講學（孔子便是其中之一），從而打破了學在官府的局面，學術開始下移。

秦始皇嚴禁私學，焚燬民間藏書，人們可學的知識只有國家的法律，能夠承擔教師職責的只有官吏，從而建立起“吏師制度”。吏師有專門的弟子和專門培養這些弟子的“學室”。而這些弟子被稱為學吏。學吏學成後，考試合格者將被任用為吏。

漢武帝採納董仲舒的建議罷黜百家、獨尊儒術，在長安建立太學，置明師“以養天下之士”。並且，漢武帝還令天下郡國皆立學校，從而形成了從中央到地方的官學系統。在太學和各地學校的教師均由儒家學者擔任，以儒家經典為教材，開啟了兩千多年的經學教育傳統。

西晉時在中央設立國子學與太學並立。南北朝時，或設其一，或兩者同設。隋文帝時以國子寺（最高教育管理機構，相當於教育部）總轄國子、太學、四門（初設於京師四門，“故名”，相當於國子學和太學的預備學校）等學。隋煬帝時改國子寺為國子監。唐宋時期也都是以國子監總轄國子、太學、四門等學。

而且，隋唐以後，國子監中還有日本、朝鮮、越南、暹羅 （泰國）等周邊國家的“留學生”。隋唐時，日本曾多次遣使來華訪問，隨行人員中有許多是來中國學習儒學、佛法以及各種制度的。他們中隨使者一起回國的稱為“還學生”，反之，留在中國繼續學習的則被稱為 “留學生”。這就是“留學生”一詞的來歷。

元代的中央官學包括三所——國子學、蒙古國子學和回回國子學，地方官學既有路府州縣學，又設有諸路醫學、蒙古字學、陰陽學等專門學校。元明清三代還將郡學、州學、縣學等地方學校統稱為 “儒學”，“儒學”前建有文廟，用來祭祀孔子。

明清時期，參加科舉考試的人先要參加選拔考試，這種選拔考試被稱為“童試”或“童生試”、“小考”等。童試包括縣試、府試、院試三個層次，縣試由知縣主持，合格者可以參加府試，府試由知府主持，錄取後再由中央派往各省的“欽命提督學政”主持院試（省級考試）。院試合格者稱“秀才”。只有成為秀才，才能參加科舉考試。秀才享有免役、免稅等特權，成績最好的秀才稱 “廩生”，每月由官府供給糧食。

正式的科舉考試分為三級——鄉試、會試、殿試。最低等級的科舉考試是鄉試，在省城舉行，每三年舉行一次，由於在秋季舉行，故又稱“秋闈”。鄉試考中後稱“舉人”，第一名稱為“解元”。鄉試後的第二年春天在京城舉行會試，由禮部主持，考中後稱“貢生”，第一名稱“會元”。皇帝對會試錄取的貢生在宮殿上親自進行策問考試稱“殿試”，殿試前三名分別稱“狀元”、“榜眼”和“探花”。