國民政府奠都南京後，他主持教育行政委員會、籌設中華民國大學院及中央研究院，主導教育及學術體制改革。革新北大開“學術”與“自由”之風。

蔡元培是中國近現代歷史上無法繞開的人物，他曾經是中國第一任教育總長，也是南京國民政府的第一任大學院院長，在北洋政府時期，他曾經出任北京大學的校長，還曾經在南京國民政府時期掌管當時中國最高的科研機構，中央研究院。可以說蔡元培先生在民國時期，一直在中國教育界的不同的位置發揮著自己的影響。不僅僅因為他在北大當校長時，一直秉承的相容幷包、自由民主的理念，進而培養出一代代傑出的人才，還不應當忽略的是他在作為政府官員時期對中國近現代教育制度改革以及發展做出的貢獻。

比如說他在做南京臨時政府的第一任教育總長時期，不僅招攬了許多人才進教育部，如蔣維喬、魯迅等，還公佈了他設計的新國家的教育方針，提出教育應當超乎於政治之上，提出一個新的國家、進步的國家應當具備的五種教育理念，分別為：軍國民教育、實利駕馭、道德教育、美育教育以及世界觀教育。但是當時的政治狀況，以及全國的局勢不穩定，這些教育方針並不能真正落實。但是他一直秉承著這個理念在辦學以及教學。

之後蔡元培在中華民國大學院中擔任院長，將自己對於教育的理解傾注在對大學院院制的設計之中。在他看來，大學院除了承擔著“教育部”的職責，還應當是全國最高的學術研究機構，應當是“行政教育化，學術研究化”，設立的大學委員會應當具備決定全國教育行政、任命各個國立大學校長以及大學院院長這樣的權力。這實際上就是意在將教育獨立於政治之外，變得更加純粹。而大學區制度更是將各個省的教育廳廢除，轉而設定中山大學在各個地區作為省內最高的教育行政機關，管理其下的小學還有中學一級教育的各項事項。看到這裡大概就會明白，這樣的教育理念很難真正的落實。事實證明，當時也受到了各界的反對，最終被迫取消。

儘管如此，仍然可以說他實際上一直秉持著“相容幷包”的思想，在中國教育的問題上不斷的探索與嘗試，尋找教育的最佳方式與可能性。