魏晉南北朝時期，中央的行政機構開始稱為尚書省、中書省、門下省等。“行省”就是中央機構到地方上仍然行使中央機構權力的稱呼。開始並不轄地，只是為了臨時性軍事行動的需要而設，事畢即撤。
到東魏、北齊時，由於分置的州郡太多，中央不便統治，為了加強對地方控制，於是在其境內分成若干個道，每個道置行臺省。每個道都有一定的轄區。所以這時的行臺省名義上雖是中央分支機構，實際上已成為州以上的一級行政區劃。史書中所見當時有河南、河北、山南、淮南、東南、東北、西南等諸道行臺省。由於史書記載較略，這時期的正史中又沒有留下地理志，每個道具體轄多大範圍，都不太清楚。這種行臺省雖已出現，但還未形成制度，也還沒有固定下來。
以後仍然有行臺省，這也是為了某一軍事行動需要而臨時設定的，一旦軍事行動結束就撤銷。如隋在公元588年伐陳時，曾置淮南道行臺省於壽春，平陳後即廢。唐初為了對付佔據洛陽的王世充，曾置陝東道大行臺省，等到平息王世充後，也就隨之撒銷。武德年間全國尚未統一也還有過一些行臺省，直到唐貞觀年間統一全國以後，就不再有行臺省了。
金朝初期，因為它的都城設在北方，離中原地區太遠，不便控制，於是在開封設了行臺省。另外為了對付南宋和西夏的軍事行動，曾設過不少行臺省，以後局勢穩定後也就撤銷。到金朝末年，由於蒙古人南下，同時西夏和南宋對它趁機夾擊，加上國內階級矛盾日益尖銳，金統治者為了加強地方統治，提高地方行政的地位，又設立了很多行省。如陝西、河北、山東、河東等等行省，所以行省在金朝已盛行。
元初，沿用了行省制度，佔一地區就置一行省，比金的行省大得多，如佔了燕京地區就置燕京行省，佔了西域就置西域行省。金朝一般稱作行尚書省，而元朝有時稱行中書省，有時稱行尚書省，它是隨中央機構名稱的改變而改變，不過元基本上是稱行中書省為多。央中站元朝初年的行省與金朝末年行省性質基本相同，都是為軍事行動需要而臨時設立的。只是元初因為被征服地區人民強烈反抗，統治很不鞏固，軍事行動的時間就比較長，從建國以後直至滅南宋這段時間，又經過了一些年，因此行省就較長時間保持下來。時間一長其職權也就漸漸越出原中央機構範圍，漸漸地也干預地方行政事務了；並且它的轄區也逐漸固定下來，這樣便形成為府州以上一級行政區域。公元1276年元滅南宋後，行省的官員稱呼也改為地方官名稱了，其職權是“凡錢糧、兵甲、屯種、漕運、軍國重事，無不領之”。從此行省成了正式地方行政機構。
不過它的區域開始還不太穩定，直到公元1297年後才較穩定，全國除了西藏歸宣政院和東北一部分地區外，其他地方分為十一個區域；首都附近地區屬中書省，其他地方分設十個行中書省分別為：嶺北、遼陽、河南、陝西、四川、甘肅、雲南、江浙、江西、湖廣。
魏晉南北朝時期，中央的行政機構開始稱為尚書省、中書省、門下省等。“行省”就是中央機構到地方上仍然行使中央機構權力的稱呼。開始並不轄地，只是為了臨時性軍事行動的需要而設，事畢即撤。
到東魏、北齊時，由於分置的州郡太多，中央不便統治，為了加強對地方控制，於是在其境內分成若干個道，每個道置行臺省。每個道都有一定的轄區。所以這時的行臺省名義上雖是中央分支機構，實際上已成為州以上的一級行政區劃。史書中所見當時有河南、河北、山南、淮南、東南、東北、西南等諸道行臺省。由於史書記載較略，這時期的正史中又沒有留下地理志，每個道具體轄多大範圍，都不太清楚。這種行臺省雖已出現，但還未形成制度，也還沒有固定下來。
以後仍然有行臺省，這也是為了某一軍事行動需要而臨時設定的，一旦軍事行動結束就撤銷。如隋在公元588年伐陳時，曾置淮南道行臺省於壽春，平陳後即廢。唐初為了對付佔據洛陽的王世充，曾置陝東道大行臺省，等到平息王世充後，也就隨之撒銷。武德年間全國尚未統一也還有過一些行臺省，直到唐貞觀年間統一全國以後，就不再有行臺省了。
金朝初期，因為它的都城設在北方，離中原地區太遠，不便控制，於是在開封設了行臺省。另外為了對付南宋和西夏的軍事行動，曾設過不少行臺省，以後局勢穩定後也就撤銷。到金朝末年，由於蒙古人南下，同時西夏和南宋對它趁機夾擊，加上國內階級矛盾日益尖銳，金統治者為了加強地方統治，提高地方行政的地位，又設立了很多行省。如陝西、河北、山東、河東等等行省，所以行省在金朝已盛行。
元初，沿用了行省制度，佔一地區就置一行省，比金的行省大得多，如佔了燕京地區就置燕京行省，佔了西域就置西域行省。金朝一般稱作行尚書省，而元朝有時稱行中書省，有時稱行尚書省，它是隨中央機構名稱的改變而改變，不過元基本上是稱行中書省為多。央中站元朝初年的行省與金朝末年行省性質基本相同，都是為軍事行動需要而臨時設立的。只是元初因為被征服地區人民強烈反抗，統治很不鞏固，軍事行動的時間就比較長，從建國以後直至滅南宋這段時間，又經過了一些年，因此行省就較長時間保持下來。時間一長其職權也就漸漸越出原中央機構範圍，漸漸地也干預地方行政事務了；並且它的轄區也逐漸固定下來，這樣便形成為府州以上一級行政區域。公元1276年元滅南宋後，行省的官員稱呼也改為地方官名稱了，其職權是“凡錢糧、兵甲、屯種、漕運、軍國重事，無不領之”。從此行省成了正式地方行政機構。
不過它的區域開始還不太穩定，直到公元1297年後才較穩定，全國除了西藏歸宣政院和東北一部分地區外，其他地方分為十一個區域；首都附近地區屬中書省，其他地方分設十個行中書省分別為：嶺北、遼陽、河南、陝西、四川、甘肅、雲南、江浙、江西、湖廣。