元朝建立以後，建立了著名的行省制度，但並不完善。當時，全國總計只有10個省份。明朝建立之後，開始進一步完善行省制度。明朝在名義上有兩個首都，分別是南京和北京，因此出現了南直隸和北直隸兩個地區。其中，南直隸包括今天的江蘇省、安徽省和上海市等地。清朝入關之後，首都遷移到了北京，南直隸被改成了江南省。

在清朝統治的初期，無論是經濟還是人口，江南省都佔了很大的比重。 清朝高層對自己的統治很不自信，總擔心自己的統治會被推翻，對那些大省非常警惕。江南省就是其中之一，一旦江南省的封疆大吏有不臣之心，對清朝的威脅很大。因此，在清朝康熙皇帝在位的初期，也就是清朝的統治逐步穩固以後，清朝把江南省一分為二，分成了江蘇省和安徽省。安徽省的省會在安慶，而江蘇省的省會比較模糊，因為兩江總督在南京，江蘇巡撫在蘇州，兩個封疆大吏在不同的城市。

安慶的地位過於偏南，不利於對皖北地區的管理。因此，安徽的高階官員們繼續留在南京辦公，一直沒有搬到安慶。在鄰居身份的地盤上辦公，估計天下僅此一例。這樣的情況持續了好幾十年，到了乾隆皇帝在位時期，在江蘇官員的催促下，安徽巡撫衙門從南京搬到了安慶。其實，曾經有安徽官員建議把省會前往中部的合肥縣。但這需要大規模的建設，當時根本沒有這樣的財力，最終，遷移到合肥的計劃取消。