以境內山名是安徽，以安慶、徽州各取一字得名。

唐大部屬江南西道和淮南道；宋置江南東路和淮南西路；元屬江東建康道和淮西江北道；明境內各府和直隸州直屬中央，稱為直隸，後改南直隸；清改江南省，後分設安徽省，為安徽得名的開始；民國仍之；建國初分設皖北行署和皖南行署，後合併恢復安徽省，省名至今未變。

安徽省與皖產生聯絡的歷史十分悠久。春秋時期，西周王朝把德高望重的皖伯分封到了天柱山一帶，並且讓他在這裡建立了皖國。皖伯在封地執政期間，體察民情，政績優秀，皖國迅速成為了一個理想的國度。後來人們為了紀念皖伯便尊稱皖伯為“皖公”，天柱山也被稱為皖山。

明清時期，全國各地徽商遍地，當時的徽文化非常盛行，但是徽文化並不僅限於安徽一帶，它主要來源於安徽歙縣以及江西婺源一帶，這就是安徽簡稱皖而不是徽的原因。

因為安徽境內有座皖山，而且春秋時期還存在過古皖國，所以安徽簡稱皖。乾隆年間，《清會典》從法律層面確定了順治末、康熙初江南等三省分省的結果，乾隆《清一統志》將江蘇與安徽兩省分開，目錄中已經全部為“以上某某省”。省名取當時安慶、徽州兩府首字合成，因境內有皖山、春秋時期有古皖國而簡稱皖。

​據史料記載，在兩千多年前的東周時期，今天的安徽省安慶潛山市是一方小國——皖國。因為當時只是一個小小的諸侯國，所以在戰國時期便成了楚國的疆土。雖然皖國在歷史上並沒有很大的名氣，也沒有很久遠，但是當時皖國的國君也就被稱為“皖公”，在執政期間勤政愛民，國富民強，後人為紀念他的豐功偉績，便將皖山成為“皖公山”，也是古南嶽，現稱為天柱山，安徽簡稱“皖”的由來也是因此而來。

皖 ：字從白從完，完亦聲。“白”指日出與日落之間的天色。“完”指“完好”、“完美”。“白”與“完”聯合起來表示“完美的白色”、“無暇的白色”。 “皖”就是明亮美好的意思。

安徽省簡稱“皖”，緣於皖西有綿亙的皖山（天柱山），皖水繞流其間。戰國屬楚，秦屬九江郡。西漢之時，衡山王、九江王造反被平息後，在今霍山縣域設皖縣（皖地），在今潛山縣域設潛縣，屬廬江郡。

皖在春秋之時為國名，轄地以今潛山縣為中心，治所不詳（《禹貢》揚州之域，春秋時為皖國。）漢以後沿建皖縣、皖城、皖陽等縣，安慶府舊治潛山為其中心，後古皖又為安慶府境而名。

皖公，安徽省潛山縣的歷史人物，安徽之祖、春秋時期皖國的仁慈君主。皖伯執政時，體察民情，施以德政，政績頗佳，使皖國成為一個理想的國度，皖伯被後人尊稱為“皖公”。後人為紀念他，稱皖山為“皖公山”，並擇址皖山之東南、皖城以西的一座山（後尊稱為“大王山”）建有皖伯廟，亦即“大仙廟”。在潛山縣車軸寺出口處，矗立著一尊巨大的人物雕像。底座下面還寫著“皖國古都”四個大字。

“八皖”作為安徽省的代名詞，常見於詩詞、楹聯作品之中。

那麼安徽省為什麼又可稱為“八皖”呢？

這要從安徽建省說起。乾隆二十五年（1760），正式定省會於安慶府治懷寧（即現在的安慶市）。雍正十三年（1735）以後，安徽省由原管轄的七個府，三個直隸州，增至八個府（即安慶、徽州、寧國、池州、太平、廬州、鳳陽、潁州）和五個直隸州（即滁州、和州、廣德、六安、泗州）。這樣，人們便把擁有八個府的安徽稱為“八皖”。在中國，類似這樣稱謂的還有好幾個省。如福建稱“八閩”，廣西稱“八桂”，湖南稱“三湘”，陝西稱“三秦”等等。

“八皖”一詞為何在詩詞、楹聯中最為多見呢？ 主要與詩詞、楹聯需要嚴格對仗有關。宿松縣文昌殿有一副聯：“鑿山外，聳出文峰，星入文昌，八皖文光射牛鬥；大江中，憑臨天塹，勢參天半，一枝天柱拱龍湖”。作者賀欣是前清進士，那時候他就用了“八皖”一詞，可見“皖”或“八皖”作為安徽的簡稱，由來已經很久了。