板垣師團當初是由步兵第11、12、21、22，這四個聯隊組成的。最後確定了由步兵第11聯隊（廣島縣），第21聯隊（濱田縣），第41聯隊（福山市），第42聯隊（山口縣）組成步兵第9旅團、第21旅團的基幹。其中士兵都來自日本本州西部中國地區的廣島、島根、山口的子弟兵部隊。 　

　1894年7月甲午戰爭（日方稱之為：日清戰爭）爆發。為此，從第五師團抽調了兩個步兵連隊，以此為基礎組成了大島混成旅團（旅團長：大島義昌少將），改編之後立即奔赴了北韓半島。1894年7月27日，在北韓的漢城南面約100公里處名叫成歡的地方與清朝的淮軍打了個遭遇戰，戰時持續了整整一天，清軍潰敗退入牙山。這場戰役被日本人高度重視，因為是日本現代陸軍創立以來首次與外國的陸軍對陣，而且運用了現代化的戰術，就是在世界作戰史上也是值得記錄的一筆。之後，大島混成旅團攻陷平壤，參加了鴨綠江渡河戰役、牛莊戰役等等。十年後的日俄戰爭，第五師團參加了遼陽、沙河、奉天會戰。日俄戰爭之後被命令在滿洲駐屯，直到1911年。1919年到1920年出兵西伯利亞。　　

1937年，七七事變爆發後，第五師團立即在板垣徵四郎指揮下被調入中國華北地區。1937年7月27自日本登陸大沽加入中國駐屯軍，於昌平以南集結，隨即作為北支那派遣軍預備隊於8月16日投入南口作戰；在平綏路東段作戰攻佔張家口、蔚縣等地，遵照日本大本營的命令，第9旅團抽出派往平漢鐵路主戰場後有調往上海，參見了金山衛登陸。師團長率21旅團與9月下旬在平型關作戰，10月上旬至忻口作戰，11月8日攻佔太原；一路擊潰30幾個中國師，創下了板垣師團的“赫赫威名”。1938年1月轉隸第二軍，用於青島、膠濟路；1938年3月參加徐州會戰的臨沂、臺兒莊戰鬥； 38年7月4日轉隸北支那派遣軍， 9月19日轉隸21軍，被調入華南，攻陷廣東周邊地區。11月29日回山東休整，39年9月5日調入關東軍，9月29日轉入大本營預備隊，在大連待機。10月16日再次乘船機動到海南島，參與攻陷南寧作戰，1939年12月參與崑崙關戰役，以21旅團長中村正雄以下死傷4000人的代價打殘了擁有4萬人編制的國軍唯一一個機械化軍第五軍。

1940年9月非法進駐法屬印度支那（現在的越南）駐屯，導致師團長中村明人被解職。 1940年10月變更大本營直轄，12月編組為三單位師團，成為日本首批4個機械化步兵師。 第9、21旅團部撤銷，41聯隊抽出。全師團仍有2.5萬人。 在九州島和第5飛行集團一起參見陸空合成登陸演習。 　

1941年太平洋戰爭爆發。第五師團被配屬給山下奉文中將的第25軍，參加進攻馬來西亞、新加坡的戰鬥。1941年12月8在師團主力在泰國領地的辛格拉，而由步兵第42連隊為基幹而組成的安藤支隊在帕塔尼一舉登陸。這兩支部隊沿著馬來半島的西海岸南下，合圍並攻陷了吉隆坡。1942年2月25日，在新加坡的英軍投降，英國在遠東最大的軍事據點：新加坡淪陷了。

馬來西亞、新加坡戰役之後，新加坡戰役之後，以第41步兵連隊為基幹組成了東支隊。這支部隊的預定任務是在菲律賓各島執行掃蕩，但是沒過多久就被編入第17軍（軍指揮官：百武晴吉中將）。之後被派遣去參加莫爾茲比港攻堅戰。而莫爾茲比港攻堅戰的敗，讓這支隊伍回到平壤參加補給新兵，被編入重建的第30師團。

師團主力43年1月轉隸19軍，45年3月19軍解散，轉隸日本第2軍。在第8方面軍今村均大將的指揮下，轉戰於巴巴新幾內亞。在現在印尼的塞蘭島1945年8月15日迎來了投降的那一天。接到天皇宣佈無條件投降的電報，師團長山田清一悲憤地切腹自盡。

板垣師團是日本的元老級師團，日本最早的師團之一，1940年變更了編制，47聯隊被抽出，第九和第二十一旅團部撤銷，編組為三單位師團，成為日本首批四個機械化步兵師，曾經參與過日俄戰爭，日俄戰爭後，被調往偽滿洲國駐屯， 在中國戰場上名聲很響，被稱為“鋼軍”，曾經創下和七十多個師先後打仗的記錄，後來改為日軍四個機械化師團之一，因為它的第十九任師團長是“大名鼎鼎”的板垣徵四郎，所以把第五師團叫做“板垣師團”，與磯谷廉介師團齊名，“七七事變”後，第五師團被板垣徵四郎從日本調到華北地區。

從此開始，先後參與了平型關戰役，忻口會戰等眾多著名戰役，另一支分隊還打了淞滬會戰，參與了南京大屠殺，並在1937年底，一路打敗了三十多個師，一戰成名，板垣師團開始聲名鵲起。在1939年的崑崙山戰役中，第21旅團長中村正雄以死傷日軍5000人的代價，打殘了國軍四萬人編制的唯一一個機械化第五軍，少將旅團長中村正雄被擊斃。

太平洋戰場爆發後，第五師團被配給山下奉文的第二十五軍，參與進攻馬來西亞和新加坡的戰鬥，因為在莫爾茲比港的慘敗，不得已被編入重建的第三十師團，後幾經輾轉，於1943年解散，轉隸日本第2軍，在第八方面軍今村均的指揮下，在巴巴新幾內亞作戰，直到日本天皇宣佈無條件投降後，師團長山田清一切腹自盡，作為陸軍之花的第五師團徹底凋謝。