纵观明治天皇造兵以来75年旧日本帝国陆军战史，第五师团，即广岛师团几乎在各个时期都充当着战场急先锋的角色，其作战对象之多，作战范围之广，战果之丰富，在强手如林的旧日本帝国陆军师团序列中名列前茅。从崇山峻岭的朝鲜半岛到茂密炙热的印尼丛林，都留有第五师团的足迹。
第五师团，也是国人最熟悉的日军师团之一，它在日本，名气可能没有更牛气的熊本第六师团大，但是在中国，却是个几乎家喻户晓的师团，因为第五师团在中国战区胜仗多，败仗也多，而且那几场败仗比胜仗名气大得多。在平型关被土八路敲掉了一个辎重队，在台儿庄被打得头破血流，而在昆仑关一个旅团几乎全军覆没，这都是第五师团的事。但是这并不代表第五师团缺乏战斗力，从长城会战一路杀来，绥远，淞沪，太原，徐州，广州，南宁再到后来的新加坡和印尼，第五师团战绩显赫，而国人也从此记住了这个在中国战区作恶多端的日军精锐，直至今日，每当国人提起台儿庄战役或者昆仑关战役，总不忘在之前先强调一下对手的机械化程度之高，战斗力之强大，火力之迅猛，便是最好的证明。
第五广岛师团是由原来的六个镇台（明治时期的战略单位）之一的广岛镇台改编成为第五师团（广岛师团）是1888年春天。当初是由步兵第11、12、21、22，这四个联队组成的。最后确定了由步兵第11联队（广岛县），第21联队（滨田县），第41联队（福山市），第42联队（山口县）组成步兵第9旅团、第21旅团的基干。其中士兵都来自日本本州西部中国山地地区的广岛、岛根、山口的子弟兵部队。
1894年7月甲午战争（日方称之为：日清战争）爆发。为此，从第五师团抽调了两个步兵联队，以此为基础组成了大岛混成旅团（旅团长：大岛义昌少将），改编之后立即奔赴了朝鲜半岛。1894年7月27日，在朝鲜的汉城南面约100公里处名叫成欢的地方与清朝的淮军打了个遭遇战，战时持续了整整一天，清军溃败退入牙山。这场战役被日本人高度重视，因为是日本现代陆军创立以来首次与外国的陆军对阵，而且运用了现代化的战术，就是在世界作战史上也是值得记录的一笔。之后，大岛混成旅团攻陷平壤，参加了鸭鸀江渡河战役、牛庄战役等等。 十年后的日俄战争，第五师团参加了辽阳、沙河、奉天会战。日俄战争之后被命令在满洲驻屯，直到1911年。120年出兵西伯利亚。
1937年，七七事变爆发后，第五师团立即在板垣征四郎指挥下被调入中国华北地区。1937年7月27自日本登陆大沽加入中国驻屯军，于昌平以南集结，随即作为北派遣军预备队于8月16日投入南口作战，以汤恩伯将军的第13军交战，首次受挫。后在援军支援下才突破防线；在平绥路东段作战攻占张家口、蔚县等地，遵照日本大本营的命令，第9旅团抽出派往平汉铁路主战场后有调往上海，参见了金山卫登陆。师团长率21旅团于9月下旬在平型关作战，被将军的115师歼灭其辎重部队一千余人。10月上旬至忻口作战，与卫立煌将军的第14集团军交锋，被阻止达半月之久。是役第14军军长郝梦龄将军殉国。后来由于西线娘子关失守，中队被迫撤离，于11月8日攻占太原；一路击溃30几个中国师，创下了板垣师团的“赫赫威名”。1938年1月转隶第二军，用于青岛、胶济路；1938年3月参加徐州会战的临沂、台儿庄战斗。在临沂围攻庞炳勋将军的第六军团，后被张自忠将军率领来援的第59军击败。38年7月4日转隶北派遣军， 9月19日转隶21军，被调入华南，攻陷广东周边地区。11月29日回山东休整，39年9月5日调入关东军，9月29日转入大本营预备队，在大连待机。10月16日再次乘船机动到海南岛，参与攻陷南宁作战，1939年12月参与昆仑关战役，以被杜聿明将军指挥的唯一一个机械化军第五军歼灭21旅团长中村正雄以下死伤4000人。
1940年9月非法进驻法属印度（现在的越南）驻屯，导致师团长中村明人被解职。
1940年10月变更大本营直辖，12月编组为三单位师团，成为日本首批4个机械化步兵师。 第9、21旅团部撤销，41联队抽出。全师团仍有万人。 在九州岛和第5飞行集团一起参见陆空合成登陆演习。
1941年太平洋战争爆发。第五师团被配属给山下奉文中将的第25军，参加进攻马来西亚、新加坡的战斗。1941年12月8在师团主力在泰国领地的辛格拉，而由步兵第42连队为基干而组成的安藤支队在帕塔尼一举登陆。这两支部队沿着马来半岛的西海岸南下，合围并攻陷了吉隆坡。1942年2月25日，在新加坡的英军投降，英国在远东最大的军事据点：新加坡沦陷了。
马来西亚、新加坡战役之后，新加坡战役之后，以第41步兵连队为基干组成了东支队。这支部队的预定任务是在菲律宾各岛执行扫荡，但是没过多久就被编入第17军（军指挥官：百武晴吉中将）。之后被派遣去参加莫尔兹比港攻坚战。而莫尔兹比港攻坚战的惨败，让这支队伍回到平壤参加补给新兵，被编入重建的第30师团。
师团主力43年1月转隶19军，45年3月19军解散，转隶日本第2军。在第8方面军今村均大将的指挥下，转战于巴布亚新几内亚。在现在印尼的塞兰岛1945年8月15日迎来了投降的那一天。接到天皇宣布无条件投降的电报，师团长山田清一悲愤地切腹自尽。