擲彈兵起源於古代歐洲。到了15世紀，歐洲開始出現了裝填黑火藥的手擲彈藥。兩百多年後，這種手擲彈藥開始大規模使用，最早出現的專業擲彈兵，是路易十四的髪國軍隊。到18世紀，專門使用這種彈藥計程車兵也被稱為擲彈兵。在要塞、據點攻防戰中扮演開路先鋒或抵抗核心的角色。

例如英國有一首歌曲，《不列顛擲彈兵進行曲》所述： 每當我們奉命強擊護牆， 頭頭帶著燧發槍，我們帶著手榴彈， 隊長準備好雷管，我們點起手榴彈。 爬上斜堤奮力擲，砸到敵人耳朵邊。

擲彈兵是歐洲陸軍中最精銳的步兵軍種，不是所有扔“蛋蛋”的兵，都叫“擲彈兵”。當時的擲彈兵入選條件很高，通常是選最強壯最高大計程車兵擔任。如果用古代漢語翻譯，那麼應該叫“力士”或“虎賁“。那時候是真正是投擲，使用一種延遲導火索的大型手榴彈，用雙手藉助腰部的力量扔出去，彷彿鏈球比賽，現在都改單手了。在排槍時代，一般的線列步兵通常戴三角帽，而擲彈兵為了方便投彈都是戴著尖頂帽。再後來，擲彈兵成為精銳陸軍部隊的標誌，當滑膛炮和火槍成熟以後，擲彈兵逐漸轉變為近戰部隊。

當時，標準線列戰術是雙方先互相對射，然後列隊前進。為了瞬間擊垮對手，擲彈兵會抓住適當的時機向對手的佇列中投彈，擾亂對方的隊形。後來隨著排槍戰術的消失，擲彈兵也沒了用武之地，但擲彈兵這個名字卻保留了下來。

到了二戰，因為希特勒喜好普魯士復古風格，自詡腓特烈大帝軍神再世，所以大家也隨之喜好，腓特烈大帝的擲彈兵，自然也要恢復，德軍就將步兵的名稱改為擲彈兵，還給摩托化步兵師和裝甲師的擲彈兵賦予了一個新的名字——裝甲擲彈兵。當然，這是另外一個物種了。