60年代初，局勢不好，所以部隊經常大比武，講的是仗怎麼打，兵就怎麼練。

60年代初，王永泉所在部隊完成了施工任務，軍事訓練即將開始，他想結合部隊的軍事訓練寫首歌，就在心裡琢磨歌詞的時候，軍區發來了一本《部隊文藝創作選》，在這本書裡，有一首牛寶源同志的詩，“日落西山紅霞飛，戰士打靶把營歸，胸前的紅花映彩霞，清脆的槍聲滿天飛。”他覺得這首小詩寫得很好，就把它抄了下來，準備為它譜曲。

但是他認為，打靶時清脆的槍聲在山谷間迴盪，但當打靶結束、戰士扛著槍從靶場走向營區，槍聲已不再有，有的只是戰士們取得優異成績後的那種自豪的心情，此時用歌聲表達心聲是最好不過的。於是，他就把第四句改為“愉快的歌聲滿天飛”。對於一首歌來說，僅有4句的小詩顯得過於簡單了些，他便又增寫了兩段詞：“歌聲飛到家鄉去，父老們聽了笑眯眯，人人誇來人人講，說他們子弟有出息。歌聲飛到北京去，毛主席聽了心歡喜，誇咱們歌兒唱得好，誇咱們槍法數第一。”寫好後，他念給首長和戰士們聽，根據大家的意見，最後刪掉了“歌聲飛到家鄉去”這段歌詞。