60年代初，局势不好，所以部队经常大比武，讲的是仗怎么打，兵就怎么练打靶归来歌词。
60年代初，王永泉所在部队完成了施工任务，军事训练即将开始，他想结合部队的军事训练写首歌，就在心里琢磨歌词的时候，军区发来了一本《部队文艺创作选》，在这本书里，有一首牛宝源同志的诗，“日落西山红霞飞，战士打靶把营归，胸前的红花映彩霞，清脆的枪声满天飞。”他觉得这首小诗写得很好，就把它抄了下来，准备为它谱曲。
但是他认为，打靶时清脆的枪声在山谷间回荡，但当打靶结束、战士扛着枪从靶场走向营区，枪声已不再有，有的只是战士们取得优异成绩后的那种自豪的心情，此时用歌声表达心声是最好不过的。于是，他就把第四句改为“愉快的歌声满天飞”。对于一首歌来说，仅有4句的小诗显得过于简单了些，他便又增写了两段词：“歌声飞到家乡去，父老们听了笑眯眯，人人夸来人人讲，说他们子弟有出息。歌声飞到北京去，毛主席听了心欢喜，夸咱们歌儿唱得好，夸咱们枪法数第一。”写好后，他念给首长和战士们听，根据大家的意见，最后删掉了“歌声飞到家乡去”这段歌词。
