1958年底，南京軍區響應“幹部下連隊”的號召，第20軍的很多幹部都先後下連隊當兵，第20軍軍長、開國少將餘光茂更是以身作則，主動來到下轄的炮兵團3連當兵。

為了避免炮兵團的幹部給自己搞特殊優待，餘光茂特意下令晚一些再下發通知，他自己換上一身普通的列兵服裝，步行去了炮兵團。

由於沒有事先通知，再加上當時通訊不發達，炮兵團的將士們都被這個“半路殺出來”的老兵搞懵了：說他是列兵吧？年紀這麼大，還霸氣外露；說他不是列兵吧？他還穿著列兵的軍服，肩上也掛著列兵的肩章。

直到第二天，得到訊息的炮兵團參謀長火速趕來了，告訴大家說，這個“老兵”，就是我們的軍長餘光茂！戰士們都愣了，光聽說軍裡的幹部要下來當兵，但誰也沒想到，餘軍長會這麼簡簡單單地就下來了！

不過，餘光茂完全沒有理會大家詫異的眼神，對參謀長說：“這裡沒你的事了，你快回去吧！”然後對戰士們說：“現在，我就是一個普普通通的列兵，沒有任何特殊待遇，我也不需要那些特殊待遇，你們幹什麼，我就幹什麼。”

餘光茂下連隊後，正趕上大饑荒，由於糧食短缺，戰士們只能挖野菜做麵餅吃。要知道，這種菜餅雖然能短暫地充飢，但對人體的消化系統還是有所損害的，年輕的戰士們還能扛住，但餘光茂很快就吃不消了。

於是，炮兵團的幹部們就專門從後勤部門要來麵粉，吩咐炊事班給餘光茂做饅頭吃。

但是，當看到自己碗裡多出來兩個饅頭，餘光茂頓時大怒，再度重申，絕不能給自己搞特殊，並下令把饅頭分給戰士們吃，自己一口也不吃。

餘光茂不光不搞特殊化，還主動“加班”，照顧連隊中的那些新兵們。

當時，部隊裡實行輪班站崗，每個人只需要站一班崗即可，但團參謀長在一次視察中，卻發現餘光茂一連站了三班崗！

就連旁邊的小戰士都看不下去了，請參謀長去勸勸餘光茂，而餘光茂呢，卻說：“戰士們年紀小，白天訓練已經很辛苦了，就讓他們多睡會兒吧。”

參謀長說：“您白天也是跟著他們一起訓練，您就不辛苦嗎？”

餘光茂笑著說：“我年紀大了，沒那麼多覺，回去也睡不著，還不如在這裡吹吹風呢！”

參謀長知道餘光茂的倔脾氣，勸也勸不了，只好作罷。

在部隊裡，餘光茂對戰士們非常關心，誰家裡有什麼困難，他都會出面幫忙解決，戰士們也都把他當成“老大哥”一樣看待。

但是，在對待自己家的孩子們，餘光茂卻完全是另外一副面孔，嚴禁孩子們跟著自己搞特殊，在給孩子們的告誡中，最重要的一條就是：“凡是大家都要遵守的，你們必須首先要做到！”

餘光茂的女兒餘蘇雲上學期間，軍部機關單位曾安排專門的後勤卡車，作為20軍幹部家屬的班車，不過班車人多，擠著不舒服，餘蘇雲就打起了父親的專車的主意。

有一天早上上學時，突然下起了大雨，餘蘇雲就向父親提出來，想坐著父親的車去上學，反正是順路，但是，餘光茂卻板起了臉，冷冷地說：“我的車裡沒有你的座位，你的座位在卡車上。”

還有一次，第20軍軍部的營房剛搬遷，新來的哨兵不認識餘光茂的兒子餘江如，以為他是外面的人，沒讓他進，結果兩人就吵了起來。

餘光茂聽說後，立刻把兒子叫去，劈頭蓋臉就是一頓批評，還親自帶著兒子去給那個哨兵道歉，同時，他本人也親自給哨兵道歉，說自己沒把兒子教育好。

哨兵一時受寵若驚，也趕緊向餘光茂父子倆道歉，說是自己不理解情況，態度也不好，以後一定要改正。

就這樣，三人輪番道歉的趣聞，在當地一時傳為美談。