抗日戰爭時期，生活在冀中白洋淀的小男孩張嘎與惟一的親人奶奶相依為命。

為了掩護在家養傷的八路軍偵察連長鍾亮，奶奶英勇地犧牲在日軍的刺刀下，而鍾亮也被敵人抓走。為替奶奶報仇和救出老鍾叔，嘎子歷經艱辛，找到了八路軍，當上了一名小偵察員。他配合偵察排長羅金保執行任務時，表現得勇敢、機智。在一次戰鬥中，他繳獲了敵人的一枝手槍，偷偷把槍藏進老鴰窩裡，沒有上繳。為攻打敵人崗樓，他奉命進城偵察時被捕。當敵人拷問時，他英勇反抗，堅強不屈。當部隊攻打崗樓時，他設法在裡面放火，發揮了很好的配合作用，最終裡應外合，全殲敵人，救出了老鍾叔，也替奶奶報了仇。戰鬥結束後，嘎子把藏在老鴰窩裡的手槍主動拿出來交公，隊長則正式宣佈把手槍發給他使用。

故事以1934年的白洋淀為背景，以嘎子夢想參加八路，夢想得到一支屬於自己的真槍展開。奶奶為了保護八路老鍾犧牲了，嘎子隻身上縣城找傳說中的羅金保，打鬼子替奶奶報仇。嘎子從此以小八路自居，緊接著又和區隊八路打了一場挑簾戰，嘎子繳獲一把真槍。眼看夢想全部實現，槍卻被區隊長收了。

嘎子想不通，和打賭認識的小夥伴胖墩一起重返縣城。嘎子要單獨替奶奶報仇。特派員劉燕卻與孩子們在一起。經過種種誤會和巧合，以嘎子為首的孩子們，粉碎了敵人的陰謀，配合區隊八路使藥品順利過境，一舉殲滅肥田齋藤一夥日本鬼子。