抗戰時期，生活在白洋淀的小男孩張嘎與唯一的親人奶奶相依為命。為了掩護在家養傷的八路軍偵察連長鍾亮，奶奶英勇地犧牲在日軍的刺刀下，而鍾亮也被敵人抓走。嘎子歷經艱辛，找到八路軍，當上了一名小偵察員。他配合偵察員羅金保執行任務，表現得勇敢、機智。但嘎子畢竟還是一個活潑、淘氣的孩子，他與小朋友胖墩摔跤輸了還不講道理，去堵胖墩家的煙囪。在一次戰鬥中，他繳獲了敵人一支手槍，竟偷偷把槍藏進了老鴉窩裡，沒有上繳。為攻打敵人崗樓，他奉命進城偵察時被捕。當部隊攻打崗樓時，他設法在裡面放火，裡應外合，全殲敵人，救出了老鍾叔，也替奶奶報了仇。戰鬥結束後，嘎子把藏在老鴉窩裡的手槍主動拿出來上繳。隊長正式宣布把手槍發給他使用。
小兵張嘎的故事最後還被拍成了電影、電視劇，成了千千萬萬小夥伴們的心目中的大英雄。