二戰時期，河北省淶源縣上莊村十二歲的放牛娃王二小，出生在一個貧苦的家庭。他和爸爸、媽媽，哥哥生活在一起，雖然清貧，但他們相親相愛，生活充滿了溫馨。一九四二年的一天，一聲巨響，日本鬼子的炮彈落到了二小的家裡。在山上放牛的二小和哥哥眼睜睜的看著剛才還溫暖的家和親愛的爹孃，頃刻間灰飛煙滅，驚恐得不知所措。二小親眼目睹日本鬼子殘酷殺害村民，心裡種下了仇恨的種子。二小的哥哥石頭和鄉親們被鬼子抓去修炮樓，二小把鄉親們湊的幾個黑菜餅送給工地上的哥哥吃，可惡的鬼子卻一腳把菜餅踩進土裡。憤怒的二小看到地上有一隻蠍子，他用彈弓偷偷把蠍子甩進了鬼子的脖子裡。不一會，鬼子被蜇得跳了起來。惱羞成怒的鬼子端著刺刀刺向二小，哥哥用自己的胸膛擋住了刺刀，用自己的生命救下了二小。

又累又餓的王二小走了三天三夜，沿著公路，昏昏沉沉地走進了八路軍伏擊鬼子的埋伏圈。八路軍吳連長擔心會誤傷二小，放棄了這次伏擊行動。但一個掉隊的鬼子卻抓住了二小，吳連長策馬追上鬼子，救出了二小。二小被帶到根據地，和邊區的女幹部柳老師住在一起。

柳老師是大學生，她教村裡的兒童團員們學習文化。她對二小既像媽媽又像姐姐，讓二小感受到了溫暖。王二小一心想著要報仇，兒童團長鐵柱卻瞧不起二小。二小為了讓大家瞧瞧自己的本事，從村裡偷了兩個地雷，要去炸鬼子，卻在雨夜中迷了路。吳連長冒著大雨找回了二小，他很欣賞二小的勇敢。柳老師卻生氣了，她認為孩子是國家的未來，不能做無畏的犧牲。鬼子向山裡掃蕩，二小因為淋雨而生病了。柳老師揹著二小，和鄉親們一起轉移到長城腳下。迷迷糊糊的二小躺在柳老師懷裡，聽柳老師流著眼淚講要孩子們好好活下去的道理。他恍惚看到了自己的娘，也明白了柳老師一片苦心。二小跟著柳老師和吳連長，學了許多知識。他懂得了，鬼子欠下的不僅是他一家，而是整個中華民族的血債。他還懂得了，等打走了鬼子，自己長大了，還要建設我們的國家。鬼子的大掃蕩又開始了。吳連長帶著隊伍去山那邊，說要設個包圍圈等鬼子來鑽。柳老師帶著二小和孩子們又轉移到了長城邊上。太陽高高地照著，柳老師要教孩子們識字。一轉身，她看見悄悄逼近的鬼子鋼盔在Sunny下閃閃發亮，柳老師一把將孩子拉到自己身後，槍聲響了，柳老師倒下了.

鬼子來了。二小看到鬼子向鄉親們轉移的方向走，心裡著急，他不能讓鬼子追上了鄉親們。二小急中生智，唱著放牛歌從山坡上走了出來，他要把鬼子引到另一條道上去。鬼子果然抓住二小，要二小為他們帶路。二小領著鬼子走到了八路軍埋伏的山溝，大叫著要吳連長快開槍。此時才知道中計的鬼子氣急敗壞，把刺刀扎進了二小的身體，將二小挑了起來。二小像一片樹葉飄落下來，滿山的樹葉都一起紛紛飄落下來。每一片樹葉都像被二小的鮮血染紅，滿山遍野都是紅葉。鄉親們得救了，八路軍發起了進攻，把鬼子全部消滅在山溝裡