祖瑩，字元珍，是范陽遒人。父親叫季真擔任中書侍郎、鉅鹿太守職務。 祖瑩八歲的時候能夠背誦《詩》、《書》，十二歲時是中書的學生。喜歡學習，迷戀讀書，日日夜夜地學習，他的父母害怕他會生病，禁止他但是不能夠使他停下來讀書，他經常偷偷地在灰裡藏木炭，趕走童僕，等到父母睡著之後，點燃木炭讀書，用他的衣服和被子遮蓋窗戶和門，害怕漏光，被家裡人發覺，因為這件事情他的聲譽更加被傳開了，裡裡外外的親屬都叫他聖小兒，他特別喜歡寫文章。中書監的高允每次感嘆說：“這個孩子的才能不是大多數人能夠達到的，最終會大有作為的。” 當時中書博士的張天龍在講解《尚書》，選祖瑩為主講。學生們都聚集來聽，祖瑩在夜裡讀書不覺疲倦，不知道天亮了，老師催促著講課十分急切，他於是就錯拿了住在同一個房間的學生趙郡李孝怡的《曲禮》卷就去聽課了。博士嚴厲，他不敢再回去，就把《曲禮》放在面前，背誦多篇《尚書》，不遺漏一個字。講完，孝怡對他感到驚異，向博士說這件事，全部的學生都很驚異。後高祖聽說這件事，召他入宮，讓他背誦五經的章句，並且陳述大概意思，皇帝稱讚並賞賜了他。 他憑藉著自己的才能任職作為太學學士。