史記》的史料十分豐富，其來源綜合起來可以分為四個方面：

第一個來源是書籍。凡漢代以前古書，司馬遷無所不採。經書、國語、國策、楚漢春秋、諸子、騷賦等都是他寫史的重要材料來源。他在《史記》的許多篇章裡都作了明確的說明。如《三代世表》中說“餘讀《諜記》，黃帝以來皆有年數……於是以《五帝系諜》、《尚書》集世紀黃帝以來訖共和為世表”；《六國年表》中說“太史公讀《秦記》至犬戎敗幽王”；《管晏列傳》中說“吾讀管氏《牧民》、《山高》、《乘馬》、《輕重》、《九府》及《晏子春秋》”；《司馬穰苴列傳》中說“餘讀《司馬兵法》，閎廓深遠，雖三代征伐，未能竟其義”；《十二諸侯年表》中說“太史公讀《春秋歷譜諜》至周厲王”；《五帝本紀》中說“予觀《春秋》、《國語》”；《屈原賈生列傳》中說“餘讀《離騷》、《天問》、《招魂》、《哀郢》”等等。這些都表明司馬遷是廣泛蒐集並充分利用了當時所能得到的書籍資料來從事著述的。

第二個來源是檔案。司馬氏世為史官，司馬談曾任太史公，後來司馬遷又繼任此職，因此，漢初檔案如詔令、記功冊等都能見到，並且用作寫史的資料。這一點，也可以在《史記》中得到證明。如《惠景間侯者年表》中說“太史公讀列封至便侯”；《高祖功臣侯者年表》中說“餘讀高祖侯功臣，察其首封，所以失之者”；《儒林列傳》中說“餘讀功令，至於廣厲學官之路”等等都是。

第三個來源是見聞。秦漢史事，對於司馬遷來說是近現代史。當時記載有缺，因此多賴見聞。如《項羽本紀》贊中說“吾聞之周生曰，‘舜目蓋重瞳子’，又聞項羽亦重瞳子”；《趙世家》贊中說“吾聞馮王孫曰：‘趙王遷，其母倡也……’”；《刺客列傳》贊中說“公孫季功，董生與夏無且遊，具知其事，為餘道之如是”；《衛將軍驃騎列傳》中說“蘇建語餘曰‘……其為將如此’”；《太史公自序》中說“餘聞董生曰；‘周道衰廢，孔子為魯司寇……’”。這是得於所聞的。《李將軍列傳》中說“吾睹李將軍悛悛如鄙人，口不能道辭”；《遊俠列傳》中說“吾視郭解，狀貌不及中人，言語不足採者”。這是得於所見的。《張釋之馮唐列傳》中說唐子馮遂，“字王孫，亦奇士，與餘善”；《酈生陸賈列傳》中說“平原君子，與餘善，是以得具論之”；《田叔列傳》中說田叔的少子“仁與餘善，餘故並論之”。這是得於交遊的。這些從見聞和交遊中得來的材料，不僅增加了史料來源，而且增強了《史記》內容的真實性。

第四個來源是遊歷。司馬遷為了著《史記》，曾經登涉名山大川，訪求史蹟。如《五帝本紀》中說“餘嘗西至崆峒，北至涿鹿，東漸於海，南浮江淮”；《河渠書》中說“餘登廬山”；《魏公子列傳》中說“吾過大梁之墟”；《屈原賈生列傳》中說“餘……適長沙”；《龜策列傳》中說“餘至江南”；《淮陰侯列傳》中說“吾如淮陰”；《伯夷列傳》中說“餘登箕山”；《蒙恬列傳》中說“吾適北邊，……觀蒙恬所為秦築長城”等等。這些反映了他足跡所至幾乎遍及全國，也說明了他周遊各地與寫作《史記》的密切關係。

《史記》的史料來源很豐富，然而就各個歷史時期來說，史料的多少又很不平均。春秋以前間有缺略；春秋戰國至秦比較詳細；漢建立後一百年左右的歷史，則詳盡記載，篇幅最多。也就是說，時代越近材料越多。對於上古史事，司馬遷當時已有文獻不足之嘆。劉知幾在《史通·敘事》篇中稱：“觀子長之敘事也，自周已往，言所不該，其文闊略，無復體統；自秦漢已下，條貫有倫，則煥炳可觀，有足稱者。”這個評論是對的，但這種情況的產生，是因為司馬遷據以寫史的材料前少後多所致，我們自然不能苛求於他。

司馬遷（前145年或前135年～不可考），字子長，生於龍門（西漢夏陽、即今陝西省韓城市，另說今山西省河津市），西漢史學家、文學家、思想家。司馬談之子，任太史令，被後世尊稱為史遷、太史公、史學之父。

鑑於司馬遷本人生活的時代，可以推斷《史記》中景帝、武帝時期的史料為一手史料，之前均為二手史料。