司馬談病危時，拉著兒子的手，深情地說：“我身為國家的史官，卻沒能寫出一部像樣的史書，想起來就痛心。自從孔子以來，已經400多年，由於諸侯兼併，戰火連綿，歷史的記載也放鬆了，甚至可以說中斷了。現在，海內一統，國家強盛，是到了續寫這段史書的時候了。我作為漢太史令沒有對這一段歷史作出完備的記載，心中不安，真是死不瞑目啊!你要繼承父志，千萬不要忘記了著書立說這件大事，千萬不能讓國家史書中斷了，千萬不要忘記我還沒有完成的大事啊!”說到這裡，司馬談老淚縱橫，泣不成聲。司馬遷伏在父親的床邊，立誓道：“就是有天大的磨難，我也要完成您的囑託，請父親放心!”

  司馬遷繼任太史令後，發憤治史。雖受宮刑，忍辱負重，終於寫成了千古之絕唱——《史記》。

  父親死後三年，司馬遷繼任“太史令”的官職，這使他有了更多的機會閱讀國家收藏的各種書籍，進一步熟悉和整理列國的歷史過程及重大事件、代表人物等，從而大大豐富了自己的歷史知識。在長期的史料收集和大量實地調查研究的基礎上，又經過五年的準備，司馬遷開始著手《史記》的編纂工作，實現他父親“記載天下之文”的遺志。42歲的司馬遷深深懂得，歷史對一個國家、一個民族興衰榮辱的重要，他牢記父親的期望和臨終教誨，廢寢忘食，全力以赴投入這一偉大而艱苦的工作。

司馬遷子承父志，繼任太史令。他早年受學於孔安國、董仲舒，漫遊各地，瞭解風俗，採集傳聞。太初元年（前104年），司馬遷開始了《太史公書》即後來被稱為《史記》的史書創作。

但是，事出意外，天漢三年（前98年），李陵戰敗投降匈奴，司馬遷因向漢武帝辯護事情原委而被捕入獄，並處以宮刑，在形體和精神上給了他巨大的創傷。

出獄後任中書令，他忍辱含垢，發奮繼續完成所著史籍，以其“究天人之際，通古今之變，成一家之言”的史識，前後經歷了14年，創作了中國第一部紀傳體通史《史記》。