為了寫作,司馬遷可以說耗盡了畢生精力.漢武帝太初元年,司馬遷開始編寫《史記》.天漢二年,李陵率兵隨李廣利出擊匈奴,兵敗投降.漢武帝向司馬遷詢問對李陵的看法,於是,司馬遷說,李陵投降,是因為眾寡不敵,又沒有救兵,責任不全在李陵身上.漢武帝認為司馬遷有意替李陵迴護開脫,貶責漢武帝的愛姬李夫人的哥哥李廣利.於是,把司馬遷投進監獄,處以腐刑.三年後他被赦出獄,更加發奮寫作《史記》.大約在徵和二年,基本上完成了編撰工作.司馬遷死後許多年,他的外孫楊惲才把這部五十二萬多字的不朽名著公諸於世.

司馬遷發憤寫《史記》，是因為這是他父親“司馬談”的遺願。

當司馬遷被打入大牢時，司馬遷悲憤交加，幾次想血賤牆頭但想到《史記》還沒有完成，便打消了這個念頭。他想：“人總是要死的，有的重於泰山，有的輕於鴻毛。我如果這樣死了，不是比鴻毛還輕嗎？我一定要活下去！我一定要寫完這部史書！”

想到這兒，他盡力剋制自己，把個人的恥辱、痛苦全都埋在心底，重新攤開光潔平滑的竹簡，在上面寫下一行行工整的帑字。