司馬遷的祖上好幾輩都擔任史官，父親司馬談也是漢朝的太史令。司馬遷十歲的時候，就跟隨父親來到長安，從小就讀了不少書籍。
為了搜集史料，開闊眼界，司馬遷從二十歲開始，就遊歷祖國各地。他到過浙江會稽，看了傳說中大禹召集部落首領開會的地方；到過長沙，在汨羅江邊憑弔愛國詩人屈原；他到過曲阜，考察孔子講學的遺址；他到過漢高祖的故鄉，聽取沛縣父老講述劉邦起兵的故事……這種遊覽和考察，使司馬遷獲得了大量的知識，又從民間語言中汲取了豐富的養料，因此給《史記》的寫作打下了重要的基礎。
以後，司馬遷當了漢武帝的侍從官，又跟隨皇帝巡行各地，還奉命到巴、蜀、昆明一帶視察。
司馬談死後，司馬遷繼承父親的職務，做了太史令，他閱讀和搜集的史料就更多了。
在他正準備著手寫作的時候，卻因為替李陵辯護得罪漢武帝，下了監獄，受了宮刑。他痛苦地想：這是我自己的過錯呀，現在受了刑，身子毀了，沒有用了。
但是他又想：從前周文王被關在羑里，寫了一部《周易》；孔子周遊列國的路上被困陳、蔡，後來編了一部《春秋》；屈原遭到放逐，寫了《離騷》；左丘明眼睛瞎了，寫了《國語》；孫臏被剜掉膝蓋骨，寫了《兵法》。還有《詩經》三百篇，大都是古人在心情憂憤的情況下寫的。這些著名的作品，都是作者心裡鬱悶，或者理想不能暢行的時候，才寫出來的。我為什麼不利用這個時候，把這部史書寫好呢？
於是，他把從傳說中的黃帝時代開始，一直到漢武帝太始二年（公元前95年）為止的這段時期的歷史，編寫成一百三十篇、五十二萬字的巨著《史記》。
司馬遷在他的《史記》中，對農民起義的領袖陳勝、吳廣，給予高度的評價；對被壓迫的下層人物，往往表示同情；他還把古代文獻中過於艱深的文字，改寫成當時比較淺近的文字；他的人物描寫和情節描述，多能做到形象鮮明，語言生動。因此，《史記》既是一部偉大的歷史著作，又是一部傑出的文學著作。
【大視角】
人可以失意一時，決不可以失意一世。內外交困之時，只待苦心一想，靜心一想，一切也便豁然開朗。何況個人的磨難，與歷史、人類的磨難相比，大多微不足道。