司马迁受腐刑，是奇耻大辱。沉痛地说：“太上不辱先，其次不辱身，其次不辱理色，其次不辱辞令，其次诎体受辱，其次易服受辱，其次关木索被箠楚受辱，其次鬄毛发婴金铁受辱，其次毁肌肤断支体受辱，最下腐刑极矣。”又说：“祸莫惨于欲利，悲莫痛于伤心，行莫丑于辱先，而诟莫大于官刑，刑余之人，无所比数，非一世也，所从来远矣。”复说：“夫中材之人，事有关于宦竖，莫不伤气，况慷慨之士乎？”司马迁在极度痛苦中，曾想到“引决自裁”，一死了事。但如果那样做，就“若九牛亡一毛，与蝼蚁何异？”经过生与死的激烈的思想斗争，他悟出了一个做人的深刻道理：“人固有一死，死有重于泰山，或轻于鸿毛。”（《报任安书》）想到那些成就大事业者所经历的各种磨难，他深受鼓舞地说：
古者富贵而名摩灭，不可胜记，唯椒傥非常之人称焉。盖西伯拘而演《周易》；仲尼厄而作《春秋》；屈原放逐，乃赋《离骚》；左丘失明，厥有《国语》；孙子髌脚，《兵法》修列；不韦迁蜀，世传《吕览》；韩非囚秦，《说难》、《孤愤》。《诗》三百篇，大氏贤圣发愤之所为作也。（《汉书·司马迁传》）
那些身处逆境而又有所作为的先贤们的事迹，启发了司马迁，使他鼓足了活下去的勇气。特别是当他想到了父亲的遗愿还在“草创未就”的时候，更加坚定了活下去的信念。为了完成那部“究天人之际，通古今之变，成一家之言”的第二部《春秋》——《史记》，他甚至“就极刑而无愠色”！
司马迁惨遭李陵之祸，亲自体验了世态之炎凉，目睹了社会之黑暗，这无疑会使他对人生，对社会产生了新的认识。他这段坎坷不平的人生道路，打碎他青年时代的种种美好的幻想，使他变得越来越现实，越来越成熟。
太始元年（公元前96年）六月逢大赦，司马迁在狱中度过了4个年头。他因此出狱，已40岁司马迁。
出狱之后，便做了中书令。中书令是皇帝身边的重要官员，其职务是将皇帝的诏令下达至尚书，并将尚书的奏疏呈给皇帝，一切诏奏机密都要经过他的手，被一些人视为“尊宠任职”，比太史令要显赫得多。司马迁在《报任安书》中向朋友诉说了自己的难言之苦并写道：
“是以肠一日而九回，居则忽忽若有所亡，出则不知所如往。每念斯耻，汗未尝不发背沾衣也。”
残酷的刑法酿成了司马迁的悲剧，他的痛苦是常人无法理解的。心灵上的创伤总是影响着他的情绪，他常空虚恍惚，坐卧不安，一想到腐刑的耻辱，浑身出冷汗，浸湿衣服。司马迁的悲愤之情，跃然纸上。然而，个人的悲剧并未把他压倒；相反，为了父子两辈人的事业，他把个人的生死荣辱置之脑后，把悲痛发为文思，融入笔墨，以自己的血和泪继续撰写《史记》。
司马迁从太始二年到太始四年，以中书令的身份又侍从武帝巡幸各地。二年，到回中，三年，幸东海，登之罘（今山东烟台市），浮大海而还；四年，春天三月到泰山，十二月到雍，又到了西边的安定（今甘肃固原）、北地（今甘肃环县）。太始四年（公元前93年），43岁司马迁。他的朋友任安给他写信，要他“慎于接物，推贤进士”。旧话重提，引起司马迁思绪万千。他何尝不想推贤，以竭尽全力报效国家？又何尝不欲进土，以增朝廷仗义执言之人，以退“全躯保妻子之臣”？司马迁按捺不住愤懑与激动，将自己所受的耻辱、艰难的处境、悲凉的心境、完成《史记》的决心，一一向任安托出，写了《报任安书》。
“仆窃不逊，近自托于无能之辞，网罗天下放失旧闻，考之行事，稽其成败兴坏之理，凡百三十篇。亦欲以究天人之际，通古今之变，成一家之言。草创未就，运会此祸，惜其不成，是以就极刑而无愠色。仆诚已著此书，藏之名山，传之其人通邑大都，则仆偿前辱之责，虽万被戮，岂有悔哉？”
可见他（38岁）之前就极刑，130篇的《史记》已粗具规模，43岁时到了《报任安书》，还没有完成。
司马迁把征和三年（公元前见年），贰师将军李广利带兵7万，出五原，击匈奴，兵败而降。这次战役写在《匈奴列传》中，王国维认为这是《史记》中最晚出自于司马迁手笔的部分，（《太史公行年考》）根据王国维的考证，《史记》基本完成在征和三年。《史记·自序》说：
凡百三十篇，五十二万六千五百字，为《太史公书》。
序略，以拾遗补蓺，成一家之言，厥协《六经》异传，整齐百家杂语，藏之名山，副在京师，俟后世圣人君子。
《史记》的篇幅、字数、书名都讲得很具体，并表明意图在“藏之名山”，以防失落，“副在京师”，希望得到传人。最后结以“余述历黄帝以来至太初而讫”。
把所记述的史实起讫年代讲得很清楚，说明一部著作完成了，搁笔而踌躇满志的愉快心情溢于言表。
清人赵翼在《二十二史劄记》卷一中对司马迁写作《史记》的时间作了具体的考述，说：
“父卒三岁，迁为太史令，即紬石室金匮之书。为太史令五年，当太初元年，改正朔，正值孔子《春秋》五百年之期，于是论决其文。会草创未就，而遭李陵之祸。
惜其不成，是以就刑而无怨。是迁为太史令，即编纂史事。五年为太初元年。则初为太史令时，乃元封二年也。
元封二年至天汉二年遭李陵之祸，已十年。又《报任安书》内谓安“抱不测之罪，将迫季冬。恐卒然不讳，则仆之意终不得达，故略陈之”。安所抱子测之罪，缘戾太子以巫蛊事斩江充，使安发兵助战，安受其节而不发兵。武帝闻之，以为怀二心，故诏弃市。此书正安坐罪将死之时，则征和二年间事也。自天汉二年至征和二年，又阅八年。统计迂作《史记》，前后共十八年。况安死，迁尚未亡。必更有删订改削之功。盖书之成，凡二十余年也。”由此可见，《史记》是司马迁毕生心血的结晶。
《史记》是我国第一部纪传体通史，它囊括中外，贯通古今，记录了上下近3000年的历史。记事始于传说中的黄帝，止于汉武帝大初年间，尤详于战国、秦、汉。
全书分12本纪、10表、8书、30世家、70列传，共130篇，52.65万字。这五种不同的体例互相配合，广阔地反映了各个时代的社会历史面貌。
《史记》体大思精，是一部凝聚着司马迁父子两代人心血的不朽之作。千百年来，《史记》的内容和形式一直影响着中国的史学和文学，司马迁作为一个伟大的史学家、文学家和思想家，为历代人民所尊敬和爱戴。
司马迁46岁完成了《史记》的写作。司马迁的著述，除了《史记》、《报任安书》、《与挚崚书》外，相传还有《万岁历》一卷（一说此书系司马谈所著）、《素王妙论》一卷、《文集》二卷和《辞赋》八卷，今大都已经散轶。惟《艺文类聚》还搜集了他的一篇《悲士不遇赋》，兹录全文：
悲夫！士生之不辰，愧顾影而独存；恒克己而复礼，惧志行而无闻。谅才韪而世戾，将逮死而长勤。虽有行而不彰，徒有能而不陈。何穷达之易惑，信美恶之难分。
时悠悠而荡荡，将遂屈而不伸。使公于公者，彼我同兮；私于私者，自相悲兮。天道微哉，吁嗟阔兮，人理显然，相倾夺兮。好生恶死，才之鄙也。好贵夷贱，哲之乱也。
炤炤洞达，胸中豁也。昏昏罔觉，内生毒也。我之心矣，哲已能忖。我之言矣，哲已能选。没世无闻，古人惟耻。
朝闻夕死。孰云其否？道顺还周，乍没乍起。无造福先，无触祸始。委之自然，终归一类。（《艺文类聚》卷三十）至于司马迁死于何年，如何死的，因史无明载，不能确知。历代学者的考证，多是推测之辞。学者大都认为司马迁死于武帝末年。
司马迁的后代，也如他的卒年一样模糊。他儿子的名字没有留传下来，据说是因为司马迁受了腐刑，发了怨言，统治者不再任用他的子孙做史官。也有人说他有两个儿子，因无也无记载根据。
惟一可信的是司马迁有一个女儿，嫁给了杨敞。杨敞后来做到了大司农。当霍光和张安世等人决定废去皇帝，重新扶立一个新皇帝时，派人征求杨敞的意见，杨敞吓得汗流浃背，不敢答应，他的夫人急忙出来，督促丈夫立刻同意这件关系他们一家生命的计划，可见她是个有决断的女子。她生了两个儿子，即忠与恽。杨恽是一个才气横溢的文学家，颇有外祖之风。他的《报孙会宗书》简直可以说是《报任安书》的姊妹篇。他很爱读外祖的《史记》，“祖述其书，遂宣布焉”（《汉书·司马迁传》）。成为传播《史记》的第一人。他不幸的是因口祸被腰斩。
综观司马迁的一生，他是一个幸运儿，因为他生长在一个伟大的时代；他又是一个不幸者，因为他生活在一个****的时代。他的一生，是备尝艰辛，忍辱负重的一生；又是艰苦奋斗，百折不挠，使自己生命大放光华的一生。
司马迁《史记》是我国第一部纪传体通史，在继承前人著述体例的基础上，“勒成一书，分为五体”的。
创造性地发明以人物为主体的历史学编纂方法，在我国古代史学史上树起了一座不朽的丰碑。《史记》所采用的本纪、表、书、世家、列传五种体例。把五种体例有机地组合在一部书里，使它们相互配合，形成一个完整的体系，发挥各自不同的作用，这是司马迁的首创。《史记》的五体结构是一个完整的统一体系。本纪是全书的提纲，它以王朝的更替为体系，用编年的形式，提纲挈领地记载各个时期的国家大事。由于《史记》记述的是各个历史阶段中的主宰者，所以司马迁不能完全摆脱“以天子为本纪”的思维模式。可贵的是，司马迁不拘泥形式，从实际出发。他没有仅仅着眼于帝王，而为不是皇帝的项羽和吕后作了本纪。司马迁认为项羽和吕后虽然不是名义上的帝王，却是一个历史时期中的实际主宰者。项羽率领起义军推翻秦的统治，号令诸侯，也是掌握一代政权的统治者，因而为他立了本纪。至于为吕后立本纪，也是因为吕后临朝称制，掌握着实权。可见司马迁是尊重历史事实。《史记》中的12本纪，根据时间顺序和义例，可分为主要阐明德治思想的有：《五帝本纪》、《夏本纪》、《殷本纪》、《周本纪》。
主要揭示统一天下的历史过程，《秦本纪》、《秦始皇本纪》。在二个本纪中，司马迁对“以力”得天下者，做出“得之难”“失之易”的结论。
主要强调德治《高景本纪》、《吕太后本纪》、《孝文本纪》、《孝景本纪》、《孝武本纪》。在五个本纪中，司马迁从刘邦以德得天下，讲到吕后、文、景之德政，充分肯定了汉的德治。
《史记》中的表，表即表格。是用谱牒的形式记载史事，它既可概括错综复杂的史事，又表现出历史的线索，因而能对纪、传载述的史事起到纵经横纬的联结作用。历代学者评价颇高。宋代学者吕祖谦说：“《史记》十表，意义宏深，始学者多不能达。《三代世表》以世系为主，所以观百世之木支也。《十二诸侯年表》以下以地为主，故年经而国纬，所以观天下之大势也。《高祖功臣侯者年表》以下以时为主，故国经而年纬，所以观一时之得失也。《汉兴以来将相名臣年表》以大事为主，所以观君臣之职分也。”（《大事记解题》卷一）清代学者吴见思说：“诸表画而不图，纵横明晰，于列国楚汉时事，纷然之际，开卷无不了然。此法创自史公是千古绝奇文字。”通过学者们的研究和分析，《史记》表的意义与作用，主要突出在：
一是，简要明晰地揭示天下大势。《史记》的本纪、世家对某国某一时代已做详述，自成体系，线索也都十分清楚。把本纪、世家记载的内容综合在一起，以简明的形式表现一个时代的总貌和天下大势，这是需要解决的新问题。《史记》的表正好起到了简要明晰揭示天下大势的作用，清代学者牛运震说：“表以著年，以事附之，自宜摘其会盟征伐兴衰成败大事列于篇，要以简要明晰为贵，一切闲文细事，均宜从略。”
二是，提纲挈领地表现四体的内容。表把《史记》其他四种体裁的内容提纲挈领地表现出来，对其他四种体裁所记内容进行补充和完善。如《高祖功臣侯者年表》和《建元以来侯者年表》，分别把100多人和72国受封者的功绩、履历、官爵、封邑、传国、失候等内容，简明地展现出来，既省笔墨，又补四体之不足。这正如牛运震所说：“年表者，所以较年月于列眉，画事迹于指掌，而补纪、传书、志之所不及也。”（《史记评注》卷三）三是，建立了我国古代的年代学理论。《史记》十表明确地把历史分为古代、近代、今世三个段落，五个时期。司马迁通过创立十表，对历史作分期断限的研究，从而找出历史的大事变，如西周共和、孔子卒、秦亡、陈涉起义、刘邦称旁等作为历史断限的界标，这种分期标准在今天看来虽然不够科学，但是在当时却是十分难得的。十表的创立，为建立我国古代年代学理论打下了基础。所以宋代学者郑樵（《通志·总序》）说：“《史记》一书，功在十表。”
《史记》于表之后，立有礼、乐、律、历、天官、封禅、河渠、平准八书。司马迁在《自序》中有说明：“礼乐损益，律历改易，兵权山川鬼神，天人之际，承敝通变，作八书。”