早在仁宗嘉佑年间（公元1056—1063年），司马光担任天章阁待制兼侍讲官时，看到凡间屋子都是史书，浩如烟海的史籍，即使一个人穷其一生也是看不过来的。于是他逐渐产生了一个编写一本既系统又简明扼要的通史的想法，使人读了之后能了解几千年历史的兴衰得失。他的想法得了好友──历史学家刘恕的赞同和支持。
宋英宗治平元年（公元1064年），司马光把自己创作的史书《历年图》二十五卷呈献给英宗，过了两年又呈上《通志》八卷本。英宗看后，非常满意，要他继续写下去，并下诏设置书局，供给费用，增补人员，专门进行编写工作。司马光深受鼓舞，召集了当时著名的历史学家，共同讨论书的宗旨、提纲，并分工由刘班撰写两汉部分、刘恕撰写魏晋南北朝部分、范祖禹撰写隋唐五代部分，最后由司马光总成其书，由其子司马康担任校对。
神宗即位后，认为《通志》比其他的史书更便于阅读，也易于借鉴，就召见司马光，大加赞赏，并赐书名为《资治通鉴》，说它“鉴于往事，有资于治道”，还亲自为此书作序。神宗还将颖邸旧书三千四百卷赏给司马光参考，写书所需的笔墨纸砚以及伙食住宿等费用都由国家供给，这给司马光提供了优厚的著书条件，同时也促进了这部史书的编修工作。到神宗元丰七年（公元1084年），此书终于完稿，这部书的修订前后共用了十九年时间。
《资治通鉴》是我国历史上第一本编年体通史，记述了从周烈士二十三年（公元前403年）到五代后周显德六年（公元959年），共计一千三百六十二个年头的历史。全书共计二百九十四卷，另三十卷，《考异》三十卷。这部书选材广泛，除了有依据的正史外，还采用了野史杂书三百二十多种，而且对史料的取舍非常严格，力求真实。这部书所记述的内容也的确比较详实可信，历来为历史学家所推崇。而且《通鉴》记事简明扼要，文笔生动流畅，质朴精练，不仅可以作为史学著作阅读，有些篇章也可以作为文学作品来欣赏。
《通鉴》的著述意义己远远超过了司马光著史治国的本意，它不仅为统治者提供借鉴，也为全社会提供了一笔知识财富。清代学者王鸣成说：“此天地间必不可无之书，亦学者必不可不读之书。”《通鉴》已和《史记》一样，被人们称为史学瑰宝，广为流传，教益大众。而研究者也代代相沿，使其成为一门专门的学问，即“通鉴学”。
当然，这些都与司马光的呕心沥血分不开。在洛阳的十五年，他几乎耗尽了全部心血。在完书后他曾上表皇上说：“臣现在骨瘦如柴，老眼昏花，牙齿也没儿颗了，而且神经衰弱，刚刚做过的事情，转过身就忘记。臣的精力全都耗费在这部书里了！”司马光为编书经常废寝忘食，有时家里实在等不到他回来吃饭，便将饭送至书局，还要几次催促，他才吃。他每天修改的稿子有一丈多长，而且上面没有一个草书，全是一丝不苟的楷书。书成之后，仅在洛阳存放的残稿就堆满了两间屋子，可见他为这木书付出了多么艰辛的劳动。
司马光一生著述很多，除《资治通鉴》外，还有《通鉴举要历》八十卷、《稽古录》二十卷、《本朝百官公卿表》六卷。此外，他在文学、经学、哲学乃至医学方面都进行过钻研和著述，主要代表作有《翰林诗草》、《注古文学经》、《易说》、《注太玄经》、《注扬子》、《书仪》、《游山行记》、《续诗治》、《医问》、《凉水纪闻》、《类篇》、《司马文正公集》等。
四、司马相公名成天下
《资治通鉴》写成以后，司马光官升为资政殿学士。他在洛阴居住了十五年，天下人都认为他才是真正的宰相，老百姓都尊称他为司马相公，而司马君实这个名字，妇孺皆知。神宗逝世时，司马光赴丧，卫士望见他，都说：“这就是司马相公。”他所到之处，百姓夹道欢迎，以致于马都不能前行，老百姓对司马光说：“您不要返回洛阳，留下来辅佐天子，救救百姓吧。”
等到哲宗即位、太皇太后临政时，司马光已是经历了仁宗、英宗、神宗的四朝元老，颇具威望。他建议太后广开言路，于是上书奏事的人数以千计。当时天下百姓，都拭目以待，盼望革新政治。但有些人却说：“三年之内不能改变先皇的政策。”于是，只改革了一些细小的事，堵堵人们的嘴巴。
此时，司马光上书直言：“先帝之法。好的即使是百世也不能改变。而像王安石、吕惠卿所制订的制度，已经成了天下祸害，应该像救火灾、水灾一样急迫地去改变它。况且太皇太后是以母亲的身份改变儿子的法令制度，并不是儿子改变父亲的法律。”这样大家的意见才统一下来。于是，废除保甲团教，不再设保乌；废除市量法，把所储藏的物资都卖掉，不取利息，免除所欠钱物；京东铁钱及菜盐的法律都恢复其原有的制度。
晚年的司马光疾病缠身，但是不把新法完全废除，他死不瞑目。于是他写信给吕公著说：“我把身体托付给医生，把家事托付给儿子，只有国事还没有托付，今天就把它交给您吧。”于是上书论免役法五大害处，请皇上下诏废除，并请求废除提举常平司；边地的策略以与西戎讲和为主；又建议设立十科荐士之法。这些建议都被朝廷采纳。
司马光被任命为尚书左仆射兼门下侍郎时，又废除了青苗法。两宫太后听任司马光行事。当时司马光功高盖主、权重无边，连辽国、西夏派来的使者也必定要询问司马光的身体起居，他们的国君对戌守边境的将官说：“大宋用司马光做宰相，你们轻易不要惹出事非，使边境出问题。”
司马光对于朝廷可谓“鞠躬尽瘁，死而后己”。他带病处理各种事务，不分昼夜地工作。别人劝他注意身体，他却说：“人的生死是命中注定的。”病危时，他在失去知觉的情况下，还不停地呓语，说的全是有关国计民生的大事。
元佑元年（公元1086年），司马光逝世，终年六十八岁。太皇太后听到消息后，和哲宗亲自去吊唁，追赠司马光为太师、温国公，溢号“文正”，赐碑“忠清粹德”。京城的人听到噩耗，都停工前往吊祭；岭南封州的父老乡亲，也都备办祭祖；都城和周围地区都画了司马光的遗像祭祖，吃饭时必定为之祈祷。
五、盖棺定论
司马光一生忠孝节义、恭俭正直，他安居有法、行事有礼。在洛阳时，司马光每回去夏县老家扫墓，都要去看他的哥哥司马旦。司马且年近八十，司马光不仅像尊敬父亲一样尊敬他，还像照顾婴孩一样照顾他。
司马光一生从不说谎话，他评价自己时说：“我没有什么过人之处，只是平生的所作所为，皆问心无愧？百姓全部敬仰信服他，陕州、洛阳一带的百姓被他的德行所感化，一做错事，就说：“司马君实会不知道吗？”
司马光一生清廉简朴，不喜华靡。史书上记载着他这方面的许多小故事，传为美谈。就连他的政敌王安石也很钦佩他的品德，愿意与他为邻。据说，司马光的妻子死后，家里没有钱办丧事，儿子司马康和亲戚主张借些钱，把丧事办得排场一点，司马光不同意，并且教训儿子处世立身应以节俭为可贵，不能动不动就借贷。最后，他还是把自己的一块地典当出去，才草草办了丧事。这就是民间流传的所谓司马光“典地葬妻”的故事。
司马光的品格德行、修学治史，一直受到人们的高度评价。但对他的政绩，人们却时褒时贬。
保守派主政的时候，对其政绩大加褒扬，宋哲宗还赦令保守派的翰林学士苏东坡撰写神道碑文，洋洋几千言尽是赞美之辞。
而改革派当政时，司马光不仅漫有政绩可言，而且被列人奸相之列。宋绍圣年间，御史周铁首论“温公（司马光死后溢号）诬谤先帝，尽废其法，当以罪及”。朝廷不仅夺去了所有封号，而且还把其墓前所立的巨碑推倒。王安石的学生章淳、蔡京主政时，为报复司马光等人尽废新法的做法，将其与三百零九名朝臣列入“元佑奸党”，并要在朝堂和各州郡立“奸党碑”。
但是在立碑肘，发生了一件意想不到的事，石匠安民对蔡京说：“小人是愚民，不知道立碑的意图。但司马相公海内都称道他为人正直，现在却要列人奸党，小人不忍心做。”蔡京一怒之下便要处罚他，吓得安民一面求饶，一面哭诉：“大人的命令，小人不敢违抗。只是小人有一个请求：碑上刻匠人名字时，不要把小人安民的名字署上，以免留下千载骂名。”蔡京仔细一想，司马光虽然有错，但毕竟为人正直，享有威望，于是改变了主意，将司马光排除在奸人之外。
可见，司马光的人格不仅为百姓所称道，甚至连对手也为之折服。在封建时代，司马光是孔门的第三个圣人，位列孔子、孟子之下，同样在孔庙享配。时至今日，人们仍记得历史上有一“涑水先生”，他给后人留下了一笔巨大的精神财富。