聂赫留道夫公爵是莫斯科地方法院的陪审员。一次他参加审理两个旅店侍役假手一个妓女谋财害命的案件。其实事情是这样的，一个西伯利亚商人司蔑尔科夫到妓院寻欢作乐。茶房卡尔金庚和当过使女的勃契诃娃，见商人有钱便起了谋财害命的念头。他们把一包药粉交给玛丝洛娃，要她放到商人茶杯里，骗她说是安眠药。当时，玛丝洛娃正被商人纠缠得厉害，想摆脱他，便照样做了。结果商人被药死了。案发生后，茶房和使女贿赂律师，把罪责全栽在玛丝洛娃的身上。
在法庭上聂赫留道夫公爵从妓女玛丝洛娃具有特色的眼神中认出原来她是他青年时代热恋过的卡秋莎。于是十年前的往象一幕幕展现在聂赫留道夫眼前：那时他还是个大学生，到姑母家的庄园来度暑假，认识了十六岁的卡邱霞·玛丝洛娃，她是一个农妇的女儿，父亲是流浪的吉卜赛人。母亲在女地主索菲亚姊妹的牛奶场上工作。玛丝洛娃三岁时母亲死了。女地主看她长得清秀，便把她收养下来。因此，她过着一半小姐，一半婢女的生活。她做女工、收拾房间，用白灰擦亮神像，烤肉、磨粉、煮咖啡，洗些不费力的东西；有时读书给女主人听。
年轻的他善良，热情，充满理想，热衷于西方进步思想，并爱上了姑妈家的养女兼婢女卡秋莎。他们一起玩耍谈天，感情纯洁无暇。
三年后，聂赫留道夫大学毕业，服兵役进了近卫军团，路过姑妈庄园，再次见到了卡秋莎。在复活节的庄严气氛中，他看着身穿雪白连衣裙的卡秋莎的苗条身材，她那泛起红晕的脸蛋和那双略带斜眼的乌黑发亮的眼睛，再次体验了纯洁的爱情之乐。
这以后，世俗观念和情欲占了上风，在临行前他占有了卡秋莎，临别，他塞给玛丝洛娃一百卢布，便到部队去了。此后，聂赫留朵夫连封信也没捎给过她。后来听说她堕落了，也就彻底把她忘却。
现在，他意识到自己的罪过，良心受到谴责，但又怕被玛丝洛娃认出当场出丑，内心非常紧张，思绪纷乱。他回想起勾引玛丝洛娃的经过，认为自己是造成她不幸的罪人。他在诱奸玛丝洛娃后，一度曾受过良心的苛责。但当他想到上流社会的人都这么干时，他便心安理得了。服役期满后，他去过姑姑家一趟。但这时，玛丝洛娃早被女地主撵出家门了。之后，聂赫留朵夫为了使自己忘掉犯下的过失，竭力不去想这件事。
在审讯过程中，法官们只忙于自己的私事，对案件审理却心不在焉。一位法官因和妻子刚刚吵过架，心情不佳、愁容满面。他担心当他审完案子回家后，妻子给不给他饭吃。另一位法官叫玛特维伊，老是迟到。他关心的是自己的疾病。他想，从门边走到他座位那儿，如果走的步数能用三除尽，他患的胃粘膜炎就会好。这段距离走二十六步就可走完，于是他赶紧加了一小步，凑成二十七步。
副检察官卜列维喝了一夜酒，根本还没有从酒宴中清醒过来，便开始宣读起对玛丝洛娃的审判案件来。他发了一通谬论。他以犯罪的遗传学来判定玛丝洛娃有罪。他认为下层阶级天生是下贱的，下贱的人必然会犯罪。玛丝洛娃是妓女，是“最低级的退化的榜样”，犯罪是毫无疑义的。
审判继续进行。法院要给玛丝洛娃定罪了。最后，由陪审员们对玛丝洛娃写定罪意见。他们认为玛丝洛娃没有抢劫、偷钱的意思，可是忘了加上“没有谋害性命的意思”，聂赫留朵夫也一时疏忽了。这样玛丝洛娃必须判罪了。本来，庭长不同意这意见，但他怕耽误和红头发姑娘的约会，便匆忙结案。宣判玛丝洛娃押赴西伯利亚服苦役四年。
等聂赫留道夫搞清楚他们失职造成的后果，看到玛丝洛娃被宣判后失声痛哭、大呼冤枉的惨状，他决心找庭长、律师设法补救。
聂赫留道夫怀着复杂激动的心情按约去米西（被认为是他的未婚妻）家赴宴。本来这里的豪华气派和高雅氛围常常使他感到安逸舒适。但今天他仿佛看透了每个人的本质，觉得样样可厌：柯尔查庚将军粗鲁得意；米西急于嫁人；公爵夫人装腔作势。他借故提前辞别。
回到家中他开始反省，进行“灵魂净化”，发现他自己和周围的人都是“又可耻，又可憎”。母亲生前的行为；他自己和贵族长妻子的暖昧关系；他反对土地私有，却又继承母亲的田庄以供挥霍；这一切都是在对卡秋莎犯下罪行以后发生的。他决定改变全部生活，第二天就向管家宣布：收拾好东西，辞退仆役，搬出这座大房子。
玛丝洛娃被押回监狱，犯人们对玛丝洛娃都给以同情的问候。当他们知道她已被判刑时，一个犯人说：“这年月，真理跑到狗那儿去啦。”
聂赫留朵夫认为法庭作出了不公平的判决。他去找律师法纳律，准备把案件告到高级法院。同时，他还去找检察官。承认自己曾勾引过玛丝洛娃，要求去探狱，并准备和玛丝洛娃结婚来弥补自己的过错。他宣称说，今后自己不再当陪审员了，因为法庭“所有的审判不但没有益处，而且不道德”。
在狱中，聂赫留朵夫见到了玛丝洛娃，要求她宽恕他，并把自己要和她结婚的决定告诉她。但玛丝洛娃不能饶恕他的过去。她气愤地说：“你去找你的公爵小姐们好了，我的价钱是一张十卢布的钞票……我是犯人，你是公爵，这儿没你什么事……你在这个世界里拿我玩乐还不算，又要用我来救你自己，好让你能上天堂！我讨厌你，你那眼镜，你那肮脏的胖脸！去，去！”
聂赫留朵夫吃了闭门羹，但他想为了对得起良心，即使玛丝洛娜不愿和他结婚，他也要跟她一道去流放。她走到那儿，他便跟到那儿。他开始批判自己所走过的生活道路，感到寄生生活的可耻，要和自己的阶级决裂。
为了作好上西伯利亚的准备，聂赫留朵夫回到自己的田庄——库兹明斯果耶村。他在田庄上实行改善农民生活的措施。他把田地用贱价（比同县农民在地主那里租到的土地要便宜三成）出租给农民，改变农民对地主的依赖关系。然后，他又到巴诺佛（他从姑姑那里继承来的田庄）访问，亲自和农民交谈，了解他们生活情况，同情他们的贫困和处境。他认为：“老百姓赤贫的主要原因是失去了唯一能养活他的土地”。他赞同美国人亨利·乔治的课税制的办法，认为“土地不能成为什么人的财产，它跟水、空气、阳光一样不能买卖，凡是土地给与人类的种种利益，所有的人都有同等享受的权利”。在这里，他同样把土地租给农民，并进一步把农民交纳的资金当作公益金或税款供给农民自己使用。他召集农民代表商谈。开初，农民半信半疑，他们不敢相信地主的这份好心。经聂赫留朵夫再三解释，最后他们接受了。聂赫留朵夫从农村返回省城时，他感到如释去重负般的无穷快乐，有一种旅客在发现新陆地的时候，一定会感到的那种新奇的感觉。
聂赫留朵夫把在巴诺佛找到的一张姑姑家的合家照片，带给了玛丝洛娃，上面有她和聂赫留朵夫的相；并告诉她，他要上彼得堡走一趟，大理院将要对玛丝洛娃的上诉案件进行审理了。同时，他还帮助玛丝洛娃从监狱转到监狱医院去工作。
聂赫留朵夫到彼得堡后，住在姨妈家。姨夫伊凡·密海罗维奇伯爵是前任国务大臣。聂赫留朵夫通过他的介绍，去拜访了几个有势力的人物。其中有大法官渥尔夫、上诉委员会的委员佛罗比奥夫男爵、官办教会负责人托波罗夫。但这些上层官僚们，同样只顾自己的私利，不管犯人的死活。通过访问，聂赫留朵夫清清楚楚地看到：“这些官吏，从他姨妈的丈夫、大法官、托波罗夫算起，直到各部会的办公桌前面坐着的那些漂亮、干净、庄重、自以为了不起的大人先生们为止，虽然明明看见这种局面使得无辜的人受苦，却一点也不介意，所关心的只不过是镇压和祛除所有的危险分子罢了”。
玛丝洛娃上诉案，被大理院以理由不充分驳回。聂赫留朵夫离开彼得堡，把这坏消息告诉玛丝洛娃听。这时，玛丝洛娃已离开了监狱医院。她被人诬告与医务助理员勾搭，而被赶回狱中。聂赫留朵夫再次向她表示：自己决心跟她上西伯利亚去。
玛丝洛娃又重新爱上了聂赫留朵夫，而且爱得那么深，不知不觉间她完全依照他希望她做的去做了：戒了烟酒，不再卖弄风情。但她又想到这种结合，对他是一种不幸。她不能接受所爱的人为她作出的牺牲。
押赴西伯利亚的犯人起程了。那是个天气炎热的七月，街上差不多一片荒凉，少数几个过路人在路边阴影里走着。有的犯人经不起烈日照晒，当场中暑倒毙了。聂赫留朵夫一路为犯人恶劣的处境四处奔波说情，他几乎成了犯人的袒护者。同时，在他运动下，玛丝洛娃被调到政治犯行列中。在这个队伍里既安静又和平，也不再受男人的纠缠。玛丝洛娃感到政治犯都是些“可爱的好人”，并知道了他们跟平民站在一边，反对上层阶级。他们当中有些是属于贵族阶级的，却为平民牺牲了他们的特权和自由，这使得她特别看重他们，佩服他们。她认识了一个叫西蒙松的政治犯。这是个腼腆、谦虚而又意志力极强的人。他在大学毕业后，加入民粹派，任过乡村教师，并“公开抨击他认为虚伪和不公正的事情”。为此，他被捕了。不久，西蒙松爱上了玛丝洛娃。这时，玛丝洛娃必须在西蒙松和聂赫留朵夫之间作出选择。她感到：“聂赫留朵夫是出于慷慨，又由于过去发生的事情，才向她求婚。可是西蒙松却在她现在的境遇里爱她，只因为爱她而爱她。”于是，她接受了西蒙松的爱。
聂赫留朵夫靠彼得堡朋友副检察长塞列宁的帮助，把玛丝洛娃的案件，由服苦役改判为在西伯利亚近处流放。他把消息告诉给玛丝洛娃。这时，有一种需要家庭和孩子的想法涌上他心头。然而，玛丝洛娃已决定跟西蒙松走。她不愿意“毁了”聂赫留朵夫的生活。聂赫留朵夫再次遭到拒绝，但他没有痛苦的感觉。他已尽了自己最大的努力和牺牲去爱她。他付出了足够的代价来补偿自己的过失。于是，他心平气和地在狱旁椅子上睡了一个又香又甜的觉。最后，玛丝洛娃和西蒙松走了。聂赫留朵夫被留了下来。他在福音书里找到了五条生活准则：对上帝要虔诚、不起誓、要忍辱、爱敌人、勿反抗。他认为人们如果遵循这五条法则，并不断悔过自新，便可以“获得最大的幸福，地上的天国也会建立起来”。他开始过一种全新的精神生活。他的灵魂得救了。