海瑞是一个富有传奇色彩的人物，对他的生平行事应该如何评论，人们曾经发生过尖锐的争执。和同时代的很多同僚不同，海瑞尊重法律，恪守原则，并且竭尽所能地按照最高限度去执行。即使朝廷发给官吏的薪水微薄到不够吃饭，那也应该毫无怨言地接受。这种信念有他自己的行动作为证明：他官至二品，死的时候仅仅留下白银20两，不够殓葬之资。
海瑞以举人出身而进入仕途，开始被委任为福建一个县的儒学教授，任期4年。到1558年升任浙江淳安知县的时候，他已经45岁了。
这淳安县，乃是往来三省的孔道，交通发达，本县人民的负担也随之加重。原因是按照本朝立国时所订立的财政制度，政府中的预算并无旅费一项，全国1040个驿站，名义上由兵部掌管，实际上一切费用，即过境官员本人及其随从所需的食物、马匹和船轿挑夫，全部由该地方负责。兵部只发给旅行人员一纸勘合：驿站所在之处，即须按照规定供应。七品官海瑞的声名开始为人所知，就是因为他能够严厉而巧妙地拒绝官员滥用这种权力而增加地方上的负担。
有一段故事说，当日以文官而出任总督的胡宗宪，兼负防御倭寇的职责，居官风厉，境内的官民无不凛然畏惧。一次，他的儿子道经淳安，随带大批人员和行李，作威作福，对驿站的款待百般挑剔，并且凌辱驿丞。县令海瑞立即命令衙役皂隶拘捕这位公子并押解至总督衙门，还没收了他携带的大量现银。他在呈报总督的公文内声称，这个胡公子必系假冒，因为总督大人节望清高，不可能有这样的不肖之子，也不可能拥有这么多的金银财物。
1560年，左副都御史鄢懋卿被任命清理盐法，南方各省的食盐征收专卖都归他节制，以期增加政府收入，加强抗击倭寇的财力。对于这位钦差大臣，地方官自然毕恭毕敬，不敢有丝毫怠慢。而钦差大臣本人也不能避免标榜俭朴以沽名钓誉的时尚，先期发出通令，内称本院“素性简朴，不喜逢迎。凡饮食供帐俱宜简朴为尚，毋得过为华奢，耗费里甲”。这样的官样文章早已为人所司空见惯，不过视作一纸具文，即使钦差大人也没想到会有人认真对待。
淳安县县令海瑞对这一通令可是毫不含糊。当鄢都院的节使尚未到达淳安，他已经接到一个禀帖。禀帖的一开头规规矩矩地写着“严州府淳安县知县海瑞禀”，紧接着就把通令的原文节录于后，再接着就说台下奉命南下，浙之前路探听者皆曰，各处皆有酒席，每席费银三四百两，并有金花金缎在席间连续奉献，其他供帐也极为华丽，虽溺器亦以银为之云云。最后要求钦差大人摒弃奢华的排场和搜刮，并且说，如果不能拒绝地方官这样的阿谀恭维，将来势必无法做到公事公办，完成皇上委托的任务。据说，鄢懋卿接到禀帖以后，就没有敢进入淳安，而是绕道他去。
这种直言抗命的精神，可能使海瑞失掉了一个升官的机会。他于1562年调任江西兴国，官职仍是知县，不升不降。以他这样的性格和作风，上司当然怀恨在心，如果不是他本人言行如一，清廉正直，十个海瑞也早已被罢官免职。
1569年复天，海瑞被任命为南直隶巡抚，驻扎苏州。且不说这里是全国最富庶的地区，即使是一般地区，任命这样一位不由进士出身的人担任巡抚，也已属于罕见。但是这一地区历来号称难治，以海瑞的性格而就任斯职，有识见的人早就料到必然引起不良的后果。事实不出所料，八个月之后，他遇到劾参而被迫退休。
海瑞的新职一经发表，南直隶的很多地方官就自己估计到将会不能见容于这位古怪的上司，因而自动离职或请求他调。缙绅之家纷纷把朱漆大门改漆黑色，以免炫人眼目而求韬光养晦。住在苏州的一个宦官把他的轿夫由八人减至四人。举出这些琐事，就可以证明新巡抚大人声势之迅猛，足以使人震慑。
海瑞下车伊始，就把他的“督抚条约”三十六款在所治各府县公布。条约规定：境内成年男子一律从速结婚成家，不愿守节的寡妇应立即改嫁，溺杀婴孩一律停止。巡抚出巡各地，府县官不得出城迎接，但巡抚可以传询耆老听取他们的控诉。巡抚在各府县逗留，地方官供给的伙食标准为每天纹银二钱至三钱，鸡鱼肉均可供应，但不得供应鹅及黄酒。境内的公文，今后一律使用廉价纸张；过去的公文习惯上在文后都留有空白，今后也一律废止。自条约公布之日起，境内的若干奢侈品要停止制造，包括特殊的纺织品、头饰、纸张文具以及甜食。
这些规定，有的不免失之琐碎苛细，本来就会生问题的。而他最后的垮台，正是因为他干预了境内的农田所有权所致。
还在海瑞受理田产纷争之前，他已经受到了监察官的参劾。参劾的理由是他不识大体，仅仅注意于节约纸张等细枝末节，有失巡抚的体统。随后，给事中戴凤翔以更严厉的措辞参劾海瑞，说他但凭一己的冲动随意对百姓的产业做出判决，在他的治下，佃户不敢向业主交租，借方不敢向贷方还款。这种明显的夸大之辞不免使人怀疑这位给事中是否已经和高利贷者沆瀣一气。更为耸人听闻的是，戴凤翔竟说，七个月之前，海瑞的一妻一妾在一个晚上一起死去，很可能出于谋杀。尽管海瑞答辩说他的侍妾在阴历八月十四日自缢，而妻子则在八月二十五日病死，但是给事中的参劾已经起到了预期的效果，不论真相如何，许多人已经怀疑海瑞确系怪僻而不近人情，所以才会发生这样的家庭悲剧。
事情极为分明，戴凤翔所代表的不仅是他自己。要求罢免海瑞的奏疏继续送达御前。吏部根据各种参劾的奏疏提出意见，说南直隶巡抚海瑞实为“志大才疏”，应该调任闲曹。这情形是如此微妙，一年之前没有人敢于非议这位朝廷上最正直的忠臣，一年之后他却成了众矢之的；一年之前文渊阁和吏部还因为海瑞的抗议，对他另眼相看，一年之后他们却建议皇帝让他去重新担任不负实际责任的官职。
愤愤不平的海瑞终于在1570年春天被迫辞职回乡，在提出辞职的奏疏中，他痛斥“举朝之士，皆妇人也”。这种一概骂倒的狷介之气，使他在文官集团中失去了普遍的同情。
海瑞从政二十多年，充满了各种各样的纠纷。他的信条和个性使他既被人尊重，也被人遗弃。这就是说，他虽然被人仰慕，但没有人按照他的榜样办事，他的一生体现了一个有教养的读书人服务于公众而牺牲自我的精神，但这种精神的实际作用却至为微薄。他可以和舞台上的英雄人物一样，在情绪上感动大多数的观众；但是，当人们评论他的政治措施，却不仅会意见分歧，而且分歧的程度极大。在各种争执之中最容易找出的一个共通的结论，就是他的所作所为无法被接受为全体文官们办事的准则。
海瑞堪称廉吏的典范，但就是这样一个好官，不仅在当时为多数人所不容而见弃，后世也无几人能真正以他为榜样。原因恐怕在于海瑞过于拘泥于传统的道德，而不通人情世故，他只是****机器上一颗忠贞的螺丝钉而已。所以终其一生并无丰功伟绩可言，惟有道德操守为后人敬仰，却又不可效仿。