我在军中依法办事是对的，至于小的忿怒，大的过失，不应当效法。
——曹操
晋代傅玄《傅子·治体》曰：“治国有二柄，一日赏，二日罚。赏者，政之大德也。罚者，政之大威也。’’告诉人们治理国家有两个是最基本的东西：一个是通过奖赏来激励百官，体现当政者的大德；另一个是通过惩罚来约束百官，体现当政者的威严，这两者都是控制人的手段。
曹操十分注重明赏罚分明，同时也不断地反省自己，“人恒过，然后能改”。
宛城一战，曹操大败。事后他深刻地总结了经验教训，认为失败的主要原因在于自己平时放松对军队的严格管理，致使执法不严，军心涣散，土卒不知有法，临阵溃散。为此，他重新制定了一套行军作战纪律。
事实上，曹操历来坚持有功即赏，有罪即罚。当十八路诸侯共讨董卓时，董卓的勇将华雄连斩联军数员大将，诸侯中无人可敌。此时，尚为平原县令刘备手下一名马弓手的关羽挺身请战。袁术当即怒斥，命人赶出。而曹操却说：“此人既出大言，必有勇略，试教出马，如其不胜，责之未迟。”结果，关羽片刻间便提华雄之头来见，这就是有名的“温酒斩华雄”。
大功大赏则是曹操行赏罚的一大特色，曹操奖赏张辽在天柱山勇破陈兰就体现了这一点。陈兰、梅成据六县反叛。曹操派于禁，臧霸去讨伐梅成，张辽监督张邰、牛盖等讨伐陈兰。梅成假意降于禁、于禁因此退兵。梅成就率领他的部下投奔陈兰，转入濡山。濡山中有座天柱山，山势陡峭，高二十余里，道路艰险狭窄，步行只能一人通过。陈兰在山上安营，张辽想进攻，众将说：“咱们兵少，道路艰险，不能深入攻敌。”张辽说：“咱们和他们一个对一个，正所谓势均力敌，只有勇猛的人才能取胜。”于是在山下，安营扎寨，然后进攻，最后杀了陈兰、梅成，俘虏了他们的部下。曹操后来论功行赏时说：
“登天山，履峻险，俘获兰、成，是荡寇将军张辽之功。”于是给张辽增加食邑，并给他持节，可在军中先斩后奏。个人有功，奖赏个人，集体有功，则慰劳全体。这是曹操行赏罚的又一个重要特征÷曹操率军进人汉中郡的治所南郑，顺利接收了张鲁留下的财物珍宝，对张鲁的做法深表满意。又得知张鲁本有归顺之意，于是派人前去巴中慰闸说服，以期早日把张鲁争取过来。
这次军事行动，在山区行进了将近千里的路程，爬山越岭，经历了不少艰难险阻，但最后终于夺取了胜利。曹操非常高兴，大摆宴席慰劳全军将士，大家无不兴高采烈，多日的辛劳，一下子抛到了脑后。
曹操一生，特别注重依法治军、治政，贯彻赏罚严明的原则。由于长期处于战乱状态，法有不宜，律有不及，执法亦有轻重不当。他推行的法治，突出表现在治军方面。他在《孙子兵法》的注释中，强调了“以法治军”的原则，并提出“设而不犯，犯而必诛”的主张。指出有了军法，就必须严格执行。还强调说：“礼不可治兵也。”治军应按军法从事。
因此在曹操的一生中，他制订了许多法律性的令文，如《论吏士能行令》、《败军抵罪令》、《封功臣令》、《军令》、《战船令》、《步战令》等等，很多是具体、明确的法律性条文。当其子曹彰要率军北征乌桓时，曹操还嘱咐他要按王法从事，对他说：“我和你在家为父子，受命为君臣，行动时要按王法从事，你应该慎重。”曹彰北征，进入涿郡界内，叛胡数千骑突然到来。当时兵马还未集合，只有步兵千人，骑兵数百。曹彰听从田豫的计谋，坚守要害，敌人才退走。曹彰追击敌人，亲自搏斗，战斗半天，铠甲上中了数箭，斗志却更加昂扬，乘胜追击，到了桑乾，离代郡二百多里。长史和诸将都认为兵马刚刚经过长途跋涉，劳顿不甚，又有上面的命令，不许过代郡，所以不同意深入代郡。
曹彰说：“率领军队进兵，哪里能取胜就去哪里，还管什么命令，胡人逃走未远，若追击一定能打败他们。遵守命令，放走敌人就不是良将。”于是上马，命令军士说：“后退者斩首。”奔走了一天一夜追上敌人，大破敌军，斩获俘虏数以千计。曹彰于是赏赐将土，部下都非常喜悦。
何夔在司空府任职，因曹操“性严，掾属公事，往往加杖，夔常蓄毒药，誓死无辱，是以终不见及”。何夔是一条硬汉子，认为“士可杀不可辱”，身藏毒药，一旦公事出错，受杖责之前即服毒自尽。也许正因为他爱惜生命才以毒药自戒，所以为官一生从不出错。
推行法治、审当赏罚，法律本身的得当也至为重要。在魏国建立之初，就存在着刑法过于严重的倾向。后来曹操采纳尚书郎高柔的建议予以更改。
魏国初建时，鼓吹（官职名）宋金等人在合肥叛逃，按法要拷治其妻儿。曹操还嫌太轻，要加重处罚。于是，主审官奏请将其母亲、妻子和两个做官的弟弟全部斩首。尚书郎高柔上书曹操说：“士卒逃亡，确实可恨；但逃亡者中亦有后悔的。我认为应该对逃亡者的妻子予以宽大，这样，不仅可使敌人不信任逃亡者，还可促使逃亡者回心转意。像以前那样的处置，逃亡者完全绝望，若再加重处罚，使现在军中的士卒人人自危，今后怕要相随而走了。可见，刑罚过重非但不能制止逃亡，反而会促使更多的人逃亡。”曹操听后称善，立即采纳了高柔的意见。
曹操能够按王法行事，确实是他能够成就霸业的一个重要因素。曹操自己在死前也深以为然，在他的遗嘱当中就有“我在军中依法办事是对的，至于小的忿怒，大的过失，不应当效法”的话。所以毛泽东肯定曹操一生功绩中的一个方面就是说曹操“推行法治”。