这一天，皇上要考察全国官吏，文武大臣一早就集合在皇宫门前，等候皇上临朝听政。汉宣帝特别兴奋，吃过早饭即临朝听候文武百官汇报情况。汉宣帝问：“今年谁的政绩最大啊？”“颍川太守黄霸。”文武百官异口同声。
汉宣帝问：“何以见得？”
大臣们七嘴八舌地说起来：“颍川郡的人口增加最多。”“颍川郡的孝子贤妇最多。”“颍川郡的罪犯最少。”
“颍川郡的吏治最廉洁。”
……汉宣帝越听越高兴，下令重加封赏颍川郡太守黄霸。
黄霸之所以受到文武百官的推崇，确实是因为他仁爱百姓，体察民情，善于整顿吏治的结果。
黄霸一上任，就召集全郡官员，商量治理全郡的办法。他问：“现在颍川郡主要存在什么问题呢？”
“最大的问题就是吏治问题，有些当官为吏的不好好为百姓办事，反而做一些奸邪的事情。”有些正直的官员说。
“再就是全郡都不尊重年纪大的人，年纪大了没有人管。”
还有些人补充说。黄霸仔细听了官员们反映的情况，经过认真地考虑，他想出了一个主意：“咱们成立一个由年龄大的官员组成的机构，专门负责调查全郡的官吏执法情况，如果遇到什么不法的现象，立即向我汇报，我自会严加管理。”黄霸又补充说：“这个机构同时督促百姓发展生产，照顾老年人，使老年人都能安度晚年。”这个机构的设立果然大有起色，全郡的官吏没有一个敢贪赃枉法的，人人都能认真为百姓做事。同时，对老年人也注意细心照顾，对孤独的贫穷老人，官府负责赡养。从此，人们对年龄大的人也很讲礼貌了。
这个机构还督促人民进行生产，他们在乡下来回察看，劝百姓好好耕地种庄稼，家家都要养蚕，养牲畜；房前屋后都种上树……通过督促，全郡的农业生产有了发展，人民的生活也好起来了。
黄霸还非常注重节俭，从不浪费官府的财产。有一次，颍川郡的一位官员得了病，另外一个官员告诉了黄霸，想辞去那位生病的官员。黄霸没有答应，他说：“那位官员为政怎么样？”“为政倒是很清廉。”“他生病的时候，辞去他很不好，就留下他吧。”
那位官员不理解。黄霸向他解释说：“你算一下，一个官员生病花多少钱？”
“大约十几两银子吧！”“假如我们再培养一个新的官员，将花费多少钱呢？”“大约一百两银子。”“这就对了。官府每年花在这些不必要的事情上的钱财够多的了。这其实都是老百姓上交的税，是百姓的血汗啊！所以，我们只要能节省就尽量节省一些吧！”
那位官员听了，敬佩不已。全郡百姓听说后，也都称赞黄霸的仁厚节俭之德。
黄霸为政，以百姓为中心，认真为百姓做事，仁爱百姓，社会安定，生产发展，不愧是一位仁人君子。