五十二年，江苏布政使一职缺员，张伯行上疏推荐福建布政使李发甲、台湾道陈（王宾）、前任国子监祭酒余正健，而皇上已将湖北按察使牟钦元提拔就任。不久，张伯行弹劾钦元将通海盗的罪犯张令涛隐藏官署中，请求逮捕治罪。令涛的哥哥元隆住在上海，造海舱，出入海洋，拥有大量资产，交接豪贵。赶上刑部下檄文搜缉海盗郑尽心余党，崇明水师捕住一条渔船，此船的主人是福建人，却假冒华亭籍，经过查验船照，知是元隆所代领。张伯行准备一追到底，当时令涛在噶礼府内任职，元隆托病逃避逮捕，案子未结却死于家中。噶礼先前弹劾伯行，曾抓住这件事作为七条罪状之一。正巧上海县百姓顾协一起诉令涛占据他的房屋，另外还有几处水寨窝藏海贼，声称令涛现在居住在钦元官署中。皇上命总督赫寿调查审理，赫寿庇护令涛，以通贼事查无实据而上报。皇上又命张鹏翮及副都御史阿锡鼐调查此案，张鹏翮等奏报元隆、令涛都是良民，请求夺去张伯行的官职。皇上命复查，并让张伯行自己陈述。伯行上疏说：“元隆通贼，虽然上报已死，然而他财产丰厚，党徒也多，人人可以冒名，处处可已领到执照。令涛是顾协一首先告发的，如果顾协一举报不实，照例应以诬陷治罪。由于钦元庇护，致使此案久悬未决。我作为地方长官，应该在事情刚刚发和时即加以防止，怎能不追究呢？”张伯行解任之后，张鹏翮等仍以他诬陷良民，挟私报复，要求斩首。刑法部门讨论同意这一建议，而皇上却免了张伯行的罪，调他到京城来。
不久，张伯行到南书房任职，兼代理仓场侍郎，并充当顺天乡试的正考官。后授为户部侍郎，兼管钱法、仓场，又充当会试副考官。雍正元年，提升为礼部尚书，皇上赐他“礼乐名臣”的匾额。二年，皇上命令他到阙里崇圣祠进行祭祀活动。三年，去世，七十五岁。张伯行留下遗疏，请求推崇儒学，奖励直臣。皇上悲痛悼念他，赠太子太保，谥清恪。光绪初年，准许附祭于孔子庙。
张伯行刚成进士时，回家乡南郊建造了一座精制的房屋，摆上了数千卷书以供纵情观览，看到《小学》、《近思录》，以及程、朱的《语类》，说：“进入圣人的门庭在这里呀！”他曾全力找到宋代理学四大学派周敦颐、程颢、程颐、张载、朱熹各位大儒的书，一边诵读一边抄录，前后共七年。最初任官时曾说：“圣人们的学问，概括为一个‘敬’字，所以学习没有比掌握敬更重要的。”因此他自号为“敬庵”。又说：“君子懂得义，小人只知利。老子贪生，信佛的人怕死，烈士追求名声。这都是属于利。”在官时所招致的，都是学问醇正、志向操行清廉的人，而且开始不让他们知道自己是做官的。平时对于意见不合的人，也仍与他们共事，开诚布公，同心协力，没有一点怨恨。他说：“已得到皇上的保全，怎敢以私而废公呢？”所著郁困学录入《续录》、《正谊堂文集》、《居济一得》各种书。
【原文】
张伯行，字孝先，河南仪封人。康熙二十四年进士，考授内阁中书，改中书科中书。丁父忧归，建请见书院，讲明正学。仪封城北旧有堤，三十八年六月，大雨，溃，伯行募民囊土塞之。河道总督张鹏翮行河，疏荐堪理河务，命以原衔赴河工，督修黄河南岸堤二百馀里及马家港、东坝、高家堰诸工。四十二年，授山东济宁道。值岁饥，即家运钱米，并制棉衣，拯民饥寒。上命分道治赈，伯行赈汶上、阳穀二县，发仓穀二万二千六百石有奇。布政使责其专擅，即论劾，伯行曰：“有旨治赈，不得为专擅。上视民如伤，仓穀重乎？人命重乎？”乃得寝。四十五年，上南巡，赐“布泽安流”榜。
寻迁江苏按察使。四十六年，复南巡，至苏州，谕从臣曰：“朕闻张伯行居官甚清，最不易得。”时命所在督抚举贤能官，伯行不与。上见伯行曰：“朕久识汝，朕自举之。他日居官而善，天下以朕为知人。”擢福建巡抚，赐“廉惠宣猷”榜。伯行疏请免台湾、凤山、诸罗三县荒赋。福建米贵，请发帑五万巿湖广、江西、广东米平粜。建鼇峰书院，置学舍，出所藏书，搜先儒文集刊布为正谊堂丛书，以教诸生。福州民祀瘟神，命毁其偶像，改祠为义塾，祀硃子。俗多尼，鬻贫家女，髡之至千百，伯行命其家赎还择偶，贫不能赎，官为出之。
四十八年，调江苏巡抚，赈淮、扬、徐三府饥。会布政使宜思恭以司库亏空为总督噶礼劾罢，上遣尚书张鹏翮按治。陈鹏年以苏州知府署布政使，议司库亏三十四万，分扣官俸役食抵补，伯行咨噶礼会题，不应。伯行疏上闻，上命鹏翮并按。别疏陈噶礼异议状，上谕廷臣曰：“览伯行此疏，知与噶礼不和。为人臣者，当以国事为重。朕综理机务垂五十年，未尝令一人得逞其私。此疏宜置不问。”伯行寻乞病，上不许。鹏翮请责前任巡抚于准及思恭偿十六万，馀以官俸役食抵补。上曰：“江南亏空钱粮，非官吏侵蚀。朕南巡时，督抚肆意挪用而不敢言。若责新任官补偿，朕心实有不忍。”
命察明南巡时用款具奏。伯行又疏奏各府州县无著钱粮十万八千，上命并予豁免。
噶礼贪横，伯行与之迕。五十年，江南乡试副考官赵晋交通关节，榜发，士论譁然，舆财神入学宫。伯行疏上其事，正考官左必蕃亦以实闻，命尚书张鹏翮、侍郎赫寿按治，伯行与噶礼会鞫，得举人吴泌、程光奎通贿状，词连噶礼。伯行请解噶礼任付严审，噶礼不自安，亦摭伯行七罪讦奏。上命俱解任，鹏翮等寻奏晋与泌、光奎通贿俱实，拟罪如律；噶礼交通事诬，伯行应夺官。上切责鹏翮等掩饰，更命尚书穆和伦、张廷枢覆按，仍如前议。上曰：“伯行居官清正，天下所知。噶礼才虽有馀而喜生事，无清正名。此议是非颠倒，命九卿、詹事、科道再议。”明日，召九卿等谕曰：“伯行居官清廉，噶礼操守朕不能信。若无伯行，则江南必受其朘削几半矣。此互参一案，初遣官往审，为噶礼所制，致不能得其情；再遣官往审，与前无异。尔等能体朕保全清官之意，使正人无所疑惧，则海宇升平矣。”遂夺噶礼官，命伯行复任。
五十二年，江苏布政使缺员，伯行疏荐福建布政使李发甲、台湾道陈瑸、前祭酒余正健，上已以湖北按察使牟钦元擢任。未几，伯行劾钦元匿通海罪人张令涛署中，请逮治。令涛兄元隆居上海，造海船，出入海洋，拥厚赀，结纳豪贵。会部檄搜缉海贼郑尽心馀党，崇明水师捕渔船，其舟人福建产，冒华亭籍，验船照为元隆所代领，伯行欲穷治。是时令涛在噶礼幕，元隆称病不就逮，狱未竟而死於家。噶礼前劾伯行，因摭其事为七罪之一。会上海县民顾协一诉令涛据其房屋，别有水寨数处窝藏海贼，称令涛今居钦元署中。上命总督赫寿察审，赫寿庇令涛，以通贼无证闻；复命鹏翮及副都御史阿锡鼐按其事，鹏翮等奏元隆、令涛皆良民，请夺伯行官。上命复审，且命伯行自陈，伯行疏言：“元隆通贼，虽报身故，而金多党众，人人可以冒名，处处可以领照。令涛乃顾协一首告，若其不实，例应坐诬；钦元庇匿，致案久悬。臣为地方大吏，杜渐防微，岂得不究？”既命解任，鹏翮等仍以伯行诬陷良民、挟诈欺公，论斩，法司议如所拟，上免其罪，命伯行来京。
旋入直南书房，署仓场侍郎，充顺天乡试正考官。授户部侍郎，兼管钱法、仓场，再充会试副考官。雍正元年，擢礼部尚书，赐“礼乐名臣”榜。二年，命赴阙里祭崇圣祠。三年，卒，年七十五。遗疏请崇正学，励直臣。上轸悼，赠太子太保，谥清恪。光绪初，从祀文庙。
伯行方成进士，归构精舍於南郊，陈书数千卷纵观之，及小学、近思录，程、硃语类，曰：“入圣门庭在是矣。”尽发濂、洛、关、闽诸大儒之书，口诵手抄者七年。始赴官，尝曰：“千圣之学，括於一敬，故学莫先於主敬。”因自号曰敬庵。又曰：“君子喻於义，小人喻於利。老氏贪生，佛者畏死，烈士徇名，皆利也。”在官所引，皆学问醇正，志操洁清，初不令知。平日齮龁之者，复与共事，推诚协恭，无丝毫芥蒂。曰：“已荷保全，敢以私废公乎？”所著有困学录、续录、正谊堂文集、居济一得诸书。