1907年正月，张百熙病重，二月辞世。清廷“谕旨”：“邮传部尚书张百熙，公忠清亮，学问闳通，兹闻溘逝，悼惜殊深。”追赠太子少保衔，谥号文达。张百熙逝世，许多开明官吏和知识分子十分悲痛，纷纷撰联悼亡。林琴南挽有：“四扇潼关开晓日，一江湘水动悲风”联句。京师大学堂赠联：“有成德者，有达材者，有私淑女者，先后属公门，咸欲铸金酬范蠡；可为痛哭，可为流涕，可为长太息，艰难值时事，不堪赋鹏吊长沙。”严复父子赠联：“谓公来日方长，为清时丕焕新猷，画索开疆，功名接武曾胡左；讵尔昊天弗吊，不中国又遗一老，山颓人萎，太息同声亚美欧。”京师译学馆英文教习、英国法院大律师何福爱、英国大学师范教习古致尔合致一联：“是中朝司马温公，欧阳文忠一流人物；与我国杞辣士瑞、斯宾塞尔并驾齐驱。”（杞辣士瑞是英国维多利亚王朝的首相，一译作格莱史东）。俄文教习、圣彼得大学文学士葛里格赠联：“问学界创始何人，上国观光，愧我才犹未学；看邮传落成有日，下风愿拜，如君德合置邮。”
张百熙去世时，就连荣庆也执笔赠联。荣庆本和张百熙同为京师大学堂管学大臣，虽出身翰苑，却是强硬顽固派，慈禧太后将他派往京师大学堂就是为了监视张百熙。即便如此，身为同僚也不得不佩服张百熙的学识和品格。他的挽联是：“负韩欧伟望，输文富大年，天不怒遗斯世痛；钟湘岳灵奇，蕴蔺荃忠爱，魂兮归去，楚江寒。”结款署“侍馆生荣庆”。
张百熙在为官三十多年的生涯中，积极主张变法自强，直言进谏，历经坎坷，而为国为民一片丹心。1840年鸦片战争之后，张百熙深感国事不振，人民受辱。“身危出豺虎，转念伤精魂”，“仓卒颦鼓来，跣跣惊逃奔”。作为深受儒家伦理熏陶的知识分子和封建官吏，他不可能投身人民革命运动中去，只寄希望于封建统治者振兴国事，富国强兵，爱护百姓。
每当国家遭受帝国主义侵略时，他总是慷慨陈词，希望朝廷抵御外侮。《清史稿·张百熙传》载：“光绪二十年，朝鲜衅起，朝议多主战。百熙疏劾李鸿章‘阳作备战，阴实求和’，左宝贵、聂士成皆勇敢善战之将，以饷械不继，遂致败绩，咎在鸿章。”又劾“礼亲王世铎枢务，招权纳贿，战事起，贻误兵机，皆不报。”接着，他“屡陈兵事、集师接济之法，固本捍卫之方，捐助军输之策，拘治奸细之律”，先后上疏光绪帝，并且多被采纳。既表现出捍卫领土的政治远见，也显示了军事谋略的卓识。张百熙推荐老将前福建水师提督彭楚汉等人统率军队。又张百熙以一个政治家的韬略对形势作出了冷静正确的分析，主张抗敌御侮，憎恨贪官侵蚀国力，表现出了一个爱国主义者的胆识和睿智。
1894年，清政府为了换得暂时安逸，不惜丧权辱国，派李鸿章到日本求和。张百熙急奏：和议条约，传闻骇听。认为日本要挟过甚，以将留下许多后患，必须积极备战，才能挽回危急局面。1895年4月，李鸿章与日本首相伊藤博文在日本签定了中日《马关条约》。面对中华民族的奇耻大辱，张百熙拍案而起，大声疾呼，陈述意见十四条，特别指出通商条约，弊混滋多，中国利权宜防损失；请饬通商大臣把日本人进入中国境内的商务和中国民族工商业明确划分开来，保证民族工商业的发展。张百熙的这些见解无疑是高瞻远瞩，卓有见地的。张百熙又与侍郎李文田等人再次参劾李鸿章、孙毓汶，请旨启用主战派恭亲王奕訢。
清政府腐败无能，诚然不可能因此得以根本改变，然而张百熙富国强兵、维护国家主权的思想，正顺应了历史潮流，难能可贵！他满怀痛疾，饱蘸血汗写下著名的诗章：“尺寸吾王土，金台大海头。伤心论异域，断臂弱神州。失策和戎日，庸臣误国秋。河山无意绪，风雨暮萧飕。四海苍生泪，春来冷欲冰。早闻空杼柚，何以款金赠。利尽民膏血，才穷帝股肱。吞声向穷昊，悲愤郁填膺。”显而易见，张百熙不仅想到“王土”“论异域”，而且更是想到给广大人民所带来的深重灾难。徐世昌《晚清诗汇》记：“文达久值南斋，知遇极隆。甲午后，痛心外患，故于变法、改革、兴学诸大端陈奏，汲引才智，惟恐不及，以是时论翕然归之。”这个评述是符合历史事实的。在甲午战争期间还有一件事值得说明。
与一个个唯唯诺诺的封建官吏相比，张百熙为国家为民族敢于坚持自己的意见。中日甲午战争之后，帝国主义列强根据“最惠国待遇”，与日本共享外交特权——在通商口岸开设工厂。这是一个没有主权、没有经济实力的泱泱大国的耻辱。外患日逼，国将不国，战后各地人民的反抗，使深处宫闱的光绪皇帝也感到“非变法不足以图存”。同时，也想援引维新派排斥后党西太后的势力，以“脱离太后之束缚”，巩固政权，摆脱经济危机。张百熙历来主张变法自强，曾经片陈：“中国自强，在政不在教，在讲求政事之实际，不在比附教派之主名，请明降旨谕，禁用孔子纪元、七日沐沐等名目，以维持名教而免为从西之导。”等语，积极支持变法维新。
其时康有为有《公车上书》等著名奏疏，其中有“民日穷匮，乞丐遍地，群盗满山，即无外衅，精华已竭，将有他变”的论述。这与张百熙经世济民的思想不谋而合，认为康有为讲求实务，见识广博，因而举荐康有为免试到经济特科。戊戌变法时，张百熙以内阁大学士在广东任学政，不在北京，百日维新时的所作所为，史料记载不详。但是从他的信札、诗作之中仍可见一斑。他给好友礼部侍郎江苏学政瞿鸿机的一封信中说得比较具体：“百熙不肖，以门音知于人，几获大戾，为师友辱。然区区愚忱，迫于救时，切于报国，至于不顾利害而汲汲为之……虽亦觉其危言党论，不无偏激，而通晓时势，似有过人之才。不谓包藏祸心，陷于悖逆。是则愚蒙无识所未及深察隐微者矣。”而后笔锋陡转，慷慨激昂地写道：“时局日益阽危，德人之于胶州，俄人之于旅大，英人之于九龙，法人之于广湾，瓜华之端见，西人所谓势力圈也。势力之圈所在，他国不得诅害。如英人向译署言：长江一带，不得割与他国。盖认为其权力所到也。切肤之痛至此，或犹以为不过割我海疆边境而已，岂非梦梦哉……。”
可见，张百熙举荐康有为完全出于一片报国之心，绝无党同之见。他并不认识康有为，只是从其言论中产生共鸣，认为康有为是个人才，于国自强颇有见地。而“包藏祸心，陷于悖逆”的说法，只是出于不得已。“明非有心，其时情态如此，盖处境使然耳”，这个评价还是比较中肯的。而且，张百熙后来自疏检举也是因为如此。这时，翁同龢虽已被罢官回乡，却拒绝承认荐举康有为，“改缮日记”，“避免贾祸”：“康逆进身之日，已微臣去国之后，厥后臣若在列，必不使此逆猖狂如此。”实际上光绪帝诏定国是比翁同龢被黜退早四天，光绪帝诏见康有为比翁同龢被黜退早两天，翁同龢完全了解光绪帝启用康有为实行变法的事。此外，洋务派首领之一张之洞起先也积极支持新政，但他历来善于见风使舵。变法失败后，投向西太后，因而得以免除处分，反而得到慈禧太后的重用。
历史上这种翻云覆雨的事并非绝无仅有，但张百熙全然不顾利害，坚持变法自强。在上面这封信中还说：“一人一事之当处，一家一室之祸福，殆不足言。”相比之下，张百熙忠厚之中透出刚烈，令人长想，可歌可泣。这种情势在他的诗作中表现得更加鲜明。“绍圣当年党祸深，遗编千载一沾襟。神京北望恩非浅，瘴海南迁老更侵。报国孤忠空白首，投荒九死见丹心。桄榔尚说庵居旧，笠屐风流何处寻。”不仅赞美了苏轼“孤忠报国”之心，也是他睹物思情的内心独白。隐含自己为国家、民族实现其改革理想而矢志不渝的情怀，深深透出变法理想不得实现的幽怨与沉思。面对破碎山河，生灵涂炭，尤其清政府割让香港之后，张百熙更是发出了撼人心魄的悲鸣：“台影海珠沉，龙蛇撼到今。地凝人境绝，山惜鬼工深。天意捐荒岛，涛头激壮心。”对英雄将士，寄予着深深崇敬。如诗句：“二三坐论时何补，十万横行志可哀。太息玉池头白叟，岛烟深处片帆开。”前方战士浴血奋战，而朝廷帝、后主战主降，坐失良机。所以在梦中也希望祖国强大，憧憬胜利的情景：“八方草木森兵气，一震雷霆壮国威。天上喜看飞将落，车前生系左贤归。”
张百熙一生做过许多官，而且久值南斋、文渊阁、翰林院，是清廷的近臣。同时，又多次放“外任”，走遍了大半个中国。他了解民生疾苦，深切同情苦难的人民，痛恨贪官污吏。清晚唐诗派人物易宗夔《新世说》评其《感怀》诗说：“张冶秋置身通显，而爱国忧时于杜陵为近。光绪戊戌、己亥间，蒿目时事，郁郁不自胜，尝为《感怀》诗八首，悲壮淋漓，直逼《秋兴》。”其一写道：“戎氛近逼姬周日，党祸纷乘赵宋年。忧极其思蹈东海，时危忍见哭伊川。乾坤扰扰事未已，风雨萧萧秋可怜。万里敢忘心报国，诸君应有力回天。”一片忧国忧民之情，耐人深思。