张百熙之所以能被后人称为中国现代“大学之父”，主要源于他的维新变法思想。1898年康有为在《公车上书》指出：“夫养人才犹如种树也，筑室可不日而就，种树非数年不荫，今变法百事可急就，而兴学养才不可一日致也，故臣请立学亟亟也。”就是说，要变法，首先要兴办学堂，培养人才。张百熙十分赞同康有为的变法必须先变教育之法的思想，也就是要废科举、办新学。只有办好新学、培养出众多人才，变法才能成功。所以，当张百熙受命担任管学大臣后，就以最大的热忱，竭尽全力改革教育制度，恢复、创办京师大学堂，在教育事业上做出了卓越的贡献。
其实，张百熙的改革变法思想，一直贯穿于他从政32年的全部过程之中，其发展脉络是：由爱国情怀到锐意改革，再到维新变法，最后成为坚定的维新派。
1840年2月，中国在鸦片战争中战败后，帝国主义列强陆续侵入我国，并强迫清政府与他们签订了一系列不平等条约，割地赔款，主权丧失殆尽。从此，我国逐步沦为半封建半殖民地社会，中国人民陷入了痛苦的深渊。由于清政府在中日甲午战争中失败，到1895年4月，日本逼清政府签订丧权辱国的《马关条约》时，全国人民无比悲愤，康有为在北京联合三百多名应考的举人，向皇帝上书，提出“拒和”“迁都”“变法”的主张，掀起了轰轰烈烈的“百日维新”运动。光绪皇帝采纳了他们的若干意见，并下了一百多道有关变法的诏令。张百熙深感清政府最高领导集团腐败无能，祖国的命运岌岌可危。他即刻向清廷面陈：“中国自强，在政不在教，在讲求政事之实际，不在比附教派之主名，请明降旨谕，禁用孔子纪元、七日沫沫等名目，以维持名教而免为从西之导。”张百熙还认为，康有为讲求实务，见识广博，因而，举荐康有为免试到经济特科。戊戌变法失败后，张百熙因此受到革职留用处分。由于他做了一些违心的检讨，西太后认为他的错误尚轻，不久就取消了处分。正如《清史列传》记载：“九日，以滥保康有为等，部议革职，加恩改为革职留任，十二月，开复处分。”张百熙这一冒着杀头危险举荐康有为的行为，表明他对康有为的才识是欣赏的，也表明他是同情和赞同戊戌变法的。
然而，张百熙并未因受到处分而改变维新变法思想，当处分被撤销后，只要一有机会，他仍然不断向清廷上奏改革变法的建议。1901年，清政府与八国联军议和后，西太后即将从西安回到北京，迫于形势，不得不下诏变法。张百熙抓住时机，积极上疏陈大计：“请改官制、理财政、变科举、办学堂、设报馆、变法图强。”建议清廷对我国政治、经济、军事以及文化教育等方面，进行全面改革。
张百熙在清廷担任过许多重要官职，曾经提出过许多改革变法的建议，有的还亲自进行了实践。在政治方面主要有下面几点：
实施君主立宪
政治改革，主要是国体、政体根本制度的改革。
1906年，张百熙与载泽等任编纂官制大臣，在清廷“预备立宪”之际，他曾向清廷密奏，请废除军机处，设“责任内阁”，内阁设正副总理。清廷军机处建于雍正时期，其目的在于加强君主专制，独揽大权。而所谓“责任内阁”，乃君主立宪之政体机构，乃三权分立之体现，它向国会负责。废除军机处，设“责任内阁”，即为削弱、限制、架空君权，加强民权，实行君主立宪。
改革官制
官制改革也是政治改革的重要方面。张百熙曾于1901年2月，就上奏清廷，提出“改官制”。清廷官制，是继承于古代封建君主制体制，中央行政机构，除皇帝外，主要有内阁、军机处、六部、都察院、理藩院，以及管理皇族宫廷事务的宗人府和内务府。这种体制，是为适应皇权集中和闭关自守的需要而产生的。
鸦片战争以后，帝国主义列强的侵入，各种对外交涉纠纷事端，不断发生。这些机构，不但不能及时灵活处理纠纷事端，反而成为帝国主义干涉我国内政的工具，而且，这些机构名不符实、隶属不明、职能不专、权限难分、互相推诿，不能发挥作用。张百熙缜密地研究了中国的国情和西方近代资本主义国家的官制，进而结合我国具体国情，向清廷建议“增改官制”，即将总理各国事务衙门改为外交部；设商部，以便管理中外商务，兴办企业；设学部，管理学务，兴办学堂及改革教育制度。
1906年，清政府迫于国内外形势发展的压力，准备实行所谓新政，并预备立宪。张百熙于是年九月又上书论述官制改革及地方自治。他认为，“官制者，政治之机钤，而地方自治者，国家之分体”。正是由于他积极提倡和在这方面的精辟见解，故曾受命于七月与载泽等编纂的新官制，于九月编定付诸实行。新官制取消了工部，成立了学部、农工商部、邮传部、民政部，刑部改为法部，户部改为度支部，兵部改为陆军部，每部只设尚书、侍郎各一人，力图使官制机构，适应门户开放后出现的新情况、新形势。新时期的官制改革，不仅可促使祖国富强，摆脱贫弱挨打的地位，在客观上也为中国近代的官制改革提供了借鉴和经验。
官员专业化
张百熙还提出，官员必须专业化。据《清史列传》记载，张百熙上奏提出：“任官之法，莫善于一事分任诸人，莫不善于一人普任各事，如京员尚、侍诸职，今日习礼者，明日使之知兵；外吏藩臬等员，此处掌刑者，他处责以治赋：其弊不可言也。”这就是说，原来使用官吏，只要通晓诗书八股、封建理论，就可以普遍使用，像万金油一样包治百病。指导礼仪的，可以要他领导军队；掌握刑法的，也可以要他去管理财政，根本不问他是否有这方面的专业知识。这种做法，实际上就是坚持以封建政治挂帅的“外行领导内行”，自然就会弊端丛生、朝政日衰。因此，必须进行改革。
1895年9月，张百熙为了实现政府官员专业化。在《清史列传》中记载，张百熙上奏提出“国家取士之法，视前代尤密。……首士之中，拔其优者为翰林，择之可谓精矣。而举世以不达时务轻之。沿江沿海之人，日与外人相习，其所学乃能为国家之用。夫取之而不用，是取之非其道也，用之非所取，是不得已而用之也。欲救其弊，莫如使取与用出于一。莫如使今日所取之士，尽习有用之学。经世之学，莫过于二端，曰政曰艺。故请旨将翰林院官制，酌量变通，……令学士以下，各视性之所近分研实学，以备时用。”
张百熙在这里揭露了清朝在使用官吏方面的一个严重弊端：即取与用不能一致，就是通过科举录取的士人，只知八股、诗文，完全不通晓国计民生的科学知识而无法使用，而沿海有的人，由于与西方人接触多，通晓近代科技或国计民生的专业本领，但又未经过科举，不能使用。如果“取之不能用，而用之非所取”长期下去，国家机关行政职能无法运转，“洋务”事业无法兴办，国家不能富强，只能长期处于贫弱挨打的地位。因此，张百熙建议改造翰林院。翰林院实际是国家贮备与输送高级官吏之所，他提出，一方面要改造体制，将詹事府与翰林院合并，和普通部院一样，设尚书、侍郎，以发挥行政效能。
另一方面，要改造现有的翰林学士，要他们“分研实学”，即要求被录取在翰林院的进士，根据自己的性情、兴趣、特长和其他方面的条件，学习研究现代专门科学技术，以便将来处于领导岗位时，能在专业方面进行具体有力的领导，从而实现政府官员专业化。
整顿官吏队伍
张百熙历来主张对各级官吏，都要任人唯贤，优升劣汰，严格管理，赏罚严明。凡朝廷高官犯有重大过失，他都要上奏弹劾，建议予以惩处。
甲午之役中国战败，原因是多方面的，但清政府中主持外交事务的北洋大臣、洋务派首领之一的李鸿章一贯采取投降政策，贻误战机责任难逃。他在日本侵入朝鲜，继而进攻中国时仍坚持避战静守的方针，使援朝清军处于被动挨打的境地，虽经清将聂士成、左宝贵指挥清兵英勇奋战，进行抵抗，终因后援不继，总兵左宝贵中弹牺牲，清军失利。陆战如此，海战亦相类似，提督丁汝昌率领的北洋舰队与日将伊东醩享率领的联合战队激战于黄海之上，互有损伤，但李鸿章避战求和，下令北洋舰队驶离旅顺港退守威海卫。由于李鸿章的错误方针使丁汝昌陷于腹背受敌，最后惨败，当时堪称亚洲第一大舰队的北洋水师全军覆没。泱泱天朝大国败于蕞尔小岛日本，不能不引起国民的极大愤慨，有识之士多对负有不可推卸责任的李鸿章不满，但敢于指责李鸿章的却不多。不仅不敢指责李鸿章，反而有些肖小之辈为了依附权势向上爬，还替李鸿章之流进行粉饰。而以天下国家为己任，视国家民族利益高于一切的张百熙却不顾个人身家性命，上书弹劾权倾朝野的李鸿章，指出李鸿章表面上作备战的样子而实际上暗中主和避战，致使“左宝贵、聂士成皆勇敢善战之将，以响械不继，遂致败绩”，这样的结果，其“咎在鸿章”。张百熙不仅敢于弹劾不可一世、位在己上的重臣李鸿章，而且对偏听偏信、一味依赖李鸿章的礼亲王世铎也不留情面，“又劾礼亲王世铎筦枢务，招权纳贿，战事起，一依鸿章，贻误兵机，皆不报”。张百熙之所以敢于冒犯权贵，直言进谏，原因不是别的，正是国土归异域，四海苍生泪，丧权辱国，民命倒悬的危局使强烈的爱国者张百熙义愤填膺，置个人安危于脑后。
甲午之败，李鸿章固然难辞其咎，但清朝上层统治者的腐败是更主要的原因。在连遭外辱，国势日困的晚清，光绪皇帝虽极想改革图新，但骄奢淫逸的慈禧太后却不顾国事一味追求腐朽奢华的生活，对光绪稍涉限制权贵糜费的革新措施大为不满。
中国人做寿，历来有以六十花甲为大寿的习惯，因为人生七十古来稀。慈禧太后一国至尊，其六十大寿被尊为万寿，不在宫中庆贺，要在颐和园万寿山举行庆典，祈其万寿无疆。一些趋炎附势的佞臣贼子借机给老佛爷谄媚，以为进身高升之阶，主张大办庆贺，提议自故宫至颐和园沿途多扎彩楼、彩棚，调集各地鼓乐、戏班、杂耍等等各色艺人为老佛爷献艺，祝她万福万寿万事如意。这样的大事铺张，耗费惊人，劳民伤财，无疑将使本来已经十分困难的清朝经济雪上加霜。忧国忧民的张百熙不忍袖手而上奏折，陈请节省国帑，太后“庆寿典礼，著仍在宫中举行”。光绪准奏，慈禧不悦，但又不便硬干。老佛爷的报复在以后的岁月中一并加在光绪头上，一泄她“今日令吾不欢者，吾亦令其终身不欢”的恶愤。
张百熙看到国家积弱为外强所侵，主张变法图强，对康有为等对国势的分析及提出的拒和、变法等主张深表同感，认为中国民众日益贫困，乞丐盗匪满山遍地，国家积弱不振，即使没有外患入寇，国力困竭，社会动荡，穷极生变也在所难免。因此他曾举荐力主变法的康有为到经济特科任事，并受到光绪皇帝的任用，成为推动维新变法的主要人物之一。百日维新在守旧派的反扑下失败，康有为逃亡日本，张百熙因荐举康有为获罪被老佛爷革职留任。但他并不消沉，而是“孤忠不忘蒙尘耻，万死难销报国心”。
张百熙切于报国，迫于救时，不顾自身利害，开罪权贵，足见其大勇大贤。中国知识分子居庙堂之高则忧其民，处江湖之远则忧其君，以天下为己任的优良传统在张百熙身上得到了很好的体现。