整顿积弊
张之洞非常重视人才的培养，认为人才的多少，决定着国家的强弱，所以他反复强调“人才日多，国势日强”，而要培养人才，在于兴学，因此他对学校教育的重要性有着较深的认识。他说：“人皆知外洋各国之强由于兵，而不知外洋之强由于学”，“国势力强由于人，人材之成出于学”。特别是他通过中法战争的刺激、办洋务的困难，更深切地感到人才缺乏，看到中国没有西方的船坚炮利，缺乏懂西文、明西政、会洋务的人才，实为对外交往的一大障碍。于是便为兴学育才而奔走呼号。他反复强调“今日中国欲转弱为富强，舍学校更无下手处”，“非育才不能图存，非办学业不能育才”，他批评那些不想兴学却想求人才的人“犹如不树林木而望隆栋，不作陂池而望巨鱼”，那是根本办不到的。当然，张之洞不可能从根本上认识中国落后的原因在于腐朽的专制制度，恰恰相反，他的兴学育才活动，正是为了维护封建统治。从其政治立场上看，他的教育思想无论是为培养“出为名臣，处为名儒”的学生，还是培养为国家自强的军事人才、科技人才、翻译人才等等，都贯穿着“中体西用”的思想，既坚持传授纲常名教的封建传统旧学，同时又主张增授西学，逐渐清除传统教育的积弊。他认为传统的科举考试“因题为文，文囿于题”，不是选拔人才的唯一途径，只有兴学，才能为国家多培养人才，甚至在临终前的遗折里，还强调“用人养才尤为国家根本之计”。张之洞的办学活动可说是呕心沥血，在朝野赢得了“第一通晓学务之人”的称誉。
兴办新式学堂
在中法战争之前，张之洞对书院教育较为重视，以为它可以培养出“通经为世用，明道守儒珍”的名臣名儒，因此创办了一系列书院，如湖北经心书院、四川尊经书院、山西令德书院、广东广雅书院等。在创办书院过程中，他经历了中法战争，此时的张之洞，身任两广总督，因重用老将冯子材，获镇南关大捷而名声大振，同时也感受到中国人才缺乏，认识到了人才比武器更重要。他说，如果“有船而无驾驶之人，有炮而无测放之人，有鱼雷而无修造演习之人，有炮台而不谙筑造攻守之法，有枪炮而不知训练修理之方，则有船械与无船械等”。此时他已看清了旧的书院，是不能培养出从事军事活动、洋务活动的专门人才，于是便有意识地开始进行书院改制。1890年5月，张之洞任湖广总督时，在武昌设立两湖书院，除设经学、史学、理学等六门课程外，又增设新学，开设了天文、地理、数学、测量、化学、博物学、兵学、史略学及兵操等新学科。1898年5月，经心书院亦酌照学校办法，开设外文，主张“中学为体，西学为用”。因为张之洞希望培养出来的人“既免迂陋无用之讥，亦杜离经畔道之弊”，“总期体用兼备，令守道之儒兼为识时之俊”。不过在此之后，他再也没举办过书院，而是开始兴办学堂。
张之洞办新式学堂，是受了两方面的影响，一是张之洞属两江总督后，身处“华洋杂处”之地的通商口岸，使其洋务思想进一步得到发展；二是在书院改制过程中，逐渐对书院的弊端有了新的认识，在实践中看到了书院不及学堂，感到“今日书院积习过深，假借姓名希图膏奖，不守规矩，动滋事端，必须正其名曰学，乃可鼓舞人心，涤除习气。如谓学堂之名不古，似可即名曰各种学校，既合古制，且以名实相合得来的当……”。1901年5月，他与刘坤一合奏《筹议变通政治人才为先折》，主张以学堂代替书院。张之洞并非中国近代史上创办学堂的第一人，但却是创办新式学堂最多的人，他一生共创办了军、工、农、商、医、师等一系列专门系统学堂。
1.武备学堂。同洋务派创办军事工业一样，张之洞最早创办的学堂也是军事学堂，从1887年起，他先后创办了广东水陆师学堂、江南陆师学堂、湖北武备学堂，目的在于培养军事人才。他认为，“查自强之策，以教育人为先；教战之方，以设立学堂为本”。当然，张之洞创办的种类武备学堂，既有增强自身实力，维护清朝封建统治，防范人民革命一面，也具有抵御外国侵略的一面。
2.实业学堂。张之洞在兴办洋务企业中，感到了人才之少，求知之难，于是便把兴学育才创办实业教育放到了洋务活动的首位。他在《劝学篇》中说：“石田千里，谓之无地；愚民百万，谓之无民；不讲农工商学，则中国地中广，民虽众，终无解于土满之讥矣”，这些充分表现了他对农工商教育的重视。为此他创办了许多实业学堂，其中主要有：1892年创办湖北矿物局附设化学堂、矿学堂；1891年创办湖北算术学堂、铁路学堂等，这些学堂虽然是零星开办的，但他们均以学习西方科技为目的。如在创办农务学堂时，张之洞申明其创办原因是：“窃唯富国之道，不外农工商三事，而农务尤为中国之本，……查农政修明以美国为最”，故“选募美国农学教习二人来鄂，……并购致美国新式农具，……兹于湖北省城设立农务学堂”，招“有志讲求农学者入堂学习，研求种植畜牧之学”。可见其办学目的在于学习西方先进科学技术。这些实业学堂的建立，为中国资本主义生产提供了一定的科技管理人员和技术人员。
3.师范学堂。张之洞在兴办各类学堂中，深切感受到师资难觅，为解决这一难题，他派出了30名学生赴日本学习师范，但这毕竟解决不了大量师资供应问题，于是决心创办师范学堂。他在秦折中说：“查各国中小学教学咸取才于师范学堂”，故认为“师范学堂为教育造端之地，关系至重”。根据这一指导思想，他先后创办了一批师范学堂，如1902年的湖北师范学堂、1904年设两湖总师范学堂及湖北师范传习所等六所师范学堂。这些师范学堂，为中国教育事业的发展培养了师资力量。
4.方言学堂。张之洞十分重视外语教育，他认为：“知中而不知外，谓之聋瞽，不通西语，不识西文，不译西书，人胜我而不信，人某我而不闻，人规我而不纳，人吞我而不知，人残我而不见，非聋瞽而何哉？”于是他积极办方言学堂，以培养外语人才。他创办的湖北自强学堂是当时全国最著名的外语学堂之一，在《自强学堂片》中，张之洞强调指出：“方言学习泰西语言文字，为驭外之要领”。为此他开设了日、英、法、德、俄五种外语。1898年他又办方言学堂仍开设上述五种语言。张之洞在谈其办学目的时说：“欲使学者皆能自读西书自研西法，……既不必读辗转传翻之书，致得粗而遗精，亦不致辞墨守西师一人之法，致所知之有限”。由于他大力倡导外语教育，对培养外语人才和引进、传播西学都创造了一定的条件。
5.普通学堂。在各类学堂创办发展的同时，张之洞也意识到了基础教育的落后，使兴学育才受到阻碍，于是便积极发展普通教育。为此，他先后创办了初等、中等、高等学堂，仅在武昌就设初等小学堂六十所，高等小学堂五所，此外又设中学堂、两湖大学堂。值得一提的是，张之洞对妇幼教育还是较为重视的，他在湖北先后创办了一些妇幼学堂，如1907年7月在武昌设湖北敬节学堂，聘日本教习讲授女子师范，家庭教育，同年又设湖北育婴学堂，聘日本女教习讲授保育幼儿、教导幼儿之事，1906年又设湖北女学堂，此为中国近代女学之始。
6.游学教育。游学教育既留学教育。张之洞十分重视这一点，他认为“出洋一年胜于读西书五年，……入外国学堂一年，胜于中国学堂三年”。在派遣留学生时，他特别重视留日，在他看来这样一是路费少，二是易于考察，三是文字易通晓，四是两国风俗相近，易仿行，赴日留学可取得事半功倍的效果。据粗略统计，湖北是当时派遣留学生最多的省份之一。后来相当多的留学生在民族危机面前，受到资产阶级革命思想的影响，站到革命一边，如吴禄贞、张继煦等。这又使得张之洞深感不安，于是分别制定《约束游学章程》、《奖励游学章程》，对所谓“妄发议论，刊布干予政治之报章”的留学生，要“立既停辍，如有不尊，既行退学”，对于“循理守法”的留学生，则给以举人、进士出身。张之洞具有浓厚的封建主义色彩，对于真正具有新的思想风貌的人才是不能容忍的，他办学的手段是新的，但要维护的体制却是旧的。
定学制，废科举
张之洞晚期在中国教育史上的一个重要贡献就是，主持制订了我国历史上第一个正式颁行的近代学制——癸卯学制，并对科举制度的废除，起了极为重要的作用。
1903年5月，张之洞应诏入京，与张百熙、荣庆商定京师大学堂章程。在此后几个月内，张之洞实际主持了一系列教育制度的制定工作，年底由清政府颁布了《奏定学堂章程》，制定了癸卯学制。这个学制第一次具体阐述了中体西用的立学宗旨，它规定“无论何等学堂，均以中孝为要，以中国经史之学为基，俾学生心术一归于纯正，而后瀹其知识，练其艺能。”这个学制，虽然是为维护清朝封建统治服务的，但它毕竟是一个“博考外国各项学堂课程门目”，以日本学制为蓝本，带有资本主义因素和色彩的学制。学校的培养目标由培养封建官吏和士大夫变为培养各种专门人才。各级各类学堂根据学制开放了西方近代学科，如历史、地理、算学、体操等；学校体系和管理制度日趋完善。于是近代中国以小学、中学、高等学堂为主干，辅以师范学堂与职业学校，以京师大学堂为最高学府的新教育体系形成了。
张之洞在制定近代学制的同时，对改革科举制度和废除科举也起了重要作用。张之洞是一个关于通权达变的人物，在从事洋务活动和教育活动中，他看到了科举制度的弊端，认为八股取士，“自明至今，行之以五百余年。文胜而实衷，法久而弊起”，建议清政府改革科举制度。1898年7月，他与陈宝箴上《妥议科举新章》长折，建议“合科举、经济、学堂为一事”，主张考试增设西学经济各科，如“各国地理、学校、财赋、兵制、商务、刑律等类”，以及“格致、制造、声、光、化、电等类”。清廷认为其所奏各节“剀切周详，颇中肯”立即通行各省，一体遵照，并令嗣今后一切考试，“不得凭楷法之优劣为高下”，而应以讲求实学、实政是务。1989年戊戌变法之时，张之洞又与湖广总督刘坤一会衔上奏折，洋洋万言，以“设立武学堂”、“酌改文科”、“停罢武科”与“将劝游学”等四事，专议育才兴学，提出“窃唯今日育才要旨，自宜多设学堂……方为有裨世用。”为此就要“渐改科举之章程，以待学堂之成就。……学堂人才渐多，即按科递减科取士这额，为学堂取士之额”。1903年，张之洞又与直隶总督袁世凯一起，向朝廷奏请变通科举，再以科举阻碍学校，请按年递减中额为言，指出：“学校之敌，……实募甚于科举。盖学校在于人才，科举所以抡才，使科举世闻名于学校一贯，则学校不劝自兴；使学校与科举分途，则学校始终有名无实”，原因在于学校“必累年后而成材，科举之诡弊相仍，可侥幸而期获售，……人见得其易也，群相率为剽窃钞袭之学，而不肯入学堂”，于是奏请“将各项考试取中之额，……按年递减”，“移作学堂取中之额”，使学堂“普兴，人才接踵而不可胜用”，但在变能科举实践中，他发现若不彻底废除科举制度，则兴学远望，于是又于1904年9月，同直隶总督袁世凯等人联合上呈《请立停科举以广学校折》，得到清廷的同意，谕令立即停罢科举，使在中国推行了1300多年的科举考试制度终于得到废止。
中学为体，西学为用
“中学为体，西学为用”，是张之洞的基本教育思想，其所著《劝学篇》就集中体现了这一思想宗旨。《劝学篇》分内篇和外篇，内篇九篇，讲中学；外篇十五篇，讲西学。“内篇务本，以正人心，外扁务通，以开风气”，要“中学为体，西学为用”，“新旧兼学”，“不可偏废”。