张元济是以教育开发民智，培育人才，进而振兴中国的“教育救国”思想的倡导者，又是以出版扶助教育的实践家，是中国教科书出版事业的奠基人。作为近代维新运动和文化史上有影响的人物，他虽然不是职业的教育家，但很早就立下“吾辈当以扶助教育为己任”的宏愿，通过各种方式投身于祖国的教育事业。
科举时代，没有近代的普通学校，只有启蒙教育和准备参加科学考试的私塾和书院，初学《三字经》、《百家姓》，进而读四书五经，不存在现代学校所备的教科书。
19世纪末，维新派人士呼吁废科举办学校，出现要求改革教育制度的潮流。至1905年，清廷明令废除科举制度，改书院为学堂，才正式开始有教科书之名。在这以前一些塾师在教课之余也编写过一些教科书，向社会发行，但由于没有专门机构组织及有实力的出版单位支持，大多质量粗糙不成体系。自1901年张元济进商务印书馆编译所，经蔡元培提议，组织由张元济、蔡元培、蒋维乔、高梦旦、庄俞等名家及专门人才参加的编写班子，开创了中国教科书出版事业。
1906年清廷学部制订学制，张元济奉军机大臣瞿鸿禨（曾任浙江学政，为张元济之“受知师”）之命，赴京帮助起草章程。这使他对新学制有深入的了解，遂能将教科书按照学制的要求，分成初小、高小、中学三类，编著各级各科的教科书，还附有教授法书相配套。
张元济工作作风审慎周密。在一课题初定之后，往往同时有数人编写，然后择优反复修改才定稿。短短一篇文字，往往花几天时间。从1902年起编，经数年努力，至1904年《最新初小国文教科书》第一册才问世。1906年完成2-10册，第二年又出版《最新高小国文教科书》全套8册，商务教科书风行全国，经营数十年。可以说50多年前就读的中国人，没有不读过商务的课本的，可见其影响的深广。
值得一提的是，张元济所编教材在帝制时代仍具备一定的民主思想。当时清朝的办学宗旨是“无论何等学堂，均以忠孝为本，以中国经史之学为基。”四书五经仍被规定为必修课。而张元济的意见是，先代圣人的微言大义，非幼童所能解悟，读经不宜于启蒙教育。他以“勿滥读经书”为由，巧妙地避开清王朝对课程的种种限制，致使教科书没有忠君的内容，而自由平等的新思想却得到一定的展示，因而受到教育界的欢迎，为大多数学校采用。
参与办学
1901年，张元济应创办人夏瑞芳邀请，投资商务印书馆，相约“以扶助教育为己任”。不久，张元济担任编译所所长，他开始积极编写出版新式教材。他约请我国近代科学编辑工作者杜亚泉编辑一套《文学初阶》作为启蒙学堂课本，学生读完便可转入小学，读《文学进阶》；请夏曾佑编写《中国历史教科书》。
1904年，清朝公布《奏定初等小学堂章程》，规定每周读经12小时，中国文字4小时，实质是强调“谈经”。张元济等人对此很不满，认为“不合教育公理”，于是决定自己动手，编写一套适合国情的新课本。
在张元济等人的努力下，商务印书馆在很短的时间里，就推出了一整套初等和高等小学最新教科书。1906年前，《最新国文教科书》陆续出版，共计十册，为初等小学所用。不久又出版为高等小学用的国文教科书八册。内容除国文外，还包括修身、格致、笔算、珠算、中国历史、中外地理、理科、农业、商业等。书中极力宣扬我国的悠久文化和古代圣贤的言行，同时极力矫正迷信、缠足、鸦片等社会陋习，“务使人人皆有普通之道德知识，然后进求古圣贤之要道，世界万国之学术艺能。”这正是张元济等人提倡普及教育、反对科举，欢迎西学、但反对数典忘祖的宗旨。
《最新国文教科书》出版后，在此后的十多年里，全国各地、包括被日本侵占的台湾在内，小学生大多使用这套课本，深深地影响了一代人。冰心后来在《我和商务印书馆》一文中回忆道：“我启蒙的第一本书，就是商务印书馆出版的线装的《国文教科书》第一册。我从《国文教科书》的第一册，一直读了下去，每一册每一课都有中外历史人物故事，还有与国事、家事、天下事有关的课文，我觉得每天读着，都在增长学问与知识。”
后来，商务印书馆又编了一些教科书，共计16科78册，统称为《最新小学教科书》。这些教科书从普及教育的宗旨出发，根据儿童特点，采取了由浅入深的原则，从儿童熟悉的事物讲起，满足了国人对新知识、新思想、新文化如饥似渴的需要，非常受国人欢迎，对近代中国普及教育事业做出了重要贡献。有人曾说，商务印书馆之所以能成为出版界巨擘，成为全国最大的文化机关，也是因为此套丛书。
戊戌变法时期的维新派改革旧政，侧重在教育方面，张元济主张废科举，兴学堂，注重时务和造就新人。而培养维新人才，必须从西学开始。因此，张元济最早参与教育的方式是直接办学，而且办的是西学堂。他在1896年给友人的信中说：“今之自强之道，自以兴学为先。”在“吾辈不操尺寸，惟有以身先之，逢人说法，能醒悟一人即救一人”的思想指导之下，他认为“时至今日，培养人才最为急先”。于是，便与陈昭常等人在北京宣武门象坊桥创办了西学堂，并于1897年2月12日正式开馆。设英语、算术、地理等课程，待外文精熟，再分科专习兵、农、商、矿、制造等等。由于西学堂以“国子之教，六艺是职，艺可从政，渊源圣门”为教育方向，综合了文学与艺术，故后来由严复改名为通艺学堂。通艺学堂提倡西学，培养维新人才，介绍欧美新理，讲求实学，吸引了不少子弟入学，一时声名大振。张元济的办学成绩受到了清廷大臣徐致靖的注意，徐在上书光绪的奏折中保举康有为、张元济为维新救时之才，说张元济“熟于治法，留心学校，办事切实，劳苦不辞。在京师创设通艺学堂，集京官及大员子弟讲求实学，日见精详，若使之肩此大任，筹划新政，必能胜任愉快，有所裨益”。
戊戌变法失败之后，张元济被革职，应盛宣怀之聘，至南洋公学创办译书院并任院长，后来继任总理。曾邀请蔡元培任南洋公学经济特班主任，讲授新学。不久后辞职。此后，张元济热心于家乡的教育事业，使海盐县的新学得到迅速发展。1907年，他专程回乡视察新办学堂，出席海盐县办学会议，为如何办好新学堂提出了具体的意见。1946年，他又捐出祖传住宅两进，包括大小房间36间，并宅基地六亩半全部捐赠给海盐中学，使之从抗战遭受的重创中恢复过来，得以复校。
此外，张元济任职的商务印书馆本身就是一个教育机构。从1915年起，这里附设函授学社，张元济亲自过问函授学社的师资和教材。函授的内容，由开始的英语增至国文、数学、商业、图书馆等各科；函授的对象，则大多是立志自学的青年职工。这种办学方式别具一格，是张元济的创举。
编撰新式教科书
“昌明教育平生愿，故向书林努力来”。在张元济心中，一直有个理想，即开通民智，教育救国。张元济认为，国家的政治全靠国民的意愿形成，而中国民众的知识水平太低，无论采用什么办法都难以很快达到最佳状态。国民教育的目的是让人人都受教育。学习的内容不需太高深，只要能了解处于当今世界不可不了解的事物，这样就可以自立于地球之上，否则难免不被别人奴役，遭到灭绝。
而当时中国的现实是怎样的呢？号称四万万人，但受过教育的人估计不过40万人，而这些人也只不过能背诵四书五经，写点八股文章罢了，对于生存于世所必须知道的事物，却是茫然无知。张元济心里非常担忧，因此他呼吁广设学堂，改掉“大厦将倾，群梦未醒”的弊端。
1902年1月，张元济在上海《教育杂志》上发表《答友人问学堂事书》，以答问的方式详细表述了他的教育观点。在文中，他提出了两条办学宗旨：一为勿存培植人才之见，不要只培养英才，而是要人人通过读书提高自身素质，要做到“无良无贱，无智无愚，无长无少，无城无乡，无不在教育之列”，“重普通而不可言专门”，得以“民智大开”；二为勿标讲求西学之名，反对教育上全盘西化。他这是针对当时办教育盲目崇尚西学而提出来的，尽管他本人比较仰慕西学，但他指出，各国教育之法都是以本国的民情、风俗、宗教、政体为基础，“各有其独立之道而不可以强同”，一切教育皆以国民精神为主，“故学成之辈，无不知爱其国、卫其种。”这些中国应学习。同时中国有数千年的文明史，“亦自有其不可不学之事，何必舍己芸人”，要中西结合，振兴中国。
为了实现自己的想法，张元济积极行动起来。当然，他所说的教育并不仅仅是设立学校，开班上课，而是运用各种文化设施和教育手段对民众进行教育。他认为实现自己“智民”理想的最佳办法就是办出版事业。为了适应废除科举和兴新学堂的需要，他出任编译所所长后做的第一件事，便是着手编辑小学教科书。他特聘日本人长尾桢太郎和小谷重为顾问，借鉴日本编辑教科书的经验。又以高梦旦等名士为编辑，共同组成“圆桌会议”，采用张元济所谓“每一课程，互相研究，反复推敲，必定多数以为可用而后止”的方式，经过半年努力，我国第一本小学教科书《最新初小国文教科书》第一册在1904年出版发行。还出版了《最新中学教科书》和《英文初范》等读本。这些教科书的销量日见增长，确立了商务印书馆在编印教科书方面的地位。
此后，商务印书馆几乎每年都对教科书有修订和新编。中华民国成立后，编印了《共和国教科书》。1920年，为适应新文化运动将文言文改为白话文的需要，编辑出版白话《新法国语教科书》和《新体国语教科书》。同年出版中学国语教科书《白话文范》，开始使用新式标点符号并提行分段。教科书的出版，对启迪和培养新一代的知识分子有着不可估量的作用，蔡元培曾这样评价道：“印刷之业，始影响于普通之教育。其创始之者，其为商务印书馆。《教科书》审慎周详，无不如是，大受教育界之欢迎。于是书肆之风气为之一变，而教育界受其影响者大矣。”