作为一个教育事业家，马相伯除创办震旦、复旦外，还协助英敛共同筹划创建了辅仁学社（即辅仁大学之前身），并曾任北大代校长。他还捐办启明、静宜、培根等女校。“为中国近代教育的振兴竭尽心力”，这句话是马相伯1907年在日本对中国留学生发表的一次演说中提出的口号，这个口号实际上集中反映了马相伯办学的指导思想。马相伯虽然信奉天主教，可是他对于某些外国传教士利用帝国主义特权，进行文化侵略的行径十分愤慨。他站在维护祖国利益的立场上，明确地提出办学、读书是为了救国，而救国又必须办学、读书，传播和学习科学知识。这就比较正确地解决了半殖民地半封建社会条件下高等学校的办学宗旨问题。
马相伯曾经说：“我幼时便因国家忧患而感受痛苦。记得法文通史课本中，有对我国所下评语，讥刺我们这种民族，是无功来呼吸天地间的空气。”这种刺激，在他的心里留下了屈辱的记忆。当他从徐汇公学毕业，法国领事署来聘他做法文秘书时，他断然拒绝道：“我学法语，为中国用的！”这种爱国报国的思想，随着年龄的增长，阅历的丰富和思想的成熟，以及对中国社会越来越深切的认识，变得更加坚定了。
震旦初创时，正值民国前资产阶级革命风起云涌，反帝反封建呼声日益高涨之际，马相伯慨然宣称：“欲革命救国，必自研究近代科学始，欲研究近代科学，必自通其语言文字始。有欲通外国语言文字，以研究近代科学，而为革命救国之准备者，请归我。”把学院定名为“震旦”，“盖兼取东方光明及前途无量之意焉”。爱国之情，救国之心皆溢于言表。学院成立后，广收“四方思想不同、派别不同的有志青年”，其中有相当一部分学生来源于为反抗封建压迫而退学的南洋公学学生及解散了的爱国学社的部分学生，因此学生中的爱国精神和民主意识特别强烈。学院院章上规定：“教师上课，不谈宗教；学生在院，不谈政治。”前者严格执行，后者形同虚设。马相伯不仅对当时在校学生中的著名革命党人马君武、邵力子、刘成禺等人十分爱护、器重，自己在某种程度上也参与了政治活动。他主动将因诗稿《半哭半笑楼》讥讽时政、倡言革命而被清廷通缉逃到上海的青年举人于右任招入震旦，以“刘学裕”之化名注籍并特免其学费。当于右任表示恐累及学院及马相伯本人时，马相伯坦然道：“余以国民一分子之义务，为子作东道主矣。”当时的震旦，马相伯为救国而办学教书，学生为救国而学习读书。后来为反抗帝国主义的文化侵略而全体罢学离校，虽属创举，实非偶然。复旦成立后，校园内更是革命精神弥漫。同学多富于革命精神，关心时事，每周的中文作文，较多论及当时时局政治、实业问题。于右任在办民呼、民吁报时，往往择其优秀者，作为该报社论发表。读书与救国，成为复旦师生心目中不可或缺的两大责任。当时舆论认为复旦是革命党的产生地。
但是，马相伯不赞同学生以社会活动为唯一任务，以社会活动代替学习。他认为学生的主要任务是学习，只有具备了一定的文化知识，才能做到“以科学救国，以科学建国，以科学创造全人类的福利”。为防止学生因学习西方科技而崇拜西方文明乃至嫌弃自己还不富强的祖国，做出有失国格、人格的事情，他严肃地告诫学生，“西人学社名位可受”，因为“学问社会，世界人类共有，不必分中西以立异也”，但是，个人是属于国家民族的，“出处行藏，不能稍事通融”，所以“西国富贵官爵不可受，谄西人而挟图本国之富贵者，更为可耻。前有洋奴，今有汉奸，君子不为也”。
马相伯认为，培养救国兴邦、振兴民族的人才，必须使他们求得“真的知识”和“活的学问”。他反对把“读经”作为学校的主要课程。他说，经学完全是空虚的形式，大家中了空虚形式的毒，其流弊之极，便有两个毛病：一个是冬烘头脑，一个是欺饰心理。他认为，“中国今日之危亡，实根因于科学的落后”，而要救国，必先振兴科学。要振兴科学，就必须改造中国封建教育制度，学习西方文明。他主张“尽彼所长，转授国人”，为我所用，使我国“与世界同尽其能”，“以科学创造全人类的福利”。
但是，马相伯不赞成盲目学习西方文化，他办震旦和复旦，都是为了鼓励青年学习西方先进科技，但他绝不视传统文化为敝屣，这在当时“滔滔然有蔑视国文之恶风”的环境中可谓是明智的特立独行。在他亲自制订的震旦办学宗旨中，明确地规定：“使中国青年不出国门，无须以巨量牺牲之代价远适异邦，即可求得其必需之学术，因而对本国文化更可有明确之认识。”震旦学院规定，学生肄业“以本国文学优长者为及格”。1905年制订的《复旦公学章程》中亦规定，如发现学生“有意唾弃国学，虽录取亦随时屏斥”。他虽然竭力提倡西学，全心全意地投身于传播西学的工作中，但他明确那是“为中国用的”，是为中国振兴的一种手段。他旗帜鲜明地反对不顾中国具体情况实行全盘西化，把那种对中国数千年来遗留下来的文化精华全部置之脑后的数典忘祖的做法称之为：“这可异乎第二把秦火？”所以，马相伯提出的求得“真的知识”和“活的学问”，并不是笼统地指学习西方文明，而是指学习对于振兴科学、救国救民有用的知识。凡是符合这种要求的知识，不论是西方的还是中国的，都要学习，都要“求得”。
马相伯强调课程的拟定“盖必先市社会所需，人民所缺而后可”。从震旦、复旦两校的创建过程中，不难看出其顺应时代潮流发展的特点。当时西文教育思想（或称方言教育思想）盛行，西文教育由于对外交往随着国门被轰开而骤增，可是，马相伯办学并不是为没落清廷培养几个交涉人才，他认为“世界竞争日亟，求自存者，必先知彼为。先知彼者，必通其语言文字”，“况泰西科学，皆有新知，不识其文，末由取益，必至彼已累变，我尚懵然”。所以在其亲订的《震旦学院章程》中规定了比较完备的课程，包括语文、数学、格物、致知四个门类。“习英、法、德诸现代语以应世用”，而数学、格物、致知则使学生对科学、哲学有个基本态度和了解，使其培养的人才能“从事翻译欧美科学书籍，取其精华，作为借镜”，通过培养这种学有所长，兼通东西方文化的人才来架起一座引进西方科技的桥梁，这使震旦在当时译书局林立、译才如过江之鲫、滥竽充数者比比皆是的环境中脱颖而出，独成一派，赢得社会好评。到复旦的创办则更进一步，其不仅仅是要培养译学人才，也要直接培养科学研究人员。“于南北适中之地，设一完全学校，俾吾国有志之士，得以研究泰西高尚诸学术，由浅入深，行远自迩，内之以修立国民之资格，外之以裁成有用之人才”。复旦的课程表也比震旦更为丰富、系统。文科专业的课程有伦理学、国文、英法文或德文、历史、地理、数学、论理（逻辑学）、心理学、理财学（财政学）、法文、簿记学、体操、音乐、拉丁文。理科专业的课程为理学、国文、英法文或德文、数学、物理、化学、地质、矿物、动物、植物、测量、图画、体操、音乐、拉丁文。与1902年的壬寅学制和1903年的癸卯学制中的大学预科课程相比，也是先进的。上述两种学制中，经学课是其中最重的课，也是清朝政府赖以控制教育方向的一个手段。但在震旦、复旦，除必要的国文课外，都不进行经学教育，体现了坚决的反封建意识。
借鉴百家经验
为了使学生学到真正有用的知识，马相伯还吸取了洋务派维新派之经验教训，在教学组织管理方面作了改进。马相伯说：“大抵洋人办学，辄有二弊：一不重汉文，或重而不得其道；一所授西文程度太浅，盖视十五六岁华生等于五六岁者授之；或所授非浅，而不知选择华人所喜者。即以科学论，亦鲜能彻底。”他办学时，对教学极认真，对教师要求也极严格。震旦时，因师资力量薄弱，他不辞近古稀之高龄，亲自教授拉丁文、数学、哲学等课。复旦办学规模扩大后，教师队伍加强，即使在最困难的初期，教师大多数仍属一时之选。如邵力子、于右任等人教国文，薛仙舟教德文，曹惠群、李松泉教物理、化学，朱葆芬教数学等。他们教学认真，要求严格，学生学习刻苦，风气淳朴，毕业生水平较高。1915年大学预科毕业生张荐，经美国耶鲁大学特许，插人该校本科二年级学习，被誉为“留学界之异彩”。
他在选择教材上，一反当时使用浅薄外文作课本的习俗。当时教英文所用的课本，大都是英国人教印度人用的，浅薄鄙俗，毫无意义。震旦学院“其肄业之书，非名家著Classicalauthor不授”。马相伯精选西塞罗演说为拉丁文课文，选莎士比亚作品为英语课本，他还自编《拉丁文通》与《致知浅说》作为拉丁文及哲学课的教材。他确实是兢兢业业，认认真真，撷取西方文化之精华“转授国人”，为中华的振兴而办教育。