1905年，李瑞清来到南京，署江宁提学使。
这是一个新旧文化大革命的年代。戊戌变法失败了，但废书院、兴学堂、罢私塾、设师范的浪潮风起云涌，迅猛地撕裂着旧的封建教育体制，正是主持学政者的多事之秋。
两年前，前任总督刘坤一、张之洞等，利用江苏、安徽、江西三省的财力，在南京鸡笼山下创办了三江师范学堂（今南京大学前身）。这时候，学堂学生正为学堂名称发生省界纠纷，不同地区的势力也掺和进去，事态有进一步扩大的趋势，原任监督杨觐圭辞职，现任监督徐乃昌束手无策，时任两总督周馥断然下令，改“三江”为“两江”，并派提学使李瑞清前往劝导开谕，骚动逐渐平息，一切恢复正常。周馥便直接委任李瑞清为两江优级师范学堂监督，时间已是1906年了。
从科举进入仁宦之途的李瑞清，对办学，特别是办新学心中是无数的。只做官，不办事，吃着俸禄，内心有愧。恰好清廷新设立学部，学部尚书荣庆是伴食宰相，庸庸碌碌，一切政务俱出于有一定维新意识的学部侍郎严修的擘划。他规定各省提学使未经出洋者补派出洋。中国的近代教育是从模仿日本开始的，也就是到东洋日本去考察教育。李瑞清紧紧抓住这一机遇，主动要求去日本学习。他在日本，不像另一些提学使游山逛水，嫖妓宿娼，而是认真地请日本教官讲教育行政，比较两国教育的利弊得失。有鉴于中国自然科学的落后，实用技术的缺乏，萌生了聘请洋教习的念头。想到了就行动，以身在日本，就近考察，择聘了以松本孝次郎为首的12位有真才实学的教习，为两江师范教学水准的提高打下基础。
日本教习除松本管理教育兼总干事外，其他皆分任理、化、农、博、音、图、手工的教员。而修身、历史、地理、文学、算学、体操各科的教学，则由举、贡、增、廪出身的中国教员担任，其中虽不乏睿智之士，也不少“冬烘先生”。比如当时担任舆地科（地理）的教员讲的既不是舆地内容，回答问题荒唐可笑，自己弄不清该科目的教学内容，学生议论纷纷，强烈要求调换教师。然而，当时的中国，此类人才确实缺乏，李瑞清焦急万分，多方寻觅，久无所获。一日，偶然听到新任江苏提学使樊恭煦的称道，获悉嘉定姚明辉专治舆地学，既有着家学渊源的深厚国学基础，还富有最新的现代知识，只是自视甚高，不肯轻诺于人。李瑞清求贤心急，即请攀恭煦出函引荐，自己写了情辞恳切的劝驾书，派专人前往嘉定礼聘。到校后，亲备筵席为姚明辉接风，竭尽礼遇之仪。姚明辉甚为感动，愿尽已长以报知遇。第一天晚上，课堂上鸦雀无声，在烛光里，娓娓而谈，头头是道，学生为之动容；第二天晚上，回答学生提出的问题，对答如流，全校为之轰动。于是姚明辉就留下了，后来还兼教国学，成了两江以及后来改称南京高等师范学校的知名教师。
李瑞清办学，首先抓住了师资质量，择贤任能，以保证较高的教学水准，造就有用的人才，使两江脱颖而出，名震东南。
三江师范学堂初立时，应各地废塾办学急需，主要是培养中小学教员，分为一年最速成科和二年速成科。后来，学校改称两江优级师范学堂，教学体制进行改革，除保留原速成科外，又先后开设三年本科和四年高等师范本科，针对东南地区的教育实际，增设选科、补习科，还附设中小实验学校。在校学生由原先的300人激增至1200多人。学校不得不大兴土木，广建校舍，先后建起学生宿舍、教习房和运动场等，其中以1909年落成的二层西式楼房——口字房（形同口字）最大，计有60间，作为教务部办公室及教室，实验室之用。从设计施工，到房屋的分配使用，以及教学设备的增添，李瑞清都付出了心血。
此时的两江师范，规模宏大、机构健全、整肃严谨、絃诵不绝，成为东南一大学府。南通张謇，曾是三江师范的校董，又以兴学著称于世。初听到两江师范花用经费较多，甚为不满，便亲自来校实地考察，目睹李瑞清实心任事，举措得当。莘莘学子勤奋功读，成绩斐然，不由得心服口服，连声道好，为李瑞清的成功而高兴。
李瑞清办学的超人之处，还在于他提出了匡时而振俗的主张，重视劳动教育和生产教育，他认为旧的传统教育的最大危害是“游惰之媒，生产之蠹”，也就是培养了一批四体不勤、五谷不分的社会蠹虫，开办新学就要进行改革。他便将大家沿用的博物科改称为农业博科，规定学生必须兼习农科。特地购置农田百余亩，耕牛数十头，专供学生实地实习之用。图画手工科开辟了专用画室和手工工场，以利于操作训练，提高技能。鼓励学生自觉、自立、自强，在学好课堂知识的同时，要自动地广泛参加课外练习，增多生产实践和劳动实践的经验，以使德、慧、术、智全面发展。尽管当时这些想法和作法不可能彻底解决实际问题，但在近一个世纪前，李瑞清这样做就不能不令人惊叹其远见卓识。
李瑞清认为师范教育是为人师者，关系“风化所由”，因此，不只是言教，更重视身教。他自奉节俭，淡泊明志，常年穿着仿裘粗葛，怡然盎然，即使是大庭广众之间，应制军召之时，也不改变。身为一校之长，亲自承担一门图画课，通过教学实践取得第一手资料，还经常亲临课堂，坐在学生中间，认真听课，并记笔记，既检查了教学质量，也沟通了师生关系。即使是任提学使兼顾校职时，也都要每天到校，找学生谈话，帮助解决存在问题。有一次，下课时适逢大雨，李瑞清和学生一道离开教室，工友赶来为他撑伞遮雨，他拒绝了，这种同甘苦的小事，像涓涓细流，流淌在学生心头。正是这种榜样的力量，使全校上下养成一种求实淳朴的学风。
1911年9月，江苏独立，苏浙沪军政府举徐绍桢为江浙军总司令，派兵会攻江宁。不少达官贵人见大势已去，弃职遁逃。李瑞清不为所动，照常敲钟上课。事为两江总督张人骏获悉，大喜悦：“是诚可寄命任重者。”立即授以藩司，以补闻风潜逃之樊增祥缺。李瑞清受命于危城之中，首先想到是解民困，振士气，拨巨款购米30万石，设平粜局赈济难民，饷助官兵。更不忘师范诸生，决定学校停课，出资遣返乡里，以避兵燹。当时清提督张勋大肆捕杀剪辫子学生，李瑞清不满于枉杀无辜，却又无能为力。恰值张人骏力保李瑞清权摄布政使，本不打算担任，有人劝他：“先生何不权从之以救诸生！”遂到职。张勋为江西奉新人，与李瑞清有同乡之谊，借此联络，设法取得出城令符，然后约集剪辫学生，昼夜遣送，逃出性命。一次，车行途中，突见一队辫子军扭打一青年，得知为陆军学校学生，因剪辫事从潜藏处被抓获，李瑞清立即下车，斥退悍卒，将学生载入车中，说是回衙法办，其实是将其送出城外。
在围城中，李瑞清利用职务之便，保全学校，保护学生，解救百姓，连隐伏在城内的革命党人也相传告：攻下江宁，千万不要伤害李瑞清。
江宁城被新军攻下，总督张人骏携妻儿溜了，辫帅张勋纵兵掳掠一番，向徐州方向逃窜。李瑞清独留不去。美国和日本领事以及美国传教士纷纷邀请李瑞清到外国兵舰上暂避，李瑞清说：“孰庇外人，吾所羞。吾义不欲去，使吾后世子孙出入此城，无愧可矣！”南京光复的当天，李瑞清端正衣冠，奉印坐堂上，打算以一死的愚忠来报效清朝，新军不忍加害，放他一走了之。临离去前，他邀集江宁士绅说：“库之财，宁之财也，幸尚保之。”自己一丝不取，当即封锁藩库，交付钥匙。时藩库内尚储存有数十万金钱。
李瑞清回到两江师范学堂，留校的师生们奔走相告，欢迎他回来主持学堂。但他不愿与新政合作，决定离去。遂命人登记校产，抄录清册，移付缙绅；上书督府，辞退监督职务。眼见学生贫寒，就将自己的车马卖了，所得的钱财散给学生，随后依依不舍地走了。
离去后的李瑞清，自号清道人。束黄冠，鬻字画于海上，声名大振。
1920年9月12日，李瑞清因患中风，溘然长逝。挚友曾煦，弟子胡小石等襄治丧事，以李瑞清遗爱在江宁，扶柩南京，落葬于江宁南郊牛首山雪梅岭罗汉泉侧。
1915年，原两江优级师范学堂更名为南京高等师范学校，继任校长江谦，为纪念这位近代师范教育的开拓者，在校园西北角六朝松旁，建茅屋三间，取名梅庵，上县李瑞清手书校训“嚼得菜根，做得大事”八个大字。后辟为音乐教室，我国早期的音乐教育家李叔同先生，曾在此授课，造就了一批音乐人才。上世纪80年代，梅庵又经翻造，更形巍峨庄严，永远矗立在莘莘学子的心中。