1927年初，晓庄师范开始招生。它的招生广告别具一格，值得全录如次：培养目标：(一)农夫的身手；(二)科学的头脑；(三)改造社会的精神。考试科目：(一)农务或木工操作一日；(二)智慧测验；(三)常识测验；(四)作文一篇；(五)五分钟演说。本校准备：(一)田园二百亩供学生耕种；(二)荒山十里供学生造林；(三)最少数经费供学生自造茅屋住；(四)中心学校数处供学生实地教学做；(五)指导员数人指导学生教学做。投考资格：初中、高中、大学一年级半程度，有农事或土木工之经验，及在职教师有相当程度，并愿意与农民共甘苦，有志增进农民生产力，发展农民自治力者，皆可投考。招生广告后还特别声明：少爷、小姐、小名士、书呆子、文凭迷最好不来。这一打破陈旧框框的招生广告一时轰动全国。自此，来自全国各地热心乡村教育事业的有志青年纷纷前来投考或是应聘担任教员。
3月15日，晓庄师范经过艰苦而简单的筹备正式开学，董事长为蔡元培，校长为陶行知。在开学典礼上，陶行知发表了热情洋溢的讲演，称：“本校特异于平常的学校有两点：一无校舍，二无教员。……本校只有指导员而无教师，我们相信没有专能教的老师，只有经验稍深或学识稍好的指导。所以，农夫、村妇、渔人、樵夫都可做我们的指导员，因为我们有不及他们之处。我们认清了这两点，才能在广漠的乡村教育的路上前进。”
晓庄的教学是别开生面而务实有效的，它完全地贯彻了陶行知的“生活教育”的思想。关于他的生活教育和杜威的教学理念有什么差别，陶行知曾做过精彩的解释：“传统教育在学校和社会中间造了一道高墙。改良者主张半开门，是‘学校社会化’，提出‘学校即社会’的口号。生活教育者主张把墙拆去，主张‘社会即学校’，以青天为顶，大地为底，二十八宿为围墙，人人都是先生，都是学生，都是同学。”
因了这个理想，所以晓庄师范没有呆板的上课制度，也不完全按照书本教学，而是把教学活动分成文学、教育、农艺、美术、科学、政治、乡村建设、医药卫生等各种小组。有的科目讲几小时，有的则上好多周乃至几个月。所有校务，无论大小，全由学生轮流担任，小到饮食卫生，大到接待客人、防卫校园，都是如此，陶行知本人也亲自参加买菜烧饭、洒扫庭院。学校重视体育训练、重视技能培训、重视自己动脑动手。举一个典型的小例子，学校的科学组聘请的生物学教员为陶行知的金陵大学故人姚文采，刚开始上课时，他抱了一大堆参考书，结果当场遭到陶行知的否定，陶行知要求他教学做合一的教学，而不是课本教学。自此，姚文采逐步把“教学做”运用自如。一次，一个被毒蛇咬伤的农民被送到晓庄乡村医院救治，原来当地多长虫，晓庄的师生也很怕这东西。姚文采就借机邀请来一个南京夫子庙耍蛇的艺人来到课堂上，教学生如何辨别有毒蛇和无毒蛇，讲授如果被咬伤如何治疗的知识，并当场要求学生一起演示如何捉蛇，很快学生都精于此道。晓庄的教学大率类此。
晓庄师范很快在全国声名远播。1927年10月，蔡元培和沈定一等来学校参观，对学校火红的教育成果大为叹服。他发表了热情洋溢的讲话，高度肯定了晓庄的事业对改造中国所具有的深远意义。晓庄吸引了全国二十多个省市的各界人士前来参观、学习。不仅如此，晓庄甚至引起了世界的注意。美国着名教育家克伯屈博士是设计教学的创始人，从苏联考察教育后，他专程来参观晓庄。他把参观过程拍成纪录片，在和陶行知交流后，他盛赞说：“在我这次参观考察后，觉得你的学校办得很好。今后无论我走到世界上哪一个国家，我都要说中国南京有一个晓庄学校，办得很好。它是代表世界教育的一道曙光！”
晓庄培养的学生大都极具社会关怀，而且实践能力十足，在很大意义上，它实际培养了许多有志的社会革命者。要求聘请晓庄毕业生的邀请函如雪片翻飞，甚至泰国曼谷的华侨学校都来该校聘请教师。
1930年，蒋介石和冯玉祥、阎锡山以及桂系军阀发动中原大战，由于陶行知和冯玉祥交情甚深，蒋介石疑心陶行知的晓庄是他的反对者，再加上晓庄的确存在具有革命倾向的热血青年。蒋介石悍然于4月8日下达了关闭晓庄的密令，并通缉陶行知。陶行知被迫离开凝聚着他一生心血的晓庄，避走日本，以逃脱国民党政府的迫害。
自国民党对陶行知发出通缉令后，持续遭到国内外舆论的谴责。国际知名人士如爱因斯坦、杜威、甘地、罗素、罗曼罗兰等于1930年秋联名致电蒋介石，要求他撤销对陶行知的通缉令。次年春，陶行知秘密潜回国内，得《申报》总经理史量才支持，供职于《申报》。以化名创办《读者通信》专栏，谴责国民政府不抗日的反动行径，并发起“科学下嫁”运动。
1931年，蒋介石二次下野，林森任国民政府主席，冯玉祥也为此而努力，迫于国内外压力，次年元月，国民政府解除了对陶行知的通缉。陶行知终于又自由了，他再次投身于他钟爱的大众教育。
解放了的陶行知准备光明正大地让晓庄复校，并登载招生广告，蒋介石主导的国民政府却食言而肥，他们用非法手段侵占晓庄校园，致使学校不能正常办学。学校二次被封，陶行知对蒋介石的独夫本质有了深刻认识。但他不会屈服，他要以更灵活的方式来传播他的“晓庄”精神。
陶行知和着名教育家陈鹤琴创办了工学团，继而又组建了新安旅行团和山海工学团等承继晓庄教育精神的组织。在这个过程中，陶行知发明并倡导了享誉世界的“小先生”制。
1934年1月28日，山海工学团召开普及教育总动员大会。在这次大会上，陶行知正式提出了“小先生”制。所谓“小先生”，就是通过教育家庭的小朋友，再利用小朋友去教育家里不识字的人。
陶行知总结了采用“小先生”的几大好处：一是有利于中国女子教育。在当时的社会风气之下，女性主要在家庭里，而且奉守陈旧的观念，她们的教育问题相当不好解决。而有了“小先生”们，该困境几乎不再存在，至少识字教育不是障碍；其次，大人跟小孩学，无形之中能使大人心态年轻，这也有利于培育少年中国的精神气质；再次，“小先生”制有利于打破教育垄断的藩篱，使得知识可以转化为公共资源，为社会成员共同分享；最后，传统教育的一大难点是家庭和学校之间联络不畅，但如果有了“小先生”们，就可以把学校、社会和家庭有效地联结在一起。
陶行知倡导的“小先生”制，虽然饱受质疑，但在中国当时的社会条件下，却的确起到了非同寻常的巨大作用。其影响波及整个国统区，并有充足的证据表明在中共解放区也产生了巨大的影响。共和国的着名教育家徐特立就是这一制度的践行者，“小先生”制在延安被广泛采用。不仅如此，实行“小先生”制的成果经受住了国际友人的考核，并由此扬名国际。
1936年8月，在伦敦世界教育会议第七届年会上，陶行知作了“中国救亡运动与小先生普及大众教育运动实践情况”的报告，受到与会各国代表的高度赞扬。印度代表甚至直接邀请陶行知去访问印度，指导印度的普及教育工作。在印度，圣雄甘地抱病和陶行知交流半个小时，临别时，特别叮嘱陶行知：“请代表我向中国人民致意。请把您在印度演讲大众教育的问题，写成文章，寄给我们。”
随着罪恶的日本侵略者对中国的摧残加深，为了中国的前途和命运，陶行知不得不把大量的精力投放到游说国际友人支持中国抗日的民族事业中。饶是如此，他仍然没有放弃教育救国的理想。一方面，他提倡国难教育；另一方面，他身体力行，在重庆创办了育才学校，继续着他通过普及平民教育拯救并改造中国的理想。
1938年，陶行知结束了欧、美、亚、非26国的访问行程，回到国内。其时，中国抗日统一战线已经形成，他有了更大的政治空间推广他的教育理想。他相信他的“生活教育”的理念有助于坚定中国人养成自立、自强精神，他说：“我相信生活教育必定能够发出伟大的力量帮助打倒日本帝国主义，帮助创造一个自由平等的新中国，并且帮助创造一个和平互助的新世界。”这一年12月15日，广集包括国共两党在内的社会贤达的生活教育社在广西桂林省政府礼堂举行成立大会，陶行知当选为理事长。随后，他着手筹备创立育才学校，它的对象是教育战时汇集在重庆的200多万流浪儿童。
1939年7月20日，育才学校借北碚北温泉小学校舍举行了开学典礼。陶行知宣讲了该学校的创办旨趣：“创办育才的主要意思在于培养人才之幼苗，使得有特殊才能者的幼苗不至于枯萎，而且能够发展，就必须给予适当的阳光、空气、水分和养料，并扫除害虫。我们爱护和培养他们正如园丁一样，日夜辛勤地工作着，希望他们一天天的生长繁荣。”他强调，学校不是培养专家，而是希望学生能根据各自的兴趣，把他们育成专才；更不培养人上人，而是要让学生从老百姓中来，学成以后再回百姓中去。因此，这里的教育仍然是普及大众教育的一部分。
育才学校最后在古圣寺开学，学校没有入学考试，也没有升学考试，也不存在所谓的毕业问题，不过要经过必要的智力测试。学校设立专业为音乐、戏剧、绘画、文学和社会五组，无数当时享誉全国乃至国际的高级知识分子、诗人、音乐家、艺术家纷纷到学校任教。育才学校是中国乃至世界教育史上一所特异的学校，因为它是根据一种全新的教育理念而创设的。它不仅要求其学生有相当的智力，还要测试学生的特殊才能和兴趣。与此同时，它的学制规定又是那么不拘一格，而在教育过程中，始终强调“创造性”的培育。
同时，它在培养学生的品德方面也是别出心裁，而且至今仍极有启发意义的。有一天，陶行知校长看到一名男生正要用砖头砸同学，立即将其制止，并让他到校长办公室等候。陶行知回到办公室，见男生已在等候，便掏出一块儿糖给他：“这是奖励你的，因为你按时到了。”接着又掏出一块儿糖给他：“这是奖励你的。我不让你打同学，你立即住手了，说明你很尊重我。”男生将信将疑地接过糖果。陶行知又说：“据了解，你打同学是因为他欺负女生，说明你有正义感。”随后，掏出第三块儿糖给他。这时，男生哭着说：“校长，我错了，同学再不对，我也不能采取这种方式。”陶行知又拿出第四块儿糖说：“你已认错，再奖励你一块儿，我的糖给完了，我们的谈话也该结束了。”我们至今很难评价育才学校的历史贡献，不过，可以肯定的是它为国家培养了不少专门人才。此外它一直在经费极其拮据的情况下运行。尽管它受到进步党派团体和人士的支持，但国民政府一直对它的存在甚为警惕。陶行知为了保证它的运转四处奔走而积劳成疾。
1946年7月25日，陶行知这位把自己的一生全部贡献给中国平民教育的巨人，突发脑溢血在上海去世，享年仅56岁。他的遽然辞世，震动了全国乃至全世界。10月27日，上海各界为他举行了隆重的追悼大会；同年12月9日，美国纽约也为这位世界级的教育家举行追悼会，由杜威和冯玉祥担任名誉主席，威廉霍兰德担任主席，美国教育界的各大名流以及留美中国人士出席。陶行知先生备享身后哀荣，他理当享有这样的荣誉。