张宗麟的一生正如张劲夫在上世纪80年代的纪念文章《忆念张宗麟同志》中所说，“他为党的事业所作出的贡献是很大的。甚至可以说，他在实际工作中所起的作用，远远超过表面上为人们所知道的分量，也就是说实大于名的。这比有些名大于实的人，更值得我们怀念和尊敬。”
张宗麟于1899年11月4日出生于江苏省徐州府宿迁县，祖籍浙江省绍兴府山阴县。张宗麟青少年时代是在绍兴袍渎老家度过的。
1915年初夏，张宗麟高小毕业，当时村里高小毕业生还不满五名，家里本想送他进法政学堂，他却说：“我愿做教师，不愿做官”。下半年去考师范学堂，因为当时师范免学膳费，家里便同意了。秋天，他考入浙江绍兴第五师范学校，和小学时一样，每次考试都是第一名。这时已是民国，张宗麟在课余读了不少书，接触到新思潮。1917年10月，第五师范学生罢课反对守旧的历史教员，带头的就是优等生张宗麟。在开除学生的名单上，他赫然又是第一个。这年冬天，由同情他的老师介绍转学到宁波浙江第五师范。五四运动中，张宗麟又是第五师范的学生自治会主席。参加学运并未影响他的正常学习，1920年张宗麟以优秀成绩毕业，1921年考入南京高等师范教育系（1921年夏，该校并入东南大学），成为陶行知、陈鹤琴的学生。
大学四年，张宗麟的成绩依然是众中之杰。1924年暑假毕业的时候，不少其他系的教授希望他担任自己的助教。但是张宗麟被陶行知和陈鹤琴关注，最后成为陈鹤琴的助手，研究幼稚教育。他赞同陈鹤琴与陶行知的教育宗旨，认为救中国必须重视教育，而教育人民必须从幼儿开始，中国必须有自己的幼稚教育。
上世纪20年代大学毕业生极少，被人们视为“洋状元”的张宗麟要去从事伺候人的“看孩子”工作，气坏了全家。张宗麟却执著地说：“盖房子要在基础上下功夫，教人也要在幼小时来教育。要改变中国的愚昧落后，就要教学于婴孩！”
1925年11月至1926年上半年，张宗麟深入调查了南京、苏州、杭州、绍兴、宁波5个城市16所幼稚园所育婴堂的情况，写了详尽的调查报告《调查江浙幼稚教育后的感想》。报告中提出一个严重的问题：幼稚教育全部西化，这些幼稚园中，教材是外国的，玩具是外国的。“为什么不用中国式样？”回答是：“外国的货好，中国的不能用！”甚至不庆祝中国的节日，不唱中国歌，连中国的国庆和国歌都被摒弃；庆祝的是日本的天长节，欧美的圣诞节，唱的是英文歌、赞美诗和中国古诗。报告提出：“我们要把孩子教育成什么样的人呢？是为帝国主义传教士培养小徒弟呢？还是为中国培养人才？”张宗麟回到南京立刻在陈鹤琴办的鼓楼实验幼稚园开始研究中国的幼儿教育，成为中国第一位男性幼稚园教师。
1926年至1928年，张宗麟在实践中制定了适合中国儿童的教学法、教材等等，发表了包括《幼稚教育概论》在内的数十篇专著和译著。鼓楼幼稚园的研究成果被北伐后成立的国民政府定为1929年8月颁布的幼稚园课程暂行标准的依据。陈鹤琴对张宗麟很满意，曾经说过：“教育杂志的幼稚教育专号多半是我们的实验报告，那许多实验又多是他做的，报告文字几乎全部是他写的，我不过从旁指点而已。”
正在陈鹤琴和南京市教育局长商量，准备把整个南京市二十多个幼稚园都交给张宗麟指导，作为进一步实验对象的时候，张宗麟的思想有了变化。
在1926年国民革命高潮时，陶行知就发表宣言书，要以改选乡村为目标来改选全国乡村教育，下决心“征集100万位同志，提倡办100万所学校，改选100万个乡村”。1927年1月公开发出晓庄师范招生广告，宣布三大培养目标：农夫的身手，科学的头脑，改造社会的精神。陶行知的号召振奋了许多热血青年，张宗麟便是其中之一。
原来，北伐军进入浙江的时候，张宗麟除了在南京任职外，还任杭州浙江女子高级中学教务主任。该校校长和秘书都是共产党员，张宗麟通过他俩接触到马克思主义，认为这才是救中国的真理。1927年初，张宗麟成为中共党员。不久，蒋介石发动“四·一二”大屠杀。四月底波及杭州，校长、秘书都被捕杀。张宗麟也被追捕，避至南京。他虽然与共产党断了联系，但他已认识到中国的教育必须从广大农民着手，因此他拥护陶行知的主张。
回到南京不到两个月，张宗麟就辞去待遇优厚的南京市教育局学校教育课视导员的工作，自愿到晓庄师范任教。从此，张宗麟成为陶行知“100万位同志”中的一员。
晓庄师范在南京市郊的一片荒山上，生活相当艰苦。这些城里来的读书人要自己盖房、开荒、种菜、造林、烧饭……但是大家感到十分幸福。张宗麟在晓庄师范的职务是生活指导部主任。陶行知外出时，学校的事务就都交给他处理。当时陶行知在晓庄师范采取兼收并蓄的方针，校内师生各党派都有。既有国民党，也有共产党，还有国家主义派、无政府主义者和无党派者。张宗麟虽与共产党失去联系，但立场仍坚定，在党源纷争中处处支持共产党员。1928年春，他与大家一起赶走一个国家主义派分子，并主持全校师生大会公审了一名暗藏五色旗企图复辟的学生。陶行知有句名言：“办有钱的学校不难，办没有钱的学校能使有精神实难。”晓庄师范是个没有钱的学校，经费全靠各界捐款，可是在陶行知、张宗麟及许多同志的努力下，办得生气勃勃，极有精神。张宗麟在1930年写的纪念晓庄师范成立三周年的文章《晓庄的生命素》一文中宣称晓庄“在全国教育界里掀起一个大浪”，宣称“从事乡村教育就是我们的嗜好”。晓庄一、二两届同学，有一次进城去听讲，住了洋房，吃了鱼肉，不要自己烧饭挑粪。不到三天都厌恶了，不到一星期，都病了。“我们受诟骂是意料中事，就是吃枪弹、坐监狱也在意料之中。”
张宗麟是全校师生中最积极者。每期校刊《乡教丛讯》都有他的文章。他除了协助陶行知安排大家的学习、生活以外，还带着师生到校外乡村，打扫街道，办小商店、小图书馆，教育农民讲卫生、求知识。1928年7月，晓庄师范试行学园制。张宗麟负责吉祥学园，亲任园长。原址是个只有三十多平方米的吉祥庵，其中和尚及菩萨占了近一半面积。在张宗麟和师生的努力下，半年中校址扩展到四亩半，学生由三十多人增至八十多人，师范生增至十五人。学习采取活用书本的方法，生活管理完全民主，学生们进步很快。他们还为邻近农民办了中心茶园、民众夜校、壁报和信用合作社。吉祥学园试行成功，很快学园制在晓庄师范推广。
陶行知接受陈鹤琴、张宗麟的建议，在晓庄师范附设幼稚师范，由张宗麟指导。这时，他遇到了后来的妻子——我国第一批下乡的幼稚园女教师之一，王荆璞。
王荆璞当时正在南京市幼稚园任教。1928年8月，在陶行知的感召下，她辞去待遇优厚的工作来到晓庄，参与创办燕子矶乡村幼稚园。在陶行知、陈鹤琴、张宗麟的指导下，这个幼稚园革除城市的“外国病”、“花钱病”、“富贵病”，把外国式的幼稚园办成中国式的“儿童乐园”。教具是用破布、旧报纸、鸡毛等废物做的，教材教学法都来自儿童熟悉的生活。农民见孩子进了幼稚园学会认字，有礼貌，非常高兴。不久，晓庄、和平门、迈皋桥都成立幼稚园，并成立蟠桃学园专门研究幼稚教育。他们用“教中学”、“学中教”的方法带出不少师范生，优秀的有戴自俺、孙铭勋等。
晓庄师范蓬勃发展，培养了我国第一批乡村教育师资，他们像火种一般燃遍中国大地，使千万农民受益。但是当时有人不理解，首先是绍兴张家的族人。他们见张家出了一个大学毕业下乡的人，大为惊异，认为张宗麟是“半疯”，是个“没出息的人”，所有的亲戚都不理睬他们一家。
家庭反对，影响尚小，统治者的敌视就可怕了。这时国民党蒋介石见首都南京郊外的晓庄师范师生的所作所为类似中共的农民运动，就开始注意。1930年4月，晓庄学生参加声援下关英商和记蛋厂工人反帝大罢工示威游行，抗议日本军舰停泊南京下关，激怒了蒋介石。4月13日，蒋介石下令国民党政府首都卫戍司令部出兵五百，强行搜查封闭晓庄师范，罪名是窝藏共产党。几天之内，学校校舍被贴上封条，门窗被捣毁，家具被没收；许多学生被逮捕，有的被枪杀在雨花台，有的被监禁，直至“七七”事变才释放。6月，敌人对陶行知、张宗麟、王荆璞等人下了通缉令。
张宗麟的悲痛无法形容。他在逃亡中的著作《乡村教育经验谈》的扉页上题下一行渗透血泪的字：“纪念为乡村教育而死的师友们”。
从此，张宗麟夫妇便开始了流浪生活。那几年他们的全部财产是两个铺盖卷，两个放杂物的网篮，两个手提箱。一有“通缉令到”的消息，两辆黄包车便可拉往火车站。张宗麟曾在一张全家的相片上题字：流浪家庭。
即使在极不安定的情况下，张宗麟夫妇仍努力贯彻陶行知的教育宗旨。1931年初，他俩来到厦门集美，与当地同志见面第一天就谈办乡村师范的事，得到热烈响应。经费除集美教育推广部和初等教育杂志社筹款外，张宗麟和当地的同志慷慨认捐开办费三百元。张宗麟任主任。不出半年集美乡村师范开学了。除办师范外还办了四所中心小学，组织了民主处理校内事务的乡村教育生活团，……俨然又是一个小型的晓庄师范。
集美不是晓庄，张宗麟希望恢复晓庄师范。1932年1月，张宗麟受陶行知之命与丁柱中同去南京奔走复校之事。他们曾找过一次冯玉祥，因冯当时受蒋介石排挤，无法帮助。他们又去找罗家伦，也没有结果。返回集美，张宗麟只得在办乡村师范的余暇致力写作。这一年，他的著作《幼稚教育》、《乡村教育经验谈》、《乡村教育》以及与陶行知、陈鹤琴合著的《幼稚教育论文集》出版。这些书籍宣扬了生活教育的理论和经验。
集美乡师的学生中有不少共产党员。1933年1月，红军进攻漳州。厦门国民党政府进行严查，发现集美乡师有的学生去了方志敏领导的闽西根据地，开始怀疑张宗麟与红军有关系，继而发现他曾被通缉。张宗麟夫妇只得赶紧离开。
1933年3月至1935年暑假，陶行知先后介绍张宗麟在广西桂林师范专科学校任教，在四川重庆教育学院任教务长，在湖北教育学院任教育系主任。他每到一地就着手筹办乡村师范，或开讲“乡村教育”课程，并利用暑假在江西、湖北的教师暑期讲习会上讲“乡村教育”，还为武汉各幼稚园的教师讲课。他的宣讲，使广大师生了解了生活教育，许多人成为“100万位同志”中的一员。张宗麟夫妇还尽量节省生活费，多次捐款给生活教育社办的各个工学团。