武训从困苦中体会到读书的重要，因为自己没读书不识字，无法有大作为，所以他决心要办义学，让穷人家的小孩也能读书，不愿别人再像自己一样，因为没钱而错失了学习的机会。于是他白天乞讨，晚上搓麻绳，经过三四十年的努力，武训的学堂——“崇贤义塾”果然兴办起来，嘉惠了许多学子。
武训十分关心学生的课业，对老师更是敬重。但是如果遇到不认真教书的老师和不用心学习的学生，他就跪在他们面前，请求他们要各尽本分，好好努力，因此师生都大受感动，不敢懈怠。武训办学的精神感动了许多人。
柳林崇贤义塾
1888至1889年春，武训用其历年所积资金在堂邑县柳林镇东门外创办“崇贤义塾”。该义塾占地3.87亩，有瓦房20间，“一”字排开，分别为书房、饭堂、学生斋舍和塾师住室。另有大门、二门各一座。四周筑垣墙，院内植白杨、国槐、垂柳。招收经、蒙两班，蒙班30余人，经班20余人，学生均免费入读。武训过世后，因来塾人增多，1897年，武训的账房武茂林于崇贤义塾重门外增建东西瓦房6间，碑楼三座。1899年，武茂林又于武训墓旁建武训祠堂6间。至此，义塾更显整肃、壮观，成为学童读书谋求上进的大好场所。
“崇贤义塾”的组织领导机构为校董会。1905年，清廷颁布“废科举兴学堂”谕令后，“崇贤义塾”奉饬改为私立武训第一初等小学堂。“崇贤义塾”在武训精神的感召下，义学学风甚佳，塾师勤于执教，生童发愤攻读，严守义塾学规，因此，“崇贤义塾”一方面普及了文化，一方面也培养了不少热衷于仕途功名的士子。民国初年，该塾改为私立武训小学校，开办初、高两等班级，抗日战争初期，该校曾一度变为日伪进行奴化教育的场所。1942年柳林解放后，抗日政府以其校址改为抗日高小，兼办过初中班，但因灾荒严重而停办。不久，学校又恢复为武训小学。1945年10月，冀南行署在其旧址创办武训师范学校，武训小学随改为师范附小。1951年武训遭批判后，师范和附小分别改名为平原省堂邑师范和堂邑师范附小。1956年堂邑县撤销，柳林划归冠县，学校随改称冠县师范和冠县师范附小。1962年，师范被裁撤，附小改为柳林完小。1977年后随着武训名誉的逐步恢复，1984年“武训小学”的校牌又在“崇贤义塾”的旧址悬挂了起来。
育英堂义塾
1889年，馆陶县庄科村（现属临清潘庄镇）千佛寺主持了证，因受武训的感化，捐出积蓄和部分庙产，典买土地，筹建义学。武训闻讯往谒，并将所蓄300千文捐出，共兴义学。嗣后武训又捐赠土地40余亩作为该塾学田。这是武训创办的第二所义学，义学命名为“育英堂”。该义塾设于馆陶县（今属临清市八岔路镇）杨二庄北街西头路南，占地4亩有余。靠街有大门一座，院内有东、西、南瓦房各3间，为学生教室，另有北屋2间，是师生的厨房。迎门墙左右各植苍劲挺拔之翠柏两株。院落不大，却清秀整洁。该义塾纯为蒙学，为三乡五里的贫寒子弟打开了读书求知大门，声誉遐迩，深得民众赞扬。1910年，杨二庄义塾改为武训初等小学堂，民初改为武训小学校。1926年，该校迁往距杨二庄三华里的艾寨张氏祠堂，并改为武训完全小学。
临清御史巷义塾
1891年，武训来到临清继续化缘募捐。当时临清被满清官兵骚扰得穷困不堪，无力读书的贫家子弟比别县更多，此情再次触动了武训“修个义学为贫寒”的念头。临清钞关街绅士施善政平素钦慕武训的为人，闻知武训到来亲自到破庙把他请到家里，叙谈了好几天。武训恳托施善政同当地绅士们商议，在临清筹设义学。在施善政、刘辉堂等人的赞助下，武训当年就募集了许多学款。1893年，武训捐出行乞之资先在御史巷买了一处房宅，后修理添造、扩充发展，至1895年学舍落成。它是武训亲自创办的第三所，也是最后一所义塾。因地址在御史巷内，故命名为“临清御史巷义塾”。
义塾建成之初，有校舍3座，19间，其中3间作为教室，其余分别为师生和工役的住室、饭堂。另有大门、二门、三门各1座。武训乞请士绅组成校董会，经理义塾的一切事务。聘请施善政为学董，贡生王丕显为塾师。王丕显为人笃实好义，苦心孤诣，经理义学，使该校在数年之间发展很快。该义塾在清廷诏令“停科举，兴学堂”之后曾改称武训蒙学堂、武训初级小学堂。民国时期曾改称私立武训小学。1945年临清解放，改为公办武训小学。1951年因武训遭批判，校名中的“武训”二字被强行裁没，改称临清镇第一小学。该义塾校址虽曾迁移而后复始，规模却不断扩大，至1945年，其规模已达到14个教学班，在校学生达600余名，先后毕业学生千余人，现该校已成为临清市重点小学，并命名为临清市武训实验小学。