蔡元培28岁走上仕途，官至翰林院编修，民国时又任政府高官，历四十余。按当时的风气，即使没有万贯家产，也应是个富硕、殷实的家庭。但他一生为官清廉，完全没有沾染当时的腐败风气，仍是一介清儒，两袖清风，上无片瓦，下无寸土，身后除了书籍，别无长物，这在民国政府官员中是有口皆碑的。
1903年，蔡元培为抗拒俄国政府觊觎中国北方领土，与上海反清革命志士以对俄同志会的名义办了《俄事警闻》（后改《警钟日报》），由于经费奇缺，杂志办得很艰苦。冬天天气很冷，编辑部房子空旷，又无火炉取暖，右手冻疮溃裂，肿得像馒头，就在手上套一双半截露指的手套，左手放在大衣口袋里取暖。到了除夕，社中经济窘迫，他只能向别人借来一串朝珠，请店员到当铺去典当，可当铺说是假的，只能当一元钱，无奈没有当成。尽管这样，他还是努力坚持，每天除了搞编辑工作，还要撰写一两篇论文。
蔡元培平时生活俭朴，在法国留学时，只穿着工人的衣服，在德国留学，他持素食主义，膳食非常简单，倾全力于社会事业中，几乎忽略了家庭和自己。有时经济拮据，亲友知道后，就主动给予接济，但他只求所需，从不苛取。蔡元培外出所带行李往往很简单，一个铺盖，一只手提箱，箱内除换洗衣物外，全是书籍文具及日常用品，若遇搬动，总是自己早早就起床，将铺盖及零星物件收拾好，从不假手于人。蔡元培始终保持着劳动人民的本色。辛亥革命后，他就任民国政府教育总长，有一天，几位穿着笔挺西装的宾客前来登门道贺，他正在洗衣服，两手沾满肥皂沫，他边走边揩出来迎接，弄得几个宾客很不好意思。
蔡元培有“好先生”之称，大家有什么困难都愿找他帮忙，他也乐意助人，不问贫富，不分亲疏，一视同仁，有求必应。他经常为其他人介绍职业，碰到有困难的还要为其购好车船票，准备盘缠，提供资助。几十年来，经他介绍而得到工作的人不计其数。由于资助较多，有时临到发工资时，扣除以后，所剩无几了。
1936年，蔡元培70岁生日宴席，由于清贫，只摆了四桌酒席。著名画家刘海粟应邀赴席，看了非常难过，这与先生的历史地位和社会贡献太不相称了，经蔡元培的一些朋友商量，决定将上海国际饭店二、四楼宴会厅全部包下来好好庆祝一番，到者千余人。席后大家提议捐款创办孑民美育研究院，以弘扬先生的美育精神，后因抗战没能建成，解放后这笔款献给了国家。
蔡元培一直租房住，他任监察院长时，有人到他家去，看见客厅里只放着四张靠背椅子、四个方凳、一张方桌，没有别的陈设。他租的房子都是普通民房，直到30代才租住破“洋”房，而且在短短的几年里就搬了五次家。在他70岁生日前夕，他的学生、同事、朋友看到蔡元培为国家、为民族、为社会劳瘁一生，至今还没有一处自己的房子，就联名给他写信，大家出资捐赠一处住房作为生日寿礼。此次赠房，因为抗战爆发，最终没能实现。直至逝世，蔡元培一直是租住别人的住房，后无一点积蓄，衣衾棺木的费用，所欠一千多元医药费，都是王云五给代付的，以后子女的教育、扶养费，也都得到了蔡元培好友、学生的资助。解放后，陈毅市长特批允准，蔡元培亲属所居华山路故居可以免交租金，直至蔡夫人故世。