袁世凯复辟帝制的倒行逆施激起了黄炎培极大的愤怒与不满，他毅然辞去教育司长之职，果敢地参加了护国讨袁运动。从此，作为民国初年的著名教育家、社会活动家和爱国人士，黄炎培拒绝旧中国任何高官厚禄的诱惑，坚不做官。他曾两次拒绝担任北洋政府教育总长之职。黄炎培事后追忆原因时说，他的信念是看不清真理所在，是绝不盲目服从的。这种自由思想和独立精神造就了黄炎培特立独行的教育家典范，是他留给教育界、知识界的宝贵的精神遗产。
黄炎培参加革命活动的同时没有放弃对教育的探索。1916年9月他组织了职业教育研究会，1917年1月发表了《职业教育实施之希望》一文，明确地提出职业教育之目的在于“解决社会国家最困难的生计问题”，他为此大声疾呼，得到当时的工商界人士如聂云台、徐静仁、穆鹤初、刘柏生等的积极支持。当黄炎培在南洋、新加坡考察时，又得到华侨领袖陈嘉庚的赏识。1917年5月6日，黄炎培在上海创建中华职业教育社，设中华职业学校，以“敬业乐群”为校训，提供“劳工神圣”、“双手万能”的实用教育，要使“无业者有业，有业者乐业”，积极发展职业教育。
黄炎培的职业教育思想和实践并非仅局限于城市中，而且还向农村拓展。按照大职业教育主义的理想，黄炎培和中华职业教育社组织了“农村教育研究会”，在昆山、镇江、上海等地开办了农村改进实验区，创办了《生活》周刊，通过农村社会调查，设立农民补习学校、民众夜校、家庭妇女识字班等开展农民的文化教育、公共卫生和文娱活动。抗日战争爆发后，黄炎培积极主张国共合作，组织中华职业教育社同仁积极投身抗日救亡运动，联合文化教育界、实业界人士组织“抗日救国研究会”，创办《救国通讯》团结有志于教育救国和实业救国的文教、工商界人士，培养了大批抗日骨干分子，振奋了人民的抗日热情，以实际行动谱写了大职业教育主义的华彩乐章，在中国教育史上挥洒了浓重的一笔。至1949年前，他先后又创办了重庆中华职校、上海和重庆中华工商专校、南京女子职业传习所、镇江女子职校、四川灌县都江实用职校等。
1949年10月1日，中华人民共和国成立。黄炎培在周恩来总理的反复动员下，终于放弃不为官吏的初衷，出山参加政府工作，积极参加社会主义革命和建设，担任了新中国政务院副总理兼轻工业部部长。1954年9月、1959年4月、1965年1月先后当选为第一、二、三届全国人大常委会副委员长。1954年12月、1959年4月、1965年1月先后当选为第二、三、四届全国政协副主席。1955年4月、1960年2月先后当选为民建第一、二届中央主任委员。虽然身居高位，黄炎培仍然非常关注教育事业，对业余教育、函授教育竭诚尽力，为中国职业教育在新时期的发展，寻找新的建设资源。
大职业教育主义的形成
1911年爆发的辛亥革命结束了中国的封建专制制度，建立了“中华民国”，这既为资本主义工商业的发展提供了制度保障，也为职业教育的发展提供了必要的基础和前提条件。此外，在经济上，从1840年鸦片战争开始到1949年新中国成立，是中国由以农业为基础的自给自足的传统自然经济向以机器大工业为主导的近代经济转变的时期。从经济史发展阶段的角度来看，黄炎培主要处于中国近代经济进一步发展的时期，是近代中国经济增长最快的时期。这一时期，由于技术和管理制度的发展，工矿交通业、服务业等民族资本主义工商业都获得了迅速的发展。产业结构的变更及其技术含量的变化对从业人员提出了更高的要求，急需大批受过职业教育和技术训练的专业人才和一定数量的管理人才。而在现实中，一方面，大批的学校毕业生苦于所学非用，“毕业即失业”；另一方面，经济生产领域又苦叹人才奇缺，不得不用高薪去聘请洋人。这就产生了供需不合理的矛盾。基于这种情况，当时一位民族资本家说：“在失业者方嗟叹活计之难寻，在事业界方忧虑需要人才之无多，……吾国各业之不振，皆由于缺乏适用人才，并缺少独树一帜之人才耳。”这为中国近代职业教育的产生和发展创造了机会和基础。
从黄炎培早期从事教育活动的经历来看，自1913年到1917年期间，是黄炎培“大职业教育主义”初步确立的重要时期。这一期间，在教育与政治关系的认识方面，他所秉持的观念是“教育救国”，认为通过推行职业教育可以达到国富民强的目的。受实用主义教育思潮的影响，1913年8月，他发表了《学校采用实用主义之商榷》一文，倡导教育与生活和社会实际相联系的实用主义教育。实用主义是黄炎培职业教育思想得以形成的背景。1914年3月，他考察了安徽、江西、浙江、山东、河北等五省的88所学校。通过这次考察，他亲眼目睹了教育与社会脱节的种种现象，更坚定了进行教育改革的决心。他指出：“方今教育上最大问题，无过于学校与社会隔绝。”因此，加强学校和社会的联系就成了他从事职业教育的毕生追求，也成为他后来提出的“大职业教育主义”的根本原则。1915年4月，他随中国农商部组织的实业考察团到美国考察。在两个多月的时间里，他细致地考察了美国52所学校，亲眼见证了美国职业教育的成绩。黄炎培深有感触地说：“回念吾国……不能不认识职业教育为方今之急务。”回国之后，黄炎培积极奔走呼告，为中国实施职业教育制造舆论，并于1916年在江苏省教育会设立了职业教育研究会。1917年1月至3月，他与郭秉文等人赴日本、菲律宾各地考察教育。他认识到职业教育不仅盛行于欧洲，渐推美国，而且施及东方，同时还认识到职业教育对富国富民的重要意义，深感“今后之富国政策，将取径于职业教育”。这次考察归国之后，他更加决意倡导职业教育，并加紧筹备、成立中华职业教育社。此后几十年间，他就一直以中华职业教育社为舞台，开展教育活动和社会活动。
第一次世界大战结束后，帝国主义又卷土重来，加剧了对中国的经济侵略，加之国内军阀连年混战，所以在1918年到1926年间，民族工商业凋敝，民不聊生。所有这些残酷的现实使黄炎培的职业教育思想发生了重大的转变，也促使他最终确立了“大职业教育主义”思想。他意识到：“在腐败政治底下，地方水利没有办好，忽而水，忽而旱，农业是不会好的。农工业是不会好的；在外人强力压迫底下，关税丧失主权，国货输出种种受亏，外货输人种种受益，工业是不会好的。农工业不会好，农工业教育哪里会发达呢？国家政治清明，社会组织完备，经济制度稳固，尤之人身元气浑然，脉络贯通，百体从令，什么事业都会好。反之，什么事业都不会好。”他深刻地认识到：“只从职业学校做工夫，不能发达职业教育；只从教育界做工夫，不能发达职业教育；只从农工商职业界做工夫，不能发达职业教育。”他还认识到：职业教育不能脱离社会和广大的民众而成为“象牙之塔”，要让社会和广大民众参与到职业教育中来。于是，1926年，他在《提出大职业教育主义征求同志意见》一文中，开始对以往近十年来的职业教育实践进行深刻的反思，指出要发展职业教育，就必须确立新的职业教育发展思路，这就是“大职业教育主义”。
创办中华职业教育社
“中华职业教育社”简称“中华职教社”，是中国近代著名的爱国职业教育团体，也是我国近代致力于研究推行职业教育历史最悠久的教育团体。它是由黄炎培首创的。
1917年5月6日，中华职业教育社在中国工商业最发达的上海宣布成立。这一年，黄炎培39岁。在《中华职业教育社成立宣言书》上列名作为发起人的共有48位知名人士，其中既有教育界的著名人物，如蔡元培、张伯苓、蒋梦麟、沈恩孚、陆费逵等，也有文化界的名流，如梁启超、张謇、严修、史量才，更有一批金融界、实业界的新贵，如聂云台、宋汉章、穆藕初等，还有一批著名的政界人物，如唐绍仪、王正廷等。透过这张不太完全的发起人的名单，我们可以看出，职教社从其诞生之日起就有着广泛的社会联系，这正是黄炎培个人风格的体现，也是它不同于近代中国任何一个教育社团的显著特点，而且这一特点一直延存下来。
职教社的立社宗旨是“同人鉴于方今吾国最重要、最困难无过于生计，根本解决唯有沟通教育于职业。同人认此为救国家救社会唯一的方法”。职教社还大力开展爱国教育宣传活动，以此达到“职教救国”之目的。从1917年到1937年的二十年间，黄炎培以中华职业教育社为依托进行了大量的职业教育实践：从建立中华职业学校，到创办《教育与职业》杂志；从对职业教育的调查、研究、宣传，到设立职业指导机构、开办职业补习学校；从探索普通学校中如何实施职业教育，到形成“大职业教育主义”；从注重城市职业教育，到开辟乡村改进试验区，提倡科学种田，推广新式农具，设立讲习所、农学院，培训乡村改进人员，推行农村职业教育；从国内职业教育的推进，到南洋职业教育的开展。二十年间，黄炎培为中国职业教育事业呕心沥血，惨淡经营，颠沛流离，虽历艰难险阻但毫不退缩。而在这一与中国职业教育实践紧密结合的过程中，他的职业教育思想也得以形成和不断发展。