年轻干练、受过高等教育的曼德拉一加入非洲人国民大会，很快就成为这一南非黑人最大的政治组织的骨干。舒玛主席非常欢迎曼德拉，特意接见了他。
然而，由于舒玛主席低调、温和的作风并不能立即改善黑人的社会地位。曼德拉和沃尔特·西苏鲁、奥利弗·坦博、安东·伦彼得等人商议，决定在非洲人国民大会内部成立一个组织更严密、执行能力更强的“青年联盟”，以更激进、更有效的手段同白人统治者作斗争。
经过几个月的努力，他们起草了一份“青年联盟宣言”，并拿着这份宣言去见舒玛主席。在会客厅，舒玛的妻子玛蒂·哈尔接见了他们。玛蒂·哈尔认为，南非的黑人只能走美国黑人的老路，通过几十年的耐心等待和经济资助之后，黑人的境遇才能得到改善。而舒玛主席看到“青年联盟宣言”后，也认为照此章程，发动群众运动，将和政府正面冲突，是十分危险的。
但舒玛主席的态度并没有动摇他们想要建立“青年联盟”的决心。1944年复活节，“非洲人国民大会青年联盟”在约翰内斯堡班图社会中心正式成立，安东·伦彼得任主席，沃尔特·西苏鲁和曼德拉为执行委员会成员。青年联盟以“非洲民族主义”为口号，以“推翻白人霸权统治，建立民主政府”为宗旨。其宣言这样写道：
在白人的眼里，宇宙就像一台巨大的机器在时空中穿梭，走向最终的灭亡；芸芸众生就如同沧海中的一个蜉蝣，各自生存，各自灭亡……
而在非洲人眼里，宇宙是一个复合的整体，一个有机的联合体，不断走向更高层次的和谐与团结，每个生命都是这个有机整体的组成部分……
1944年9月，青年联盟召开第一次会议，通过散发名为“吹响年轻人的号角”的传单的方式来预告。从此刻开始，青年联盟成了非洲人国民大会的一支新生力量。青年联盟向所有年龄在12~40岁的男女青年开放，满17年会员期后自动成为非洲人国民大会的成员。
舒玛主席注意到了这股激进的潮流，他决定想办法掌握主动权。1944年5月20日，舒玛主持召开了一个与南非共产党的联席会议，到会代表540名，代表了60多万非洲人。大会通过了一项宣言谴责《通行证法》，认为：
1.《通行证法》加紧了对南非黑人的政治剥削和经济剥削；
2.使南非的劳苦大众更加贫弱，疾病盛行，无数的人走上了犯罪的道路，并在监狱里终老一生；
3.使南非各族人民之间摩擦不断；
4.阻碍了国家的经济和工业发展；
大会最终决定，要在全国范围内举行反《通行证法》示威，发起轰轰烈烈的签名运动，目标是征集100万人在反《通行证法》请愿书上签名。他们本打算将请愿书于1944年8月交给南非政府，然而参加此次活动的人并不多，几个月下来，他们只征集到一万个签名。直到1945年6月，他们才将请愿书递交政府，然而政府却拒绝接见非洲人国民大会的代表。
为此，他们发起了游行示威活动，游行规模之大，在约翰内斯堡前所未见。20万非洲黑人和一些其他种族的人跟在铜管乐队和非洲人国民大会的黑、绿、黄三色旗帜之后，口号是“让我们消灭这种勾当”！但是，由于第二次世界大战刚刚结束，很多人还没有从战争的梦魇中走出来，这次游行并没有改变黑人受歧视的现状。