正当白人当局制订日益严酷的种族隔离政策时，世界的另一端——印度，圣雄甘地正在带领印度群众发动轰轰烈烈的非暴力不合作运动。1946年，由于南非政府通过了极不公平的《反印度人法》，身在南非的印度人决定奋起抵抗，以呼应甘地的不合作主义。他们20人一组在白人的土地上搭起帐篷，表示抗议。
这抵抗运动整整持续了两年，期间，有2000人被捕，运动的领导人被判处6个月劳役。
印度人前赴后继的反抗再次刺激了曼德拉，让他重新审视政治斗争的意义。在此期间，曼德拉接触了很多印度人，并和其中的一些成为了好朋友，甘地的门徒贾瓦哈拉尔·尼赫鲁就是其中的一个。
曼德拉会时常去尼赫鲁家吃印度咖喱饭，大家都是直接用手抓。曼德拉对甘地和尼赫鲁等人的抗争手段产生了兴趣，他回忆说：“我们开始抗争的时候，基本没办法从国内领袖阶层处得到任何参考，因为他们的经历没有文字记录，而甘地和尼赫鲁的经历则被记录了下来。所以，我们必须向他们看齐，他们的影响力是巨大的。”尼赫鲁是一个激进主义者，他对曼德拉的影响要比甘地大得多。曼德拉回忆说：“如果任何人企图阻止他，他都会把他们推开。他是那样的人，我们喜欢他，是因为他给我们指了条路，让我们明白了应该怎样对待压迫我们的人，而甘地虽有钢铁般的意志，其表达方式却非常温和婉转，他宁愿承受屈辱，也不会反击。”
1946年，在新成立的联合国大会上，印度政府的代表和南非印度人的代表联合把南非的种族主义提交到了议程上。非洲人国民大会主席阿尔弗莱德·舒玛也加入到抗议的一方。
1947年，非洲人国民大会主席阿尔弗莱德·舒玛和南非印度人大会领导人约瑟夫·达杜和蒙蒂·耐克尔签署了所谓的“博士协议”，协议承诺非洲人国民大会将和南非印度人大会合作。后来曼德拉政府水利部门的负责人卡德尔·阿斯马尔说：“这个协议让我们和我们这一代人都感觉到，这将会是南非的将来。”
没有选举权的南非黑人，决定在德兰士瓦和奥兰治自由邦进行民间选举，这是一场力求将选举推广到全国的活动。然而，就在此时，非洲人国民大会却突然宣布退出这场活动。
这让很多人始料未及，曼德拉等人更不知道舒玛主席在想什么。而非洲人国民大会德兰士瓦省主席拉莫哈诺则公开反对非洲人国民大会的决定。此举遭到了很多人的谴责，更有人要求曼德拉带头谴责他。曼德拉回忆说：“我丝毫没有怀疑拉莫哈诺对组织的忠诚和他对国民的贡献。我也知道，他的这种行为实际上是高尚的，他认为应该帮助印度人。但是，不管怎么说，违抗上级命令的行为在性质上是严重的。我最终还是同意带头谴责了他。因为，非洲人国民大会是一个整体，我不能为了他一个人，而牺牲整体的利益。”
1948年，曼德拉当选为青年联盟的总书记，他的政治生活节奏加快了。很快，青年联盟提出了一个新的行动纲领，号召发动群众，进行抗议示威、工人罢工、抵制恶法等运动。为了获得非洲人国民大会的支持，曼德拉、西苏鲁和坦博三人去找舒玛主席商议。然而，舒玛主席自始至终都不认同青年联盟的斗争方式，他说：“我已经是一位事业有成的医生了，我绝不会为了斗争而放弃今天拥有的一切。”
为了能够逼舒玛主席就范，他们威胁说：“如果你支持我们的斗争方式，在下次选举中，我们会投票给你；如果你不支持我们的斗争方式，在下次选举中，我们将会另选他人。”舒玛主席大怒，将他们三人赶出家门。
1949年12月，非洲人国民大会举行了选举大会，大会以低调的祷文开场：
天父啊，您一次又一次把我们从无知的肮脏和污秽之中拯救出来。您为这个“黑暗的非洲”揭开了暗夜的面纱。
作为主席的阿尔弗莱德·舒玛发表演讲，试图重新争取支持。演讲结束时，现场的掌声稀稀落落。最终，舒玛主席落选，大会选举莫罗卡医生为主席，沃尔特·西苏鲁为总书记，奥利弗·坦博为全国执行主席，曼德拉进入到非洲人国民大会的全国执委会。这意味着两点：一是曼德拉已经成为了非洲人国民大会的核心成员；二是青年联盟正式登上了非洲人国民大会的领导舞台，成为非洲人国民大会的中流砥柱。
从这个时候起，曼德拉才渐渐展示出他雄辩的口才和出众的领导能力。在他的领导下，南非黑人为了自由，英勇地同白人当局作斗争，谱写了一曲曲可歌可泣的血雨赞歌。