1962年6月，曼德拉回到了埃塞俄比亚，开始接受一个为期6个月的军事培训。在亚的斯亚贝巴城外的山上，曼德拉第一次使用了自动步枪和手枪。6月29日，他在日记中写道：“以前我从来没有持枪射击过，但是枪握在手里感觉很舒服。瞄准，扣扳机，之后子弹呼啸而出，然后好像在石头上蹭了一下。我的教官用阿拉伯语大声说了些什么，似乎是在表扬我射击得很准。但是，那次只是运气好，后来我就再也没有射中过那块石头。”
在埃塞俄比亚，曼德拉还学会了发射迫击炮和制作炸药，他常常在森林里跑到筋疲力尽，经历了对体力的考验，还学习了游击战知识和军事规划。曼德拉回忆说：“在那里训练了两个月，我学到了怎么用不同类型的枪支射击不同的目标。还有在不同距离下的射击，怎么瞄准固定靶射击，怎样瞄准移动靶射击。他们把靶子立起来，然后把靶子突然消失，再出来，再消失。有的时候，靶子还会跑起来，你必须在它移动的过程中射中它。所以说，所有很不错的训练都是在埃塞俄比亚完成的。另外还有远距离行军，那真是累得厉害。我们背着很重的包，子弹在耳朵边呼啸而过。背着背包、水壶、扛着枪，翻过一座又一座高山，然后还要遵守很多规定等等。真的是非常艰苦。”不过，曼德拉也颇为自豪地说：“我感觉自己已经被训练成为一名军人，开始用军人的思维方式去思考问题，而完全脱离了一个政治家的思维方式。”
后来，曼德拉在达累斯萨达姆接见了第一批准备去埃塞俄比亚进行军事训练的“民族之矛”的成员。在那里，他第一次接受了士兵们对他的敬礼。曼德拉雄心万丈地说：“革命不只是一个扣动扳机的问题，其目的是去创造一个平等、自由的社会。”
除了军事训练，曼德拉还会抽空阅读一些讲解军事斗争的书籍，美国作家埃德加·斯诺的《红星照耀中国》是他读到的第一本关于中国的书。后来，曼德拉相继读了《毛泽东选集》《孙子兵法》《论共产党员的修养》等书。他回忆说：
埃德加·斯诺的《红星照耀中国》是一部很不错的作品，内容简单，很有感染力。这本书的优势是，作者不是共产党员，因为作者不是共产党员，他就可以用批判的态度来看待中国。
埃德加·斯诺讲述了中国革命在中国东南部发起的过程，当时蒋介石和其他党派企图包围这个地区，把革命扼杀在摇篮里。书中也详细地记录了发起革命的先烈们的斗争过程。最后，革命者们发现如果继续停留在这个区域，就很有可能全军覆没。于是他们冲破铜墙铁壁，向南部转移，后来北上转至快到边境线上，并从那里发起了进攻。
中国革命真是一部杰作，是真正的杰作。如果你了解到他们开展革命的方式，就会相信所有事情皆有可能。中国革命真是个奇迹。
如果从个人修养来说，对我影响最大的是《论共产党员的修养》。刘少奇在书中讲得句句在理，我从中受到极大的激励。一个真正的革命者一旦认定追求的目标，就要不懈地奋斗，就要经受各种曲折考验，要在艰难甚至恶劣的境遇中求生存与发展。正是这种精神力量，使我坚定信心和斗志。
曼德拉还阅读了很多关于革命失败的资料，而且从这些资料中学到了不少经验教训。渐渐地，曼德拉摸索出了一条系统的、适合南非的革命之路：
在组建革命军队的过程中，有一些重要的事项必须牢记在心：
请求盟国帮助训练军队固然很重要，但这只是计划的一部分。最重要的是要建立自己的学校，这些学校又可以在国内或边境上建立训练中心。
有战争就会有伤亡，所以在行动之前必须要制订周密的计划，要有后备力量作为补充。如果不做这些必要的准备，革命不仅不会取得成功，而且还会助长敌人的嚣张气焰。最应该做的，是在最开始就要向敌人展示你的实力。
必须要灵活应变，而且要有独创性，否则，你就会被敌人击垮。
同时，我们也必须意识到一个事实，那就是：战争持续的时间越长，死亡的人数越多，人民也容易产生疲惫感。
所以，我们有必要建立突击队。在阿尔及利亚，按照带状区域组建有突击队，突击队员的作用很特殊。虽然他们参加的活动不会带来太大的经济效益，但对提升国民的士气很有帮助。
在斗争伊始，我们必须制定总体规划，部署好每天的行动。除了这样的能够控制革命总体形势的总体规划外，还要对下一步的行动制定计划。比如，对接下来3个月的主要行动进行规划。不能仅仅为了战斗而战斗。每一个个体的行动必须要有明确的战略目标。
因此，我们必须设立：
1.军事目标
2.政治目标
3.心理目标
设立上述战略目标的时间是有限的。但是，一旦确定，就很有可能开创出新的革命形势，而新的形势又需要改变总体规划。要按照战略目标制订战术方案，除了军事行动的方案外，还应该提高人民的政治觉悟。革命的目标是为了推翻现在的政府，建立人民自己的政府。执法部门、行政部门和物资供应部门都应该具备同样的权力。
我们的目标是壮大我们的军事实力，削弱敌人的军事实力。
打江山容易坐江山难。同样，发起一场革命很容易，但是要长期坚持下去，就很困难了。所以，我们在发起革命之前，就应该对革命的形势作出整体分析。
在埃塞俄比亚训练了6个月之后，曼德拉决定返回南非。他先来到了贝专纳兰——这是他一年前出逃的地方。接着曼德拉和前来接应他的朋友塞西尔·威廉姆斯等人会合，然后开车偷越国境，回到南非。
殊不知，南非的白人当局早就布下了一张天罗地网在等着他。