1 入选南共克罗地亚省委
约瑟夫3月底回到了老家。他的一个兄弟德拉古丁·卡罗不久前刚去世，他在这里的亲人实在不多了。别洛乌索娃在他被捕时就带着小扎尔科离开南斯拉夫，回到了苏联。
回家的当天，他到乡政府去报到，乡长约西普·久拉克与约瑟夫从小就认识。尽管如此，现在一个是乡长，一个是他管制下的监控分子，约瑟夫不敢太随便。不料，乡长见到他进来，却把门关上，接着拍拍他的肩说：“你表现得真不错。”这显然是指他在法庭上和监狱中的行为。乡长的夸奖令约瑟夫感到吃惊，他想到亚历山大政权失去民心已到了何种程度，连他们委任的乡长都在背地里夸奖一个造反者的表现。乡长告诉他，按规定，他必须每天到他那里报到。边说，乡长边使眼色，那意思是再明显不过的。
约瑟夫在村子里住了几天，拜访了所有的亲友，然后过苏特拉河去看望了母亲家的亲戚。在家里实在没有再要干的事了，他便悄悄地离开了库姆罗维茨。警察发觉后，立刻发出了通缉令。
约瑟夫坐牢时曾接触过一个给犯人募集钱款、寄送包裹的党的同情者，他叫斯特沃·葛罗加查，是位作家，他所从事的“红色援救行动”也接济过约瑟夫。这次，约瑟夫先找到他。通过他很快就找到了当时留在萨格勒布的一些同志，并与克罗地亚省委取得了联系。
党当时规定，从事地下活动的同志一律不用真名，这样可以避免因一人被捕而引起的连锁反应，即使假名也要经常改换。约瑟夫早在坐牢之前就用过好几个假名，他用“扎果拉克”发表过好几篇文章，那名字的意思是“从扎果列来的人”。现在由于警察在通缉，就更有必要用新的假名。不仅如此，连外貌都得改变。他留了胡子，染了发，配了副眼镜。他给自己先是起了个名字，叫罗迪。不久发现已有另一位同志叫罗迪。便又将它改为铁托。开始他自己还不太习惯，直到1937年，才专门用这个名字发表文章。有人说，他之所以起名铁托，是由于他习惯于支使人，因此起名时就用了克罗地亚语中第一人称单数支使人时通常的用语：“ti to”，意为“你去干那个”。这纯属想当然的猜测。铁托解释说，ti to并没有什么特别的含意，他是随便想起来的。这个名字在他的家乡如俄国人的伊凡、英国人的约翰一样，相当普遍。探究起来，“铁托”与文学倒有点关联。18世纪末，他家乡最有名的作家叫铁托·勃莱卓伐茨基。还有位作家的父亲也叫铁托，此外，它再没有别的意义。约瑟夫还用过很多假名，如斯皮里敦、梅卡斯、亚历山大·卡尔逊、维克托，等等。在共产国际，他叫瓦尔特。
一旦找到组织，铁托就积极投入工作，同志们选他为克罗地亚省委委员，成为克罗地亚地方党组织的领导人之一。
1929年，维多夫丹宪法施行，给南共党组织造成了极为严重的破坏。到1934年，全国关押过的政治犯不下35 000名，党的领导成员不是被杀害就是被关押，要不就流亡国外。铁托出狱时，情况稍有好转，有些基层地下党组织又在开始活动。但是这时关键的问题是这些组织太分散，国内缺少一个强有力的领导中心。1929年，南共书记久罗·贾科维奇被杀害之后，其他的中央委员都逃出了国境，滞留在维也纳，后来他们干脆在维也纳履行起南共中央的职责来，共产国际指定约瓦·马列西奇·马蒂诺维奇担任党的领导工作。
党中央不在国内，不了解国内的情况，虽然他们想同国内的同志取得联系，但每次派回去的人都被警方逮捕。被捕的人给组织又造成了进一步破坏。因此，国内的党组织对那个远离祖国的中央委员会失去了信心，有些基层组织甚至拒绝同他们取得联系。
铁托进入省委后，逐步了解了党的现状，他看到，在国内直接参加斗争的人只能被动地等待国外的指示，完全没有行动的自主性；而在国外的中央，自己也没有作出决定的自由，它的每一项决定都必须送到莫斯科，由共产国际审批。共产国际的办事程序是每次决定从下级到上级，层层报告，到了最高层，经过讨论，批准了，然后又沿着前面的路线回到维也纳南共中央，再由中央转到国内的党组织。结果往往看到的决定不是不合实际，就是已经过时，党的工作不可能有所发展。而当实践每一次证明了中央不能胜任领导工作时，共产国际就重新考虑一个领导人，这时的南共领导走马灯似地不断更换，换的人都是从莫斯科共产国际总部工作的人中挑选。铁托认识到，长此以往，党将越来越脱离南斯拉夫的斗争实际。
在国外的党中央试图与克罗地亚省委联系，但它派来的代表都被逮捕了，省委被暴露。有的委员建议不要再与中央联系。但是省委还是想作一次努力，与中央建立一种可靠的联系方法。这一次，他们派铁托去完成这项任务。
2 听命中央
1934年7月，铁托动身去维也纳。临时要搞到一本假护照已来不及。惟一的办法是偷越国境。
他选择了从斯洛文尼亚越境的路线，那是卡拉伐克山，人口稀少、警戒稍松，越过山岭就是奥地利。铁托用假名弄了张登山协会的会员证，化装成登山爱好者，穿着登山靴，背着帆布包，向国境进发。凭此身份，他可以进入奥境内8英里。
为了走捷径，避开边防哨卡，在一个小村他请了一名向导。那人要了他300第纳尔。黄昏时，他们出发爬山。向导身上带了三瓶酒，走那么一段路就要掏出酒来喝，因此，走得很慢。到半夜还不到边界。拂晓时，离边境不远了，向导却不肯再走，他说300第纳尔只够领到这里。他停下来，又有意地指点一些哨所给铁托看，好叫他明白，以下的路程都在开阔地带，哨所又到处都是，真还非他带路不可。铁托不得不请他再带一段。向导说：“当然可以，只要你再给300第纳尔。”
铁托不能不答应他。他还是走一阵，喝一阵，等他摇摇晃晃带到离边界不到100码的地方，他又故伎重演，不肯再走了。铁托很生气，决心不靠他，自己一人越境。
在一块路标处过境后，他想抄近路，结果迷了路，走进了深深的山谷中。他跌跌撞撞地摸出山来，好容易才看到一栋村舍。主人是个年老的农妇。铁托累极了，老妇人把他带到一个草堆旁，由他睡去。这一觉从早晨直睡到中午。在老妇人家吃了顿饭，铁托又上了路。刚走到村口，突然听到几声枪响。过了一会，只见几个带着枪，身着便服的年轻人不知从什么地方跳出来，其中一个人厉声喝道：“站住！”
这些人并不是边境警卫，他们衣袖上戴着卐字臂章，是一伙奥地利的纳粹分子。铁托上前解释，是南斯拉夫的旅行者。那伙人不容他多说，命令他回去。他只好转过身来，重新往边境走去。
原来，正是这一天奥地利总理陶尔夫斯在维也纳被刺，纳粹分子企图在全国趁机夺权。这个偏远的村子也发生了战斗，纳粹分子正跟政府军交手。
铁托等到看不见那伙人后，改变了方向，朝克拉根富特走去。不料这里也在打仗，一支政府军小分队拦住了他。此地已过了登山者可以通行的8英里以外的范围。铁托向他们解释，他本想回到南斯拉夫的耶塞尼策去的，因为路遇纳粹分子，只好绕道这里。小分队没有为难他，让他走了。走到策洛维奇车站，他乘上了一列去维也纳的火车。
铁托找到了南共中央。米兰、戈尔基奇、弗拉基米尔、乔皮奇都在那里。戈尔基奇是乌克兰人，年约30岁，身材高大，一头红发。他1918年参加了青年运动，1922年起就一直在共产国际机关工作。当乌克兰的喀尔巴阡地区分离出去时，他自己选择了南斯拉夫国籍。1932年，共产国际任命他为南共书记。
中央委员们围着铁托，如饥似渴地听他介绍国内情况。铁托尽可能详细地说明一切，同时也将自己对中央设在国外不利于领导斗争和不易联系的意见坦率地告诉了他们。
在维也纳期间，铁托参加了中央的工作。几个星期以后，中央派他回国筹备召开克罗地亚和斯洛文尼亚的党代会，并为全南斯拉夫的党代会作准备。这意味着他参与了党的最重要活动的领导工作。
铁托按照来时的路线回到南斯拉夫。他以全部精力投入到筹备这两个代表大会的工作中。他曾将工作进展报告给中央：
年轻的代表们对婚礼（指代表大会）的印象特别深刻，这是他们第一次参加这种事情，外地来的代表也一样，这足以说明人们对这次婚礼的重视。从省里来的代表们提出的报告说明党的组织已经深深地扎了根，例如锡萨克已有60名党员，周围农村也有这样多的党员……
报告中，铁托还谈到了萨格勒布党组织的恢复和发展，建议在发展党员时不要过于谨慎。
克罗地亚的工作完成之后，他随即去卢布尔雅那筹备斯洛文尼亚的党代会。
斯洛文尼亚的这次大会对这个地区，乃至全国的斗争都具有特别重大的意义，铁托为它起草的报告后来成为南共进行国内革命的指导思想。报告中提出了无产阶级革命必须与资产阶级民主革命同时进行的政策和策略。
大会是1934年9月在斯洛文尼亚大主教罗兹曼的夏季别墅里举行的。主教与他同父异母的兄弟不和，他不愿意跟这位兄弟住在一起，便叫他搬到这所郊外的大房子来住。别墅有好几个工匠是南共党员，他们把罗兹曼兄弟拉了过来，为代表大会提供了这么一个既安全又便利的会场。大会代表30人，会开了两天两夜，代表们吃住都在别墅里。主教兄弟非常高兴能有机会招待这帮神秘的客人。桌上铺上了雪白的桌布，摆着晶亮的玻璃杯和印有主教纹章的碟子。
在这次大会上，铁托第一次同爱德华·卡德尔见面。卡德尔比铁托小20岁，他个子矮小，皮肤黝黑，不多说话。他被捕的经历足以说明他的人品，铁托对卡德尔产生了很好的印象。铁托说，判断一个人主要是看他干了什么，而不是看他说了什么。夸夸其谈的人很难取信于他。而“卡德尔同志是个很安静的同志，也正是他的沉静使我产生了最深刻的印象。在许多人受到宗派主义影响时，他仍然是个忠实的革命者。”
两个地方党组织的代表大会召开之后，铁托被召去维也纳汇报工作。通过他的努力，中央的权威在逐步恢复。中央对铁托这一段时期的工作感到满意。
回国前，中央交给他的任务是具体负责第四次全国党代会的筹备工作。
铁托回国没几天，1934年10月9日，发生了一件震惊全国的事，亚历山大国王在法国被刺。暗杀是克罗地亚民族极端主义分子干的。王国政府立刻在全国采取了紧急措施，并趁机加紧了反共活动。
铁托在国内已有危险，中央委员会指示他立刻取道维也纳去苏联。由于边境也被严加控制，用老办法越境不太可能。他决定冒用一个捷克工程师的护照，贴上假照片，并伪造了签证。这是他第一次使用假证件，他总觉得护照伪造得不太像真的，一路上惴惴不安。
他乘火车离开南斯拉夫，与他同座的是一位奥地利妇女，她还带了一个婴儿。列车到达边境车站耶塞尼策时，警察上来检查。这时那个奥地利妇女站起来，请铁托帮她抱一下孩子。铁托接过孩子，把他放在膝盖上，一只手去掏护照。恰好，这孩子突然撒尿，弄湿了他的裤子。他把孩子高高举起，尿水一滴滴往下洒落。警察见到这场面笑了起来，紧张的气氛略有松弛。警察边笑边匆匆看了一下他一只手递过来的护照，盖上章还给他就走了。铁托安全到达维也纳。
中央原本决定派铁托去工会国际工作，因故没有成行，后改为派驻共产国际工作，处理南斯拉夫事务。而在国内，与此同时，1934年12月，由铁托具体筹备的第四次党代会在卢布尔雅那召开。大会选出了以戈尔基奇为书记的新的党中央，铁托正式进入中委，并进入中央政治局。但他们两人并未出席会议。
就在铁托准备前往莫斯科之前，又出了点意外情况。他在维也纳是租了一个犹太老女人的房子住的。房间在4楼，他不想去警察局登记暂住，免得惹麻烦。这天他坐在房里清理文件，突然，有人敲门。是一位邻居，他说屋里有煤气。的确有煤气，而且气味很浓，铁托也嗅到了。其他房客也走出来，他们一起到了厨房，煤气是从那里出来的。结果他们看到房东的女儿倒在地上。她企图自杀，此时已昏迷过去。铁托将她抱起来，送到自己房间，替她做人工呼吸。这时，屋里挤满了人，地上，桌上到处散落着各种文件和报告。忙乱中也来不及收拾。恰恰这时警察来了，为了那女人的事，他们需要取证，便问铁托，姓甚名谁？何方人士？什么公干？铁托一一照答，警察明白了，他是在帮助人家。幸好，他们没有注意到地上去，也没要看证件。等到急救站的医生来后，所有的人才离去。
铁托赶快收拾好文件，跟着走出了房门。他知道在某处咖啡店一定可以找到那犹太老妇人。果然在那里找到了她。他把她女儿的情况告诉了她，并请她帮忙把他房间的东西包扎好，送到某处。老妇人如约办了这些事。晚上她把铁托的皮箱送来，并对他所遇到的事表示歉意。她告诉铁托，女儿已经苏醒过来了，原来她是在一家时装店工作，乘老板不在时偷了他的钱，被主人发觉后，感到丢人而行此下策的。铁托则暗自庆幸，此事没有给他招来牢狱之祸。
一切安排妥当，铁托动身去莫斯科。
3 圣地莫斯科
火车进入苏联国土，时隔15年，铁托再次来到生活过5年之久的苏维埃大地。此时的铁托已是42岁的中年人，早过了易于激动的年龄。但是，当列车驶过边境上一个上面写着“向欧洲工人致敬”、“全世界无产者联合起来”的巨大拱门时，心中仍不免骤然升起一股敬意，产生一种即将进入崇高境界的感情。对于全世界的革命者来说，在他们历经恐怖、黑暗、流血、坐牢时，支持他们斗争下去的，就是他们通过苏联这个榜样，看到了自己斗争的前途。每一个革命者都把苏联看成是祖国，对铁托来说，这种感觉也许更加强烈。他回忆说：“1934年，我从监牢里出来后，当我在每个寂静的夜里倾听莫斯科电台的广播，听到克里姆林宫的钟声和国际歌激动人心的曲调时，我是多么愉快地感觉到这个国家的力量。”来到这个国家最初的一刻，真有一种回家的感觉。一切都那么新鲜，一切又都那么亲切。车站月台上挂着革命导师的画像，宣传栏里贴着乌拉尔巨大工厂、乌克兰的集体农庄、红场检阅的图片。革命者为苏联取得的每一个成就感到由衷的高兴。