铁托来到莫斯科，过去他曾路过彼得堡，却没有到过这里。共产国际的总部在离红场不远的马霍瓦伊大街，而其干部则多半住在高尔基大街的卢克斯旅馆。铁托到达后，向南共驻国际的代表弗拉基米尔·乔皮奇报到。卢克斯是一个规模很大的老式旅馆，楼下有一个餐厅，铁托在这里得到一个小房间。旅馆的进门处，设有签证的地方，所有来人必须在此领取通行证，没有证的绝对不许入内。
铁托被任命为共产国际巴尔干书记处候补委员兼南斯拉夫报告人。他今后的工作就是在德国共产党领袖威廉·皮克领导下的巴尔干书记处主管南斯拉夫事务。人们给他起了个新名字——瓦尔特。
巴尔干书记处管辖南斯拉夫、希腊、保加利亚、罗马尼亚、阿尔巴尼亚等国的党。共产国际的领导就是通过若干个这种按国家地域划分的书记处进行的。各国党的问题先在书记处讨论，然后再拿到共产国际的会议上讨论。书记处的领导人都是共产国际主席团成员。主席团主席是保加利亚著名的共产党人格奥尔基·季米特洛夫。由于他在希特勒臭名昭著的国会纵火案中，在莱比锡审讯时的光辉表现，更由于在工作中目睹了季米特洛夫的人格和作风，铁托对他非常敬仰。此外他跟皮克也很谈得来。在莫斯科期间他还结识了许多著名的共产党人，他们是陶里亚蒂、法国的多列士、捷克的哥特瓦尔德、西班牙的迪亚士。美国共产党领袖白劳德是在卢克斯旅馆的浴室相遇的。在共产国际，铁托只见过一次斯大林。那是在国际第七次代表大会开幕的一天，斯大林坐在一根大理石柱子的后面，人们私下里都叫他老板。尽管共产国际的工作路线都是秉承斯大林的意志，但是斯大林却很少在这里露面。
1935年以前，共产国际的指示给南斯拉夫革命带来了损害，但共产国际是“不可能犯错误的”，错误都是各国党的。一个时期以来，共产国际的指示在南国内得不到执行，即使是南共中央也推不动下面的工作，为此，共产国际已撤销过两位南共书记的职务。
工作一段时间之后，铁托明显地感觉到了，这里没有南共的地位。果然有一天，季米特洛夫问他：“瓦尔特，你说，你们那里到底有没有党组织？”原来他是从南共的报告中感到南斯拉夫国内没有党的组织，而只有一个在维也纳的中央，同时，这个中央又不团结。这确是叫人瞧不起的。铁托回答他：“季米特洛夫同志，你不能根据维也纳的领导来判断我们党。我们国内，在基层存在党的组织，党员在尽其所能进行斗争，甚至牺牲了生命。我收到了报告，我知道这些人，他们是工人。但是我得告诉你，国内的党组织对领导完全丧失了信任，因为他们认为，中央派人联络之后，不久就有许多人被捕。国外去的人被捕后表现很差，由于他们的原因，一系列组织遭到破坏，因此，国内组织对现居高位的领导无法信任。”铁托的话使季米特洛夫大吃一惊。他想到必须寻求一个解决办法。
1935年7月，共产国际第七次代表大会在莫斯科召开。这次大会是国际共产主义运动的一个转折点。会议提出了组成反法西斯统一阵线的问题。各国共产主义运动从孤军奋斗转到团结一切民主进步力量的路线上来，它给国际共运带来了新的活力。
不过，从筹备这次大会，到大会的召开，铁托也感觉到了这个机构内部存在的问题。
南共出席会议的代表团本来是提名瓦尔特参加共产国际执委会的。可是，一天乔皮奇突然向代表团成员通报，共产国际对南共提名的候选人不满，认为这是对南共书记戈尔基奇的不信任（其实戈尔基奇自己也投票选瓦尔特）。而戈尔基奇是共产国际所信任的，那么，这也是对共产国际不信任。代表团不得已，只得表示，瓦尔特与戈尔基奇不存在任何矛盾，同意改变提名。这事令铁托尤其难堪，其实他并没有任何背后活动。更重要的是，他看到了共产国际是如何干涉一个党的内部事务的。共产国际要求提名戈尔基奇可能是执委会书记、俄国人马努伊尔斯基建议的。他与铁托本人并无任何恩怨，只是他们不太熟悉。后来相处日久，他们之间关系才比较融洽。可是当时的铁托不过是一个无名之辈，而戈尔基奇声望要高一些。
戈尔基奇被提名也不过只当选为执委会候补委员，其他的南共领导则一个也未进执委会，这反应出南共的地位，共产国际将南共当成一个弱小的党，它还没有资格进入执委会。
在莫斯科期间，铁托很少上街游逛，他的活动天地几乎限于马霍瓦伊街的办公室到卢克斯旅馆的路上。过去在国内难得有在莫斯科这样的条件看书学习。坐牢时，监狱中有时间却没有好书；出狱后即使能弄到书也没时间。现在这两个条件都有了。他不想去参加党校的正规学习，认为自学可以学得更多的知识，每个人都最清楚自己需要的是什么。铁托首先选学了经济和哲学，同时也对军事理论产生了兴趣。伏龙芝、克劳塞维茨等人的著作他都深感兴趣。铁托在军事方面的才干在这段时期的学习中增进不少。为他后来领导解放战争打下了基础。
七大结束后，铁托随同代表团游历了苏联的部分地区。他们既看到了社会主义建设所取得的成就，也看到了某些阴暗面。无疑这些事情给他的印象对他今后在南斯拉夫的做法产生了积极的影响。一起参观的还有3个南斯拉夫人。他们对所看到的现象感到失望，尤其是在集体农庄，看到那里农民的生活水平比南斯拉夫国内的情况还差，不能不使他们感到迷惑。但是铁托还是劝他们回去后不要谈这些事。他曾经回忆说：“当我在那里工作的时候，我知道许多事情是错误的，我亲眼看见许多个人野心和排挤打击的事情。我同集体农庄庄员谈话时注意到当他们想讲些什么的时候，互相轻撞胳臂示意，吞吞吐吐。当大清洗发生的时候，我不在莫斯科，但是甚至在1935年，逮捕还没有结束，而那些逮捕别人的人后来自己也被捕了，一夜之间，人就不见了，没有人敢问他们被带到哪里去了。逮捕甚至降临到季米特洛夫头上，他的姐夫伏尔科·契尔文科夫怕被逮捕，躲在自己家里逃避内务人民委员部。我在那时看到了所有这些事情，只是原因还不像今天这样清楚，那时，我的革命职责是不予批评，不去帮助外国的宣传来攻击这个国家。这是惟一实现了革命的国家，在那里必须建设社会主义……人们也许会指责我缺乏勇气。不，我认为没有人会这么说，那时，我们许多人只有一个念头，就是不要损害国际共运的进一步发展。我和许多别的人一样，认为这只是一个暂时的内部问题，它会逐渐澄清的……对在莫斯科所见的一切，我从内心感到厌恶……”可以说，这就是铁托后来在南斯拉夫提出“人道的社会主义”口号的思想根源。
1935年5月，亚历山大国王被刺后，南斯拉夫进行了一次选举，由米兰·斯托亚迪诺维奇为首组成新一届政府。新政府对共产党的迫害并未放松。从1935年底到1936年3月，它在国内逮捕了大约1000名共产党人，党的各个省委几乎全体成员和共青团中央的领导人都被捕了，党的特科被破坏。
斗争形势加剧了南共中央委员会内部的分歧。中央重新出现了小集团活动。乔皮奇等人在维也纳（后移到布拉格）开了一次秘密的中央全会，戈尔基奇和铁托因在苏联，没有参加。会议的决议表明了，南共对共产国际七大的精神没有真正的理解，它还在坚持过去的关门主义路线。共产国际对这次事件进行了干预，废除了全会的决议，并决定改组南共中央，任命了一个新的中央委员会，指定戈尔基奇为总书记，铁托为组织书记。新的中央决定派铁托回国，在国内为组建国内的领导班子创造条件，并对国内党的工作负责。等待已久的机会终于来了。
但是铁托心里明白。要改造党，还有三项工作必须去做：第一，整个中央委员会都应回国；第二，必须摆脱共产国际的控制，不再盲目地、不加批判地接受它的指示；第三，必须摆脱外界在金钱上的援助。铁托把自己的第一点和第三点想法跟季米特洛夫谈过。对第一点，季米特洛夫赞同铁托的建议，而马努伊尔斯基等人则只部分同意，结果就让南共政治局一半成员，以铁托为首回国工作，以总书记为首的另一半成员则留在巴黎。对第三个问题，季米特洛夫完全同意铁托的看法。铁托认为，党的领导必须与党员群众保持接触，如果从外界得到钱，从莫斯科拿津贴，只会使干部堕落。党得到这笔钱不是用来搞宣传，而是发工资，钱在上层就分掉了，工资还相当高，一个中央委员一月2000法郎。身居国外，拿着高薪，又不冒任何危险，这些钱成了党内产生派别的根源之一。铁托说：“没有一件事比从外面得到金钱更挫伤斗争锐气的。”更具有深远意义的是，断绝外界资助，意味着南共摆脱了对共产国际的依赖。
4 清洗污秽
1936年深秋，铁托取道波兰回国。回国前他已经熟悉了党内派别斗争的那一套，因此，他不能不提防来自同一营垒的暗箭。他回国的护照是戈尔基奇给他准备的。戈尔基奇早就跟他有分歧，因此，铁托没有用这个护照，也没有按他指定的路线回国，而是自己另搞了一本护照，走了不同的道路回国的。后来，从戈尔基奇那里得到护照的其他同志在过南境时被捕了。
回到萨格勒布，党的处境仍然非常困难，整个克罗地亚地方委员会的一百五十多名委员全都被捕。铁托的重建工作不得不与从贝尔格莱德召来的同志商议，密洛凡·吉拉斯就这样被派到萨格勒布来与铁托接头。吉拉斯回忆说：“我乘火车到萨格勒布，一路上提防着警探的跟踪。我来到预先安排好的地方，中央委员正在那里等我，他中等身材，瘦而结实，他的面孔坚强而镇静，同时还有些亲切，他的眼睛是蓝色的，温和的。我不知道他的名字，因为地下工作习惯上是不请教姓名的。”
吉拉斯感到，这位中央委员的相貌好熟悉，但却想不起来他是谁。
铁托问了吉拉斯一些贝尔格莱德的情况，向他宣传了自己的组织纲领。为了避免过去那种建立组织——遭到破坏——重建组织——又遭破坏的结局，铁托指示，应该在工厂、车间、学校受到当局信任的人中选择党的干部。而不应该再在民主运动中知名的人士中培养干部了。党的干部工作重点应该放在青年工作上，青年人与过去党内的派别较少有瓜葛。按照这条方针，在后来形成的以铁托为首的领导核心中，除了铁托本人外，其成员都是比他小二十岁的年轻人。
铁托要吉拉斯从贝尔格莱德挑选一名同志来领导青年工作。
在返回贝尔格莱德的火车上，吉拉斯竭力回想从前在什么地方见过这位中央委员。终于他想起是见过这个人的一幅画像，对了，是莫沙·皮雅杰画的一幅人物肖像，那是他们同时坐牢时画的。皮雅杰曾告诉他，那个人叫约瑟夫·布罗兹。