1929年初，张学良下令回收中东电话权，苏联予以默认，但苏联驻奉天领事库兹涅佐夫就东三省交通委员会收回中东路电话权问题，向张学良提出抗议，要求偿还百万元安装费。
4月，张学良召集张作相、张景惠、吕荣寰等讨论中东铁路的问题。苏联在谈判中做出让步，允许华人担任商务、机务、车务、总务、会计、进款等6处处长，但要求中国方面承认中东路苏联工会。张学良故此认为苏联态度软弱，不久即收回中东铁路哈尔滨气象观测站，苏联亦予为默认。张学良更认为苏联没有什么了不得的。
1929年5月27日，张学良得蒋介石密电。电文大意是：冯玉祥组织“护党救国军”叛乱，与苏联驻哈尔滨领事有关，让张派人搜查苏驻哈领事馆。张学良立即密电哈尔滨特区长官张景惠派军警搜查了苏联驻哈使馆，搜走两箱秘密资料，并称苏共定于本日正午12时至下午3时在哈尔滨苏联领事馆地窖内召开“第三国际共产宣传大会”，以“俄人宣传****，显违奉俄协定”为由，在搜查中将前来领事馆的中东路沿线各站、三十六棚地区各工厂职工联合会、苏联商船局，远东煤油局、远东国家贸易局等负责人39人逮捕，甚至抓走苏联驻哈总领事，同时封闭了苏联职工会，并强迫中东路苏方正、副局长停职。晚10时，张景惠电令“沿线军警严加防范”。29日，张景惠下令封闭哈尔滨、齐齐哈尔、海拉尔等地苏联领事馆。31日，苏联政府向南京政府提出抗议。此即为“中东路五二七事件”，成为中东路事变的开端。
苏联对此事反应速迅，做好了战与和的两手准备，6月5日，海参崴当局要求释放其在哈尔滨领事馆被捕人员，表示愿意以缩小中东铁路局长权限作为交换条件。13日苏联增兵海兰泡，吉林省当局亦调兵赴瑷珲增防。17日苏联增兵满洲里附近，黑龙江省主席万福麟派第三旅增防呼伦贝尔。
6月22日—25日，张学良在沈阳召开对苏会议，决定改编陆军屯兵中蒙边界，接收中东路方法等问题。7月7日，张学良抵达北平与蒋介石会晤，商谈有关中东路的对策，会谈内容如何，外人不得而知，但蒋肯定对收回中东路表示支持。7月10日，由东北政务委员会命令，通知中东路苏方职员，以中东路沿线电话线，超越铁路专用规定，竞尔一般收费通话，实属侵权为由，实行将该电话线完全收回，交付中国管理。除哈尔滨车站、江桥车站报房及附设的长途电话由东北电政监督蒋斌接受外，沿线各站，如：绥芬河、满洲里、海拉尔、宽城子、齐齐哈尔、海林、一面坡、扎兰屯、安达及其他各大站，全部派员接收，并配置军队。下午2时，哈特警处又奉长官公署命令，以东铁各职工联合会等苏联哈机关宣传****为由，一律加以解散及查封。下午6时，又将苏驻哈代理领事及中东路局长等59名苏方人员，驱逐出境。中东路督办吕荣寰于11日发表宣言，列举苏方违约情形，指出搜查苏驻哈领事馆时，证明苏方重要路员，皆系宣传****分子，故奉政府令遵照协定，从事执行，以便防止****宣传，保持奉俄协定精神。吕氏并派中东路华方理事范其光暂代该路管理局长。制造了震惊中外的“中东路事件”。
中东路事件发生后，苏方反应强烈。7月13日，苏联外交部向南京国民政府提出最后通牒，照会南京政府，抗议中方违背中苏现行条约，同时提出三项解决办法：(1)从速召集会议，解决中东铁路一切问题；(2)政府机关对于中东铁路，将不合法之行为取消；(3)所有被逮之苏联人民从速释放，而中国政府机关对于苏联人民及机关停止处分与压迫，苏联政府甚愿奉天政府及中华民国国民政府对于是项反对苏联此种提议所发生之严重结果，熟加考量。并声明三日之内倘不得满意答复，“苏联政府迫不得已，将取用他种方略，以防卫苏联原则上之权利。
16日，南京政府答复苏联照会，声明此次措置“纯以防止骚乱治安事件之突发为目的”，指责苏方无端拘留扣押华侨千余人，建议苏方释放所拘侨民，保证华方侨商及团体正当权益，并允诺“中国政府对于东省(东三省)此次因案逮捕之苏联人员及查封之机关，亦可于适当时机，予以相当之待遇。”而对于苏方提出的3项解决方法未作正面回答。17日，苏联政府发表对华断交牒文，对中国政府16日之答复内容认为不能满意，其论调为矫饰，苏联政府不得已采取下列措施：(1)召回苏联驻中国使馆及侨务代表；(2)召回中东铁路苏联所派人员；(3)断绝中苏间铁路交通；(4)请中国驻苏联使领，迅速离苏联国境．并声明保留1924年北京奉天中俄协定之一切权利。…”
19日，南京政府外交部发表对外宣言，驳斥苏联政府的断交通牒。
如此强硬、鲁莽的对外交涉事件可以说是近百年来中国政府的第一次。原因何在呢?当时的中国真的强大到可以同列强开战了吗？
早在1929年东北易帜前后，南京国民政府头面人物吴铁城来到东北，与张学良取得联系，曾有言“不到东北，不知东北之大；不到东北，不知东北之危”，蒋介石更是片面夸大苏联在东北的势力，使张学良认为苏联在东北势力对其统治构成威胁。同时蒋认为东北依旧是一个独立王国，奉俄开战，只会使自己获得渔翁之利。同时，东北军中一些少壮派，向张提供了一些错误的讯息，说苏联内部空虚，边境武装不堪一击，战端一开，必然土崩瓦解，尤其连年收成不好，军需民食大成问题，即或引起战争，最后胜利必然属于奉系，张学良决定对苏实施强硬政策。
这些人以中东路督办吕荣寰为首（兼任中东路中方理事方，九一八后曾任伪满产业大臣、伪满驻南京大使等职）。孙科在十多年后的《中苏关系》一书中，提到张学良发动中东路事变是“宵小”所致，所指的宵小就是吕荣寰。据许多东北军老人回忆，吕之所以要挑起中东路事变，是因为中东路历年铁路盈余很多，苏方局长主张用于建设，修建铁路，而吕荣寰等则要按股分利，以便从中贪污，于是怂恿张学良强行收回中东路，以致酿成战事。
主张收回中东铁路路权的除吕以外，还有负责对苏外交的东省特区长官张景惠和在张手下办理对苏外交的特区教育厅长张国忱、中东铁路理事邹尚友（后任南京政府外交部司长、公使、大使等职）、李绍庚（后任中东铁路理事长，九一八投靠伪满，任中东铁路督办，1935年任伪满州国交通大臣衙任外交部大臣，1945年3月任伪满驻南京大使）等。（张国忱、邹尚友、李绍庚全是哈尔滨商业学校毕业的学生。这个学校是帝俄在哈尔滨办的学校，华人学生从小在俄国人家里寄住，所授的课程也全是俄文课本，由这个学校毕业的学生不但俄语很好，就是生活习惯和世界观也是帝俄那一套，对帝俄时代的将军也有特殊的崇信。张国忱有一个白俄顾问是帝俄时代的将军，名叫托玛夫斯基，他向张建议说：“苏联有大饥荒，人民奄奄待毙，对于共产党政权极度不满，欧美各国对于苏联也有仇恨，倘若有人此时发难，共产党必倒台。中国若能趁这个机会将中东路主权一举收回，不但苏联此时无力进行反抗，就是世界列强也必双手高举，赞成中国的行动”。张、邹等人此时正想挤掉吕荣寰，由张取而代之。他们对吕不懂俄语，不谙俄情，却占据肥缺，心有不甘，同时他们有南京政府外交部也有联系，由蔡运升去职、邹尚友到外交部任职可知。至于张景惠，他是张学良的父执，而东省特区行政长官一职，在东北非常重要，这一要职甚至比省主席还要重要。因为北满经济动脉中中东路的一半经营权和沿线的地亩、教育、工矿等行政管理权，以及有二十万以上白俄居住的哈尔滨管理权，都归其所有，而张是人所共知的庸碌无能、事理不明，是非不分。托玛夫斯基则企图利用中国在西伯利亚搞复辟，日后在东北组织的两路拒俄联军全有身着军服的白俄人参加。）
东北军也有不少人反对对苏采取强烈，“辅帅”张作相就是其中反对最强烈的一位，他对张学良说：收回中东路是好事，可是这事非同小可。进兵接收，势必要打仗，我看用全国力量对付苏联，也未必能打胜，只凭东北军去打苏联能行吗？恐怕收不回中东路，反而惹出麻烦，也要防止日本人乘机捣乱。张学良觉得张作相把困难想的太多，派人回吉林规劝张作相：“根据多方情况，苏联决不能在远东作战，收回中东会马到成功的。”张作相看到张学良主意已定，也就不再坚持，但张作相的意见后来都不幸料中。
步兵第四旅旅长刘翼飞也反对出兵，张认为刘是支持其出兵，原意让刘去吉林劝张作相，对刘说拟派十个旅开赴东铁沿线收复中东路，结果刘十分直接地回答：“我们如果仅仅出十个步兵旅就能击败苏联的话，那我们就不致退回关外，老将也不致遇害了。”张说：“根据各方情况，苏联决不能打！”刘说：“从军事学来看，打仗有没有把握，不在于敌人能不能打，而在于我们怕不怕和行不行。”张中止派刘去吉林，对人说：“怎么翼飞这次也气馁了呢？”
苏联对华断交之后，王家桢（张学良秘书，在日本很有影响力，田中奏折就是他通过蔡智堪搞到的）接到驻东京办事人拍来的电报说苏联对华断绝外交了，他知道事情严重。苏联与中国断交，南京肯定能先接到通知，那么南京也不能不首先通知东北当局，但当时南京政府方面毫无消息。当时张学良在北戴河避暑，王拿着电报到大帅府秘书厅向王树翰秘书长说：“事情弄严重了，苏联和咱们断绝国交了！”王树翰很吃惊地说：“你怎么知道？从哪来的消息？”王家桢出示了东京来电，王树翰非常惊慌地打电报给张学良，请张即日返沈。让王家桢气愤的是，这个绝交消息在报纸上公布以前，南京始终未告知东北政府。