1935年8月1日，党中央、中国工农红军还正在长征途中，中共中央就发表了《为抗日救国告全体同胞书》（即著名的《八一宣言》）。宣言中号召全国各党、各派、各界人民团结起来一致抗日，收复失地，提出组织国民政府和抗日联军的主张。在《八一宣言》中，党中央还特别表彰了杨靖宇等在东北抗战前线的民族英雄们，写道：“我东北数十万武装反日战士在杨靖宇、赵尚志、王德泰、杨延禄、周保中等民族英雄领导之下，前赴后继的英勇作战，在在都表现我民族救亡图存的伟大精神，在在都证明我民族抗日救国的必然胜利。”
《八一宣言》传到东北抗日军民中，人们欢欣鼓舞。按照《八一宣言》的精神，中共满洲省委立即着手准备建立东北抗日联军的工作，先后发表了《东北抗日联军组织条例》、《东北抗日联军编制系统暂行条例草案》、《为建立东北抗日联军总司令部的决议草案》等文件，之后又以杨靖宇等人的名义发表了《东北抗日联军统一军队建制宣言》，这些都为东北抗日联军的建立做了思想上的动员和组织上的准备。1936年春，党领导下的东北抗日军队正式废除了原来各种不同的名称，一律改称为东北抗日联军。杨靖宇原领导的东北人民革命军第一军改编为东北抗日联军第一军，杨靖宇担任军长兼政治委员。三十一岁的杨靖宇在长期斗争中积累了大量的对敌作战的经验，变得更加成熟、坚强。他感到以后的斗争会更加激烈，自己肩负的担子也更加沉重。他满怀深情地对全体指战员说：“我军处于日军侵略华北的后方基地，又是内地抗战的前哨，每一个忠诚的共产党员、共青团员、爱国志士，必须贡献最后一滴血来绊住敌人，打击和消灭敌人，长期苦斗下去，胜利一定属于伟大的中国人民。”他那刚毅的脸上因为激动而轻轻地抽动了一下，布满血丝的眼睛里闪烁着坚定的目光，语句显得铿锵有力。听到军首长的讲话，全军指战员受到鼓舞，人人摩拳擦掌，决心为保卫华北、收复东北失地而献身。
抗日联军建立后，东北的抗日斗争又进入了一个新的斗争高潮。杨靖宇很快率兵投入到还没有结束的反对日伪的冬季“大付伐”的战斗中去，他们一路勇猛杀敌，所向无敌，以顽强的斗争精神彻底粉碎了这次日伪军队的“讨伐”。
为了更便于指挥和协同作战，杨靖宇和中共南满省委书记魏拯民一起在金川河里地区召开东、南满省委代表和抗日联军第一、二军的高级干部会。会上决定把抗联一军和二军合编为东北抗日联军第一路军，杨靖宇仍为总指挥和政治委员。从此他领导这支队伍活跃在东满、南满广大地区，与这里的日伪军不断周旋。
杨靖宇不仅是我军一名优秀的指挥员，而且也是一位优秀的政治工作者。为鼓舞士气，他亲自为抗日联军第一路军编写了军歌，这首军歌坚定有力，唱出了东北抗日联军的决心和自信。歌词唱道：
我们是东北抗日联合军，
创造出联合军的第一路军，
乒乓的冲锋杀敌缴械声，
那就是革命胜利的铁证。
正确的革命信条应遵守，
官长士兵待遇都是平等，
铁般的军纪风纪要服从，
锻炼成无敌的革命铁军。
领导起一切民众抗日者，
高丽和台湾共同团结着，
夺回来所失的我中国，
解放了牛马亡国的奴生活。
英雄的同胞们前进呀，
打出去日本推翻“满洲国”，
这一次的民族革命战争，
完成了弱小民族解放运动。高悬在我们的天空中，
普照着胜利军旗的红光，
冲锋呀！我们的第一路军，
冲锋呀！我们的第一路军。
这首歌写得简洁清晰、容易上口，很快就在全军传开。在艰苦的岁月里，这歌声不断回荡在密林深处，高山沟壑（h6）中，官兵们只要听到或唱到这首歌，就感到浑身有用不完的力量。
1937年7月7日是中国人民永远不会忘记的日子。这一天，驻在北京丰台的日本侵略军在卢沟桥附近进行军事演习，诡称一名日本士兵失踪，要求到中国军队驻地的宛平县城（今卢沟桥镇）进行搜索，遭到中国军队的拒绝。日军以此为借口向中国军队的驻地发起进攻，中国驻军是国民党第二十九军，他们在全国人民抗日爱国的精神鼓舞下奋起反抗，开始了中华民族的全面抗战。第二天，中国共产党向全国发出了《为日军进攻卢沟桥通电》，在通电中号召：“全中国同胞、政府与军队，团结起来，筑成抗日民族统一战线的坚固长城，抵制日寇的侵掠！”
在党中央的指示下，全国的抗战形势发展得很快。8月13日，日军又对中国最大的工业城市上海发动了进攻，上海军民团结一致奋起反抗。全国抗战形势的迅速发展，鼓舞了东北的抗日军民。8月20日杨靖宇张贴了布告，指出：“我民族要想生存，亦只有武装自己，别无它策。实行御侮以谋生存。”
为了开创新的局面，杨靖宇按照河里会议的决定，在粉碎敌人的“讨伐”的同时，挥师西征。西征的目的是使抗联一路军向辽南、辽西、热河挺进，打通与关内红军的联系，特别是要与党中央取得联系。
抗联第一路军在正式西征前，曾经在本溪县的梨树甸子与日本帝国主义在南满的忠实走狗邵本良的部队发生过激战，获得重大胜利。以后抗联第一路军又活跃在安奉铁路的两侧，开展灵活机动的游击战，神出鬼没地袭击敌人。这些斗争拉开了抗联一路军西征的序幕，此后西征正式开始。
1937年中国人民全面抗战开始后，抗联一路军派一师主力西征，部队向辽宁本溪、兴京进军，想从营口以北的地区强渡辽河。当时日寇为了防止东北和华北抗日队伍联成一片，把河上的船只收来沉掉或毁掉，而辽河又正在涨水。西征部队赶到河边就被敌人发现，敌人火速集结了三个师的兵力前来围堵，情况万分危急，抗联部队被迫停止西征，向东挺进。部队在东进途中与日伪军在凤凰山以外的摩天岭遭遇后发生了激战，猛烈的炮声震动着大地，发出了震耳欲聋的轰响，抗联战士们死死地咬住敌人，打得很顽强，最后终于以击毙日军金田大尉及下属八十多人的战绩宣告胜利。
这次西征虽然没有成功，但仍是一个很有意义的军事行动。第一次西征返回后，杨靖宇写下了著名的《西征胜利歌》：
红旗招展枪刀闪烁我军向西征，
大军浩荡人人英勇日寇心胆惊，
纪律严明到处宣传群众齐欢迎，
创造新区号召人民为祖国战争。
南方红军已到察绥眼看要出关，
西征大军夹攻日寇赶快去会面，
日本国内党派横争革命风潮涌，
对美对俄四面楚歌日寇死不远。
紧握枪刀向前猛进同志齐踊跃，
歼灭日寇金田全队我队战斗好，
摩天高岭一场大战惊碎敌人胆，
盔甲枪弹胜利无算齐奏凯歌还。
同志们快来高高举起胜利的红旗，
拼着热血誓必打倒日本帝国主义，
铁骑纵横满洲境内已有十大军，
万众蜂起勇敢杀敌祖国收复矣。
这一年的冬天，杨靖宇又组织了第二次西征。这次西征是派三师主力进行的，为了西征的胜利，特把队伍由步兵改为骑兵。日伪听到这一消息，尤其以为是杨靖宇亲自带队后，再次调动兵力前来堵截。我军本以为冬季辽河可以封冻起来，可部队来到辽河边才知道，今年天气反常，河水不仅未冻，而且波涛汹涌，水流很急，日伪军早就把船扣住。抗联将士们到了这里无法渡河，只好再次转师东进。在东进途中与日伪激战过几次，回到清原、垣仁休整。
敌人最怕的就是东北抗联与党中央取得联系，东北、华北的抗日游击区连成一片，而西征正是以此为目的的。因此，日伪早就不惜任何代价来阻止抗日联军的西征。由于敌强我弱等原因，东北抗日联军的两次西征都被迫中断。但是在几个月的西征中边战边进，边战边退，多次激烈的战斗对拖住和歼灭日伪力量，使之不能顺利地向华北进攻。