杨靖宇在两年的时间5次南下,推动了桓仁、兴京等地抗日武装斗争的发展。1936年5月,在兴京县草盆沟建立了1军第3师。在此期间,杨靖宇进一步贯彻党的抗日民族统一战线政策,将活跃在宽甸、桓仁一带的抗日义勇军左司令(左子元)部队、高维国部队、于万利部队分别改编为抗联第1军第11、13独立师和游击大队。
1936年7月,南满党在河里后方基地惠家沟密营里,召开了第二次代表大会,即著名的河里会议。会议通过了《南满党第二次代表大会决议案》,会议决定将东北人民革命军正式改编为东北抗日联军,东北抗联1、2军组成东北抗联第1路军,杨靖宇任总司令兼政委,王德泰任副总司令,全军总计为5000余人。东北抗联1路军的编成,实现了东南满抗日武装力量的大联合,两军战士无不欢欣鼓舞。南满省委书记魏拯民送给杨靖宇一本《共产党宣言》,杨靖宇回赠给魏拯民一支小手枪,他说:“老魏,你给我马列主义,我给你杀敌武器!”
1937年7月7日,全国抗日战争爆发后,1路军发表了《为响应中日大战告东北同胞书》,8月22日,发布了署名杨靖宇的《东北抗联第1路军总司令部布告》:“号召人民群众行动起来,打倒日本帝国主义,推翻傀儡政府‘满洲国’,为独立自由幸福之中国而奋斗。”杨靖宇非常明确东北抗战和关内抗战的相互关系,曾向全军指战员讲:“我军处于日寇侵略华北的后方基地,又是内地抗战的前哨和先锋,每一个忠诚的共产党员、共青团员、爱国志士,必须贡献最后一滴血来绊住敌人,打击和消灭敌人,长期苦斗下去,胜利就一定属于伟大的中国人民。”经过1936年冬季和1937年夏季的休整训练,抗联一路军的军事素质和政治素质得到了进一步提高,军民关系进一步加强。广大指战员正以充沛的精力准备新的战斗。
杨靖宇和南满省委决定在东南满地区积极主动出击,牵制敌人,全力阻碍日军入关南下,以配合全国抗战。他率领抗联1军直属部队150余人在西进联络3师途中,袭击了沈吉铁路沿线的敌军用列车;在宽甸四平街痛歼日军水出守备队,获重大胜利,日军水出大队长、陆岛小队长相继丧命。12月初,杨靖宇率300余人在本溪南营房附近同日军川野、木越、福本守备队以及伪治安队和警察大队600余人交战,毙日伪敌人37名,其中日军33名。杨靖宇领导的抗联1路军各部,奋战于东南满,战果累累。1军军部和1师在桓、宽、凤、本一带,2师在通、金、临一带,3师在抚、清、兴一带,2军在东满各地,袭击敌军据点,焚烧敌人仓库,破坏敌军工设施,截击敌军用车辆,有力地牵制了敌人。杨靖宇和他领导的抗联1路军名扬全国,受到中共中央的高度重视。1937年12月13日,中共中央政治局确定杨靖宇为中国共产党第七次全国代表大会准备委员会委员。
杨靖宇和抗联1路军的游击活动,严重地威胁着日本侵略者统治,为解除“后顾之忧”,日本侵略者从1937年秋季开始,对杨靖宇领导的抗联1路军发动了历年来规模最大、手段最残酷的“大讨伐”。这种动向说明,杨靖宇主动进攻的方针调动了敌人,牵制了敌人,增加了东北日伪军和军用物资向关内调动的困难。正如毛泽东同志所说:“东三省的游击战争,在全国抗战未起以前当然不发生配合问题,但在抗战起来以后,配合的意义就明显地表现出来了。那里的游击队多打死一个敌兵,多消耗一个敌弹,多牵制一个敌兵使之不能入关南下,就算对整个抗战增加了一份力量,至其给予整个敌国的精神上的不利影响,给整个我军和人民以精神上的良好影响,也是显而易见的。”此次“大讨伐”由日本关东军参谋长和伪满军事部大臣亲自出马,纠集了两万多兵力,调集上百架飞机,叫嚣要“发动全国之兵力,消灭东边道的敌匪”。1军的处境越来越艰难,但是,杨靖宇领导的1路军却一刻也没有停止战斗,反而取得了奇袭老岭隧道工程的重大胜利,破坏了敌人交通运输线和军事工程,解放了大批劳工。
1938年8月2日,杨靖宇率总部、警卫旅和1方面军一部约400余人,在辑安县八宝沟山区宿营,随后按计划向东北方转移。这天上午,先头部队刚刚翻上山冈,后卫部队传来报告,说埋才沟南端庙岭附近发现敌人。原来,敌人发觉了杨靖宇部主力转移的动向,便从辑安县调伪军索旅骑兵团和步兵32团共约300多人出城“讨伐”。杨靖宇召集指战员讨论对策,大家一致主张歼灭这批送上门来的敌人。杨靖宇把群众安置到北山坡的安全地带,指挥部队分头进入埋才沟,摆开伏击阵势:指挥部和机枪排设在西北山腰,既可综观全局,又可封锁敌人逃窜的道路。在公路的东南方有个制高点,杨靖宇特派一个连的兵力前去扼守。伏击战于下午展开,经过激烈战斗,共毙伤敌60多人,俘敌30余人,获机枪9挺、步枪130余支、手枪4支、望远镜2架,其他军需品若干。日军骑兵中尉西田重隆和步兵上尉高冈武治被击毙。这次长岗一战,使被日伪誉为“满洲剿匪之花”的索旅几乎全军覆没。