“七七”事变后，松花江下游地区抗日斗争的发展引起日伪军的恐慌，他们调集5万多人的兵力包围抗日联军。对此，北满临时省委决定：跳出敌人包围圈，组织部队向西北远征。1938年11月，李兆麟率领六军教导队和十一军队伍，翻越小兴安岭，向黑嫩平原远征。此时的东北已是北风呼啸、大雪纷飞的严冬季节，战士们冒着刺骨的严寒在林海雪原中行进。白天分成小部队活动，夜间在篝火旁露营，与饥饿、寒冷和疲劳作战，克服了种种难以想象的困难。经过一个多月的长途跋涉，于同年底到达海伦县境内，与先头部队胜利会师。期间，他写下了著名的“露营之歌”：“朔风怒号，大雪飞扬。征马踟蹰，冷气侵人夜难眠。火烤胸前暖，风吹背后寒。壮士们！精诚奋发横扫嫩江原。伟志兮！何能消减。全民族，各阶级，团结起，夺回我河山。”

1939年5月30日，东北抗日联军第三路军成立，下辖4个支队。李兆麟任总指挥，率部在广袤的松嫩平原开展游击战，打击日伪军，先后攻克讷河、克山、肇源等县城，开辟了抗日游击区和后方基地。从1939年6月至1940年3月，抗联第三路军取得了30多次战斗的胜利，缴获武器500多件，毙敌250余人，攻克城镇七八处。他还在朝阳山根据地开设干部训练班，提高部队干部的素质。

1940年底，抗联部队在极其艰难险恶的环境下遭受严重挫折，李兆麟和周保中等组织整训部队，继续坚持斗争，任整训后的东北抗联教导旅政治副旅长。抗日战争胜利后，他以中共代表身份任滨江省副省长，兼任哈尔滨市中苏友好协会会长等职。面对当时东北复杂的险恶形势，他把个人安危置之度外，坚定地说：“如果我的血能擦亮人民的眼睛，唤醒人民的觉悟，我的死也是值得的。”　　　1946年3月9日，李兆麟在哈尔滨被国民党特务暗杀，时年36岁。为纪念他，哈尔滨市将道里公园改名为“兆麟公园”。