1931年“九·一八”事变后，党中央派出大批优秀干部到东北从事抗日斗争，赵一曼就是其中的一个。1932年春，赵一曼来到沈阳，在大英烟草公司和纺纱厂做女工工作。同年秋，党又派她到哈尔滨，先任满洲总工会秘书、组织部长，1933年10月又兼任哈尔滨总工会代理书记。她曾参加领导1933年春天的哈尔滨电车工人大罢工，取得了胜利。她还两次去海伦巡视工作，并与中共海伦县支部书记李辉、抗日游击队负责人孙玉久等一起，组织队伍袭击当地的伪自卫团，击毙团总国占山等十余人，有力地推动了哈北地区的抗日斗争。
在哈尔滨工作期间，赵一曼经常与从事革命文艺工作的同志接触，还给他们讲过政治课。她自己有时也写些文艺性作品，在总工会办的地下刊物《工人事业》上发表。据熟悉赵一曼的方未艾回忆，她有一首题为《滨江述怀》的旧体诗，写得气势磅礴，充满革命豪情，读了使人振奋，深受鼓舞。这首诗的诗句是：“誓志为人不为家，涉江渡海走天涯。男儿岂是全都好，女子缘何分外差？未惜头颅新故国，甘将热血沃中华。白山黑水除敌寇，笑看旌旗红似花。”
1934年春，哈尔滨党组织遭到敌人破坏，满洲省委决定赵一曼转移到外地工作。7月间，她到了哈尔滨东南山区的珠河县（今尚志县）抗日游击区，担任中共珠河中心县委委员、县委特派员和妇女会负责人。她在发动群众、建设和保卫珠河根据地、支援游击队打击敌人方面，做了大量工作。
赵一曼来到滨绥铁路南的三股流根据地。东北农村的生活习惯和江南有很多不同，但她尽力克服各种困难，与群众打成一片。她一面在群众家里帮助妇女们烧火做饭、看孩子、补衣服，一面宣传抗日救国道理，很快把抗日妇女会组织起来，并领导妇女们给抗日游击队做军衣、军鞋，站岗放哨，送情报，运给养，支援游击队打仗。她还冒着生命危险，进入珠河县城，把地下党从伪军手里买的十几支手枪和一些子弹，装在大粪车里，巧妙地运到城外，用来武装游击队打击敌人。
1934年秋天，日寇调动大批兵力对珠河游击区进行疯狂的大“讨伐”。赵一曼的工作更加紧张，几乎整夜不睡地在各个村子里活动，鼓舞群众的斗争情绪。这时她的脖子上长了一块疮，疼得抬不起头来，由于敌情紧张，在群众家里住不下去，就到游击队的流动医院去治疗。这个医院只有一个医生和一个助手，伤员有十几个，没有固定住处，天天转移。赵一曼到医院后，主动地担负起医院的政治和护理工作，还帮助站岗放哨。有一次医院被敌人搜查非常危险，赵一曼机智地和伤员们躲到屯子边上一块刚割倒的大豆地里，身上盖着“豆铺子”没有被敌人发现。
1935年春，县委决定派赵一曼任铁北区委书记。她深入到滨绥铁道北侯林乡一带，积极发动群众进行抗日斗争，在侯林乡组织起一支农民自卫队。她指挥这支队伍，在关门穗子伏击了前来“讨伐”的日军，获得了胜利。这支农民自卫队越战越强，后来改编成地方游击连，有时配合赵尚志领导的东北人民革命军第3军作战。同年秋，珠河根据地遭到敌人的残酷烧杀，3军主力部队向方正、勃利、汤原一带远征，开辟新的游击区。县委决定将赵一曼带领的游击连编入3军1师2团，由她担任团政委，率领2团留在根据地，开展游击战争，牵制敌人的兵力。由于根据地被敌人破坏，部队的生活很艰苦，赵一曼特别关心和爱护战士。一到休息时，她就一边给战士们缝补衣服，一边和大家谈心，讲革命斗争故事，鼓舞战士们的斗志。战士们都很尊敬她，爱戴她，亲切地称她为“我们的女政委”。
