日本海军联合舰队在1944年1月开始的马绍尔群岛战役中，不但没能出海迎战，反而退至帛琉群岛，直接导致了马绍尔群岛于4月失守。这引起了日本内阁和陆军对海军的强烈不信任，甚至有些人提出放弃马里亚纳群岛，但日本大本营非常清楚马里亚纳的重要性，决定沿千岛群岛、小笠原群岛、马里亚纳群岛、加罗林群岛和新几内亚群岛西部建立必须绝对予以确保的防线——“绝对国防圈”，马里亚纳是该防线的核心。
日军自1944年2月起，开始着手加强该地区的防御。由于以前马里亚纳群岛是海军负责防御，岛上的陆军部队很有限，大本营计划将中国战场上的第3和第13师团调往中太平洋，以加强该地区的地面部队。但这两个师团在中国战场上一时无法脱身，大本营只好于2月10日将驻中国东北的关东军第29师团调到马里亚纳，陆军部还将新组建的8个支队也调到该地区。
2月25日，日军大本营将中太平洋地区所有陆军部队整编为第31军，由小烟英良中将任军长，规定该军服从于联合舰队司令的调遣。从3月起，日军进一步动员大批船只向该地区调集部队，至5月下旬，31军已拥有5个师团又8个旅团，分别防守马里亚纳、特鲁克、小笠原和帛琉等岛屿。其中部署在马里亚纳群岛的是2个师团又2个旅团，约6万余人。但防御工事才完成工程量的一半，计划要到11月方能完成。此时，火炮掩体几乎没有，地雷和铁丝网也没铺设，总体防御根本谈不上坚固。
日军企图在第一航空舰队和第一机动舰队实力有所恢复后，寻找战机与美军决战，争取扭转战局。决战计划原是联合舰队司令古贺峰一海军大将（1943年4月18日，山本五十六在从新不列颠岛北端的腊包尔起程，前往位于腊包尔东南方的前线航空基地视察途中，被美海军少将米切尔成功拦截，山本死后由古贺峰一接任联合舰队司令）主持制定的，代号为“阿”号作战。
根据“阿”号作战计划，第5岸基航空队和第1机动舰队的舰载航空兵将在马里亚纳群岛对来犯之敌实施两面夹击，以抵消美军航母编队舰载机在数量上的优势。日本海军计划用于马里亚纳群岛决战的主力第1机动舰队是1944年2月由第2第3舰队合并组成的，几乎包括了联合舰队所有主要水面舰艇，共有航母9艘，战列舰5艘，巡洋舰14艘，驱逐舰31艘，舰载机439架，由小泽治三郎海军中将任司令，具体编制如下：第一航空战队：大风、瑞鹤、翔鹤3艘航空母舰，第601航空队，作战飞机225架；第2航空战队：隼鹰、飞鹰、龙凤3艘航空母舰，第652航空队，作战飞机130余架；第3航空战队：千代田、千岁、瑞凤3艘航空母舰，第653航空队，作战飞机90架。
日军大本营也深知这支舰队与美军太平洋舰队的航母编队在实力上存在较大差距，所以决定第5岸基航空队与之配合作战，充分发挥舰载航空兵与岸基航空兵的协同威力。第5岸基航空队分为3部分，分别部署在帛琉、马里亚纳和雅浦3地，每一处的航空队都拥有战斗机、轰炸机、攻击机和侦察机。日本大本营还在“阿”号作战计划中明确指出：“集中我大部分决战兵力，准备在敌军主要反攻的正面，一举歼灭敌舰队，以挫败敌军的反攻企图。”
自圣克鲁斯航空母舰大战之后，日本人还重建了自己的航空母舰兵力。第一机动舰队现拥有的9艘航空母舰中的3.3万吨级的“大凤”号就装上了厚厚的装甲飞行甲板，可以承受住美军俯冲轰炸机投下的炸弹攻击。同时，还得到了一大批新型的舰载机，其中包括改进型“零”式战斗机、“天山”式舰载鱼雷攻击机。这种舰载机全长10.86米，翼展14.89米，重5.2吨，时速为482公里，可携带1枚800公斤炸弹或1条改进型鱼雷，机载2挺7.7毫米机枪。这些新型战机的特点是：速度快、灵活性好、攻击力强。
但是，由于飞行员损失过多，来不及补充，使日军缺少具有实战经验的飞行员和机组人员，派到航空母舰上去的飞行员几乎没有经过多少训练。一位日军飞行教官这样说：“海军迫切需要飞行员，那些在战前甚至连做梦也没想过能接近战斗机的人，现在都被派去驾机打仗了。”
3月31日，古贺在前往菲律宾途中座机遭遇暴风，机毁人亡。丰田副武海军大将接任联合舰队司令。
5月3日，丰田接到了大本营发起“阿”号作战的指令，他随即向所属各部下达了作战指令。但是，日军大本营被美军的“双管齐下”所迷惑，一直认为美军的主攻方向是在新几内亚群岛西北部和加罗林群岛西部，将帛琉群岛海域作为决战地域。因此，错误地将兵力调往新几内亚群岛，而马里亚纳群岛的防御被严重忽视了。
6月11日，美军航母编队开始袭击马里亚纳群岛，日军仍认为这是美军牵制性的行动。直到6月13日，美军登陆编队出现在塞班岛海域，并开始炮击塞班岛，这才清楚美军的意图。联合舰队司令丰田副武于当天下午17时30分下令暂停在新几内亚群岛的作战，并命令第17机动舰队和第5岸基航空部队调去新几内亚群岛参战的部队火速归还建制。
此时，第5岸基航空部队已在新几内亚群岛遭到不小的消耗，而且飞行员中很多人得了“登革热”病，无法执行作战任务，日军只得从横须贺海军航空兵中抽调120架飞机组成8幡航空队，由松永贞市中将任司令，火速南下参战。
6月15日，丰田副武大将下达执行“阿”号作战计划的决战令，并命令小泽治三郎海军中将“进攻马里亚纳群岛海域之敌，歼灭美舰队”。5分钟后，丰田大将又发出另一封电报，重复了东乡元帅在对马海战时所发出的名言：皇国兴废，在此一战，我军将士务须全力奋战。
小泽不敢怠慢，火速率第1机动舰队向马里亚纳出击，气势汹汹地杀向烽火连天的塞班岛海面。
