此时，俄国的波罗的海舰队（后改称第2太平洋舰队）正像一头笨重的北极熊，步态缓慢地从遥远的欧洲向远东跋涉而来。
1905年5月14日，沙俄海军当局命令正在航行途中的波罗的海舰队开赴海参崴。从当时的情况来看，要到达海参崴有3条路线可供选择：一是穿过对马海峡；二是穿过日本本州岛和北海道之间的津轻海峡；三是穿过北海道与库页岛之间的宗谷海峡。穿过对马海峡路程最近，但风险也最大。几经考虑，波罗的海舰队司令罗日杰斯特文斯基海军中将最后还是决定走对马海峡。为了迷惑日本海军，俄军派出两艘伪装巡洋舰，到日本东海岸近海一带，装出要走津轻海峡的样子。
日本联合舰队此时对选择在哪条路线上截击俄军同样大费脑筋。俄国舰队有战列舰8艘、装甲巡洋舰5艘、防护巡洋舰3艘、巡洋舰4艘，包括其他舰艇共38艘，如果让它进入海参崴，日本前一阶段的战果有可能完全化为泡影，因此聚歼俄国波罗的海舰队便成为日俄战争最为关键的一役。按编队平均航速10节计算，俄国舰队应在5月20日到达对马海峡，但到了20日后并无消息。日本联合舰队十分担心俄舰队取道津轻海峡，正准备北上至津轻海峡堵截时，26日接到了6艘俄国运输船开到上海的情报，从而证实俄国舰队将要通过对马海峡。
27日4时45分，“发现敌舰队！”日本联合舰队司令部终于收到了侦察船“信浓丸”发回的电报。随后不久又接到了“敌舰队航向东水道的报告”。联合舰队司令东乡平八郎见时机成熟，立即下令所有军舰出击，同时向大本营发报：“接获发现敌舰队之报告，联合舰队立即出击，欲将其击灭。本日天气晴朗，但浪甚大。”第1、第2舰队随即自镇海湾进入日本海，准备在对马海峡迎击俄国波罗的海舰队。
高野五十六所在的“日进”号是护卫舰队司令三须宗太郎中将的旗舰，五十六任舰长的传令兵。上午10点，舰长召集全体人员作最后动员：“我们久已等待的敌舰队即将来到，以国运相赌与之进行的大决战，3小时后即见分晓。我们无所顾忌，因为我们既有料敌如神的东乡大将，又有在旅顺方面参加过大大小小许多海战的勇士，况且我们在这以前日夜在镇海湾进行炮击、水雷发射训练，今日实在是显露我们精妙技术的时候，如果对战胜巴尔迪克舰队还有什么要求的话，那就是要沉着冷静。仰望祖国无所畏惧。谨让我们高呼天皇陛下万岁。”全舰士兵三呼天皇万岁，作好了为天皇献身的准备。
下午1点40分，日本联合舰队终于发现俄国舰队的影子。8点55分，东乡平八郎在旗舰“三笠”号上升起“Z”字旗，发出了“皇国兴亡在此一战，各员励精努力”的号令，同时舰队大角度转向，与俄国舰队形成“丁字形作战”队形，堵住了俄国舰队的去路。双方舰队相距8000米，俄国舰队利用日本舰队转向的有利时机首先开炮，但炮击目标缺乏精度。日本舰队到相距6000米时才打开炮门。于是，从拿破仑战争到第一次世界大战期间世界海战史上最大的一次海战——日本海大海战就这样爆发。
经过30分钟激战，波罗的海舰队旗舰“苏沃洛夫”号、2号舰“亚历山大三世”号和5号舰“奥斯里亚别亚”号3艘战舰相继起火，脱离战斗行列。到日暮时，俄国舰队的主力舰几乎全部被击沉或受重伤。这场空前规模的大海战胜负已成定局。当天夜间，日本联合舰队又派出驱逐舰和鱼雷艇进行袭击，再击沉3艘俄国军舰。28日，日本联合舰队乘胜追击，全部歼灭俄国波罗的海舰队。经过1.8万海里远道东征的这支庞大的俄国舰队，由于受到以逸待劳的日本联合舰队的攻击，总计38艘军舰中有19艘被击沉，5艘被俘，11艘逃往中国而被解除武装，只有巡洋舰、驱逐舰、运输舰各一艘逃到海参崴。波罗的海舰队司令罗日杰斯特文斯基以及6000人被俘，4000人葬身海底，而日本联合舰队只损失3艘鱼雷艇，获得了压倒性的胜利。
高野五十六在27日傍晚受伤。由于“日进”号是第1战队的旗舰，遭到俄舰队炮火的集中攻击。担任舰长传令兵的高野五十六站在舰桥上担任记录。此时舰上已有人死伤。
27日白天的战斗快要结束的时候，“日进”号突然被俄国人的炮弹击中。高野五十六后来这样写道：“轰隆一声巨响，剩下来的8英寸口径舰首左炮被俄国人的重炮击中。舰上顿时硝烟弥漫，遮住了战舰的前半部分。一股巨浪猛烈袭来，我不觉踉跄几步，左手手指嚓地一下折断两根，只连着一点皮。挂在脖子上的记录板也不翼而飞了。同时左腿也被弹片削去巴掌大的一块肉，鲜血染红了甲板。”
此役，“日进”号死伤人数近100名，而高野五十六也在其中，实现了自己为天皇效忠的理想。
随着日本海战的结束，日俄战争以俄国的惨败而告结束。1905年6月9日，美国向日俄两国政府提议媾和。在美国的斡旋下，经过双方一番激烈的讨价还价，最后签订了《朴茨茅斯和约》。日本完全达到了对俄作战目的，正如当时的美国总统西奥多·罗斯福所说：“日本取得了令人惊异的胜利，获得了显著的成果。日本获得了满洲及韩国的驾驭权，得到了旅大和库页岛南部，又因为击败俄国的海军而自然地拥有强大的海军力量，在太平洋内除英国之外，造成了任何国家也难以匹敌的优势。”日俄战后，日本海军的发展跃上了一个新的台阶，开始向拥有“八八舰队”的大海军发展。