在对外关系上，日本在中国东北扶植了伪满洲国。尽管国联在对日本侵略中国问题上极尽其妥协绥靖之能事，但由于一方面日本的侵略野心不局限于中国东北，另一方面日本要独霸中国的企图与英美发生了矛盾，所以国联仍在1933年1月的特别大会上通过了谴责日本侵略和要求日本退出满洲的决议。3月29日，日本宣布退出国联，从此日本走上与英美武力对抗的道路。
在这一形势下，1935年华盛顿条约即将到期，急于扩大侵略的日本海军迫不及待地要摆脱华盛顿条约对它的限制，因此对海军裁军另提出了自己的要求：放弃“比例主义”，主张军舰总吨位一律平等，只规定“不威胁，不侵略”的标准。实际上是想借此以彻底打破国际裁军条约对其的束缚。
1934年9月7日，山本五十六被任命为伦敦海军裁军会议预备会议日本方面的海军首席代表。内阁给山本的方针是：（1）反对现行各国军舰按比例限定的办法，（2）主张军舰总吨位一律平等，（3）规定“不威胁、不侵略”的兵力标准，（4）退出现有条约。事实上就在任命山本为谈判代表的当天，日本内阁已决定废除“华盛顿条约”，并决定向法国、意大利呼吁共同行动。山本五十六的伦敦之行，不过是日本统治集团利用“顽强的山本”，对英美实行愚弄和欺骗而已，因为他们期望山本既能使日本达到废除条约的目的，而又不背上舆论和道义上的不利压力，达到既要做婊子，又要立牌坊的目的。
一个星期之后，山本五十六启程执行他的使命。出发之日，东京车站和横滨港挤满了送行的人群，一些狂热的法西斯分子对山本之行寄予了很高的期望。山本在写给堀悌吉的信中说：“临行时，不论在东京火车站，还是在横滨码头，都聚集有很多面目不清的人。他们或称某某同盟或某某联合会，宣读决议或宣言以壮我行，实感不快。这样的忧国志士实在令人担心。”
山本再次取道美国，仍然期待在美国会有所收获。当时有美国“杜黑”之称的比利·米切尔将军正诉诸于舆论界，急切要求美国用空军武装自己，以作为最终用于对抗日本的手段。山本虽然十分关注他的美国同行的理论，但却极力掩饰自己。当有记者问他有关日美之间日益紧张的关系时，他用日语宣称：“我从来没有认为美国是潜在的敌人，日本的海军计划也永远不会包含日美战争的可能性。”在说完这句话之后，哈佛大学毕业的山本借口不会英语，拒绝再说别的话。然而，当他乘“贝伦加里亚”号邮船到达英国时，他用十分标准的新英格兰口音，给英国的记者提供了一条头版新闻：“日本再不能屈从于海军比例的约束。在这一点上，我国政府没有任何妥协的可能。”
◎“伦敦之鹫”
10月25日，会议正式开始。参加谈判的英方代表是首相麦克唐纳、外交大臣西蒙、海军大臣蒙塞尔、参谋长查特菲尔德和外交部参事克莱棋，美国方面的代表是戴维斯大使和参谋长史坦德。
会议开始，山本五十六便提出修改主力舰日本对英美3：5：5的比例，认为过去在华盛顿和伦敦两次会议中所决定的比例并不恰当，主张应按日本方面提出的新方案达成三国间的协定。英、美两国自然不肯同意。双方遂展开了一番唇枪舌剑的斗争。
山本五十六最初还是以少将身份与英美代表谈判的（后于11月15日提升为中将），与英、美代表的身份相比显得过于低了，因此山本在谈判桌上明显受到轻视，尤其是美国代表戴维斯更是如此。因为山本五十六1920年在华盛顿参加会议时，不过是日本代表币原喜重郎属下的一名中佐，而戴维斯当时已位居副国务卿之要职。此次会议戴维斯没有想到他的谈判对手竟是过去的一名小小的中佐。然而，好斗的山本凭其赌博养成的善于观察和估量对手的才能，在谈判中很快就令对手感到头痛了。
潜艇存废问题首先成为争论的焦点。日本由于在主力舰方面的限制，对发展潜艇期望很高，而英、美则要求废除。在争执不下的情况下，美国代表史坦德质问山本：“我们确信潜水艇是攻击性能武器，而日本却把它视为防御性能武器，这倒要听听阁下的意见。”
山本五十六满脸笑容地答道：“有关潜艇的性能，阁下也为海军军人出身，且不论在年龄、经验各方面都是我的前辈，我想当比我更为清楚。从续航力来说，潜艇比驱逐舰大，可是从构造来说，船员的生活和粮食的贮存等等都远不如驱逐舰。因此潜水艇绝不适于远离基地，深入敌国海域作战，不管怎么说，在近海防御来攻的敌舰才是其主要任务。畏惧潜艇，犹如小偷害怕屋内的狗一样，只要不随意侵入，即无被狗咬的顾虑。这是我将潜水艇视为防御性能武器的理由。”
在会谈中，英国海军参谋长查特菲尔德海军上将识破了日本既想废除条约，又不愿负破坏会议之责的阴谋，遂向美国施加压力，要他们缓和态度，看日本代表还有什么手段可施。可是美国代表不愿让步，他们抱怨说，美国海军必须分遣在两个大洋使用，所以他们不能接受舰队总力量与日本完全相等的方案。而山本则毫不动摇地坚持要完全对等，他在一次午餐会上说：“我虽然比你们个子小，但你们不会坚持只让我吃我盘内3/5的食物，你们会让我按我的需要而吃的。”使美国代表哭笑不得。