极右分子甚至采取恐吓、暗杀手段来企图迫使山本等反对结盟者放弃立场。
当时在海军军令部任职的泽本赖雄曾问山本：
“我听说你收到不少恐吓信，是真的吗？”
“是的。”山本答道，“更有甚者竟说第二天就把我弄死。不过，我认为，杀了我并没有用，丝毫也改变不了海军的观点和立场。本人深信，我的后任次官会和我说同样的话。即使换上5个甚至10个新的次官，也不会改变海军的主张。”
当时海军省经常收到“宣言书”、“请愿书”、“劝辞书”和“锄奸书”。有一份胁迫山本辞职的“劝辞书”这样写道：海军次官山本五十六阁下：
“日英一战势在难免。此战，乃以吾皇道建立世界新秩序之圣战。断绝与英邦交，缔结日、德、意三国军事同盟，乃吾帝国当今务须采取之紧急国策，舍此无以赢战。然，现今国内尚存一股依附于英国之保守势力，实为已亡‘幕府’之续尔。贵官即亲英派之首，且勾结海相米内，竭力阻止维新国策之遂，实出尔等之私利，现已昭然于天下。尔等之所为，使我帝国海军面临堕为重臣财阀私属之危。贵官5月17日，往英国使馆参加晚宴，举亲英之觥，助英人士气之所为，同翌日于鼓浪屿蒙受英、美、法干涉之辱，实出一理，系负吾疆场阵亡将士英灵，置兵卒苦劳于不顾之举。更有甚者，至今仍执迷不悟，一意孤行。国家兴亡，匹夫有责。吾等皇上庶民，出于护国之心，强民族之志，郑请贵官速辞现职。切切。
圣战贯彻同盟
1939年7月4日。”
秘书官实松让还特意记下了前来递送“劝辞书”人的口头转告：
请转告山本，如果他不立即辞职的话，本同盟将呼吁全国国民，使他陷入窘境。同时，我们还要采取强有力的其他手段或措施，届时，勿谓言之不预也。
有时，那些前来海军省闹事的人会突然出现，用命令的口吻让实松等秘书站起来，然后，拿出事先写好了的宣言高声朗读，无非是一些“替天行道，诛讨山本”之类的话，令人想起日本江户时代一些腰挂武士刀的浪士滑稽可笑的形象。
每当有人要来海军省闹事，山本就会事先躲起来。大部分时间是穿上便装乘出租车躲到其部属NFDAB本重治家中。星期六和星期天，山本也从不回家，都躲在朋友家里打麻将、玩花牌，就连与千代子幽会也难得去一趟了。
山本越来越需要贴身警卫了。然而，日本海军没有宪兵队，如果要配警卫，只有接受陆军的宪兵。这时山本才很后悔地说：“海军没有自己的宪兵队，只能依赖于陆军，这是海军的欠缺。”因为陆军常常借为海军配备宪兵之际，安插密探，探察海军的内部情报。因此，山本最反对海军接受陆军的宪兵。不得已，海军省只好找警察署，要求警察暗中保护山本的安全，并在次官官邸周围安排了专门负责其安全的警察巡逻人员。山本外出时，还随身携带着一管特制的催泪剂防护器，以备有人袭击时用来自卫。
在这样一种形势下，山本虽然表面上若无其事，甚至谈笑风生地与人拿自己的脑袋开玩笑，说自己的脑袋值10万日元，但内心却充满了焦虑和不安。
自从1939年5月以后，山本就似乎做好了随时遇难身死的准备。他每天像蚂蚁搬家一样，把办公室里的私人东西都拿回家了。不久，在他的办公室里，已几乎没有他私人的东西了。每天差不多他都要换上新的兜裆布（日本人的一种习俗。人在临死前，都要换上新的兜裆布）。5月31日，甚至预先写好了遗书。这份遗书，是后来他在太平洋战争中战死后，于海军省次官办公室的保险柜里发现的，全文写道：
“述志：
一死报君国，自古为军人之至高夙愿。战死于疆场抑或捐躯于后方，有何异哉？奋战沙场光荣而亡，易；排众议为己志而毙，难。皇恩浩荡，国家长久。吾朝夕所思者乃君国之百年大计，个人之生死、荣辱何足论哉！《论语》曰：‘丹可磨而不可夺其色，兰可燔而不可灭其香。’吾身可灭，而吾志不可夺也。
昭和14年（1939）5月31日
于海军省次官官邸
山本五十六题”
这样，一直到1939年8月，由于山本的反对和内部意见不统一，日本与德国结盟问题始终没有得到解决。与此同时，德国对同日本结盟的打算也因此时其正与苏联打得火热而冷淡。8月23日，长期对立、争吵的苏德两国突然缔结了互不侵犯条约。在这之前，德国与苏联的缔约活动一直隐瞒着日本。8月21日，德国在断定这时把正在进行的苏德谈判通告它的东方盟友已不会有什么风险之后，才将这一消息告诉了大岛浩。大岛对纳粹政权最为倾倒的就是它作出决定的迅速和果断，现在他有充分的机会来欣赏这一点了。里宾特洛甫在那天晚上打电话通知了他，当时里宾特洛甫正准备动身前往莫斯科，在他上飞机以前，已没有时间看到他的狼狈不堪的日本朋友了。惊恐交加的大岛半夜里求见魏茨泽克，那位德国官员后来告诉里宾特洛甫：“日本大使像往常一样显得谈吐自若。但同时，我却发现他的某种不安情绪随着谈话的进行而不断增长。”
当这条爆炸性的消息传到东京时，日本政府就像打开信箱却猛地碰上一群黄蜂飞出来一样，它对事先没有得到通知而感到十分恼火，并茫然不知所措，上下一片混乱。因为德苏互不侵犯条约与先前德国与日本签订的防共协定是根本矛盾的，这不仅意味着日本原先为牵制苏联而加强防共协定的目的已经彻底告吹，还意味着日本被它所一直依靠的德国盟友出卖了。8月25日，平沼骐一郎召集了最后一次五相会议，决定停止三国同盟条约的交涉。遂后便于8月28日以“欧洲发生了复杂离奇的新形势”为借口，全体辞职。