1936年12月1日，山本五十六就是在这种背景下当上了日本法西斯内阁的海军省次官。
当山本五十六“荣升”为海军省次官的消息传到新桥艺妓们耳中时，她们都为山本感到骄傲。当山本来到她们中间时，许多艺妓都聚在一起向他祝贺。山本五十六却非常生气地对她们说：“作为一个军人，在他正全心致力于海军航空事业的时候，转而让其从政，这又有什么值得庆贺的呢？！”
反町荣一也特地从长冈赶到东京来祝贺山本被提升为海军次官，山本也是一脸漠然地说：“反町君，劳您大驾跑来祝贺，可是，我不得不告诉您，我是极不情愿出任此职的，唉，‘将吊不暇，何贺之有’呢？”
就这样，山本五十六从此开始了他历时二年零九个月海军次官生涯，期间，他经历了四届内阁：广田、林、近卫（第一次）和平沼内阁。
前任海军次官长谷川清把工作移交任务交给了他的首席副官田结穰，他说；“你熟悉山本，一应事务工作，就由你酌情代为移交吧！”
田结穰只用了两个小时就同山本交接完毕。他向山本所交待的，都是些事务性的事。诸如新闻界、杂志、出版界的有关人名录；海军省日常工作需要来往和联系的外务省、陆军省等有关单位的人员名单等。但是，有关海军省内交错复杂的人事关系以及他们个人在重大问题上所持的观点等，他一字未向山本提及。
在山本就任海军省次官不久，刚从海军大学毕业的青年军官高松宫宣仁亲王（天皇的弟弟）来海军省报到，到军令部任参谋，当时他为少佐军衔。在高松宫未来报到之前，首席副官近藤特意从有关方面打听到他来海军省军令部报到的准确日期，准备在这一天召集大家到海军省门前列队欢迎。就在他一切准备工作均已就绪的时候，山本五十六得知了这一情况。素来很少斥责下属的山本立即让人把近藤叫来，毫不客气地将他训斥了一顿。
山本严厉地质问近藤说：“喂，宫（亲王）是以宫亲王的身份来海军省报到呢，还是以一个普通海军少佐军官的身份来就任参谋呢？请你告诉我，他到底是以什么身份来的？”
近藤见山本五十六真的生了气，慌忙说道：“他当然是以少佐的身份来就任参谋的。”
“好！如果是以少佐军官的身份来，就应该以对待别的少佐军官一样的方式来对待宫（亲王）！要知道，海军中是绝对不允许有高低贵贱之分的，至少在我山本任职期内！”
就这样，山本取消了近藤的迎接计划，高松宫前来报到时，没有受到任何人的迎接。但是，在高松宫报到后，山本以个人的身份，用对待亲王殿下的礼节，亲自到高松宫处进行了拜谒。
从这一件小事当中，可以看到山本五十六在治军方面的与众不同之处。
◎“山本——米内”组合
山本五十六尽管很不情愿在永野修身手下当次官，但在实际工作中他还是极力地配合着永野修身的工作。
1937年初，政友会和民政党对于军部干预政治进行了激烈的批判与指责，并指名陆军大臣、后来出任侵华华北方面军总司令的寺内寿一应该剖腹自尽。政友会的滨田国松在国会大会上发表了一篇演讲，措辞尖锐：
“军部（陆军）近来狂妄至极，竟夸口说：‘我等乃政治上的推动力。’俨然以救世主自居，大有普度众生之概。大量事实俱在，不容争辩；‘五一五’事件是这样，‘二二六’事件也是如此，从军方不时传出来的关于独裁政见的观点也是这样，有关议会制度调查会的陆相恳谈会的经纬，更是无可辩驳的事实，关东军司令长官就满州协合会所发表的声明书中，通篇充斥着这种荒谬的观点。总之，这种独裁政治的思想，已经渗透到军队的底层。如此颠倒文武关系，破坏吾帝国安邦之本治国之道的倒行逆施，不能不招致国会的颦蹙和鄙弃。”
而陆军的态度更是强硬，陆相寺内寿一甚至提出，要政党反省，并主张内阁召集会议，解散国会。山本五十六在解散国会问题上极力支持永野表示反对。但是，永野修身则始终在这一问题上左右摇摆不定。后来尽管国会没有被解散，但陆军拒绝与政府合作，从而导致了1月23日广田内阁的垮台。宇垣一成奉命在广田之后筹组新内阁，也由于陆军的再次拒绝合作也宣告流产。
后来林铣十郎大将出面组阁成功，很明显，在新内阁的海军省中已经没有永野修身的位置了。经山本五十六极力的斡旋争取，日本联合舰队司令米内光政取代永野就任了海军大臣，从而开始了海军省米内——山本体制时代。而永野修身则毛遂自荐去接任了米内联合舰队司令长官的职务。
林铣十郎内阁自组阁之初就备受煎熬。自2月2日组阁至5月31日总辞职，历时不足四个月，可谓短命矣。
继林铣内阁之后的总理大臣是近卫文NFDAD，这是他第一次组阁。
在近卫内阁执政期间，山本五十六和米内光政依然在海军省任职。
米内光政非常信任山本。他们两个人早在海军炮术学校时就吃住在一起，闲暇时还经常在一块练剑，锻炼身体。那时，米内是大尉，山本是中尉。共同生活和工作，使他们彼此非常了解，并建立起了深厚的友谊。