一生嗜赌与频频出入秦楼楚馆固然反映了山本五十六身上的腐朽的本质，但是，在其个性当中，最为突出的恐怕是他无论在工作中还是在闲暇时的勤奋与刻苦、处事上的果断与坚决以及思想的成熟与目光的敏锐。正是这些过人的特点把山本五十六一步步送到了日本帝国海军联合舰队司令、日本海军大将的高位上面。
山本五十六自从海军大学毕业后，便显示出了一股强劲的上升势头，许多人都对山本的前途十分看好。但是，对山本五十六仕途预言最为精确的当属他的情人鹤岛正子。这位对山本五十六一见钟情，而且一生未嫁、始终对山本充满感情的女人早在山本还是一名大尉的时候便断言：终有一天，山本五十六会青云直上，最终成为一名海军大将。
1923年12月1日，当时还在欧美考察的山本五十六被授予海军大佐。1925年12月，时任霞浦海军航空队副队长兼教育长的山本奉命出任了日本驻美大使馆海军武官。此后两年半的时间内，山本五十六对美国的石油工业、美国海军军备情况、特别是美国的航空界发展动向作了广泛而细致的考察。作为一名校级军官，长期的海外生活，拓展了他的生活领域和视野，这种丰富的经历是山本以后一步步走上日本海军权力高层所必不可少的。
1928年3月，踌躇满志的山本五十六带着第一次世界大战后西方军事领域最新的发展动向及新思想回到了日本。回国后，他先到海军军令部进行了短暂的任职，时间不足半年，同年8月他担任了轻巡洋舰“五十铃”舰舰长职务。
熟悉山本五十六的人都认为让智谋过人的山本大佐出任“五十铃”舰长实在是大材小用。山本在海军大学的一些同学及朋友甚至怂恿他干脆辞掉这一卑下的职务。
但是，山本五十六对于同学及朋友的劝告只是微微一笑，他暗自想：“燕雀安知鸿鹄之志哉？”其实，山本五十六早已洞察了海军上层让他担任“五十铃”舰长的良苦用心。之所以如此安排，完全是为了让长期在陆上工作的山本五十六能够尽快熟悉海上生活与作战情况，这是他升迁过程中必不可少的一个重要训练环节。
当时，“五十铃”号轻型巡洋舰驻泊在横须贺港，其主要任务是为“山城”号战列舰的演习拖航靶舰。为了执行任务，“五十铃”经常早出晚归，这为山本五十六学习驾驶技术和指挥调动舰只提供了有利的条件。
在任“五十铃”舰长期间，山本同其部下建立了非常融洽的关系，同时，也表现出了山本五十六的指挥艺术。
当时“五十铃”舰上正在盛行一股“麻风”：大大小小的军官们经常聚在一起打麻将赌博，甚至在操练时间许多人也在偷偷地打麻将。这股“麻风”无疑对正常的训练活动带来了很大的影响。以前的舰长一旦发现下属在玩麻将便怒形于色，当场予以严厉的批评与训斥。这样一来，舰长与属下之间便有了很大的隔阂，军官们在打麻将时便派专人盯着舰长，通风报信，因此，“麻风”仍屡禁不止。
山本五十六来到“五十铃”后，对这股“麻风”有所了解，但他一遇到属下在打麻将不但不批评，而且还笑嘻嘻地站在一旁兴致勃勃地观战，看胜负如何。山本一下便拉近了与属下的距离，他们感到山本五十六是位和蔼可亲、容易接近的长官。
本来格外地深谙麻将与赌博之道的山本五十六开始佯装对麻将一窍不通，他开始向属下们“求教”。一次，他看到近藤少佐等在打麻将，便凑过来说：“给我讲讲，这玩意儿怎么个玩法？”
听完近藤等人的讲解，山本五十六非常自信地说“好！我明白了，现在就试试吧！”此后一连几天，山本凭着他出色的赌技几乎掏空了那些喜欢打麻将赌博的军官们口袋中的钱。
有一天，山本五十六把全舰官兵召集起来，他先是温和地把打麻将赢的钱悉数还给他的下属们，然后他表情突然一转，面带一种不可抵抗的威严说：“这几天，我陪大家玩了个够，我也非常喜欢玩麻将，但是我山本从今天开始决定不再玩麻将了，我也希望诸位不要再在操练时间打麻将，为了帝国海军的前途，请你们自律！”就这样，山本五十六终于刹住了“五十铃”巡洋舰上的这股“麻风”。
1928年12月10日，在担任“五十铃”舰长仅4个月之后，山本五十六又奉命出任了“赤城”号航空母舰舰长。
“赤城”号本来是日本计划建造的一艘战列舰。为同美、英海军，尤其是同美国海军相抗衡，取得太平洋的霸主地位，日本海军于1920年制定了庞大的“八八舰队计划”（以8艘战舰和8艘战列巡洋舰组成），“赤城”号就是该计划中的第6号舰，一艘新式战列巡洋舰。该舰1920年在横须贺造船厂动工建造，但华盛顿裁军条约的签订，使得“赤城”号的建造计划一度停止。但是，由于日本海军航空母舰可拥有81000吨，而当时却只有一艘小型航母“凤翔”号（7500吨）。因此，日本决定将停建的“赤城”号改建成航空母舰。1925年4月实施改建工程，1927年3月终于建成航母“赤城”号，随即编入现役。“赤城”号标准排水量29500吨（对外为26900吨），航速31.7节（公布为28.5节），成为仅次于美国航母“列克星敦”号的世界第二大航空母舰。在太平洋战争爆发后的一段时期内，机动部队司令长官南云忠一中将曾以“赤城”号为旗舰，率领机动部队驰骋于太平洋、印度洋，威风一时。但在中途岛海战中，“赤城”号和“加贺”号、“苍龙”号相继中弹被毁，南云忠一只好狼狈地转到“长良”号轻巡洋舰上。