张自忠怒不可遏：“你赶紧给我过河去，再退我就杀你的头”
冈村宁次在1938年10月底把部队带进了武汉，就考虑着如何确保这块战略基地，以支撑日军的出击。他指挥的南昌会战，就是为了解除东南方向的威胁。现在他断定，长江以南的中国第九战区，在和他的第十一军打了一系列苦仗之后，虽然还能够自保，但已经无力北上威胁武汉。倒是几个月都没有经历较大战事的李宗仁第五战区，在长江以北，使他感觉如芒刺在背，牵制了日军南进长沙的行动。他认为，第十一军在江北的各个师团，如果只是固守占领地，无所事事，就很可能陷入难以应付的被动局面。
冈村还有一个想法。武汉会战结束后，东京大本营在当年底撤消了第二军战斗序列，所属部队除一部返回华北方面军外，藤田进第三师团、荻洲立兵第十三师团和藤江惠辅第十六师团都转到他的手下。第十一军原有的四个师团一直在江南不停苦战，新转来的三个师团呆在江北空闲着，明显苦乐不均。冈村认为，军队停滞不动，就好像一潭死水，会生孑孓。没有作战目标而一味强调训练，军心就会松懈。他认为，按照作战、休整、训练、作战的规律做出适当安排，才能维持部队的战斗力。
也许就是这两方面的考虑，促使冈村挑起江北的战端。冈村要围攻第五战区的主力，至少要将它驱逐到距武汉更远的地区。
1939年4月中旬，冈村开始部署随枣战役。他命令江北的三个师团，加上骑兵、战车、炮兵和工兵等部队，向钟祥、安陆和浙河一带集结，把一部分兵力配置在浙河以东，进行牵制攻击，派主力从安陆和京山附近向汉水左岸地区滚河一线急进，企图将第五战区的主力围歼于枣阳东北地区。
随县枣阳地区，位于湖北与河南边境，东面有雄伟的大别山，北面有绵延的桐柏山，西边傍依荆山，南边靠着长江，中间耸立着大洪山。荆山山势陡峻，挡住了进入四川的路，大洪山的海拔高度，足以瞰制武汉盆地。在军事家眼里，如果占领了随县和枣阳，进攻武汉地区十分方便，守卫四川和陕西的通道也有屏障。如果日军占领了这个地区，中国抗战的大后方就会受到侵略的威胁，而东部和西部抗战力量的纽带，就会被日军砍断，平汉铁路也会被日军打通，后果的严重，是显而易见的。冈村宁次用心的歹毒，从他进攻随枣地区的举措，就可以看出来了。
4月下旬，蒋介石闻知日军在鄂北集结部队，立即电令李宗仁准备应战，并命令第一战区、第三战区和第九战区给予策应。月底，应战的中国军队编成了新的战斗序列：
右集团军司令张自忠，兵力包括张自忠兼任总司令的第三十三集团军，辖张自忠自己的第五十九军、冯治安的第七十七军和曹福林的第五十五军；王赞绪的第二十九集团军，辖廖震的第四十四军和许绍宗的第六十七军；江防军，辖杨汉域的第二十军、萧之楚的第二十六军和若干守备部队。右集团军担任沔阳和宜城之间汉水两岸及大洪山西麓阵地的守备任务，防御要点在汉宜公路方面。重庆军委会及战区直接指挥江防作战。
左集团军司令李品仙，兵力包括李品仙自己的第十一集团军，辖第三十九军和第八十四军；第二十二集团军，辖刘和鼎的第四十一军、陈鼎勋的第四十五军和刘汝明的第六十八军。左集团军担任大洪山外翼经随县县城至信阳外围间的守备任务，重点放在襄阳至花园的公路方面。
大别山游击兵团，兵力为廖磊的第二十一集团军，辖张淦的第七军、张义纯的第四十八军和豫鄂皖边区各游击部队。任务是以大别山为根据地，向湖北中部及安徽中部游击，相机攻击武胜关以南地区，以策应主力方面的作战。
机动兵团，兵力为汤恩伯的第三十一集团军，辖汤恩伯的第十三军和王仲廉的第八十五军。任务是在枣阳东南地区支援左集团军的作战。
此外，还有部分炮兵和骑兵部队。
这样，准备参加随枣会战的中国军队共有六个集团军，近二十个军，总指挥是李宗仁。
日军投入进攻的兵力不足四个师团。冈村说：“这次作战的实际情况是敌人的素质远不如我军，然而其兵力却比我军多十几倍。此种情况下，为完成作战任务，必须大胆采取重点使用兵力的战术，即实行分进合击、锥形突贯的方法。”
为了向改属第十一军不久的三个师团贯彻作战设想，冈村屡次会见新近隶属自己部下的几名将军，还亲自遍访第一线各部队司令官，互相沟通思想。各师团长也积极体会他的意图，彼此紧密联系。通过会见走访，冈村掌握了各主攻师团师团长的性格与特长。第十六师团的藤江“学识渊博”；第十三师团的荻洲作战凶悍；第三师团的藤田是冈村的同学，对冈村言听计从。
冈村对他认为不称职的指挥官，在开战前毫不含糊地做了调整。他请求华中派遣军调走了几名旅团长和联队长。
从4月中旬开始，日军在武汉的各后勤仓库，日夜抢运海军通过长江送来的物资，把枪炮弹药、毒气罐、药品、罐头和军毯等，下发到各攻击师团。
中国第五战区在李宗仁的督催下，动员大批民夫，肩挑手推，将从四川和陕西调拨过来的粮弹运到各部队，还在战区各隐蔽地点搭建了大量临时医院，以收容救治预计开战后会产生的大批伤员。