日本帝国主义既然已经把可怕的战争机器启动，现在又想让这架发疯般运转的机器有所收敛，谈何容易。侵华日军在攻占了中国首都南京后，其骄狂的气焰达到了极点，各路日军竞相争抢新的地盘，挥舞着战争的屠刀，在中国的土地上逞凶狂。
这些“得胜”的骄兵骄将竟然为抢夺地盘而几乎互相火并起来——
早在1937年12月，侵华日军的海军和陆军就有约在先，待陆、海军有关部队都准备好之后，再共同向山东半岛进攻，共同占领该地。但1938年 1月10日，当华中日军攻占南京后，华北日军一股（陆军）却“乘胜”向山东方向猛窜。海军一看急了，决定不再遵约，提前向山东进击，并决心在陆军到达之前在青岛登陆。
海军集中了大量陆战队。对陆军还保密打烟幕，以进行教育训练为名，从陆军运输部借来运输艇20艘，加上第4舰队，不待陆军的海运据点建设队到来，即单独海运山东半岛，在青岛地区登陆。
1月29日。陆军第5师团按陆、海军统帅机关约定计划的时间赶到青岛时，海军已经占领该地九天了。他们见港口码头，交通运输和该地区所有的警备，行政机关都被海军抢占了。陆军千里迢迢从山西战场而来，吃尽苦头，却一点油水也没捞到，气得火冒万丈，大骂海军自私、无能、混蛋。海军则利用抢得的港口码头、交通运输大权卡陆军，两军自此闹得剑拔弩张，长期形成尖锐对立。
其实，日本华北方面军的“私心”对于改变日本大本营战略部署起到了推波助澜的决定性作用。日本的华北方面军，具有进一步深入中国作战的野心，一直希望军部能够批准它全力出击的愿望。华北方面军的希望是，最好是大本营能增加其兵力，出动大军，沿平汉线从北向南一直攻到武汉，以切断中国东西两部的联系。否则，至少要攻占徐州，打通津浦线，以联络华北与华中的日军占领区。从深层原因看，华北方面军对于中日全面大战之后的战局发展，有着极大的失落感。
原先华北方面军以为，中日的决战，将在河北爆发，华北方面军有充足的准备，可以围歼中国军队，一举迫使中国屈服。但是国民政府最高战略决策层却把决战地点移到华东，让华中方面军拣到决战的机会，并且攻占首都南京。而华北方面军不但连助攻的机会都没有，还要抽调两个半师团去支持华中方面军作战。本来华北方面军还想有些战场的表现，不料一个防苏作战的待命指令，更让华北方面军毫无发挥的余地。寺内寿一大将白白看着华中方面军取得攻占南京的重大胜利荣誉，因此，越发按捺不住，于是向大本营力陈华北方面军准备深入中国的作战构想。特别是西尾寿造所统帅的第2军，更是觉得不满，因为原先华北方面军认为与中国军队决战的重点，应该是在第1军主攻的平汉铁路沿线，在津浦铁路作战的日本第2军，是负责右翼的助攻与合围。不过由于中国军队主力没有在平汉铁路集结，日本第2军就没有机会展现战力，而更为意外的是，由于山西的战局扩大发展，造成日本第一军的主力进入山西，协助第5师团作战，第2军就成为预备队兵力，因此不能沿津浦路深入攻击中国军队，只能停留在黄河以北地区待命战备，以防苏联对日军的进攻。直到华中方面军顺利的攻占南京，冰雪又封住西伯利亚的交通，苏联军队并未出现集结的威胁，这样日本的第2军才解除预备队的待命状态，因此西尾寿造积极要求允许第2军进攻山东半岛。大本营看到华中作战目标已经接近达成，苏联军队又没有集结的活动，于是允许寺内寿一派遣华北方面军，渡过黄河进攻山东。
面对日本华北方面军的积极求战，加之国民政府的不妥协，日军大本营改变了原计划。在比较分散的几个地点进行试验后，日本人选中了徐州，他们认为在这里集结了30万中国精锐部队，只要从南北两个方向像一把巨大的钳子一样，在陇海铁路线上收拢，就可以把中国军队的这支力量聚而歼之，从而给中国军队“致命一击，使其永远不可复原”。于是，３月初，日本人决定放弃次要战线的军事行动，集中兵力夺取徐州。他们要把南北两条战线连成一片，包围和消灭中国军队的精华，把从山海关到杭州的整个海岸线都置于他们的统治之下，建立一个“全中国”的傀儡政府，控制通向汉口道路的战略要地。
具体部署为：在津浦路南段，第9师团部署于芜湖附近，以主力对长江上游警戒，以一部由芜湖渡江，经裕溪口循淮南铁路北进。日军第3师团以主力沿津浦路北进至张八岭附近停止。另以其一部由镇江渡江经扬州向苏北进犯。
在津浦路北段，日军第10师团矶谷廉介所部南下，攻占济南、泰安、兖州等各要点。日军濑谷支队以三个步兵联队及骑、炮、工兵等联队和坦克队为前导，向邹县地区挺进。另日军第5师团板垣征四郎所部，在青岛登陆，向胶济路进击，由台（台儿庄）潍（潍县）公路南犯进攻徐州。