临沂为鲁西南军事重镇，徐州东北之屏障，第5战区右翼的重要据点，它地处南通新安镇（今新沂），西南通台儿庄、枣庄、峄县，北通费县、泗水，西北通蒙阴、新泰，东北通莒县、诸城，东通日照，故临沂得失牵动全局，为陇海、津浦、胶济三大铁路线安危所系。第5战区在悲壮地丢失滕县的同时，庞炳勋、张自忠部在临沂却取得了自八路军平型关大捷后的第二个辉煌的战绩。战后，李宗仁在评价临沂激战时指出：“临沂一战，津浦北段敌军左臂遂为中国军队砍断，敌两路会攻台儿庄计划，遂为我所破。”
津浦线南路的日军受阻于淮河一线后，日军大本营不得不调整战略计划，改由北路日军担任主攻。第一步，以矶谷廉介的第10师团为右翼，沿津浦路南下，直逼滕县。以号称“铁军”的板垣第5师团为左翼，从青岛出发，由青沂公路大举进逼鲁南军事重镇——临沂；第二步，两支“铁军”会师台儿庄，尔后攻取徐州。
第5师团长板垣在平型关一役被八路军115师重创，正是由于其轻敌冒进所致。本应收敛其一向骄横跋扈之气，但本性难移，急于以不俗战绩血耻，全然不把即将面对的对手——庞炳勋之第3军团放在眼里。早在发兵之前，其参谋长梅津大佐提醒板垣：“与我们对阵的是庞炳勋的第3军团，大约有5个团的兵力。”
板垣不屑一顾地说：“庞炳勋，蒋介石手下的一支即将解散的杂牌军，不堪一击！”
“不过，他们的抵抗很厉害！”梅津大佐鼓起勇气继续提醒他。
“据说，庞炳勋的士兵，多为中国沧县一带的男子。沧州古称幽燕，民风刚强、好斗，庞炳勋也惯于驱使这些……”
“这是敌人的自我吹嘘!”板垣骄横地说：“任何好斗的、顽强的支那军队，在我所率领的这支大日本皇军的铁军面前，他们充其量不过是一群任我捏、任我踩的蚂蚁!”
板垣的轻敌和狂妄到了极点。这注定了他失败的命运。