随后，来自各方面的祝捷电报如雪片似飞来，但张自忠并未陶醉在胜利之中，当天他就下令发起追击作战。
各部遵命而动，迅速向北追击。18日，59军在第3军团协同下，将日军第5师团坂本支队包围于汤头一带。正要发起围歼之时，张自忠却突然接到战区命令：“59军留一旅归庞军团长指挥，拒止临沂以北之敌。其余即开赴费县待命。”张自忠只好放弃眼前有利战机，将112旅留归庞炳勋指挥，自己则率其余部队于21日下午冒雨向费县开进。
第一次临沂之战就此结束。
当张自忠、庞炳勋两军于第一次击破进犯临沂的板垣第5师团所部进而向莒县追击后，因津浦铁路正面之敌陷滕县南下，当时为彻底集中兵力击破铁路正面之敌，决定将张自忠军转移于滕县方面。当张军开始西移时，敌又由莒县方面侵入，庞军告急，张军不得不又由费县附近回师临沂，揭开了第二次临沂之战的序幕。在这同时，第5战区又令在海州方面的缪瀓流军（57军）派一个旅增援临沂，归张自忠指挥作战。敌自3月25日起向临沂猛攻，张、庞两军与敌激战至29日，适缪瀓流军增援到达临沂，就决定于30日拂晓出其不意实行反攻。反攻部队将敌截断为两部分，敌主力被迫向北溃退，其一部窜入临沂西侧的朱阵，闭寨困守。从而，取得了第二次临沂之战的胜利。
临沂之战，第59军及第40军以伤亡1万余人的代价造成日军第5师团伤亡约4000余人，挫败了日军攻占临沂的企图。有资料说：“日军以载重汽车运回莒县尸体约一百余车。敌在汤头、葛沟屡次焚化尸体，来不及运回者、就地掩埋者达七八百具。”这是该师侵人中国以来，继平型关受挫后遭到的第二次严重挫折。日军第5师团从3月3日发起临沂作战，苦战至月底，仍未能越雷池半步，这对于日本“铁军”来说，实在是太难堪了。板垣征四郎寝食难安，恼羞成怒，几欲自杀。
更重要的是通过临沂之战，第5战区砍断了津浦路北段日军的左臂，粉碎了日军会攻台儿庄的计划，促成了以后台儿庄会战中，围歼孤军深入台儿庄的矶谷师团的契机。
还值得一提的是，庞炳勋的杂牌军打败日军王牌军，一战成名，赢得各方高度赞赏。
特别是张自忠以其卓越表现，彻底洗刷了他抗战前期的屈辱。3月30日，军事委员会军令部致电李宗仁指出：“张军坚忍抗战，毙敌累累，希传谕慰勉。”同一天，国民政府以张自忠建树奇功，特颁令撤销对他的“撤职查办”处分。这样，张自忠就由59军代理军长而成为名副其实的军长。4月上旬，第1集团军番号撤销，集团军直辖部队分拨张自忠、冯治安、刘汝明、石友三各部。其中姚景川之骑兵第13旅划归59军。至此，原29军部队完全被拆散，宋哲元将军专任第1战区副司令长官。4月8日，姚旅及中央军李仙洲第92军第13师开抵临沂，归张自忠指挥。4月13日，张自忠升任第27军团军团长，辖第59军和第92军，这是后话。