左翼38师渡河后，一路冲杀，连克日军坚固阵地四五处。但板垣师团确实是日军精锐，他们迅速停止了对庞炳勋部的攻击，转而全力向38师反扑，双方展开混战，往来几个回合，38师伤亡400余人，被迫退回沂河西岸。张自忠震怒之下，当即将担任主攻的122旅旅长李金镇撤职，命新兵团团长李九思升任旅长，并令其准备再次渡河攻击。右翼180师渡河后，分两路向前攻击。日军出动增援部队与我展开激烈争夺，阵地失而复得者数次。经过奋战，180师以伤亡800余人的代价将敌击退。15日一早，该师乘胜向前推进，日军阵脚混乱，向东西水湖涯溃退。退回沂河之38师15日晨再次渡河攻击，正激战中，忽闻日军偷渡沂河向该师后方迂回。张自忠被迫将38师一部调回，打击偷渡之敌。
由于日军将主力用于对付59军，庞炳勋部正面日军兵力大减。庞炳勋抓住有利战机，率部猛袭日军侧背，有力地配合了59军的正面攻击。
16日拂晓前，日军增援兵力到达，转为反击，由沙岭从2个旅的结合部渡过沂河，向第38师后方“崖头、刘家湖、苗家庄、钓鱼台之线猛攻，并以飞机10余架轰炸”，与第38师预备队第11l旅激战于崖头、苗家庄地区，并攻占了船流、刘家湖。
张自忠根据当时的战况迅速采取措施，调整部署：令第38师以有力的1个团加强茶叶山的防守，作为军的主要支撑点；令军部骑兵营由石家屯东渡沂河，向葛沟、汤头间出击，袭扰敌之后方；令进至河东的部队全部撤回河西，阻击渡至河西的敌人。双方在刘家湖一带展开激烈的肉搏争夺战，刘家湖失而复得者四次，崖头失而复得三次。茶叶山一度被敌占领，旋即夺回。
16日夜10时，59军向敌发起空前猛烈的攻击，雷霆万钧，大地震颤。拼杀至17日凌晨4时，59军胜利攻克日军全部主阵地。
在茶叶山战斗中，228团的3位营长一死两伤。第2营营长冉德明在率部向高地突击时连中数弹，被随身护兵抬下火线。冉营长自知不救，对护兵嘱咐说：“我这伤是救不了啦，我有三个愿望：一是希望张军长能亲自看一看我的尸体；二是给我立一块小碑；三是不要将我的死信告诉老婆孩子，战事平定，希望能把他们送回河北完县老家。”
张自忠得到报告，立即赶来看望。此时，冉营长已停止了呼吸。冉德明是跟随张自忠多年的老兵，曾任张之卫队连连长，彼此亲如手足。张自忠抱起冉营长浑身是血的遗体，连声呼喊着冉德明的名字，泪流满面。按冉德明的遗愿，张自忠派人将他的遗体运往河南郑州，埋在西北军专门安葬死难官兵的“义地”里，为他立了高2米、宽1米的墓碑，碑铭由张自忠亲自题写。此后，张自忠还以冉德明的名义定期给他的家属邮寄生活费。
至17日上午，第59军已伤亡6000余人，第一线作战部队的营长伤亡三分之一，但该部队仍坚守阵地，顽强战斗。徐祖诒参谋长鉴于59军伤亡过重，建议张自忠撤出战斗，转往都城休整。但张自忠杀得性起，不肯撤退。他说：“中国军队伤亡很大，敌人伤亡也大。敌我双方都在苦撑，战争的胜利，决定于谁能坚持最后五分钟。既然同敌人干上了，我们就要用精神和血肉拼命干一场，不打败敌人誓不罢休!”众将领非常赞同军长的意见，纷纷求战。张自忠当即下达命令：除李文田副军长留军部主持工作外，其余各级部队主官一律到前线督战指挥；军总预备队114旅投入战斗；全军所有山炮、野炮和重迫击炮全部推进至第一线，带上所有炮弹，在黄昏前，将全部炮弹倾向敌阵；攻击重点为茶叶山、刘家湖、小苗家庄。
显然，张自忠决心倾尽全力，与板垣征四郎一决雌雄。他斩钉截铁地对几位旅长说：“这次攻击，只许胜，不许败，否则军法无情!”此时日军因伤亡甚众，亦已无力发动强攻。张自忠掌握战机，集中全力组织反击，于当日黄昏后，利用敌人得不到飞机支援而又不惯夜战的有利条件，向河西之敌发动进攻。激战竟夜，以肉搏战将渡至河西的日军击歼近半。在日军遗弃的尸体中发现有第11联队联队长长野佐一郎大佐、第3大队大队长牟田中佐及第9中队中队长等多名军官。又据在刘家湖所俘一等兵陆夫说，这次沂河两岸战斗，第5师团坂本支队伤亡约3000余人。日军大部退向莒县，一部退至汤头。张自忠令第38师的第114旅向汤头方向追击，停止于汤头以南李家五湖一线。其余部队除一部沿沂河西岸茶叶山一带警戒外，全部集结到刘家湖一带休整。沂河以东日军在其主力北撤后，亦向傅家池、草坡一带撤退。
就在中国军队准备向敌发起追击之时，不料日军于17日凌晨5时发起疯狂反扑，中国军队阵地多处告急。但官兵们咬牙与敌死拼。素来顽强的日军，在59军痛击之下，终于丧失了继续战斗的意志，狼狈撤回河东，然后掉头向北逃窜。临沂大捷至此告成。张克侠参谋长兴奋地在日记中写道：“昔日所向披靡不可一世的皇军之板垣师团，为我中华好男儿已打得威风扫地，‘铁军’碰到了打铁汉!”
17日上午11时，蒋介石致电李宗仁、张自忠、庞炳勋，嘉勉临沂之捷，电报说：临沂捷报频传，殊堪嘉慰。仍希督率所部，确切协同，包围敌人于战场附近而歼灭之。如敌脱逸须跟踪猛追，开作战以来歼敌之新纪录，借报国军之气势，有厚望焉。