5月19日，日军集中本卿师团、山路师团和藤田旅团等主力部队开始向洛阳发动进攻，中国守军顽强抗击，使日军攻击受挫。22日，日军三次攻入洛阳城关，都被中国守军赶出城外。23日，日军把进攻重点放在洛阳北面。在日军的持续攻击下，洛阳守军伤亡惨重，第九十四师只剩下一千七百多人，但他们拒绝了日军的劝降，坚守阵地。24日下午1点，日军向洛阳发动总攻击，攻破洛阳东北角。洛阳守军被迫于当晚10点向洛阳东南突围。25日，洛阳失陷。
以洛阳被日军占领为标志，历时一个多月的豫中会战结束。日军在这次会战中打通了平汉线，击溃了蒋鼎文第一战区主力，达到了作战目的。第一战区损兵折将达二十万人之多，丢失三十八座城市，河南省几乎全部沦陷。刘昌义军第二十九师师长吕公良，该师第八十五团团长杨尚武，第八十七团团长李培芹，第八十六团营长胡光耀，第八十七团营长何景和，以及第二十九师全体士兵，都在战场上牺牲。李家珏和他的集团军总部副官处长周鼎铭以及步兵指挥官陈绍堂，也在战斗中遇难。