“太好了，那我们胜利就更有把握”
聂荣臻激励部下：“争取再打一个歼灭战”
当夜，日军到达雁宿崖。侦察员报告：日军把我们已经埋了的日本兵的尸体都挖了出来，浇上汽油焚烧，河谷里弥漫着一股焦煳的臭味。
杨成武知道，日军如此兴师动众，决不只是为了要找回战死士兵的尸体。他对作战参谋说：“让一团和三支队保持与敌人接触，把敌人引到预定区域。”
第二天清晨，日军推进到张家坟一带。游击第三支队、县支队和第一团各一部先后与日军交上了火。他们打打走走，走走打打，一步一步诱敌深入。八路军派出一部分兵力，前出到涞源县城东浮图峪地区和城西的灰堡、石佛一带，声东击西，袭扰迷惑日军。
晚上，日军大队人马进到司各庄和银坊一带，还是找不到八路军主力，连老百姓也转移了。日军气急败坏，点燃房屋，把整个村子烧了个精光。杨成武看着远方熊熊腾起的火光，更加明了日军的企图：他们是来复仇的。复仇心切的日军找不到战机，必然急躁冲动，这正是消灭日军的好机会。
6日，杨成武下令：继续激怒日军，拖垮他们，寻找时机歼敌。日军在游击队的诱击下，于黄昏进抵黄土岭。日军被牵着鼻子在山里转了一整天，早已啤惫不堪，忙着搭起帐篷，挖灶埋锅，生火做饭。
杨成武认为火候已到，应该在黄土岭以东上庄子至寨头之间的狭谷地带围歼日军。他命令第一团和第二十五团立即赶到寨头，堵住日军东出的道路。又派人通知第三团连夜开到黄土岭和上庄子南面的高地；命令分区炮兵营分别占领寨头东南和西南的高地；第二团绕到日军后面，形成对日军的包围。
当夜，日军指挥官已经发现黄土岭西北有八路军在活动，判断八路军是以一部兵力将自己引到黄土岭，然后调集主力向该地集结，进行包围。日军嗅到了被围歼的气息。
7日清晨，天空飘起细雨。日军指挥官显然改变了决心，放弃寻找八路军主力决战的意图，指挥部队冒雨向上庄子和寨头方向一边侦察一边交替掩护前进，看样子是想避开八路军主力，绕道返回涞源城。日军行进十分谨慎，速度也很缓慢，但他们始终未能发现两侧高地上潜伏着的几千名八路军。
下午3点钟，日军全部进入八路军设伏地域，伏击阵地上突然枪炮声大作，第一团和第二十五团一部迎头痛击撤退的日军。第二团和第三团分别从西、北、南三面包抄过来，发起猛攻。贺龙师特务团从第三团左侧加入战斗。日军遭到突然打击，急忙抢占上庄子东北的高地，并向寨头的八路军阵地猛攻，双方展开激烈的山地争夺战。
4点钟左右，第一团团长陈正湘举起望远镜，看到黄土岭与上庄子之间的教场村里的一座独立院落内，有多名穿黄呢大衣的日军指挥官在活动，还不时地有人举着望远镜往山上察看。陈正湘忙把目标指示给分区配属给第一团的炮兵连的连长杨九称。炮兵发现这么好的目标，赶紧用迫击炮向目标连续射击。
随着几声炮响，教场村边的小院子里腾起一股股烟尘。穿黄呢大衣的人影，随着炮火扬起的尘土消失在望远镜中。
经过几小时激战，日军被歼过半，余部被压到上庄子附近的狭谷底部。这天夜里，日军残部连续突围十多次，都被八路军击退。
黄土岭激战时，驻涞源、灵丘、易县、满城、唐县和完县的日军第一一○师团、第二十六师团及独立混成第二旅团的余部，分几路赶来增援，迅速向黄土岭方向逼近。
前方两军酣战，被围的日军不断发出战况报告和求援电报。8日早晨，日军飞机投下七副降落伞，除弹药和粮食外，还投下一名军官来指挥日军突围 被包围的日军很快就组成了临时指挥所，在五架飞机掩护下，向上庄子西北方向突围。
八路军第一团和第二十五团一部把拼命突围的日军拦腰截断，并将两百多名未冲出来的日军堵截在上庄子村里。大约有四百多名日军突出包围，冲到了上庄子村西北的高地，向司各庄方向仓皇逃窜，八路军第二团从右翼、第三团从左翼夹击这股日军，给他们以重创。
增援的日军进展迅速。为了避免陷入被动局面，晋察冀军区命令：参战部队立即撤出战斗。这次战斗共打死打伤日军九百多人，缴获大量战利品。
战斗结束，八路军部队进行战斗总结，聂荣臻打电话给杨成武：“告诉你们一个好消息：延安拍来贺电，说你们击毙了阿部规秀中将，并向我们祝贺。”
杨成武好一阵惊喜，他根本没想到黄土岭教场村被击毙的日本军官竟然是日军中将旅团长。他即刻命令第一团到战场上寻找阿部的遗物。当天，战士们找到了阿部的黄呢大衣，上面有镶着两颗金星的领章，还有一把嵌上了金包银的指挥刀。
毛泽东得知阿部规秀被击毙，极为振奋。他特地于11月24日致电八路军总部、新四军总部、晋察冀军区和驻重庆、西安、桂林的八路军办事处，要他们向各方广为宣传，粉碎国民党对八路军“游而不击”的污蔑。
日本陆军部发布阿部规秀阵亡的公告之后，《朝日新闻》撰文称：“中将级指挥官在作战第一线阵亡，在日军军史上是少有先例的。”并且哀叹：“护国之花凋谢了。”