中日两军在南口激战时，东条英机兵团趁势向张家口方向发动攻击。20日夜里，关龟治旅团从张北的二台出发，突破中国守军的长城防御，占领了神威台。22日，日军乘胜进攻旧万全，中国守军第一四三师进行抵抗后，于第二天退守张家口西南和平绥线上的孔家庄一线高地。
日军占领了旧万全，继续向孔家庄守军发起进攻。中国守军曾给予有力的反击，迫使日军转取守势。经过三昼夜激战，日军占领了孔家庄，切断了平绥路。这时，东援南口的傅作义立即率领两个旅赶回张家口，组织固守城垣并反击日军，但未能抑制日军的攻势。
26日以后，整个战局严重恶化，第八十六军军长刘汝明在7日命令部队向洋河南岸撤退，张家口沦陷。日军左翼的大泉支队于20日从沽源开始南进，26日占领独石口以西的三间房。27日，又占领宣化，与从张家口东进的关龟治旅团会合。29日，板垣师团也推进到宣化。至此，进攻平绥路东段的两支日军会合。与此同时，酒井镐次的独立混成第一旅团占领了张家口以西的柴沟堡。中国第二战区平西守军受到日军南北夹击的威胁，分头向天镇和蔚县方向撤退。
日军占领了南口和张家口，板垣师团在怀来和下花园之间集结；东条英机兵团集结于以张家口为中心的宣化和柴沟堡地区。9月6日，板垣师团根据方面军指令，分三路向南推进，企图赶到蔚县附近。刘汝明军防守蔚县，还没见到日军就向后撤。汤恩伯急令高桂滋的第十七军从广灵速派一个团去蔚县增防。这个团还没到达蔚县，板垣师团就已抢先入城。随后，日军在14日攻陷广灵，16日夺得涞源，20日攻占灵丘，准备在突破长城线以后，参加保定会战。
在板垣师团南下的同时，关东军派遣兵团出动两个旅团以上的兵力，在伪蒙骑兵九个师协同下，于9月6日向驻守天镇的第六十一师第二九九团发起强攻，守军孤军奋战，坚守了一个星期，在11日撤出阵地。日军攻占天镇以后，立即进逼大同。大同守军在13日弃城，日军不战而占大同。随后，日军攻占了大同北面的丰镇和绥东重镇平地泉，继续向西进攻，同一天占领绥远省会归绥，16日又占领包头。平绥线作战到此结束。