大刀队振奋全国民心，尽扫“皇军”名誉。
何应钦在1933年3月11日接替张学良的职务，担任国民政府军事委员会北平分会委员长。他把东北军缩编成四个军，由万福麟、于学忠、何柱国和王以哲分任军长。他看到日军攻势很猛，知道光靠东北军挡不住日军的锋锐，便请南京政府增调一部分西北军。于是，驻扎山西的宋哲元第二十九军调到了北平以东，何应钦任命宋哲元为华北第三军团总指挥。这样，长城一线就有了七八个军的力量。
但是，何应钦思来想去，还是觉得兵力不足。他知道，如果自己丢了华北，一定会受到全国舆论的谴责，到时候他就成了张学良第二。他接连给蒋介石发出五份电报求援，又致电胡适、丁文江和翁文灏。胡适等人都是舞文弄墨的社会名流，并不带兵，何应钦给他们发电报干什么？何应钦看准了文人墨客会造舆论，给他们发电报，是为了追究责任时可以洗清自己。果然，三位名流收到电报，都致电蒋介石：热河丢失，决非张学良一人之责。不战再失华北，中央难逃罪责。
蒋介石这下坐不住了，本来决定只调徐庭瑶第十七军的黄杰第二师和关麟征第二十五师北上，留下刘戡第八十三师南下江西“剿共”，这时不得不命令刘戡师也北上抗日，同时增调第二十六军北上。
奉命北上的部队陆续抵达目的地，何应钦组建了两个军团，对长城抗战做出部署：商震军守卫东边的界岭口和冷口一线，宋哲元军担任中部喜峰口、马兰峪和罗文峪一线防务，杨杰的第八军团拱卫北平，并以主力前出南天门和古北口方向，傅作义的第七军团担任察哈尔省东部和南部的防务。
日军轻易地占领了热河，继续向长城东段各口及河北省与察哈尔省的东部进犯。他们集中兵力，向冷口、喜峰口和古北口三个方向，对驻守长城一线的中国军队，发起猛烈的进攻。
冷口是交战双方争夺的要地。日军独立混成第十四旅团先遣队侵入冷口的第三天，商震军的黄光华第一三九师就发起反攻，收复了冷口。十几天后，日军再次猛攻冷口北部，黄光华师与日军苦战，不时组织反击，经过反复争夺，最终将日军赶出口外十多公里，与日军对峙。
第四军团的缪澄流第一一六师防守着界岭口，日军混成第三十三旅团从绥中开来，进攻守军阵地。缪澄流师稍事抵抗，便放弃了阵地。第二天，缪澄流组织部队进行反击，占领了界岭口两侧的敌楼，并从正面逼近日军。六天后，日军再次进攻界岭口，守军再次撤退。此后，两军处于相持状态。
日军独立混成第十四旅团是一支擅长攻坚的部队，攻打冷口碰了钉子，又来攻打喜峰口。他们在这里碰到了号称“西北虎”的宋哲元军。
宋哲元军的老底子是冯玉祥的西北军。1930年中原大战，冯玉祥战败，西北军一些零散部队退到山西，经张学良整编，组成第二十九军，宋哲元任军长，下辖冯治安第三十七师、张自忠第三十八师和刘汝明暂编第二师。冯治安师下辖两个旅，张自忠师下辖三个旅，刘汝明师主力只有一个李金田旅。宋哲元军的长官，都是冯玉祥当初一手提拔培养起来的，他们继承了西北军刻苦练兵的传统。
宋哲元等人具有爱国思想，提出“枪口不对内”的口号，有些军官还参观过第十九路军在上海的抗战，向士兵们传达了打败日军的经验。经过刻苦训练，全军有了相当的规模和战斗力，美中不足的是武器旧劣，军中汉阳造步枪和毛瑟枪各占三分之一，另一部分是从孙殿英那里买来的土造枪，枪械陈旧，补充弹药很难。全军只有十几门野炮和山炮，重机枪不过百挺，轻机枪每连仅有两挺，步枪没有刺刀，只好发扬西北军的传统，让士兵们背上大刀。战士们寻求近战和夜战，勇猛地冲向日军，用大刀向鬼子们的头上砍去。
蒋介石眼里的这支“杂牌军”，装备远不如中央军，但他们吃苦耐劳的精神和顽强战斗的作风，是许多中央军部队望尘莫及的。这些官兵从西北军到第二十九军，平时练兵都以日军为假想敌。当他们奉命从山西调往冀东，防守华北前线，准备对日作战时，全体官兵爱国热情高昂，士气旺盛。宋哲元军约有一万五千人开往华北前线，只有张人杰旅留驻山西。
何应钦命令宋哲元军开赴长城喜峰口、罗文峪和马兰峪一线，抵御日军的进攻。宋哲元率军部从蓟县进驻遵化，命令冯治安师第一一○旅旅长何基沣率两个骑兵营先期出发，冯治安师和张自忠师随后推进。何基沣将两营士兵集合起来训话：“弟兄们，国家多难，日寇侵凌，我辈军人，受人民养育深恩，现在正是杀敌报国之时。好男儿当以死报国，笑卧沙场，何惧马革裹尸还”
队伍快速向前，静悄悄的，没有人说笑。马蹄过处，泥渍四溅，路边的民众伫立着，目送这支急行军的队伍。他们日夜兼程，于3月8日来到喜峰口长城脚下。
喜峰口是条宽宽的谷口。长城从东西两边蜿蜒而来，扼住这个咽喉。谷口向南北延伸出一条小路，可容两人并排而行。
何基沣安顿好部队，副师长刘自珍骑马赶到，传达冯治安的命令：“军部发来通报，日军离喜峰口只有三十里路，估计两个多小时就到这里，冯师长要你及早做好战斗准备。”