抗战初期，国共双方在山西战场上实现了良好的合作，取得了忻口战役和反九路围攻的胜利。太原失守后，国民党大军纷纷南渡黄河，西过汾河，八路则深入敌后，开辟了广人的抗日根据地。蒋介石不甘心，想从八路军手中“收复”丧失于日军的失地，以河北事件为发端，不断制造反共磨擦。
1938年5月，河北的抗日武装以吕正操部为主，在冀中38县地区创造了抗日根据地，成立了冀中行政公署；以八路军一二九师东进部队为主，在冀南20余县建立了抗日政权。为合作抗日，中共同意由国民党方面派鹿钟麟去河北省担任省政府主席。鹿钟麟为安全计，取道山西，请八路军护送，通过日军封锁线，进入敌后八路军开辟的冀南抗日根据地。在路过山西长治时，鹿钟麟曾访问故县镇八路军总部，与彭德怀举行会谈，议定冀中、冀南行政专区人选暂照八路军所任不变。
蒋介石对原属西北军的鹿钟麟不大放心，又由其军统特务系统推荐了河北一支反共武装的头目、自号河北民军总指挥的张荫梧出任河北省民政厅长。
1938年9月，鹿钟麟到冀南南宫县，毁弃前约，要撤销冀南公署，将八路军开辟的冀南20 余县作为河北省府属地，由国民党和共产党各辖一半，遭到冀南行政公署主任杨秀峰的反对。为团结抗日，八路军总部同意划出南宫等3 个县为鹿钟麟的机关驻地。鹿钟麟到冀南后，尽力收编地方武装。国民党军残部、地主土匪武装纷集于其下，借势向八路军挑衅。
八路军原想与鹿钟麟合作发展河北抗战力量，由于鹿到冀南即行反共，合作发生问题。但八路军仍未放弃对鹿的争取。10月27日，毛泽东、王稼祥、刘少奇、彭德怀共同致电冀南朱瑞、徐向前等人，要他们向鹿极力解说目前形势之严重。在广州失守，武汉不保，敌人已开始其肃清华北计划的状况下，各方只有依靠已得成绩，加紧工作，才能支持难局，否则只有失败。嘱咐朱瑞等“主任公署（冀南）及军区均应与鹿建立密切关系，请其指示方针”。并估计“武汉失守，局势变化，我有更大可能促鹿觉悟，求得亲密合作。届时当可对鹿作某种让步”。
对于八路军和冀南民众艰苦创建的抗日民主政权冀南行政公署，中央和总部则持坚决态度，指示朱瑞、徐向前等：“不能以任何交换条件取消。”
11月，鹿钟麟突然发布公告，撤去冀南行政公署主任杨秀峰的职务。鹿手下的一伙人，即向各县另行委派县长，抢官夺权。与此同时，张荫梧也以其民政厅长的名义委派县长。于是在冀南地区出现了一个县有2 个县政府、3 个县政府的局面。日伪乘机而入，也在一些县委派伪县长。有的县出现了4个甚至5个不同背景的县长。这些委派县长，各据数村，要粮抽丁，老百姓叫苦连天。才两个多月，就把八路军刚刚开辟的抗日根据地，弄得乌烟瘴气，鸡犬不宁。
随后，鹿钟麟又设法将国民党在山东的石友三部2万余人调来河北。蒋介石加委鹿为冀察战区司令长官。于是，集合于鹿的战区司令部名下的武装达到六、七万人，到处袭击八路军驻地，杀害抗日军民，河北事态愈演愈烈。
1938 年12 月下旬，彭德怀到西安，准备参加蒋介石原定在西安召开的西北和华北将领会议，同时见蒋面谈解决河北问题。这时，中国战局正经历着一个重大的转折变化。
日军侵华15 个月来，战线愈长，兵力愈分散，后方受到八路军的威胁就愈大；对重庆政府遂由过去的以军事打击为主，改变为以政治诱降为主，其诱降的一个重要内容为共同防共。在日本的诱降下，重庆国民党政府在全国掀起了一股防共、反共的逆流。
彭德怀是带着中共中央解决河北问题的诚意来到西安的。12月23日，毛泽东指示彭德怀等参加将领会议的立场：“坚定各将领之抗战信心，强调团结统一之重要。特别是在敌后方，斥责制造磨擦之有害。介绍八路军抗战之各方面经验。”关于河北问题，毛泽东指示彭德怀等在要求划某些地区行政权给八路军而谈判顺利时，或有必要时，可以表明放弃某些地区，以求实现以划分区域为基础的增进合作与消弭磨擦。这是一个比较大的让步方案。
24日，蒋介石在西安接见彭德怀、王明和林伯渠，略谈数事，即起行返渝。并不提开将领会之事，只约彭德怀到重庆详谈河北问题。
实际情况是，蒋介石已经在陕西省之武功开过了西北和华北师以上的将领会。但没有八路军和山西新军（决死队）的将领参加。因为这次会议的一个重要内容就是防共。
1938年12月28日，彭德怀在重庆会见蒋介石。同年初，蒋介石在洛阳召开的第一、二战区将领会上曾约彭德怀去武昌和他单独会谈，要求八路军在敌后出击配合徐州会战，八路军作了积极的响应。现在，蒋介石关心的是要限制八路军，见了彭德怀就根据鹿钟麟、张荫梧等人告的状，责怪八路军建立冀南、冀中抗日政权是破坏行政系统。彭德怀列数鹿、张在河北破坏抗日团结的事实作答，列举八路军在敌后的战绩，陈述敌后战场对牵制日军向正面战场进攻的重要。最后商定，河北磨擦问题由蒋介石电天水行营主任（辖一、二战区）程潜派大员与彭德怀一起赴冀南解决。
当彭德怀在为维护国共团结而奔走之际，1月下旬，蒋介石在重庆召开国民党的五届五中全会，会后秘密下达了《 防制异党活动办法》 、《 沦陷区防范共产党活动办法草案》 等反共方案。又密令鹿钟麟训示各县禁止八路军招兵买马；取消冀中、冀南两行政公署。鹿钟麟等更无顾忌，从滥委县长，到滥委专员、乡长、村长。与此同时，河北的张荫梧和山东的秦启荣等部，到处袭击八路军，制造流血事件。反共分子公开宣扬“宁亡于日，不亡于共”，“八路军一定要交出政权才行”。
张荫梧等部拒绝与八路军配合，在日军的进攻下屡遭损失。河北战局仍不得不赖八路军来坚持。蒋介石致电彭德怀，希望彭德怀赴河北与鹿钟麟会谈。其电文曰：“彭副总司令德怀兄：某日电悉，艰难奋斗，至念贤劳！冀省为华北敌伪之心脏，吾人必须坚决把握，严重打击。所赖以维系人心，号召抗战者，端赖我军政长官同舟共济，密切合作，保持机动之优势。务盼兄速即前往，与瑞伯（鹿钟麟字）会谈，在精诚亲爱合作，共同杀敌，保全冀省原则之下，消除隔阂，解决误会，免为敌乘为要！中正。”卫立煌亦致电慰问。彭德怀遂与鹿再约，在辽县下庄八路军的驻地举行会谈。
鹿钟麟到河北引起抗战营垒的磨擦，举国关心。彭、鹿会谈，各方注目。八路军总部和中共北方局研究后，请示中共中央，提出了解决河北问题的八大纲领。要点为：坚持河北抗战，发动游击战争；两党派代表，组织共同委员会；开放民主，改善民生；统一行政，发展经济事业；合理统一军事指挥；承认各县抗日群众团体等。根据过去双方争论焦点在统一行政问题上，纲领提出撤销双专员、双县长；对各地民主选举产生的专员、县长由省府加委。撤销破坏团结的顽固分子张荫梧等人的职务。
鹿钟麟在会谈前陷于狼狈境地。他的老上司、主张国共团结抗日的冯玉祥从重庆给他发来一封长电，责备他：“不尚容人用人，过去方法已不适宜”，嘱鹿“诚恳、合作、坦白，以坚持河北抗战”。程潜亦自天水行营给鹿长电，令鹿：“本民族利益第一、抗战团结第一之旨，忍耐精神，无偏无党。”还说：“民军（指张荫梧等部）到处索粮索款，亦有割据嫌疑，党政人员有时偏袒，亦造成冲突主调”。“以武力限制共产党发展为不可能，亦不必要……”。另一方面，鹿钟麟连接蒋介石四道密电，要鹿必须撤销冀中、冀南两公署。
鹿钟麟两面为难，无心考虑如何通过会谈促进团结抗日。见八路军提出了八大纲领，令随来诸人也草就一个纲领，送到彭德怀那里。彭德怀看后问道：“鹿先生和我不惮路途辛劳，来下庄见面，原为坚持河北抗战，为何纲领中没有抗日内容？”鹿钟麟无言对答。
由于有蒋介石的密令，鹿钟麟坚持要撤销冀中、冀南两个主任公署，彭德怀则坚决维护冀中、冀南抗日根据地，会谈无结果。临别前，为争取鹿钟麟，彭德怀对鹿说：“河北问题鹿先生固有失当，但朱德总司令和我素知问题不在先生，而在张荫梧等顽固分子，须将这些顽固老朽分子撤掉，团结合作方有希望。”鹿钟麟感于彭德怀的直言，也向彭德怀直告自己的难处：撤换张荫梧是得经过蒋介石批准才能办到的。以后张荫梧不但未能撤掉，反而猖狂愈甚，鹿钟麟则有所收敛。
国民党当局想以河北省政府的名义取消八路军抗日根据地的计划宣告破产，便依靠河北民军张荫梧、侯如墉、王子耀等部向八路军发动武装袭击，由政治磨擦转向军事磨擦，制造了一连串惨案。其后，张在给蒋介石的电报中竟说：“日军扫荡八路，在他人以为大难，在我以为军政开展之机会。”不久，八路军截获了张荫梧致国民党当局的电报，电报说：“柴恩波在文安、新镇与八路军不两立，同时又被楼寇重兵压迫，势甚孤单，……现该部为保存实力及施行曲线救国计，已与日寇接洽，被委为冀中剿匪总司令，名虽投日，实际仍为本党作抗建工作，侯时机成熟，定率队反正，予日寇以重大打击。”
张荫梧倡言的“曲线救国”论被八路军截获后，彭德怀在纪念抗战三周年发表的《三年抗战与八路军》 演说中公开给予严正的揭露和批判，这一汉奸理论，连同张荫梧其人，从此为国人所不齿。
8月1日，朱德、彭德怀根据毛泽东“人不犯我，我不犯人，人若犯我，我必犯人”的自卫反击原队，下令一二九师、晋察冀军区和冀南部队，对河北民军中最反共而又宣扬汉奸理论的张荫梧、王子耀等部实行自卫反击。迄8月底，张、王各部大部被歼，张荫梧落荒而逃。面对张等的罪证，在朱德、彭德怀的强烈要求下，蒋介石于9 月19 日撤了张荫梧的职。
鹿钟麟到河北反共，结果在政治上和军事上都自行垮台，只好向蒋介石提出辞呈。
1939年11月，国民党派朱怀冰率九十三军之3个师并庞炳勋军北上入冀，与石友三部及张荫梧残部结合。
1939 年10月，彭德怀放下他正着手进行的八路军的整训和兵工厂的建设工作，从总部西行。25 日，来到薄一波领导的山西省第三行政专区的住地沁源县吴家窑村。
从7月到8月，八路军和决死纵队在朱德、彭德怀的统一指挥下，经过大小70余次战斗，打退了5万日军对晋东南的第二次九路围攻。根据地民心振奋，部队士气旺盛。但抗战营垒内，却因阎锡山的反共而呈黑云压顶、山雨欲来之势。
阎锡山的反共是从牺盟会、决死队下手的。这使牺盟会、决死队内的共产党员和进步分子既担心，又气愤。这次彭德怀来沁源，名义上是以八路军副总司令的身份路过，实际是代表中共北方局，来研究如何抵制阎锡山的反共逆流。
1939年3月到6月，阎锡山在陕西宜川县秋林镇召开“晋绥高级军政民千部会议”。会议中，阎锡山向他的心腹提出他对国内形势的分析是：“中日不战而和，国共不宣而战。”说：“武汉失守后，二战区削弱了，只有共产党八路军壮大了。”他要“自谋生存之道”。在会上，阎锡山发动旧军（晋绥军）攻击新军（抗敌决死队），旧派（新军内阎锡山派来的军官）攻击新派（新军内多由共产党员和进步分子担任的政工干部），挑起新旧军之间和新军军政干部之间的公开磨擦。
秋林会议以后，阎锡山采取了一系列反共措施：宣布取消山西省抗日统一战线的民众组织战地动员委员会；撤换牺盟会派出的抗日县长；改编新军决死队，企图把新军置于旧军的管辖之下。这些措施遭到牺盟会和决死队的坚决反对，于是，阎锡山向旧派放出他准备发动反共事变的有名暗语：“天要下雨了，要准备雨伞！”
如何对待国民党内顽固派掀起的反共逆流，毛泽东制定了明确的方针：“坚持抗战、反对妥协；坚持团结、反对分裂。”毛泽东要八路军和进步力量加强自身工作，准备应付阎锡山发动突然事变。
在吴家窑村青龙庙里，彭德怀根据毛泽东的指示精神向牺盟会和决死队内的共产党员和进步分子发表了题为《克服目前政局主要危险，坚持华北抗战》 的长篇讲话，然后和决死一纵队政委薄一波进行详细讨论。薄一波告诉彭德怀，阎锡山很狡猾，声言他不反共，也不反对八路军，只是要整顿决死队和牺盟会，实际是要搞垮决死队、牺盟会。彭德怀笑说：阎锡山说不反共，我们也不要说反阎嘛，要提出“拥护阎锡山，反对旧势力”。
彭德怀高度评价决死队、牺盟会在山西抗战中的作用，是运用抗日统一战线的一种特殊形式，也是很成功的形式。一定要坚持决死队，坚持牺盟会，争取中间势力，打击最顽固的分子。彭德怀叮嘱说：阎锡山说天要下雨，要准备雨伞，我们也要准备雨伞。对于坚持顽固立场的旧军官，要坚决撤换；情况紧急时，要把他们集中起来，防止里应外合；一旦有事，决死队就向八路军靠拢。
1983年，薄一波在回忆这一次会见的情形时说：和彭老总这次谈话，对以后一纵队胜利地应付12月事变起了很大的作用。我们两人的看法相同，觉得当时山西局势有大革命时期蒋介石发动“四?一二”事变前夕的味道。国民党是决心要吃掉牺盟会、决死队的，但我们也有了经验，只要掌握住武装，就不怕。12月2日，彭德怀从沁源南行到沁水，会见决死第二纵队和山西第五专区的党员负责干部戎子和、董大知、杨献珍等，传达中央政治局和北方局对时局的看法及应付突然事变的方针。三纵队所在的第五专区，南有阎锡山的孙楚军进驻阳城，虎视眺眺。孙楚军的背后太南地区，还有国民党的数军之众。一旦蒋、阎勾结进攻，五区便首当其冲。彭德怀对三纵队的情况很不放心，切切嘱咐戎子和、董天知对阎派反共军官保持警惕，早下决心。12月6日，彭德怀奉中共中央之命，到宜川秋林和阎锡山面谈，劝阎锡山坚持团结抗战，停止反共。彭德怀回忆这次会见的情况说：调停，就是给他讲讲利害问题。我对阎锡山说：你依靠牺盟会、决死队，你有前途；你要依靠反动势力、顽固分子，那你就要当空军司令了。你要把决死队牺盟会搞垮了，那你跟共产党也拌不成朋友了，蒋介石也不把你放在眼里了。”阎锡山默然。彭德怀在秋林向阎锡山陈说利害，力劝阎不要反共，要团结抗日。无奈这时阎锡山己骑上虎背了。
就在几天前，12月1日，阎锡山令驻晋西的决死二纵队，向同蒲线灵石、霍县段举行破击；同时，密令晋绥军陈长捷、工靖国与日军勾结，里外夹击，准备将二纵队消灭于同蒲线西侧。二纵队政治部主任韩钧，在王靖国军进攻下举行自卫反击，电阎锡山：“将在外，君命有所不受。”阎锡山当即宣布二纵队为叛军，蒋介石也立即同意阎提出的“分汾东、汾西，借剿叛军名义北上，肃清共党势力”的方案。这就是抗日战争中蒋、阎密契制造的山西十二月事变，亦即国民党顽固派发动的第一次反共高潮的开端。
12月8日清晨，彭德怀从秋林南下，准备取道西安洛阳，与程潜、卫立煌会晤，然后返山西前线。途中接毛泽东的电报，方悉阎锡山已经动手。
在这个关头，受程潜、卫立煌节制的中条山区6万余中央军和地方杂牌军持何态度，如何行动，举足轻重。
到了西安，彭德怀会见程潜，揭露各地的反共事件，对程潜说：“上海‘四·一二，事变，长沙‘马日事变’把第一次大革命变为反共反人民的十年内战，反得好吧！送掉一个东北，把日本人接到武汉来了。”“今天谁要反共，他先放第一枪，我们立即放第二枪，这就叫做礼尚往来。还要放第三枪。”程潜说：“放第三枪就不对了。”
彭德怀回忆说：程潜是国民党元老派，带典型的中间派。他说，放第三枪就不对了，这就等于中间派批准了反磨擦斗争，而且是武装斗争。但是不要过分。”
到洛阳，彭德怀最关注的是卫立煌和中间派的态度。在《 彭德怀自述》 中，说到这一段的情形：“从西安乘车到洛阳，见了卫立煌，拜访了一些民主人士，如李锡九等。在李处不意中遇到了孙殿英（新五军长），我把上述反共磨擦情况，又说了一遍。李锡九是个老好人，他很着急。孙殿英是土匪出身的，极狡猾，他意味深长地说，照你们的方针办事，‘人不犯我，我不犯人’。我懂得了他的意思，你们打他呗，我新五军是守中立的。”在卫立煌处谈了好几次。“我向他说了国民党的反共情况，他不置可否，只劝我要相忍为国。我说，我忍，顽固分子不忍怎么办？我说，有打内战的危险？他说，内战是打不成的呵！再打内战就完了。”“‘再打内战就完了’，这是当时国民党中抗战派的心情。”
彭德怀决定在返总部前先去阳城决死三纵队处看看，他仍然对决死三纵队和第五专区不大放心。三纵队的旧军官很多，纵队领导下不了决心撤换这些人。
正在这时，爆发了晋东南事变：孙楚军包围袭击阳城、晋城、沁水、浮山等县的抗日政府。牺盟会干部和抗日群众遭残杀者100余人，被捕者300余人。孙军散兵四出抢劫，城里城外，山上山下，一片恐怖。
明知山有虎，彭德怀仍旧向事变的中心地进发。他必须找到戎子和，弄清情况，稳住局势。
在阳城东露宿了一夜之后，12月25日，彭德怀在沁水东柿庄的沙门口见到从沁源开会返防的戎子和，得知三纵队的游击八团己在旧派军官的把持下实行反共，中央军己进驻阳城。彭德怀即命令戎子和马上返部，把各团不可靠的旧派军官控制起来，带部队迅速向高平黄克诚旅（三四四旅）靠拢。
身临事变，彭德怀看到，和阎锡山的一场较量已不可避免。稍后，蒋介石必乘隙进攻，更将进而危及太行根据地。
这时，孙楚军最凶狠之独八旅和国民党二十七军，已进入沁水县境，到处抓人、杀人，形势一发千钧。彭德怀立即与总部通报。向朱德、左权、杨尚昆（并报中央）提出，以陈赓为司令员，黄克诚为政委组织晋豫边八路军第二纵队司令部，将现在太（行）南的八路军各部和决死第二纵队统一指挥起来；令贺龙、关向应立即率部返回晋西北，统一指挥同蒲线以西的八路军和决死队；令决死一纵队进入安泽以南，以抗击顽军的进攻。阎锡山的“雨”倾盆而下，彭德怀及时张开了“雨伞”。27日，彭德怀在高平县陈汇村黄克诚旅向总部、北方局和中央报告：“决死三纵队八团、九团、十一团已叛变。”彭德怀请中央和总部令当时在屯留附近的决死三纵队第十团迅速靠拢八路军，“万勿迟延”。十团因此得以保全。
28 日，决死三纵队200 余骨干在戎子和率领下突围到达陈汇。
天气很冷，人多屋少。彭德怀把三纵队的干部叫来，和自己住在一个炕上，仔细询问情况，鼓励他们要“败不馁”。决死三纵队的沉痛教训，成为彭德怀决心发动一场反磨擦战役的起点。像在每一次采取重大行动前一样，在身旁人的鼾声中，彭德怀在炕头盘腿端坐到大明。他凝神闭目，慎重地筹划着怎样胜利地打出他所说的“第二枪”。
毛泽东指示了反磨擦斗争的策略：“有理、有利、有节”。彭德怀反复地琢磨这6 个字：八路军自卫反击充分有理，这一点中间派也不能不承认。现在需要的是造成有利的反击条件。八路军在敌后，随时遭日军扫荡，自卫反击必须选中要害，一举成功，速战速决。但是，太行、太岳的兵力，还不足以造成优势。他需要解决这个矛盾。他决心命晋察冀军区司令员聂荣臻乘日军扫荡的间隙，密率晋察冀主力南过正太路，和一二九师会合，以优势兵力迎击必将扩大的反共高潮。
1939 年是国民党顽固派发动反共“磨擦”的一年。艰难战斗于敌后的八路军又在国民党顽固派发动的反共高潮中迎来了1940年。
从鹿钟麟主冀以来，为消弭磨擦，周恩来、朱德、彭德怀、刘伯承出面与蒋介石、阎锡山、程潜、卫立煌、鹿钟麟分别进行过多次电商、面谈，提出过多次解决方案，中共方面作过多次让步，终于无效。十二月事变后，八路军的处境空前险恶。除日军的封锁、扫荡外，从晋西北到晋东南，从中条山到晋冀豫边和山东半岛，蒋、阎对八路军和决死队形成了一个半圆形的大包围圈。八路军退无可退，忍无可忍。1940年对八路军来说，也以向蒋、阎军实行反击开始。
在晋西北，自晋西事变后，决死第二纵队和八路军晋西独立支队突破阎军包围，在八路军罗贵波、彭绍辉部接应下到达晋西北。2月，贺龙率一二○师主力返回，2月底，全部肃清了晋西北地区反共的旧军。晋西北抗日根据地得以巩固，成为陕甘宁边区的可靠屏障。在晋东南，决死一纵队因在事变高潮中将旧军官集中控制起来，未遭到损失。1月中旬，蒋介石以5个军进犯太南太岳。19日，朱德、彭德怀下令陈赓率三八六旅主力移驻太岳，统一指挥太岳之八路军及决死队：“如对方进犯时，则坚决打击之。”太岳阵地得到巩固。朱德、彭德怀又令黄克诚指挥八路军及决死三纵队恢复了太岳南的部分阵地。
阎锡山苦心导演的以旧军吞并新军、以旧派搞垮新派的反共戏，至此进入尾声。阎锡山通过事变完全控制了晋西南，占领了晋东南的部分地区，退出了晋西北；拉走了决死队的3 个团，却逼使山西新军的40 个团完全过渡到共产党的领导之下。在对阎锡山的这一场严重斗争中，毛泽东十分注意掌握斗争的策略和分寸，使彭德怀由衷敬佩。1939年12月30日，在事变高潮之际，彭德怀在给毛泽东的一封长电中，估计时局将有大逆转，提出一切工作必要放在蒋、阎“投降妥协成为事实上”毛泽东则不然，他答复彭德怀说，“德怀同志：……目前还不是全国下雨之时”。“日本在华军人的政策还是硬的，此事不能不影响国民党的态度，故好转的可能还未断绝”。于是，在对阎锡山的反共气焰给予有力打击之后，新军继续拥阎抗日，山西方面和阎锡山的磨擦趋于缓和。
1940年2月7日，彭德怀在晋东南纪念京汉铁路工人“二七”大罢工17周年集会上发表演说，谈到经过17年革命斗争的中国共产党“有了富于政治远见，预见事变，并且善于处理事变的中央，有了英明的领袖”，领袖，就是指的毛泽东。这个由衷之言，包括着抗战以来在民族矛盾和阶级矛盾的交织中他的切身体会。他自己也在这场尖锐、复杂又时而微妙的斗争中，在政治上日臻成熟。
阎锡山的“骤雨”方过，八路军总部又不得不掉过头来对付国民党中央军在太北和冀南的进攻。
在冀南，虽然鹿钟麟提出了辞呈，蒋介石对河北是意在必得。国民党《 异党政治设施概况》 中称：“河北土肥人众，非陕北地广人稀。”“中央对共应采取之政策，令无条件交出政权。”1940年1月，蒋介石另委四十军军长庞炳勋为河北省主席。接着，庞炳勋、朱怀冰、石友三等军自南而北，向太行、冀南抗日根据地发动进攻，与日军自北而南的扫荡相配合。太行根据地处于虎狼夹击的危急局面。
这时，聂荣臻和晋察冀军区的两个团跨越日军封锁线南下，到达太行。一同来到的，还有冀中军区司令员吕正操和冀中的一个旅。
军情紧急，朱、彭、左、聂、吕、刘（伯承）、邓（小平）立即研究这场反磨擦战役如何打法。一致的看法是，应集中力量打击进攻抗日根据地的急先锋朱怀冰。
朱怀冰军在供应较为充足的中央军中，也称得上武器精良。但朱并不积极抗日，凭其武器优势，专门进攻八路军，搞反共磨擦，号称“磨擦专家”。八路军总部朱、彭、左，一二九师刘、邓，曾经多次对朱怀冰会谈争取无效。但其下层官兵在和八路军的接触中受到教育，反投降、反内战的情绪却日益增长；加以朱怀冰的军阀作风和腐化生活，官兵关系、军民关系都十分恶劣，打朱怀冰，具有十分有利的政治条件。不过，朱怀冰是中央军，从反磨擦斗争开始，直接和中央军打，这还是第一次。打不打，需要慎重考虑。
刘伯承的态度十分坚决，说：“他们从太南把我们挤到太中，又要把我们挤到太北，那我们在地球上就没有地方立脚了，成了空军，只有到空中去。空军还得在地上有个机场哩！”彭德怀说：“好！就收拾这个‘磨擦专家’。叫黄克诚他们在西边打，你们在东路打！”。
朱德说：“这回嘛，我和老彭、伯承都不出面，由小平同志来干，到时候好说话。”
3月5日，一二九师和晋察冀军区共13个团的兵力，在晋冀豫边的磁县、林县、武安、涉县地区，向朱怀冰部发起攻击。仅4天，就歼灭朱怀冰两个师及其他地方反共军10000 余人。朱怀冰丢下家眷率残部逃脱。总部派人将其家眷送还。
打朱怀冰的同时，八路军在平汉铁路东击溃了勾结日军的石友三部。以后，八路军截获了石友三与其弟石友信秘密降日的罪证，又连续给石以打击，并将证据送蒋介石和卫立煌。卫立煌下令将石友三密捕处决。
打朱战役前，鹿钟麟囚在河北已难立足，率残部千余人从冀西南撤，到磁县正遇上朱部被歼。鹿一行逃到陵川险道，被八路军发现，报告彭德怀。彭德怀说，国共还要合作，放他去吧，以后好见面。鹿钟麟跑回重庆，冯玉祥责问他：去年（1939 年1月）彭德怀来看我，介绍八路军在敌后的政策，我还要向八路军学习哩！你为什么不好好和八路军合作？鹿以遵照蒋介石的《限制异党活动办法》 来解释。冯玉祥骂道：“我叫你深入敌后，是为和八路军密切合作，发展一些部队，抗战对敌。谁要你管他那些混帐办法！”
打朱战役后，中共中央书记处和中央军委指示朱德、彭德怀：“反磨擦斗争必须注意自卫原则，不应超出自卫范围，……尤其对中央军应注意此点。因国共合作就是同中央军合作” , “目前山西、河北的反磨擦，即需告一段落，不应再行发展”。朱德、彭德怀即停止追歼朱怀冰残部，派代表与卫立煌谈判，达成协议：以临屯公路和长治、平顺、磁县之线为界，以南为中央军驻区，以北为八路军驻区。 《彭德怀自述》 中，谈到这一段历史时说，打朱一役“巩固了太行山根据地，保证了太行山根据地和山东、苏北、皖北、河北平原的联系，这是一个伟大的胜利”, “从此太行山结束了武装磨擦，打退了第一次反共高潮。”国民党反共，搬起石头打了自己的脚，对此，没有大作文章。为团结抗日，八路军也没有声张。彭德怀回忆朱德当时谈到这历史的一幕时说：“他们不作声，我们也不作声。他们打败了不作声，我们胜利了，何必那样来宣传呢！”