日本军队的大举进攻上海，使抗日战争的形势发生了重大变化。它直接威胁到国民党统治集团的心脏地区和英、美等国的在华利益，使蒋介石感到不得不进行全国性的抵抗，否则自身的统治也难以保持，于是，在国共谈判中表现出较多的合作愿望。周恩来后来回忆：“我同叶剑英参谋长到南京，开始蒋介石还没有决定给八路军以名义，但是到上海打响了，他（指蒋介石）从庐山跑回来，觉得这是全面战争了，才发表了八路军的番号，紧跟着又发表了18集团军的番号，要我们的军队去打仗。”根据中共中央的指示精神，周恩来等同国民党经过反复谈判，终于达成协议：朱德、彭德怀为八路军正、副总指挥；主力红军充任战略游击队，执行侧面战、协助友军、扰乱与钳制日军大部并消灭一部的作战任务。8月22日，洛川会议的前一天，蒋介石正式任命朱德、彭德怀为国民革命军第八路军总指挥、副总指挥。25日，毛泽东、朱德、周恩来以中共中央军委主席和副主席的名义发布命令，宣布红军改名为国民革命军第八路军（9月改称第18集团军），朱德任总指挥，彭德怀任副总指挥，任弼时为政治部主任，邓小平为副主任，叶剑英为参谋长，左权为副参谋长。第八路军下辖3个师：第115师，第120师，第129师。命令指出各师改编为国民革命军后，必须加强党的领导，保持和发扬十年斗争的光荣传统，坚决执行党中央与军委会的命令，为党的路线及政策而斗争。
为了在组织上确保中国共产党对八路军的绝对领导，8月29日，中共中央军委决定，成立前方军分会（后称华北军分会），以朱德、彭德怀、任弼时等9人组成。朱德为书记，彭德怀为副书记。10月10日，中共中央军委又决定，成立军委总政治部，毛泽东代理主任。
这时，红军主力师已改编完毕，从9月2日起，陆续从山西开赴华北前线。同日本军队作战，对八路军来说，是一次新的严峻考验。红军虽然已有十年内战的经验，但从来没有同具有现代军事装备的帝国主义国家军队交过手。八路军的作战方针虽已在洛川会议上确定下来，但还需要在实战中充实、检验和完善。八路军出动到华北作战的情况如何，不仅关系到自身的生存和发展，而且关系到抗日战争能否取得胜利。当务之急是红军从何地投入抗日前线。
取道山西开赴抗日前线，是毛泽东在八月中旬已经确定下来的。为什么先开入山西？毛泽东有几方面的考虑：第一，山西是八路军开赴前线最便捷的地方，又是居高临下地俯瞰河北平原的地方，可以有力地牵制华北日军的行进。凭借山西宽阔、险峻而复杂的地形，不仅有利于阻滞日军机械化部队的前进，而且有利于八路军开展山地游击战，消灭敌人。正如任弼时所说：“山西方面地形交通限制了敌人的长处，恰又补足我们的短处，便利于我们的防守，持久斗争与打击敌人。”第二，山西是地方实力派首领阎锡山的统治地区。他同日本侵略者和蒋介石之间既有联系，又有错综复杂的矛盾。日本侵略军攻陷平津后向山西大举进攻，严重威胁了他在山西的统治地位。蒋介石的军队开入山西，又使他深恐自己的地盘将落入他人之手。因此，他作出一些开明的姿态，想拉中国共产党和八路军做他的暂时同盟者。
早在1936年底，中共党员薄一波等经北方局同意同阎锡山建立了联系。七.七事变后，阎锡山又答应毛泽东向他提出的建立公开的八路军驻晋办事处的要求，并且同意八路军经山西开赴前线。第三，当时国民党企图将八路军“分割”使用，规定八路军以两个师由渭南上车经风陵渡、同蒲路到代县附近下车，开往蔚县一带集中。另外一个师沿陇海铁路转平汉铁路到河北徐水下车，开往冀东玉田、遵化一带开展游击战争。毛泽东敏锐地察觉：这样做，是“分路出动，使不集中，强使听命”，“包含着极大阴谋，决不能认为有利，坚决不能同意”。因此，他提出“红军为安全计，为荫蔽计，为满足晋绥渴望计，决走韩城渡河，在侯马上车到大同集中，再转至怀来、蔚县，决不走平汉路”，把八路军3个师都放在山西，以便于统一领导，相互策应，避免因力量分散而遭遇不测。