毛泽东和周恩来命令新四军东进北上。
李先念于1938年11月受中共中央委派，带领几十名干部，来到河南和湖北的边界，领导和发展敌后游击战争。临行前，毛泽东对李先念说：“你们到豫鄂边的任务，第一是武装，第二是武装，第三是武装。”
第二年初，李先念一行到达河南省确山县的竹沟，和这里的新四军第八团留守处两个中队，组成新四军独立游击大队，兵员共一百六十多人。李先念率领部队离开竹沟，向敌后挺进。他们以四望山为立足点，在信阳和罗山地区作战。
2月，独立游击大队到达应山的罗家庙，得知一百多名日伪军正向这里进犯。当地有国民党军队的一个营，对付这些日伪军照理是不成问题的，但他们却不战而退。新四军迎敌而上，奋勇抗击，击毙二十多名日伪军。初战告捷，民众深受鼓舞，部队迅速发展。
新四军对日作战，使日军和国民党顽固派受到极大震动，日伪军对新四军频繁“扫荡”。从全局看，新四军所处的战略态势仍然不利。
日军占领武汉以后，把七个师团和一个独立混成旅团部署在长江中游地区，武汉和南昌周围的一些主要城市，相继被日军占领。新四军主力在南面受到日军的威胁，在长江下游也有日军的四个师团和三个独立混成旅团虎视眈眈。
苏北敌后，国民党军队鲁苏战区副总司令韩德勤指挥的约十万人，消极抗日，积极反共，排斥和迫害江苏北部的抗日力量。第三战区司令长官部也驻扎在新四军军部的南面。新四军主力的左右两侧，还有许多国民党军队。新四军的活动区域，实际上被限制在东起芜湖和宣城、西至青阳和大通之间的地域，横宽约一百公里，纵深约五十公里。
新四军处在这种战略态势下，一旦战争风云突变，几乎没有回旋余地。确定新四军发展的方向，已经刻不容缓。但是，项英在新四军发展问题上缩手缩脚，对叶挺的工作又不很尊重。这些问题，都需要及时解决。
2月中旬，周恩来离开重庆，前往新四军军部，叶挺和他同行。中共中央委托周恩来前去解决这些问题。23日，他们到达新四军军部驻地安徽泾县云岭。陈毅和粟裕得知消息，从苏南赶来。周恩来广泛听取意见，周密调查研究，听取新四军负责人汇报。随后，他为新四军确定了方针，就是“向北发展，向东作战，巩固现在的阵地”。他还提出在敌后发展的三个原则：哪个地方空虚，就向哪个地方发展；哪个地方危险，就到哪个地方去创造新的活动地区；哪个地方只有日伪军，友党友军较不注意，没有去活动，我们就向哪里发展。
周恩来在小范围内批评了项英，多次找他谈话，使他和叶挺的矛盾有所缓和。周恩来对他说：“叶挺是个好同志，很有军事才能，这样的将领不去团结，还要团结谁呢？”项英作了自我批评。
通过周恩来的工作，新四军指挥员们认识到：东进北上，是维系新四军发展的重大方略。
陈毅开始筹划分兵发展。茅山周围存在许多小股的地方武装，司令多如牛毛，少则几十人，多则几百人，头头都称为一方司令。陈毅认为，新四军向东面和北面分兵发展，做好这些地方武装的工作，有利于新四军的发展壮大。
陈毅和粟裕迅速部署部队的东进北上。4月份，他们指挥的新四军部队，已经由四千多人发展到一万四千多人。部队的发展壮大，为贯彻东进北上的方针奠定了基矗
5月3日，叶挺到达长江以北新四军第四支队驻地，组建新四军江北指挥部。5日，新四军江北指挥部在安徽省庐江县东汤池正式成立，张云逸任指挥，徐海东任副指挥，赖传珠任参谋长，邓子恢任政治部主任。下辖徐海东兼司令员的第四支队，罗炳辉任司令员的第五支队，以及江北游击纵队。
但是，日伪军采用跟踪“扫荡”的办法来打击新四军，国民党顽固派也以种种理由限制新四军发展。顾祝同曾经强令新四军第一支队和第二支队在高淳和水阳之间十五公里的水网地带组织防御，企图要新四军同武器装备占优势的日军打阵地战。陈毅出面和顾祝同交涉，他才收回成命。但是，他不准新四军向金坛地区和溧水到武进的公路以南活动。
新四军东进北上的意图被日军察觉，他们调集兵力，对安徽南部进行频繁“扫荡”。当时，新四军军部只有第三支队和第一支队第一团以及第二支队的第三团，形势十分严峻。但是，他们以有限的兵力击退了敌军。
5月14日，一千二百多名日伪军向繁昌出动。新四军第三支队派出一支部队袭扰敌军，主力在城西汤口地区埋伏。当天，日伪军进入伏击圈，新四军战士突然发动猛攻，同敌军展开白刃格斗，激战一整天，歼灭三百多名敌军。
七天后，两千多名日伪军又分五路猛攻繁昌，谭震林指挥第三支队在大量杀伤敌军后，撤离县城，控制城厢及制高点，袭扰城内的敌军。23日早晨，日伪军被迫撤退。这次战斗，又歼灭四百五十多名敌军，收复了繁昌。
陈毅和粟裕在5月下旬决定先分兵向东作战，要第六团打过宁沪铁路，用“江抗二路”的番号去抗击日军，同时再组建一个新六团。这个计划得到了新四军军部的批准。