仅次于台湾的中国第二大岛——海南岛的解放，给台湾当局带来了巨大的冲击。为了安定人心，国民党的宣传机构竟把这一惨败说成是“从海南岛向台湾转移兵力顺利完成”。但明眼的人都清楚，对战略和经济利益都仅次于台湾的这个大岛若能守得住，何用“转移”？不过翻一翻国民党几十年的报纸就可知道，所谓“转移”从来不过是败逃的代名词。
然而，人民解放军并没有就此罢休。早在第四野战军积极准备攻击海南岛的同时，第三野战军就在积极准备渡海攻击舟山群岛。中央军委和第三野战军还计划在舟山作战成功后，再乘胜以船队南下攻占金门（舟山位于北航线要冲，不攻下舟山北方的船队难以南下）。
大陆失败后，对蒋军来说，舟山群岛的战略地位就显得更为重要。自1949年年底，蒋介石将在金门的第19军和台湾守军中战斗力最强的一个军——第52军（这是第一批进入东北，在辽沈战役中唯一逃出来的一个军）调去增援舟山。至此，舟山群岛上的国民党军已达6个军，连同海空军共12万人，部署的军队数量超过了海南岛。
从1949年年末起，国民党空军根据蒋介石提出的“攻势防御”的要求，加紧了对大陆城市特别是港口和船只的轰炸。由台湾起飞的作战飞机到舟山的定海机场加油后，其航程可达到华东乃至武汉一带的各要地。国民党空军利用定海机场作为基地，在1950年1月和2月间对我国最大的工业城市上海轰炸8次，同时又对华东沿海、长江下游各港口连续进行轰炸，以破坏大陆的国民经济恢复，并阻挠人民解放军向华东沿海集结船只。2月6日的“二六大轰炸”中，国民党空军出动17架飞机分四批轮番轰炸上海市区的电力公司、沪南和阐北水电公司，一次就炸死炸伤上海市民1400人，使上海电力丧失90％，多数工厂停产。国民党海军还利用舟山基地封锁长江口，运送武装特务袭扰江浙沿海地区。因此，攻占舟山，拔去定海基地这根钉子，已成为华东军区最重要的任务。
根据金门、登步岛失利的经验教训，人民解放军对舟山作战采取了十分谨慎的态度。接到毛泽东1949年11月14日致三野的关于准备未周宁可推迟时间的指示后，第三野战军决定将对舟山的攻击推迟到来年的1月或2月。
11月22日华东野战军副司令员粟裕给中央军委回电，分析蒋介石有可能因金门、登步两战斗受到鼓励，将台湾兵力增强舟山、金门诸岛。这样，虽然增加了我们攻占舟山、金门诸岛的困难，但如能在这些岛上尽歼蒋军，则对将来攻台行动在政治上军事上均属有利。因此，粟裕要求延长攻击舟山的准备时间。12月上旬，中央军委、毛泽东同意粟裕的意见，并强调进一步研究海空军配合的问题，同时还决定从新建的海空军中抽调部分部队配合陆军作战。于是，攻击舟山的准备工作改由陆、海、空三军一起进行。
5月1日，四野部队解放了海南岛的消息传来，使准备渡海的部队十分振奋，而台湾和舟山的国民党军万分惊恐。这时，国民党军已经了解到人民解放军将以陆海空三军发起舟山群岛的攻击，其打击力量势必大大超过海南岛作战，而国民党军仅剩的陆军部队有三分之一在舟山，如再遭惨重损失守卫台湾就更困难。5月上旬，蒋介石决定从舟山撤退，并在撤退前佯称“反攻”。5月13日撤退秘密开始，守岛的国民党军12万人分批登船，同时把岛上2万多名青年男女强行拉上船运往台湾，并炸毁了岛上的重要设施，连花费了4000万银元修筑的定海机场也在一阵阵爆破的巨响中被彻底破坏。
早在1949年5月下旬，毛泽东就责成华东野战军副司令员粟裕组织三野部队进行攻台准备，因当时上海战役刚刚结束，华东许多地区还未解放，已占地区又需要分兵剿匪，所以只能抽出野战军主力第9兵团的4个军部队进行攻台的训练，并兼任上海地区警备。
金门和登步失利后，华东野战军首长对渡海作战艰巨性的认识不断提高，台湾战役的计划也一再被修改。
1949年秋天制定的台湾战役计划是投入8个军的兵力，其中以第9兵团的4个军（第20、第23、第26、第27军）为第一梯队。1949年末华东野战军首长经研究决定增加投入战役的兵力，三野部队除担任剿匪和地方警备任务外，主力12个军全部参加攻台。中央军委马上同意了这一意见。当时，因为美国公开表现出和台湾国民党当局拉开距离的政策，所以一般估计攻台时美军不会介入。粟裕副司令员在《华东军区一九五○年政治工作指示》中曾解释说：直接参战在政策上、军事上都是对美帝不利的，所以美帝只能间接参战，如动员日本的“志愿兵”去帮助蒋匪。
基于这种估计，华东野战军在研究台湾战役的计划时，曾设想了同日本援蒋军人作战的可能性，并有信心消灭这些“志愿兵”。根据当时的国际国内形势，中央军委认为应在尽可能短的时间内完成台湾战役的准备，早日完成解放全中国的任务，以实现祖国统一。
为争取尽可能先在沿海岛屿歼灭国民党军主力，人民解放军在准备对舟山、海南岛和金门实施攻击时，都强调要集中优势兵力，确保登陆后能够有把握打歼灭战。经中央军委同意，在第四野战军攻击海南岛的同时，华东野战军决定调集第7、第9兵团共6个军（第20、第21、第22、第23、第26、第27军）20万人发起舟山战役；并调第24，第25、第32军入闽，接替第10兵团（辖第28、第29、第31军）的剿匪及修筑道路、机场等任务，以腾出该兵团用以攻占金门。华东野战军还准备将对舟山、金门的攻击作为攻台的实战演习。
为了更细致地筹划台湾战役的具体事宜，1950年3月11日新任海军司令员的肖劲光同粟裕会商了攻台的准备工作。中央军委同意华野领导和海军会商的意见，设想投入50万部队用于渡海攻台，分两次运送。
当时作出这一设想，是对东南沿海国共双方军事力量进行对比分析后作出的估算。国民党陆海空军总共还有50多万军队，其中在舟山、金门和海南岛的部队随时又有撤回台湾集中力量防御的可能，再加上少量日本“志愿”
人员的协助，还有一定的战斗力。解放军进行的又是背水的登陆作战，按照一般的登陆作战规律，第一批登陆部队要有能突破防线并向纵深发展的充裕力量，而最忌“添油”式的逐次增兵。所以预定第一梯队要有足够的兵力，再待第二梯队上岸，总兵至少应和台湾守军大致相当。当时人民解放军各部队的战斗力明显高于同等数量的国民党军，有50万部队登陆就可以确保在短期内不间断地发展胜利，以占领全岛。根据这一设想，华东野战军准备在舟山战役结束后，以第7、第9兵团担任攻台的第一梯队，第10兵团和入闽的另外3个军担任第二梯队。这样，华东野战军的12个军部队连同后勤支援人员，投入台湾战役的总兵力将达50万人。在大陆内地，第四野战军以第13兵团（辖第38、第39、第40军）担任全军的战略预备队，西北野战军抽出第19兵团（原华北第2兵团，辖第63、第64、第65军），作为中央军委可以随时调动的机动力量。
当时，要实现这一登陆作战的设想，最大的困难来自两个方面：一是缺乏渡海船只，二是海空军掩护问题还有待解决。
解决渡海船只问题，在建国初期的条件下是一大难题。要运送50万部队渡海，连同装备、粮弹、饮水、燃料、马匹、车辆等，所需船只甚多。根据金门作战的经验，第二梯队不能依赖第一梯队的船只返航接运，而必须自备船只。因此，中央军委估计需筹集几十万吨位的船只。台湾海峡海宽浪大，渔民的小帆船难以航渡，需用轮船或较大的机帆船。近代中国海运一直不发达，沿海地区机器动力的船只很少，国民党军从大陆撤退时又将大多数轮船带走或加以破坏，所以要靠从沿海现有的船只中筹集几十万吨位的机动船是办不到的。
解决海空掩护问题，也是保证渡海攻台成功所必不可少的前提，而人民解放军当时确实不具备这种条件。台湾距大陆最近距离也在80海里以上，平均距离则有100多海里，解放军对金门、海南岛发起进攻时，航渡距离只有5—15海里，以帆船航行几小时即可到达，完全可以在一夜间起航并完成登陆，从而能大大减少国民党空军的攻击和海军拦截的威胁，向台湾航渡则完全不具备这种夜航登陆的条件。解放军当时拥有的舰船时速大多只有七、八海里，向台湾航渡需要一天一夜时间，庞大的船队一旦没有夜幕遮蔽，在完全暴露的海面上必然会遭到国民党海空军的全力拦截攻击，没有海空军掩护的船队将会遭到极惨重的损失，根本不可能达成登陆成功的目的。因此有了渡海的船只后，还必须建成一支能够较敌方具有优势的海空军，才能保证台湾战役这种规模的渡海作战的胜利。
中央军委在筹划台湾战役时，鉴于上述的这两个主要困难，决定在不影响恢复国民经济的前提下，筹集财力物力修造船只，并尽快建设海空军。但是在当时中国工业基础极为薄弱、技术设备极其落后的条件下，筹集修造大量船只和建设海空军都非短期所能完成。
沿海地区解放后，人民海军征集到可用的商船、渔船仅有169艘，总吨位6.48万吨。解放初期我国沿海的造船工业一般只能制造内河小船，修船能力也十分有限。当时国民党空军又以沿海的造船厂和较大的船只为主要轰炸目标，如1950年1月25日对江南造船厂一次轰炸，就炸毁炸伤“常州”号、“万寿花”号等26艘舰船，严重影响了修造船的进度。鉴于这种情况，中共中央在加强对港口上空防护的同时，要求沿海地区各造船厂抓紧修复被破坏的轮船，并大量赶造投资少、工期短并有一定抗风浪能力的机帆船。此外，中共中央利用英国已承认新中国，想建立关系的有利条件，在香港购买到旧船48艘，总吨位2.54万吨，并向英商继续洽商购买。不过即便如此，至少还需要相当一段时间才能达到筹集几十万吨位船只的数量要求。
1950年6月6日至9日，中共中央在北京召开了七届三中全会。会上，华东军区副司令员粟裕汇报了解放台湾的各项准备工作。粟裕请求由中央军委直接组织指挥台湾战役，毛泽东则决定这一战役仍由粟裕指挥。中央军委、毛泽东作出这一决定，是由于粟裕在解放战争的多数时间里实际担负了华东战场的主要指挥责任，1948年陈毅调任中原军区第一副司令员后粟裕还担任了华东野战军代司令员，在华东解放战争中显示出高超的指挥才能。台湾战役由粟裕担任指挥员，在当时是最合适的人选。
解放军大军压岛，台湾国民党当局一片恐慌。自海南岛被攻占、舟山撤守后，许多人预感到下一个目标就是台湾。当时相当数量的“党国要员”对守台湾根本丧失了希望，而争相逃往海外。蒋介石在大陆的两个最有力的经济支柱都远飞而去——孔祥熙去南美洲经营橡胶园，宋子文去美国当了寓公。
在国民党内位居第二的李宗仁更是在美国称病不归。蒋介石嫡系的军事将领也有相当大的一部分自奔海外或寓居香港，其中特别有趣的是原徐州“剿总”司令官刘峙竟不顾自己的上将之尊，跑到印度尼西亚当了一个华侨中学的教员。
1950年5月初的一天，在台湾高雄市凯歌归饭店，老板李次白接待了三位不速之客，他们都是“国防部政治部”主任蒋经国的心腹，为首的是蒋经国属下的厅长胡伟克。他一见面就给李次白讲起了形势：“实不相瞒，目前党国的处境非常困难，而美国杜鲁门总统乘人之危，说什么‘不予蒋保护’，任其自生自灭。
美国人要看蒋总统的笑话。目前我们如在火山之巅。经国主任既被倚为长城，当然更加深感不安。“另二位分别是陆军司令部和战车司令部的政治部主任，与李次白都是黄埔老同学，向他亮了底：”李兄，令妹是陈毅的大嫂子，这就是你和共产党对话的资本。李兄如能出山，到大陆去走一趟，就等于救了我们的性命。不，应该说是整个党国的命运。”
接下去，身为二级上将的蒋经国召见了李次白，对他说：“现在谈国共合作，我看希望不大，共产党席卷大陆，踌躇满志，幸金门一仗，全歼抢滩登陆的共军，显出国军的潜在威力，尚不容小看。你和陈毅是至亲，可以深谈，最低限度，希望不进攻台湾”。令李次白不满意的是，蒋经国竟推托说：“这次请你出马，并非我的意思，而是胡伟克他们三位的设计，以后诸事均直接与胡联系”。
既已受命，就不能不去。这使李次白叫苦不迭。李次白黄埔六期毕业，本来也有飞黄腾达之望，但因为妹夫是留法共产党员，自己也被认为是共产党员，可怕的株连，使他整个上半生处于颠沛流离的厄命之中。1946年下半年，李次白去台湾高雄开设凯歌归饭店，从此不穿戎装，只指望后半生能安身立命。现在突然被蒋经国选中“出使”大陆，李次白非常清楚，自己又将被卷入政治之中。自己虽有一点利用价值，但能不能如愿以偿，也不好说。
不过也好，乘机到大陆看看虚实，能不能安身栖命。
6月1日，李次白由台湾乘船，假道香港到了上海。首先见到了上海市长陈毅的兄长孟熙，他是起义将领。两人都是军人出身，有话直说，李次白开门见山说明来意：奉蒋经国之命，试探国共再次合作的可能性。孟熙觉得事关民族统一大业，应该同陈毅推心置腹地谈一谈。
过了两天，孟熙陪同李次白一同来到陈毅家里，陈毅亲自搬椅子，拿香烟、水果热情地招待。话归正题后，孟熙说：“次白这次来，是有任务的”。
陈毅心中一怔：“什么任务？”
李次白言明：“台湾要我给你谈国共合作的事，共走美国民主的道路，最低限度要求不进攻台湾。”并希望将此意转给中央。
课题提出来了，陈毅颇感意外。他对党内情况最了解，这是最敏感的问题，他对台湾海峡的形势也最了解，这时谈国共合作，时机尚不适宜。陈毅斩钉截铁地说：“这话现在先不提，现在提为时尚早，以后会有机会哩！”
陈毅又为二人谈了海峡两岸的形势，他最后说：“孟熙兄和次白需立即进革命大学学习，明天就去，你们的亲友们都去，你们把名单开来，我明天就告诉市委统战部。哦，我还要欢迎次白的回来，请他吃饭。至于台湾，让它烂下去！”
李次白随即发信到香港，转致胡伟克，根据陈毅“让它烂下去”那句话复命，说明“要求不进攻台湾”的使命已完成。