正当李宗仁的健康不断恢复的同时，1950年1月间，李宗仁接到国内报告，大陆已解放，蒋介石逃往台湾。
李宗仁虽然估计到国民党最终的失败和共产党的胜利，但他心里是不愿意承认这个事实的。因此，当他得到大陆解放的消息，思绪万千，为了复兴国民党，重振旗鼓，很想去台湾再干一番，以“作恢复大陆的准备”。只是不久，蒋介石在台湾自行“复正大位”的消息，使他心灰意冷，未能如愿。因为他知道，一旦自己回到台湾，便会失去人身自由，成为张学良第二。但作为国民党的拥护者，他又不甘寂寞，在美施展外交活动，企图借美国政府的力量，给蒋施加压力，以蒋介石是否离台作为援助台湾的条件。不料美国国内政界掀起了“谁丢失中国”的争论，李宗仁的“如意算盘”，又成了泡影。
李宗仁在美国的活动，使蒋介石忍无可忍。1954年1月9日，在蒋的安排下，台湾当局监察院提出“弹劾李代总统案”，通过立法院交到“国民大会秘书长”洪友兰手里，转请“国民大会”处理。13日，洪友兰电促李宗仁回台，对弹劾案作出答辩。李致电台湾当局，指出弹劾案的提出和通过是非法的。2月5日，李宗仁又致函蒋介石，批判他“毁法弄权”。对于李的责难，蒋介石装聋作哑，不予理睬。3月10日，在蒋的指使下，台北召开了所谓“第一届国民大会第二次会议第六次大会”，对监察院提出的“弹劾副总统李宗仁违法失职案”举行投票表决，罢免了李宗仁的“副总统”。至此，李宗仁已感到自己在政治上没有希望，打消了返台“执政”念头，决定留在美国长期居住。
在美国纽约城郊，李宗仁一住就是10年。因不谙英语，平时他很少与当地的居民往还，日常只是以阅读些书报杂志来消磨时间。闲极无聊之余，在妻子郭德洁女士的劝说下，开始对自己所经历的政治、军事生活，进行了系统的回忆，并在美国哥伦比亚大学校长克尔克博士的要求下，在唐德刚博士的协助下，完成了《李宗仁回忆录》一书，受到了中外史学工作者的关注。然而就在他撰写回忆录的几度春秋里，新中国在共产党的领导下，发生了惊天动地的变化，各行各业呈现出蒸蒸日上的新气象，国际地位也有了明显的提高。作为一个炎黄子孙的李宗仁，看到这一变化，反省国民党统治时期国力纤弱，民不聊生的状况，感到高兴和自豪。1954年4月18日，中华人民共和国总理周恩来，在万隆会议上发表了“台湾是中国的领土，中国人民解放台湾是中国内政问题”的声明，李宗仁感奋异常，认为“声明”为解决台湾问题指明了正确途径。1955年，经过认真思考后，李宗仁发表了“建议书”，针对当时的政治形势，提出了《对台湾问题的具体建议》；对新中国成立后取得的成就赞不绝口，指出这是中国从贫穷落后走向繁荣富强的历史转折点；对蒋介石作了严厉的批判，指出他的所作所为与三民主义背道而驰，呼吁以和平解决台湾问题。李宗仁的“建议书”发表后，引起了各方面强烈的反应，它不啻是对企图搞“台湾独立”、“台湾托管”人的有力打击，同时也表明了李宗仁政治立场的一个重大转变，标志着他从反共的国民党营垒里分化出来，开始走上了爱国的道路。但是，李宗仁的这份“建议书”，却遭到了“亲蒋”派的大肆攻击，纷纷指责他的主张荒谬绝伦，狂妄之极。李宗仁这名曾是国民党统治集团的一品大官，对国民党政府的腐败、荒唐是有过亲身体验的，他坚持自己的主张没有错，因此对来自各方面的责骂和攻击，置之不理，正如他自己在回忆录中所说的，“渐渐的感到自己有责任为中华民族贡献自己力所能及的力量”。岁月的流逝，使他越来越密切注视着新中国的社会主义事业的发展。