1948年下半年，形势急转直下，10月底解放军获得了辽沈战役的胜利，歼灭蒋军约50万人，白此国共双方的军事力量发生了根本变化。11月初，解放军又发动了淮海战役，12月战役接近尾声，蒋的军队败局已定。与此同时，中共中央毛泽东主席发表《关于时局的声明》，提出了和平谈判的8项条件：“（1）惩办战争罪犯；（2）废除伪宪法；（3）废除伪法统；（4）依据民主原则改编一切反动军队；（5）没收官僚资本，（6）改革土地制度；（7）废除卖国条约，（8）召开没有反动分子参加的政治协商会议，成立民主联合政府，接收南京国民党反动政府及其所属各级政府一切权力。”这8条是对蒋介石在政治方面的一个致命打击。国民党不但在军事上、政治上连连失利，经济上、外交上也遭受严重的挫折：物价飞涨，人心恐慌；美国杜鲁门当选总统，表示对蒋介石失去信心，但却表现出对李宗仁有兴趣。蒋介石审时度势，决定退居幕后，让李宗仁出来过渡一下。1949年1月，蒋介石发表元旦文告，透露了准备下野的意向。1月21日上午10时许，蒋介石在官邸召开文武百官紧急会议。会上，蒋介石宣告退位，由李宗仁“继任”总统，当天下午，蒋介石亲自审定的下野文告，由张群转到了李宗仁之手。文告不满500字，李宗仁细读之后，觉得有不妥之处，不但原先的“继任”变成“代行”，而且连蒋介石引退下野的字眼也没有了。李立即把总统府的秘书长吴忠信叫来责问，要求改动。蒋介石毕竟是蒋介石，他不理李宗仁，让吴忠信将这文告刊登各报。李宗仁认为蒋欺人太甚，把吴忠信叫去，声称名不正，言不顺，决不就职。吴忠信见李强硬，便威胁说：“德公，我们是老朋友，我愿以老朋友的资格来劝劝你。你是知道蒋先生的为人的，你应知道你自己现在的处境。南京现在特务横行，你身边的卫士都是蒋先生的人，你还争些什么呢？争得不好，你知道在这种局面下，任何事情皆可发生，你自己的安全，可能都没有保障。”听了这话，李宗仁更是生气。但一时又无法。这件事很快传了出去，众多国大代表和立宪委员也为李宗仁不平。是日深夜，白崇禧从汉口打来长途电话，以十分激动的情绪说：“蒋介石下野文告，我们从广播中听到了。全文没有‘引退’这个词。蒋既不‘引退’，你德公怎么能上台呢？这是值得注意的一个问题，应绘设法补救。”李此时已经晕头转向，也许是知己者的关系，听了白的话，丝毫无顾虑，竟升起无名之火，大声责斥自：“算了吧，你这套我已经听够了，我不要听了。”说完就挂断电话。这件事成了李、白感情破裂的开端。可是事情并非了结，20日一早，司徒雷登的私人顾问傅迳波匆匆拜访李宗仁，他以严肃的口吻对李宗仁说，“司徒雷登大使要我向李先生传达下面的活，蒋介石下野文告中原有的‘引退’字句，后来在一个茶会中，由于有两个CC分子的反对，忽被删去了。这样一来，势必使李先生在将来执行职权时遇到不可克服的困难，对此他愿以私人资格提请李先生特别注意。”至此，李宗仁感到问题严重，有些焦虑不安，于是让张群、吴忠情到杭州同蒋介石商量。结果蒋同意文告恢复原样。20日晚9时，中央社重新播放蒋的下野文告，加入“引退”字眼。
“引退”风波暂息，1月22日，李宗仁发表就任代总统文告。用李自己话说，他是为挽救国民党统治，阻止共产党军队的进攻而上台执政的，因此执政后第一件事就是向共产党发动“和平攻势”，声称要为“和平建国之方针，为民主自由而努力”，表示愿与中国共产党进行和平谈判。饬令行政院长孙科实行七大和平措施。①将各地“剿总”改为“军政长官暑”；②取消全国戒严令，③）裁撤“戡乱建国总队”，④释放政治犯，⑤启封一切在“勘乱”期间因抵触“戡乱”法令而被封闭的报章杂志，⑥）撤销特种刑事法庭，废止特种刑事条例，⑦通令停止特务活动，对人民非依法不能逮捕，又派邵力子、张治中、黄绍弘、彭昭贤为和谈代表人等候共方代表，在双方同意的地点进行和谈。蒋介石不愿李宗仁与共产党谈判，因此为孤立李宗仁，在溪口的蒋介石指示行政院长孙科采取不合作态度，于是出现了孙科内阁悄然离京赴沪的惊人一幕。内阁全体离开首都，只留总统一人，李感到非常难堪。但也无可奈何，为了挽回僵局，李宗仁于2月1日上午坐专机赴沪。下午3时许，在外滩中国银行四楼召集行政院内阁成员会谈，讲了些团结负重、共支危局的勉励话。孙科等不但不听李的劝告，在蒋的怂恿支持下，在李宗仁离沪后，于2月4日将内阁迁往广州，总统劝内阁的驾，这已属怪事，但更奇怪的是，内阁不但不听劝，反而更远走高飞，使政府处于一个四分五裂的局面，李宗仁立刻陷身于困境。这还不算，2月9日，国民党国防部政工局局长邓文仪发表了“不惜牺牲一切，与共党周旋到底”的谈话；13日，因民党中央宣传部发出《特别宣传指示》，表示“与其无条件投降，不如作战到底”；19日，蒋介石公开指责李宗仁“以毛泽东8项条件为和谈基础，直等于投降”。蒋介石的一系列动作，使李宗仁处于战不得，和不成的境地。
李宗仁原以为，蒋介石下台后，可平息国内舆论；争取依靠美国的支持，与共产党平分天下，以长江为界，隔江而治，如今蒋引退后仍控制着政局。这样，李宗仁只有“背水一战。了。为了加强自身的政治地位，李一改对蒋的软弱姿态，采取各种办法，逼蒋出国。他请求美国协助他阻止蒋介石：“干涉政府和军队的事务”，把“一切权力和国家资财”移交给他，亲自致函蒋介石，指出蒋如不停止幕后活动，他将“决心引退，以谢国人”，给蒋施加压力；他派吴铁城、张治中联袂赴溪口劝蒋出洋。对来自各方面的压力，蒋采取了无动于衷的态度。与此同时，李宗仁还利用立法院、监察院对他的支持，并拉拢张发奎、余汉谋、薛岳、陈济棠等广东实力派向孙科施加压力。孙没有蒋的表态，对各方的劝说来取不予理睬的态度。2月14日，李宗仁电令内阁回京，孙竟称病不起。孙科的所作所为引起了广东实力派人物的恼怒，要求罢免他，改组行政院。全国各主要报刊也大造舆论，要求行政院返京办公。蒋看到形势的发展对他不利，邀阎锡山赴溪口一谈，想让阎锡山从中斡旋，缓和一下蒋李的关系。李宗仁对蒋介石的这一招是很熟悉的，于是他乘着舆论对自己有利，于2月20日坐飞机赴粤，向孙科伸出合作之手。这是蒋和孙事先所预料不及的。这样，孙科不得不在众目睽睽之下，表示同意将行政院迁回南京办公。李宗仁离广州的第三天，2月28日，孙科带着内阁大员回到南京，蒋介石企图把内阁一直留在广州的企图未能实现。
孙科回到南京后不久，立法院要在3月8日的院会中，让孙科答复擅自将行政院迁往广州的行为，孙见情况不妙，向李宗仁提出辞职，孙辞职后，李宗仁邀请何应钦组阁，何组阁后，李宗仁立即抓紧与中共的“和平谈判”事宜，重新派出了以张治中为首的6人谈判团，于4月1日赴北平重开谈判。对于谈判，李宗仁抱定宗旨：共产党军队不得过江，停止一切战斗，各守原防。他的隔江而治的思想，与共产党“无论和战，人民解放军都要渡江”的要求相距甚远，因此谈判最终破裂。1949年4月20日深夜，中共中央发出向全国进军的命令，人民解放军百万大军强渡长江。