革命道路艰难曲折，革命斗争屡遭失败，尤其是陈炯明背叛革命，使自己苦心创建的根据地、军队得而复失，对心力交瘁的孙中山是莫大的打击，使他闭门沉思，陷入了苦闷……
在此困难时刻，他得到了共产党人和共产国际的帮助。“山穷水尽疑无路，柳暗花明又一村。”
孙中山从广东被迫退到上海，他一面继续部署讨伐叛军陈炯明的战斗，一面深刻反思自己这几年来为什么总是走弯路的教训。他觉得，自己这么多年来，对待自己的同志不可为不诚，对革命事业的成功不可为不努力，而对如何去建设新的政权、统一中国更是呕心沥血，费尽了心机，为什么总是不见成效，反而往往是功败垂成呢？这使得孙中山十分苦恼。特别是自己一向最为推重的陈炯明却带头起来反对革命，破坏革命，差点儿就在陈炯明的手里葬送了革命的前程，这是自己有生以来失败中最大、最惨痛的一次！他感觉到，自己首创的这个党，是不是哪里出了什么问题？
当孙中山住在莫利爱路的公寓里反复推究着自己错误的根源时，当时上海的许多名流都来拜见他，正在家中度暑假的北京大学教授张西曼，特地赶到上海来见孙中山。张西曼早在1919年的时候与孙中山就有了相当深的交往，这次来到上海，他再次向孙中山表示：“我张西曼是竭诚拥护孙大总统的，对孙大总统的英明领导，我竭诚支持。”张西曼还对孙中山建议说：“国民革命为什么成功十几年了，仍然没能达到统一中国的大目的？其原因就出在我们这个党的内部，现在从事革命，一定要纠正那些不肖党人为了争权夺利而不惜牺牲民族利益的卑污心理，要健全党的领导组织，巩固民众基础和团结一切革命的力量……”
张西曼的一席建议，使孙中山的心胸豁然开朗，对孙中山确定联俄联共的政策起了积极的推动作用，孙中山下定了决心，要真正实施自己已经酝酿了很长时间的联合苏俄和中国共产党的基本主张。
当孙中山还在白鹅潭坚持指挥讨伐叛军的时候，中国共产党人已在7月份召开的第二次全国代表大会上作出了（关于民主联合战线的决议案》，提出了和国民党以及其他一切革命团体团结起来，建立联合的民主主义革命战线，和帝国主义、反动军阀作斗争。8月份，共产党中央又在杭州的西湖召开了一次特别会议，就如何与国民党联合的问题作出了新的决议，并特派李大钊和林祖涵（即林伯渠）专程赴上海会见孙中山，公开中国共产党的主张。
8月23日，李大钊和林祖涵来到上海孙中山的公寓，求见孙中山。孙中山一看到李大钊，就为李大钊的不凡气度所吸引，宾主见面后也没有什么客套话，立即走上了正题。孙中山说：“我早就仰慕李先生的风采了，今日一见果然名不虚传，李先生在今天这样的日子来见我，一定要在国家大事方面多多赐教。”
李大钊也很坦率地说：“我们共产党人认为，在中国目前的现状下，中国国民党是比较革命的民主的政党，这是我党从对中国革命的现状进行了充分的调查研究后得出的。但是，就在中国国民党的内部，也有着完全不同主张的两个派别，一派是像孙先生这样的坚定地把民主革命进行到底的革命派，一派是对外亲近帝国主义，对内亲近北洋军阀的。还有很多人往往在这两者之间动摇不定，因而影响了国民党的政策的制定和贯彻执行。”孙中山听了不住地点头，表示赞许。
李大钊接下去又说道：“从我党的眼光来看，贵党的内部正在发生变化和瓦解，人群正在划分为不同的阵营，在国民党领导辛亥革命时，贵党是蓬勃向上的，是一个正处在发展时期的革命的政党；辛亥革命以后，一大批官僚和政客混进了国民党内部，带动了原来的党员队伍发生变化，许多人人党的动机只是为了当官发财，党的组织纪律开始涣散而不可收拾，一些早年追随孙先生的国民党的元老们很多人失去了原先的革命精神，而有的人却野心极度膨胀之后而一发不可收，不惜冒天下之大不违，走上了背叛革命的道路。像陈炯明就是这样一个典型的人物。当孙先生您被困在“永丰”舰上亟待革命力量支援的时候，而贵党的一批革命元老像李石曾等人却又甘心附逆，与叛军陈炯明一唱一和，通电要求您下野，这些人的举动是受什么动机在支使？这些都是您不得不多加考虑的……”
孙中山对李大钊的话深深地表示赞许，孙中山说：“李先生看问题果然有独到之处，李先生所说的这些问题正是我来上海之后每天都在考虑的问题，只是暂时还没有想出救治的好办法来，请李先生不妨多指教。”
李大钊说：“当前要根治国民党自身的这种疾病，惟一的办法就是正视它，首先要敢于承认它，而不是去回避它。在我和我们的党组织看来，贵党如不及早地加以改造，就很难完成孙先生为贵党所描绘的革命蓝图。相反，在内部各种腐败因素不断增加的情况下，必将导致贵党的全面覆亡！”
李大钊的话，让孙中山感到十分震惊，他没有想到，自己的政党已经走上了这样一条危险的道路，从情感上来说，他实在不愿意接受李大钊所说的话，但理智又告诉他，中国共产党人确实看到了问题的深处，李大钊所说的话半点都没有危言耸听的意思。
李大钊顿了顿再说道：“今天，摆在我们面前的革命任务已经发生了变化，过去您领导的民主革命是要推翻满清皇帝的统治。而今天我们必须担负起反帝反封建的革命任务，要完成这样的革命任务，不是目前您所领导的国民党的现状能够完成的，必须给革命队伍中增添新鲜血液……”
孙中山对新鲜血液这一词很感兴趣，便问道：“什么是‘新鲜血液’？”
李大钊答道：“所谓‘新鲜血液’就是指一种完全不同于现在人员状况的一种力量，从贵党的组成来说，当前的新鲜血液就是指新兴的无产阶级的力量。中国共产党成立不久，中国共产党主要是无产阶级先进分子参加的，国民党应该联合中国共产党，共同担负起反帝反封建的光荣使命来厂
联合共产党，这一想法孙中山去年在桂林时就听共产国际的马林先生说过，当时，孙中山由于对共产党还不甚了解，对共产主义也不感兴趣，所以对联合共产党这一主张就没怎么往心上放，现在，在这样的场合，由李大钊这样的人说出来，分量就不一样了。孙中山的脑海里在迅速地翻腾着波涛：俄国人早就提出了这样的建议，可惜的是没能早点考虑这个问题。从今天来和自己交谈的李大钊身上，孙中山感受到了中国共产党人的巨大的影响力，他发现，有无数人才集中在中国共产党的队伍中，就凭着有像李大钊这样的人才，中国共产党就是值得信赖的，共产党的未来也是不可限量的，和共产党携起手来，肯定会为自己的民国革命大业带来更加辉煌的成绩！
孙中山对李大钊说：“我非常欢迎像您这样的有着过人的天才的共产党人加入我们国民党中来，改进我们的血液，帮助我们的工作，使我们的党再度焕发出青春来。只是不知共产党人是不是有这样的诚意？你们共产党人愿意不愿意加入我们国民党？”
李大钊激动地抓住孙中山的手说：“只要孙先生您接受，我代表共产党人的立场，愿意与您衷心合作！我党早已作出决定，同意共产党人以共产党人的身份加入国民党。”
孙中山非常高兴地说：“守常先生，我十分高兴地以中国国民党总理的身份，介绍你加入中国国民党。只是我还有一个要求，贵党人士加入我党以后，须得遵守本党所固有的纪律和章程。”
李大钊爽快地说：“我非常感谢孙先生对我的厚爱，我可以代表我党的立场，我们加入国民党以后，当然是作为国民党党员的一分子，在国民党的统一领导下活动。不过，需要说明的是，我们共产党人既然已经参加了共产党，加入了共产国际，那我们的共产党的党籍是不能脱掉的厂
孙中山高兴地拍着手说：“不错，你尽可以一边做你的共产国际成员，一边在我党中帮我搞好国民党的建设。我们可以为实现中国革命的大业而并肩奋斗嘛！”
李大钊和孙中山的会面，使孙中山确定了和中国共产党联合起来共同实现革命大业的基本思想。此后，李大钊又和孙中山多次会面，具体商谈中国共产党人以共产党员的身份加入国民党的问题。这导致了中国革命中的第一次国共合作。
和李大钊的相见使孙中山进一步了解了什么是共产党和什么是共产主义，这之后，和朱德的一次会面，更坚定了孙中山联合共产党的决心。9月份的时候，朱德和孙炳文一同从云南来到上海，他们是听说中国共产党在上海活动，要到上海来找中国共产党的，同时也怀着深厚的感情来到莫利爱路来看望孙中山。孙中山这时候正在积极部署讨伐陈炯明的军事行动，他知道朱德原来是滇军中的旅长，也是个很有名气的军官，便劝朱德重新回到滇军中去，对自己原来的部下进行整编，等到时机成熟时，会合各路北伐军共同讨伐广州，重新建立新生的广东政权。
可是朱德却不同意孙中山的意见，他说：“我们对孙先生的革命主张是非常信服的，可是对孙先生目前的做法却有不同意见，孙先生和国民党人发动革命这么多年来，总是利用这个军阀的力量来打击另一个军阀的力量，这样的做法，有时候也会成功，但是结果总是失败，每次总是革命派最后失败而让军阀们获得了胜利，因为军阀们的本质是靠不住的，你要想和某一个军阀结成同盟，最后吃亏的总是革命的力量。”朱德还说：“我是一个军人，我花费了十一年的时间去寻找救国救民的道路，可是总是失败，无论是当旅长也好当军长也好，最终只不过是军阀们的一个工具，打了十几年的仗，仍然看到人民过着痛苦不堪的生活。可是在世界的北方，俄国革命却取得了成功，他们成功的原因是他们有着共产主义的思想，这是一种我们从来没有见过和听说过的理论和方法。我们现在要到欧洲去，到那里去寻找革命的理论和方法，那里有比我们进步得多的制度，更重要的是，那里的社会主义力量非常强大。”
听了朱德的话，孙中山很有感慨，但他确实信服朱德的话，认为他说得有道理。并且对朱德说：“你说得不错，我们革命这么多年了，还不能取得成功，这是我们的理论方法和采取的措施有误，不过，我正在采取新的政策，不久就会正式实施倒那时候，希望你能回来帮我共同工作。”孙中山这时候说的要实行的新政策，就是已经在他的心中考虑了很长时间的联俄、联共的新政策。
与苏联共产党联合，也是孙中山考虑了很长时间的事情。早在1921年，孙中山和共产国际的代表马林的会谈，就奠定了孙中山联合苏俄的思想基础。孙中山到上海以后，苏联派出特使越飞到中国，一方面和北京政府谈建交的事情，一方面秘密地和孙中山谈国共两党合作以及和苏联共产党合作的问题。
在中国共产党人的帮助和苏联共产党人的帮助下，孙中山改组国民党的决心已经不可动摇，9月4日，正式在上海召开了改进国民党的第一次会议。除了在上海的国民党首要人物外，共产党人陈独秀也参加了会议，这次会上，孙中山以总理的名义指定九人为新纲领的起草委员会，这九人中就有共产党人参加。大会一致通过了孙中山关于联俄、联共的新政策。
同时，中国共产党人对孙中山的行动给予积极的反响，共产党人蔡和森在9月13日发表了一篇《统一，借债，与国民党》，这篇文章把辛亥革命十一年来为什么没能成功的原因剖析得鞭辟人里，令孙中山看了大为叹服，特别是其中关于对中国革命将来应走什么样的道路的提法，更让孙中山感兴趣：
“……所以国民党过去的生命在革命，今后的生命还是在革命。为使这种革命运动贯彻成功，便要一面与民众亲切地结合，一面视苏俄为不二的同盟，大着胆子明白地反抗以上两种恶势力，使革命潮流一天一天高涨，革命行动一天一天丰富，勿以民众力弱而与之疏隔，勿以善邻势微而不与接近，勿因一时之利害而忘远大……
孙中山对文章中“过去的生命在革命，今后的生命还是在革命”这一句话十分赞赏，文章中要与民众和苏联的联盟的提法也正好说到了自己所思考的问题的节骨眼上，觉得共产党中真是有人才。所以当宋庆龄在问他为什么要和共产党联合时，他毫不犹豫地回答：“因为我们这个党太缺乏新鲜血液了！”
孙中山在1922年的11月和12月先后召开了三次这样的关于改组国民党的会议，将改组国民党的基本文件都准备好了。最后完成国民党的改组工作、实行新的三民主义，是在1923年年底和1924年年初。不过，就在1922年的下半年，北伐军回师讨贼的进展十分迅速，很快打到了广州。孙中山激动不已，他要再赴广州，在那里再度建立起新的革命政权厘新完成北伐大业！