为了寻求国际援助，蒋介石派陈立夫去苏联与斯大林秘密谈判，陈立夫坐船绕道柏林待命，两个月后，又半途被蒋召回。不久“受命”与延安谈判。从而拉开了国共两党第二次合作序幕。
1931年，日本发动九一八事变时，蒋介石正忙于“剿共”，电令东北的张学良不许抵抗。
按照蒋介石的方针，南京政府外交部向日本提出了几次“文明抗议”，中国驻国联代表施肇基也在国联作了“控诉”，然而侵略成性的日本帝国主义并没有“良心发现”，反而加紧了侵略步伐。
1932年1月28日，日军进攻上海。
2月5日，日军占领哈尔滨，至此，东三省全部沦陷于日寇手中。
3月9日，日本人抬出溥仪作傀儡，成立伪满洲国。
1933年1月，日军攻占山海关，向关内进攻。
2月，日军进攻热河省，3月4日，占领省会承德。
3月，日军进攻长城各口。
在日军的步步进逼下，蒋介石却步步妥协：
1932年5月，中日签订《淞沪停战协定》，允许日军驻留上海，而中国军队却不能在上海及其周围驻守、设防。
1933年5月，中日签订《塘沽协定》，承认日本占领东三省和热河省，承认长城一线为伪满洲国的国界。
蒋介石的投降政策，激起了全国人民的民族义愤，一部分国民党将领也产生了强烈反响。
1933年5月，冯玉祥联合方振武、吉鸿昌成立察哈尔民众抗日同盟军，宣布抗日。
是年冬，福建省政府及第十九路军与红军签订协定，抗日反蒋。
日本人虎视眈眈，国内民众也思抗战以雪国耻，在这种情况下，蒋介石调整对内对外方针，开始对日整军备战。
为了寻求国际援助，蒋介石找到了苏联。因为他清楚知道，在国际上，能与日本抗衡的，除了英美以外，非苏联莫属。况且苏联与中国相邻，日本侵略中国，无疑会影响到苏联的安全，苏联不会坐视不管的。
1934年底，蒋介石授命陈立夫主持同苏联驻华大使的外交谈判。蒋介石之所以用陈立夫，除了陈立夫本是自己亲信之外，陈立夫赞同在目前国难当头的形势下调整中苏两国关系也是个重要原因。早在1932年之时，陈立夫就建议蒋介石恢复中苏邦交，苏联人对陈立夫印象颇好。
陈立夫接受使命后，暂时放开了自己所作组织部长的工作，而专心与苏联驻华大使鲍格莫洛夫的谈判。
这一谈判，极为秘密，外界一直无人知晓其内容，直到1977年，陈立夫在与一位美国学者交谈时，才含糊提到了一些当年谈判的内容。
在会谈前，陈立夫分析认为：苏联之所以愿意同中国谈判，是因为它害怕中国与日本妥协，与日本携手合作。如果这样的话，那么日军就会通过内蒙古，直抵苏联边境，威胁到苏联。而当时德国也已从西线窥测苏联，这样苏联就会陷人顾此失彼的境地。因此在会议中，陈立夫即表示愿意与苏联友好，也显露出有恃无恐的态度。
鲍格莫洛夫一方面担心中国的妥协会导致日军对苏联的进攻；另一方面又认为中国国力太弱，在日德联合进攻苏联时，中国不能起什么作用。因此在会谈中，鲍格莫洛夫既表示愿意中苏友好，又表现出不太迫切，不太积极的态度。
这样，双方各有算盘，互不信任。虽然双方都愿意中苏友好，但会谈却没有什么积极成果。谈判是停了又谈，谈了又停，秘密进行了半年多。
这种马拉松式的谈判起初蒋介石还颇为支持。随着日军在华北活动越来越猖撅，蒋介石压力越来越大。
一夭，蒋介石把陈立夫叫到自己的官邸里，和陈商量谈判事人陈立夫提出：“日人越来越嚣张，我们应加快对苏交涉的步子，打破僵局，争取能在短时期内建立中苏合作关系。这样，在必要的时候，我们可以打出苏联这张牌来警告日本人”。
蒋介石采纳了陈立夫的建议，决定自己亲自出面，打破僵局。
1935年10月，南京孔祥熙官邸灯火通明，但却静得出奇。客厅里只有蒋介石、陈立夫、鲍格莫洛夫等人在会谈。
在会谈中，蒋介石表示目前的僵局均不利于双方。中苏应尽快改善关系，共同对日。为了打消鲍格莫洛夫的疑虑，蒋介石又保证中国政府在任何情况下都不同日本签订反苏的军事协定。
蒋介石的态度感染了鲍格莫洛夫，鲍格莫洛夫也提出了一个积极建议：“南京国民政府最好派一名高级官员访问莫斯科，直接与斯大林会谈。”
蒋介石接受了鲍的建议，并选中了陈立夫为出访莫斯科的人眩
12月24日夜，上海码头。热闹了一天的码头，此刻却有些冷清了。
陈立夫化名李融清，悄悄地登上了一艘名为“朴次丹号”的德国邮船，准备先到柏林，再由柏林转赴莫斯科。与他随行的有特工总部的设计委员会主任张冲、新任驻德大使程天放。
邮船离开码头后，很快便驶入了辽阔的大海，海上没有什么大风浪，邮船平静地驶在一望无际的大海上。船上其他的旅客都睡着了，而住在一等舱里的陈立夫躺在床上，辗转难眠。
这一夜，他反复思考了许多问题。他想，到莫斯科后，将与斯大林谈判，听说斯大林意志刚强、办事独断专行，目己该怎样与这样的对手谈判呢？如果谈判成功，将会开创怎样一个新局面呢？万一失败，后果又将会怎样呢？他能负得起这个责任吗？想到这里，陈立夫有些惶恐不安了。他再也躺不下去了，从床上爬起来后，走出了舱门，来到甲板上。
此时天已经快亮了。一轮红日正在水天交接的远方跳动着，大海满是金光。陈立夫倚着船舷，迎着拂面而来的海风，顿觉清新，刚才的惶恐不安也不见了。他想：事之至此，已不能顾虑过多，自己唯有努力向前。能否成功，那就听天由命吧。想到这里，陈立夫不觉脱口吟出了一句屈原的诗，“路漫漫其修远兮，吾将上下而求索”。
经过几十天的航行，船到了德国。陈立夫、张冲、程天放下船之后，即赶到了柏林。蒋介石从国内来电，指示陈立夫、张冲暂时停在柏林，等候命令。
等待是难熬的，陈立夫、张冲在柏林，一等就是两个多月。陈、张由于此行秘密，并不敢在柏林公开活动，只是利用一些有利时机，与德国朝野进行暗中接触，从中摸取苏联对中国的态度。
两个多月之后，盼着尽快东行的陈立夫忽然接到蒋介石从国内来的急电，命令他立即取消赴苏计划，迅速返回，不得有误。
陈立夫一时摸不着头脑，但蒋委员长的指示他是不敢违背。何况赴莫斯科谈判是否成功尚是个未知数，取消此行对于他来说反而是替他解下了包袱。因此，在接到急电之后，随即收拾行李，与张冲一起，打道回国了。
等陈立夫回到国内，他才明白这究竟是怎么回事了。
原来，当陈立夫离开南京去上海乘船时，日本方面很快就知道他要去莫斯科与斯大林谈判。为了阻止中苏谈判，日本一方面在外放出“陈立夫去苏俄”的空气，挑动国民党内的亲日派和顽固分子来质问蒋介石；另一方面，日本又给蒋介石施加压力，如果不取消这次谈判，日本将采劝有力措施”。
日本人的招术果然奏效。因为陈立夫赴莫斯科谈判，从头到尾都是蒋介石一人在幕后操纵，极为秘密，连国民党中央和国民政府中的许多要人都不知此事。如此重大国策，却瞒着政府，当然就有许多人对蒋介石不满了。而蒋介石此时对中苏关系也做了错误分析，他认为：“日俄两国对我中国，有一相同的企图，就是迫使我们中国脱离西方，尤其对美关系，而陷人孤立地位，只有听任他们的宰割，日俄两国……为了共同对付西方尤其是美国，亦可以瓜分中国为条件，而互谋妥协”。基于这种错误的认识，蒋介石认为直接与苏联进行高级会谈的时机尚未成熟，如果匆匆行事，到时机密泄露，将使中国陷入难堪境地。因此，蒋介石一纸电令，召回了陈立夫。
“九一八”事变之后，民族矛盾成了第一位的矛盾，掉转枪口，一致对外成了有识之士的共识。蒋介石也不得不考虑联合老对手——共产党一致抗日的问题了。
“中日战争既已无法避免，国民政府是一面着手对苏交涉，一面亦着手中共问题的解决。”1934年的蒋介石做如是想。
这年年底，陈果夫、陈立夫在受命与苏联驻华大使鲍格莫洛夫进行外交谈判的同时，又接受蒋介石交给的另一项秘密任务，寻求与延安接触的途径，打通延安之路。只是后来因陈立夫有莫斯科之行，此事只能暂时作罢。
1936年3月，陈立夫自柏林归国，继续参与苏联驻华大使鲍格莫洛夫的谈判，在谈判中，鲍氏提出了国共两党关系问题。他说：
“苏联政府特别注意蒋介石同中国红军的关系。他说，如果蒋介石的主要力量用于‘剿共’，蒋介石的军队同红军间不实现统一战线，那么，对日本的侵略进行严重的斗争，是不可能的。”
鲍氏的话，陈立夫立即转告了蒋介石。蒋介石既然迫切希望得到苏联援助，也就不得不考虑与共产党搞统一战线问题。
1936年夏，在陈立夫的陪同下，蒋介石再次召见鲍氏。蒋介石向鲍表示，他正着手改善同中共的关系，准备同中共讨论抗日问题。但他又强调，中共可以合法存在，但不能拥有自己的军队。
蒋介石既然已经定下了调，陈立夫便开始替蒋介石说话。在与鲍氏的谈判中，陈立夫多次向鲍要求希望苏联出面做中共的工作，劝说中共放弃武装。他说：“如此苏联政府就可以表示对南京的真诚态度并赢得南京政府这个真诚的同盟者。”
但当时的苏联政府出于种种考虑，并不想在中国的国共两党关系中充当调解人。鲍向陈立夫反复申明：“苏联政府不介人国共两党关系的改善，因为苏联政府在此事上不起任何作用。蒋介石在没有中间人的情况下完全可以与中共谈判”。
这样，蒋介石、陈立夫希望通过苏联来与中共接触的途径行不通了，只好另谋他途。