蒋介石发动“四·一二”反革命政变后，武汉国民党中央于4月18日下令开除蒋介石的党籍，免去他的本兼各职，并“着全体将士及革命民众团体拿解中央，按反革命罪条例惩治”。22日，在武汉的国民党中央委员和国民政府军事委员会40人联合讨蒋，号召全国军民“去此总理之叛徒，本党之败类，民众之合贼”。此一时期，汪精卫仍是以“左派领袖”的面目出现的。
到了1927年7月，由于蒋介石集团及各方军阀对武汉实行军事包围和经济封锁，武汉政府处于“孤岛”之势，面临重重困难。同时，蒋介石拉拢冯玉祥成功，蒋、冯一联手，军事局势顿时变得对蒋介石极为有利，而冯玉祥也借此机会致电汪精卫，要他与蒋介石“通力合作”，“速决大计，早日实行”。冯玉祥倒向蒋介石，使汪精卫“夹击南京”的战略意图付诸流水，局面更趋紧张。此外，湘鄂一带工农运动中也确有“过左”倾向，直接危胁大地主大资产阶级的利益，两湖地区投机北伐革命的一些反动军官频频发动事变。在种种政治的、军事的、经济的压力之下，汪精卫终于撕下“左”的面具，对共产党和革命群众实施了疯狂的大屠杀，制造了“7．15”反革命事件。
但是，汪精卫虽然也开始反共了，却仍然视蒋介石为仇敌，欲与蒋争夺国民党的领导权，因此，蒋介石的日子也并不好过。他苦心孤诣建立了南京政权后，立即处于内外夹击之中，穷于应付，处境艰难。一方面是李宗仁、白崇禧等人居功自傲，不肯听命于蒋介石，致使蒋、桂矛盾日甚一日，一方面是武汉方面正厉兵袜马，正集结唐生智、张发奎等部，准备东征讨蒋。蒋介石处于内外夹击之下，为了缓解矛盾，决定迎击南犯的北洋军阀部队，转移视线。他发誓“不打下徐州，便不再回南京”。亲自指挥了收复徐州的战斗。战端初起时，北洋军阀部署在津浦路正面的部队佯作败退，蒋军节节胜利，进展极速。蒋介石认为攻下徐州已不成问题，遂决定毕其功于一役，亲赴前线督战，全线出击，连预备队都压上了前线。不料逼近徐州时，突遇顽强抵抗，北洋军阀又突出其后，．包抄袭击蒋介石左翼，致使蒋介石的部队“首尾不能相顾，全军顿形混乱……全线溃败”。而且“溃败之惨，实前所未有。”8月6日，蒋介石自食其“不打下徐州便不回南京”的誓言，仓惶退回南京，布置部队据江而守。对于这次惨败，蒋介石又羞又怒，于是嫁祸于人，找I一只替罪羊，归咎于前敌总指挥、第十军军长王天培。据蒋介石的卫队长通熙的回忆，枪杀王天培的经过如下：（注：文内的日期为农历）
六月十日，冯玉祥驻在开封，以调解宁汉纠纷为名，邀集式汉下政府的汪精卫、谭延阎、孙科、唐生智等，开郑州会议；
六月十九日，冯玉祥又与南京政府的蒋介石、何应钦、李宗仁、白崇禧等，开徐州会议。宁汉双方决定：反苏、反共、宁汉合作。七月十五日，汪精卫的武汉国民政府也开始“清党”反共。从此，宣告了第一次国共合作的彻底破裂。
有一天，（大约五、六月间），南京总司令部召开高级军官会议，师长以上的均出席。蒋介石命我自己去、或者叫一副官去到板鸭巷第十军驻京办事处，请王天培军长来开会。我未能理解这件事的特殊意义，认为今天开军事会议，我离不开，请一个军长来开会，用不着我自己去，于是派一个副官和一个卫士排长去了。按照蒋介石的规定，凡是总司令部开军事会议，一律不准带武器进入会场。王天培来了，我向他敬了个礼，问她：“有没有带武器？请交给我保管，散会后奉还。”他“说：“有一支左轮手枪。”说着，连同枪套交给我。我带他进入会议大厅，会议尚未开始。参谋长白崇禧一见王天培，便很严肃的对他说：“你知罪吗？”王天培被这突如其来的问话吓呆了；面色苍白，立正站着一句话也回答不出来。白崇蓓接着说：“你不服从总部的战略部署，阳奉阴违，在进攻徐州战役中，被敌人（孙传芳）一打就垮，一直向南溃退，几乎影响整个战局；而且你部下控告你十大罪状，克扣军切等等…… 你知道吗？”王天培颤栗地抵赖说：“不知道！都是下面人搞的！”在场开会的军官，大部分都站起来，注视这件想不到的事。自出师北伐，国民革命军共七个军，一到湖南，成立第八军，军长唐生智。王天培是第十军，其资格之老，地位之重要，可比例而知。自出师以来，总司令部惩办一个军长，这还是第一次。蒋介石未说话，一直注视着，大概是预先布置好的。王天培支吾其词，蒋叫我将王天培带到军法处，后来枪毙了。
徐州战败，完全是因为蒋介石的料敌不确、指挥失误所致，而他却倭过于人，不经审判，不宣布罪名就处决了王天培这样的高级将领。这种作风引起了各部将的极大恐慌，尤其是李宗仁、白崇禧，更是受到极大震动，都担心有朝一日成为第二个王天培。
蒋介石在徐州惨遭败绩之后，仍玩弄两面派手法，一面致是冯玉祥表示赞成宁汉合作，一面又令白崇禧部署军队，准备与武汉方面作战。但此时南京四周几乎都是桂系的部队，李宗仁和白崇禧决定趁此良机向蒋介石摊牌。白崇禧拥兵抗命，不执行蒋介石的命令。
蒋介石调兵兵不动，遣将将不听，立即明白这是李宗仁和白崇禧的桂系在“逼宫”，遂将计就计，试图以辞职要挟南京政府。果然，蒋介石一放口风，吴稚晖等人慌了手脚，立即召集党政军要员开会。会上，吴稚晖等文官一力主张蒋介石留在任上主持大局，而白崇禧、何应钦等军事将领却一言不发。当蒋介石表示想“休息一下”时，白崇禧、何应钦、李烈钧等人立即附和，表示同意蒋介石暂时“休息”。蒋介石眼看覆水难收，大局已成，只好决定下野。同时，支持蒋介石的吴稚晖等人也宣布辞职。
陈布雷在日记中曾说：“八月间宁汉分裂之迹更显，蒋公命余先期为准备辞职宣言，愿行退让贤以促成团结”。8月13日，蒋介石在上海发表僻职宣言》，说：“中正自蒸沫总理之教训，即以二义自矢：一、认党高于一切。在党的利益之下，党员个人绝无逞主观、用感情、计利害之余地。二、认捍卫党基为党员最大之大职。苟有逞智弄巧，阳奉阴违，篡夺吾党基础，剽易吾党主义，使吾党名存而实亡者，必竭全力以铲除之。由第一义言：进退生死，一以党之利益的依归。……故昔日以党之命令不能不进者，今若从中正一退，可解纠纷，中正因无时无刻成忘归隐者也。由第二义言：苟不侵蚀中国，篡窃本党如共产党之所为，任何党员，决不能以识解小有异同，而稍道其卫党之天职。”在自我标榜了一番之后，蒋介石又“掬诚”宣告三项愿望：一。要求宁汉双方“悉摒外间挑拔之辞，尽捐意气猜防之念，武汉同志地期联袂迁移东来，共同集合于南京，以谋党国大政之进行”。二。“要求分驻湘、鄂。赣武装同志，拚力北进，会同津浦线作战之军队，一致完成革命。三、要求鄂。赣、湘诸省彻底清党。”
8月14日，蒋介石率卫队回到他的老家溪口，同行者有邵力子、陈果夫、张群等。
8月19日，奉化各界举行欢迎蒋介石“锦旋”大会，蒋介石在会上致辞说：
“今天承请父老兄弟等开会欢迎，中正非常欣慰，比之他处更甚。不过中正为国奔走，对于桑样事情，无甚顾及，殊党抱歉万分，幸诸父老热心举办公益事务，故中正亦得许多安慰。但是我革命事业，无非是要为民众谋幸福，为党国谋利益，所以希望诸同志，以后努力进行。待到革命成功，人民皆得享衣食住行四者之幸福，此时再来庆祝，当更为快慰。中正别无他愿，望桑样升平，请父老兄弟皆得安居乐业，是中正之厚望也。”
同一天蒋介石在家乡雪窦寺接见美国《芝加哥鹰报》记者和《纽约时报》记者表示：“鄙人下野，当可促成宁汉合作。”
蒋介石的这种“高姿态”，实际上是在讲反语。他以一个政治家的眼光，早已经看清了当时的局势。他明白，如果不及时辞职下野，他将成为众矢之的，宁、汉两方无论是分还是合，因为有汪精卫在，他蒋介石都只能当半个国民党领袖，很难大权独揽。他一旦下野，就避开了各派的攻击，作壁上观，坐收宁、汉相争之渔利。此外，蒋介石也悟到：宁、汉双方鸡吵鹅斗互不相让相容的时候，冯玉祥居于“调停人”的地位，一直超然于争执双方之外。蒋介石如果不避让，有可能使冯玉祥在调停宁、汉矛盾中获得实利，大权就有可能旁落。把个中道理想透彻了，蒋介石才决定“下野”，自处“超然事外”的地位，而电请冯玉祥出来主持津浦路战事，把冯玉祥推进斗争的漩涡。他打好了如意算盘，等各派系闹到不可开交的地步时，他再以公正者的姿态出面收拾残局。
蒋介石下野后，回到了奉化，但他的影响却始没有离开中国的政治舞台。他人在溪口的雪窦寺，却照样指挥着他手下的文官武将，在政治、军事、财政上控制着时局。
在政治上，自蒋介石下野后，张静江、吴稚晖等人就到处奔走游说，为蒋介石复职上下活动。宋子文与黄郭则积极同英美等帝国主义拉关系，施加影响。所以，蒋介石下野后，国民党内部的斗争非但没有因此而平息，反而更加剧了。
在军事上，蒋介石的嫡系部队仍然效忠于他，尤其是第一军中的各级军官，都是蒋介石从黄埔系中挑选出来的，早已成为蒋介石的“私人武装力量”。至于何应钦，他当初拆蒋介石的台。并不是真想把蒋介石搞垮，只是想借此改善自己的地位。因此，蒋介石虽然下了野，但第一军仍在他的掌握之中。
在经济上，蒋介石下野之前即已有所布置。江浙财团及上海的买办阶级一直是支持蒋介石的。蒋介石下野后，江浙财团和上海的买办势力立即停止供给军晌，切断了南京政府的经济命脉。
李宗仁、黄绍站、白崇禧等桂系首领原以为蒋介石一下野，南京政权就掌握在闩己手中了，没想到适得其反，出为蒋介石“人在野而心在朝”，凭借自己的势力在奉化遥控政局，反把时局弄得越来越乱。桂系大权没到手，连大局都难以控制了。