宁汉分裂，蒋介石无疑是“罪魁祸首”，因实由其一手主导，双方剑拔弩张，大有短兵相接之势，幸北洋军阀未除，孙传芳残部与直鲁军主力犹在，意图卷土重来，若宁汉阋墙火并，势必同归于尽。于是双方因情势所逼，各自北伐，同仇敌忾，将内斗暂时搁置。宁方北伐由何应钦、白崇禧、李宗仁分三路于一九二七年五月向陇海路挺进，连战皆捷，六月二日克复徐州。约略同时，武汉北伐之师由唐生智、张发奎指挥，亦抵达陇海一线，进驻郑州。冯玉祥则由潼关攻占洛阳，逼迫奉军北撤，促使山西阎锡山响应。此情此势，原可齐心协力，直捣燕京，卒因宁汉分裂“党”痛未消，各自为政，难以一致，最后各自班师。
武汉方面最初由于蒋之反共而联共，然而由于共产党组织的群众运动如火如荼，国共间的利益冲突，亦在所难免，而适于此时，共产国际通过《关于中国问题的决议》，强调土地革命，欲动员中共实行土地革命，筹建红色武力。共产国际代表罗易(Roy)并将决议副本送交汪精卫主席，汪感到有违一九二三年孙越宣言，共党有取而代之之意，遂决定“分共”，解除鲍罗廷职务，且于六月六日率团北上，与冯玉祥会晤于郑州，商议“分共”反蒋事宜后，再班师回汉，南下防共，以及部署东征，可见武汉国府于“分共”之后，仍要以武力制裁南京伪府，声讨叛徒蒋介石的。
然而蒋介石却釜底抽薪，于六月十七日面晤冯玉祥于徐州，盛宴款待，结为金兰，并大加利诱，于六月二十一日上午十时打电话给冯玉祥，“请派兵直捣武汉”，为冯所拒。(见《冯玉祥日记》第二册，页三三七)冯力主宁汉调停，并电武汉促使宁汉合流(见《致武汉汪谭等电》一九二七年六月二十一日)，以完成北伐大业。冯玉祥的态度至少也不助武汉东征，多少于蒋有利，而蒋仍欲回师西攻，解决武汉，只因李宗仁反对，坚持北伐而作罢。(参阅《李宗仁回忆录》，页三一五)不过宁方虽不西攻，汉方仍欲东征，虽因分共延误，精锐确实已向下游移动，蒋介石遂召回李、白鲁南之师。直鲁军乃乘机南扑，于七月二十四日攻陷徐州重镇，南京震动，蒋介石乃亲自出马指挥，反攻徐州，并于出发前的纪念周上，声称不打下徐州不回南京。二十五日专程北上，亲率五军两师，会同白崇禧部，与直鲁军战于淮河、徐蚌之间，蒋以统帅亲至前线，竟被敌人诱之深入以至中伏，使全线溃败，敌军乘胜追击，大败亏输，狼狈不堪，于八月六日仓皇返宁。如此惨败，羞愤可知，更何况誓言在耳，实难以下台，竟枪杀前敌总指挥王天培以泄愤遮羞。
蒋介石原想一举夺回徐州，歼灭孙传芳残部，然后解决武汉。不意徐州未得，却败北如是，幸白崇禧压阵有方、指挥若定，得免全军覆没，然敌炮已临浦口，隔江可闻，颜面何存？而武汉东征之师已沿江而下，步步进逼，可谓左右受敌、内外交攻，实非引退不足以藏败绩之耻、非下野不足以消武汉之怒。武汉国府主席汪精卫早于七月二十三日便公开宣称蒋介石“是党国唯一的敌人、是国民革命军唯一的敌人、是国民党唯一的敌人”!(汪撰《中国国民党告国民革命将士书》，载《民国日报》)武汉既已分共，倒蒋非因其反共，乃因其违纪，此亦蒋自知在兵败之余，非下台不可的原因。
蒋介石自徐州败归之时，即告李宗仁其下台已不可免，并以军事相托，故引退绝非猝然。“辞职宣言”由陈布雷起草，到八月十三日于蒋离宁后才见诸报端，其间两个月，尚须做复出的准备工作以及修改文稿等等。这篇宣言无疑经陈布雷精心包装过，我们必须拆开来看，以见真相。蒋介石首先说：
中正自薰沐总理之教训，即以二义自矢：一、认党高于一切，在党的利益之下，党员个人绝无呈主观、用感情、计利害之余地。二、认捍卫党基为党员最大之天职。苟有逞智弄巧，阳奉阴违，篡夺吾党基础、剽易吾党主义，使吾党名存而实亡者，必竭全力以铲除之(《总统蒋公思想言论总集》第三十卷，页五十二，另参阅《国闻周报》第四卷第三十三期)
他必须下台，即因自南昌以来，以个人之“主观”、“感情”“利害”，抗命党中央，甚至别立中央。武汉中央呼吁“恢复党权”，即针对他而来。他原想以武力解决武汉党中央，无奈兵败，两面受敌，只好引退以解困，而竟以“认党高于一切”为说词，显然欲以“黑白讲”来混淆视听。至于他于宣言中护党的振振之词，从他日后一再“铲除”异己视之，直把个人的权力基础与“吾党基础”画等号，以责成党员为他个人效忠，已藏其机。
他于八月十四日在上海发布的“辞职宣言”中又说：“昔日以党之命令不能不进者，今若认中正一退，可解纠纷，中正固无时无刻或忘归隐也……今既咎戾集于一身，即应自劾而归去，解除职权，以谢天下。”(同上，页五十二、五十七)此话才透露一点天机，已不是假设性的要他退。
李宗仁于蒋下野后赴庐山与汉方会晤，始知唐生智乃欲挥师下芜湖，实如吴稚晖所说：“照唐生智那种气势汹汹，我们两面受敌不了，蒋先生暂时歇一歇也好。”(李云汉《从容共到清党》，页七六二)因蒋之“歇一歇”，汉方才肯派孙科与谭延为代表与李宗仁返宁议和，益知蒋在当时情况下，是非下台不可的。李亦因而体会到蒋下野这着棋下得高明，因一下野即失武汉东征的借口(参阅《李宗仁回忆录》，页三二五至三二七)，至少可为缓兵之计。李宗仁在回忆录中还提到，蒋故意散布桂系“逼宫”的谣言，后来无论正史野史竟多以此谣言之成理而信之。李曾要蒋辟谣，蒋笑而不予理会，李怀疑蒋借此打击桂系。(见《李宗仁回忆录》，页三二○至三二一)其实“逼宫”之流言，无非想把蒋说成是一“受害者”，而混淆了他下野的真正原因。
接着蒋介石又在宣言中说：
幸赖主义之照临、同志之用命，曾不数月，湘、鄂、赣、闽全告复，此非中正所敢贪天之功，实中央执委会付托之专，用能集中号令，团结内部，不虞牵制，以克奏斯绩也。何图包孕本党之共产党徒，奉鲍罗廷之发纵指示，造作种种蜚语，提出军阀、独裁等口号，冀直接打倒中正，间接打倒国民革命。而本党本军之一部分同志，不悟其奸，竟被所惑，遂以为中正有企图军阀及个人独裁之倾向。(《总统蒋公思想言论总集)第三十卷，页五十三)
由此可见，他于下野前夕，已想改写历史。他说“非敢贪天之功”，实把“克奏斯绩”之战功，归诸于己。其实湘、鄂之战，战功属李宗仁、唐生智，底定江南的首功是白崇禧，蒋仅具总司令之名，并无直接关系，而他亲自指挥的南昌之战与徐州一役，却是整个北伐战争中最最惨败的两次。他之下台亦即因徐州丧师的后遗症，竟以“克奏斯绩”来掩饰。此时武汉已分共，他仍以反共来转移视听。他痛骂鲍罗廷，但若非鲍助孙中山改组、若无俄援，广州革命根据地何从建立？北伐何从开始？若非中共大搞群众运动，何能四处响应，不数月而达京沪？他为了掩盖“兔死狗烹”之事实，竟反咬共党一口，予其清党以合理化，并以“打倒中正”与“打倒国民革命”混为一谈，且故意颠倒“打倒中正”之因果关系。至于其“个人独裁之倾向”，在当时即未彰著，亦为其后来行事所证实，还不止是“倾向”而已，日益见诸具体行动矣。
他最后要求“武汉同志克期联袂迁移来宁，共同集合于南京，而谋党国大政之进行”(同上，页五十六)，则不得不承认武汉中央为正统，由汉迁宁，其自立之南京政府自须撤销后并入。他于发表此宣言之后，又于八月十九日发电辞总司令职权。但他并非真正归隐乡里，实继续在幕后策动，并于离宁前便已安排亲信姚琮的警卫师与孙星环的宪兵团，驻守南京城，以及密令何应钦掌握其嫡系部队，其伺机再起的意图已十分明显。既欲再起，时局不能搞得太糜烂，否则覆巢之下无完卵。李宗仁终于八月底九月初赢得栖霞龙潭之役，击溃孙传芳意图南渡之师。但龙潭之战是险胜。若失败，南京固不守，整个江南亦难保，就可到全局溃败的地步。李宗仁指出，紧要关头偶然发现何应钦想收兵保存实力，幸及时制止。(见《李宗仁回忆录》，页三三五至三三六)何若无蒋命，何能出此？但同时蒋亦雅不欲时局太稳定，让汪精卫迁都成功，统一党权，否则将扼杀再出之身价。总之，蒋介石的如意算盘是，借下野以金蝉脱壳，然后见机效“哪吒闹海”，于政潮迭起中脱颖而出，造成“斯人不出奈天下何”的局面，以达到集大权于一身的目标。
蒋介石下野后，李宗仁即于一九二七年八月十六日电告汪精卫，请将武汉中央政府尽快迁往南京，汪于翌日在国民党中央政治委员会第四十七次会议上，宣称：
迁都南京是中央四月初旬就决定了的议案，何况现在南京政府已经无人负责。据今天所收的报告，也说南京政府已经停止办公，事实上已不存在，那么我们应决定到南京去的方式。(见该次会议速记录)
遂复电李宗仁，决定迁宁。于此可见双方议定迁都南京，表明南京方面自立的中央已经撤销，以武汉中央为惟一的国民党中央，亦为宁汉由分裂而合流的主要前提。汪乃于九月五日率领顾孟余、徐谦、陈公博、朱培德等中央委员，乘舰抵达南京。汪一到就力述，要宁汉合作、党内统一，必须召开二届四中全会，以承续武汉召开的三中全会，亦借此显明武汉中央的正统与合法。但汪到之后，发现宁方中央委员胡汉民、吴稚晖、张静江、蔡元培、李石曾等人已经避居上海，很可能受蒋之嗾使，不与汪合作筹开四中全会。汪为了表现合作精神，派谭延闿、孙科两人赴沪沟通。但为胡等所拒。汪遂偕谭、孙以及朱培德、李宗仁、李烈钧、程潜、于右任等要员联袂去上海劝驾。不意不仅胡汉民等不愿合作，而且聚集上海的极右西山会议派老国民党也来搅局。盖因蒋介石于四一二上海屠共之后，即恢复西山会议派林森、邹鲁、张继等党籍，密谈统一党务，早已合流。故沪宁沆瀣一气，刻意在法统问题上大做文章，抵制汪坚持召开的四中全会。如张静江竟声称，武汉政府并非正统政府，前所召开之三中全会乃联共会议，也属非法，故根本没有召开四中之资格，而主张重新召开三中，以衔接二届二中。且不论有违宁汉合作之前提，若以联共为非法，则孙中山联俄容共之一届即应否认，根本要重起炉灶。以张与蒋之亲密关系，此横蛮刁难之语显由蒋之授意。更可注意者，后来蒋再出夺权成功，径自召开四中全会，就不管合法不合法了。更可见张之目的，就在捣蛋，使话谈不下去，无从沟通。
国民党各方人马再于九月十一日聚会，汪精卫再度提出四中全会召开之必要，然续遭张静江、蔡元培、李石曾等反对，西山会议派分子更在旁鼓噪。在此情况下，原在武汉中央的孙科提出折中办法，由沪、宁、汉三方筹组中央特别委员会，暂时行使中央职权，以筹备召开三大，得到大部分人赞同(见《国民党中央特别委员会第一次会议纪录》原件)，汪孤掌难鸣，只好默认，但心中极不以为然，为了不使谈判决裂，仅表示消极，遂于十三日夜离开上海，前往九江，通电引退。汪之坚持召开四中全会，自有其原则立场，自谓：“中央第四次全体会议之被挫，特别委员会之产生，实为宁汉合作以后，至可痛心之事，亦本党至可痛心之事也。”(汪精卫《复法总支部函》)李云汉以此指责“汪兆铭反复”(见氏著《从容共到清党》，页七七二)，殊失公正。特委会虽于九月十五日正式在南京成立，汪亦被选为国府常委之一，但由于汪之消极引退。所谓合流，全无实质意义，必为野居奉化坟庄的蒋介石所窃笑自喜!
武汉政府迁宁之后，两湖便在军事强人唐生智控制之下。唐原反对合流，欲东下夺权，自有其个人野心，乃怂恿汪成立武汉政治分会，以与特委会相抗。唐更公开宣布反对特委会，广州张发奎通电支持，国民党遂又成对峙之势。南京特委会遂派孙科、伍朝枢、居正等上庐山晤汪，在同意于十一月一日在南京召开二届四中全会的前提下，获致恢复中央之协议，可见汪所争主要仅此一端。然而十月二十日南京特委会突下令讨伐唐生智，引发战争，四中全会又因故流产，汪愤然取道回粤，反对南京特委会，准备在粤筹开四中全会。约当此时，蒋介石提早自日本返沪，于十一月十日电汪，赞同召开四中全会，并请汪赴沪晤商，并参与预备会。两个多月前，蒋初下野，犹拒见汪，汪鉴此善意，遂于十一月十五日偕李济深在广州启程，经港赴沪。不意又发生变故，广州于十六日晚上发生事变，张发奎与黄琪翔以武力驱逐代理李济深主持粤政的黄绍竑。因而汪于十八日抵沪时，即遭李宗仁、吴稚晖、蔡元培等妄加攻讦，令汪百口莫辩。吴稚晖更于十二月五日联合张静江等，提案弹劾汪精卫、顾孟余、陈公博。又是吴稚晖、张静江在耍把戏，能不怀疑幕后的“黑手”？在此处境下，汪乃顺水推舟，促请蒋介石复职而个人引退(阅《汪精卫先生最近演说集》，页一七九)，冀求稍缓攻击。然十二月十一日又发生广州暴动，共产党起事，组织公社，吴稚晖等再借此变本加厉指责汪精卫，妄指其“酿成此次之巨变”。汪虽辩解，但南京国府仍于十六日决议讨伐张、黄之外，并通缉汪、陈、顾三人。事情既已发展到此一地步，汪精卫不得不于当晚偕秘书曾仲鸣，怀着郁愤心情，再度登轮赴法。我们不能不怀疑，蒋介石串通特委会分子，引汪离粤，俟汪抵沪后，借故攻击，不遗余力，不容置辩，使其无法立足而被驱出国门。汪精卫此次离国，与上次因中山舰事变出国，虽属“异曲”，但对蒋介石而言，却是“同工”。
汪出国门后，特委会却于十二月二十八日自告结束，该会除了令各地各级党部，厉行清党，重新登记党员外(见《国民党中央特别委员会第四次会议记录》一九二七年九月二十七日，页六)，好像是特别与汪过不去而设立的。在中枢空虚的情况下，蒋介石复出的时机已经成熟。一九二八年年初，复国民革命军总司令职，二月二日在南京召开二届四中全会，汪坚持而做不到的，蒋于一退一进之余做成功了，攫取了国民党最高权力。一时之间身边没有了汪精卫的阴影，没有了共产党的阴影，也没有了唐生智的阴影。在大权几乎独揽之下，四中全会任命他为中执会党务委员兼组织部长和军委主席，进而通过整理各地党务案，削减派系力量，基本上已集党、政、军实权于一身。