国民党的二大三中全会在蒋介石拒不出席的情况下，没能真正解决问题，强调“恢复党权”，欲以党来控制枪杆子也徒托空言。不过至少暂时掩遮了波涛汹涌的政潮，以及蒋总司令悍然抗命的威胁，军事行动得以继续进行，然而随着军事的发展，蒋介石权势的上升，政潮与威胁反而与日俱增。
国民革命军继续军事行动，兵分三路，西路唐生智任总指挥，与国民军总司令冯玉祥夹击河南，中路由蒋介石担任总指挥，李宗仁率江左军，程潜率江右军，沿长江而下，进掠南京、安庆等地。东路白崇禧于二月十日即已占领杭州，等待何应钦自福建北上的纵队，会师后向淞沪挺进，于三月二十日入据上海附近的龙华。稍后于三月二十三日，程潜江右军占领南京，由于革命军之反帝，英美帝国主义于翌日炮轰南京城以示威，死伤约千余人。李宗仁江左军于三月中已达安庆，守军陈调元“附义”，不血刃而定安徽，北洋长江舰队亦于三月二十三日“起义”，北洋军队遂退守徐州一线，至此长江中下游尽入国民革命军之手。夺取长江下游如此神速，鲜遭抵抗，固然由于革命风潮澎湃、民心归向，令敌无斗志。然而同时还有别的奥秘。据于此时访问南昌的俄国汉学家卡沙宁(MarcKasanin)探知，蒋介石在南昌发动攻势之前，已用威迫利诱手法，逐步赢得京、沪归顺，因其十分渴望与长江下游的资产阶级结合，然后与革命分道扬镳。(见氏著ChinaintheTwenties，P.196)
蒋介石此时已与军阀、资本家、帝国主义勾结妥协，但绝不肯与国民党左派与共产党合作，他已决心抗争到底。他于三月十六日临行之前下令解散南昌市国民党党部，直接向“恢复党权”的诉愿挑战，同时又解散南昌学联以及查封《贯彻日报》。十七日抵达九江，枪毙市党部与工会负责同志四人，又于二十三日捣毁设在安庆的省党部与总工会。
蒋介石以枪杆子对付党的行径，武汉中央颇为震惊。孙中山的儿子孙科就在中国国民党中央委员会政治委员会第八次会议上愤然说：“(蒋)现在愈闹愈不像话，好像是他总司令的世界，为所欲为，把党的威权弄得扫地，我们如果再不下决心，何必还革什么命!”但是武汉中央政府犹如遥控脱缰之马，难以着力。而蒋介石又玩弄两面手法，骨子里一意孤行，表面上服从中央，如三月三十日还发电请示军事外交方针，以至于连鲍罗廷尚欲“爱惜蒋同志”，帮助他不受反革命包围。(见《中国国民党中央执行委员会第二届常务委员会第五次扩大会议速纪录》)当然武汉中央也想到过解除蒋介石的兵柄，不仅仅是鲍罗廷与中共党人，国民党中重要人物如谭延、徐谦、顾孟余、邓演达、张发奎等人曾经一再劝说战功甚高的李宗仁，取而代之。(见《李宗仁回忆录》，页二八九)但李宗仁以洪杨同室操戈为鉴，不肯答应。三月下旬武汉中央还草拟了一个伺机逮捕蒋介石的密令，由国府代主席谭延闿亲笔写在绸子上，交给在南京的程潜执行，但程潜虽然拥护武汉三中全会决议，但不愿因执行密令而导致国民党的分裂，却没有想到程潜离宁以后，他委托卫戍南京的杨杰与贺耀组竟倒向蒋介石，蒋遂下令调程之二、六两军北上，使整个南京城完全在蒋控制之下，卒令沪杭甬尽成蒋氏天下。(参阅杨天石《寻求历史的谜底》，页五二六至五二七；另参阅WuT’ien-wei，ChangKai-shek’sApril12thCoupof1927P．154)
蒋介石于三月二十六日自安庆抵达上海，了解到中共与工会的实力，颇感惊异与不安。缘自三月二十一日，东路军前敌总指挥白崇禧兵临上海城郊，因怕帝国主义军事干涉，不敢遽攻，然而市内总工会组织第三次大罢工，发动五十万人，终于克复上海。周恩来与顾成章指挥下的武装工人纠察队，约有二千七百余名。蒋抵沪后，立即受到右派分子以及买办、帮会、帝国主义者的包围与支持，实力亦属不小，何况还有包括桂系在内的武力后盾。三月二十八日吴稚晖就提出“请查办共产党”呈文，拟断然结束孙中山的容共政策。
吴稚晖是个进了大观园的刘姥姥，“一贯以插科打诨的丑角姿态出现”，以博取主子的欢心。自中山舰事件以后，一直为蒋开锣喝道、保镖帮腔，此时在沪倡议清党既是奉命办事，也是善体君意。蒋介石蓄意清党已久，到上海后更感“吾道不孤”。但是清党分共牵涉到国民党根本政策的改变，不仅兹事体大，而且影响到整个革命的前途，更不必说因分裂可能造成的严重后果了。
就在此紧要关头，国府主席汪精卫返抵国门。汪氏不是悄然返国，而是在国民党同志们千呼万唤始归来，尤其是由于国民党内部危机四伏，切望汪能复职扭转乾坤。即使是蒋介石，虽然在心中或私下不愿汪回(见陈公博《苦笑录》)，但在表面上仍然是函电恳请，甚至要派张静江、李石曾到法国去迎驾，说是“非兄速回，不能补救；望兄之切，无由表示，请以兄念弟爱弟者，而测弟孺慕之情为何如”，甚至假仁假义地说：“如兄不来，则弟唯有辞去一切职务，以谢国人。”(引自蔡穗金《汪精卫评传》，页一一五)汪精卫终于绕道俄国，自海参崴回到了上海，那天正好是一九二七年四月一日愚人节。汪氏回国后的遭遇，确有不少“愚人”的意味。
蒋介石亲往码头迎汪，移樽就教，辟室密谈。蒋之意旨十分明确，即要汪跟他一起清党反共赶走鲍罗廷，采取断然措施。这当然也是蒋支持汪“主持一切”的条件。但是汪精卫是国府主席，虽称病出国，主席一职仍由人代行，而三中全会继续被选为党的最高领导人，总不能跟在一个总司令后面擅自做重大的政策改变，否则何异吴稚晖之投靠，更置武汉党中央同志于何地？即使要改变政策，亦应从长计议，召开党的四中全会来决定，诚如汪氏致函李石曾时所说，联俄容共政策，“绝非不可更改，然更改必须依据党的纪律，非可以个人自由行动，亦非武力可以迫成。”(《汪精卫全集》，页一八四)汪之不能应蒋之求，留沪“清党”，是必然的。
蒋介石及其“清党”的附和者显然在汪面前，力数共产党的“阴谋”，要打倒国民党、打倒三民主义，以及制造恐怖、引发外交冲突等等。这种指控如果属实，当然有违当初国共合作的原则、破坏了合作的基础，于是汪在上海两次往访中共总书记陈独秀，欲探明真相。陈力言绝无此事，亲笔作书，并表之于《汪陈联合声明》之中，以昭公信。阴谋既系谣言，则蒋介石用武力“清党”的主张便无着落，汪自无不维护联共政策之理，故汪陈于联合声明中说：
两党合作，本有各种不同的方式、重要之点，是在两党大多数党员，双方以善意的态度，解决此问题，方不违背合作之根本精神。中国国民党多数同志，凡是了解中国共产党的革命理论及对于国民党真实态度的人，都不会怀疑孙总理的联共政策。(载《时事新报》一九二七年四月五日)
如果胸怀善意，面对此公开的宣言，自应尽量祛除误解，再谋合作，以完成尚未成功的革命。孰料联合声明公布之后，吴稚晖立即无理取闹，破口大骂，甚至讥嘲陈是中共的总书记，而汪之国府主席恐怕有名无实，暴露出吴氏有恃无恐，甘愿充当蒋介石的打手。足见蒋等“清党”，纯粹为了反共而“清党”、为了巩固一己的权力而“清党”，其他种种看似光明正大的理由，不过是借口而已。事已至此，汪精卫留沪若不顺从蒋之意志，势必纠缠不清，理性解决问题唯有回武汉中央处理。汪于行前致书蒋之亲信张静江，明言赴汉之必要，若谓：
党事至此，以铭之愚，唯有提议开四次会议于南京，以解决纠纷，舍此实无出路。欲达此目的，不得不往武汉一行。(汪精卫一九二七年四月五日致张静江书)
翌晨，汪即乘船溯江而上，于十日舟抵汉口，复职后成为国民党中央与国府的最高领导人，并立即与谭延闿、孙科等协商到南京去开四中全会，以求解决问题，又于十三日，抵汉口的第三天，驰电蒋介石告知，“中央已经决定迁都南京，不日即可来宁开会”，要蒋耐心等待。哪里知道蒋已于四月十二日在上海发动血腥镇压，史称四一二事件。蒋显因汪离沪赴汉而老羞成怒，悍然单干，以示决裂，他虽身为中常委，既没把汪精卫放在眼里，也没有把国民党中央与国民政府放在眼里，更无参与四中全会和平解决纠纷的诚意。
四月十一日晚，蒋介石命投诚的军阀周风岐派兵严守闸北，当晚杜月笙将总工会会长汪寿华骗到家里，尔后杀之。翌日清晨五时二十分，黑社会控制的中华共进会开始向在商务印书馆的工人纠察队攻击，直到上午十时，三百五十名纠察队被缴械。在浦东的纠察队抵抗最烈，死伤也多。同日下午群众集会市体育场抗议攻击工人，南市聚集了五十万人，海员工会宣布罢工。但是上海的商会却通电庆贺镇压，并歌颂杜月笙、黄金荣、张啸林三大流氓头子，摧毁了总工会与纠察队，更希望其他各地效法上海，杀尽共产党。(见《第一次国内革命战争》，页五二八)在租界内的外国势力也颇合作，搜捕共产党员和工人千余人，交给蒋介石。然而上海工人仍不知蒋是幕后的黑手，当日还致电南京蒋总司令，电文曰：
蒋总司令勋鉴：本月十二日晨四时，本埠闸北、南市、浦东、吴淞各处工人纠察队的枪械，同时被白总指挥命令二十六军派遣大队悉数追缴，各处均死伤多人。查上海总工会领导全上海工人，数年来与帝国主义者暨军阀不绝的奋斗，最近又不惜重大牺牲，数次武装暴动，响应北伐军，消灭直、鲁军，其功绩灼然可见。其有今日之地位，实以无量数之热血、头颅换来。是以钧座奖赐旌旗，题曰“共同奋斗”。上海收复以来，协同军警维持秩序，毫无轨外行动。彼帝国主义者及反动派，虽百计挑拨，造谣中伤，卒无间隙可乘入。万不料同隶青天白日旗下者，乃有横肆摧残之举，先总理出生入死，从事革命者，全在解放被压迫民族，而临终遗嘱，无念念不忘于唤起民众。钧座为总理忠实之信徒，对此有组织、有纪律、富有牺牲革命精神、有着伟大功绩之工人群众，方保护奖励之不暇，绝无横施摧残之意，伏祈迅赐严命，彻底查究，将所缴枪械悉数发还，并予确实保障，此后不再发生此类事端，庶不致愧对先总理在天之灵，并有自解于普天下之民众，且免革命军民之联合战线破裂，而为帝国主义所求。党国前途，实利赖之。临电不胜迫切待命之至。(引自司马璐《中共党史及文献选粹》第五部，页二十八)
蒋迟至四月底五月初，仍公开地说：“纠察队本应武装，断无缴械之理”，甚至曾于四月六日赠“共同奋斗”锦旗一面给总工会。(见上海《申报》一九二七年三月二十九日、四月六日)我们只有说，工人群众太不够警觉，竟不知蒋介石早已于四月十一日在南京密令“已克复的各省，一致实行清党”，并镇压群众运动。要他来“彻底查究”，何异与虎谋皮？不尽此也，四月十三日，工人群众更天真地去周风岐的司令部请愿，但请愿队伍到宝山路时，即遭机枪扫射，时降大雨，血与雨水齐流。同时南市游行工人也遭射击。此日约六十六人被杀，三百一十六人受伤。闸北名流七人当天驰书蔡元培、吴稚晖、李石曾，谴责屠杀市民。(见《第一次国内革命战争》，页五二一至五二二)蔡、吴、李早已附从“清党”，只有心里窃笑而已（中国国民党中央监察委员于三月三日在沪举行“清党”前会议，到会者有蔡元培、吴稚晖、张人杰、古应芬、李石曾，蔡为主席，见《中华民国重要史料初编》——对日抗战时期》续编[二]，页三十七至三十八)，直至四月十五日，死了三百余人，被捕五百余人，逃亡与失踪者五千余人。总工会在淫威下屈服，取消罢工，唯有向武汉中央报告蒋介石罪行。蒋于四一二发动之后，两个月内，声言对共产党须用“决绝手段”，大举捕杀，上海尤成为恐怖世界，主其事者杨虎、陈群被称为“狼虎成群”。屠杀又从上海扩及蒋介石控制下的其他城市。至一九二七年九月二十七日，国民党中央特别委员会第四次会议于南京召开时，仍然要求各地党部继续“（一)厉行清党(二)重新登记”。(见记录原件，页六)陈独秀的儿子延年固然被捕杀，李宗仁表弟李珍凤也被捕杀。据当时《中国周报》(ChinaWeeklyReview)记者斯诺(EdgarSnow)估计，被杀害的“左”倾分子在五千人以上。(见Powell，MyTwentyfiveYearsinChinap.157)后来中共说，蒋介石双手沾满了革命人民的血，这应该是最大的一笔血债。然而历史学者黄仁宇却说：“用道德名义解释不足以答复这样的一个历史问题。”(《从大历史的角度读蒋介石日记》页八十一)
但此举使武汉国民党党中央大为震惊，四月十三日下午政治委员会开会后，即致电蒋介石责问：
现本党驻沪军队，竟有用武力令上海纠察队缴械之举，显系违背命令，甘为反革命，在党纪上万难宽恕，望即将此次胆敢违犯党纪之部队官长，即刻停职拘捕，听候国民政府查明事实，依法惩办，总司令及总指挥未能事前防范，亦应依法严重处分，并应饬令将已缴枪械，退回纠察队。(《汉口民国日报》一九二七年四月十四日)
十五日国民党中常会又开第七次扩大会议，讨论惩蒋问题，最后一致决议：“蒋中正屠杀民众，摧残党部，甘心反动，罪恶昭彰，已经中央执行委员会决议，开除党籍，免去本兼各职，着全国将士及各革命团体拿解中央，按反革命罪条例惩治。”(《革命生活》第五十八期，一九二七年四月十九日出版)但是蒋介石羽毛已丰，干脆一不做二不休，于四月十八日在南京另立中央，制造一党两府，导致宁汉分裂。二十一日汪精卫、谭延、孙科、宋子文等四十人联名发表通电，谴责蒋介石由反抗中央进而自立中央之行为，并号召民众与同志“去此总理之叛徒、中央之败类、民众之蟊贼”。(见《汉口民国日报》一九二七年四月二十二日)
通电虽严正，然口诛笔伐于实无补。武汉方面虽有军队，但北方军阀未除，多数倾向北伐讨奉。徐谦甚至说：“反革命蒋介石，用不着出兵声讨，就是用党制裁，开除党籍，免去军职，在东南的革命力量，不久会把反叛的蒋介石，拿送中央惩办的。”(转引自杨天石《寻求历史的谜底》，页五三五至五三六)未免过于天真，结果反被“叛徒”“制裁”了。不过，由于武汉中央急于先击溃北方之敌，东征讨蒋一役得免。蒋介石闯了决裂的穷祸之后，却幸免一场国民党自家兵戎相残的悲剧。
武汉中央痛责蒋介石为反革命叛徒，是合乎事实的。“反革命”好像是一项空洞的政治罪行，但当时所谓“革命”，有其具体内容的。那个革命的渊源是一九二四年孙中山改组国民党，精神是联俄容共，方策是发动工农等群众运动，目标是打倒军阀、打倒帝国主义、统一中国。然而蒋介石到上海后立即清党反共驱俄，明显反“革命之精神”：镇压工人，明显反“革命之方策”。据英国的纪录，蒋在上海清除共党与工人，其大胆远远超过北方的军阀(引自Lsaacs，TheTragedyoftheChineseRevolution，P.181)，所以一九二七年四月汪蒋上海密谈，汪即以不可牺牲革命的精神、方策、纪律相劝，但蒋置若罔闻，一意孤行。后来的国民党史官辄以共党暴乱，蒋介石讨赤有功为说(如李云汉之《从容共到清党》)，殊不知北洋军阀如孙传芳等自称讨赤军，而蒋正是北伐赤军的总司令。赤军总司令成为讨赤元勋，岂不是革命的最大讽刺？还不足以被称为“反革命”吗？至于勾结军阀与帝国主义，更是反“革命之目标”而行。蒋介石在上海与资本家、买办、地主等结合，固与革命不搭调。暗通杜月笙、黄金荣、张啸林等帮会头目，引为内助，则与革命更加风马牛不相及了。蒋介石平生以革命自诩，实际上却为喊着革命反革命提供了最佳的例证。
上海帮会流氓分子原与共产党也有关系，所以汪寿华才会上当。但蒋介石与他们的关系更加深厚，与黄金荣且有师徒之谊。蒋又用六十万元收买流氓，到各地去打总工会。(参阅一九二七年四月一日《上海区委各部委书记组织会议》)蒋甚至许诺张啸林、杜月笙为江苏水上警察厅正副厅长。(见一九二七年四月《上海公共租界工部局警务日报》)上海流氓势力既然反共清党有功，自然成为蒋介石的党国新贵、地方政要，后来杜月笙成为南京陆海空军总司令部少将参议，也就不稀奇了。(参阅苏智良《上海流氓势力与四一二政变》，《近代史研究》一九八八年第二期，页二一二至二二五)李宗仁在回忆录中也提到了上海流氓，由于国民党的提携而登上大雅之堂，颇不以为然。