根据国民党一届四中全会的决议，国民党第二次全国代表大会于1926年1月4日在广州召开。这是由汪精卫主持的一次具有重大意义的会议。它重申了联俄、联共、扶助农工的三大政策和第一次全国代表大会宣言的正确性。汪精卫在会上表示了继续执行孙中山的三大政策和三民主义。他说，只要坚持按孙中山的遗嘱去做，革命没有不成功之理。会议还着重讨论了对“西山会议派”的处理问题，许多代表发言揭露右派分裂国民党，破坏国民革命的阴谋，要求对他们采取严厉的处分。但汪精卫对此采取了调和的态度，他说：“西山会议只有两点钟”，只是“一两人可恶”。因此，只开除了邹鲁、谢持两人的党籍，对其他人采取了纵容宽大的态度，仅12人受到警告。结果戴季陶、孙科、萧佛成、伍朝枢、胡汉民等右派又当选为中央委员。而“右派中最危险的一个家伙是戴季陶。他虽然也在孙中山的遗嘱上签了字，表面上不赞成西山会议派的分裂，也说要维持国民党的统一，但他采用的是打人广东国民党从内部分裂国民党的阴谋”。他“见着人就痛哭流涕地大讲其‘孙文主义’，从上海讲到广东，又从广东讲到上海”。但是他“完全抽去孙中山学说中的一切革命的东西”。当时中共领导对右派也是采取了妥协的态度，竟然与戴季陶谈判，请戴季陶和孙科等右派回粤参加国民党第二次全国代表大会，并派了张国焘做这次大会的党团书记，“说我们过去把左派包办了”，要让左派和共产派分开，“让左派独立起来”。本来左派在大会上占绝对优势，结果在选举中左派的势力被大大削弱了。36个执委中，共产党只得7个，比原先计划少了将近一半，国民党左派的席位也减少了，勉强才算14人。这次大会虽然发了《弹劾西山会议决议案》，打击了国民党右派的猖狂气焰，只不过使右派潜伏下来。戴季陶到广州后，便四处活动，到黄埔军校去做分化工作，很快便出现了“孙文主义学会”的右派组织。不久，右派便和蒋介石互相勾结，策划新的反扑。
在这次国民党第二次全国代表大会上，蒋介石当选为中央执行委员会委员，在选票上，蒋仅仅比汪精卫少一票；接着在二届一中全会上，蒋与汪又仅以一票之差而当选为中央执委常务委员，成为国民党中央的核心领导成员。蒋的突然腾飞，令人瞩目。仅仅在两年前的国民党第一次全国代表大会时，蒋介石不说一般的中央委员没有捞着，连代表都不是，在党内没有任何地位。而在此次代表大会选举前，蒋即以国民政府军委委员的身份，紧跟在汪精卫作政治报告后作军事报告，这种安排就非同小可，实际上向代表们展示了汪主政、蒋主军的地位。这对蒋此次在党内取得仅次于汪的领导地位，作了铺垫。在这点上，汪是起了很大的支持作用的。
汪精卫在这一问题上又失算了，他对蒋介石的野心缺乏警惕，他本想用对蒋介石的支持以换取蒋在军事实力上对自己的支持，然而蒋对他的支持，远不及对他的利用。在这次选举之前，汪精卫本想把积极支持自己的第二师师长王懋功入选中央委员，却遭到蒋介石以退为进的狡猾反对。蒋貌似谦虚地说：“我还是在军事方面多尽点力，我不要当中央委员，也不应该当中央委员，一个军人如果什么事都管，就难免造成军人政治……王柏龄、王懋功更没有必要。”汪对蒋的阴险用心并没有察觉，就轻易地收回了自己的意见。结果这次选举，王懋功自然名落孙中山，而蒋介石却一下跃为中央执委常委，进入国民党领导核心，接近与汪精卫平起平坐的地位。
原来这王懋功是蒋介石手下三个师长中的一个，自从王投靠汪精卫成为左派以后，蒋早已对其心怀不满，故极力反对其为候选人，这一着棋蒋介石赢了。接着，蒋介石一不做二不休，决计将王懋功一脚踢开，看汪精卫有多大的能耐。有一天，王懋功到蒋介石家里汇报工作，蒋突然下令解除王懋功卫士的武装，二话不说，送给王3000元旅费和一张船票，限令他立刻上船离开广州。同时调蒋的亲信刘峙升任第二师师长。汪精卫对蒋介石这种做法，十分不满，却也无奈，只好以军事问题由蒋决定而不了了之。蒋又一次试探了汪的意志和魄力，发觉汪精卫不过如此，触犯一下，他也毫无办法。
在孙中山逝世以前，汪蒋之间没有多少往来，汪仅仅因到黄埔军校讲课而和蒋有点接触。孙中山逝世后，在平定杨刘叛乱中，汪蒋开始合作，国民政府军事委员会成立以后，由于汪当主席、蒋当委员，又需互相利用，联系开始密切。特别是“廖案”发生以后，汪蒋同是三人特别委员会的成员，在处理“廖案”过程中，由于利益一致，他们密切配合，驱逐胡汉民、逮捕梁鸿楷、逼走许崇智，以及打击“西山会议派”、东征讨陈（炯明）、南征讨邓（本殷），他俩配合得都不错。因为各有打算，汪需要蒋这样一位有军事实力的人物对他执政提供支持；蒋则需要汪这样一位政治上很有影响的上级作为自己往上爬的台阶。如果没有汪的支持，蒋要把自己的上级许崇智挤走是办不到的；又如果没有汪蒋合作，要驱逐胡汉民也是不好办的。这段时间，汪蒋互相尊重，公开吹捧，私下结拜金兰，称兄道弟，关系打得火热，可谓汪蒋政治上的“蜜月”。在这暂短的“蜜月”期间，蒋介石左一声“汪主席”，右一声“汪党代表”；汪对蒋则大加吹捧，在追悼廖仲恺会上，汪说：“用十二分的努力，练成真正革命的军队，以为总理臂助的是蒋校长。”在黄埔军校改组为中央军事政治学校成立典礼上，汪发表讲话时又说：“对于蒋校长的人格和努力奋斗的精神，本党各位同志都是极端钦敬，所以我们拿蒋校长的人格来改组这个学校，同时并请蒋校长依然担任本校校长。”汪为蒋树立威信，以此为拉拢蒋介石的手段。同时，他还以国民政府主席之尊，而兼任军校党代表，来抬高蒋的身份和密切与蒋的关系。
蒋介石自从担任黄埔军校校长以后，处心积虑地培植自己的势力，把自己的亲信安插到学校各个领导岗位，逐步排斥共产党人和左派势力；同时又把毕业生派到各部队去担任领导，形成一个忠于蒋介石的黄埔系。在排挤粤军总司令许崇智后，他掌握了粤军大权，特别是国民党“二大”以后，他不仅当了中执委常委，而且担任了国民革命军总监，使他凌驾于其他几个军长之上，从而确立了他的军事领袖地位。他的政治野心迅速膨胀了。于是便寻找机会，向汪精卫第一把交椅的领导地位发起挑战。
正好这时，右派制造谣言，说共产党准备把蒋介石押送莫斯科，以排除行动障碍。蒋介石将信将疑。一天，军校秘书陈立夫对蒋说：“校长，我看到火候了，就拿李之龙这小子开刀吧！”李是海军局代理局长（共产党员），因为曾把蒋介石的亲信陈肇英走私的勾当报告了汪精卫，结果船只被扣，人员被拘，陈等受了处分而怀恨在心。加以李之龙又兼了中山舰长，蒋介石对其很不顺眼，而且李的行动对军警人员走私造成很大的障碍。蒋决定向李开刀，既是对共产党的打击，又是向汪精卫权威的挑战。于是一个阴谋计划便很快产生了。
1926年3月20日凌晨3点，蒋介石趁汪精卫在家养病，便借口中山舰“有变乱政局之举”擅自以广州卫戍司令名义宣布戒严。并立即任命自己人欧阳格为海军舰队司令，派兵逮捕了代理海军局长兼中山舰舰长李之龙；同时调动军队断绝广州市内交通，包围省港罢工委员会及苏俄顾问办事处，收缴了工人纠察队的枪支；并扣留了黄埔军校和国民革命军第一军的共产党员几十人。制造了一起轰动全国的“三二0”事件，亦称“中山舰事件”。
在“三二0”事件的前两天，黄埔军校驻省办事处主任欧阳钟便以蒋介石名义令海军代理局长李之龙“着即通知海军局迅速派兵舰两艘，开赴黄埔听候差遣”。李之龙不疑有诈，立即派中山、宝璧两舰于19日晨开抵黄埔，蒋却称无调遣命令，后因苏俄参观团要参观军舰，李之龙请示蒋介石后，于是下午6时将中山舰开回广州省河。这本来都是奉命行动，但事后蒋却说中山舰“无故升火达旦”，显系“异动”。国民党右派散布谣言说：“共产党企图用中山舰把蒋介石绑架到俄国去”，“阴谋暴动”。其实，当时共产党还把蒋介石看成是左派，对蒋的阴谋毫无察觉，故蒋的反共行动得以顺利进行。还有，李之龙被捉后申辩说：“如果我调遣军舰去攻黄埔，我怎么还有工夫在家里睡大觉呢？”李之龙是被欧阳格半夜派兵从床上抓起来的。可见，蒋介石和国民党右派的谎言是完全站不住脚的。
“三二0”事件发生后的这天上午，最早来到汪精卫家里的是军委政洲部主任陈公博。陈和汪的私交很深，每遇事都和汪商量。当他看到外问戒严，俄国顾问住处被包围，不知怎么回事，赶快跑来问汪精卫是否知情，汪精卫茫然不知所问。正在这时，谭延恺和朱培德两位军长带了蒋介石的亲笔信来找汪精卫，显然蒋介石已向这两位军长做了工作。蒋在信中向汪撒谎说：由于共产党图谋暴动，所以不得不紧急处置，请求汪主席原谅。这明显是诡辩之词，汪精卫就在城内，近在咫尺，有什么理由来不及请示呢？当时，汪精卫无论在政府或党内军内都是最高领导，对如此重大的政治军事行动，蒋事先不请示不报告，无疑是蔑视汪精卫权威，把汪置于难堪的地步，实际上就是要看看汪能对他怎么办？
汪精卫看信后怒不可遏，大声说：“我是国府主席，又是军事委员会主席，介石这样举动，事前一点也不通知我，这不是造反吗？”他气得猛然站起来，抓起一件长褂，说要和谭延恺、朱培德找蒋介石去，问问他到底想干什么？但陈璧君把他劝住了，“你身体这样，是不能去的”！汪精卫举止失措地一屁股坐回帆布床上，说：“我在党有我的地位和历史，并不是蒋介石能反对掉的！”
而对蒋介石的挑战，汪精卫能拿他怎么办呢？第二天，他把谭延恺、朱培德、李济深三位军长找来，和他们简单交谈后，便以军事委员会主席的身份，问他们敢不敢去将蒋介石扣留起来。汪精卫这一着是很不明智的，明明是昨天蒋介石已做了谭、朱的工作，而汪在会前又不分别找他们个别谈话，便贸然在会上公开提出谁敢将蒋扣留起来。应该考虑到他们虽和蒋有矛盾，但谁也不愿意或不敢去扣留最有实力的蒋介石。何况蒋与他们多少亦有交情，汪则虚有其名，而无实力。权衡利害，谁都不肯去出头冒这个险，而且思想没有统一，没有充分准备，大家只有面面相觑，不吭一声。
其实，汪精卫如果有魄力、有胆略、有决心善于组织运用他手下李济深、程潜、谭延恺、朱培德、李福林等几个军，善于联合和发动共产党的力量，是能够打败蒋介石的。正如周恩来所说：“三二0”事变是“蒋介石与右派勾结，打击汪精卫，向共产党进攻，向革命示威。这时谭延阊、程潜、李济深都对蒋介石不满，朱培德、李福林有些动摇，但各军都想同蒋介石干一下。如果这时党中央的政策是给蒋介石以有力的回击，毫无问题，事情是有办法的”。
22日，中央政治委员会在汪公馆召开了一个临时会议，讨论“三二0”事件的处置问题。蒋介石、谭延恺、伍朝枢、朱培德、宋子文、陈公博、甘乃光、林祖涵等到会。会上，蒋介石首先坚持其打击共产党所谓“异动”的立场，结果取得与会者多数支持，同意撤出苏俄顾问及二师各级党代表，查办“不轨”军官。这一下让蒋介石占了上风，同时他又为自己诡辩，假意为自己“专擅”行为请罪，他说：“事起仓促，处置非常，事前未及报告，专擅之罪，诚不敢辞。但深夜之际，稍纵即逝，临机处决，实非得已，应自请从严处分，以示惩戒，而肃纪律。”他把自己毒辣的政治阴谋，轻轻地归结到纪律问题上，而且这次违纪是为了抓住“稍纵即逝”的战机，那还有什么错呢？讲得如此冠冕堂皇，谁还敢给他从严惩戒？首先汪精卫就没有勇气站出来揭穿蒋介石的阴谋，他有苦说不出，有气吐不得，他只软绵绵地讲了两句军事当局非奉党的政治领袖的命令，不得擅自行动的话。他只不过重申了一下党的纪律，连批评都谈不上。处于这种窝囊的境地，汪精卫只好在会上向国民党中央请长假，躲在家里闭门谢客。1926年4月初，汪以易地就医为名，出走香港，黯然赴欧。蒋介石轻而易举地就击败了汪精卫，赢得了个满分。
汪精卫走后，蒋介石不失时机地推进自己的计划，于4月16日，召开了国民党中央党部和国民政府联席会议，改选了国民党中央政治委员会主席和军事委员会主席，由谭延阊和蒋介石分任中央政治委员会主席和军事委员会主席。此时，蒋在表面上还未得到党的主席职务，但实际上他已取代汪的地位。
汪精卫是资产阶级的代表人物，因而无法真正依靠工农和联合共产党，在斗争中常常表现出软弱、妥协、摇摆等弱点。他好赶时髦、好说大话、好走极端，这些特点，孙中山是深为了解的。他对汪精卫作过这样的评价：“精卫本亦非俄派之革命”，“长于调和现状，不长于彻底解决”。他的这种阶级烙印，只是为大革命波谲云诡的政治浪潮所淹没，一旦革命洪流中出现漩涡，它就明显地再现出来，贻误革命。但是他在孙中山先佳逝世后的一段时期内，为大革命高潮的来临做了不少推波助澜的工作，他的革命性多于妥协性，因而应恰如其分地予以一定的历史评价。
四就是有点儿怕“老蒋”
1926年5月，汪精卫自香港再度赴法。九十月间生病卧床，“不能思想”，以后“除读书游历外，不问他事”，过着“丽蒙湖上观落日”、“胭脂新染凝脂肤”的生活。1927年3月，因武汉政府屡电催其归国，才于4月1日途经莫斯科抵达上海，结束了海外10个月的游子生活。
汪精卫赴法期间，正是北伐战争胜利进军之时。1926年7月，从广东出发的国民革命军，势如破竹，打垮了北洋军阀吴佩孚、孙传芳的主力，到达长江中、下游。在武装斗争的推动下，工农群众运动蓬勃发展，上海工人阶级在中国共产党的领导下，先后举行了三次武装起义，解放了上海。但是，随着革命形势的迅速发展，蒋介石的军事独裁局面逐步形成。蒋介石在北伐战争中招降纳叛，破坏国共合作，反对工农运动的独裁行径受到了国民党内左派人士的一致谴责。在一片怨恨声中，“拥汪复职”、“迎汪复职”的行动成为左派势力与蒋介石军事专制作斗争的重要砝码。他们认为汪在广州与中国共产党合作过，又是蒋介石发动“三二0”事件赶跑出国的，以为他是反蒋的“最适当的党务政治领袖”、“左派领袖”。由他回国主持国家大计，即可制止蒋介石向右转。
“迎汪复职”口号内涵的发展大致经历过两个阶段：一是汪蒋合作，以汪限蒋；二是以汪代蒋，以汪倒蒋。
