众人一致赞成清党。傍晚，国民党中央监察委员会召开紧急会议，蔡元培、李宗仁、古应芬、黄绍竑、张静江、吴敬恒、李石曾、陈果夫等人出席，公推前北大校长蔡元培为主席，讨论分共问题。据黄绍竑说，全体监委（二十人）只有五人出席会议，只占四分之一，蔡元培、古应芬、张静江三人其实都没有参加这次会议，“‘公推’一个不在场的蔡元培当主席，还把到会的人数说成是三分之二。这种睁着眼睛说胡话的撒谎伎俩也实在太拙劣可笑了”。蔡元培到底有没有参加这次清党会议，其实并不重要，蔡、古、张三氏不管有无出席这天的会议，他们支持清党的态度，都是很明确的。但蔡元培一介书生，以为清党是在法律范围内进行，竟没有想到是以“屠杀”的方式。
会议向国民党中央执行委员会提出咨文，要求对各地“共产党首要危险分子、经党部举发者”，就近知照公安局或军警，暂时分别看管监视，免予活动，由全体中央执行委员会共议处分。对武汉政府（包括联席会议、二届三中全会）所产生的机关及其所发命令，应暂时搁置，不予执行。
4月3日，汪精卫在莫利哀路的孙文故居与蒋介石、吴敬恒、李宗仁、蔡元培、李石曾、李济琛等人会议。汪精卫劝蒋介石：“如果这一回东南与武汉开战，你失败了，国民党就此消失，共产党必就此起来；如果你得胜了，武汉被东南打倒的时候，无论右派的军队、左派的党员，一定不会同你蒋介石合作，你在党内的生命，怕要从此消失。”
蒋介石回答：“现在不是这个问题，现在是国民党生存的问题。如果国民党可以生存，无论什么责任我都可以负担起来；绝不能自己不负责任，从中取巧，来做一个好人。现在我们只有不管成败利钝，同共产党分离！”
蒋介石认为，当务之急有二，一是驱逐鲍罗廷，二是分共。大家都要求汪氏留在上海领导，汪氏则以总理的联俄容共与工农政策，不能擅改为由，左推右搪。吴敬恒情绪激动，竟跪在汪氏面前，请其改变立场。汪氏大窘，仓皇避上楼梯，连呼：“稚老，您是前辈，这样来我受不了，我受不了。”
吴敬恒提出检举中共案，要求各地立即实行清共。他断然表示：“此次监察委员会提出对共产党弹劾案，必将采断然之处置，故只系通知而非商榷。”汪氏听罢，愀然不乐。经黄绍竑、李宗仁出面转圜，一致请汪氏提出解决良策。
汪氏提出三项应急办法：一、汪精卫负责通告中共首领陈独秀，立即制止国民政府统治下之各地共产党员，应于开会讨论之前，暂时停止一切活动，听候开会解决。二、中央党部及国民政府迁鄂后，其命令如有妨碍党国前途者，于开会之前不必执行。三、各省党部、各执行机关如有捣乱分子在内阴谋破坏者，在汪所拟召集之会未能解决以前，应由各最高级长官饬属暂时制裁。蒋介石则允通电所有党务政治均由汪氏负责，统一于中央，本人专心军旅，对汪氏完全服从。
会后，汪精卫又登门拜访在上海蛰居的胡汉民，告以暂不执行武汉命令，各省有权惩治不法分子，党务问题定于4月15日在南京召开中央执行委员会解决等项措施。胡汉民深以为然。
国民党内部商议既定，汪精卫才与陈独秀、周恩来见面。汪氏质问陈独秀，共产党是否已提出打倒国民党、打倒三民主义的口号，并主使工人冲入租界？陈独秀坚决否认，绝无此事。为了表示合作诚意，陈氏亲自起草了一份《国共两党领袖联合宣言》，由汪精卫、陈独秀共同署名，4月5日，在《申报》全文刊登。宣言称：
中国共产党坚决的承认，中国国民党及国民党的三民主义，在中国革命中毫无疑义的需要，只有不愿意中国革命向前进展的人，才想打倒国民党，才想打倒三民主义。中国共产党无论如何错误，也不至于主张打倒自己的友党，主张推倒我们敌人（帝国主义与军阀）素所反对之三民主义的国民党，使敌人称快。
…………
上海军事当局，表示服从中央，即或有些意见与误会，亦未必终不可解释。在共产党方面，爱护地方安宁秩序，未必敢后于他人；对于国民政府不以武力收回上海租界政策，亦表赞同，总工会亦已发表不单独冲入租界之宣言；对于市政府，亦赞同各阶级合作政策；事实俱在，更无造谣之余地。国共两党同志们，我们强大的敌人，不但想以武力对待我们，并且想以流言离间我们，以达其“以赤制赤”之计。我们应该站在革命的观点上，立即抛弃相互间的怀疑，不听信任何谣言，相互尊敬，事事开诚协商进行，政见即不尽同，根本必须一致。两党同志果能开诚合作，如弟兄般亲密，反间之言，自不获乘机而入也。
这个宣言两头不讨好，起不到缓和危机的作用。后来陈独秀承认，这是他“根据国际对国民党及帝国主义的政策”，搞出来的一个“可耻的宣言”，它摆出一种向国民党妥协的姿态，麻痹了广大中共党人。但在一批正在谋划分共的国民党人看来，它并不是显示中共的妥协，相反，倒显示出国共两党，似乎已平起平坐，从“容共”进化为“联共”了。这可惹恼了吴敬恒一干人等，随即在上海道尹署（特派员公署）召开谈话会，吴敬恒挥动着手中的报纸，声色俱厉地质问汪精卫：“中国从此即由两党共同统治了吗？”汪氏大笑回答：“这篇宣言说两党不可发生误会，并无两党共同统治中国的话。”
吴敬恒说，孙文的联俄政策，是要苏联援助中国革命，并非请他来共治中国。至于容共问题，乃容纳共产党个人加入国民党，服从三民主义，亦只是希望他们协助国民党革命而已，更非请其共治中国。“他们既要拥护共产党，我们也要拥护国民党。如果他们拥护共产党的言行，超过了友谊范围，要来共治中国，甚至想独治中国，那我们拥护国民党的力量更不能不大增。”吴氏进一步强调，“‘联共’二字在国民党文献中并无所闻，去年5月广州虽有国共联席会议，但其意旨仅在疏解双方友谊的误会，决谈不上‘联共’之说。”
汪精卫百般辩解，最终达成一致意见：4月15日在南京召集中央全体执行监察委员会联席会议，以求彻底解决。在此之前，采取四项应急办法：一、由汪精卫负责通知中国共产党领袖陈独秀，立即制止国民政府统治之下各地共产党的一切活动，听候开会解决；二、对武汉中央及政府所发命令，如有认为妨害党国前途者，概不接受；三、各军队、党部、团体、机关，凡有在内阴谋捣乱者，暂时取缔，加以制裁；四、凡工人纠察队等武装团体，应归总司令部指挥。
汪精卫在“三二○事件”上吃了蒋介石的亏，心里始终有一根刺，觉得此人难以合作，留在上海，就得听蒋氏的指挥棒，汪精卫心有不甘。他骨子里并不想联共，但他和斯大林一样，觉得共产党是只还没榨干的“柠檬”，还可以再利用一下，到武汉可以“挟共自重”，作为与蒋对抗的筹码。双方既各具怀抱，汪精卫便悄悄离开上海，上了前往武汉的船。
血海中的4月
这时，全国从南到北，反共空气愈来愈浓，像南方的浓雾一样化解不开。
3月31日，四川军人以武力解散重庆工农商学兵、反英大同盟召开之市民大会，封闭省党部、农民协会、总工会，解散工人纠察队，杀害共产党人杨闇公、陈达三、漆南勋、冉钧等人。4月2日，蒋介石解散第一军第一、第二师政治部，封闭自武汉迁来上海的总政治部。4月3日，福州举行拥蒋（介石）护党大会，主肃清跨党分子。4月6日，就在汪精卫动身前往武汉的同时，北京发生了奉军搜查苏联大使馆事件。
当时奉系军阀张作霖以安国军总司令名义开府北京，形式上由顾维钧任国务总理兼摄大总统职务，五色旗下，尚拥有直、鲁、奉、吉、黑、察、热数省地盘，与国民革命军相抗衡。为了稳定后方，从3月开始，北京大肆搜捕激进学生。担任京师警察厅司法科长的沈维翰追述，“其时京师（北京）警察厅内右一区警察署，在西交民巷发现工人分发秘密传单，当场拘捕七名，送请总厅法办。经连夜侦办，破获共产党秘密机关六处，发现大批文件，及扣押人犯100余人。不久又继续查获文件三大箱，扣押人犯二十余人。”
经过三昼夜的审讯，在被捕人士中，发现有李大钊之秘书李渤海（山东渤海人，北京大学毕业，为李大钊之学生）。此人向警方供出李大钊藏匿在东交民巷苏联大使馆的情报，并交出了一批共产党人的名单。4月6日，寒风习习的清明节。更大规模的抓捕行动开始了。沈维翰说：
但是俄国使馆在东交民巷的使馆区，根据辛丑条约，中国军警不能进入，尤不能携带武器，那该怎么搜查呢？而且公然搜查外国使馆，在外交史上也甚少前例，必将引起各国的反对和干涉。国务总理兼外交总长顾维钧不敢负此重责，张作霖乃决定由安国军总部径与美、法公使等洽商，并取得使团领袖荷兰公使欧登科之谅解，同意搜查俄使馆，并在警厅的公文上签字。于是就在4月6日上午，安国军和京师警察厅军警共三百余人，一律便衣，不带武器，进入东交民巷俄国使馆搜查。当时我曾建议携带消防队，因为我们深恐俄人放火烧毁文件及房屋，湮灭证据；此议为总监陈兴亚所接纳，即带消防队前往。俄人果然放火，虽经消防队灌救及时扑灭，销毁之文物也不在少数。总计在俄国大使馆抄获枪械及文件五大卡车，存放在京师警察厅，供各国驻华使领馆人员参观，公开展览七日之久。
军警动手之前，李大钊已经得到消息，有人劝他速速离去，他慨然表示：“张作霖无此大胆，即使可靠，只怕便衣侦探早在东交民巷布下天罗地网，要走走不了，一走反去送死。但是同志中有人愿离开的，不妨离开。”他自己死守不去。
整个搜捕行动，从上午11时持续至下午7时，北京军警搜查了苏联大使馆及远东银行、中东铁路办公处，拘捕了共产党人李大钊等六十多人。当晚公使团曾表示抗议搜查行动逾越范围，但那只是做做样子而已，对搜查苏联使馆，私底下无不拍手称快。北京随即由安国军总司令部军法处、京畿卫戍总司令部、京师高等审判厅和京师警察厅合组特别法庭，以何丰林为审判长，对李大钊等人进行秘密审讯，不准旁听，不准请律师。
张作霖马匪出身，哪里搞得清国共两党的异同，反正都是南方赤党，都是“乱党”，一律要严厉扑灭。被捕各人，无论是共产党人，还是国民党人，都受到了严刑拷问。《在俄大使馆之李大钊》一文这样记着：
