3月20日凌晨，蒋介石在第1军经理处下达命令：广州戒严；任命欧阳格为海军舰队司令，逮捕李之龙，占领“中山舰”；派兵包围省港罢工委员会，收缴工人纠察队枪支，搜查苏联顾问团卫队武装。早就对李之龙恨之入骨的欧阳格带兵到文德楼，将李之龙从床上抓走。6时，欧阳格、陈策带兵占领“中山舰”。10时，召集各舰舰长开会，宣布奉令扣押“中山舰”舰长和党代表，有些人还被戴上了手铐。苏联顾问嘉列里赶到“中山舰”，欧阳格不许其上舰。蒋介石等同时还派亲信舰只泊于珠江口，对其余舰只进行控制、检查。广州海军中的共产党员、共青团员及国民党左派均被驱走，海军被蒋所控制。蒋任命潘文治为代理海军局长，吴嵎为“中山舰”舰长。
《聂荣臻回忆录》封面这就是震惊全国的“中山舰事件”，又称“三·二〇事件”。
聂荣臻时任黄埔军校政治部秘书，他在《回忆录》中记述了“中山舰事件”，说：“那天是星期天，早晨，我还不知道发生了什么事情，正从黄埔坐船去广州。我们的船快到广州时，就听到中山舰上有人喊，叫把船靠拢。船一靠拢，就叫人们都上舰。我到了舰上一看，都是些共产党员，大家都不讲话，我晓得有事变了。我们被软禁在舰上的时间不长，当天下午就释放了……怎么办？是把蒋介石搞掉，还是退让妥协？蒋介石提出的条件是：第一，共产党员退出第1军；第二，不退出的要交名单。周恩来同志回来向我们传达，中央决定接受蒋介石的条件。于是我们有些同志退出了军队，恩来等同志被排挤出了第1军，我也被免去了在黄埔军校的职务。有些则把名单交给了蒋介石。党内也有少数不坚定的分子，从此投靠了蒋介石。”
事件发生后，中共广东区党委的同志们都非常气愤。负责人陈延年、周恩来、黄锦辉、聂荣臻等聚集到区党委讨论，大家认为蒋介石在政治上已经很反动，应当给予坚决反击或把他干掉。这时，在广州的许多中共领导人如毛泽东等也有同样的看法。从当时的力量对比看，把蒋介石搞掉是完全有可能的。此时，蒋介石手中的王牌仅有第1军，况且这个军是黄埔教导团的底子，中共力量非常强，金佛庄、郭俊两位团长都是中共党员，营以下军官中也有很多人是中共党员。其他的5个军，都不听蒋介石的招呼，而共产党员在这些军中有很大的影响，有4个军的军党代表是中共党员。聂荣臻回忆说：“虽然蒋介石兼第1军的军长，但真要打起来，他能指挥的力量是不多的。此外，在黄埔军校，我们也有很多党团员，黄埔学生中，大部分是支持我们的。省港罢工队伍，当时还没有解散。力量对比，很明显，于蒋介石不利。但是，由于我们事前毫无思想准备，在错综复杂的矛盾面前，被迫妥协下来。”（《聂荣臻回忆录》上册，47～49页，北京，战士出版社，1983）
周恩来在多年后回忆这次事件时也说：“如果这时党中央的政策是给蒋介石以有力的回击，毫无问题，事情是有办法的。但当时却采取了继续退让的政策，不了解蒋介石这时还没有足够的力量，他是不敢分裂的，却以为蒋介石是要分裂，就向蒋介石说这是误会。蒋介石于是趁机立刻放了人，表示误会。这是陈独秀右倾机会主义第二次向蒋介石的大让步。这是军事上的大让步。为了解释‘误会’，在汪精卫床前开了一个一点钟的政治委员会。汪精卫、谭延闿、苏联顾问都客气地表示了歉意，而蒋介石倒反而一句话都没说，精神上占了优势，政治上得到极大成功。从此以后，汪精卫‘失踪’了，国民党左派束手无策。蒋介石向革命进攻，我们没有给他有力的回击，蒋介石的地位更加巩固了……蒋介石实际上成了国民党的右派。这个时候，他乘机把广东的青年军人联合会和孙文主义学会解散了，并压迫我们的党员从国民革命军第1军以及黄埔军校撤出。我们已经暴露了的党员退出国民党和第1军的有250多人，其中有蒋介石最得意的学生蒋先云同志，他第一个声明退出国民党。只有39个人退出共产党，其中第一个就是李默庵。”（《周恩来统一战线文选》，第62～63页）
