1．大屠杀的幕后策划人
蒋介石问陈果夫：“大家既已表态，你看该怎么办？”陈果夫说：“反共清党是我们坚定不移的方针，这一点大家都有了共识。但我们怎么一步一步地去做，怎样使本党同志和国人都明白我们之所以反共清党的道理，我们却还没有讨论，是否再另开一次会，讨论这些问题呢？”
1927年3月，革命势力已发展到长江下游，其锋芒直指帝国主义在中国的统治中心--上海。为配合北伐军占领上海，上海工人阶级在中国共产党的领导下，先后举行三次武装起义，终于占领了上海。1927年3月22日，蒋介石的第一军第一师薛岳部不费一枪一弹开进上海。
为了使反革命政变能披上合法外衣，蒋介石也需要有人能为他摇旗呐喊，制造舆论。他想起了陈果夫。在南昌的时候，陈果夫就向蒋介石提议召开中央监察委员会全体会议，建议以国民党党纪来制裁共产党。因为在陈果夫看来，“中央执行委员中多数同情共党，而监察委员则多数为本党忠实同志。”于是，在北伐军进入上海的第二天凌晨，陈果夫被蒋介石派人接去了上海，在上海之外的国民党中央监察委员会委员也接到了蒋介石发来的赴沪开会的电报。
此时的蒋介石，经过北伐，势力进一步壮大，他不是继续挥师北伐，而是与帝国主义及上海的反动势力密谋策动一场反共反人民的反革命军事政变。
早在3月初，北伐军进占江西的时候，蒋介石便唆使其爪牙，残杀了江西省总工会副委员长、赣州总工会委员长共产党员陈赞贤。3月16日，蒋介石又以武力解散了拥护孙中山三大政策的南昌国民党市党部，通缉市党部执监委；解散江西省学联会，封闭国民党左派的《贯彻日报》社。3月17日，蒋介石指使爪牙在九江，纠合青红帮流氓在街上大呼“新军阀万岁”，“蒋总司令万岁”，“打倒赤化分子”等口号，围攻和捣毁拥护孙中山三大政策的国民党九江市党部、总工会、第六军政治部，杀害市党部干部三人，总工会干部一人。工人纠察队捕获行凶流氓多人，复被蒋介石的卫兵全部劫去。3月20日，蒋介石到了安庆，又利用流氓组织所谓“安徽省总工会”。23日，安庆市召开欢迎蒋介石总司令的市民大会，蒋介石以每名大洋四元的身价，收买流氓组成了敢死队，准备在召开的市民欢迎大会这天，敢死队举行暴乱，约定敢死队在杀害革命者时，受轻伤者赏大洋100元，重伤者500元，丧命者1500元。就在当天，这批流氓土匪捣毁了安徽省国民党党部。安庆市党部、全省总工会筹备处、省农民协会筹备处、安庆市妇女协会等革命机关团体，打伤职员和省代表大会代表数十人。蒋介石就这样一路杀到上海。
当3月22日北伐军进驻上海时，蒋介石就密令将“打倒帝国主义”的口号，改成“和平奋斗救国”的口号。26日蒋介石到上海，立即向帝国主义表示：“国民革命军是列强各国的好朋友，决不用武力来改变租界的现状。”
3月28日，陈果夫、吴稚晖、张静江、古应芬、李石曾等国民党监察委员会常委开会，诬蔑加入国民党的共产党谋叛国民党，“危害本党及中国”，“应行纠察”。由于参加会议的监委不多，陈果夫等决定由吴稚晖草拟提案，等监委会召开监察委员会全体会议讨论。但蒋介石已准备好了屠刀，迫不及待地要下手了。
对于蒋介石的态度，帝国主义列强非常满意，他们以威胁和利诱等手段，敦促蒋介石迅速进行反革命政变，并答应以其驻扎在上海的两万余名侵略军帮助蒋介石镇压革命群众。帝国主义列强会同上海买办阶级和民族资产阶级上层分子，送给蒋介石1500万元，作为进行反革命政变的经费，并预定在政变后，再送3000万元，作为蒋介石建立反革命政权的资本。黄金荣、杜月笙组建的“中华共进会”、“上海工界联合会”等黄色工会也答应听候蒋介石调遣。
为扫除上海外围的革命势力，蒋介石于3月29日命白崇禧在杭州袭击杭州总工会，屠杀工人领袖和革命群众，同时又以总司令名义，将攻占南京的所谓“不稳”的左倾部队调到长江以北作战，并委派何应钦第一军和李宗仁第七军驻防沪宁线，监视左倾部队。另外，4月5日，蒋介石又将上海的左倾部队调离上海，改派反正的北洋军阀周凤歧二十六军接防上海。
当时上海已盛传蒋介石要解除上海工人纠察队武装，为欺骗群众，蒋介石假称“工人纠察队乃是人民的武力，革命政府断无加以摧残之理，如有流氓捣乱，一定从严究办”。
蒋介石还假惺惺地给上海总工会纠察队送去他亲笔题写的“共同奋斗”的四字锦旗，以表示他对上海工人阶级的“敬意”。为欺骗共产党人，蒋介石还下令封闭了反共的西山会议派设在上海的国民党中央党部。
4月的上海，天气忽阴忽晴，乍暖还寒。上海的市民们已陶醉在胜利的喜悦之中。但是敏感的人却从那不时忽如其来的冷空气中意识到了什么。
4月2日下午，上海北伐军东路军前敌总指挥部。这一天总指挥部戒备比往常更为森严，三步一岗，五步一哨，四周还潜伏着许多便衣。指挥部内聚集着一群达官显贵，何应钦、吴稚晖、李石曾、李济深、李宗仁、白崇禧、黄绍宏等人。或坐，或立，或沉默，或窃窃私语，似是在焦急地等待什么人。
忽地门外传来一声“蒋总司令到”，屋内的人立即都站了起来。片刻，身披黑色斗篷，一身戎装的蒋介石在陈果夫、陈立夫的陪同下走了进来。一阵寒暄之后，蒋介石随即宣布会议开始。
蒋介石满脸严肃，声称北伐军到了武汉，国民党中央的某些机关和某些人已受到共产党的分化或劫持，因此要把国民党中的共产党清除出去，否则，国民党就要被共产党篡夺。
蒋介石的话音未落，何应钦、吴稚晖便随声附合起来。何应钦、吴稚晖、黄绍宏、李济深既表了态，其他人也坐不住了，纷纷起来发言，破口大骂共产党，诬蔑共产党及工农群众，要求“反共清党”。
当这些人争相向蒋介石献殷勤之际，陈果夫却坐在一旁，默不作声，似是在饶有兴趣地倾听他人发言。但实际上在内心里，他看不起这些人，尤其是看不起何应钦、白崇禧、李宗仁这些军人。他认为这些军人只会舞刀弄枪，厮杀拼命，却根本不懂策略。他认为要发动这场政变，必须在舆论上先发制人，使共产党在思想上、组织上、行动上毫无准备，要使共产党在政变之后哑巴吃黄莲--有苦说不出。如果蒋介石能听从他的建议的话，那么政变成功之后，他陈果夫就成了蒋介石政权的第一大功臣，想到这些，陈果夫不觉微笑起来。
蒋介石注意到了，挥手让大家安静，随后问陈果夫：“祖焘（陈果夫的字），大家既已表态，你看该怎么办？”
陈果夫略为沉思，清了清嗓说道：“反共清党是我们坚定不移的方针，这一点大家都有了共识。但我们怎么一步步地去做，怎样使本党同志和国人都明白我们之所以反共清党的道理，我们却还没有讨论，是否再另开一次会，讨论这些问题呢？”
陈果夫的建议提醒了蒋介石：必须利用舆论工具为自己服务。他接受了陈果夫的建议。
4月5日下午，旧上海道尹公署楼，蒋介石又召开了秘密会议。陈果夫、柏文蔚、李宗仁、黄绍宏、白崇禧、古应芬、吴稚晖、张静江、李济深等人参加了会议。
蒋介石在会上发言：“反共清党势在必行。但我们有些同志对此却有些不明白，以为不合法。这是一个很糊涂的认识。要澄清这个问题，须由中央监察委员会提出一个检举共党谋叛的呈文，咨请国民党中央委员会、国民革命军总司令部以及地方军事当局对共党作紧急处置。这样，军事当局才可以对共产党实行武力解决。你们看，这个事该怎么办？”
陈果夫早已与蒋介石暗通声气，就站起来说：“3月28日我们在沪的中央监察委员会开了个会，认为共党谋叛，危害本党及国民政府，就行纠察。这个呈文现在由稚老（吴稚晖）在草拟，不久就可以向中央提出。”
蒋介石一听，立刻就不耐烦地打断了陈果夫的话，“现在正是非常时刻，草案拟定得越快越好。”思考了片刻，蒋介石又接着说：“稚老年事已高，恐怕不能尽快完成，我看另外派人协助他吧。”
陈果夫随即表示：“我愿意协助稚老。”蒋介石点头表示同意。
秘密会议结束之后，陈果夫便与吴稚晖躲了起来，绞尽脑汁，炮制了一个所谓：“中国国民党中央监察委员会呈文”，在文中陈果夫极尽欺骗、诬蔑之能事：
--4月2日的秘密会议被他挂上了中央监察委员会全体紧急会议的牌子，抛出一份编造的“中国国民党中央监察委员会在上海开会记录”。
--根本没有出席会议的蔡元培也被陈果夫“推为”会议主席，出席4月2日会议的陈果夫、吴稚晖、张静江等国民党中监委只占全体中监委的1／4被说成是2／3。
--呈文诬蔑“今者共产党有谋逆之整备，遂喧腾其联共之口号，诬罔总理，挟制舆论以图大逞……。”
--呈文狂嚣“举党执行委员内叛逆有据之共产党员及附逆委员，应予查办。未便尚听其行使职权，您为颠倒。”
--呈文后附列鲍罗廷、陈独秀、林伯渠、谭平山、毛泽东等在内的197人的名单，要求：姑将所开名人及各地共产党首要危险分子，经党部举发者，就近照知公安局或军警，暂时分别看管监视，免致活动，致酿成不及阻止之叛乱行为
陈果夫、吴稚晖炮制出来的这篇呈文使蒋介石如获至宝，遂“名正言顺”地对外宣布：
“中国国民党中央监察委员会，举发共产党连同党内跨党之共产党员等有谋叛之证据，……本总司令职司讨伐，以维护地方秩序为要，如有借端扰动，有碍治安者，定当治法。”
4月9日，陈果夫再次纠集邓泽如、吴稚晖、张静江等人以国民党中央监察委员会名义发出“护党救国”电，捏造武汉国民政府的所谓门大罪状，胡说：“皆为武汉会议（指二届三中全会）中所加于本党之根本创伤，致使革命势力发皇张大之本党，有遍体创痍之观”，“长此以往，不独北伐困难，而本党百万党员与朝夕以求中国的自由平等之民众，亦将何所寄托”，“全体同志念党国之危机，懊丧亡之无日，被发缨冠，共图匡济”，敦促蒋介石勿失良机，尽快动手。
陈果夫的这份通电确是“声泪俱下”，国民党中不少不明真相的人都被煽动起来反对共产党。
在此之前的一天，在陈果夫等的建议下，蒋介石派东路军政治部主任陈群，对上海各报馆进行稿件检查，规定各报从今日起，政府要登什么稿件就登什么稿件，政府不要登的稿件就一律不许登载。于是各报从此时登出来的都是从蒋介石总司令部发布出来的反共、反革命的稿件。当时上海新闻界舆论哗然，认为自辛亥革命以来，蒋氏为首创新闻制度检查之人，较之那帮老军阀要厉害多了。袁世凯只是限制不许登某些稿件，孙传芳是用停止邮寄来威胁报馆不许登骂他们文章，都不曾如蒋介石一股脑儿地将新闻稿件“包圆儿”了。在这首创中陈果夫扮演了不光彩的角色。
借口已经编好，舆论也控制了，剩下的只是一个时间问题。陈果夫本人虽然认为反共清党越快越好，但在行动上他却比那些军人要谨慎多了，他主张先试探武汉政府的反应。
在陈果夫的建议下，4月6日，蒋介石以“淆惑军心，背叛主义”的罪名，查封武汉中央军事委员会总政治部驻上海的办事处。而这时担任共产党总书记的陈独秀对此却麻木不仁。刚从国外回到武汉的汪精卫，虽然高喊“革命的向左来，不革命的滚开去”，俨然一个国民党左派领袖，但实际上他与蒋介石也是一路货色，对蒋介石的举动也毫无异议，武汉方面既然毫无动静，蒋介石自认为时机已经成熟，不能再拖了。
本来上海起义胜利之后，在共产党领导之下，组成了上海特别临时政府，蒋介石一到上海便下令解散了，此时上海已无市政府可言。陈果夫出于反共和个人权欲的目的，又给蒋介石出谋划策：“上海目前处于无政府状态，如果我们不赶快成立市政府，那么共党分子就会浑水摸鱼，煽动无知市民，使我们无法控制上海，阻挠清党。因此，成立市政府是当务之急。”
4月6日，蒋介石命令白崇禧派兵查封了在上海的国民革命军总司令部政治部，并逮捕了19名政治工作人员。8日，蒋介石成立了“上海临时政治委员会”，篡夺了上海工人武装起义胜利后由市民选举成立的“上海市民政府”的政权，同一天，蒋介石派陈群对上海各报馆稿件进行审查，规定自即时起，所有刊出稿件必须由蒋介石总司令部指定。4月9日，蒋介石发布上海市戒严令，任命白崇禧为戒严司令。在一切叛变准备停当之后，蒋介石于9日赶往南京。
蒋介石到达南京的当晚，就将南京附近的所有铁路切断，使在长江以北作战的第二、第六两军不能回师南京。然后蒋介石以两个师的兵力，解除了林伯渠的南京卫戍部队三个团的武装。
4月11日，杜月笙以“上海工界联合会”和“中华共进会”的名义，诱骗上海总工会委员长汪寿华到家中赴宴，将其杀害。与此同时，蒋介石在南京密令，“已克复的各省，一致实行清党”。
1927年4月12日凌晨，上海还处在沉睡之中的时候，全副武装的青红帮流氓，身着蓝色短裤，臂缠“工”字符号，冒充工人，自法租界乘汽车出发，奔赴闸北、南市、沪西、吴淞、虹口等区，向那里的工人武装纠察队发动袭击。工人武装纠察队猝不及防，仓促应战。事先已在周围埋伏好的蒋介石反动军队，乘机冲出，以调解“工人内讧”收缴了双方的枪械。上海的2700名工人武装纠察队就这样被解除了武装。
当时，纠察队员牺牲120人，伤180人，当天下午，蒋介石的反动军队占领了上海总工会，并把上海帮会流氓组成的“上海工界联合会”改名为“上海工人组织统一委员会”，盘踞总工会会所，并配合反动军队破坏总工会下属的各分会，逮捕共产党员和工人领袖。
与此同时，帝国主义侵略军也在租界和华界内，疯狂搜捕共产党人和革命群众千余人，送交蒋介石。
面对敌人的疯狂逮杀，上海总工会发出全市总同盟罢工的命令。中午，数万名工人在闸北青云路召开大会，控诉蒋介石反革命军队的罪行。会后，工人群众冲向总工会，并夺回了上海总工会会址。南市区的广大群众也举行市民大会，并列队前往龙华北伐军总司令部请愿。上海市民代表大会还向住在南京的蒋介石致电抗议。
4月13日上午，总工会在闸北青云路广场召开群众大会，会后整队前往周凤歧的第二十六军二师司令部请愿。当这数十万人的请愿队伍行至宝山路三德里附近时，已接到蒋介石屠杀命令的反动军队立即向手无寸铁的工人群众开枪扫射，当场死伤无数。时值天降大雨，宝山路顿时血流成河。
自4月12日至15日，在这次反革命政变中，上海工人300多人被杀，500多人被捕，5000多人失踪。一批优秀的工人领袖、共产党员惨遭杀害，如赵世炎、陈延年、汪寿华等。
在蒋介石发动“四一二”反革命政变的同时，广州的反革命军队也在4月15日向共产党人和革命群众举起了屠刀。除此之外，蒋介石还在南京、无锡、杭州、宁波、福州、厦门、汕头等地屠杀共产党人和革命群众。
蒋介石、陈果夫等发动的“四一二”反革命政变，激起了革命人民的无比愤慨，武汉政府和共产党人对蒋介石的大屠杀表示强烈的抗议。4月18日，武汉国民党中央和国民政府发表声明，表示继续拥护孙中山的三大政策．推进国民革命，怒斥蒋介石等人的反革命罪行，并发布了《免蒋介石本兼各职令》，委任冯玉祥接替蒋介石总司令职务，并任命唐生智为副总司令。命令指出：“蒋中正屠杀民众，摧残党部，甘心反动，罪恶昭彰。已经中央执行委员会议决，开除党籍，免去本兼各职。着全体将士及革命民众团体拿解中央，按反革命罪条例惩治。”命令宣布，蒋介石所统辖的第一集团军之第一、第二、第三、第四各方面军及总预备队，统归军事委员会指挥。武汉国民党中央同时宣布开除陈果夫、张静江等人的党籍。
4月15日，蒋介石把几名中央执、监委召集在一起开会，并非法作出了只有中央全会才能做出的决议：一、以南京为国都；二、取消武汉不合法之中央党部；三、取消武汉国民政府；四、取消跨党分子党籍等八项决议。4月17日，蒋介石在南京成立国民党中央。次日上午，蒋介石又在旧江苏省议会举行典礼，成立南京国民政府，胡汉民任政府主席。
2．谭延闿说“果夫有办法”
孙中山逝世后，蒋介石提出“整理党务案”，共产党人谭平山、林祖涵、毛泽东分别辞去国民党中央组织部长、农民部长、代理宣传部长职务。蒋介石当上了中央组织部长。谭延闿对蒋介石说：“果夫有办法。”
蒋介石在政治上最先追随陈其美，陈其美死后，他追随孙中山。孙中山死后，他逐渐走上了政治前台。可是这时的蒋介石，在政治上并没形成自己的势力。张静江、戴季陶、吴稚晖等人支持他，但这些人都是国民党的元老，无论是功劳、资历、党龄、年龄和威望都比蒋介石高得多，他们支持蒋介石，很有点奖掖后进的样子。是看到蒋介石后生可用，在政治上扶他一把。对这样的人，蒋介石只能是秉承他们的旨意办事，而不是他们秉承蒋介石的旨意办事。他们虽然支持蒋介石，但蒋介石对他们喝五呛六，去指挥他们，显然不行。如果蒋介石不听话，他们还要教训他一番。这些人蒋介石不敢也不能指望让他们在自己的指挥下按自己的意图办事。
黄埔军校成立后，蒋介石在军事上的成功使他在广州革命军队中的地位急剧提高。但是，黄埔军校的教员和学生们，一者不愿从事党务工作；二来由于年纪轻、资历浅，没有党务工作经验；再加上掌握国民党党权的胡汉民、汪精卫等人也不允许黄埔军校的学生们插手党务，所以蒋介石很难在党务系统形成自己的势力，甚至在广州连一个自己的忠实的支持者也很难找到。
蒋介石想染指党权，但在孙中山逝世以前，他一直没有获得机会。孙中山的目标是让蒋介石专力办军，党务上的事情不要过问，所以在1924年国民党“一大”上，蒋介石在国民党内只获得了一个中国国民党中央执行委员会军事委员会委员的虚衔，蒋介石虽然对此愤愤不平，但也无可奈何，只能听之任之。孙中山逝世以后，蒋介石以其平定商因叛乱，平定刘杨叛乱和两次东征打垮陈炯明的显赫战功为后盾，利用国民党高层各巨头互不相容的矛盾，在张静江、戴季陶等人的支持下，于1926年1月国民党二大上当选中央执行委员，随后在1月22日的国民党二届一中全会上当选中央常务委员。
1926年5月15日，蒋介石在国民党二届二中全会上，以“消除疑虑，杜绝纠纷”和“改善中国国民党与共产党间的关系”为名，提出了四个“整理党务”的提案。该提案规定：共产党须将加入国民党的共产党员名册交给国民党中央执行委员会保管；共产党不得担任国民党中央机关的部长；加入国民党的共产党员担任国民党中央党部、省党部、特别市党部的执行委员名额，不得超过总数的1／3；共产党中央发给参加国民党的共产党员的指示要交国共两党联席会议通过。
蒋介石提出“整理党务案”完全是以中派的面目出现的。当时在广州国民党右派的势力非常猖撅，很多国民党元老人物要求将共产党清理出国民党。蒋介石提的带有折衷色彩的提案终于为双方所接受，国民党右派觉得他们终于实现了部分清党的目标，共产党为避免受过多的指责，也乐于接受此案。于是提案被通过。接着，共产党人谭平山、林祖涵、毛泽东分别辞去国民党中央组织部长、农民部长和代理宣传部长的职务。
根据这一提案，选举了蒋介石的把兄弟张静江为中央执行委员会主席，蒋介石取代谭平山当上了中央组织部长并兼任新设的军人部长，邵元冲为青年部长，顾孟徐取代毛泽东任宣传部长，甘乃光取代林伯渠任农民部长，叶楚怆取代刘伯承任中央秘书处书记。这样，在国民党中央党部完全排挤了共产党人。
出任国民党中组部部长固然为蒋介石控制国民党准备了条件。但此时蒋介石还担任国民党军事委员会主席和国民革命军总司令，北伐也正在准备之中，军务繁忙，使蒋介石无暇“整理党务”。而此时国民党务系统中，蒋介石却没有一个自己的亲信来忠实执行自己的意图。为了巩固和发展自己在党内的势力，蒋介石必须找出一个这样的人来“整理党务”。
在国民党党务系统，由于以前蒋介石不能插足，他是没有丝毫根基的。所以，他不得不在广州以外另找人选，这就给陈果夫掌握国民党权提供了机会。
谭延闿推荐了陈果夫。他对蒋介石说：“果夫有办法。”蒋介石对陈果夫也颇为中意。
办党务工作，蒋介石本来最佩服陈其美。1928年，蒋介石曾非常感叹地说：“如果英士先生不死，可以办党，我自己则专心军事；而由膺白（黄郭）办政，可以分工合作。无奈膺白却只愿做一客卿，无意参预党的政治。”在这里，蒋介石不仅是看到了陈其美和黄郭在党务和政务方面的能力，还有一点非常重要，就是陈其美和黄乳都是蒋介石的盟兄，在蒋介石看来绝对可靠，所以才让他们一个主党；一人主政。而在1926年的广州，蒋介石除了一帮领兵打仗的黄埔教师和学生外，在党务系统找不到一个既有一定的资历能力，而又忠于自己的人，他只能从故旧中寻找得力的助手。
由于缺少可靠的帮手，当蒋介石刚出任黄埔校长时，就曾致电陈果夫前往帮忙。但这时陈果夫一方面由于生病不能立即前往；另一方面，蒋介石已在广州干了六七年，过去的情况常常是升官以后不久就辞职，蒋介石能否在广州站住脚，尚属疑问，所以陈果夫不敢贸然前往。蒋介石是一直未忘记扶植陈果夫的。1926年1月，在国民党第二次代表大会上，在张静江。蒋介石的支持下，陈果夫当选国民党中央监察委员。蒋介石出任国民党中央组织部长后，再次邀请陈果夫前往广州帮办党务。陈果夫这时看到蒋介石在广州已掌握党权和军权，大权在握。于是和其叔叔陈其采一道，于1926年6月离开上海，前往广州。到广州后，陈果夫立即被任命为国民党中央组织部秘书，代替蒋介石主持国民党中央组织部工作。
陈果夫接收组织部很是顺利。一个重要原因即是陈果夫以前从未办过党务，共产党对他不甚注意。而陈果夫从前对于党务的意见也仅限于人云亦云式的“党外不能有党”的主张，国共双方对他均无恶感。因此，陈果夫作为国民党中央监察委员，本来是不能出任组织部的职务，但由于国共双方对此均无异议，陈果夫也就毫无阻拦地接收了中组部。
陈果夫接收中组部之后，认为国民党亟须整理。在他看来：“我们的党务，好久无人顾问了。老同志中有不愿与共党合作而灰心的，也有被杀的，也有因互相斗争而离开广州的，也有被共党挑拨离间而不敢过问党务的。中央秘书处由三个共产党员林祖涵、谭平山、杨袍安在把持。可以说本党已经为共产党完全篡夺去了。在各省市方面，党务大半为共产党所主持。即未为所夺，也一定分为左右两派，常向中央互相攻汗，党务不能进行，下层已无基础可言。在这种情况下，对于用人十分困难。”定先从用人下手来整顿中组部。
陈果夫初人组织部的时候，部中共有29人。对这29人，陈果夫经过缜密的观察调查，认为真正称得上“同志”的只有三位，其余都是共产党人，或受共产党影响的人。明了部中的情形后，陈果夫就开始消除组织部里的共产党人。
首先，在请示蒋介石之后，陈果夫采用突然袭击的办法，不与任何人商议，即在部机关会议上宣布将杨某、骆某强行调出。同时又将国民党人段锡朋、王乐平两人拉人组织部，顶替杨某、骆某。杨某是共产党人，骆某则是国民党人，但是陈果夫有了两位“同志”，也只好牺牲另一位“同志”了。
在调人段锡朋、王乐平二人之后，陈果夫即开始办理党员重行登记调查工作，对部队人员厉行考核。凡是自己的“同志”即予以升级，而对嫌疑分子、共产党员，拉拢不成，则是打击。当时秘书处三秘书之一的杨袍安是共产党员，对陈果夫的这一套，强烈加以反对。事务组有两个姓杨的，在陈果夫看来，工作都很勤奋，特子升级。但杨袍安认为不应于此时升级，加以阻止。由于陈果夫在接替杨袍安组织部秘书的职务时，蒋介石曾假惺惺地表示陈果夫有事多与杨袍安商量，杨袍安自有理由干涉此事。但陈果夫认为提升两杨的人事命令既已公布，就不能收回。可是隔了两天，两杨忽然辞职，报说被杨袍安调往他处工作去了。实际上是杨袍安怕他们为陈果夫拉拢利用之故。不过两杨既定，部中总算有两个空缺，陈果夫立即把郑异、萧挣两人补充进去。又有一个姓莫的，陈果夫认为他表现很好，因此尽管照规则这位姓莫的不能再升级，但陈果夫还是给他办了。杨袍安因此责问陈果夫，不应该破坏章则。陈果夫回答说：“工作特别好不能没有奖励；我想由我自己来补足他应得的薪给。”莫受奖之后，对陈果夫颇为感激，陈果夫又多了一位“同志”。
有时，陈果夫对有重要地位的共产党员采取不分配工作，不让开会的办法，让他们无所事事，逼迫他们自动辞职。那时部里面有一位干事，专司民众组织工作，广州市民众组织完全归其指导。这位干事姓谭，在共产党中占有重要地位。陈果夫借口他兼职太多，每次开会常常不能到部请示或报告为由，多次想要撤换他。一次，要召开一个重要会议，陈果夫派人去找他回来参加，可不知怎的，姓谭的干部居然没有参加，不知是没找到，还是通知了没来。反正，这位干部没能出席会议，一个星期后。他才回来，因为耽误了工作，这位干部也无颜呆在部里，只好申请辞职，陈果夫立刻批准了。
在清除共产党人的同时，陈果夫又将大批国民党右派安插到部里，如曾养甫、郑异、萧挣等，都子以重用，甚至连反孙中山的陈炯明的亲信吴倚沧，也被陈果夫安排担任组织部秘书，负责秘密工作。这样陈果夫完全控制了组织部。回忆起这些事情，陈果夫颇为得意。
“组织部人事经此不断调整，并将各部门负责人逐渐改用本党同志，对外才得顺利发展，而部内与各方表面接洽之事，完全由我自己负责，秘密工作则（吴）倚沧同志负责，外人不知也。
“经过这样的几次事件，章则已有改动，用人也自然比以前自由。迁都南昌之时，部中仅留有共党三个，其余的都是纯正的本党同志了”。
陈果夫在组织部内清党的成果使得蒋介石对他刮目相看，并对陈果夫能如此清楚地领会、执行他的意图，感到无比的喜悦，庆幸自己反共有了一个好帮手。
原来此时蒋介石虽已发动了反共的“中山舰事件”，“整理党务案”，但他羽．毛未丰，势力未厚，他不愿过早地破坏国共合作，引起国共统一战线破裂。更何况北伐在即，他需要共产党人来帮助他北伐，以扩大个人的威望。陈果夫清党“成绩卓著”，却没有用什么过激的手段来清除共产党，而是一点一点地达到了目标，并没有引起共产党的强烈反对。
在蒋介石看来，陈果夫反共确有办法。
1926年6月，广州国民政府任命蒋介石为国民革命军总司令，统率海陆空三军。
7月，国民党召开M届临时中央全体会议，承认蒋介石为中央党部军人部长，原任组织部长一职由陈果夫代理。
国民党中央组织部部长是个肥缺，陈果夫在短短的时间内，能得此肥缺，一方面固然是其反共有方，另一方面也确是蒋介石大力扶持的结果。因此陈果夫对蒋介石感激涕零，更加忠心地执行蒋介石的旨意。
陈果夫在出任组织部长之后，对部里的事务尽力避免与共产党下面接触，但暗地里，与代理国民党中央执行委员会主席的张静江相勾结，进一步实施“整理党务案”。
3．主办中央党务学校
陈果夫为了加强对国民党的控制和对共产党及其它党派的防范，决定对国民党组织部进行整顿和改组。为了培养一批新的国民党骨干分子，陈果夫决定成立一所中央党务学校，他们设想将党务学校办得像黄埔军校一样，成为一所政治专门学校。
“四一二”反革命政变后，7月，在武汉的汪精卫宣布同中国共产党决裂，高喊“宁可枉杀千个，不使一人漏网”，“本人愿为杀共之刽子手焉”，也开始了清党。
一时之间，“反共”、“清党”成了国民党内最时髦的口号。
4月底时，蒋介石在一次会上声称：前期“清党”虽以“极能捷严厉之手腕，扑灭共产党徒之逆谋，摒除共产党徒于党外”，但“各地仍有该党余孽暗中活动，或仍匿旧时共产党机关，藉口已经改组，巧自粉饰，或插入新兴团体，从中捣乱”，因此，还必须继续清党。
7月，蒋介石指令成立“清党委员会”。陈果夫、陈立夫表面没有在委员会中担任职务，但“清党委员会”的7名委员中，曾养甫、段锡明、吴倚沧、郑异、萧佛成等5人却是M陈的亲信，他们对二陈是言从计听，实际上二陈控制了“清党委员会”。
本来“清党”是由蒋介石首起，但汪精卫撕下“革命”的伪面具之后，不甘心“清党之功”为蒋介石一人所得，也极力想争夺“清党”之权。无奈“清党委员会”已为二陈控制，汪精卫实难插手。国民党中央组织部部长由吴倚沧代理，他是陈果夫一手提拔上来，也根本不理会汪精卫。因此，在蒋介石被桂系“逼宫”下野之后，蒋介石仍能通过二陈来“清党”，而汪精卫则无法介入。
1928年初，蒋介石重新上台，陈果夫被推暂时维持中央组织部部务。蒋介石再次强调“清党”是当务之急。陈果夫与蒋介石心意相通，遂在这年2月南京召开的国民党二届四中全会上极力鼓吹“清党”。
在这次会议上，陈果夫参加拟定的提案几乎占了会议所有提案的一半。这些提案系统的阐述了“清党”的理论、方法。程序。
陈果夫等认为：“清党时间倏逾半年，共产党之逆迹固以大暴国中，本党精神亦日就淹没”。在他看来，共产党员从国民党机关中清除出去，但现在国民党的组织形式，工作方法，所用理论均来自共产党。“是昔者以共产党操纵国民党，今则以国民党继承共产党”，因此，“非将容共期（指国共合作期）中之理论与方法，一举清之不可”。强调现行“清党”就是要清除共产党的理论与方法。
陈果夫首先强调要树立“自己的理论”，也就是被他们篡改了的三民主义。他攻击共产党的理论“为破坏，为阶级斗争，为反科学，为虚伪不择手段，为以民众为工具，为分裂三民主义为三个一民主义，为造成全民恐怖，为使中国产业由落后而至于绝灭，为这断中国在国际间取得平等优裕的机会，为打破国民革命军的基本力量以培植爪牙”。因此，非以自己的理论来反对共产党的理论不可。
会上陈果夫多次发言，陈述自己对于清党的主张，他认为，要使清党运动能收到实效。必须与整理党务结合起来，把整理党务作为清党的一个重要内容。为此，他与蒋介石、丁惟汾一起拟定了一个整理党务的提案交大会讨论。为了使清党有法可依，他又与蔡元培等人提出了《制止共产党阴谋案》等。这些提案对清党的理论、方法和程序进行了系统的阐述。
至于如何清党和整理党务。陈果夫等的提案作了具体的布置。第一、关于基本理论。他们提出国民党要树立自己的理论，为此要“制定管理党报及党的一切刊物条例”，以利于宣传“三民主义”。第二，关于组织。陈果夫等主张：“废除容共期内一切民众运动方式”；“严厉取缔农工间武装集团及潜伏暴动性之秘密结合”“各地畸形农工集团一概取消”；“取消各省党部以下畸形、残破的党部”：“省党部未正式成立时，由中央指定各省登记委员，专办全省党员登记，限期完成整理党籍工作”，“废止中央及各级之农民、工人、妇女、青年。商民等部，只设组织、训练、宣传三部，于必要时设特种委员会辅助之”；厉行监察委员会职权，监察委员会及指导中央及地方特种刑事法庭”。第三，关于整理党务的方法。陈果夫等提出：整理党务要经过四个阶段，即．总登记、总考查、彻底训练、彻底改组各级党部，先由中央成立考查委员会，考查各地曾任省级及与省同级部的委员；再由中央选派委员指导员组织各省党务指导委员会；然后由省党务指导委员会选派指导员组织各县市的党务指导委员会，分级考查各地的国民党党员。凡经登记合格者为预备党员；凡经考查合格者为正式党员；凡经长期考查与训练合格者为基本党员，在此基础上成立各地的国民党党部。
这次会议通过了陈果夫等人提出的各种提案，决定首先改组国民党中央机构，取消农民、工人等五个部，只设组织、宣传、训练三个部，并决定对国民党的各级党部进行整理，对党员重新登记。陈果夫在会上由于表现“出色”，被选为中央监察委员、民众训练委员会委员及常委。
会后，陈氏二兄弟即着手对国民党各级党部进行整理，他们决定首先从反共分子中选出“精英”人物，作为党务指导员，分派到全国各地主持清党。为此，他们对革命时期国民党内一些极右派人物逐一进行考查，凡是积极反动的，都被挑选出来，作为党务指导员的人选。然后让这些人参加中央组织部的各项工作和各种会议，使其熟悉环境，并从中观察其政治立场和工作能力。
经过一段时间的考查之后，二陈便从这些人中选出一些思想极端反共而又忠于国民党的“优秀”分子，担任党务指导员，分派到各地去主持清党。
陈果夫对这次行动非常重视，他把它看作是扩充陈家势力的好机会，所以这些党务指导员都必须对自己效忠，才能得以选用。在党务指导员出发前，陈果夫对他们逐一召见，反复交待，要求他们到各省市后认真考查挑选一批反共骨干分子到各县市担任党务指导员，指导各基层清党工作。
这些党务指导员到各地后，打着整理党务的旗号，将共产党员和国民党左派分子及异己势力全部驱逐出各级党部，重新进行改组，由二陈亲信们取而代之。这样，经过几年的时间，全国各省市的国民党组织完全被二陈所掌握，各地主宰党权的均为二陈的亲信。如江苏的马元放、浙江为张强、许绍棣、罗霞天、方青儒、郑异、叶溯中、胡健中，安徽为余凌云、张德流、魏寿永、湖北为文毓英、杨锦昱等，江西为王冠英、刘家树、李中襄，河北为陈访先、詹朝阳、胡梦华，山东为赵伟民等，河南为陈伴岭、王星舟、李敬斋、张廷休，陕西为宋志先等，甘肃为田昆山、凌子惟等，黑龙江为王宪章、王秉钧等，察哈尔为马亮、刘诚宜、郭境恺等，绥远为赵允义、孙国英等，宁夏为沈德仁，青海为燕化棠、方少云、李天民，南京为方治，上海为潘公展、音行白、陶百川、陆京士、吴开先，北平为陈石泉、庞镜塘，青岛为李汉呜等，汉口为李翼中、吴企云、单成仪等。这样，二陈通过这批亲信实际控制了全国各地的国民党组织。
在整理各级党部的同时，陈果夫还对国民党党员进行重新登记。为了从严把关，陈果夫命令各级党部在党员登记期间一律停止活动，听候中央派员整理，所有党员一律重新登记。
党员登记时，应慎重考查，曾经加入本党以外的任何团体者，必须切实声明与该团体脱离关系。登记的党员必须绝对遵守纪律，不得违反党纲党章及一切决议案之主张，必须绝对服从党部之决议及命令。在登记过程中，所有国民党员均要填交审查表，审查表中有关于政治信仰的栏目。根据陈果夫的指令，填表者要在这些栏目中回答到三民主义及共产主义的认识并加以区别，审查机关将以此来测验填表人的政治倾向，这是决定其登记与否的一项重要标准。然后审查机关派员开展调查，在调查基础上进行评审。凡发现有共产党嫌疑或亲共言行的，由军警部门配合，进行清除、缉拿、逮捕、关押直至杀害。通过这种手段，陈果夫不仅从各级国民党组织中清除出共产党也清除出国民党左派及异己分子。这样，孙中山所创建的国民党，从组织到成员，其性质都发生了质的变化。
陈果夫在全国主持清党运动和整理党务的同时，为了加强对国民党的控制和对共产党及其他党派的防范，决定对国民党组织部进行整顿和改组。在部下只设普通组织科、海外组织科、军人组织科、编审科、调查科、总务科等。其中尤以调查科最为重要，陈果夫将该科进行扩充，调进一些亲信，并由陈立夫任该科主任。陈果夫通过这次改组，把国民党组织部牢牢控制在手中，其中主要成员多为二陈派人物。
调查科的主要任务就是收集党内各种资料，及党员状况材料，打击和镇压共产党人及国民党内反蒋派系。
陈果夫通过清党，不仅捕杀了大量的共产党人，而且也对国民党其他异己势力采取逮捕、杀害，如改组派成员王乐平。唐有壬，政学系头目杨永泰等均被暗杀。而陈果夫正是在主持清党中发展了自己的势力，日益得到蒋介石的信任，在国民党中的地位也日益巩固和提高。1929年3月，国民党三全大会上，在蒋介石的帮助下，陈果夫当选为国民党执行委员会委员、三届一中全会被推为常委、组织部副部长，在此前当选为国民政府委员、监察院副院长。陈立夫也由一无名小卒跃为国民党中央执行委员，还当上了中央秘书长。二陈手下的曾养甫、余井塘、张道藩、程天放等都进入中央执行委员会，张厉生余井塘担任了组织部的秘书。二陈势力在国民党内扶摇直上，咄咄逼人。
据陈果夫的亲信庞镜塘在解放以后回忆：
“自1927年蒋介石发动‘四一二’大屠杀之后，国民党中央及各省市党部都组织有‘清党委员会’，以贯彻其彻底清除进步力量的阴谋策划。在中央方面，以中央执行委员会组织部为主，成立五个人的委员会，专任党内排除异己的勾当，除于‘四一二’在上海和各地实行搜查检举，进行大规模的大屠杀外，对党内具有进步思想或在某些表现上同情共产党，反对过蒋介石的成员都诬为‘反动分子’，多方进行搜查和检举，罗织‘叛党’的罪名，加以杀害或长期关押。例如在广州‘四一五’以后，杀害了萧楚女、熊雄、安体诚等。过了几年，还在天津捕杀了韩麟符。又长期关押黄埔军校第五、六期的学生多人，直到其自首或叛变革命以后才予以释放。在其他各省市，持续至一二年之久，还在多方进行迫害，必至置诸监狱而后已。就全国范围而论，被害的人数，竟至以数万计。
