但是,随着日本战败趋势的日益显现,特别是共产党新四军坚持不懈的策反,郝鹏举又一次开始重新考虑自己的未来,在投奔蒋介石还是投奔共产党两条路之间徘徊不定。日本宣布投降后,国民党为扩充军力大量收编伪军,蒋介石任命郝鹏举为新编第六路军总司令的命令到了,虽然他对蒋介石存着巨大的戒心,并依旧暗中与共产党人保持着联系,但蒋介石的任命究竟还是让他喜出望外。可是,不久之后他便发现,虽然他又送汽车又送金条,蒋介石的嫡系们还是对他和他的部队态度傲慢,常常以“惩办汉奸”的口气敲诈勒索,不但克扣他们的军饷,甚至连武器弹药也拒绝补充。更让他感到岌岌可危的是,一九四五年秋,他的部队被调到津浦铁路沿线,成为与共产党军队作战的前锋,而这无异于让他这种国民党军中的杂牌军变为炮灰。一九四六年一月,在共产党人的军事压力下,甚至是在陈毅将军亲自晓以利害下,郝鹏举率国民党军新编第六路军两万人投奔了共产党。
虽然,已经背离了国民党军,但郝鹏举,始终把自己的部队当成一份“财产”,一个与人民军队“平起平坐”的特殊团体。他一面公开宣传自己决心和共产党人一起“为争取民族独立民主自由而奋斗”,但同时,因为害怕共产党在落实国共签署的整军方案时,对他的部队进行整编,所以又在官兵中煽动对共产党的不满,要求他的部队“官不离兵,兵不离官;总司令不离全体,全体不离总司令;弹不离枪,枪不离身,动我们一人,就全体自杀”。一九四七年一月,在国民党军向苏北解放区和山东解放区大举进攻之际,徐州绥靖公署主任薛岳派人给郝鹏举送来了国民党军第四十二集团军司令官兼鲁南绥靖分区司令官的头衔,郝鹏举终于按捺不住了,他认定这回共产党军队连同他们的解放区都会被国民党大军铲除干净,这个时候自己再不改换门庭就来不及了。一月二十六日晚上,他率部进入国民党统治区。当时鲁南战役刚刚结束,蒋介石认为郝鹏举的举动足以抵消作战中的损失,称之为“还军于国”,“月缺重圆”。但是,准备领赏的郝鹏举立即发现,他在国民党军中地位更加低下了。参谋总长陈诚轻描淡写地告知他,答应他的第四十二军番号仅仅是个“号召”,“因为国军的战区和集团军番号均已取消”。所以,他只能“用鲁南绥靖分区司令的名义指挥”部队。同时,陈诚命令他立即参加与华东野战军在山东的决战。
就在陈毅和粟裕已经决定放弃临沂的时候,一九四七年二月六日,华东野战军二纵发起了围歼郝鹏举北进部队的战斗。战斗进行得果决而迅猛,到第二天结束战斗时全歼郝鹏举的两个师,俘敌六千多人。战斗发生的时候,虽然围绕在华东野战军周围有国民党十几万大军,但是没有任何一支军队来援救郝鹏举。他从战场上狼狈溃逃时几次从马上摔下来,直至把脚摔坏。走投无路的时候,他脱下军装,换上了百姓的衣服,当他准备派人向陈毅乞降时,被共产党官兵包围了,那一刻他大喊:“我脚疼!你们辛苦了!我早就说不打了,打什么呢?”
共产党军民准备撤离临沂的前夕,郝鹏举被押到陈毅的面前。他抢先说自己“万分对不起人民,对不起军长”。陈毅厉声道:“从你叛变到被俘,前后仅十一天,这证明了干民主事业的需要有为人民服务的自我牺牲的革命精神,凡投机取巧必致力身败名裂,最后难逃人民的惩罚……”郝鹏举大喊:“我对不起人民!对不起军长!”