林、李二人虽然暂时逃出胜保的包围，但形势实际更为恶劣，阜城粮草并不比静海多，也没有足够的守城器械，更失败的是，林、李作了一个惊人的决定：不再南撤，顿兵固守，等待援军北上会师。此时北伐援军正在山东临清受阻，如果林、李二人如果此时主动南下会师，则两军都能逃脱被歼灭的命运，但林、李二人选择在阜城蹉跎两月，最后一丝胜利的希望被他们亲手扑灭。
僧格林沁与胜保合围阜城，清兵总数达到三万，在数量上占据绝对优势。不久，僧格林沁发起了进攻，亲自于西门出队进攻，胜保自东门出击，并派马队于东北抄杀，太平军负隅顽抗，统帅吉文元不幸身中三箭，伤重身亡。屡攻不下之后，僧格林沁捧着一颗破碎的将心，行那锁围之法，僧格林沁派兵深挖长壕，埋设地雷，加强围困。这时北伐援军已过黄河北上，清廷为不使其与北伐军会合，即命胜保带领部队步兵八九千，马队二千进入山东，阻击北伐援军。阜城方面的压力大大减小，林凤祥乘机出城，再度往南撤退，将连镇占据。
连镇粮草充足，“其附近存路皆饶沃之地”（张守常编《太平军北伐资料选编》），便于太平军坚守，连镇横跨运河，分东西两部，分别由林凤祥、李开芳据守，二人在清军赶到前，出兵占据附近村庄，外列小营五座，为犄角之势，并将附近的财物、牲畜搜索一空，同时迅速收集船只、木料，架设浮桥，
太平军在河上架设浮桥两座，将两岸东西连镇连为一体，为固守待援作充分准备。实际上，在北伐军抵达连镇的当天，僧格林沁马队已经赶到，只是缺乏攻坚手段，没有出战，过数日，僧军步队也赶到，太平军再次陷入包围。根据《复生录》的记载，当时北方连降大雪，天寒地冻，太平军多数是南方人，既未携带冬衣，也没有防寒保暖的常识，狼狈驰突，无衣无粮，林、李又多选黑夜行军、修筑工事，夜间温度很低，太平军被冻死的就有数千人，军队减员情况极其严重，岌岌可危。
北伐军抵达连镇后，“始知南京续派十三军，已到山东临清州”（陈思伯：《复生录》），便商定由李开芳率领经过挑选的六百余骑健卒突围南下，迎接援军，其实他们的信息已经严重滞后了，北伐援军已在一个月之前被胜保屠杀了个精光。李开芳率队自连镇突围，过吴桥，入山东境，袭占高唐。歼灭北伐援军后的胜保，马不停蹄，又沿途追击李开芳。
留守连镇的太平军，从静海时的五六万，消耗至六七千人，大部分还是临时征来的平民。僧格林沁在不断得到增援后，军队已达三万，僧军不敢攻坚，在连镇四周挖掘壕沟，构筑土城，壕沟深宽各二丈余，土城高一丈五六，厚八九尺，上安抬枪、大小炮位，每隔一丈支帐篷一座，设兵十名，将太平军困死。长围了十个月，清军打不进连镇，太平军也杀不出来，但僧格林沁有源源不断的粮草、军械的支援，林凤祥部渐渐耗光了城中的库存，普通士兵仅以黑豆充饥，及至年底，“各军先杀骡马、次煮皮箱刀鞘充饥；或掘沙中马齿苋、当归、一切野菜者；亦有剥榆树，取皮研末，造作面食者；甚至捉获官兵逃贼，无不割肉分食” （陈思伯：《复生录》）。
林凤祥病急乱投医，在这紧张的时刻，不思索北伐军的出路和战略，反而领着士兵天天祷告，祈求皇上帝给予指示。太平军中喜剧人物也十分不少，而且越到危险时，幽默感越是喷薄而出。大约困守一地被动挨打的日子太枯燥了，有一个广西老兵忽然冒出来戏耍林凤祥：在某次战争祷告中，这个老兵突然昏倒，口吐白沫，然后突然出声，称自己天兄附体，带来高天上的无上军略和兵法，来护林凤翔突围。林凤翔在拜上帝教中的职分不高，自然不知道这种天父天兄下凡的把戏纯属扯淡，立刻封其为军师，又为这个原太平军火夫建立“军师府”，讨了小老婆，又拨数百人给他，让他布什么神兵诛妖天门阵，龙门锁妖会等等稀奇古怪的阵法。原来这位“军师”从军前是在广西唱地方戏跑龙套的，这时不知从哪里搞来些唱《定军山》的戏服，搞了不少花花绿绿的旗旗幡幡，每日操演，十分热闹，久困的太平军士兵因此能天天看上不少戏剧以解闷，军心大振，林凤祥因此十分佩服李军师能耐非凡。李军师不但操演军队，每天还准时召集兵将，“下凡讲道理”，连林凤祥都要跪倒听讲，这就玩过头了，李军师大概平日太平军集中“讲道理”的时候都开了小差，对拜上帝教理论不十分熟悉，居然声称要带关云长、黄汉升这些已被定为邪神的人物来打北京，林凤翔一下子明白上当了，恼羞成怒，把军师点了天灯。
清廷方面不断催促僧军出战，僧格林沁“将在外军令有所不受”，一意拖延，决心靠饥饿和寒冷拖垮太平军。清军细作探得太平军十分饥疲，军心动荡，僧格林沁一面重兵压境，以猛烈的炮火彻夜轰击，给太平军士兵施以心理上的压力，一面开展诱降活动。太平军在饥困交迫和僧格林沁的引诱下，前后出降者达三千余人。林凤祥不得不解散不可靠的部队，放弃西连镇，集中力量防守东连镇，并针对僧格林沁的诱降政策，派原清朝县丞萧凤山、文童钟有年等百人诈降清军，以便联络先前降众为内应，配合守军出击，打破清军的围困。林凤祥高估了拜上帝教的号召力，原先投降的士兵不肯为太平军内应，反向僧格林沁告密，萧凤山等全部被杀。不久，林凤祥认为政治上十分可靠，特地挑选出来镇守东连镇的士兵也纷纷投敌，清军在叛徒的引导下攻破连镇。清军发现被俘士兵身上都揣有人肉一块，审问才知，因为城中缺粮，林凤祥下令把清军俘虏和己方逃亡士兵做了干粮。林凤祥藏于一个很深的地道内，清军四下寻查，未能抓获，不料最终被投降清军的叛徒出卖，被清军搜获，解送北京。也有人说，林凤祥和十五名将领藏在洞中，本来十分隐秘，因为在洞中囤积大量粮食和马肉，被狗嗅出味道而曝光被捕，林凤祥被解往北京凌迟处死。这人虽然不会打仗，本人倒真是一条好汉，身受数百刀，并不呼痛，反而神色自得地看刽子手如何下刀，场面相当惨烈，清朝官员也不得不叹服林凤祥是个难得一见的英雄。
林凤祥在连镇被俘，只有千余人的李开芳却抵挡住了胜保、僧格林沁两军数万人的进攻，一心模仿关二爷的胜保因此被咸丰帝严词申斥，并被拔去花翎、革职留任，后又被解京问罪，胜保在解往北京的路上赋小诗一首，哀叹岳武穆坐囚车，苏东坡犯诗狱，大清朝把自己这个“三重关二爷，男人中的极品”问罪，才人不遇，古今一也，本不分汉唐大清。
不久，僧格林沁用计攻克高唐，李开芳部却并未遭到严重打击，又入踞高唐五十余里外的冯官屯。僧格林沁久攻不下，从东昌三孔桥引运河水至冯官屯石桥，然后灌入冯官屯，围堤以内，高处有水三、四尺，低处水深至五、六尺，太平军潜伏处，都有水三、四尺，火药、粮草半被水浸。这时僧格林沁欲活捉李开芳，派人送信说爱他才干，望他来投。李开芳正在无计可施，心想何不如将计就计，诈降溃围，于是在四月十三日，先派心腹先锋黄近文带领将士一百四十多人，混入难民内，齐出诈降，在外接应。僧格林沁也非省油的灯，他把诈降的将士用小船渡出重濠，佯装中计。李开芳十分得意，二十六日清晨，大风骤起，飞沙扬尘，对面不能相认，李开芳选择此时诈降。他带领将士，全副武装，乘坐小船，伪作前去缴械。他以为僧格林沁已中计，又有黄近文等在外接应，天又大风蔽日，准备一到濠边，就乘此脱逃。“杀人放火金腰带，修桥补路无尸骸”，弱小的好人最终击败强大的坏蛋，逃出生天过着幸福的日子，那是迪斯尼的动画，大清的形势可比美利坚复杂多了：李开芳不曾算到，还没到壕边，僧格林沁已抢先把黄近文杀死，绝了接应，到要渡他出濠时，又在四周埋伏下马步兵一万多人。想我大清，天炉一座，本无童话，李开芳于是被擒，也解往北京凌迟。
李开芳在刑场上的英雄豪气，比林凤祥丝毫不减，在刑场上竟踢死刽子手二人，围观者大惊。行刑时，李开芳和部属昂首扬眉，怒目四顾，高呼：“自出天京，所向无敌，清妖不堪一击，灭亡就在眼前”。 如此血性好汉子，却被胜保、僧格林沁等昏庸之人活捉，可惜！可叹！
至此，这支由数万精锐组成的北伐军，经过两年多艰苦卓绝的战斗，终于全军覆没。
北伐军及其援军的全部覆没，这是太平天国自金田起义以来在军事上所遭到的最严重的失利和挫折之一。但笔者并不同意过分夸大北伐失败对太平天国事业的损害，北伐军数万人全军覆没，相比天国百万之众，损失并不算特别严重。北伐军战死兵将的数量，相比秦日纲在田家镇，石达开在鲁家巷并不多，如果与天京变乱后动辄数十万的损失相比，更是九牛一毛。从战略上讲，北进的失败，也并未动摇太平天国的国本，太平天国的领土，并没有因此少了一寸。把北伐军与太平天国的败亡与亡国联系起来，不过是因袭李秀成那个天国十误的说法。李秀成对北伐失败的指责十分滑稽，林凤祥、林绍章等人仅损失几万人乃至数千人都要对太平天国许多年后的灭亡负责，他自己动辄散兵数十万，坐视陈玉成败亡而不救，雨花台战败，苏州失守，守天京而不能，变节投降，却是于国有大功，这种自吹自擂、推卸责任的做法，令人相当不耻。北伐失败是相当令人惋惜的，对太平天国却绝非致命打击。
仔细考究北伐失败的原因，是很有意义的。北伐败因之一，在于派出的部队过少，但如果考虑北伐本身就是一次贪图侥幸的军事冒险，甚至本身就是吸引北方清军火力的诱饵，那北伐的失败，似乎已在意料之中。
北伐败因之二，是战略指挥严重滞后于战场形势的变化。杨秀清习惯在天京遥控指挥部队战斗，林、李二人也理所当然的时时等待天京的命令，但太平天国并没有有效地保证书信往来和命令畅通，指挥部的指令无法到达前线，前线又不随机应变，自然反应迟钝，被动挨打。
杨秀清最初的指令，是要北伐军不计较一城一地的得失，以速度取胜，而在没有杨秀清的指令后，相当长的时间内，林、李二人有点茫然不知所措，在许多关键的时刻当断不断，并没有很好地执行“闪击”的军事原则。林凤祥、李开芳勇猛过人，却不能独挡一面，非元帅之才，如果北伐军统帅换成罗大纲、韦俊、石达开等人会有很大不同，但是，都说了是军事冒险，谁舍得拿名将去送死啊？
天京方面的问题也很大，杨秀清的后续梯队派出过迟。本来，先遣部队出发之后，就应尽快组织和派出后续部队，以便及时策应，对付不测情况，完成进攻任务。杨秀清派出后续援军的动作显然过于迟缓。如果后续部队迅速北上，合六七万之众，就能互相声援配合，同清军周旋，即使攻不下京师，仍有可能转战各地，与河北、山东、河南、安徽等地的反清武装相结合，建立革命基地，与清军作长期斗争，不至于被清军各个歼灭。可惜，由于援军派出过于迟缓，加之援军的领导不力，认识不统一，部队又缺乏严格的组织纪律，结果先于北伐军而失败。这就使陷于重围、孤军奋战的北伐军，最终丧失了摆脱困境的希望。其实，杨秀清完全不派出援军，结果会好一点，没有援军这个念想，林、李二人不会因为因等待本来已经不会来了的援军而延误战机，在许多战斗中也不会心存侥幸。北伐军断绝后援，拼死一战，反而有获胜的可能。
林、李二人打仗的本事也是相当有限的，进取中原的大军，居然被温绍元以一县之力打败，在怀庆、沧州等地都被清军民团打败。北伐军该机动的时候，忙于攻坚，该血战的时候，又四下流窜，内乏军火粮草，外无救兵，地形、气候、民情不熟，焉能不败。
除了军事上的原因，北伐军在政治上也犯了很大错误，北伐军没有很好地联合北方会党起义，借助北方的反清力量，使得自己孤军奋战。林，李又残暴好杀，给北方的百姓留下很坏的印象，遭到北方群众的反抗，以至于招兵完全靠裹胁，裹胁来的士兵不但没有战斗力，反而屡屡成为清军的内应，这不能不说是林、李二人犯下的重大错误。
