光绪十一年（1885 年）3 月 25 日，镇南关大捷的欢呼声还未消散，冯子材就站在关前的土坡上，对着麾下将士高声呐喊：“弟兄们，法军已如丧家之犬！咱们乘胜追击，拿下谅山，把这些外夷彻底赶出越南！”
此时的清军，刚在镇南关打了一场酣畅淋漓的胜仗，士气正盛。将士们握着还沾着血迹的武器，眼神里满是斗志，听到冯子材的号召，齐声应和：“拿下谅山！赶出越南！” 呼声震天，在山谷间久久回荡。
谅山，是越南北部的军事重镇，也是法军在越南的重要据点。这里地势险要，法军在此修建了坚固的工事，还驻扎了三千余兵力，储存了大量粮草弹药。此前，法军凭借谅山的防御，多次阻挡清军的进攻，如今镇南关大败，法军虽退守谅山，却仍想凭借工事负隅顽抗。
冯子材深知，要收复谅山，不能硬拼。他召集将领们商议战术，最终制定出 “声东击西、夜袭破城” 的计划：由总兵王德榜率领一部兵力，在谅山城东面佯攻，吸引法军主力；冯子材则亲自率领主力，趁着夜色，从谅山城西面的山间小道偷袭，直插法军心脏。
3 月 26 日夜，月色朦胧，山间的雾气像一层薄纱，笼罩着大地。冯子材率领五千余名清军将士，手持火把，沿着狭窄的山间小道悄悄前进。小道崎岖难行，有的地方甚至需要手脚并用才能攀爬，将士们却毫无怨言，只是小心翼翼地避开碎石，生怕发出声响惊动法军。
“都把火把灭了！” 快到谅山城西郊时，冯子材压低声音下令。将士们立刻熄灭火把，借着月光继续前进。很快，谅山的城墙出现在视野中，城墙上的法军哨兵正打着哈欠来回踱步，丝毫没有察觉危险的临近。
“上！” 冯子材一声令下，清军将士们如猛虎下山般冲向城墙。负责攀爬城墙的士兵，迅速将云梯架在城墙上，手脚麻利地向上爬。城墙上的法军哨兵见状，吓得惊呼起来，慌忙举枪射击，可已经来不及了 —— 第一名清军士兵已经爬上城墙，手起刀落，将哨兵砍倒在地。
后续的清军将士源源不断地登上城墙，与法军展开激烈厮杀。冯子材手持大刀，冲在最前面，所到之处，法军士兵纷纷倒地。城内的法军听到动静，连忙从睡梦中惊醒，仓促拿起武器应战，可清军攻势迅猛，法军很快就被冲得溃不成军。
与此同时，城东面的王德榜部也发起了猛烈进攻。法军以为清军主力在城东，纷纷调兵支援，没想到城西早已被清军攻破。等法军反应过来，想要回援城西时，清军已经控制了谅山的大部分区域。
“撤！快撤！” 法军将领见大势已去，再也无心恋战，带着残兵败将朝着越南北部的河内方向逃窜。逃跑途中，法军为了减轻负担，不得不丢弃大量的粮草、弹药和武器装备，甚至连一些重伤的士兵都被遗弃在路边。
冯子材率军进入谅山城内，看着城内法军留下的狼藉景象，脸上露出了欣慰的笑容。他下令安抚城内的越南百姓，同时派人清点战利品 —— 此次收复谅山，清军共歼灭法军八百余人，缴获火炮十五门、步枪六百多支，还有数十万斤粮食和大量弹药。
收复谅山的消息传出后，清军士气更加高涨。冯子材乘胜追击，又接连收复了越北的文渊、高平、宣光等重镇。这些重镇此前都被法军占领，如今清军一来，法军要么望风而逃，要么仓促应战，很快就被清军击败。
在高平城外的一场战斗中，清军士兵李二狗表现格外英勇。他原本是一名普通的农民，法军占领他的家乡后，他就加入了清军。战斗中，他看到一名法军士兵正举枪对准冯子材，毫不犹豫地冲上去，用身体挡住了子弹。冯子材看着倒下的李二狗，眼眶泛红，哽咽着说：“好孩子，你为国家尽忠了，朝廷不会忘记你！”
法军在越北接连溃败，士气大跌到了极点。不少法军士兵失去了斗志，甚至出现了逃兵。在河内的法军军营里，一名法军士兵对着长官抱怨：“清军太勇猛了，我们根本打不过他们，再这样下去，我们都会死在这里！” 长官虽然严厉斥责了他，可自己的脸上也满是焦虑 —— 镇南关大败后，法军兵力受损，补给困难，如今又丢了越北诸多重镇，想要再反攻，已是难如登天。
远在福州的左宗棠，得知清军收复谅山等越北重镇的消息后，激动得在书房里来回踱步。他立刻提笔，再次上奏朝廷，请求增兵越南，彻底将法军赶出越南全境。在奏折中，他写道：“如今清军士气正盛，法军士气大跌，此乃收复越南全境之绝佳时机。若朝廷能增派兵力，臣愿亲自前往越南，协助冯子材等将领，一举荡平法军，永固西南边疆！”
此时的越南战场，清军已完全掌握了主动权。越北的百姓们得知清军收复重镇，纷纷夹道欢迎，有的还主动为清军带路、运送粮草。在百姓们的支持下，清军如虎添翼，继续朝着法军的最后据点 —— 河内推进。
法军将领们看着不断逼近的清军，以及越来越低迷的士气，心中充满了绝望。他们知道，失去了越北的诸多重镇，河内已是孤立无援，想要守住河内，几乎是不可能的事情。而清军，正带着镇南关大捷的余威，带着收复越南的决心，一步步朝着胜利迈进。
