为了打好这一仗，汉武帝再次起用在汉军将领中声名鹊起的王牌将领卫青，出动3万兵力，从云中郡出击。另外命令表现不俗的将军李息率军从代郡出发，驰援上谷。
汉武帝这次用兵可谓超出常人思路，所谓你打你的，我打我的，争取主动，不被敌人牵着鼻子走，避实就虚，而且善于捕捉战机。在这次军事行动中，卫青的作战方向是主攻，而李息向东北进兵，做出救援上谷郡的姿态，不过是为了迷惑单于，策应和掩护卫青的行动，同时达到牵制匈奴本部，以减轻卫青所部的压力。
河南地是匈奴白羊王、楼烦王的领地，归匈奴右贤王管辖。从总体上来看，作为匈奴的杂号王，拥有部众不会很多，总兵力1万多人，以卫青的3万能征善战的大军而言，对付河南地之敌，应该不在话下。
问题是河南地的匈奴军队兵力虽然不雄厚，可是身后有两大主力为之撑腰，一个是右贤王部众，这是最需要提防的力量，毕竟河南地是他的势力范围，而且它是只会下金蛋的“鸡”，每年都会给右贤王带来大量的财富，汉军占领河南地，如同割去他的心头肉，焉有不救之理。从后来右贤王的疯狂反扑也能看出河南地对右贤王的重要性。还有一股力量就是匈奴本部了，这支大军到现在尚未出现在战场上，说不定正蛰伏在大草原的某个地方，随时准备吞噬汉军呢？因此，这次作战是标准的虎口夺食。
战略定下了，具体怎么打是前敌将帅的事情，这是考验前敌主帅的战术水平的时候了。卫青从军以来，已经连续打了几仗，基本上熟悉和了解了敌军的战略战术水平和作战能力，因此很快拟定了一个作战方案，那就是屡试不爽的长途奔袭战术。如果直接从长安西面出发，经过上谷郡向北攻打盘踞河南的匈奴楼烦王、白羊王，正面步步推进，稳扎稳打，虽然没有任何风险，但是敌人势必会节节抵抗，实在抵挡不了，会退至阴山的石门水（今内蒙古包头市西昆都沦沟）、高阙（今内蒙古巴彦淖尔市杭锦后旗）两个山口，凭险据守，进可攻，退可守。北面还有单于王庭和右贤王为后盾，可以立于不败之地，最多打成一个击溃战，汉军难以围歼敌人，搞不好还会陷入敌人重围之中，导致全军覆没的后果。因此，必须采取长途奔袭，迂回侧击的战法，绕到匈奴军的后方，迅速攻占石水门和高阙，切断驻守河南地的匈奴白羊王、楼烦王的退路，断绝他们与右贤王以及单于王庭的联系，然后回兵南下掩杀，才能争取主动，取得战果。
计划已定，剩下的就是具体行动了。长途奔袭，首先，需要做到的是保证大军行动的秘密性，尽量做到神不知鬼不觉，以保证行动的突然性，这是成功的关键。一旦走漏风声，整个行动就会宣告失败。其次，要保证行动迅速，计划周密。卫青作为主将，进行了一系列的战前准备工作，调征粮草，捕捉匈奴巡骑，确定行军路线，寻找可靠的向导，了解水草位置，以及解决大军供给，并放出游骑，禁止任何人出入，严密封锁消息。
一切准备停当，卫青率领大军静悄悄地从云中郡出发，偃旗息鼓，人不解甲，马不停蹄，北渡黄河，然后加速催马前进，日夜不停，急行军600余里，终于抵达了高阙，随后对高阙之敌发起了猛烈的袭击。
高阙地势险要，是河套平原西北的大门。东西走向的阴山山脉由一系列山脉组成，从西向东依次排列着狼山、乌拉山、大青山、灰腾梁山、凉城山、桦山、大马群山等，总长约1200公里，平均海拔1500～2000米，南坡陡峭，难以翻越，北坡地势和缓，绵延不绝的铁青色的山脉将河套平原的北面和西面包裹起来，遮断了南北交通。高阙就位于山脉西段的狼山。狼山山势险峻，是阴山的主峰所在，然而山脉忽然从中断开，如同巨斧把山脉劈开，留下了一个狭长的天然山口，两边屹立着两座峻峭的山，有如高耸的双阙，刺入蓝天，所以才称为高阙。高阙要塞就建筑在谷口东侧的台地上，台地北面是达巴图沟口，西面是查干沟口，一关扼两峡谷，控制着北方草原通向河套平原的咽喉，易守难攻，形成一夫当关万夫莫开之势，是连接匈奴右贤王部和河套平原之间的重要通道。在这样的隘谷通道立关置塞，非具远见卓识的战略眼光是不可能的。高阙要塞最初的主人是战国时期的赵武灵王赵雍，赵雍灭中山，败林胡、楼烦，辟云中、雁门、代三郡，并在阴山之上修筑了长城，高阙要塞作为遏制匈奴南下的重要军事要塞，即建于此时。汉景帝时期的名将周亚夫曾经如此形容此地，“高阙塞，塞口有坚城，出塞北为荒原，入之则跨山结寨，易守难攻，臣先父（周勃）在时曾曰：‘欲北伐匈奴，必先伐河套，欲河套，必先下高阙，高阙不下，河套难复’。”
周勃之所以有此眼光，是因为他曾经在这里打过仗。当年韩王信造反，周勃以将军身份跟随刘邦在这里用兵，先后夺取了太原、晋阳，并进占了楼烦的3座城。代王陈豨反叛时，周勃再次率军平叛，先后攻占了雁门郡17个县，云中郡12个县，代郡9个县。所以他对这里的地形非常熟悉。卫青首攻高阙，切断敌军退路，与周勃的判断不谋而合，可谓有战略眼光。
高阙一向太平，驻扎着楼烦王与白羊王的小股部队，散漫无序。卫青3万余铁骑从天而降，敌军猝不及防，四散奔逃。汉军顺利攻占高阙，留下部分军队守住高阙，防止右贤王反扑，卫青随后率主力部队向南进击，楼烦王、白羊王见退路已经被切断，无力应战，只好掉转方向，仓皇向南逃窜。汉军跟踪追击，随后掩杀，斩敌首级2300级，缴获了大量畜产辎重。卫青让士兵埋锅做饭，稍事休整，接着不给敌人任何喘息之机，马不停蹄，继续跟在楼烦、白羊二王后面追杀，一直追到榆溪，追上溃兵，大杀一阵。楼烦、白羊二王慌不择路，逃奔灵州而去。
灵州在今天宁夏银川东南，是黄河上的一个渡口，位于河套平原西边，距高阙400余公里。汉军穿越乌兰布和沙漠，翻过贺兰山，顺利到达灵州，在这儿再次痛击白羊、楼烦二王的残部，然后一路向南，高歌猛进，直达陇西，彻底荡平阴山以南的广大地区，缴获牛羊马匹数量百余万头。楼烦、白羊二王渡过黄河逃走，逃出塞外，从此再也没有回来过。
这一战酣畅淋漓，整个过程如同行云流水，与战前的设计基本吻合，汉军达到了收复河套平原、聚歼白羊、楼烦王所部的预期设想。这也是卫青从军以来，指挥艺术得到完美发挥的一役，整个战役都是在长途奔袭、迂回包抄的过程中完成的，充分显出了卫青指挥大兵团作战的卓越才能。
这一仗也是汉匈开战以来战果最丰的一次，汉军歼敌数千人，俘获“伏听者”（伏听者是匈奴军队的情报人员，他们主要任务是趴在地上，通过用耳朵仔细倾听马蹄敲打地面的声音来判断敌军的人数以及方向等，是沙漠作战中必备的人员，汉军中也有大量的伏听者）3071人及牛羊百余万头，收复了河南地全部土地，穿行千余里到达陇西，基本上在河南地由北向南再向西贯穿了一遍。而且这次汉军作战不像以前的战役那样，杀敌一千，自伤八百，而是“全甲兵而还”，军队没有任何损失，在对匈奴作战历史上尚属首次，值得大书特书，所以，《史记》《汉书》都隆重地记载了这一史实。
汉武帝得到卫青的战报，兴奋异常，他下诏说道：“车骑将军青率部击胡之楼烦、白羊王于河南，得胡首虏数千，牛羊百余万，走白羊王、楼烦王，遂取河南地，功盖天下！”
战后论功行赏，大批随征将领得到封赏，苏建、张次公以校尉从卫将军有功，分别封为平陵侯、岸头侯，各有封地1100户。卫青被封为长平侯，食邑3800户。汉武帝尚觉得封赏难酬其功，又益封3000户以表其功。
汉匈河南地之战中，双方投入的兵力不多，战役的规模也不算大，但是此役在汉匈战争中有着重要意义和深远的影响。西汉王朝收复河南地之后，汉朝北方边境的防线向北推移到黄河沿岸，从此黄河便是西汉王朝防御匈奴的天然屏障。
匈奴繁衍栖息之地多为酷寒之所，生存条件恶劣，逐水草而生，常常居无定所，一旦遇上天灾，牲畜大量死亡，就会给整个民族的生存带来严峻挑战。这也就解释了为何他们时常南下，攻伐兼并都是生存所迫，目的是通过向农业区“打谷草”来弥补自然条件的不足。这次河南地之战，使西汉完全控制了河套地区。水草丰美的河套地区是匈奴人最好的牧场，也是整个匈奴帝国领土中最肥沃的地盘。西汉军事作战的胜利，不仅在军事上给匈奴严重的打击，而且在经济上也给了匈奴当头一棒；同时抽掉了匈奴进犯中原的跳板，解除了匈奴骑兵对长安的直接威胁，西汉王朝的北部边防线北推至黄河沿岸，从而极大改善了西汉西部的防御态势，取得了局部优势地位。
由于河套地区具有重大的经济和军事价值，汉武帝还根据主父偃的建议，派遣苏建征调10多万民夫在河南地修筑军事要塞朔方城，位置在黄河“几”字形左上角，即今内蒙古乌拉特前旗东南，派兵镇守。朔方的意思就是北方，即《诗经》所谓：“出车彭彭，旂旐央央。天子命我，城彼朔方。”此外，还修复了秦时大将蒙恬所建造的要塞，利用黄河天险为屏障，构建沿河的防御工事，将河南地打造成一个重要的军事基地，增强西汉王朝的防御能力，随时准备抵抗匈奴的突袭，也可以随时向匈奴发起攻击，成了进可攻、退可守的前方战略基地。可以说，卫青此战为汉朝此后的一系列胜利打下了根基，可谓是一举多得。
黄河贯穿河南地，这里土地肥沃，水利资源丰富，是一块难得的宝地，十分有利于灌溉农业的发展，开辟新区，增加赋税，供养人口。所以，汉武帝在收复河南地之后，马上在此设置了武原郡（今内蒙古包头西北）和朔方郡（今内蒙古锦杭旗北）。九原为赵武灵王所筑的旧城，部分城墙已经坍塌，西汉政府对九原稍加修缮，派驻官吏加强管理，并于当年招募10万内地居民至九原实边屯田，增强边疆人口，充实边防力量。元狩二年（前121年），“徙关东贫民所夺匈奴河南地新秦中以实之”。元狩四年（前119年），“徙贫民于关以西及充朔方以南新秦中，七十万余口”。可见，移民规模越来越大。通过移民开发了这些地区，充实了边防，对这一地区进行了有效管辖和治理。日后汉军每打下一块地方，就依此办理，派官吏将数以万计的穷苦百姓护送去，并为他们建造屋室，借公田，贷耕牛、农具及其他生产用具，初到时衣食也由政府供给，使他们成为国家的佃农，待经济自立后，或超过规定的优惠期后，他们才向国家交纳租税，这就是民屯。另外，政府还派军队军屯，一面驻防，一面耕地，军屯所获则全部上交国家。民屯与军屯相配合，且耕且战，且攻且守，寓兵于农，寓攻于守，共同打造了西汉帝国的钢铁长城。
当然，修筑城池加上移民实边，花费之大超出了想象。史书上记载，这次经营河南地花费了“十百巨万”，国库为之一空，以至于从公元前123年开始，汉武帝开始卖官鬻爵，以补充国库之不足，司马迁对此颇有微词。可是，这是弊在当代功在千秋的壮举，明代思想家王夫之就说：“武帝乘其实而为民利，国虽虚，民以生，边害以纾，可不谓术之两利而无害乎？”
