汉军元光六年以及元朔元年的两次出兵，虽说小有斩获，取得了一定的战果，但都是防御性的作战，敌对双方彼此之间你来我往，没有伤筋动骨。而且汉军一旦罢兵而回，匈奴军队就会利用骑兵的优势卷土重来，对西汉边境进行疯狂的报复。事实证明，这样的打法注定会成为消耗战，战争将会遥遥无期，永远没有休止符。
没有受到汉军打击的左贤王部显然以为对手依然像往常那样软弱好欺，决定“再接再厉”，再捞一把。公元前127年，匈奴左贤王部集中兵力突袭辽西，杀死辽西太守，接着撇开李广守卫的右北平，进犯渔阳郡、雁门郡，击败雁门都尉，渔阳郡守将材官将军韩安国率700人出城迎战，结果身中一箭，负伤败阵，随后固守待援，退守壁垒不出，数月后因伤发病死。匈奴骑兵于是放胆大肆掳掠，抢夺了边民2000余人以及大量牲畜。当时警报频传，探报显示敌人有继续向内地进犯的可能性。可汉武帝却做出了一个大胆的决定，决定采取胡骑东进、汉骑西击的作战方针，置东部战线于不顾，任由敌人荼毒蹂躏，命令车骑将军卫青、将军李息急速出兵云中郡，突袭匈奴防守薄弱的河南地。
河南地，位于黄河以南，秦汉之际称河南，汉朝以后称作河朔或河套，也就是今天的内蒙古鄂尔多斯草原，位于今天内蒙古和宁夏境内，又称河套平原。黄河号称“九曲十八弯”，河水冲刷，在内蒙古地区形成了一个大大的“几”字形，东西长约180公里，南北宽约60公里，总面积约2.5万平方公里，西面与贺兰山相接，东到呼和浩特，北面倚靠阴山的余脉大青山，南临鄂尔多斯高原，好像一把扇子平摊开来。“黄河百害，唯富一套”，河套一带的降雨量虽然稀少，但气候温和，临近黄河，地势平坦，黄河水顺着地势自然而下，形成千里沃土。早在秦朝时期，这里的居民就巧妙利用地势，开凿沟渠，把黄河河水引到广袤的土地上，河水的灌溉和滋润，使得这里土壤肥美，植被茂盛，满目青翠，畜牧业和农业十分发达，素有“塞外江南”“塞上粮仓”之称。
如此丰美的一块宝地，当然引起多方势力的觊觎与争夺，使这块土地沾染了无数的鲜血，经常变换着主人，可以说，河套地区的历史就是不断被外来势力侵占的历史，也是弥漫着硝烟混合着血泪的历史，从而影响这里的文明发展进程。战国时期，七强争雄，燕赵两国为割据地盘，经常以武力兼并四邻。就在胡服骑射的次年，赵国就向觊觎已久的中山国发动进攻，一直打到宁葭（今河北获鹿北）。赵武灵王让代地的相赵固专主管所夺取的胡地，专门负责养殖马匹，向赵国提供骑兵。
公元前306年，赵武灵王西攻胡地，一直打到榆中（今内蒙古河套东北岸地区），“辟地千里”，打败林胡，林胡王被迫向赵国贡献良马求和。赵武灵王降服林胡后，又“礼服”了楼烦，从而把林胡、楼烦两国上千里的土地并入自己版图，势力到达云中（今内蒙古托克托）、九原（今内蒙古包头），设置云中、雁门、代三郡治之，而且建造2000余里的长城，以之来达到巩固土地、防御北胡的目的。“赵武灵王变俗胡服，习骑射，北破林胡﹑楼烦。筑长城，自代并阴山下，至高阙为塞。”这是赵武灵王胡服骑射抗击匈奴的历史记载。赵孝成王时，还向北方的强邻匈奴出击，“攘地北至燕、代”。赵武灵王曾在呼和浩特市东南的大黑河东岸，放养马匹，大练骑兵，与强秦争雄。赵国一度成为秦国统一天下的最大障碍，与赵武灵王经营这块宝地有很大关系。
赵惠文王时期，匈奴势力发展起来，向南越过阴山，逼近河南地，常年骚扰河套、雁门一带，给赵国构成巨大的军事压力。赵国名将李牧被派去驻军雁门郡，为赵国看守北大门。李牧宽仁爱士，关心士兵疾苦，同时积极练兵，学习匈奴军队的战法。在李牧的治理下，边防赵军士气高昂，军容威盛，于是李牧率军向匈奴开战，在战斗中李牧故意连连败退，丢弃了大量的牛羊辎重，示弱于敌，麻痹对手，把匈奴主力步步引诱到长城外围来进行决战，接着集合人马，夜袭匈奴大营，把睡梦中的匈奴骑兵杀死了大部分，其他敌人慌乱逃窜，他命令赵军用战车封锁了匈奴营地出口，射杀四处逃窜的敌人。这一仗打得匈奴主力几乎全军覆没，难以恢复元气。李牧乘胜追击，向北推进了近200公里，重新占领了阴山南麓以及河南地一带。“敕勒川，阴山下，天似穹庐，笼盖四野。天苍苍，野茫茫，风吹草低见牛羊”，这里成为赵国重要的游牧区和战马供应地。
战国末期，随着赵国的衰落，匈奴骑兵再次像潮水一样越过了阴山，重新占领黄河以南的河南地区，臣服了楼烦，并且时常纵兵南下抢掠，威胁秦、赵边境。秦朝统一中原后，秦始皇派蒙恬率大军又把匈奴逐出河套地区，秦军以战车开路，箭矢如蝗，步骑大军随后掩杀，匈奴大溃。经过这次较量，匈奴再次败退，退出河南地，史称“却匈奴七百余里，胡人不敢南下而牧马”。蒙恬从榆中（今属甘肃）沿黄河至阴山构筑城塞，收复了当今内蒙古境内的黄河以南地区，又跨过黄河夺取了内蒙古临河区西北的高阙、阴山、北假等地，并修筑北起九原、南至云阳的直道，构成了北方漫长的防御线。蒙恬守北防十余年，匈奴慑其威猛，打消了南下的念头。
秦朝末年，群雄并起，中原逐鹿。匈奴进入冒顿单于统治时期，他东灭东胡，西击月氏，统一了大漠南北，接着沿着高阙南下，吞并楼烦王、白洋王之地，重新占据河套地区和阴山一带，原先的移民纷纷逃返中原，世代居住在河套的楼烦、白羊二胡族则臣服于匈奴，从此匈奴牢牢把控着这块宝地将近一百年时间，在匈奴三大部的行政区划上，河套地区归匈奴右贤王管辖。
在这将近100年的时间里，匈奴虽然不断进行着人事的更新和代谢，可是一直有强有力的人物主政，从头曼单于发其端，到冒顿单于昌其盛，再传给老上单于续其盛，再到军臣单于延其盛，已经把河套地区建设成为牢固的根据地。
先后兴起的几大势力尤其是匈奴与中原王朝不惜血本，反复争夺河南地，除了巨大的经济利益之外，还在于河套地区在战略上具有十分重要的地位。河南地处于黄河“几”字形流域之内，西、北、东三面被黄河环绕，西面为贺兰山脉，北面则是阴山山脉。阴山及其余脉大青山绵延千余里，横亘在漠北草原与黄河平原之间，只有几处狭窄的山峡沟通南北。河南地地处阴山南麓，谁占据了这里，谁就控制了南北交通的门户。此外，这一带地势平坦，一马平川，无险可守，是骑兵作战的理想战场。匈奴占据这里，可以作为侵略中原的跳板和桥头堡，从这片草原向南穿过毛乌素沙漠和鄂尔多斯高原，纵马突击，则可到达上郡，上郡离长安只有300多公里的路程，匈奴轻骑一日即可兵临城下，是威胁西汉王朝的一个便捷顺畅的战略通道。事实上，匈奴多次利用河套地区作为进攻西汉的战略基地。例如，公元前177年5月，匈奴右贤王就曾以河套草原为跳板，大举深入关中平原，烧杀抢掠，直至与长安相邻的北地郡，焚毁了从秦始皇时期留下的一座帝王行宫（回中宫），如果沿着黄河顺流而下，兵锋可以直达长安；公元前158年冬，匈奴进攻上郡、云中郡，月余始退，这些行动对汉帝国构成了严重的威胁。万一形势不利，这一地区也可以为匈奴提供一定距离的纵深，使匈奴有所戒备，赢得战争准备的时间。
对于西汉而言，河南地的战略地位则更为重要。河南地北接阴山，西邻河西走廊，向东则威胁定襄郡、云中郡，西汉都城长安直面河南地，“匈奴河南白羊、楼烦王，去长安近者700里，轻骑一日一夜可以至关中”。匈奴在河南地的存在与活动，如同芒刺在背，对于定都关中的西汉王朝是一个实实在在的威胁。汉文帝十四年（公元前168年），匈奴老上单于亲率大军进入河南地掠夺，骑兵先锋深入雍县与甘泉宫，京城长安的官民惊恐不已，汉文帝紧急调动10万车骑部队戒备长安。西汉如果控制了河南地，就可以以黄河、阴山等天然屏障为依托，抵御北方匈奴骑兵南下。打掉这个匈奴入侵中原的桥头堡，彻底解除长安北面的威胁，并在此处建立反击匈奴的军事后勤基地，可以改善汉匈攻守的战略态势。所以，夺取河南地，无论是在经济还是军事上，都是汉匈大战的重中之重，事关西汉的战争主动权和下一步的国防战略。更为重要的是，河南地的正北便是匈奴大单于的王庭所在，他们修建的头曼城，是匈奴帝国的心脏。
当然，如果汉军收复了河套地区，不但从根本上解除了长安北面的威胁，对匈奴而言其后果也是致命的，汉军可以沿着这片广阔而肥美的草原，一路向北渡过黄河，穿越阴山，挺进茫茫草原大漠，直捣匈奴帝国的心脏，匈奴从此将会难以安枕。因此，这是一块对汉匈双方都生死攸关誓死必争的地方，战火迟早会在这块地方再次烧起。
汉武帝一直没有忘记兵家必争的宝地，他一直在等待时机。这一次，他终于出手了。
