第一次河西之战，霍去病的精骑在河西走廊冲杀了一个来回，如同一条长鞭子狠狠地击打在野牛背上，打得皮开肉绽，鲜血淋漓，痛入骨髓，留下了深深的伤痕。但是，并没有彻底制服这头野牛，还需要再一次重击。虽说战役过后，作战双方都很疲惫，都需要养精蓄锐，休整兵马，整顿战备，以利再战。可是，初战告捷，给汉武帝以极大的鼓舞，汉武帝决定趁河西敌人惊魂未定之际，趁热打铁，再次动员和组织兵力，立即发动更大规模的夏季攻势，对河西走廊的敌人进行一次更大规模的军事打击，完全剪除河西匈奴势力，切断匈奴右臂，一举解决河西问题，将河西地区牢牢地控制在汉王朝的手中，从而打通进入西域的道路。于是，就在元狩二年的夏天，汉武帝迫不及待地发动了第二次河西战争。
不过，由于河西的敌人经受过第一次打击，不但河西之敌，甚至整个匈奴帝国都开始警觉起来，已经失去了战役的突然性，怎么打好第二仗，确实需要汉朝君臣仔细筹谋了。君臣集思广益，周密部署，很快一个针对河西的庞大战略计划出笼了。
首先，这次进军河西不再是孤军突进，而是多路兵马的分进合击。有助攻，有主攻，有侧翼，有战略配合。可谓奇正结合，虚实为用，在幅员广阔的战场上进行连环穿插，复合进击。
先说侧翼的战略配合。按照作战计划，在东路方面，汉武帝任命卫尉张骞、郎中令李广率万余骑兵出右北平（郡治平刚，今辽宁凌源西南），进击左贤王，这是次要出击方向，主要作用是牵制左贤王，使其不能破坏汉军西征的军事行动。
左贤王庭（东部）管辖的地区在匈奴的东部，其南依次与汉地辽西郡、右北平郡和上谷郡（今天河北怀来一带），再往南是渔阳郡，东面连接秽貊、朝鲜，土地极为广阔。左贤王是匈奴集团中仅次于单于的势力，左贤王即左屠耆王，地位高于其他诸王，仅次于单于，是单于的继承者。自从西汉与匈奴开战，左贤王部还没有遭到汉军的严重打击，其所部兵强马壮，是匈奴的生力军，经常对西汉的东北边境发动进攻，给汉军的压力很大。一旦汉军向西开展军事行动，左贤王有可能出兵，从东部攻击汉军后背，至少会采取牵制行动。因此，为了西线战事的顺利进行，汉武帝决定派偏师攻击左贤王部，先发制人，牵制左贤王部，使其在西线军事行动中无暇他顾，不能有所作为。
担任牵制任务的是卫尉张骞和郎中令李广。张骞我们比较熟悉了，此时他的职务是卫尉，九卿之一，掌管宫门警卫。西汉时宫内设庐舍以驻扎卫士﹐卫士昼夜巡警﹐检察门籍，护卫宫殿者有郎卫和兵卫。郎中令率郎官为郎卫，卫尉率卫士为兵卫。所以两人的职务可谓互为表里，相互配合。
李广是名扬沙场的老将，其先祖李信为秦国名将。公元前166年，匈奴大举入侵边关，李广少年从军，抗击匈奴。他作战英勇，杀敌颇众，使汉文帝大为赞赏。李广身材高大，臂长如猿，有善射天赋，有百步穿杨的神技，多次跟随汉文帝射猎，格杀猛兽，汉文帝曾慨叹：“惜乎，子不遇时！如令子当高帝（刘邦）时，万户侯岂足道哉！”汉景帝即位后，李广为陇西都尉，不久升为骑郎将。吴楚七国之乱时，李广任骁骑都尉跟随太尉周亚夫抗击吴楚叛军，夺取叛军帅旗立功显名。但由于李广接受了梁王私自授给他的将军印，回朝后没得到任何封赏。诸王叛乱平定后，李广成为汉景帝身边的禁卫骑兵将军，先后又在北地、雁门、代郡、云中等北部边域七郡任太守，以善打硬仗而闻名，匈奴畏服，称之为“飞将军”。公元前140年，汉武帝即位，调李广任未央宫的卫尉。不久，郎中令石建死，李广被任命为郎中令。“郎中令”是掌管宫殿门户的官，实际权力很大，是皇宫禁内的主要职能官员。
这时程不识也任长乐宫卫尉，他俩从前都以边郡太守的身份统领军队，作为边关老将，却有截然不同的带兵方法。程不识曾经总结说：“李广军极简易，然虏卒犯之，无以禁也；而其士卒亦佚乐，咸乐为之死。我军虽烦扰，然虏亦不得犯我。”士兵人人自便，晚上不打更巡逻自卫，但如果匈奴进攻，大军没办法抵挡。程不识则以严格治军而闻名，他注重部队的编制、队列和阵式。晚上巡逻，军中事务烦琐，却不怕匈奴进犯。可是士兵却苦于程不识之严，都喜欢跟随李广作战。
李广为将廉洁，可谓爱兵如子的模范。他从不侵犯士兵利益，还常把自己的赏赐分给部下，他爱兵如子，凡事能做到身先士卒；他也不高高在上，作威作福，而是与士兵同甘共苦，同吃同饮。尤其是行军遇到缺水断食之时，士兵不全喝到水，他绝对不去喝水；士兵没有吃饱，他不去吃饭。对待士兵宽缓不苛，体恤士兵，不喜欢以严苛的军令军纪治军，广施仁爱，深得官兵爱戴，使得士兵甘愿追随，为他效死，所以他的部队很有战斗力。他做了40多年俸禄二千石的官，由于经常把余财散给士兵，所以没有什么积蓄，家无余财。别的高官大员忙于整修府邸，广买田宅，为日后归隐做打算，可是李广从来不考虑这些事，也始终不以购置家产为意。李广不善言辞，不追求享受，也没有什么嗜好，一生都以射箭为消遣，闲居时亦以射箭赌酒为乐。李广射杀敌人时，经常要求自己箭无虚发，敌人非在数十步之内不射，所以多次在战场上遭遇险境。外出打猎时也是距离野兽很近时才射箭，以致有时被野兽扑倒而受伤。可以说，李广是一个官场的异类。
此时，李广的职务是郎中令，也是九卿之一，与卫尉共同守护宫殿。从职务上看，两人平级，不相伯仲，但是张骞是博望侯，地位要比李广尊崇。因此在这支偏师中，张骞是主帅，李广为先锋。对于李广而言，只要能够让他参加作战就行，别的就不计较了。汉武帝起用李广为先锋，率领4000人先行出发，张骞率领1万骑兵随后跟进，目的就是利用勇敢善战的李广缠住左贤王，担任搅局者的角色。因此，这是一支配合西线战事的偏师。正可谓“烽火动沙漠，连照甘泉云。汉皇按剑起，还召李将军”。
河西才是汉武帝真正属意的战场。汉武帝任命霍去病与合骑侯公孙敖领数万骑进攻河西。公孙敖是卫青的铁杆朋友，也是一位久经沙场的老将了。
按照事先预定的作战计划，西北方向是用兵目标，兵力自然比较雄厚。在西北方向，也分为正师与奇师，奇正结合。霍去病与公孙敖部两路并进，像当年卫青收复河套那样，来个大迂回，汉军的春季攻势，是从陇西郡出发，从兰州一带渡过黄河，沿着庄浪河谷北上，再从乌鞘岭以北的古浪峡进入河西走廊的。这条行军路线将会是河西匈奴人重点关注的线路，乌鞘岭的古浪峡一定会成为河西匈奴布防的重点，如果再次沿着相同的路线进军，就不会有上次这么好的运气了。匈奴只要派出部分兵力在古浪峡进行堵防，汉军插翅也难以过去。因此，这次西征的汉军要改变路线，从北地郡出发，往西北走，渡过黄河，翻过贺兰山，涉过钧耆水（即今山丹河下游），从雷公山以北，穿越腾格里沙漠，直达居延泽，在那里两军会师，稍事休息，然后九十度大转弯，沿弱水（今内蒙古黑河，又称额济纳河，发源于祁连山，西北向流入居延泽）急转而下，以弱水为大军的生命之源，快速绕到匈奴人的大后方，即祁连山西南麓的小月氏部落（大月氏西迁时，一部分月氏人没有西迁，降服于匈奴，称之为小月氏），然后再九十度大转弯，从西北往东南攻，在休屠浑邪王主力的背后捅刀子。霍去病所部是侧翼进攻，从北侧插入敌后，断其退路，从背后下手；而公孙敖所部主要负责正面进攻，同时又负有吸引敌方注意力、掩护北路汉军迂回包抄的任务。这样的部署也是吸取了上次河西之战的教训。在上次河西之战中，霍去病基本上采取平推战术，逐步推进，没有歼灭敌军主力，这次如此布置，显然是布了一个口袋阵，将河西之敌一口吞下，就地消灭。
孙子说：“凡用兵，以正合，以奇胜。”出奇制胜是兵法之要，奇正的本质在于迷惑敌人。正面的硬碰硬不是完胜之道，胜败之关键在于出奇制胜。这个“奇”需要不断地更新传统的用兵之道，推陈出新，达成战法的超越和创新，使战争充满了无穷的魅力。“故善出奇者，无穷如天地，不竭如江海。”从这个角度看，河西作战计划堪称是一个完美的作战计划。从战术安排来看，霍去病的主攻地位十分明显，无论是公孙敖还是李广、张骞俱是策应作战，这种战术搭配都是为河西敌人量身定做的。
正在这时，边境再次告警，匈奴单于派出数万骑兵南下，快速进击代郡、雁门郡，分散汉军兵力，以期达到汉军不敢放手全力攻击河西走廊右贤王部队的作战目的。不过相比以往，这次行动造成的损失不大，只杀死和掠走了数百边关百姓，而且怕汉军反击，敌军很快退兵撤走，不敢像以往那样在边境耀武扬威，大肆劫掠，这说明了匈奴的色厉内荏，因此这次行动对汉军的进攻计划没有造成任何影响，战役依然如期打响。汉武帝下达了出击的命令，汉帝国的军队按预定作战行动从三个方向出发。
