河南之地位居汉朝都城长安与匈奴王庭之间，是一块意义非凡的战略要地，对于汉匈双方而言，谁要是占有这块地盘，谁就拥有了一柄剑，这柄剑最大的作用，就是可以直插对方心脏。
卫青收复河套后，匈奴不甘心失败，多次出兵袭扰雁门、定襄、上郡等汉朝边境，想要夺回河南之地。元朔三年，也就是河南之战后的第二年，军臣单于死，军臣单于的弟弟左谷蠡王伊稚斜与军臣单于的太子于单争夺大单于之位，于单不敌降汉，伊稚斜于是自立为匈奴新单于。伊稚斜继位匈奴大单于后，对汉朝边境的袭扰更加频繁，匈奴右贤王部更是屡次进犯朔方，杀掳民众，企图夺回河南。
为了巩固朔方，解除匈奴对河套平原的威胁，元朔五年（前124），也就是河套大捷后的第三年，刘彻发兵十万，开始实施对匈作战的第二步战略攻势，此次战略攻势的意图，就是进攻盘踞在漠南的匈奴右贤王部，切断匈奴的右臂。
建元新政失败后，刘彻通过在上林苑的狩猎，体悟了匈奴骑兵机动作战的真谛，此次出击右贤王部，刘彻的战略思想依旧是闪电奔袭，以其人之道还治其人之身。
为了尽可能取得战争的胜利，刘彻决定此次兵分东西两路，以卫青的三万骑兵为主力对付匈奴右贤王，同时让李息、张次公出兵右北平，在东边牵制匈奴左贤王部，策应卫青在西路的进攻。卫青打仗，十分擅长千里奔袭闪电一击，作为西路军的主帅，他率麾下李广、公孙敖、公孙贺等六将经朔方出高阙，越过边境六七百里，然后直奔匈奴右贤王王庭。自从收复河套后，匈奴右贤王的王庭便与汉边境赤裸裸相对着。匈奴右贤王这个人虽然比较骁勇剽悍，但身为一个男人，尤其是匈奴部高高在上的王族，他也比较好色，不但好色，而且还十分嗜酒。当卫青率领汉朝的精骑出高阙直奔他王庭而来时，他还搂着美女在帐中宴饮，在他的意识里，其王庭虽然与汉朝边境赤裸相对，但距离比较远，而且汉朝的骑兵素来孱弱，要想袭击他，那是绝不可能的事。到这个时候了，他还在做梦。
匈奴右贤王的宴饮进行了很长时间，宴饮结束，他也有八九分醉了，这时候便摇摇晃晃起身，左拥右抱搂着美女就寝去了。入夜后，当卫青的骑兵突然到来时，温柔醉乡中的右贤王被惊天动地的喊杀声惊醒过来，待得弄明白是怎么回事，这才慌张起来。往日剽悍的匈奴右贤王，此时面对突然袭来的卫青所部，就如同婴儿面对猛虎一般毫无抵抗之力。右贤王是听说过卫青的大名的，对于卫青，他还是比较惧怕的。当听说偷袭他的人是汉朝那个名叫卫青的将军时，右贤王跳出大帐，一拍马屁股就望北而逃了，临走之时，竟然还没忘记带上一名美女。
卫青的突袭几乎是一气呵成的，毫不费力便将右贤王部冲击得支离破碎。这次的突袭斩获颇丰，几乎全歼匈奴右贤王部，匈奴右贤王部的裨王从众一万五千多人尽皆做了俘虏，除此之外，还有十多万头的牛羊马匹等牲畜。但对刘彻而言，这些都不是他所看重的，真正值得他高兴的是漠南之战的战略意义，匈奴右贤王溃北以后，匈奴主力与河西走廊上休屠王、浑邪王之间的联系便被一刀切断，收复河西从此指日可待。
当漠南大捷的消息传到长安时，长安百姓欢欣鼓舞，刘彻也大为振奋。为了奖励卫青的战功，刘彻派人捧着汉朝大将军印信前往朔方，加封卫青食邑八千七百户，拜为大将军，汉朝所有将领皆归卫青统率，就连卫青三个襁褓之中的儿子，也被封了侯，刘彻的高兴，由此可见一斑……
匈奴右贤王的失败让伊稚斜单于大为震怒，同时又极不甘心。为了报复汉朝，同年秋天，伊稚斜派万余骑兵袭入代郡，疯狂屠杀一番后，劫掠千余人而去。
伊稚斜的报复激怒了刘彻，此时的刘彻，心中考虑的是如何歼灭匈奴主力的问题。
次年春天，刘彻便让大将军卫青率军十余万北出定襄，去寻找伊稚斜单于本部进行决战。卫青麾下，统领着后将军李广、中将军公孙敖、强弩将军李沮等六人。卫青率军由定襄出塞后不久，便遇到一股匈奴部队，虽然歼敌数千，但却不是匈奴主力。
小战之后，卫青便率军返回定襄休整。刘彻听说卫青没有继续寻找匈奴主力决战，认为卫青是害怕战败才返回休整，心中有气，便给卫青下了一道命令，说休整可以，但休整的目的，是为了找伊稚斜单于主力进行决战，命令卫青休整完之后，必须立即出兵寻找战机。
卫青接到命令后，似乎意识到了刘彻的不满，稍事休整后，便率汉军第二次出定襄。这次出击虽然找到了匈奴主力，但卫青的运气不太好，出定襄数百里后，卫青便与大股匈奴军发生激战。战斗中，伊稚斜单于的主力与左贤王的军队先后赶来增援，汉军奋勇杀敌，歼敌万余人，但自身的损失也相当惨重。
此次随同卫青出征的，除了李广、公孙敖等六将，还有一个初出茅庐的少年，这个少年名叫霍去病，官封骠姚校尉，年方十八岁，是刘彻的高足、卫青的外甥。
霍去病在刘彻的亲手调教下早已练兵数年，此次是第一次出击匈奴。对于跃跃欲试的霍去病而言，第一次打仗，无疑是一件激动人心的事。
卫青率军出定襄后，霍去病便再三请战，卫青经不住霍去病的软磨硬泡，便准许霍去病出去抓几个舌头回来，嘱咐不许走远。
霍去病一出大帐，便将舅舅卫青的话扔到了九霄云外，率着麾下八百骑长驱直入乱打一通，深入匈奴腹地数百里，杀伊稚斜单于大行父藉若侯产，俘单于叔父罗姑及匈奴相国、当户等高官，斩首匈奴两千零二十八个。
霍去病一战惊人，消息传到长安，刘彻心中十分满意，认为霍去病堪为军锋之冠，便赐食邑二千五百户，封为冠军侯。
此战卫青虽然获胜，但前将军赵信却投降了匈奴。赵信原本是匈奴小王，后来卫青训练骑兵，因赵信是匈奴人，便推荐给刘彻，刘彻封其为翕侯，让其教授汉军兵马骑射之术。当时卫青率军出定襄后，前将军赵信和右将军苏建的三千骑兵与伊稚斜单于主力相遇，激战一日，汉军伤亡殆尽。赵信见汉军不敌，便投降了匈奴。
赵信以匈奴小王的身份先投降汉朝，后又复归匈奴，由于他在汉朝的时候颇受刘彻重视，被派去教练骑兵，因此对汉朝的情况还是比较了解的。赵信重归匈奴后，伊稚斜单于大喜过望，认为赵信的归来，能让匈奴人了解许多汉朝军队内部的事情，除此之外，伊稚斜还认为赵信既然教练过汉朝骑兵，那也一定知道对付汉朝军队的办法。自从马邑之围打响汉匈关系的转折战后，伊稚斜单于便意识到了一个问题，那就是最近几年汉朝军队的战斗力急遽提升，到目前几乎和匈奴骑兵不相上下，而匈奴人原来具有的骑兵优势，在龙城大捷后便开始丧失，到现在更是不复存在了。伊稚斜心中如此想着，便十分重视赵信的回归，不但将权威仅次于单于之位的匈奴自次王一职授予赵信，更是将自己的姐姐嫁给赵信，以此来和赵信结成一条心。
赵信投降匈奴后，见伊稚斜如此器重他，心中自然也很欢喜，思索一番后，便向伊稚斜提了一个建议，这个建议最关键的意思有四个字，就是战略转移。为什么要战略转移呢？赵信是这么考虑的，他认为漠南之战后汉匈双方的实力对比，已经是汉朝强而匈奴弱了。要想反败为胜，必须先保存实力，而保存实力的方式，就是战略转移。对于战略转移，赵信是这么给伊稚斜解释的，他说我们现在实力不强，经受不住汉军的第二次打击，不如暂时迁往漠北，诱敌深入，等汉军疲惫之时，再寻找机会消灭汉军。如果不走，一旦被包围，那情况就危险了，全军覆没都是有可能的。
赵信这番话说得还是比较在理的，当时的情形也差不多就是这样。伊稚斜当然明白这点，便接受了赵信的建议，果然将单于主力迁去了漠北。
漠南之战就这样结束，汉军以歼灭匈奴右贤王、击败伊稚斜单于主力并迫其远遁漠北的胜利而告终，河南之战胜利的果实因此得到巩固。而尤其具有战略意义的是，经此一战后，汉军声威大震，从此真正取得了战争的主动权。