严格地说，汉武帝此时没有急于确定人选。但是，他那渴望的、忧虑的而又热烈的目光，更多地落在了冠军侯霍去病的身上。汉武帝开始让他单独统兵直捣匈奴腹地。
元朔二年的河南之战，迫使匈奴楼烦王、白羊王退处荒凉寒冷的漠北。然而，战略要地河西走廊还在匈奴浑邪王和体屠王的控制之下。汉军如果能够夺占这条走廊，向南，可以斩断匈奴与羌人的联系；向西，可以兵进西域，威慑西域各民族和城邦诸国，匈奴从西北方向对长安的威胁也会因此得到解除。汉武帝审时度势，果断决定出击河西走廊，挫败匈奴右贤王，孤立单于王庭，为再次同匈奴展开全面决战铺平道路。
元狩元年(前122)五月，匈奴在东翼战场向汉军发动进攻，万余铁骑入侵上谷。第二年春三月，汉武帝下达了出击命令，在西线开辟了新战场，并未派汉军从上谷出击。汉武帝起用霍去病为骠骑将军，率领汉家万余骑铁军跃出陇西，宛如矫健的游龙，沿着岩石裸露、砾石堆积的祁连山峡谷迅速向西北挺进，长途奔袭。