张骞出使西域的这13年中，汉武帝对匈奴进行了几次有效的打击，不仅确保了汉朝对河西走廊这一交通要道的占领，更是扩大了汉王朝的版图。公元前121年和公元前111年，汉武帝先后在河西走廊设立武威、酒泉、张掖、敦煌等河西四郡，从而保证了丝绸之路咽喉要道的畅通。

此后，西汉与匈奴的争夺就转向了西域各国，汉武帝对此采取了一系列的措施，最重要的当属出使和战争。公元前119年，张骞第二次奉命出使西域，此行的目的已经不再是月氏，而是月氏人曾经的仇敌乌孙，另外就是加强与西域小国之间的联系。

乌孙与月氏一样，都曾经是今甘肃境内的游牧民族，后乌孙王被月氏攻杀，其王子由匈奴单于冒顿收养，后在匈奴的支持下复国，并成功地驱逐了月氏人。可以说，乌孙与匈奴既是隶属关系，也是联盟关系。张骞想联合乌孙（地处伊犁河、楚河流域）抗击匈奴，无异于“断匈奴右臂”，这一战略决策得到汉武帝的支持。而乌孙与匈奴此时的矛盾也为这一举措提供了可能性。

张骞的这一次出使是在汉武帝大规模反击匈奴之后，这就从政治上保证了使团的安全性。但张骞此次仍未达到预期的目的，因为此时的乌孙正因王位之争而处于政局不稳的状态之下，国内贵族们又因惧怕匈奴，不敢与西汉夹击匈奴。

张骞在乌孙的这段时间，分别派遣副使到达了大宛（Farghana，今中亚的费尔干纳盆地）、康居（Sogdiana，中亚阿姆河、锡尔河之间）、大月氏、大夏（即巴克特里亚）、安息（即西方史书中的帕提亚）等国。

虽说此次出使的政治目的没有达到，但还是有许多小国派遣使者跟随张骞回到长安。如公元前115年，张骞回国时，乌孙派导译相送，并派使者到长安，之后的回国报告中对汉朝的描述，大大加强了汉朝在西域的威望。还有，《史记?大宛列传》记载，安息曾派使者来汉朝观光，并贡献方物。甚至还有汉朝使节去奄蔡（今咸海北岸）、黎（qián）（即中国史书中的大秦，也就是西方史书中的罗马帝国）的记载，当然这些记载的真实性已经引人质疑了。

在汉武帝派张骞第二次出使西域的同时，汉朝也在西域与匈奴展开了进一步的战争。公元前108年，西汉军队击败匈奴耳目楼兰、车师，打击了匈奴的势力。