武帝即位不久，便开始筹划对匈奴的反击。他通过从匈奴降卒口中获知，曾经，匈奴将月氏赶出了河西走廊，迫使他们全族迁往西域的伊犁河流域，建立了大月氏。而月氏王被老上单于残忍杀害，头颅作为酒杯，造成了月氏人深深的仇恨。月氏人渴望复仇，却苦于没有支持，复仇之心早已燃起。

武帝决定派遣使者联系大月氏，与他们结成联盟，联合夹击匈奴。但要从中原前往西域，必须穿越匈奴控制的河西走廊，后又要横穿塔克拉玛干沙漠，途中险恶无比，几乎无人愿意前去。这样的任务，不仅死亡风险极大，而且极其艰难，几乎没有人愿意接手。

公元前139年，武帝即位第二年，平民张骞在心中默默打算，决定前往西域碰碰运气。于是，他被任命为郎，虽然只是一个八品官职，带领着匈奴降卒堂邑父等，开始了这段艰难的旅程。张骞年仅二十五岁，身世平凡，官职也不显赫，且是临时任命。那时，任何稍有地位的人，都会对这样的任务避之唯恐不及。正如陈胜所言：“壮士不死则已，死则举大名尔。”许多人并不是怕死，而是不愿意默默无闻地死在沙漠中，愿意在战场上死，也要死得值得。

张骞的队伍进入河西走廊后，立刻遭到匈奴休屠王兵马的拦截，张骞被生擒。休屠王将他交给右贤王罗姑比处理。这时，乌孙已将月氏驱逐出伊犁河谷，迅速扩张势力。乌孙日渐强大，早已不再为匈奴的右部养马，右贤王则有意准备远征乌孙。为了防止汉军趁机入侵，他策划让军臣单于与他配合，不断侵扰汉地边郡，以此牵制汉军。

于是，右贤王将张骞交给军臣单于，这一安排表面看似屈服，实则是为了制造麻烦。若单于杀了张骞，汉匈之间的矛盾势必加剧，冲突的规模和频率也将增加，这是右贤王期待的结果。如果单于不杀张骞，他仍需要派兵看守这些人，这对单于来说，无疑是费力不讨好的事。

张骞被带到龙城，军臣单于虽然没有杀他，但拆散了他的队伍，并将一名匈奴女子赐予张骞为妻。张骞被迫住在单于的营地里，身边只有两名匈奴人看守，他无法逃脱。时间一久，他渐渐习惯了大漠的骑射生活，甚至生下了一个儿子。虽然单于让人看管他的孩子，但仍允许他自由活动。张骞虽然与随行的两名匈奴人亲如兄弟，但内心始终期望着能够去西域联合大月氏。

公元前129年，卫青率军出征上谷，破敌直捣龙城，斩首七百级。这次行动虽然对匈奴的实际伤害不大，但对军臣单于的心理打击却是巨大的。单于失去了尊严，颜面尽失。此时，张骞被俘已经十年，趁着匈奴不备，他与堂邑父等人再度向西出发。经过匈奴的右地，向南翻越天山，途经车师、吐鲁番盆地，再沿着塔里木河行进，最后越过葱岭，数十天后终于抵达大宛（即费尔干纳盆地）。

大宛位于费尔干纳盆地，城市富饶，拥有六万户，人口约三十万，拥有六万骑兵。大宛王早听闻汉朝的威名，得知张骞到来后非常高兴，派人作为向导和翻译，帮助张骞顺利进入康居和大月氏的领土。

张骞在大月氏停留了一年多，月氏王多次举行盛大宴会。张骞试图说服月氏王北上攻击匈奴，但月氏王却表现得含糊其辞，言辞闪烁。月氏人对报复匈奴的兴趣不大，他们的目标更为明确——就是征服位于阿姆河北岸的大夏。大月氏控制了阿姆河北岸，复国称为大月氏，同时对南方的大夏进行统治，各城邦都归附于他们。从大月氏的立场来看，他们的战略重点并非远在西北的匈奴，而是越过阿姆河，占据整个盆地，首先巩固自身的力量，保障内政的安定。匈奴虽远，但被乌孙、康居等国家所隔离，无法构成直接威胁。若月氏确有复仇之心，恐怕也会先向乌孙发动，而不是匈奴。因此，张骞的努力未能获得成功，结盟未果，只得辞别，准备返回。

在接下来的百余年里，大月氏逐渐越过阿姆河，控制了更多的大夏部落，融合各部族，并最终定都蓝氏城。到东汉初期，大月氏拥有十万户，四十万人，骑兵超过十万。随着贵霜帝国的崛起，阿姆河盆地成为了四大强国之一。

公元前128年，张骞走完了西域南道，经过莎车、于阗、楼兰等地，最终回到了河西走廊。然而，他再一次被浑邪王麾下的部落俘虏。此时，匈奴右部陷入动荡，右贤王正在远征乌孙，兵力损失惨重。第二年，右贤王失败归来，但这时他已经不再拥有先前的威风。军臣单于派自己的儿子接管了右地，权力的更替也标志着局势的变化。

公元前127年春，汉军再次出征，卫青大破匈奴白羊王和娄烦王的部队，斩获匈奴五千三百余人，缴获大量战马和牲畜。此时，张骞回国的道路已被彻底打开，只等一个合适的时机。

公元前126年，匈奴军臣单于去世，弟弟左谷蠡王自立为单于。张骞在匈奴内乱之际，带着堂邑父和匈奴妻子逃离，进入汉地。张骞历经十三年，往返数万里，最终只剩下张骞和堂邑父两人生还。

回到汉朝后，武帝任命张骞为太中大夫，并将堂邑父封为奉使君。西汉封侯分为列侯和关内侯，堂邑父的封号可能表明他曾受过宫刑，因此被封为君。张骞虽然没有封侯，但武帝非常重用他，任命他为校尉，并随卫青出征，最终得到封侯的机会。卫青在与匈奴的漠南之战中大获全胜，张骞始终在卫青身边，凭借对水草地形的熟悉，获得了“博望侯”封号，虽然具体食邑不详，但他的地位已经不言而喻。