建元新政失败后，刘彻除了韬光养晦，还做了一件意义深远的大事，这件大事，就是派使者出使西域。
早在刘彻做太子的时候，有一个伴读，这个伴读在刘彻继位以后只是一个小小的侍从，并没有什么名声。但就是这样一个小小的侍从，却让中华文化在世界上大放异彩，汉朝的天威，在后来的几十年远播万里，一直传到了印度、波斯、罗马帝国等地，这个伴读，就是张骞。
在当时的西域，有一个叫大月氏的国家，这个国家原本生活在祁连山一带，但由于受到匈奴的攻击，不得不背井离乡举国西迁，大月氏的国王，就是死于匈奴人之手。刘彻毕生的理想是要击败匈奴，建元初期的改革虽然失败，但他并没有因此一蹶不振，他知道自己还年轻，有的是时间，趁着没事干，他要为将来做好准备，一旦时机成熟，他会毫不犹豫地对匈奴用兵。
当时的西域被匈奴控制着，汉朝与西域各国间没有联系。刘彻听说大月氏跟匈奴有仇，便想与大月氏结成战略联盟，共同对付强大的匈奴。此时的刘彻，显然不认为单靠他自己的力量就可以打败匈奴。有这个想法后，刘彻酝酿了一段时间，就开始着手落实了。
建元三年（前138），刘彻在长安城贴出一道榜文，这道榜文就是出使西域的招贤令。而揭榜的不是别人，正是刘彻做太子时候的伴读——张骞。见揭榜的竟然是张骞，刘彻不由得有些奇怪，就问张骞为什么要揭榜。张骞这时候就说了，说他知道出使西域对皇上来说很重要，直接关系着未来汉朝对匈奴的战略布局，他之所以揭榜，是因为他认为皇上是一代雄主，所谋者大，既然皇上有这样的使命感，那他作为皇上身边一个小侍从，也应该为皇上分忧，为国家出力。张骞这么一说，刘彻就感动了，仔细嘱咐一番，然后就派一百多名随从和张骞出发了。
和张骞一起出发的，除了一百多名随从，还有一个叫甘夫的匈奴奴隶。张骞一行人经陇西进入河西走廊后，刚开始的时候还比较顺利，但走到半道上，就碰到匈奴的巡游骑兵了。匈奴骑兵看到张骞等人后的第一个反应，就是觉得有些奇怪，河西走廊是匈奴人的地盘，什么时候有汉人到这里来了？带着这样的疑问，这支骑兵就将张骞等人扣留了，并汇报给了匈奴单于。匈奴单于这时候也比较纳闷，就把张骞叫到面前问了问。等到弄明白张骞是汉朝出使西域的使节，匈奴单于脸色一沉，说这里是匈奴人的地盘，汉朝人不能随意通过，你说你是使节，我还怀疑你是间谍呢。就这样，匈奴单于一不做二不休，直接把张骞一行人给扣留了。
张骞被扣留后，时刻寻找机会想要逃走，但无奈匈奴人看得很紧，竟然一点机会都没有。匈奴人这一扣押，就扣押了十年光景。十年之后，也不知道是什么原因，匈奴人的看管突然松懈了。匈奴人一松懈，张骞的机会就来了。张骞马不停蹄地逃出匈奴地区，穿越大漠葱岭，先是取道天山南麓的车师，然后经龟兹、疏勒到达大宛。当时的大宛农业发达，盛产稻麦、葡萄酒等，尤其出名的，是美誉远播的大宛汗血宝马。大宛国王早就听说汉朝是东方的一个富饶国家，想与汉朝交往。听说汉朝使节远道而来，十分欣喜，说愿意互通有无，特意招待了张骞一番，然后便派人把张骞一行人送到了大月氏。
张骞怀着激动的心情来到大月氏，向大月氏女王陈述刘彻对匈奴的战略思想，希望两国能够结成战略同盟。两国结盟，在张骞的考虑中，原本是没什么问题的，匈奴人连大月氏的前任国王都杀了，逼得大月氏子民不得不举国西迁，背井离乡，按理说大月氏国子民应该非常痛恨匈奴人。但出乎张骞意料的是，自己的结盟提议竟然被大月氏女王非常客气地一口否决了。大月氏女王是这么说的，她说请高贵的使者代我问候汉朝的皇帝陛下，我们大月氏国是一个爱好和平的国家，现如今我们的子民已经远离战火，过着没有硝烟的平静生活，这种和平得来不易，我们不想破坏，所以你们汉朝皇帝陛下的好意，我们心领了。
这番话说得不温不火彬彬有礼，张骞一听顿时就目瞪口呆了，过了老半天才缓过神来，开始反驳，说女王难道忘记匈奴人的残忍了吗，难道忘记贵国国王是怎么死的了吗，匈奴人不但杀了你们的国王，而且还用国王的头盖骨盛酒喝，大月氏国多次被匈奴人攻击，不得不远离家乡迁到这里，如此奇耻大辱，身为大月氏国王的您，怎么还能够隐忍？
张骞说这番话的时候心情是很激动的，他一腔报国的热血，为了长安皇宫中那个雄心勃勃但不得不暂且隐忍的少年皇帝，他不远万里穿越大漠，花了十年时间好不容易找到大月氏国，可得到的答复竟然是拒绝！这一刻，他深深觉得自己有负身为大汉朝子民的责任，有负刘彻对他的重托。
张骞就这样带着失落的心情回国了。回国的途中，张骞无论如何都没有想到，他虽然没能完成结盟的使命，但他的这次远行，本身已经创造了中华历史上的神话，一条贯通中西的文化大道，自此灿然形成。让张骞更没有想到的是，此时的汉朝，早已不是他离开时候的模样，大将军卫青已经横空出世，龙城大捷让匈奴人心惊胆战，而久为匈奴人控制着的河套平原，此时也成了悬挂在匈奴王庭头顶的一把剑，只要刘彻愿意，随时可以让这柄剑落下去。
元朔三年（前126），张骞回到了长安，他从建元三年出发，至河套大捷的第二年归来，第一次出使西域的时间，总共历时十三年。