汉朝和匈奴之间，经过十多年的战争，双方消耗的人、财、物都十分巨大。“匈奴虽病，远去”，退却漠北，无力侵犯汉朝；“而汉战马亦少，无以复往”，①不可能在继续深入漠北几千里地去和匈奴进行决定胜负的战斗。受这种客观形势的制约，双方矛盾暂时处于低潮。汉武帝预料匈奴会将势力向西域转移，发展经济，扩充人马，壮大实力，等待时机成熟再向汉朝发动进攻。汉武帝为了彻底解决西北边境之患。进一步巩固反击匈奴的胜利成果，适应政治上，军事上的需要，必须联合西域各国，孤立匈奴。汉武帝想到了出使西域的张骞，即召见张骞，询问西域诸国的情况，骞曰：“天子（汉武帝）既闻大宛、大夏、安息之属（西域情况），皆大国，多奇物，土著，颇与中国同业，而兵弱，贵汉财物”。②丢了官爵的张骞，认为这是他联合西域，抗击匈奴，重新立功的好机会，因此，他详细介绍了在西域的所见所闻：“臣居匈奴中，闻乌孙王号昆莫。昆莫（之）父，难兜靡（统治时）本与大月氏（人）具（都）在祁连、敦煌间，小国也”。“大月氏（人）攻杀（了）难兜靡，夺其地、人民亡走匈奴（乌孙人都逃到匈奴之地）。子（猎骄靡）昆莫新生，傅父布就（字也）翎侯抱亡置草中。”（服虔曰：傅文如傅母也，翎侯乌孙官名）③傅父去给昆莫找食物充饥，回来发现狼给昆莫喂奶，鸟衔着肉在昆莫旁边飞翔。布就翎侯认为昆莫有神保护，就抱着昆莫到了匈奴之地。单于听了这个传说，“怪以（为）神，而收长之”。④他非常喜爱昆莫，便把昆莫收养下来，待昆莫长大后，让他带兵打仗，昆莫英勇善战，立下了很多战功。单于把逃亡到匈奴的乌孙人全部交给昆莫带领。这时大月氏人已被匈奴打败，西迁到伊犁河流域。昆莫要求单于为父报仇。在匈奴的援助下，“遂西攻破大月氏，大月氏复西走，徙大夏地”。⑤（把大月氏人赶到了大夏人居住的地区。）昆莫把乌孙人迁徙在大月氏人居住的地方，在那里从事放牧和狩猎，重建家园。依靠“乌孙多马”的优越条件。⑥昆莫发展骑兵，开始强大起来。“攻旁小邑，控弦数万，习攻战。单于死，昆莫乃率其众远徙中立，不肯朝会匈奴。匈奴遣奇兵击，不胜，以为神而远之，因羁属之，不大攻”。⑦再不敢侵犯乌孙了。从此，乌孙便成为在西域抗衡匈奴的大国。
张骞讲完这个带有神话色彩的乌孙国兴衰史的故事后，又对听得入迷的汉武帝说，现在匈奴刚被汉朝打败，“而故浑邪王地空无人（乌孙人留恋着他们的故地），蛮夷俗贪汉财物，今诚以此时而厚弊赂乌孙，招以益东，居故浑邪王之地，（让他们东迁到原来浑邪王居住的地方）与汉结（为）昆弟，（汉朝把公主嫁给乌孙国王做夫人）其势宜听”。听则，是断匈奴右臂也。⑧“既连乌孙，自其西大夏之属皆可招来而为外臣，天子以为然”。⑨
汉武帝对张骞的意见完全赞同，认为匈奴势力已向西北转移，打开西域交通大门势在必行。有了张骞的具体意见，汉武帝毫不犹豫地采纳了张骞的建议。并把这个任务交给了张骞，任命张骞为中郎将（负责皇帝侍卫的高级官吏），让他第二次出使西域，联合乌孙。为了保证出使成功，汉武帝还命张骞“将三百人（马各两匹）牛羊以万数、齎（ji 记）金币帛值数千巨万；多持节副使，（为骞之副、而各令持节也）道可使（便）遣之（他）旁国”。⑩
公元前119年（元狩四年），张骞率领许多持节副使同行的外交使团，还有一支物资丰盛、人马齐全、规模庞大的商队随行，离开长安，出使西域。这次出使西域同第一次大不相同。因为通往西域的咽喉要道河西走廊，已被汉朝占领，并建立了武威、张掖、酒泉、敦煌四郡。用不着躲避匈奴的巡逻兵和哨卡，不必担心拦截被俘；不再担心断粮缺水；也不担心风雪飞沙的袭击。所以，张骞对完成出使任务充满了信心，欢快地率队前行，不久就到达了乌孙国（今天山北路，巴尔喀什湖以东的伊犁河地区）。
张骞一行300余人骑着马，肩背弓箭，手持长矛，赶着装满了美酒丝绸、锦缎的车辆，牛羊队依次随行，浩浩荡荡地穿过了乌孙都城赤谷的街道。乌孙人看到西汉王朝这支规模庞大的商队，不仅啧啧称赞。
张骞安置了使团人员，洗刷了身上的灰尘，整理衣冠，带着贵重礼物，手持节杖，来到乌孙王的殿前。老态龙钟的猎骄靡昆莫看到汉使来了，带着许多贵重礼物，内心十分高兴，又傲慢地用匈奴单于一套礼仪对待张骞。张骞压住心中的不满，知蛮夷贪，于是手持节杖，庄严地对昆莫说：“大王，我给你带来的礼物是大汉天子致赐，王不拜，则还赐。昆莫起拜赐，其它如故”。张骞严肃而有分寸的话，迫使昆莫跪拜接受汉天子恩赐。随后，张骞又用和缓的口气对他说：“以大王文武双全、英勇机智、强悍善战的本领，贵国怎么能常居于此呢？如果大王能东迁到河西走廊肥沃的土地上，恢复故国、兴建家园，那么汉朝就会把自己的公主嫁给你。大汉和乌孙结为姻亲，共同反击匈奴，何愁匈奴不破”。
昆莫听了张骞的话，只是苦笑不语，其原因是昆莫有十余子，开始立长子为太子，而“太子蚤（古早字）死。临死，谓其父昆莫曰：必以岑娶为太子，无令他人代之。昆莫哀而许之，卒以岑娶为太子，大禄（岑娶的叔父）怒其不得代太子也，乃收其诸昆弟，将其众畔，（别居万骑）谋攻岑娶及昆莫。昆莫老，常恐大禄杀岑娶，予岑娶万余骑别居。昆莫有万余骑自备”。（师古曰：岑，士林翻。娶，子侯翻。《汉书》岑娶者，其官名也。本名军须靡。班史云：昆莫，王号也，名猎骄靡。大禄官名也。本名翁归靡）随时迎接大禄的进攻。这场叔侄（叔翁归靡大禄与侄军须靡岑娶）之间争夺王位继承权的斗争，使乌孙国形成昆莫、岑娶、大禄三角鼎立、相互对峙的局面，只是表面上还维持着国家的统一、昆莫是其最高统治者。张骞没有料想到早年南征北战，兴复了乌孙国，后来又与匈奴顽强抗衡，打败了匈奴的入侵，又被匈奴神化了的昆莫，到了晚年竟无能为力控制乌孙国的政治局面，感到十分惋惜。
张骞向乌孙王昆莫赠送了汉天子的礼物。劝说莫昆回故地敦煌、祁连间，与汉结为姻亲，夹击匈奴，莫昆犹豫不决。愿派使者随张骞到长安答谢。
张骞来到乌孙国后，昆莫心里动荡不安。从内心讲很想回到故乡，可是昆莫不得不考虑到国内子孙不和，矛盾重重，使他忧愁有加。面对张骞的反复劝说，昆莫还是瞻前顾后，不能作出决定。让张骞稍事等候，自己召开大臣会议，商议是否东迁。
在昆莫召开的大会上，所有大臣都坚决反对东迁，他们认为乌孙国已经形成分治的局面，乌孙人远离汉朝，从未去过那里，不知汉朝的真实情况，有疑心。乌孙人“素服属匈奴久矣，且又近之”，迫于匈奴势力强大，“其大臣皆畏胡，不欲移徙”。昆莫亦以此不敢专约于骞，也知道自己软弱无力的地位，使他不能独断专行，只得依从大臣们的意见。会后，再次会见张骞，婉言谢绝了张骞东迁的建议。但愿派使者随张骞去长安与汉朝建立友好关系。
张骞没有完成说服乌孙国东迁故地——祁连、敦煌间和汉朝联合起来，共同抗击匈奴的使命，但他并未灰心丧气，仍全面分析了昆莫的答复，觉得昆莫愿意和汉朝保持良好的关系，没有拒绝和汉朝共同抗击匈奴的建议。于是张骞分别把副使派往“大宛、康居、大月氏、大夏、安息、身毒、于阗（今新疆和田）、扜罙（yū迂shēn 深）（今吉尔吉斯共和国）、及诸旁国”。这些使节带上丰厚的礼物，代表西汉朝廷和这些国家建立了直接的外交关系。他告诫大家，千万不要骄傲自大，要热诚邀请各国派人去汉朝联络；要尽量带些各国的瓜果、草木籽种回国，以利于中原种植业的发展。
张骞从乌派出了前往大宛、康居、大月氏、安息、身毒、于阗、大夏等国的副使，并告诫大家，谦虚热情，欢迎各国派人去汉朝联络。
唯有安息（今伊朗）“王令将二万骑，迎于东界”。当时有20000士兵的庞大的骑兵队伍，经过数十城，行2000里，以极其隆重的礼节迎接汉使，在当时是罕见的。后来王又“发使随汉使者来观汉地，以大鸟卵及犁轩（今罗马）眩人（杂技人）献于汉，天子大说（悦）。”
张骞派出赴各国的副使以后，便向乌孙国王辞行。昆莫对汉王朝的实际情况，虽不甚了解，但他看到张骞本人那种精明能干、宽和诚信、平等待人的作风，以及张骞所率领的外交使团气势宏大，礼物丰盛、特别是精美绝伦的绫罗彩缎等丝绸产品，是西域各国不会制作的，使昆莫非常羡慕和敬佩，于是派遣使者送张骞回长安，答谢汉朝。（张骞于公元前115年（元鼎二年）归汉，汉武帝拜骞为大行。九卿之一，是西汉接待宾客和处理国内少数民族事务的官员）“因令窥汉”进一步了解汉朝的实际情况。