公元前138年（建元三年）张骞率领堂邑甘父等一行人出使西域，去完成联络大月氏国共同抗击匈奴的重任。这是西汉王朝第一次派人走出国门，也是西汉王朝外交史上的一件大事。朝廷为其挑选壮士、随从、选备良马和物资。临行前，汉武帝在长安未央宫前，置坛场，设香案，祈求苍天保佑张骞等人一路平安。汉武帝骑在马上挥手，群臣在汉武帝后面鞠躬，向张骞及堂邑甘父等人告别。张骞持笏板跪在地上拜辞君恩，满怀豪情壮志，昂首启程。
张骞出使西域汉武帝送行图
张骞身穿圆领开襟大袖大袍、头戴毯制圆沿方顶防风帽，骑着骏马，手执龙头节杖。随从们举着虎旗，他带领100多名弓马娴熟的壮士，从长安出发，开始了凿空（即探险也）西域的艰险旅程。
受汉武帝招募的一位匈奴人堂邑甘父（“堂邑氏，姓胡奴，甘父，字”。①奴隶出身，）与张骞同行作向导。（他精骑善射，痛恨匈奴贵族侵略汉朝的行为）他们经陇西郡（今甘肃临洮南）翻越龙首山、合黎山、向匈奴地界前进。
到河西走廊边界，“经匈奴中”《史记·索隐》（索隐谓，道经匈奴），他们怕遇到匈奴骑兵，就在夜幕降临时，悄悄地进入匈奴腹地。极目眺望，沙丘起伏，犹如大海的波涛。不一会北风呼啸、黄沙滚滚，使人睁不开眼睛，只得放慢速度，摸索前进。走了一程，只见鹅毛大雪漫天飞舞，霎时，大地披上了银装。张骞感到奇怪，小声问甘父：“这是怎么回事”？甘父回答说：“这里气候变化异常，人们常说，北风呼啸卷黄沙，胡地八月飘白雪”。张骞忙叫大家增加衣服，注意保暖。由于遍地皆白，走着，走着，就迷了路，他们只好扯起帐篷等待天亮。
天亮了，张骞一行又出发了，炎炎似火的烈日，融化了沙漠上的薄雪，热气蒸人，人人汗流浃背，喘不过气来，他们冒着高温又继续前进。
当天晚上，张骞一行正向西北方向前进，突然有人惊叫了一声，“看！大星星。”张骞和甘父仔细观察，认出是灯火。他们怕被匈奴骑兵发现，叫大家绕过灯笼走。正在这时从远处传来了“站住”的喊声，张骞敏捷地搜索四周，发现侧后方有两个黑影飞驰而来。张骞意识到这是匈奴哨兵，他用手拉了一下甘父，两人急转身拈弓搭箭，只听“嗖嗖”两声，那两个哨兵“嗨哟”一声，从马上摔了下来，他们迅速离开原地，奔走了几天，带的水都喝完了，由于干渴，浑身一点力气也没有。有的人甚至头发昏、眼发黑，晕倒在地上。
正在干渴难熬的时候，西方天边出现了一片葱绿的草地，水洼似镜，羊群如云……张骞便和伙伴们艰难地策马前行，向西奔去。谁知美妙的草地、水洼、羊群竟然莫名其妙地不见了，眼前依然是无边无际的荒漠黄沙，甘父告诉张骞说：“这是沙漠地区在夏季经常发生的奇异幻影，就像汉人在海上看到了‘仙山琼阁’一样”。这就是沙漠里的“海市蜃楼”。
张骞和伙伴们继续在芦苇丛生的地方找水喝，走了一会，来到一片低洼的沼泽地，忽然飞来了一枝鸣镝，芦苇丛里匈奴伏兵一拥而出。张骞临危不惧，一手紧握节杖，一手拔出寒光闪闪的宝剑，大喊：“冲啊！”战马飞奔嘶叫！刀光剑影，勇猛厮杀，激战到最后，终因人少，寡不敌众，张骞等人全部被俘。
匈奴骑兵发现张骞一行是汉朝的人马，就辗转押送至匈奴单于王庭。（今呼和浩特市一带）张骞一路上把走过的草原、沙漠、山川、河流的地形地貌、结构方位、去向、交通等状况，默默地记在脑海中，以便为尔后使用。一到匈奴王庭，就押解张骞去见单于、“军臣单于”一见张骞，就喝令他放下节杖，②张骞为了维护汉朝的尊严，冒着将受黥刑的危险，持节杖不放，大义凛然地说：“我是大汉朝出使大月氏国的使臣，这根节杖绝不能放弃”。张骞威武不屈不甘受辱的坚强意志和视死如归的精神，使单于佩服，想羁縻住张骞，让张骞背离汉朝，归顺匈奴，既可显示自己的宽大，还想留张骞在匈奴做官。张骞傲然答道：“我是汉使，岂能做匈奴的官。奉我朝天子派遣，出使月氏国，请大王下令释放，让我完成使命”。军臣单于傲慢地对张骞说：“月氏在吾北，汉何以得往使，吾欲使越，汉肯听我乎？”③他对汉朝派使臣出使大月氏国，疑虑重重，想查清原因，必须囚禁。于是冷笑几声，恶狠狠地说：“我不允许汉使到月氏国去！”然后把张骞赶出王庭，和甘父等人一起分给匈奴贵族当奴隶。
过了一段日子，单于下令把一名匈奴女奴许配给张骞为妻，一年后生子。单于想用夫妻、父子之情笼络其心，使张骞意志衰退，丧失对汉室的忠心。
《史记·大宛列传》载：“留骞十余岁”。张骞被匈奴囚禁了十年，岁月煎熬，使他变得苍老、消瘦、鬓发花白。匈奴的监视也渐渐放松了，而张骞意志弥坚持节不失，寻找时机，继续完成联络大月氏国的重任，他经常席地而坐，身靠枯树，眼望西方，筹谋着逃走之策。并设法同甘父等人取得联系，让伙伴们暗暗准备好弓箭、马、干粮，等待逃跑机会，并鼓励随行人员不要忘记肩负的使命，一定要想办法找到大月氏国。
公元前128年（汉武帝元朔元年），张骞“居匈奴西”，④一天早晨，正在遛马的张骞，忽听河对岸人马嘈杂，尘土飞扬，原来是单于最近攻打汉朝失利，把这一带驻军调往前线，张骞暗想逃跑的机会来到了，忽听有人轻声地叫他的名字。回头一看是堂邑甘父，并向张骞说他逃出虎口的经过和当地骑兵调动的情况，张骞和甘父商量决定：各自分头去通知伙伴们带上弓箭、马匹、干粮，当晚半夜在河边柳林聚集逃走。
张骞回到毡篷，想把逃跑的打算告诉妻子，然后一同离开，转念一想，孩子太小，带着是个累赘，话到嘴边又咽下去了。正在极度苦闷的时候，忽然看到了节杖，使张骞想到联络大月氏国的重大使命还未完成，顿时增加了无限的勇气，下定决心只身逃走。
张骞在极度苦闷的时候，忽然看到了节杖。这节杖又一次使他想到联络大月氏国的任务还未完成，下决心只身逃走。
半夜，张骞出帐篷观察动静，趁匈奴毫无防备，牵着马来到河边柳林，聚齐了甘父等三十几个伙伴。大家十年没见面，有许多话要说，可是谁也没有吱声，张骞把手一挥，大家一齐跳上马背，“骞因与其属亡乡（逃走到达）月氏”。⑤为了避开匈奴人，他们不走绿洲，专走沙窝和荒僻的小路，一口气跑了100多里路。背后渐渐显示出鱼肚白颜色，一个伙伴勒住马叫道：“我们走错了，回长安的路应该向东南方向走，怎么反往西行呢？”这时，张骞高举节杖，大声向伙伴们说：“我们的使命没有完成，怎么可以回去？眼下匈奴侵扰汉朝比以前还厉害，去大月氏国联络更有必要，我们只能前进，不能后退。”大家再没有什么犹豫的了，急剧的奔向西方。
张骞和堂邑甘父在匈奴被囚禁时，利用给贵族放牧牛羊之机，对匈奴的山川、地形、地貌、沙漠、草地、交通要道，气候变化，匈奴的兵力部署都做了充分调查，但他还是征求大家的意见，经过研讨辩论一致认为必须避开河西走廊的休屠王、浑邪王占领的地区，从酒泉、敦煌以北沙漠、草原地带向西穿行，这是一条安全的通道，不会遇到匈奴骑兵的拦截。尽管气候恶劣，人烟稀少，行走困难。但必须要迎难而上，才能平安抵达大月氏国。
在举步难艰的恶劣环境下，张骞一行顶着烈日，迎着风沙，昂首前进。极目远望，空旷石滩，上无飞鸟，下无走兽，唯以死人枯骨、骆驼粪便为标识来辨认前进的方向，晚上则依靠北斗星辨别往西北前进的方向。
某日，忽见晶莹的水闪闪发光，大家充满了希望。奔跑到水边，发现原来是个大湖，湖水又咸、又苦、又涩，几乎喝不下去。张骞让伙伴在泽边长芦苇的湿地方挖个坑，渗出来的水尽管还带着咸味，但总算可以喝了。张骞告诉大家，他曾听妻子说过，匈奴西边有个大湖叫“盐泽”（今新疆罗布泊），过了“盐泽”就走出了匈奴西边的边境，估计这个大湖就是“盐泽”。大家听后无不欢喜雀跃。
张骞率队西行中，碰到一个牧民，顺便打听去大月氏国的路线。牧民说：“沿天山南麓向西边走，还有几千里路”。他们沿着牧民指点的路线经尉犁（今新疆尉犁）、焉耆（yān qì）（今新疆焉耆回族自治县）、龟（qiú丘）兹(zhí知)国（今新疆库车东）、姑墨（今新疆阿克苏县）、疏勒国（今新疆喀什市一带），到达了葱岭山脚下，就住下来休整。经过访问，找到了一位朴实、热情的当地土著人作向导。他告诉张骞要翻越这座高大险峻的葱岭（今帕米尔高原），还得攀登悬崖绝壁、雪山、冰峰，的确有许多困难。但只要充分地做好准备工作，就能逾越天险，到达目的地。
一个晴朗的早晨，向导带着张骞等人来到葱岭山脚下的河谷旁，沿着河谷向上游攀登。将近中午，忽然从远处传来了雷鸣般的响声，群峰呼啸，山摇地动。向导惊呼：“注意山洪！”张骞和大家赶快爬上山坡，顿时河谷被翻滚的浪涛吞没。
惊魂稍定，他们继续攀登高山，大家感到头昏眼花，心慌气喘，举步艰难，但他们仍克服高山缺氧的困难，向葱岭攀越，历尽艰险，终于到达葱岭山巅。不一会儿有的人伤风感冒，咳嗽不止，有的人眼睛受雪光的刺激，引起眼痛流泪的雪盲症。张骞只好吩咐大家找个遮挡风雪的地方，搭起帐篷为有病的人治病。一会儿，向导从山上挖来一丛丛绿色的管状植物，熬汤治病。并给大家说：“这就是葱，‘葱岭’由此而得名”。
经过几天的治疗，病人恢复了健康，他们又向着乱石耸立、荆棘丛生的雪山攀登。衣服被挂破了，鞋也磨烂了，他们就把皮衣的袖子割下来裹在脚上向前奔走。突然附近传来嗒嗒嗒的声音，向导说：“脚下是冰山，那声音是冰山融化的流水声”。张骞意识到冰山一塌，就有粉身碎骨的危险，督促大家赶快离开这儿。走了一会，果然见到了塌陷的冰山。断层下面是看不见底的深渊，上面结着一层薄冰，令人不寒而栗。抬头向远处的山谷看去，白浪腾空，奔流而下。走近一看，原是高达数丈的浪头结成的冰柱，晶莹透亮，向导说：“这就是冰河”。