月氏在匈奴的逼迫下离开了伊犁河流域，继续西迁至咸海附近的妫水地区，在那儿月氏征服了大夏，重新建立新家园。张骞得知这个消息后，他改变方向从西南方向出发，西南方向这条线路我们不防称之为“难线”。在大戈壁滩上行军，那可是流沙千里，飞沙走石，十分艰难，而且沿途人烟稀少，缺水少粮，张骞一行人匆忙逃跑，准备的物资又不多，水和粮食都成问题，可以说张骞西行把自己的生命置之度外。
张骞一行人一直往西暴走几十天，经过库车、疏勒，艰难翻过了葱岭，途中张骞不少随从不是饿死渴死就是葬身于黄沙之下，历经艰辛张骞终于来到大宛国，他告诉大宛王自己的使命和种种不幸的遭遇，只要大宛国愿意相救，他日回到汉朝，一定重谢。
大宛王对汉朝的富庶还是有一些了解的，本来他很想与汉朝往来，匈奴人却从中阻碍，致使大宛王的愿望久久不能实现，张骞的到来让大宛王喜出望外，而且他非常佩服张骞的意志，大宛王款待张骞一行人后，特地给张骞安排了向导翻译，将张骞一行人送往康居国，再由康居王派人把张骞送往大月氏，张骞历经艰辛，终于到达他出使的目的地。
张骞见到月氏王以后，向他提出大汉王朝愿意与之结盟一起对抗匈奴，月氏王听后并不感兴趣，这个时候的月氏人在新的国土上生活安逸，这里土地肥沃，资源丰富，离匈奴人又远，没有人打扰他们。
而且匈奴人杀害月氏国王一事，时间隔得太远，他们不想报复匈奴，加上汉朝与月氏离得太远，遇到危机也是远水难救近火，月氏国王想了想委婉地拒绝了张骞。张骞历经艰辛万苦来到月氏，却没有说服月氏国王与汉朝结盟，他在月氏逗留一年后返回汉朝。张骞为了避开匈奴人，他改变了行军路线，准备走南道，通过羌人的地区回到汉朝，没想到羌人地区也被匈奴人控制，张骞在返回途中又被匈奴人掳走。
一年以后，匈奴军臣单于病逝，本来应该是单于的太子即位，可是单于的弟弟不买账，他把太子赶跑，自立为单于，匈奴太子兵败归顺汉朝，刘彻好心收留了他，并封他为涉安侯。张骞也趁着这次内乱逃回长安，这一年是公元前126年（元朔三年），当初武帝一共派了一百多人出使西域，只剩下张骞和堂邑父二人，当然张骞也把他的匈奴妻子带了回来，历经十三个年头张骞才回到汉朝。
张骞受尽千辛万苦虽然没有完成预期的使命，但他西行几万里路，带回不少有价值的东西，让汉朝人民对西域有了新的认识，丰富了国人的地理知识，打开了汉朝的通向世界大门，司马迁称张骞出使西域为“凿空”之行。
张骞出使西域对西域各国的物产和风土人情也有所了解，他告诉刘彻，大夏国与今天的印度（古身毒国）有生意往来，还向他们买了蜀国布，根据大夏国的描绘，他推测身毒国应该在大夏国的东南方向，而蜀国应该在身毒国的东面。汉使通西域，走北线有匈奴，南线有姜人，南北不通，下次可以走蜀道通西域，减少不少行程，而且还不会遇到敌人。
其实对于刘彻来说张骞能够活着回来已经是奇迹，能不能结盟大月氏抗击匈奴似乎已经不那么重要，张骞勇行西域，不是横渡流沙就是过着半囚徒式的生活，这种精神让人振奋。张骞也因此成为沟通西域第一人，名留青史的探险家。
