大宛国王在了解张骞等人的遭遇后，答应协助他们抵达大月氏。张骞感激不尽，许诺回国后会禀明汉武帝，回馈大宛丰厚的礼物和财宝。大宛国王久闻汉朝富饶强大，一直渴望与其建立友好关系，却碍于匈奴阻隔难以实现，张骞的到来无疑为大宛打开了一扇希望之门。不久，大宛国派出随从和翻译，陪伴张骞经过康居（今乌兹别克斯坦和塔吉克斯坦境内），在康居王的帮助下，他们最终到达了大月氏。
然而，当张骞向大月氏传达汉武帝的想法时，却遭到了拒绝。大月氏如今所居之地环境优越，远离乌孙和匈奴，和平生活使其忘却战争创伤，不愿再涉险夺回旧土；同时，大汉与大月氏之间遥远的距离意味着即使汉朝军队前来支援也需要长时间，而匈奴却随时可能发动袭击。张骞并未轻易放弃，他选择在大月氏逗留一年，试图说服大月氏国王，但终究未能达成联盟。
公元前128年，失望的张骞告别大月氏，踏上回归汉朝的漫长旅途。为了避免再次落入匈奴之手，他选择从塔里木盆地南部绕行，途经莎车、于阗（今和田）、鄯善（今若羌），直抵羌人的领地。不幸的是，羌人的土地也被匈奴占领，张骞及其部分使者再次被匈奴骑兵抓获，又被囚禁一年。
公元前126年，匈奴内部发生争斗，军臣单于去世，左谷蠡王伊稚斜与太子于单陷入冲突，张骞抓住这个混乱时机，携同堂邑父与妻儿成功逃脱，历经艰辛，终于返回了汉朝。
张骞此次出使西域，历时十三载，出发时百余人，归来仅剩张骞和堂邑父，其间遭遇了无数困苦磨难，包括长期被匈奴囚禁。虽然他未能完成汉武帝交付的联盟任务，但其壮举对西域与汉朝的关系产生了深远影响。自古以来，西域诸多民族由于地理遥远而与中原较少联系，张骞首次出使西域，将汉朝的信息传播至各地，促使西域各国与中原往来逐渐频繁。张骞回朝后，详尽报告了西域各国的位置、特产、城市及路线，为日后开辟丝绸之路奠定了重要基础，这也是关于西域地理风貌的第一份详尽记录。
汉武帝听取了张骞带回的西域情况汇报后，册封他为太中大夫，封堂邑父为奉使君，并赏赐大量财富。在大月氏期间，张骞曾了解到蜀郡西南有一条通向身毒（今印度）的道路，并可通过此道直达大夏。他上书汉武帝，表示愿意开辟这条西南通道，汉武帝给予了大力支持，派遣多支队伍分别向身毒进发。然而，在昆明地区，张骞一行遭到当地人的阻挠，无论如何都无法通行，只得折返长安。尽管未能成功开辟新线路，张骞沿途搜集了许多宝贵的地方情报，也算是有所收获。
张骞随后随大将军卫青出征匈奴，建功立业，被封为博望侯；但随后与李广共同讨伐匈奴时，因延误军期被贬为平民。公元前119年，为了联合乌孙抵抗匈奴，汉武帝再次任命张骞为中郎将，率三百人携带大量物资出使乌孙。抵达乌孙后，张骞遣使者分别前往大月氏、大宛、康居、大夏国等国家，传递汉武帝希望与之友好的信息，各国纷纷派使者随张骞回访长安。
公元前114年，张骞离世，西域各国闻讯皆表示哀悼。由于张骞在西域享有极高威望，后来的汉朝使者常以其博望侯的名义与西域各国交往。张骞出使西域，不仅打通了中原与西域的交通道路，引进了西域特产丰富了中原人民生活，更在世界历史上留下了深刻的印记。