然而西域有个名为龟兹的小国，却冒天下之大不韪，曾杀害过汉朝的使节和校尉。常惠了解到此事后，立即派人禀告汉庭，希望朝廷派兵惩罚龟兹。对此，实际掌握执政权的霍光，要求常惠可以便宜行事。
因此，常惠召集身边数百名屯田兵，然后用自己的威望召集西域各属国的士兵，三路进攻，将龟兹国围得水泄不通。而龟兹以为自己山高水远，汉军肯定不敢来袭，因此毫无准备。
在重兵围困下，龟兹王赶忙为自己辩护说：杀汉校尉之事与己无关，是已故的父王听信贵人姑翼唆使之结果。
而常惠知道，对于胡人不能逼人太甚，要学会网开一面。因此他命令龟兹王交出姑翼，然后在西域各属国面前将之斩杀。姑翼血淋淋的头颅，震慑了龟兹，也镇住了西域各属国。此时他们终于明白，到底什么是“犯强汉者，虽远必诛”。后来，龟兹国正式从属于汉朝，甚至还学起了汉朝的典章制度。俨然一个小中华。
在后来的岁月里，常惠又奉汉宣帝之命，平定了乌孙的内乱。随后，他率领三名校尉驻扎在赤谷，将乌孙分为两个部分，大小两个昆弥划分各自的人口和地界，大昆弥分得六万多户，小昆弥分得四万多户。就这样，乌孙由一个独立国家，正式成为受汉朝监控的属国。
而在上世纪发现的悬泉汉简中，考古学家们惊喜地发现了常惠的行踪，并补充了史料中未记载的内容。原来，常惠常驻于赤谷城，一边屯田，一边监视乌孙，一边防备匈奴的进攻。在汉简中，我们可还以经常找到常惠派人向朝廷传递信息的只言片语。可以说，常惠就是汉朝在西域的擎天一柱
常惠，以他的大智大勇，帮助汉朝力挫匈奴，平定西域，用以夷制夷的手段，彻底斩断了匈奴的右臂。而在汉朝正式控制西域后不久，匈奴也因为战乱而分崩离析。而最终，匈奴向汉朝表示了臣服，而这也标志着连绵百年的汉匈战争告以结束。
苏武死后，常惠接替了他的职位，担任为主管周边各部族事务的“典属国”。可以说，常惠的节操和功绩，丝毫不亚于苏武。而在他的努力下，新疆这片热土正是归于祖国怀抱，直到现在也绝不会分割。
