可惜时日不长,汪直自成化十三年(1477年)年来一直深受明宪宗朱见深的信任,朝中群臣深为忌惮,纷纷上书弹劾汪直。时间一久,明宪宗逐渐动摇,对汪直也越来越猜忌。成化十八年(1482年)八月,内阁首辅万安向明宪宗建言将王越镇守延绥,另派许宁镇守大同,留汪直在大同,即把王越和汪直分开。许宁此前曾是王越的部下,王越对他比较了解,曾对时任大同巡抚的郭镗说,许宁不是统军之才,让郭镗谨慎应对。许宁为人刚愎自用,上任后没过多久就与汪直产生矛盾。
到了成化十九年(1483年),许宁与汪直的矛盾已经很难调和,大同巡抚郭镗只能上奏朝廷。此时已经失势的汪直被明宪宗治罪,并被调往南京,西厂也被撤除。受汪直的牵连,一直与汪直交好的王越也被下诏夺爵除名,贬为普通百姓。
不过,作为一个取得过辉煌战绩的将领,王越在后世的知名度却很低。其原因是从成化到弘治年间,明朝在军事上采取保守的战略,与鞑靼之间的战争规模也很小,总体成就不大。王越作为一名将领,保卫了边境的安全稳定,有功于社稷,但历史上一些名将相比,其功绩就不值一提了。