在曹爽和司马懿争权时，夏侯玄是大将军曹爽的表弟，深得曹爽信任，所以被重用外放，放在关中总督雍凉兵马，其实就是去夺司马懿的兵权。司马懿发动高陵之变以后，自然第一件事就是清洗曹爽的亲信，夏侯玄不仅是曹爽的亲信，而且还掌握雍凉二州的兵权，这里不仅有蜀汉威胁，而且还要防备羌胡叛乱，是魏国三个主力兵团之一，所以威胁最大。对于夏侯玄来说，虽然明知司马懿召他回去肯定是冷藏使用，甚至还有生命危险，但是他也没多少可选择的余地。
夏侯玄当时的职务是征西将军，虽然手握十万大军但是这支部队是司马懿的老班底，在曹爽掌权的时候，任命夏侯玄掌握这支部队就是为了断开司马懿和他军界老班底的联系，现在司马懿掌权，夏侯玄就反过来坐在了火上口上。
要知道当时的情况，司马懿已经消灭了曹爽，被朝廷任命为丞相，成为了首席大臣，他的政变已经被洗白，对抗司马懿就是和朝廷作对。在古代对抗朝廷的事情，对于这些升斗小民组成的士兵而言，那都是天大的事情。其次司马懿这次政变出乎了所有人的意料，就算他的二儿子司马昭都不知道有这件事情。所以，远在长安的夏侯玄根本来不及预先做好准备，要知道，讨伐司马懿打大仗需要做各方面的准备，兵器物资补给等等都要充分考虑，这对于夏侯玄这样一个文人出身的将领来说实在太难了。
曹爽专权后衣食住行等都与皇帝别无二致，任人唯亲很多朝中重臣都被排挤，早已引起公愤，司马懿发动政变就以“清君侧”为名，掀翻的只是专擅朝政、把持尚书台的曹爽一党而已，是受到太后及满朝文武的支持，师出有名。更何况司马懿已被皇帝任命为丞相，而控制了太后和皇帝，大权在握，此时长安的夏侯玄若起兵，如同叛乱，司马懿能号令天下兵马诛杀，到时候死的还是夏侯玄，夏侯玄还没弱智到这种程度。