建元二年（公元前139年），汉武帝废除了太尉建制，宰相三府只剩下二府。但是，就连丞相和御史大夫这两位，也被撇在一边，成为名义上的宰相。实际上行使相权的，却另有其人。这些人，开始的时候是大司马。名分，则是“领尚书事”（东汉叫“录尚书事”)。到后来，即便没有大司马称号，只要“领尚书事”，就是总揽朝政的人。
大司马其实就是太尉，但不再是职务，而是加在将军官衔之上的名誉称号。担任大司马的，也不一定只有一个人。比如后来把持朝政的霍光，头衔就是“大司马大将军”；跟霍光作对的上官桀，头衔则是“大司马左将军”。到了东汉时期，大司马、大将军这些职位基本上就是给外戚准备的，目的就是为了制衡以相权为代表的官僚阶层和宦官阶层。汉武帝有两个著名的外戚，一个叫卫青，一个叫霍去病，他们都战功赫赫，所以当了大将军，后来又加了大司马，汉武帝非常宠信。再比如著名的大将军何进，就是把董卓引狼入室的那位，也是外戚。
尚书，原本是“皇宫六尚”之ー。其他五尚（尚衣、尚食、尚冠、尚席、尚浴），是“生活秘书”。只有尚书，是“政治秘书”。汉武帝为了以宫廷压朝廷，甚至以宫廷代朝廷，就让大司马统率和管辖尚书的工作，叫“领尚书事”，尚书也就由秘书机构变成决策机构，丞相府反倒由决策机构变成执行机构。
这样一来，辅佐皇帝的机构，就由一套班子变成了两套班子，即外朝和中朝（也叫内朝）。外朝之首为丞相，中朝（内朝)之魁为大司马。两套班子一内一外共理朝政，有学者称之为“双轨辅政制”。但大司马位高、权重、亲近皇帝，宰相为首的外朝根本无法与之抗衡，只有诺诺承命办事而已。结果，不是宰相的人，反倒比宰相还宰相，甚至真正成为“一人之下，万人之上”的权臣，比如“领尚书事”的大司马大将军霍光就是。
东汉之宰相，大将军一职“登堂入室”
东汉宰相，包括太傅、大将军和三公，号称“五府”。
太傅在西汉与太师、太保合称“上公”。东汉无太保，太师只有董卓一人，还是自封的。故东汉上公，是太傅和大将军。三公，则是太尉、司徒和司空，也叫三司。不过，是不是真宰相，要看是否“录尚书事”。否则，就只享受待遇，没有实权。
受命“录尚书事”的，多半是太傅和大将军，但也不一定。比如建安元年（公元196年）七月，曹操就已经“录尚书事”。迎献帝到许之后，才被任命为大将军。后来，曹操将大将军一职辞让给袁绍，改任司空，仍得以“挟天子以令诸侯”。
中国帝国时代的宰相制度小结
综上所述，宰相制度史，就是皇权与相权的斗争史。皇帝制约宰相的办法，一是分权，二是夺权。因此，西汉有三公，东汉有五府，唐代有三省，宋代有二府三司，元代有省、院、台。这是分权。西汉的尚书事、东汉的尚书台、明代的内阁、清代的军机处，则是夺权。最后，帝国的政治权力就全部集中在皇帝手中。
与西汉不同的是，东汉不但有“尚书事”，还有尚书台。因为其官署设在皇宫禁省之中，所以又叫台阁、台省。尚书事是任务，尚书台是机构。有了尚书台，尚书主政，就变成了制度。于是，东汉就有两个宰相机构。一个叫公府，也就是“上公与三公之府”；一个叫台阁，也就是尚书台。公府是摆设，台阁掌实权，这就叫“事归台阁”。这其实是以“宫廷办公厅”取代中央政府。结果，台，就成了中央的代名词。东晋以后，中央官称台官，中央军称台军。设于大行政区，代表中央行使职权之机构，则叫行台。
