杨彪是杨赐之子，由于出身累世公卿之门，杨彪自幼受到了很好的教育，很早的时候杨彪就被举为孝廉，熹平年间，杨彪被任命为议郎。议郎东汉的官制之中，并不是很高的职务。但是，议郎却可以参与到很多朝廷重大事务的决策之中。而且，杨彪由于他深厚的学养，还被派去和马日磾、蔡邕、卢植等著名学者一起去续修《东观汉记》。
在党锢事件之后，嚣张的宦官势力就达到了顶峰，东汉的政治也黑暗到了极点。这些宦官在皇帝的纵容之下为非作歹，无恶不作。但是，杨彪对这些宦官并不买账。这当然一方面是因为，杨彪出身名门，杨氏家族门生故吏遍天下，宦官们不敢轻易对杨彪不利。另一方面也是杨彪秉承了正直的家风，敢于同黑恶势力做斗争。后来，杨彪发现了宦官头子王甫派人勒索地方政府好几千万赃款的证据，杨彪立即将这些证据交给了司隶校尉阳球，阳球果断地将王甫等人下狱直接处死。沉重地打击了宦官势力的嚣张气焰。
之后杨彪又被任命为五官中郎将、颍川太守、南阳太守、长乐少府、太仆、卫尉等高官。中平二年（公元185年），杨彪的父亲杨赐去世后，杨彪继承了父亲临晋侯的爵位。当时，黄巾军虽然被镇压下去，表面上看大汉朝仿佛是度过了一场危机。但实际上，各种矛盾还在不断积聚，东汉政府已经陷入风雨飘摇之中。中平六年（公元189年），汉灵帝去世后，各种矛盾迅速爆发。先是在洛阳城中，宦官势力和外戚势力进行了最后的火并，这两股邪恶势力最终同归于尽。但是，朝廷很快就落入到军阀董卓的控制之中。董卓控制朝廷之后，为了装点门面，任命杨彪出来担任司空，不久后改任为司徒。董卓在洛阳的种种倒行逆施，引起了人们的不满，关东诸侯结成了讨董联盟，兵锋直指洛阳。为了躲避锋芒，董卓决定迁都长安，杨彪和太尉黄婉极力阻拦，结果董卓大怒，他们也被免职。这个时候的董卓，也不愿意太多树敌，又给了杨彪一个光禄勋的职务，强迫他一同前往关中。董卓从洛阳离开之前，对洛阳城进行了空前的破坏，方圆两百里之内变成了无人区。
初平三年（公元192年）董卓被杀，但是董卓的部将李傕郭汜却很快就夺取了长安城。这些匪兵比董卓更是有过之而无不及。公元192年9月，杨彪被任命为司空，公元194年杨彪被任命为太尉，录尚书事，负责朝廷的日常工作。但是，在这种情况之下，杨彪也就是勉强维持局面而已。到了公元195年，李傕郭汜二人发生了矛盾，他们在长安城中打了个天昏地暗。他们一个劫持了皇帝，一个劫持了百官。杨彪当面质问郭汜，你们两个相斗，一个劫持天子，一个劫持公卿，成何体统？郭汜大怒，甚至想亲手杀了杨彪。杨彪说，国家到了这个地步，我还在乎生死吗？在中郎将杨密等人的劝解下，郭汜在暂且息怒。后来，在各方面的劝解下，他们释放了皇帝和百官。当时的关中已经到了人相食的程度，不得已，李傕郭汜允许皇帝和百官离开关中。沿途中凶险不断，杨彪尽节护主，回到洛阳后，杨彪被任命为尚书令继续主持朝廷日常工作。
这个时候的汉家朝廷，其实就是空守着洛阳一座孤城，甚至官员都有饿死的。不久后，军阀曹操看到汉献帝奇货可居，就把汉献帝接到了许昌，杨彪也随着汉献帝一起到了许昌。曹操的真实想法就是挟天子以令诸侯，对此杨彪当然是非常清楚的，曹操也清楚地知道杨彪不肯配合，曹操不仅将杨彪下狱，诬陷他勾结淮南袁术图谋不轨，而且还想置杨彪于死地。孔融立即找到曹操，对曹操说：“如今你滥杀无辜，有没有考虑过海内人心？别人不说，你今天杀杨彪，我孔融明天就走人，绝对不会再留恋半天。”而且负责审案子的人，也没有发现任何实际的证据，曹操不得已释放了杨彪。后来，杨彪做了几年挂名的太常之后，干脆以腿脚不便为由闭门不出。此后的杨彪再也没有出仕，到了曹丕代汉称帝之后，曹丕也想到让杨彪出来装点门面。杨彪说，我作为汉朝的三公，怎么能够再来新朝任职呢？曹丕对杨彪还是非常礼敬，给了他光禄大夫的官衔，还赏赐了许多礼物，但杨彪每次朝见曹丕都是布衣相见。又过了几年，杨彪病死在洛阳的家中，终年八十四岁。