在《荡寇志》中，大刀关胜是位一闪即逝的梁山名将。尽管他在梁山的排名高居第五位，又是赫赫有名的梁山马军五虎将之首，但却仅有两次露面。第二次虽然大显神威，击败官军并与官军主帅云天彪大战了数百回合不落下风，但最终却死于无名小辈之手，这样的结局不免令人唏嘘。
关胜首次登场亮相是在该书的第八回。官军围攻梁山前沿重镇嘉祥县时，守将双鞭呼延灼孤力难支，不得已向大寨求援。梁山闻讯后，急命关胜率部星夜驰援。然而，援军行至半路时，遇见了溃败回山的呼延灼。关胜见城池已失，说道：“官军此时锐气正盛，率部反击必然不利。再说，我听闻官军主帅云天彪用兵如神，占得嘉祥后必然会有防备，我军已然失去先机，不如返回山寨从长计议。”众人定了主意，便一起返回山寨。大刀关胜的首次亮相，便以这样的方式草草收场。
关胜第二次登场亮相是在该书的第二十一回。种师道率部征讨梁山时，云天彪却没有进攻梁山本寨，而是率部围攻梁山的盟友清真山。得知云天彪进攻清真山的消息后，吴用大惊失色，对宋江说道：“云天彪这厮直攻清真山，分明是等我山寨救援时反客为主。但如此重地又不能不救，而云天彪又极会用兵，必遣上将方能力敌，这该如何是好！”宋江、吴用正在无计可施时，关胜闻讯后主动请缨道：“小将早就听闻云天彪用兵如神、武艺了得，前次救嘉祥时未曾与其交手，实为一件憾事，如今正好会他一会。”
宋、吴二人听后大喜，当即嘱咐了一番，便命关胜率领副将郝思文、宣赞及五千精兵，杀奔清真山退敌。关胜得令后，率领所部兵马星夜兼程。行至西灏山时，他见山势险恶、丛林茂盛，未敢轻敌冒进，便传令将士们就地扎营，仅率十几名亲随前去探路。关胜不愧为久经沙场的智勇骁将，仅在西灏山谷口略一瞭望，便洞悉谷中杀机。他对副将说道：“谷中杀气尽显，必有伏兵在此，待我等通过后，好截杀我部辎重，使我等不能首尾兼顾。传我将令，引兵堵住谷口、把守险要，先抄杀这股伏兵再说。”
不过，等关胜率部杀至谷口时，望见官军已经杀出谷口列阵，不觉吃了一惊，暗忖道：“这厮果然深谙兵机，竟有如此先见之明。”随即便摆开阵势，横刀立马在阵前叫道：“唤云天彪出来受死！”然而，官军中杀出的将领却是云天彪的独子，年仅十七岁的云龙。关胜见是位乳臭未干的小将，不屑的说道：“你不是我的对手，回去换你父亲出来。”谁知，云龙不仅不听劝，反而拍马抡刀，上来就砍。关胜勃然大怒，举刀相迎。二人刀来刀去、怒马相交，大战了五、六十个回合后，云龙抵挡不住，被关胜杀得大败而逃。
正当关胜率部打杀溃败的官军时，忽听一声怒喝：“关胜贼子，焉敢猖獗！”关胜一看来将，正是官军主帅云天彪，当即挺刀飞马迎住厮杀。两人双刀并举、四臂盘旋，大战一百多个回合不分高下。两日后，关胜主动出击，与云天彪展开了第二轮较量。
两军对阵后，关胜挥舞大刀跃马飞出，与云天彪大战。只见双刀挥舞、寒光笼罩，战马嘶鸣、喊杀震天，两军将士看得尽皆骇然、目瞪口呆。二人大战了两百多个回合后，云天彪虚晃一刀诈败回营。关胜识得拖刀计，跃马追击时十分提心，却未防备暗器伤人，追至官军营门时，被傅玉的一记流星飞锤击中了胸膛，强忍剧痛落败而回。关胜回营后，胸甲已然尽碎，伤情严重、喷血不止，返回山寨不久便伤重而亡。就这样，威名赫赫的大刀关胜死在了傅玉这样的无名小辈之手。