入云龙公孙胜是水泊梁山上仅有的两位会神通的高人，其排位仅次于宋江、卢俊义、吴用，是山寨第四号人物，梁山泊的两大掌管秘要军师之一。入伙梁山后，公孙胜功勋卓著，有过十分杰出的体现。在程善之所著的《残水浒》中，虽然公孙胜的结局十分满意，可是脱离梁山的动因却令人意想不到，竟然是恐遭虐待，借机逃出了梁山。
在《残水浒》的第二回中，梁山在白土冈抢掠官军粮草失利后，宋江和吴用匆促改动战略，命九纹龙史进下山，无论如何也要将官军主将、史进的师父王进请上山寨一叙。王进却之不恭，只得跟着学徒上山，牵强应付了一番，第二天一早便以公务在身、不敢耽误为由，告别世人下山，宋江带着众头目一向送到山下十多里才挥手告别。可是，合理宋江等人回山时，忽见公孙胜上前拱手说道：“贫道今天也不得不就此告别了，还望诸位兄长见谅！”世人听后大惊，纷繁问道：“公孙先生这是何意？”
公孙胜说道：“诸位兄长莫非没听王都监昨日说起北边的兵事吗？一清在山寨中和众兄弟们大碗吃酒、大秤分金银，何其快哉。可是老母一人却在穷乡僻壤忍饥流亡，家中又无兄弟姐妹，再不回去，何故为人？”宋江听后，说道：“先生所言甚是，仅仅现在混乱不安的，即便要去，也得协商个万全之策才好！”吴用也说道：“现在南北交兵，两头阻隔，这事急不来。不如先回忠义堂，等小可谋划个规章，将先生的母亲接到山寨来，由先生安心伺候就是。”
宋江听吴用如是说，也接口道：“军师所言甚是！现在我山寨上，靠上苍垂佑，又有众兄弟们的义气，比一切的当地都要安稳些。接先生母亲这一层上，只怪咱们不曾早些想到。”公孙胜听后，匆促说道：“军师计谋虽好，怎么办小弟已是心急如焚，万万等不得了。诸位兄弟莫怪，小弟就此告辞。”宋江、吴用见劝不住，也无可怎么办，只说道：“先生接了母亲，必须设法早些回山，以便公私两济。”公孙胜听后，也不搭腔，带着学徒混世魔王樊瑞，一抖丝缰，踏着滚滚黄尘，眨眼间没了身影。
公孙胜提及的北边战事，是王进在山寨应付时所说的契丹被女真战胜后、散兵和土匪顺势勾通起来在当地上打杀抢掠，其间尤以奚人和勒博一部最为凶横。这奚人原是契丹的属地，平常惧怕契丹不敢捣乱，现在没了管制，处处杀人越货、恶贯满盈，仅蓟州城在一月之内就被其围攻了三次。蓟州守军的顽强抵抗，城池仍然在官军的把握之中，但蓟州周边的属县却早已被焚掠一空。契丹一面要对抗大宋，一面还要抵挡女真，哪里还能抽身征讨这帮不服管制的奚人呢？而公孙胜的母亲就在蓟州的九宫县二仙山，又怎能不慌着回家照料老母呢？
按理说，公孙胜为母亲的安危考虑，脱离梁山本无可厚非。可是，在该书的第四回中，圣手墨客萧让、玉臂匠金大坚和浪子燕青三人的对话，揭开了公孙胜脱离梁山的实在原因。本来，宋江为了独掌梁山，与军师吴用费尽心机，策划了天书石碣碑一事。萧让和金大坚在密室中雕琢成文后，宋江、和吴用为了让人服气，又特意请公孙胜虚张声势。公孙胜经不住宋、吴二人的各样央求，只得借广东烟火制作了一出天授石碣碑的假象。
不过，自从这件过后，公孙胜也看清了宋江、吴用的实在面貌，处处当心，防止参加军事，生怕二人假借军法之名，行杀人灭口之实。因而，当公孙胜听到王进叙述北方的战过后，当即以此为托言抽身，匆促逃离了梁山。公孙胜的学徒樊瑞也是个明白人，认为师父鞍前马后效能为由，也趁机脱离了梁山。公孙胜回家后，跟着罗真人一起迁到了口外雾灵山参同道院潜居修行，过后宋江曾多次派人寻觅，都未能寻到踪影。至此，公孙胜完全与梁山划清界限，终究取得了一个满意的结局。