宋江被充军至江州期间，在揭阳结识的好汉最多，一共有八位，其中有两位是后来的天罡，六位是地煞。客观来说，其中的七位都是泛泛之辈，在后来也没有多大的表现。不过，剩下的这一位则与众不同。不仅在当时两次救了宋江的命，后来在梁山也发挥了巨大的作用。此人便是大聚义时排名第二十六位的混江龙李俊。
与小说当中的大多数天罡星一样，李俊也出现在早期的水浒故事当中。在《大宋宣和遗事》当中，就有一位绰号为“混江龙”的好汉。不过，他的名字不叫李俊，而是叫李海。不知何故，这位在三十六天罡中高居第四的人物并无具体事迹。
李俊这个名字的首次出现，是在龚圣与的《宋江三十六人赞》当中。他的绰号与《大宋宣和遗事》相同，但排名却下跌了十二位，在三十六人中排名第十六位。书中有一段关于他的赞辞是这样描述的：“乖龙混江，射之即济，武皇雄争，自惜神臂。”不过，这段赞辞生涩难懂，至今也无人知道其中的含义。除了这段赞辞之外，李俊“混江龙”的这个绰号也引起了一番争议。有人说是一种清理河道淤泥的工具，也有人说指的是翻江倒海的龙，至今也没有一种较为统一的说法。
与早期水浒故事当中较为模糊的形象相比，李俊在《水浒传》中的形象非常清晰，且极有特点。他是庐江人氏，早年以在浔阳江面撑船艄公为生，后来转行做起了私商的买卖，在揭阳一带颇有名气，被称为“揭阳三霸”之一。李俊还有一帮手下，其中较为出名的是出洞蛟童威和翻江蜃童猛兄弟。
李俊常年活动在浔阳江一带，交友广阔，对宋江的大名早就如雷贯耳，曾经打算前往郓城登门拜访。后来听说宋江被刺配充军前往江州，李俊知道揭阳岭是宋江的必经之地，便在山下等候了六、七天，谁知宋江并没有出现，于是便带着童氏兄弟来到催命判官李立的酒店喝酒，并向李立询问宋江有没有经过李立的酒店。
李立一听大惊失色，立刻意识到刚刚被自己麻倒的犯人很可能就是大名鼎鼎的宋江，便带着李俊去认人，结果不出所料，果然是宋江。李立立即将宋江灌醒，下拜赔罪。李俊则将宋江接到自己的家中，热情款待。随后，宋江辞别李俊，继续赶往江州。
此后，宋江又在揭阳镇遇险，遭穆氏兄弟追杀。情急之下，宋江上了一只小船，不曾想乘船之人又是浔阳江一带的水匪、船火儿张横。就在张横打算抢劫宋江财物之际，李俊带着童氏兄弟及时赶到，又一次救了宋江的命。
此后，宋江在江州遇险，晁盖率领梁山兄弟劫了法场，救出宋江并来到了江州城外的白龙庙。此时，李俊也带着穆氏兄弟和童氏兄弟等人也来到了白龙庙与宋江会合。火烧无为军，杀死黄文炳后，李俊随宋江一起来到梁山，正式成为一名梁山好汉。不过，在李俊上山后的首次分工中，他并没有被安排在梁山水军，而是与黑旋风李逵一起镇守山前的旱寨。
李俊加入梁山的前半段时间，都在战斗中度过。无论是三打祝家庄、攻克高唐州还是夺取青州和华州，李俊都出现在第一线，并取得了一定的战绩。也正是因为如此，在晁盖死后，宋江对梁山重新进行职位调整时，李俊坐上了梁山水军的头把交椅。梁山水军在李俊的带领下，可谓是风光无限，战无不胜，先后活捉玉麒麟卢俊义、没羽箭张清、金陵水军统制官刘梦龙、弘农节度使王文德等人。