有一天，忽然有人提起卢俊义。大家便想让他上梁山，共成事业。
这天，吴用扮成一个算命先生，李逵扮成一个哑巴道童来到北京城。到了市中心，吴用边摇铃铛边叫：“卖卦！卖卦！知生知死，知贵知贱！要问生死祸福，先拿银一两！”
卢俊义在屋中听了，便问一个仆人怎么回事。仆人笑着说：“是一个外地来的算命先生，算一命要一两银子，谁愿意给？而且他后边那个道童长得怪模怪样，走路也不成样子，所以惹得那些小孩去看热闹。”卢俊义说：“既然他敢说大话，应该也有些真本事，你去把他叫来给我算一下。”
吴用算出了百日之内，卢俊义必有血光之灾，并在墙上题了四句卦歌。这四句卦歌是：芦花丛里一扁舟，俊杰俄从此地游，义士若能知此理，反躬逃难可无忧。题完后吴用和李逵便离开了。
自从算卦之后，卢俊义坐立不安，决定叫李固收拾东西去山东泰安州烧香求安。他的心腹燕青与夫人一起劝他不要上了别人的当，可他主意已定，一定要去烧香。
路过梁山时，出来一伙人，劝卢俊义到山上做头领，卢俊义不肯。花荣见他不肯，便一箭射落了他毡笠上的红缨，林冲等人呐喊着从四面杀来。卢俊义转身跑开，傍晚来到了水边。卢俊义、李固叫来一条小船。小船划出不远，阮氏三兄弟各自划船围住小船。李俊大笑，叫卢俊义投降。卢俊义挥刀便砍，小船翻了，李俊和张顺从水中捉住卢俊义，将他押上了山，宋江等人热情款待他，众人想让他留在山上，他死不从命。为了让卢俊义的家眷安心，吴用先让李固回去报个平安。
到了金沙滩上，吴用告诉李固，卢俊义已经决定坐第二把交椅，并说卢家墙上的卦歌是首反诗。
卢俊义在山上呆了四个月，众人看他实在惦念家里，便让他下山了。
谁知他刚进北京就遇到了落迫的燕青，燕青告诉他，他的妻子贾氏已与李固成了夫妻，并告了官府，将燕青赶了出来。卢俊义不信，回到家里，却中了李固、贾氏二人的计，被官府抓了去。