全书描写北宋末年以宋江为首的一百零八人在山东梁山泊聚义的故事。

九纹龙史进结识了少华山头领神机军师朱武等三人，被官府鹰犬告发，当地官府派兵捕捉。出于无奈，史进焚毁了自己的庄园，投奔外乡，得遇一个下级军官鲁达。两人共在酒楼饮酒，听得有卖唱女子啼哭之声，问知父女系受当地恶霸镇关西郑屠的欺凌。鲁达仗义赠银，发送父女回乡，并主动找上门去，三拳打死了镇关西。事后弃职逃亡，巧遇已有安身之所的卖唱女之父，将他接回家中藏匿；以后辗转去五台山出家，起法名为“智深”。鲁智深耐不得佛门清规，屡次酗酒，又打坏山门、金刚，寺中长老无可奈何，只得介绍他去东京大相国寺当名职事僧，职司看管菜园。在此 期间，他收服了一群泼皮。

鲁智深偶然结识东京八十万禁军教头林冲，两人甚为投机。当朝权臣高太尉之子高衙内，觊觎林妻貌美，设计陷害林冲，诬其“带刀”进入白虎堂，将他发配沧州，并企图在途中杀掉林冲。幸得鲁智深一路暗中护送，得以化险为夷。林冲发配沧州后，在忍无可忍的情况下手刃仇人，上了梁山。

梁山附近有个当保正的晁盖，得悉权臣蔡京女婿、大名府知府梁中书派杨志押送生辰纲上京，便由吴用设计，约集了三阮兄弟等共计七人，在黄泥岗劫了生辰纲，投奔梁山。杨志丢了生辰纲，不能回去交差，就与鲁智深会合，占了二龙山。

山东郓城有个呼保义宋江。他有一外室，名叫阎婆惜。此人有外遇，探知宋江与“强人”有来往，百般要挟。宋江一怒之下，杀了阎婆惜，逃奔小旋风柴进庄上，得以结识武松。后武松于景阳岗上打死猛虎，一时名声大噪，被聘为阳谷县都头，碰巧遇见失散多年的胞兄武大。其嫂潘金莲羡武松英伟，欲求苟合，为武松拒绝。后乘武松外出公干，金莲私通西门庆，毒死武大。武松归后察知其情，杀了西门庆和潘金莲，给兄长报仇。事后他主动去县衙自首，被发配孟州，结识施恩，醉打蒋门神，怒杀张都监全家，亦辗转投二龙山安身。宋江至清风寨寨主花荣处盘桓，因故被人陷害，发配江州，一日酒醉偶题“反诗”，又被判处死刑，得梁山弟兄劫法场救出，宋执意要回家探父，又迭遭危险，终于上了梁山。

随后，经过三打祝家庄，出兵救柴进，梁山声势甚大。接着又连续打退高太尉三路进剿，桃花山、二龙山和梁山三山会合，同归水泊。而后，晁盖不幸中箭身亡，卢俊义经历诸多曲折也上了梁山，义军大破曾头市，又打退了朝廷几次进攻，其中好些统兵将领亦参加梁山聚义。最后，总共拥有一百零八个头领，排定了“三十六天罡，七十二地煞”的座次。

面对梁山义军越战越勇的形势，朝廷改变策略，派人安抚。于是，在宋江等人妥协思想的指导下，梁山全体接受招安，改编为赵宋王朝的军队。统治者还采用“借刀杀人”的策略，命令梁山好汉前去征辽，几经征战，始得凯旋；接着又奉命至江南征讨方腊。结果，方腊被打败了，义军也伤亡惨重，弄得一百零八条好汉死的死、残的残、溜的溜、隐的隐，稀稀落落，只剩下了二十七个人。然而，就是这些幸存者也未能逃脱接踵而至的厄运。统治者眼见梁山义军势孤力单，便在封官赏爵后不久，对宋江等人下了毒手：宋江，卢俊义被分别用药酒、水银毒死，李逵又被宋江临死时拉去陪葬，吴用、花荣也在蓼儿洼自缢身亡……一场轰轰烈烈的农民起义，就这样被扼杀了。