济水作为黄河的支津，本就携带大量泥沙，而且汉武帝时（公元前132年）黄河决口改道，大野泽也被泥沙淤积，面积不断萎缩。东汉明帝时，王景治河使得黄河河道稳定下来，而随着济水的逐渐淤塞，巨野泽不断萎缩，到晚唐时巨野泽差不多已经消亡，只有北面还有少许遗留。
五代十国时，黄河由于下游河道淤塞，而乱世之时也无人关注黄河的治理问题，黄河又开始频繁决口，灾害不断。洪水在原来巨野泽之北梁山一带潴留，形成梁山泊。北宋时黄河频繁决口，使得洪水肆虐，梁山泊在洪水的冲击下变得越来越大，终成烟波浩淼的八百里水泊，梁山则变成梁山泊中一个岛。
图-梁山俯瞰
