据《汉书传景十三王传》记载：“恭王初好治宫室，坏孔子旧宅以广其宫，闻钟磬琴瑟之声，遂不敢复坏，于其壁中得古文经传。”当初刘馀为扩建宫室拆除孔子故宅旧墙时，忽然听到金石丝竹之声，有六律五音之美，立即停止拆除工作，结果在墙壁里发现了《尚书》、《礼》、《论语》及《孝经》等几十篇经典书籍。那么这些经书为何会藏匿到旧墙里呢？公元前213年，秦始皇采纳丞相李斯的建议，禁止儒生以古非今，以私学诽谤朝政，下令焚烧《秦史》以外的列国史记，对不属于博士官的私藏“诗”、“书”等也要限期交出销毁。这时，孔子的第九代孙孔鲋不忍心让这些珍贵的经书被毁掉，便将《尚书》、《仪礼》、《论语》及《孝经》等经书偷偷地藏于孔子故宅的墙壁内，自己跑到嵩山隐居去了。孔鲋所藏之书是用蝌蝌文写于竹简之上的，不同于当时经师们用隶书写的经典，人们就把它们称为“孔壁古文”。其中最有影响的是《古文尚书》，据说它比《今文尚书》多十六篇。刘馀的无意之举使这些古籍得以重见天日也不失为中国文献史上的一大幸事。

好治宫室的恭王无法停止建造宫室的脚步，修建了雄伟壮观的“灵光殿”，东汉文学家王延寿曾为之作著名的《鲁灵光殿赋》。：“鲁灵光殿者，盖景帝程姬之子恭王余之所立也。初，恭王始都下国，好治宫室，遂因鲁僖基兆而营焉。遭汉中微，盗贼奔突，自西京未央建章之殿，皆见隳坏，而灵光岿然独存。……。”王延寿将灵光殿与当时长安的未央宫、建章宫相提并论，其宏丽程度想见一斑。在曲阜汉魏碑刻陈列馆内馆藏着一块西汉早期的刻石——北陛石，阶石的左端刻“鲁六年九月所造北陛”，鲁六年为鲁恭王六年，即汉景帝中元元年（公元前149年），为汉景帝子鲁恭王刘馀修建曲阜灵光殿之年。陛，“天子阶也”（《玉篇》），“北陛”应指汉鲁王宫北阶，即为灵光殿上所用。该石阶面浅雕双璧纹，立面阴刻菱纹，一端有卯榫，做工非常精美。1942年日军占领曲阜盗掘鲁国故城遗址时发现此石，位于鲁故城内汉鲁王宫殿区，即现周公庙东北约30米处的高地。该石是迄今发现的灵光殿唯一有纪年刻字的实物资料，虽然仅从一块出土的台阶石还无法完全断定灵光殿遗址所在，但至少为历史上对鲁灵光殿遗址是在古泮池附近还是在周公庙侧之争提供了考古实物依据。