弘治十二年（公元1499年）重阳，时任海州的通判的林廷玉在龙洞右侧石壁上留下《看龙洞偶成》一诗：“幻化起溟溕，丹崖一洞空。地灵呼即应，应是讶相逢。大明弘治十二年，余以工科给事中言囗事，谪判海州，重九日登此，闽人林廷玉谨识。”其中有七字，涉及其被贬原因，被他凿去。之后，林廷玉在海州为官期间，处处谨言慎行。除了孔望山上的这块题刻，在海州的各处都没有他的题刻。不仅如此，一些乡绅请他题字题诗，他都当场拒绝。后来，皇帝特意考察林廷玉在海州政绩，擢升其为湖南茶陵知州，后又擢升其为南京都察院都御史。