據傳，洞初開拓時，在這里建閣奉祀理學家朱熹，因朱熹曾在江西廬山建白鹿洞講學，遂取名白鹿洞。后人在石洞中雕造一只白鹿，加以傳說美化，因此有“白鹿銜煙”的傳稱，列為廈門“小八景”之一。

白鹿洞創建于清康熙四十四年（1704年），開山祖師為葦老和尚。在此之前，明曾建有義學，清初“遷界”，鞠為茂草?？滴跞吣辏?698年），威略將軍吳英為水師提督，為獎勵文教，建造文昌殿，復構萃文亭，增置學舍為教學之所。不久，轉為琳宮梵宇。乾隆十六年（1751年），代理水師提督倪鴻范倡學，乃逐僧徒，遷佛像，拆殿宇，建玉屏書院。道光四年（1824年），洞僧永瑞上人募集資金重建大觀樓，自撰《重修白鹿洞序》。

清末民初，書院衰落，佛教再興，先后重修、擴建寺宇，由覺斌和尚住持。后覺斌就任南普陀寺都監，由妙廉繼任。建國后，1958年部隊借住寺宇，曾對寺宇進行重修。1988年由旅居香港的元果法師集資興修，擴建殿堂樓閣，新塑諸佛菩薩金像，鋪砌石級、石欄。裝修樓臺亭閣，寺容寺貌，煥然一新?，F住僧眾10余人。

白鹿洞后懸崖石壁上有許多摩崖石刻，大都出自名家手書，其中有“明天啟癸亥（1623年）十一月二十日，廣陵朱一馮以督師剿夷至此?！焙汀疤靻⒐锖?，晉陽趙紆督師到此”的兩行石刻，具有重要的歷史資料價值，為史學界所重視。