今から1200年程前、不二洞がある大福寿山（おおふくじゅやま）のあたりは原生林に覆われ、さまざまな獣が住んでいました。ある日猿たちが集まり騒いでいるので村人が不思議に思い近寄ってみると、そこに小さな穴が空いているのが発見されました。その穴は猿が取り巻いていたことから庚申（こうしん）の穴（別名：猿の穴）と呼ばれ、これが後の不二洞となります。
それから幾度となく探検が繰り返され、今から400年程前、藤原山吉祥寺の開山・安宗（あんそう）がこの洞窟の探検に初めて成功し、修行の場として洞内の各所に仏教にちなんだ名をつけました。また、山の名称から「大福寿穴」と改名し、その名は修行僧たちによって世に広められます。
そして約200年前、川和集落に疫病が流行しました。吉祥寺六代住職悦巌（えつがん）上人は、天台の百巻経をたくさんの石に墨書した後この洞窟に納め祈願し、これを鎮めました。その後、こうした災いが二度と起きないよう、この洞窟の名称を「不二洞」と改めたのです。