继黄帝之后，秦始皇、汉武帝、汉宣帝、宋太祖等也都到过大基山祭山拜神。明代历经六朝的太子太师胡滢在此留下的铭文中写道：“东莱山卧虚座危之阳，星拱斗拜。蓬莱待其迎日，泰岱躬接晚霞，占全地气，尽领天道，幽境妙吉，始有黄帝会众神于此也……”

山不在高，有仙则名。大基山主峰海拔470多米，周围有海拔300米以上的山峰10个，山体成半环状，东、西、北三面奇峰异峦，山势险峻，当中为一深邃圆阔的谷地，仅南方有一豁口，自成天然门户。因谷内自古为道家所居，故俗称道士谷。特殊的地理位置，使谷中冬无严寒，夏无酷暑。山上树木葱茏，遮天蔽日，风光绚丽，景色优美。谷中静幽绝俗，清泉汩汩，巨岩如壁，怪石林立。大基山南麓自下而上，道观迭起，雕梁画栋，清香缭绕，分别祭祀玉皇、老子、全真七子等道家先知。

道教在莱州历史久远。早在秦汉时期，黄老之说遍传境内，秦始皇曾受成仙的诱惑，驾临当地的三山岛求长生不老药。汉武帝更受莱州方士栾大的愚弄，拜将封侯，并把卫长公主嫁给他为妻。后来发现受骗，将其腰斩于市，葬在莱州路旺侯家，至今墓葬仍存。

北魏太武帝曾下诏兴道。光州（即今莱州）刺史、北魏著名书法家郑道昭常于公务之暇率僚佐、携道俗，悠游山林，在大基山谈经论道，渴饮甘泉。郑道昭酷爱山川，慕仙乐道，曾在大基山依东、西、南、北、中设青烟寺、白云堂、朱阳台、玄灵宫、中明坛为修炼之处。因此，从某种意义上讲，对大基山的道士们来说，道士谷这一洞天福地是郑道昭留给他们的。

金元之际，道教大盛，大基山也为之兴盛。金朝初期，全真道创始人王重阳率弟子马钰、谭处端、丘处机、王处一、郝大通、孙不二、刘长生（莱州人）等全真七子，在大基山传道多年，足迹遍布胶东昆嵛山、芝阳山、栖霞山等地，全真七子遂成为道教之翘楚。后来，丘处机就是在大基山中被成吉思汗征召为“国师”的，尊为“丘神仙”。丘处机辅佐成吉思汗东征西讨13年，为元朝的建立立下了汗马功劳，丘处机羽化后，又归葬于大基山。