棋山觀曾是魯中地區(qū)重要的道教文化發(fā)祥地之一，始建于北宋仁宗天圣三年，占地面積20余畝，建有廟宇、廡廊、亭閣、水榭、長春井、長春真人墓等，是一處較完備的道觀建筑群。

觀門原有三道，周圍是院墻，院內(nèi)原石碑林立，多為明清兩代所建?，F(xiàn)僅存雪蓑碑、抗日陣亡烈士紀(jì)念碑和抗匪斗爭烈士碑。院內(nèi)原還有宋槐一棵，明清兩代古柏十余株，后皆毀于戰(zhàn)火。觀內(nèi)北部建有三清殿、玉皇大帝廟、關(guān)帝廟。三清殿三間，東西長10.5米，寬8.9米，高7米。建筑為四梁八柱，硬山頂，磚瓦結(jié)構(gòu)。殿內(nèi)供奉三清尊神，即玉清元始天尊、上清靈寶天尊、太清道德天尊。在三清殿正南18米，建有玉皇大帝廟三間，建筑面積、建筑結(jié)構(gòu)與三清殿大致相同，塑有玉皇大帝神像。在雪蓑碑往前東側(cè)建有關(guān)帝廟三間，長10米，寬5米，仍為四梁八柱，磚瓦結(jié)構(gòu)，塑有關(guān)公及周倉、關(guān)平神像。在三清殿前、玉皇廟后院內(nèi)東西兩側(cè)建有廂房，為道士住房。自晚清至民國，東廂房陳姓住，西廂房張姓住。

據(jù)原看廟陳姓道士祖輩相傳，北宋仁宗年間，有一朝廷重臣，辭官傳道，得皇帝恩準(zhǔn)來此建觀。為支持其傳道大業(yè)，皇帝降旨，本觀東至分水嶺子（今萊蕪、沂源分界線），西至高家?guī)X，北至閻王鼻子（今屬黃金藍(lán)村地域），南至摩首山子（茶峪子村南），方圓百平方公里以內(nèi)，為其繳納糧草，并免繳官府賦稅。在此后的近50年間，此觀因傳道有功，曾受到仁宗、英宗、神宗三位皇帝加封，時常駐授業(yè)道士百余名，可謂盛矣。

南宋時，此地屬金人管轄，道教長春真人丘處機(jī)曾來此觀隱居傳道修煉。據(jù)史書記載，丘處機(jī)（1148－1227），山東棲霞縣人，為道教龍門派，成吉思汗曾召見于雪山，丘處機(jī)死后，元世祖忽必烈褒贈“長春演道主教真人”封號，世號長春真人。1208年前后，丘處機(jī)曾在萊蕪一帶活動，羊里鎮(zhèn)城子縣村的三清殿及棋山觀都是丘處機(jī)傳授道教和修煉的場所。丘處機(jī)是繼安期生之后，在萊蕪活動的又一重要道人，為萊蕪道教的發(fā)展起了重要的作用。

另據(jù)大安二年立石碑記載：泰和八年（1208年），丘處機(jī)、王玖求皇帝為觀賜名，皇帝賜曰“洞真觀”。

另相傳與萊蕪古八景之一的“棋山柯爛”有關(guān)，據(jù)明嘉靖縣志載，縣東五十里，仙人圍棋于此，梁武帝取棋子入宮中，今棋盤尚在，故稱為碁巖，便產(chǎn)生了“碁巖洞真宮”，因此觀內(nèi)有御碑一塊，視為珍寶，后道、臺、府、州官員在此樹碑立傳，頗為盛世，到了明末改名為“棋山觀”。

長春真人丘處機(jī)曾在此處居住的佐證，一是曾有一口石砌“長春井”，據(jù)說因長春真人吃此井水而得名，井內(nèi)石縫中長出茶樹枝，名曰長春茶，此茶經(jīng)長春真人加工作為上等茶為皇上進(jìn)貢。再即廟西約百米處有長春墓，傳說是眾弟子安葬丘處機(jī)的地方。一天夜里，弟子夢見來我市仙逝云游，知老師已離世而去，故擇此吉地為老師安葬，并在墳前立碑，記述安葬事宜。此古墓已于1978年整地時，被民工開挖。古墓南北長3.6米，東西寬4.2米，為青石料石建筑，漿砌工整、考究，呈底寬上窄狀。南面正中有十幾米石發(fā)碹通道相連，通道高2米，寬1.5米，有兩扇石門相封，棺槨由發(fā)碹通道送入墓內(nèi)。開挖時棺槨均已腐爛，只挖出宋代陶器。出土料石已壘石堰，今遺址尚存。據(jù)有關(guān)史料記載，長春真人葬于北京西郊白云觀，其他長春墓為虛墓，此處應(yīng)是72處虛墓之一。但此墓證實(shí)，當(dāng)年丘處機(jī)在此傳教、修煉當(dāng)屬無疑。

300余年后，明嘉靖年間有一道人雪蓑子步其后塵尋蹤丘處機(jī)之道文化，在萊蕪及周邊地區(qū)云游10余年，留下了“玄之又玄”文化墨寶。雪蓑碑：碑圓額，高3.13米，寬1.18米，厚0.42米，龜座，外設(shè)碑亭。史人評價：筆法奇古如神龍擺尾，“之”字高度為2.62米，一點(diǎn)為龍頭狀，一捺延長下行十一公尺，玄之又玄在捺左，布局獨(dú)特獨(dú)具匠心。

棋山觀歷盡滄桑，在戰(zhàn)爭年代屢遭劫難。1945年抗戰(zhàn)勝利后，山東省兵工局二分會曾在觀內(nèi)東側(cè)設(shè)立兵工廠。1947年此觀遭國民黨部隊(duì)飛機(jī)轟炸，觀內(nèi)原有廟宇、宋槐、明清古柏及所立的多數(shù)石碑被毀。