步出过庭,进入后院,迎面挺立三间上房,乃为元氏祠堂。这里既是纪念先生活动的主要场所,又是遗山文物的主陈列室。陈列室的正面,悬挂着通天落地的元氏云谱,一直上溯至唐代,以元结为始祖,以下是高祖元谊(妻赵氏)、曾祖元春(妻王氏)、祖父元滋善(妻赵氏)、仲祖父元滋新(字仲美,妻史、杨氏)、父元德明(号东岩,妻王氏)、仲叔元格(号陇城,妻张氏),叔叔元升(字德清,妻杨氏)、长兄元好谦(字益之,妻王氏),仲兄元好古(字敏之,妻张氏)、元好问长子元抚(字叔仪、妻赵氏)、次子元振(字叔开,妻李氏)、三子元总(字叔钢,妻张氏)、长孙元若祖(妻金氏),凡七代十四位先人。每位先人连同其配偶,悉数以画像载入云谱。形象逼真,跏趺坐势,栩栩如生,仪态俨然。云谱前方,置一张丈许长的供桌(香案),两端隆起作龙首状。供桌中央列有一爿五尺高的龙牌,上书“元遗山先生神位”七个大字。右边摆着十个较小的牌位,分别供奉着先生的女儿元真(适程思温)、元严(适杨思敬后为女冠,号浯溪真隐)、元顺(适张兴祖)、元柔(适翟国才)和先生生前过从甚密的赵秉文(字周臣号闲闲居士,今河北磁县人)、郝天挺(字晋卿,为遗山师,今山西陵川人)、郝经(字伯常,为遗山门生,今陵川人,郝天挺之孙)、魏初(字太初,号青崖,先生之徒,今河北阳原人),姜彧(字文卿,莱阳人,先生之徒)一以及清代乾隆时期的汪本直(字古愚,今安徽歙县人)等—左边列有世代子孙不断繁衍接续下来的《元氏家谱》。此外,供桌上还放有三尺高的木质供器,香炉、香筒、蜡扦、灯具、灰鼎等物,地下放有磬钟,祭祀和敬奉时,击之鸣声,以告神灵,余韵缭绕。左右两侧墙上,挂满历代名人的字画,或吟诗作赋,或泼墨山水,或直笔写意,或触景生情,各有千秋,姹紫嫣红,琳琅满目,引人入胜。
靠墙各置书架一栏,其中珍藏着多种版本的先生遗著和各地文人仕籍的研究论著,约上千册,清光绪七年刻制的先生著作藏版,亦完整地存于其中,正是:“云笺叠架字欹斜,静冷祈兴处士家”(王锡纶《野史亭》),给人以汗牛充栋之感。上房两边配耳房两间以备不时之需,供护管人员之用。南北配房共二十二间,正房称作“会馆”,为接待与会集宾客之所,南房储存什物或宴飨摆席之地。大整体布局纵观,成四合头院落,里高外低,拾级而上作台阶形,含有升陟羽化之意。祠堂院中还立有三通石碑:元代至正十三年的一通,立于北耳房前面的小院;另外两通竖于前院过庭之南侧,其中通记载着清伺治年间修建遗山祠时各界名流学士的捐款题名。