應永元年（1394年）足利義滿以位於河內國的領地與西園寺家交換獲得這塊當時稱為「北山第」的山莊，開始大興土木整理改建。隔年他卸下征夷大將軍職位讓渡給其子足利義持並出家入道，只保留太政大臣的頭銜督政，應永四年（1397年）他將北山第改名為「北山殿」，並且以主要核心建築「舍利殿」作為自己修禪的場所。由於義滿將舍利殿修築得金碧輝煌，當時的人就已稱其為「金閣殿」。義滿死後，其子遵照他的遺願，勸請夢窗國師開山，將北山殿由宅邸用途改為禪寺，並以義滿的法號命名為鹿苑寺，山號則為「北山」。

在之後的應仁之亂中，鹿苑寺境內大部分的建築物都遭到焚燬，只有主建物舍利殿得倖免，成為北山文化唯一的建築遺址，因而被日本政府在戰前就列為國寶。然而很不幸的，在昭和25年（1950年）時，舍利殿因為一名21歲的見習僧人林承賢放火自焚而完全燒毀，連放在殿中供奉的國寶、足利義滿像也一同化為灰燼。

今日我們所看到的舍利殿是昭和30年（1955年）時依照原樣重新修復建造的，昭和62年（1987年）全殿外壁的金箔裝飾皆全面換新，成為目前的狀態。

金閣寺（舍利殿）是一座緊鄰鏡湖池畔的三層樓閣狀建築，（上左圖）一樓是延續了當初藤原時代樣貌的「法水院」（屬寢殿造風格，也就是平安時代的貴族建築風），二樓是鐮倉時期的「潮音洞」（一種武家造，意指武士建築風格），三樓則為中國（唐朝）風格的「究竟頂」（屬禪宗佛殿建築）。寺頂有寶塔狀的結構，頂端有隻象徵吉祥的金鳳凰裝飾。