南禅寺の創建は、亀山法皇が生母大宮院幾姞子の御所として造営した離宮禅林寺殿を、法皇自身の発願によって、1291(正応4)年に禅寺の龍安山禅林禅寺としたことにはじまる。
開山の無関普門(むかんふもん)と亀山法皇との出会いは、禅林寺殿での妖怪事件がきっかけとなった。その頃、禅林寺殿には道智上人といわれる死霊が現れ、禅林寺殿に住むものを悩ませていたという。
法皇はこれに対し怪異を退治する法力で有名な奈良の西大寺の叡尊(えいそん)をまねいて祈祷させたが効果がない。そこで京都の東福寺3世の無関普門(むかんふもん)を招いた。弟子20人と共に離宮に入り、清規に則り、坐禅、作務をするだけであったが妖怪はおさまった。これによって法皇は禅宗に深く帰依され、離宮を禅林禅寺とされました。
また禅林禅寺が南禅寺とよばれるのは1308(徳治3)年ごろと言われ、中国では禅が南宗禅と北宗禅でわかれていることから、二世住持の規菴祖圓は「わたくしどもの禅は南宗禅であります」と答えたことより南禅寺と改名されました。
開山の無関普門は禅寺創建の年に遷化されてしまったので、伽藍の造営は規菴祖圓によって行われました。基礎工事のために自ら土を運び、石を曳き、山門や法堂など禅宗寺院に必要な施設は規菴によって建てられました。53歳で遷化されますが、南禅寺ではその功を讃えて「創建開山」と呼ばれています。
1334(元弘4)年には中国の五山制度に倣いはじまった五山制度の第一に南禅寺は指定された。以後、南禅寺は「五山第一」として豊富な財力と権力を持ち、鎌倉時代の前半は全盛期として知られ、教学はもちろん、文学や美術の面で多元的な活躍があった。その後、明徳の大火や、応仁の乱の兵火により度々伽藍を焼失し、寺領を失ったが豊臣秀吉、徳川家康から寺領を寄進され復興される。江戸時代に入り、以心崇伝(いしんすうでん)という僧によって南禅寺の地位はゆるぎないものになる。
明治に入り広域な南禅寺の寺領は収公され多くの塔頭は合寺、廃絶を余儀なくされた。さらに京都市は琵琶湖疏水事業の一端として、南禅寺の境内に疎水のアーチを強制的に建設した。現在は水路閣とよばれ、観光名所として広く知られている。