知恩院のはじまりは1175(承安5)年、専修念仏に帰入した法然上人が、西塔黒谷の住坊を出て東山の吉水に草庵を設けて移住したことに始まる。当時の仏教は、貴族などごく一部の人のためにだけあって、内乱や天変地異にあがなうことができない一般庶民には遠い存在であったが、法然上人は「南無阿弥陀仏」と唱えるだけですべての人が救われると説き、1198(建久9)年には「選択本願念仏集」をまとめ浄土宗を開いた。
しかしながら旧仏教教団からの弾圧(元久および建永の法難)がおこり、法然上人は讃岐に流罪となる。1211(建暦元)年にはようやく京都に戻ることがが許されたが草庵は荒れ果て、見る影もなかった。青蓮院の慈円僧正のはからいで、今の知恩院境内の東端にある勢至堂あたりに禅坊を建てて住まうが翌年に80歳で息をひきとった。禅房の近くに廟堂を建て遺骸をおさめるが、比叡山の僧徒の暴挙がおこり、粟生野に移した。そののち1234(文暦元)年に法然の弟子である勢観房源智が廟堂を再建、あわせて仏堂や御影堂を建て、知恩院大谷寺として寺観をととのえた。
1467(応仁元)年の応仁の乱では兵火によって知恩院は炎上焼失。時の住持であった周誉珠琳(しゅうよしゅりん)によって復興するが、その後も度々災厄にあっている。1573(元亀4)年には織田信長と将軍足利義昭との間が不和となり、信長は知恩院を本陣とする。秀吉からは寺領190石の寄進を受け、しだいに経済基盤が固まっている。
また江戸時代に入り浄土宗に帰依していた徳川家康が知恩院を永代菩提所と定め、多大な援助をして現在の伽藍がととのえられた。ところが1633(寛永10)年の火災で三門と経蔵を残してすべての諸堂を焼失していますが、三代将軍家光が復興に尽力して旧観に戻すのである。