1493(明応2)年、岡崎城主であった西郷(松平)信貞(岡崎城の築城者･西郷頼嗣の2男)が天盈良倪を開山として明大寺に創建し、当初は光林寺と称した。1530(享禄3)年になり、岡崎城を手に入れた松平清康が岡崎城の北の守りとして現在地に移設させた。
　1535(天文4)年12月、清康が尾張の守山で家臣に殺害されると(守山崩れ)、遺骸は長縄城付近で仮葬(松平清康仮葬地跡)されたのち、菅生丸山(隨念寺)で荼毘に付された。清康の夫人春姫(西郷信貞の娘)は尼となり、1548(天文17)年2月に大林寺で没した。翌1549(天文18)年には清康の子で徳川家康の父である松平広忠も若くして亡くなると、松平氏は織田氏,今川氏への影響を恐れ、ひそかに清康の遺骸を大林寺に移し能見村に葬った。
　1596(文禄5)年、豊臣秀吉の命を受けて田中吉政が岡崎城主に着任すると、三河国において根強い徳川色を弱めようと徳川関連の寺社弾圧を行ったとされている。大林寺も元の明大寺への移転を計画されたが、吉政の体に不調をきたし計画は中止となった(寺の北側は田中堀となり寺領の一部は没収された)。
　そして、江戸時代に入ると、松平氏ゆかりの寺社は家康の先祖に対する権威付けにより寺格が高められ、1668(寛文8)年には本堂や客殿が再建されるとともに広大な境内を有するようになった。
　境内には、松平清康,清康夫人春姫(於波留),松平広忠の墓のほか、松平氏入城以前の岡崎城主の西郷頼嗣,信貞などの墓がある。