1651(慶安4)年、第2代尾張藩主･徳川光友が、父･徳川義直の菩提を弔うために、また、尾張徳川家代々の菩提寺として尾張藩全ての人々の心のよりどころとするために、下総国結城の弘経寺住持であった成誉廓呑上人を開山として義直の位牌を祀る本堂などが建立された。山号は徳興山、本尊を阿弥陀如来とする浄土宗の寺院である。創建当時は周囲は石垣と堀で囲まれ、4万8千坪の境内に多くの堂が立ち並ぶ規模を誇った。
　1652(慶安5)年、総門，三門，塔頭などが完成する。1700(元禄13)年、第3代藩主･徳川綱誠の廟と御霊屋が建立される。翌1701(元禄14)年に第2代藩主･徳川光友の廟と御霊屋が建立される。以降、歴代藩主の御廟と御霊屋が建立され、1765(明和2)年には、第7代藩主･徳川宗春の廟が建立された。
　しかし、1785(天明5)年、大曽根の大火で延焼し本堂が炎上してしまい、第5代藩主･徳川五郎太の御霊屋，総門，三門を除く5つの御霊屋と多くの堂が焼失した。翌年から2年かけて第9代藩主･徳川宗睦と第19世･辨及喚阿が中興させた。このとき、それまで無かった初代藩主･義直の御霊屋を含めて新たに4棟の御霊屋が建立された。その後、徳川宗睦から第13代藩主･徳川慶臧の廟が建立されている。
　明治時代になると、尾張藩付家老の成瀬正虎が創建した宗心院はじめ7院あった塔頭も廃止され、境内は縮小され、1872(明治5)年には寺格が無本寺から知恩院末寺に降格されている。また、義直の御霊屋以外の御霊屋や門が撤去され他の寺院に移築された。残された義直の御霊屋は徳川家霊廟とされ、歴代藩主や正室などの位牌が祀られた。1914(大正3)年、萬松寺から初代藩主･徳川義直室の春姫(高原院)の御霊屋が当寺へ移築される。なお、1954(昭和29)年には、高原院御霊屋は名古屋東照宮に移築されて本殿とされている。
　1945(昭和20)年5月14日の米軍による名古屋大空襲の際には幸い建物の被害は無かったが、徳川宗春の墓に焼夷弾が命中して損傷している。
　戦後、名古屋市の戦災復興都市計画により境内の規模は更に縮小し、塔頭の宗心院と誓安院があった場所に建中寺公園が造成された。現在は総門がそのまま残っている。
　歴代藩主の墓所も整理され、徳川宗春の墓は新たに造られる平和公園に移し、徳川光友の墓｢源正公廟｣のみを建中寺に残し、さらに残りの墓は、魂抜きをしたうえで3つだけを残して処分し、遺骸は荼毘に付して遺骨とし、徳川義直廟｢源敬公廟｣がある瀬戸市の定光寺に造られている徳川家納骨堂に納めることとした。また、徳川宗睦の墓も助けられ、小牧山に移転された。そして、魂抜き後に残された3つの墓石は寺標に改められて現在も当寺に残っている。