築城年代は定かではないが、平安時代初期800年代に築かれたとされる(860年に城主･尾関勘八郎が法輪寺を創建とある)。1467(応仁1)年には砂川合戦という矢田川の水利権争いが起こる。この争いで大森城の尾関勘八朗は一族を率いて水野宗国の新居城(旭城)を攻めたが、城を落とせず退却。すると翌日に今度は水野宗国が大森城を攻め、焼失,落城させた。尾関らは鍋屋上野城まで退却し、大森地域一帯は水野氏の支配となった。
　城跡は大森中央公園の北西の大森住宅北側、名古屋市立大森中学校の南側辺りとされ、東西約70m,南北約76m規模で天神川から引いた水で一重の堀を巡らせていたというが、現在は都市開発が進み宅地などになっており遺構は残されていない。