築城年は定かではないが、16世紀半ばに緒川城主･水野信元に仕えた中山刑部大輔勝時が築いたとされる。勝時は大脇城の梶川氏などと共に水野氏を支え、水野忠政の娘を娶っている(信元と於大の方の義弟、徳川家康の叔父にあたる)。水野信元による知多半島制圧の一翼を担い、宮津城の新海淳尚を倒して榊原主殿が守る岩滑城を攻略した際に、信元は勝時を岩滑城主とした。その後、勝時は中山城を築き移ったと考えられる。信元死後は織田信長に仕え、1582(天正10)年の本能寺の変の際に織田信忠とともに京都二条で討死した。子の猪右衛門(家康とは従兄弟関係)は織田信雄に仕えたのち、家康に仕え江戸時代には旗本となった。明治以降、子孫は当地に帰り、童話『ごん狐』で有名な当地の童話作家･新美南吉とも交流があったという。『ごん狐』の中に登場する｢中山さま｣とは城主だった中山氏のことという。
　中山城の位置については明確ではないが、現在の新美南吉記念館,童話の森辺りに比定されている。遺構は残されていない。