もとは安祥城の安祥松平初代(宗家4代)の松平親忠が城内鎮守として創建したのが始まりと伝えられる。1530(享禄3)年、安祥松平家3代･清康が安祥城から岡崎城に移る際に八幡宮も遷座し(同年、甲山寺も創建)、さらに、1562(永禄5)年、徳川家康によって岡崎城の鬼門の守護神として現在の地に遷され、甲山寺に属することとなった。
　1603(慶長8)年、家康から朱印地を与えられ東照宮が祀られたが、1806(文化3)年に本殿に合祀されている。明治維新後には、神仏分離令によって甲山寺と分離された。
　甲山八幡宮の例祭は、毎年10月第一日曜日に開催され、神輿渡御や奉納花火，巫女の舞，手筒花火などが行われる。
　なお、甲山八幡宮のすぐ南に甲山寺、すぐ北に甲山1号墳がある。