築城年代は定かではないが、室町時代中期の阿部山城守忠正の居城とされる。1470(文明2)年頃、忠正の子・正重が安祥城の松平親忠の家臣になっている(忠正は高齢のため辞退)。さらに、忠正の子・正宣は松平広忠の譜代衆、その子正勝は松平竹千代付きの小姓衆となり、家康の家臣として東海経略に軍功を挙げた。その後も阿部氏は江戸幕府で要職に就いていく。
　正確な城域,規模は不明であるが、小針集落全体という説もある。現在はほとんどが住宅に変わっており、城跡(地名)地区の東側に「阿部城内跡」と書かれた城址碑が立つ。地名には、このほか｢本丸｣,｢場々西｣,｢池城｣などがある。また、北にある小針神明社裏手にもかつては東方200mほどの空堀が残っていたらしい。
　なお、岡崎市舳越町の願照寺前に阿部忠正の墓がある。