1218(建保6)年、小坂光善が築城。その後、光善は近江国へ移り住んでいたが、南北朝時代初期には上条入道が支配。のちに林重之の代に上条城に戻り、名字を｢小坂｣から｢林｣へと改姓した。林家は林重之が上条用水を切り開くなど、代々地元の農業の振興に努めたといわれる。
　1486(文明18)年には、当時の城主である林重緒が仁済宗恕を招いて菩提寺として泰岳寺を開山している。
　1556(弘治2)年、清洲城主の織田信光が家臣の坂井大膳により殺されると、織田信長の兵召集に応じた吉田城主の小坂久蔵正氏は坂井の軍勢により討死してしまう。信長は、正氏に世継ぎがいなかったため家臣で久蔵の遠縁である小坂雄吉に跡を継がせ、吉田城と上条城城主に任じた。雄吉は信長の命令で家臣の佐久間氏ら約500人とともに上条城に向かい、城域の拡張のため大改修を行なった。この頃、林盛重は上条城の領地を信長に献上し帰農したとされる。
　同年に勃発した稲生の戦いでは、小坂雄吉は佐々成政らとともに戦場で戦い勝利を収めている。
　1584(天正12)年、小牧長久手の戦いの際に林盛重の息子･重登は池田恒興からの要請をうけて城跡など旧跡を修理して砦を造り、道の案内などをした。小坂雄吉は伊勢国長島に出陣し、雄吉が戻るまで森川権六らが城番をしていた。秀吉方の三河中入の際には池田恒興の率いる軍がこの城に2泊している。
　1586(天正14)年、豊臣秀吉は上条城や吉田城、小牧にある諸城を取り壊すことを条件に戦いを終えたため、天守を始めとした城の建造物は壊されたが、林重登が上条城跡に新たに屋敷を構えた。戦後、豊臣秀吉は自ら兵を率いて竜泉寺の帰路に林重登の屋敷にて少しの期間滞在した。慶長年間初期(1596～98年)には、秀吉はこの時の礼として重登を春日井郡57ヶ村の総代庄屋に指名し、林家は重登から林金兵衛の代まで15代に亘って勤め、明治時代に至る。
　城郭は輪郭式平城で本丸を中心として周りを二の丸と三の丸で囲い、土塁を3重に、堀を4重に廻らせていた。三の丸の堀の西側を南北に水路が流れていた。城の東部には内津川,庄内川が南北に流れ、以前はゆるやかな傾斜がある湿地帯であったと推測されている。本丸は東西約75m,南北約50mの長方形の郭で、北西隅に天守、南東に1ヶ所虎口が設けられていた。この天守台は天守が取り壊された後に村人を召集したり、水害や戦の際にこの頂上に登って村人に知らせたことから｢人呼びの丘｣とも呼ばれている。二の丸には北西隅と南隅の2ヶ所に櫓が、南東に1ヶ所虎口が設けられていた。本丸を含めた二の丸の規模は東西約150m,南北約180mとされる。三の丸は上条城の面積の約3分の2を占めており、南東に1ヶ所虎口が設けられていた。規模は東西約370m,南北約340mで周囲と北西から南東に土塁と堀を廻らせていた。稲生の戦いの際に佐久間氏が三の丸に屋敷を一時的に構えていたことから、｢佐久間屋敷｣とも呼ばれている。
　現在、本丸部分は駐車場になっているが、北側に石垣や土塁,堀などの遺構を見ることができる(築城当初とは形は異なる)。
　1977(昭和52)年、江戸時代頃に建築された林氏屋敷の母屋が火事により焼失。本丸の脇に林金兵衛の屋敷跡の石碑が2つ建立されている。