1585(天正13)年、大和郡山城から移封された筒井定次によって築城された。この地にはもともと天正伊賀の乱で焼け落ちた平楽寺(平清盛の発願によって建立),仁木古館があった。筒井期の縄張りは、高丘の頂上を本丸とし城代屋敷の北東隅に三重の天守を設け、本丸の西に二ノ丸、北の山下に三の丸を配し、大手を三の丸の北谷口とした。
　関ヶ原の戦いでは、定次は徳川家康方につき会津征伐に参戦し、上野城は筒井玄蕃が留守居役となったが、上野城を西軍の摂津高槻城主の新庄直頼,直定父子に攻撃された際、玄蕃は戦わず城を明け渡し高野山に逃亡した。定次は直ちに軍を引き返して城を再奪取し事なきを得た。関ヶ原の戦い後、定次は本領安堵され伊賀上野藩を立藩したが、大坂城近郊に豊臣恩顧の大名を配することを危険視した家康は、定次の不行状や失策の多さを理由に1608(慶長13)年6月に領地没収した。
　代わって家康からの信頼が厚い藤堂高虎が伊予今治から移封され、津城に入り上野城には城代を置いて治めさせた。さらに高虎は、大坂を守る城から大坂に対峙する城へと大規模な改修を進めた。1611(慶長16)年正月、大手を北から南に変え、本丸拡張や高石垣等で大坂に備えた西側の防備力を強化した。1612(慶長17)年9月2日、建設中の五層の天守閣が大暴風で倒壊したが、1614(慶長19)年の大坂冬の陣とその翌年の夏の陣で豊臣氏が滅亡したため城普請は中止され、天守閣が再建されないまま伊賀国の城として認められた。その後は藤堂高清(高虎の弟),藤堂元則と最後の藤堂高猷まで藤堂氏の城代家老が藩政に携わり、幕末まで国替えされることなく、この地を治めた。
　明治になり廃城令によって、石垣上の構造物の多くが取り壊された。現在の天守閣は、1935(昭和10)年、地元選出の代議士である川崎克が私財を投じて復興させた模擬天守である。