室町時代初期、鎌倉公方に仕えていた大森頼春が1416(応永23)年の上杉禅秀の乱で功績を挙げ、禅秀方の土肥氏を滅ぼし、相模,伊豆に勢力を広げて築いた城郭が前身とされる。当時から後北条氏時代までの城(詰城)があったのが八幡山古郭といわれる範囲である。
　一方、駿河から伊豆へと勢力を伸ばしてきた伊勢盛時(伊勢宗瑞,北条早雲)は、大森藤頼(頼春の孫)に近づき、盛時を信頼し油断したところを攻めて小田原城を奪取したという。通説では1495(明応4)年とされるが不明な点もあり、それ以後の1501(文亀元)年までの間と考えられている。
　ただし、伊勢氏(後北条氏)が小田原城を拠点としたのは、盛時の息子の伊勢氏綱(後の北条氏綱)が最初とされ、氏綱が家督を継いだ1518(永正15)年もしくは早雲死去後の1519(永正16)年の後とみられている。その後、戦国大名北条氏の5代にわたる居城として、南関東における政治的中心地となった。
　小田原城はこの地方の特徴である関東ローム層の粘土質から成る滑りやすい土壌から成り、城壁をよじ登ることは不可能だったため石垣の城を造る必要性がなかったともいわれる。城(八幡山古郭)は東から、東曲輪，本曲輪，西曲輪，藤原平，毒榎平と連なる連郭式の構造で、本曲輪の南側に南曲輪、西曲輪の北側に鍛冶曲輪を置いて守りを固めていた。現在の天守閣のある平地部には居館があったとされる。
　1561(永禄4)年、上杉謙信が越後から侵攻し、小田原城の戦いとなる。上杉軍は大軍勢で小田原城を包囲したが、籠城した北条勢が防ぎ切ったと伝えられている。
　1568(永禄11)年には甲斐国の武田信玄が駿河今川領国への侵攻を開始し(駿河侵攻)、後北条氏は越後上杉氏との越相同盟を結んで武田方に対抗した。さらに武田軍は翌1569(永禄12)年に後北条領国へ侵攻し、小田原城を包囲する軍事的示威活動を行い、撤退に際して追尾した後北条勢を三増峠の戦いにおいて撃退した。
　この信玄の来攻以降、小田原城の未曾有の大改修が始まったとされるが、年代と普請内容については不明な点が多い。1590(天正18)年の豊臣秀吉が天下統一の最後の仕上げとする小田原征伐(小田原合戦,小田原の役)までには城と城下を囲む総延長9kmに及ぶ総構が構築された。しかし、豊臣軍の圧倒的な軍事力の前に、7月5日、北条氏政，氏照と宿老の松田憲秀，大道寺政繁の切腹をもって降伏,開城となる(大規模な軍事衝突は起こっていない)。7月13日に秀吉が小田原城に入り、この日には徳川家康の関東移封が公表された。
　現在は東曲輪が一部史跡公園となっているが、本曲輪とその北側、及び南曲輪は住宅地である。西曲輪，藤原平は現在の小田原高校で、鍛冶曲輪は庭球場、毒榎平は貯水池及び城山公園となっている。なお、壮大な総構は、1614(慶長19)年に徳川家康によって大部分が撤去させている。