鎌倉時代、近江守護職であった佐々木定綱の六男・佐保時綱が築いた砦が始まりとされる。六角政頼ら六角氏時代には犬上郡を支配し、応仁の乱の後、家臣の小川左近大夫,小川伯耆守を城主として置いた。しかし、戦国時代後半には六角氏勢力は衰退し、浅井氏が伸張した。佐和山城もその支配に入って、城は磯野員吉に引き渡され、小谷城の支城の1つとなった。元亀年間には磯野員昌が織田信長らと8ヶ月におよぶ戦闘を繰り広げた。しかし、1571(元亀2)年2月に員昌は降伏し、代わって織田氏家臣の丹羽長秀が入城する。
　1582(天正10)年6月の本能寺の変の後に行われた清洲会議では、明智光秀討伐に功があった堀秀政に与えられ、秀政は翌年に入城した。また、堀秀政の留守中は弟の多賀秀種が城代を務めた。1585(天正13)年には、堀家に替わり堀尾吉晴が入城。さらに、1591(天正19)年4月に石田三成が入城したとされる｡
　三成は、当時荒廃していた佐和山城に大改修を行って山頂に五層(三層説あり)の天守が高くそびえたつほどの近世城郭を築く。ただし、実際に城を任されていたのは父の正継であり、城内の造りは極めて質素で、城の居間なども板張り、壁はあら壁のままであった。後年、陥落した際も佐和山城には金銀が少しもなく、三成は殆んど蓄えを持っていなかったことが知られている。
　1600(慶長5)年9月15日の関ヶ原の戦い後、徳川家康は小早川秀秋軍を先鋒として佐和山城を攻撃した。しかし、同月18日、奮戦空しく落城し、父の正継や正澄,皎月院(三成の妻)など一族は戦死あるいは自害して果てた。江戸時代の『石田軍記』では佐和山城は炎上したとされてきたが、本丸や西の丸に散乱する瓦には焼失した痕跡が認められず、また落城の翌年には井伊直政がすぐに入城しているため、落城というよりは開城に近いのではないかと想像される。
　石田氏滅亡の後、井伊直政がこの地に封ぜられ入城した。井伊家がこのまま佐和山城を利用すると、領民は井伊家が石田家を継承したような錯覚を抱き、領民達の前領主への思慕を断ち切ることができないことから、新たに彦根城築城を計画した。計画は嫡子の直継が引き継ぎ、大津城,佐和山城,小谷城,観音寺城などの築材を利用しつつ、天下普請によって彦根城を完成させている。1606(慶長11)年、完成した彦根城天守に直継が移ったことにともない、佐和山城は廃城となった。
　佐和山城の山上には本丸を中心として西ノ丸,二ノ丸,三ノ丸があり、また隣接する尾根に太鼓丸,法華丸の2つの曲輪があった。しかし、彦根城へ移築されたもののほかは徹底的に城割されたため、城址には何も残っていない。特に、本丸の天守台では15m前後を切り落としたと伝えられて、本丸自体も岩盤が露出するまで破壊され、石垣も殆ど撤去された。それでも石垣の一部,土塁,堀,曲輪,千貫井戸跡や西ノ丸にある焔硝櫓跡,塩櫓跡などは一部が現存している。