1586(天正14)年、浅野長吉(後の長政)によって築かれた。築城に際しては坂本城の部材が転用され、坂本の住民も多くが大津へ移住したという。 その後、立て続けに城主がかわり、1589(天正17)年に増田長盛、1591(天正19)年に新庄直頼、15958(文禄4)年には京極高次が城主となったようである。
　1600(慶長5)年、関ヶ原の戦いの直前に京極高次の籠る大津城を毛利元康が攻め、激しい戦いが繰り広げられ、あとは本丸を残すまで攻め込まれた9月14日に降伏開城した。高次は園城寺に入り、剃髪して高野山に上ったが、西軍1万5000を大津城に釘付けにした功績は大きく、戦後、徳川家康は高次を召しだし、若狭小浜城8万2000石に加増転封させている。高次のあと、戸田一西が城主となっているが、1601(慶長6）年には大津城は廃城となり、新たに膳所城が築かれ、大津城の部材は膳所城と彦根城に転用された。現存している彦根城の天守はこの大津城の天守を移築したといわれ、もともと五層四重であった天守を移築に際して三重三階に切り詰めたという。
　当時は琵琶湖に浮かぶ水城であったといわれるが、現在は完全に市街地となり、遺構を見ることはできない。ただ発掘調査によって大津城の石垣が発見され、今でも地下にはいくつかの遺構が残っている。