1245(寛元3)年、前関白･九条道家が長島に流されているときに館を築いたことにさかのぼる。1482(文明14)年、北勢四十八家の一人、伊藤重晴によって城が再建されたが、1570(元亀元)年、一向宗・願証寺の住職･証意(蓮淳の曽孫)によって伊藤氏一族が追放され、さらに矢田城の滝川一益を追って、織田信長の弟･興長を自刃させ、長島一向一揆の拠点となった。
　1571(元亀2)年、織田信長は大軍をもって長島城を攻めるが落とせず、退陣で殿を勤めた氏家卜全が討死した。1574(天正2)年、三度目の長島城攻略によって落とすと、滝川一益を城主として北伊勢を領した。
　1583(天正11)年、柴田勝家に味方していた滝川一益は、勝家が秀吉によって滅ぼされると所領を没収された。その後、織田信雄の居城となるが、1586(天正14)年の天正地震で天守が倒壊するなど甚大な被害を受けたため、信雄は清洲城に移った。
　江戸時代に入ると、菅沼定仍が2万石で当地に封じられ、長島城を改修し藩庁として用いたが、1621(元和7)年、菅沼氏が近江国膳所に移封されると、長島藩は廃藩となり、長島城も一時廃城となった。1649(慶安2)年、久松松平家の松平康尚が那須藩より1万石をもって入り、長島藩が再興された。1702(元禄15)年には、4代将軍･家綱の生母の弟･増山正利の子の正弥が常陸下館より2万石で移され、以後、8代続き明治維新に至った。この間に城郭は順次拡大されたが、天守は上げられなかった。1872(明治5)年、廃藩置県とともに廃城となった。
　現在、城跡は長島中部小学校，長島中学校の敷地となり、遺構の大半は失われたが、東側に石垣および堀が残る。建造物としては、大手門が蓮生寺に、奥書院が深行寺に、それぞれ移築され現存する。また、長島中部小学校内に、桑名市指定天然記念物の｢大松｣がある。この大松は本丸の西南隅にあったもので、樹齢三百数十年のクロマツである。