885(仁和元)年、この地の豪族･飯高宿禰諸氏が内外の近親等に勧進して建立したと伝えられる。以来、飯野，多気，度会の豪族が田地を寄進した。古くは丹生山光明寺と号したという。
　本尊は平安後期に作られた木造十一面観音立像(像高6.6ｍ)で、弘法大師の師である勤操の尽力により安置されたと伝わり、大和の長谷寺，鎌倉の長谷寺の本尊と共に一本の木で三体刻まれたともいい、日本三観音のひとつといわれている。更に、右手に数珠をかけ錫杖をそえる姿は日本唯一のものである。同寺所蔵の『近長谷寺資財帳』には像高のほか、御面長から手長に至る13の各部位の大きさが詳細に記されている。木造十一面観音立像および『近長谷寺資財帳』はともに国の重要文化財となっている。
　創建者の飯高氏の勢力の後退に伴い、寺勢も衰えたが、永正年間(1504～20年)の頃、真海僧都が同寺の復興に務め、1575(天正3)年に織田信雄から、その後、蒲生氏郷，牧村利貞などから寺領の寄進を受け、山内に七坊の末寺を有するまでに回復した。さらに二世の政尊は、田丸城主の稲葉道通，津城主の藤堂高虎から寺領5石の寄進を受け、また、1648(慶安元)年には梵鐘の鋳造、鐘楼の建立に奔走するなど、中興と称された。
　1661(寛文元)年、参詣した紀州藩の前藩主･徳川頼宣が本堂の再興を命じ、建立途中、木工の仮小屋からの出火があったが、快養僧都が一心に本尊を念じ、本堂の焼失を免れることができたという。1663(寛文3)年、落成した。また、1690(元禄3)年8月には、大雨により堂後ろの山が崩れて本堂が損壊したが、本尊は難を逃れている。その後、1692(元禄5)年には、もともと尾根下の谷筋にあった境内を現在の尾根上に移し、1694(元禄7)年、現在に残る本堂が快舜によって再建された(なお、現在の屋根は昭和に入り改修されたもの)。この頃、寺名が近長谷寺と改称されたという。
　また、客殿に祀られている大日如来座像は、創建当初の光明寺と称されたときの本尊で、像高94cm、平安中期の作とされ町の文化財に指定されている。
　なお、寺の北東の山頂には近津長谷城跡がある(寺の右奥に登り口がある)。