聖武天皇が741(天平13)年に発した｢国分寺建立の詔｣により、 国分尼寺とともに当時流行していた疫病や天災,内乱を仏教の力で鎮めることを目的として全国60数ヶ所に建立された。大之浦(磐田湖)に臨む台地上に、国分寺は国府の北方に、国分寺の北方には国分尼寺が建てられた。
　1951(昭和26)年9月に発掘調査が行われ、国分寺としては全国で初めて建物の配置が明らかとなり、翌年には国の特別史跡に指定された。伽藍の規模は東西180m,南北250mに及び、金堂を中心に北側に講堂、南側に中門が配置され、金堂より複廊の廻廊が通じ中門に及ぶ。中門の南側に南大門、金堂と中門をめぐる回廊の西外側に塔があったことがわかっている。塔は七重塔で礎石が残っており、その後の発掘では｢塔本塑像｣と呼ばれる粘土で作られた仏像の頭部も発見されている。そのほか、建築跡付近からは奈良時代に属する多数の鐙瓦,宇瓦等が発見されている。
　中世になると国分寺は衰退し廃寺となり、国分寺の一隅に堂が建てられた。