『尊卑分脈』によると、実父は藤原秀郷流の嫡流とも言える佐藤義清(西行)の兄弟･佐藤仲清で、後藤実基の養子となった。
源頼朝に仕え、元暦2年(1185年)の屋島の戦いに参加。同年、頼朝の許しを得ずに官位を得たことで、頼朝に｢目は鼠眼にて、ただ候ふべきのところ、任官希有なり｣と罵倒されている。建久元年(1190年)に頼朝が上洛した際、右近衛大将拝賀の布衣侍7人の内に選ばれて参院の供奉をした。京都守護･一条能保の家人でもあり、在京御家人として活躍するが、正治元年(1199年)の三左衛門事件で源通親への襲撃を企てたとして讃岐国守護を解任される。その後、後鳥羽上皇との関係を深め、西面武士･検非違使となる。建保年間(1213～19年)から播磨国守護となる。承久3年(1221年)の承久の乱では後鳥羽上皇方につき、敗北。その後、幕府方についた子の基綱に処刑された。

　文官に近い実務官僚としてであり、また歌人としても有名で、『新勅撰和歌集』には2首、続後撰集には3首、続古今集には1首、続拾遺集には1首、新続古今集には１首選ばれている。『十訓抄』の著者説もある。
　承久の乱では軍奉行を務めたと見られ、後鳥羽上皇方に付いた父･基清を幕府の命令により斬首した。その後、嘉禄元年(1225年)に設置された評定衆の一員となり、恩賞奉行や地奉行となっている。その後藤基綱が記した記録は、かなりの量が『吾妻鏡』に利用されていると見られる。恩賞奉行として4代将軍･藤原頼経の側近でもあったためか、寛元4年(1246年)6月7日、宮騒動によって評定衆を解かれ頼経とともに京に同行。その6年後に引付衆として返り咲くが既に72歳の高齢に達しており、後藤氏の名誉回復に近いものであったとも見られる。
　その子･後藤基政は引付衆から六波羅評定衆となり、以降、後藤氏は六波羅評定衆を世襲する。