若い頃より大学寮で学び、『史記』や『漢書』を非常によく読んだ。
　弘仁5年(814年)皇太子・大伴親王(のち淳和天皇)が南池を訪問して文人に詩賦を命じた際、春宮大進であった長谷麻呂は昇叙されて従五位下に叙爵した。のち、民部少輔･右少弁を経て、弘仁11年(820年)従五位上、弘仁13年(822年)正五位下、弘仁14年(823年)従四位下と嵯峨朝末に急速に昇進する。
　淳和天皇の即位後まもない弘仁14年(823年)6月には蔵人頭に任ぜられて左中弁を兼ねるなど重用される。しかし、のち病に伏し、翌天長元年(824年)2月9日卒去。享年46。最終官位は弾正大弼従四位下。
　穏やかで優しい性格で、世人の心情に逆らうことはなく、物事を決定する際に法に違うことがなかった。酒を思う存分飲んで憂さを晴らすようなところもあった。

　摂政,関白,太政大臣を務めた藤原頼通の次男として生まれるが、頼通の正室･隆姫女王の嫉妬心のために、讃岐守･橘俊遠の養子とされる。『今鏡』によると、俊綱の母･祇子は俊綱を懐妊したのちに橘俊遠の室となったが、懐妊がはっきりしない頃であったため、俊綱をそのまま俊遠の子としたともいう。実際には、以降も祇子は頼通の子を儲けているため、隆姫への配慮のために、懐妊した祇子と俊遠を形式的に夫婦としたとも考えられる。
　後冷泉朝にて越前権守,尾張守を経て、天喜4年(1056年)従四位下に叙せられる。その後も、丹波守,播磨守,讃岐守と上国の国司を歴任する。このような順調な受領生活を可能としたのは、実父・頼通の庇護が大きく影響していたためと考えられる。
　延久6年(1074年)頼通が没するが、それまでの長い受領生活の間に蓄積した莫大な財力を背景としながらも、俊綱の妻の兄弟である源隆俊の孫娘・藤原賢子は白河天皇に入内して同年に中宮に冊立されるなど、自らの血縁関係を巧みに利用ながら白河天皇の後宮に力を延ばしていたらしく、承保4年(1077年)には大国の近江守に任ぜられている。
　その後、承保3年(1076年)内蔵頭、承暦2年(1078年)修理大夫と京官も務めるが、いずれも大規模な財政基盤を要する官司であり、俊綱の財力が見込まれてこれらの補任が行われた様子が窺われる。
　寛治7年12月(1094年1月)に自ら造営を手がけた別邸･伏見山荘が焼亡すると、約半年後の翌寛治8年(1094年)6月頃重病により出家し、7月14日に卒去。享年67。最終官位は正四位上修理大夫兼近江守。