当初は肝付氏庶流･荻原氏（肝付氏初代肝付兼俊の弟･荻原兼任の子孫か）の家督を継いでいたが､兄で7代当主･兼尚が鎌倉に詰めていたため､兄の代理として領地経営を行い､やがて本家の家督も相続した。
　建武2年(1335年)末から南朝に与して各地を転戦。野辺盛忠や伊集院忠国らと共に､九州における南朝勢力の拡大に貢献した。正平4年/貞和5年(1349年)、北朝側の石井中務丞重信を攻めたが､まもなく病死した。明治45年(1912年)に従四位を追贈された。

　薩摩国の島津氏とは縁戚関係を結んでいたが､大永4年(1524年)､島津氏の分家である豊州家の岳父・島津忠朝から同族北原氏の居城であった大隅の串良城を奪還した。その後､居城を高山城に移し､島津氏と幾度も抗争して勢力拡大に努めたが､天文2年(1533年)に死去。享年42。
死後､子･兼続と兼興の弟･兼親(兼執)の間で家督争いが起こり､兼続が勝利し相続する。　

　天文2年(1533年)､叔父の兼親(兼執)を滅ぼして家督を継ぐ。兼続は隣国の島津氏との関係を重視し､島津忠良の長女･御南を妻として迎える一方で､妹を忠良の子･島津貴久に嫁がせて良好な関係を保とうとした。一方で天文7年(1538年)には高岳城を落とし大隅をほぼ平定した。天文22年(1553年)､嫡男･良兼に家督を譲って隠居し出家したが実権は握り続けた。
　永禄元年(1558年)､それまでの島津氏との関係が崩れて､兼続は日向の伊東氏と結んで島津忠親と戦った。永禄4年(1561年)には廻城を奪取して島津貴久と本格的に敵対し、竹原山の戦いで貴久の弟･忠将を討ち取って大勝した。
　永禄5年(1562年)には志布志城を落とすなど肝付氏の最大領土を形成したが､永禄9年(1566年)11月14日､島津貴久の反攻を受けて居城である高山城が落とされる。一説には隠居城の志布志付近で翌11月15日に自殺した(確証はない)とされる。享年56。　　

　元亀2年(1571年)､異母兄･良兼の死去により､亡父の正室･御南や兄･良兼の正室である高城の意向を受け､良兼の次女を正室に迎え家督を継ぐ。しかし､元亀4年(1573年)､島津氏方の北郷時久と戦って敗れたうえ､伊地知重興,禰寝重良などが相次いで離反して島津氏に降ったため､これまで互角以上に渡り合った島津氏との立場は一変､天正2年(1574年)､島津氏に従属した。
　しかし､日向国の伊東氏と通じた上､夫婦仲が悪かったことで御南や高城に正室と離縁させられ､日向に追放された。寛永11年(1634年)死去。　

　父の死後､9歳で家督を相続する。慶長15年(1611年)､島津家久が琉球王の尚寧を連れ上洛した際､兼幸も島津氏家臣として同行する。この帰路の途中に乗船が暴風雨に遭い難破､兼幸は溺死した。享年20。
　当時兼幸は妻を娶っておらず嗣子もいなかった。兄弟も無かったため､肝付本家の血統は兼幸の死によって断絶することとなった。
　のち､兼幸の母･税所篤弘の長女が島津家久の娘･菊姫(島津久慶室)に仕えた功績により､肝付家の家名再興を許されることになったが､後継者は肝付氏とは遠縁の新納忠秀の子(新納氏は兼幸の母方の祖母の実家)･兼康が迎えられたため､実質的に兼幸で肝付家の本家は血統上の終焉を迎えたともいえる。
　その後の肝付家は､100石取りの薩摩藩士として存続した。