平安時代末期の武将で横山党を率いた。源頼朝に味方して鎌倉幕府の創設に尽力し、1182年、北条政子が源頼家を産むと、梶原景時ら有力御家人と共に御護刀を献じた。1190年、源頼朝が上洛した際にも従い右馬允に任官した。1200年8月、佐々木経高が失脚すると、そのあと、淡路国守護となる。
　1213年5月2日、和田合戦では、親戚である和田義盛に全面的に味方し、3000騎の大軍にて横山党を率いて鎌倉へ出陣したが、大軍ゆえに予定の時間より遅れ、3日早朝に鎌倉への入口の腰越に到着した。また、三浦義村が鎌倉勢(北条義時)に寝返ったことで計画が狂う。横山党も愛甲季隆,愛甲義久兄弟など、31人の名のある武将が討死した。
和田合戦で敗戦を悟った横山時兼は、和田常盛(和田義盛の嫡男),和田朝盛,岡崎実忠,古郡保忠,山内政宣らと正面突破して鎌倉から離脱し、横山時兼と和田常盛(妻は横山時兼の妹)は、2人で甲斐国都留郡まで逃れた。そして、1213年5月4日、波加利荘の坂東山償原別所(笹子峠付近か？)で、自刃して果た。享年61。横山党で、甲斐国古郡(上野原町)の古郡保忠･古郡経忠の兄弟も所領の板東山波加利之東競石郷二木にて自害した。
　横山党は滅亡し、横山党の一族の広大な所領は没収されると、和田合戦で活躍した大江広元(66歳)らに与えられた。横山時兼の首は固瀬河辺に晒されたという。