Kernen i gruppen, guitaristen Dan Taylor og sanger Kelvin Swaby, blev venner i 1990, da de fæstnede over vintage R & B og Jim Jarmusch-film. De øvrige medlemmer af bandet er trommeslager Chris ELLUL, bassist Spencer Side, og keyboardspilleren Hannah Collins.
Efter at have udgivet to singler i efteråret 2007, udgav The Heavy deres første LP Great Vengeance og Furious Fire den 17. september 2007 i Storbritannien og 8. april 2008 i USA. "Det Kind of Man", deres første single fra albummet, blev indspillet på Alpha's studio og udgivet på Alpha's pladeselskab Don't Touch Optagelser før Ninja Tune hørte det og straks underskrevet dem.
Den 2 oktober 2009 deres andet album The House That Built Dirt blev frigivet af Ninja Tune. -L-