Formada em 1983, a banda inicialmente era composta apenas pelo vocalista Paul Heaton e pelo guitarrista Stan Cullimore. Foi como uma dupla que eles resolveram gravar uma fita demo, que chamou a atenção de uma pequena gravadora, e ao assinarem o contrato, convidaram o baixista Ted Key e o baterista Justin Patrick para integrar a banda.

Patrick foi substituído em pouco tempo por Chris Lang e o The Housemartins passaram a se auto-intitular a "quarta melhor banda de Hull", cidade natal dos integrantes. Outras mudanças aconteceram ao longo dos dois anos seguintes, e em 1985, com uma formação que trazia Paul Heaton, Stan Cullimore, Hugh Whitaker e Norman Cook, gravaram o single “Happy Hour”, responsável pelo sucesso mundial do The Housemartins. A música alcançou o terceiro lugar nas paradas britânicas e o álbum “London 0 Hull 4”, que trazia a faixa, alcançou a mesma posição.

O trabalho vendeu mais de um milhão de cópias e o segundo single, "Caravan of Love", gravado a capella, deu ao Housemartins o primeiro e único número ‘um’ da banda. O sucesso fez a o grupo ser considerado em 1987 a “melhor banda jovem” da Inglaterra. Ao voltar ao estúdio, produziram os singles "Five Get Over Excited", outro sucesso de público e crítica, e “Build”, ambos presentes em “The People Who Grinned Themselves to Death”. O disco ganhou esse nome em referência a Família Real Britânica, o que gerou polêmica nos jornais e tablóides britânicos. Mas os problemas começaram a aparecer entre os integrantes, que discordavam com que rumo o Housemartins tomaria.

Enquanto Paul queria dar mais ênfase nos arranjos vocais, Norman brigava para colocar músicas mais experimentais nos shows e Stan queria destaque nas guitarras. Após Paul começar a tomar atitudes sem ouvir a opinião dos companheiros de banda, os músicos optaram por encerrar as atividades do The Housemartins e resolveram se dedicar à carreira solo. Como despedida, foi lançada a coletânea “Now That's What I Call Quite Good”.