Wydana w 2004 roku kompilacja „The Best of The Housemartins” zawierała dodatkową płytę DVD z teledyskami do ośmiu przebojów zespołu, w tym „Sheep”, „Happy Hour”, „Think for a Minute”, „Caravan of Love”, „Five Get Over Excited”, „Build”, „Me and the Farmer” i „There Is Always Something There to Remind Me”, wszystkie opatrzone wstępami zespołu.