Czwartym singlem był utwór „” – wersja na płycie siedmiocalowej zawierała cover utworu „Everything Is Average Sometimes” w wykonaniu . W październiku 2007 roku Kaiser Chiefs wykonał cover utworu „” zespołu The Move jako utwór otwierający album kompilacyjny z coverami z okazji 40. rocznicy uruchomienia BBC Radio 1. Oryginalna piosenka grupy The Move była pierwszą wyemitowaną w stacji po jej uruchomieniu.
W grudniu 2007 roku zespół Kaiser Chiefs zagrał dwa wyprzedane koncerty w Earl’s Court w Londynie przed publicznością liczącą 30 tys. osób.
Off with Their Heads (2008–2009) lewo|mały|Kaiser Chiefs na festiwalu Rock for People 2008 w Czechach
4 sierpnia 2008 roku zespół potwierdził nazwę swojego trzeciego albumu – Off with Their Heads Został on wydany 20 października 2008 roku, a gościnnie wystąpili na nim: raper grime (gościnny wokal w piosence „Half The Truth”), kompozytor David Arnold, producent Mark Ronson (gra na agogo w utworze „Addicted To Drugs”) oraz piosenkarka popowa Lily Allen (gościnny wokal w piosenkach „Never Miss A Beat” i „Always Happens Like That”). Pierwszy singel „” ukazał się 27 sierpnia 2008 roku, a drugi „” 15 grudnia tego samego roku.