Two Lefts Don't Make a Right... but Three Do (2003) Relient K wydali w 2003 roku album Two Lefts Don't Make a Right... but Three Do. Album ma kilka alternatywnych okładek, w różnych kolorach, każda z nich przedstawia jakiś wrak maszyny. Płyta (nazywana w skrócie „Two Lefts”) jest połączeniem delikatnych piosnek z przesłaniem z Anatomy... oraz tych szybkich. Album otrzymał nominację do Grammy w kategorii „Najlepszy Rock Gospel Album” oraz otrzymał nagrodę Dove za „Najlepszy Rockowy Album Roku 2004”.
W tym czasie zespół wydał limitowaną edycję winylową – The Vinyl Countdown. EP zawiera dwie wersje singla „Five Iron Frenzy is Either Dead or Dying.” Dzieło zostało zadedykowane przyjacielowi Matta Thiessena, Jessemu Alkire'owi, który był pomysłodawcą EP-a.
W listopadzie i grudniu 2003 roku możliwe było kupienie „Two lefts” wraz ze świąteczną składanką Deck the Halls, Bruise Your Hand.
MMHMM (2004 – 2006) Pod koniec 2004 roku grupa wydała swój czwarty studyjny krążek. Krytycy zauważyli, że Relient K „dojrzeli” i porzucili „dziecinne i głupie” piosenki w stylu „Marilyn Manson Ate My Girlfriend”. Na nowej płycie zespół eksperymentował z nowymi brzmieniami, głównie hardcore punkiem.