W początkach istnienia zespołu Cain wspominał, że było wiele grup, które były ich inspiracjami, jak The Strokes czy Yeah Yeah Yeahs. W 2001 roku grupa przeprowadziła się do Nowego Jorku, a w międzyczasie perkusistę i wokalistę Scotta Lamba zastąpił Michael Tapper. W kwietniu 2002 roku wydali oni swoją pierwszą kompilację – , która ukazała się za pośrednictwem ich własnej wytwórni Devious Semantics. Wydali też trzy minialbumy: Bitchin’, i The Wolf’s Hour.
17 października 2005 roku ukazał się ich debiutancki album studyjny , wydany w Wielkiej Brytanii przez wytwórnię Virgin Records. Osiągnął on 43. lokatę na brytyjskiej liście notowań, a w 2006 roku BPI nadała albumowi złoty status. Dwadzieścia miesięcy trasy koncertowej zakończyło się wyprzedaną trasą po Wielkiej Brytanii, obejmującą dwa wieczory w Brixton Academy jesienią 2006 roku.
W 2007 roku zespół skupił się na pisaniu i nagrywaniu swojego drugiego albumu – , a jeszcze w tym samym roku, na jesieni z We Are Scientists odszedł perkusista Michael Tapper. Album został wydany w marcu 2008 roku i podobnie jak z poprzednim także i on zyskał popularność w Wielkiej Brytanii, gdzie zadebiutował na 11. miejscu listy.