Debiutancki album "Celldweller" stworzony z pomocą producenta Granta Mohrmana ujrzał światło dzienne w 2003 roku, a rok później stał się zwycięzcą siedmiu nagród na Just Plain Folks Music Awards, wygrywając w kategoriach albumu roku, producenta roku, industrialnego albumu roku, metalowego utworu roku (One Good Reason), najlepszego industrialno-rockowego utworu (Switchback), najlepszego industrialnego utworu (Stay With Me (Unlikely)), a także najlepszego rockowego utworu (I Believe You). W tym samym roku Klayton wypuścił dwupłytowy album nazwany "The Beta Cessions" zawierający, reedycje piosenek, remixy, wersje demo wielu utworów z albumu "Celldweller", a także jego wersję instrumentalną. W 2008 roku ukazał się album zatytułowany "Soundtrack for the Voices in My Head Vol. 1", który stanowił kolekcję krótkich, instrumentalnych kompozycji, a także wybrane, odświeżone wersje kilku piosenek w wersjach demo. Prace nad następnym albumem zaczęły się już w 2004 roku, a zakończyły się w roku 2012. W 2009 roku ujawniono nazwę nowego albumu, a brzmiała ona "Wish Upon a Blackstar". Miał on być podzielony na rozdziały, a każdy z nich składać się miał z dwóch utworów. W podobny sposób wydano również kolejny album "Soundtrack for the Voices in My Head Vol. 2", składający się z dzieł w stylu muzyki ambient.