Walcząc z coraz popularniejszym przeświadczeniem, że „Numan się skończył”, Gary zaczął wydawać płyty i single pod szyldem własnej wytwórni – Numa Records. Pierwszym albumem przez nią wydanym był Berserker z 1984 roku. Był to też pierwszy flirt Numana z samplerami i komputerami. Na krążku znalazły się mocniejsze basy i perkusja niż na I, Assassin czy Warriors. Płycie towarzyszył charakterystyczny image o biało-niebieskiej kolorystyce, trasa koncertowa i koncertowa płyta oraz video, lecz podzieliła ona zarówno krytyków, jak i fanów. Był to najmniej udany pod względem komercyjnym album Numana jak na tamte czasy. Wydana rok później The Fury radziła już sobie w rankingach sprzedaży nieco lepiej – po raz kolejny przynosząc również nowy wizerunek artysty: tym razem biały garnitur i czerwony krawat – lecz również dość szybko z nich spadła.