Po sezonie 1977/78 trafił do 2 ligi, gdzie w barwach FC Union Solingen z powodu częstych kontuzji zagrał tylko w dwóch spotkaniach. W wieku 34 lat trafił do 2 ligowego zespołu z Bremy – Werderu. W klubie znad Morza Północnego zdobył 29 bramek w 42 spotkaniach i walnie przyczynił się do awansu do Bundesligi. Erwin w 1 lidze zagrał jeszcze w 33 spotkaniach i zdobył 9 bramek, jednak wobec konkurencji ze strony Norberta Meiera i Uwe Reindersa, a także 36 lat na karku odszedł do 2 ligowego VfL Osnabrück. To był ostatni rok jego kariery, zdobył w 28 spotkaniach 12 bramek. Ogółem w 2 Bundeslidze zagrał w 72 meczach i zdobył 41 bramek, zaś na pierwszoligowych boiskach zagrał w 219 spotkaniach, strzelając 98 bramek.
Kariera reprezentacyjna W reprezentacji Niemiec Erwin Kostedde rozegrał 3 spotkania w 1974 i 1975 roku. Był pierwszym czarnoskórym reprezentantem tego kraju. Debiut zaliczył w spotkaniu z Maltą (22 grudnia 1974 roku), wygranym 1–0 przez zespół zachodnioniemiecki.
Problemy karne Po zakończeniu kariery piłkarskiej Kostedde stracił swój majątek w wyniku nieudanych inwestycji.