lokatę.
Sezon 2003/2004 rozpoczął od 58. miejsca w Ruce, po czym został odesłany do Pucharu Kontynentalnego, ale i tam nie notował dobrych rezultatów, wobec czego do Pucharu Świata w tamtym sezonie już nie powrócił. Przełom nastąpił podczas Letniego Grand Prix 2004. Pięć razy znalazł się w pierwszej dziesiątce zawodów i zimą 2004/2005 ponownie znalazł się w pierwszej reprezentacji. Podczas mistrzostw świata w Oberstdorfie wspólnie z Martinem Schmittem, Michaelem Uhrmannem i Georgiem Späthem zdobył srebrny medal w konkursie drużynowym na normalnej skoczni. W konkursie indywidualnym na tym samym obiekcie zajął 32. miejsce. Na dużej skoczni nie startował. W całym sezonie 20 razy zdobywał punkty. Najlepsze miejsce – 9. – zajął na zakończenie sezonu w Planicy. W konkursie, w którym rekord świata (239 metrów) ustanowił Norweg Bjørn Einar Romøren, Neumayer ustanowił rekord Niemiec, skacząc w drugiej serii 227,5 metra. Rywalizację w sezonie 2004/2005 ukończył na 22. pozycji.
W sezonie 2005/2006 regularnie punktował i znów najlepszą lokatą była 9. – w Willingen. Na koniec sezonu był 24. Na początku sezonu 2006/2007 zajął 5. lokatę w Ruce, ale później doznał kontuzji, która wykluczyła go z dalszych startów tamtej zimy. W efekcie, sezon ukończył na 50. miejscu.