Po kilku latach pracy w charakterze niższego urzędnika nadzoru budowlanego w Bawarii oraz wolnego architekta w Berlinie przenosi się w roku 1925 do Wrocławia, gdzie otrzymał posadę radcy budowlanego okręgowej dyrekcji poczty w prowincji śląskiej. We Wrocławiu pracował niemalże do końca II wojny światowej. Jego praca na stanowisku radcy budowlanego wiązała się z projektowaniem najważniejszych obiektów jakie planował wybudować zarząd poczty w okręgu wrocławskim. Opiniował i zatwierdzał także projekty innych architektów. Najważniejszym dziełem, jakie wykonał w stolicy prowincji śląskiej, a zarazem najważniejszym dziełem jego życia był budynek poczty czekowej przy ul. Krasińskiego. Wielki gmach w centrum miasta o długości 142 m z wieżą wysokości 43 m jest ucieleśnieniem idei byłego miejskiego radcy budowlanego Maksa Berga planującego kilka lat wcześniej budowę drapaczy chmur w centrum miasta, jest też do dziś jednym z najbardziej wyrazistych przykładów międzywojennego ekspresjonizmu we Wrocławiu.
Neumann opuścił Wrocław tuż przed końcem wojny i wyjechał na zachód Rzeszy, gdzie trafił do niewoli amerykańskiej.