Kariera 9 listopada 1914 Erich von Zelewski, w wieku 15 lat, wstąpił na ochotnika do wojska pruskiego. Walczył na froncie I wojny światowej, kolejno w 176 pułku piechoty, a następnie w 10 pułku grenadierów śląskich. Był dwukrotnie ranny, otrzymując Żelazny Krzyż I oraz II klasy, oraz liczne odznaczenia za odwagę. W 1916, w wieku 17 lat, uzyskał stopień podporucznika. Po zakończeniu wojny służył we Freikorpsie i w Reichswehrze (walczył przeciwko Polakom w powstaniach śląskich, za co został odznaczony „Schlesischer Adler” – Śląskim Orłem I i II klasy). Zawodową służbę wojskową w Reichswehrze pełnił do 1924. Był członkiem organizacji Stahlhelm oraz Deutschvölkischer Schutz und Trutzbund.
Od 1924 do 1930 znajdował się w niemieckiej straży granicznej (Zollgrenzdienst), wypełniając zadania na pograniczu Polski – w rejonie Śląska Opolskiego oraz na Mazurach. W 1930 został członkiem NSDAP, a w 1931 także SS. Następnie od 1934 pełnił funkcję Dowódcy SS i Policji w Prusach Wschodnich, a od czerwca 1938 na Dolnym i niemieckiej części Górnego Śląska do roku 1939, potem na terenie całego historycznego Śląska.