Po ataku III Rzeszy na ZSRR 22 czerwca 1941 r., został przyjęty przez Hitlera w lipcu, jednak ten pozostawał go w rezerwie. W tym czasie opowiadał się za zorganizowaniem z rosyjskich ochotników armii wyzwoleńczej, która wespół z Niemcami obaliłaby reżim stalinowski. W związku z tym 10 sierpnia 1942 r. został wezwany do OKW, a następnie skierowany do kwatery głównej Grupy Armii A atakującej w kierunku Kaukazu. Stanowisko doradcze Köstringa przy Grupie Armii A określono nazwą generał-pełnomocnik dla Kaukazu. Na stanowisku tym współorganizował kolaboracyjne oddziały wojskowe złożone z przedstawicieli narodów ZSRR w służbie niemieckiej. Od czerwca 1943 r. był inspektorem Legionów Wschodnich i jednocześnie Generałem Oddziałów Wschodnich w Oberkommando des Heeres (OKH). Na początku stycznia 1944 r. objął funkcję Generała Formacji Wschodnich przy OKH.
Aresztowanie Köstring przez Amerykanów miało miejsce 20 maja 1945 r. Początkowo był przetrzymywany w obozie jenieckim 101 Dywizji Spadochronowej, a później w obozie pracy w Augsburgu.