14 lipca tego roku został zmobilizowany do Armii Czerwonej. Po ataku wojsk niemieckich na ZSRR 22 czerwca 1941 r., objął dowództwo kompanii karabinów maszynowych 1196 Pułku Strzeleckiego 359 Dywizji Strzeleckiej. Był odznaczony 2 medalami.
Pod koniec maja 1942 r. w rejonie Rżewa przeszedł na stronę Niemców. Początkowo został naczelnikiem ochrony stacji kolejowej w Syczewce. Następnie osadzono go w specjalnym obozie jenieckim w Lötzen. Tam poznał Gieorgija N. Żylenkowa, b. komisarza politycznego jednej z brygad Armii Czerwonej, któremu przedstawił się jako b. współpracownik NKWD. Po pewnym czasie P. I. Szyło alias Tawrin został skierowany do pracy w oddziale propagandy, zajmując się tłumaczeniem przechwyconych przez Niemców listów żołnierzy sowieckich. Zarobione pieniądze przegrał jednak w karty, z powodu czego Niemcy aresztowali go i osadzili w obozie jenieckim w Hammelburgu, gdzie pracował fizycznie. Tam ponownie spotkał G. N. Żylenkowa, który był wówczas generałem Rosyjskiej Armii Wyzwoleńczej (ROA). Dzięki jego wstawiennictwu udało mu się podjąć współpracę z Abwehrą. Trafił do szkoły wywiadowczej w rejonie Wiednia. Podczas szkolenia kilka razy jeździł do Berlina, gdzie spotykał się z szefem Unternehmen "Zeppelin" SS-Obersturmbannführerem Heinzem Greife. W wyniku ich rozmów narodził się pomysł wysłania P. I.