II wojna światowa Atak Niemiec na ZSRR i ogromne klęski jakie poniosła Armia Czerwona w pierwszych miesiącach inwazji niemieckiej, sprawiły, że NKWD postanowiło zwolnić z więzień i łagrów przetrzymywanych tam doświadczonych oficerów wywiadu, aby następnie przerzucić ich na tyły wroga w celu prowadzenia dywersji i sabotażu. Pomysł ten wyszedł z inicjatywy Pawła Sudopłatowa, byłego naczelnika INO, a wówczas (tj. 1941) szefa Wydziału do Zadań Specjalnych NKWD. Z jego inicjatywy zwolniono wielu oficerów NKWD aresztowanych podczas wielkiej czystki końca lat trzydziestych, w tym Jakowa Sieriebrianskiego. Po zwolnieniu z więzienia służył jako dowódca 2 Oddziału NKWD, 4 Zarządu NKWD i 4 Zarządu NKGB, werbujących niemieckich jeńców wojennych. Po zakończeniu II wojny światowej przeszedł na emeryturę w stopniu pułkownika.
Powrót do służby W maju 1953 roku Sieriebrianski powrócił do służby w organach Ministerstwa Spraw Wewnętrznych ZSRR, jako funkcjonariusz 9 oddziału i jeden z zastępców Pawła Sudopłatowa. Pod koniec lipca tego samego roku został przeniesiony do wywiadu zagranicznego, czyli do II Zarządu Głównego MWD. Pracował tam do października 1953, kiedy ponownie został aresztowany wraz ze swoją żoną i osadzony w więzieniu.