W czerwcu 1941 roku znalazł się w kierownictwie w Oddziału Specjalnego Służby Porządkowej (). Zajmował się m.in. dokonywaniem rewizji oraz konfiskowaniem cennych przedmiotów, które przekazywał następnie Zarządowi Getta. Według jego słów, 3 grudnia 1940 roku został aresztowany przez Niemców i oskarżony o szmuglowanie kosztowności oraz przewożenie pieniędzy między Łodzią i Warszawą, został osadzony w więzieniu na Radogoszczu. Został zwolniony w lipcu 1941 roku.
W marcu 1942 roku objął stanowisko szefa Oddziału Specjalnego. Utrzymywał bliskie kontakty z Hansem Biebowem, otrzymywał również pieniądze od Günthera Fuchsa.
Podczas Wielkiej Szpery był jedną z osób mogących wystawiać zwolnienie od deportacji, kierowany przez niego Oddział Specjalny aktywnie uczestniczył w akcji, wyszukując ukrywających się Żydów. Od jesieni 1942 roku pozostawał w opozycji do Przełożonego Starszeństwa Żydów Chaima Rumkowskiego, miał ambicję odsunięcia go od władzy. W styczniu 1943 roku Gertler i Oddział Specjalny przejął od łódzkiego Judenratu kontrolę nad aprowizacją w getcie. W tym samym miesiącu dowodzony przez niego Oddział Specjalny rozpoczął przeprowadzanie w getcie łapanek w celu deportacji Żydów do pracy poza gettem.