Prawdopodobnie nadal wypowiadał się przeciw nazizmowi, bowiem 24 maja 1937 Gestapo zabroniło mu wypowiadania się publicznie.

14 lipca 1938 Gerstein został aresztowany. Na sześć tygodni (14 lipca do 28 sierpnia 1938) trafił do obozu koncentracyjnego w Welzheim. We wrześniu zarzucano mu zdradę stanu i związki z Towarzystwem Niemieckiej Wolności, którego program zakładał przywrócenie monarchii Hohenzollernów. Postępowanie zakończono w październiku. W odzyskaniu wolności Gersteinowi pomógł życzliwie nastawiony urzędnik Gestapo. Trudno ocenić, w jaki sposób Gerstein starał się oddzielić ekonomiczne aspekty osiągnięć państwa rządzonego przez partię narodowo-socjalistyczną od proklamowanego przez to państwo światopoglądu. Pogromy ludności żydowskiej podczas „nocy kryształowej” wstrząsnęły Kurtem.

II wojna światowa Na początku 1939, dzięki interwencji ojca i wsparciu ze strony wpływowych urzędników, Gerstein został ponownie przyjęty w szeregi NSDAP, a po wybuchu wojny chciał wstąpić do armii. W marcu 1941 zgłosił się na ochotnika do Waffen-SS. Istnieje kilka wersji powodu, dla którego miał się zdecydować na ten krok.