Podczas okresu rządów nazistów zachował on miano gwiazdy apolitycznej, był ulubionym aktorem Anny Frank, która miała jego obraz z filmu „Raj kawalerów” (1939) powieszony na ścianie w kryjówce w Amsterdamie.
W latach wojennych Rühmann dał się stopniowo uwikłać w propagandę nazistowską. W tym czasie był odtwórcą w 37 filmach, oraz był reżyserem czterech. Przyjął rolę w filmie komediowym „Nieustraszony pilot Quax”, który miał na celu odwrócenie uwagi społeczeństwa od wydarzeń wojennych. W 1941 roku grał rolę kontrolera instalacji gazowych, podejrzanego o szpiegostwo za granicą w filmie Carla Froelicha, prezydenta korporacji filmowej Trzeciej Rzeszy. W 1944 odbyła się premiera filmu „Die Feuerzangenbowle”. Początkowo był on przez nazistów zabroniony ze względu na brak respektu wobec autorytetów. Jednak przez dobre stosunki z reżimem Rühmann zdołał uzyskać zgodę na jego prezentację, pokazując film w samej kwaterze „Führera” w Wilczym Szańcu. Odbył się tam prywatny pokaz dla, między innymi, Hermanna Göringa, który poprzez wstawiennictwo u Hitlera zniósł zakaz jego wyświetlania. Wcześniej ta sama historia pod tytułem „So ein Flegel” nie przyniosła takiego sukcesu. Heinz Rühmann nie został wcielony do Wehrmachtu ze względu na miano aktora państwowego.