Utwory Sztyrmera zawierają też elementy konserwatywnej krytyki społecznej oraz polemiki ze stylistyką i tematyką literatury romantycznej (jednocześnie jednak bogato czerpią ze środków romantycznej frenezji). Za ważne źródło inspiracji jego pisarstwa uznaje się dzieła Ernsta Theodora Amadeusa Hoffmanna, w sposobie narracji wiele czerpią też z Laurence’a Sterne’a.
Najważniejszą i najbardziej charakterystyczną postacią jego prozy jest (pojawiający się w kilku utworach, ale przede wszystkim w debiutanckim Pantoflu. Historii mojego kuzyna) Pantofel - człowiek wrażliwy i inteligentny, ale chorobliwie nieśmiały, niedostosowany do życia, naiwny i o słabej woli. Kreacja tej postaci sięga też do pewnych elementów biografii samego Sztyrmera.
Frenofagiusz i Frenolesty to opowiadanie o literacie, który szukając źródeł inspiracji trafia do szpitala oo. bonifratrów w Warszawie, funkcjonującego jako szpital dla obłąkanych. To miejsce okazuje się królestwem tajemniczego Frenofagiusza, pożeracza ludzkich mózgów i jego sług Frenolestów - istot na różne sposoby doprowadzających ludzi do obłędu. Utwór składa się z serii obrazków-szkiców psychologicznych, z których każdy przedstawia historię jednego pacjenta szpitala dla obłąkanych.