W styczniu 1950 zatrudnił się w Centralnym Biurze Projektów Budownictwa Wiejskiego w charakterze Kierownika Pracowni i Głównego Projektanta. mały|273x273px|Grób Zdzisława Celarskiego na Cmentarzu Bródnowskim. 22 listopada 1951 został aresztowany w swoim mieszkaniu na Żoliborzu przez organa Ministerstwa Bezpieczeństwa Publicznego i osadzony w więzieniu przy Rakowieckiej. Otrzymał zarzut sabotażu gospodarczego i szpiegostwa na rzecz obcego mocarstwa – wskutek odnalezionych podczas rewizji dokumentów technicznych i licznej literatury w języku angielskim. Bez potwierdzenia stawianych zarzutów, został zwolniony 14 lipca 1953.
We wrześniu tego roku podjął pracę w Wojewódzkim Biurze Projektów na stanowisku Kierownika Pracowni, którą pełnił do kwietnia 1954. Następnie przeszedł do Komitetu ds. Urbanistyki i Architektury, gdzie pracował jako st. inspektor w Departamencie Urbanistyki.
Zmarł 6 sierpnia 1957 w swoim mieszkaniu, na skutek schorzeń których nabył podczas pobytu w więzieniu mokotowskim. Został pochowany w grobie rodzinnym na cmentarzu bródnowskim w Warszawie (kwatera 56E-IV-6).
Z zamiłowania był także varsavianistą, fotografikiem i akwarelistą. W międzywojniu autorem wielu wystaw fotograficznych, czterech zwycięskich konkursów, poświęconych architekturze Krzemieńca i wsi wołyńskiej.