Jego prace znajdują się w zbiorach krajowych i zagranicznych, w tym 8 rysunków w Watykanie, z których jeden obdarzony został specjalnym autografem papieża Jana Pawła II.
Został laureatem licznych konkursów krajowych i zagranicznych, na których zdobył 31 nagród i wyróżnień. Jest autorem projektu Domu Kultury w Rzeszowie przy ul. Dąbrowskiego, zrealizowanego w 1958 r. Wiele lat później, budynek ten został przeprojektowany przez arch. Marka Chrobaka na nowoczesny budynek uniwersytetu i mieści się w nim wydział muzyczny. Jest to jedyny socrealistyczny budynek na Podkarpaciu wpisany na listę zabytków. Dziesiątki domów mieszkalnych, szkół i budynków użyteczności publicznej zaprojektowanych przez niego powstało w wielu miastach Polski jako rezultat wygranych konkursów architektonicznych.
Jego zwycięstwo w konkursie na Ośrodek Kultury w Léopoldville (obecnie Kinszasa), stolicy Demokratycznej Republiki Konga było pierwszym po wojnie sukcesem polskich architektów na arenie międzynarodowej. Józef Zbigniew Polak jest zwycięzcą konkursu na centrum Kabulu i laureatem III nagrody w konkursie na centrum Tel Awiwu. Jest też autorem zrealizowanych projektów Khor Fakhan Centrum Kultury Arabskiej i Fakhau Karachy – Centrum w Libii.