Po ucieczce z więzienia przedostał się do Krakowa, gdzie został mianowany na kapitana. Brał udział w formowaniu oddziału kawalerii, na którego czele udał się do Klimontowa w powiecie miechowskim, gdzie wstąpił do oddziałów Kazimierza Bończy-Błaszczyńskiego. Zebrawszy jeszcze kilka oddziałów, jako ich dowódca 6 lipca 1863 roku rozbił dwie roty rosyjskie. Dowodził w potyczkach pod Rudnikami (28 lipca), Obiechowem, Białą, Olesznem i Nieznanowicami. W sierpniu został mianowany majorem, a na początku września – pułkownikiem i naczelnikiem wojsk województwa krakowskiego. 30 września stoczył bitwę pod Mełchowem, 20 października pod Oksą. Po bitwie koło Jeziorka został mianowany przez generała Józefa Hauke-Bosaka jego szefem sztabu. Wśród żołnierzy Zygmunta Chmieleńskiego był Adam Chmielowski, później uznany malarz i tercjarz franciszkański.
Zygmunt Chmieleński dowodził wojskami powstańczymi w bitwach pod Skalbmierzem, Złotym Potokiem, Koniecpolem, Opatowem (25 listopada), Ociesękami (28 listopada) i Bodzechowem. Podczas tej ostatniej 16 grudnia 1863 roku w starciu z pułkiem smoleńskim dowodzonym przez Ksawerego Czangery'ego, Chmieleński został ciężko ranny i pojmany przez oddział Kozaków.