Podczas powstania warszawskiego od 7 sierpnia 1944 był dowódcą „Grupy Północ”, która obejmowała siły powstańcze walczące na Starym Mieście, Żoliborzu, Marymoncie i w Puszczy Kampinoskiej. Pozostał na odciętym od pozostałych dzielnic Starym Mieście do końca walk. Był współorganizatorem próby połączenia się sił powstańczych Starówki z Żoliborzem w nocy z 21 na 22 sierpnia i przebicia się oddziałów ze Starego Miasta do Śródmieścia w nocy z 30 na 31 sierpnia. 5 września „Grupa Północ” została rozwiązana, a płk Ziemski 4 września został wyznaczony zastępcą dowódcy Okręgu płk. Antoniego Chruściela „Monter”, zaś od 20 września zastępcą dowódcy Warszawskiego Korpusu AK.

Rozkazem Naczelnego Wodza z 11/12 sierpnia został awansowany do stopnia pułkownika ze starszeństwem od 1943. Według Piotra Stachiewicza, awans nastąpił 8 sierpnia. 30 września brał udział w rozmowach kapitulacyjnych z Niemcami żoliborskiego zgrupowania AK ppłk. Mieczysława Niedzielskiego „Żywiciela”.