We wrześniu 2014 kandydował na stanowisko przewodniczącego Junge Union przeciwko Benedictowi Pötteringowi, synowi byłego szefa Parlamentu Europejskiego, Hansa-Gerta Pötteringa. Ziemiak wygrał 63% głosów i stał się następcą , który ponownie nie kandydował. 14 października 2016 na ogólnokrajowym zgromadzeniu Junge Union w Paderborn Ziemiak został ponownie wybrany na przewodniczącego, uzyskując 85% głosów. Wyczyn ten powtórzył po raz kolejny również w październiku 2018, gdy uzyskał 91,1% głosów, co było najlepszym wynikiem w historii.

W lutym 2017 Ziemiak został oddelegowany przez Landtag Północnej Westfalii do 16. Zgromadzenia Federalnego do spraw wyboru prezydenta Republiki Federalnej Niemiec. Na początku lipca 2016 został w okręgu wyborczym Herne – Bochum II kandydatem do wyborów federalnych w 2017, jako następca byłej kandydatki CDU, . Podobnie jak jego poprzedniczka, Ziemiak wszedł do Bundestagu z listy krajowej. W Bundestagu Ziemiak został członkiem Komisji Spraw Zagranicznych, m.in. sprawozdawcą ds. terroryzmu międzynarodowego.