Armeekorps). W 1864 powrócił, ze względu na sprawy zawodowe, do Frankfurtu.
Pomimo tego 2 lata później brał udział w wojnie z Austrią. W czasie parady w Gaenserndorf, w okolicach Wiednia, 31 lipca 1866, którą wyprawili zwycięzcy Prusacy, Piefke i jego brat Rudolf (1835-1900) przewodzili orkiestrze, którą pokonani Austriacy przywitali okrzykiem Die Piefkes kommen! ("Piefkowie nadchodzą!"). W krótkim czasie słowo Piefke stało się synonimem Niemca (wyłączając z tego mieszkańców południowych krajów związkowych, takich jak Bawaria). Słowo to jest wciąż używane przez Austriaków, opowiadających o ich stosunkach z Niemcami, którzy są jednym z ich źródeł utrzymania (turystyka).
Piefke brał udział także w wojnie prusko-francuskiej, ale zachorował ciężko podczas oblężenia Metzu. Zdrowie odzyskał dopiero w 1871.
Po wojnie Piefke zajął się pracami nad nieco lżejszą muzyką, co podniosło jego popularność. Pod koniec życia dawał wiele koncertów we Frankfurcie, ale także np. w Paryżu. Piefke zmarł 25 stycznia 1884 roku, jego pogrzeb odbył się z wszelkimi wojskowymi honorami 28 stycznia. Został pochowany na cmentarzu Alten Friedhof we Frankfurcie nad Odrą.