Od 25 sierpnia 1939 w Wehrmachcie, żołnierz 1 Brygady Kawalerii. Służba wojskowa zabezpieczyła go przed represjami związanymi z pochodzeniem żydowskim (babka Julia von Herwarth z domu Haber). Od sierpnia 1942 adiutant generała Ernsta Köstringa, nadzorującego cudzoziemskie formacje ochotnicze przy Wehrmachcie (oddziały kozackie, rosyjskie, ukraińskie, gruzińskie, turkmeńskie i inne). Związany osobiście z pułkownikiem Clausem von Stauffenbergiem, spiskiem antyhitlerowskim i zamachem na Hitlera 20 lipca 1944. Przyjaciele nie wydali go podczas przesłuchań Gestapo.
Po wojnie dyplomata RFN, bliski współpracownik kanclerza Konrada Adenauera, szef protokołu MSZ RFN, ambasador w Londynie i Rzymie.
Hans von Herwarth był krewnym polskiego historyka i dziennikarza Pawła Zaremby, którego matką była Nadzieja-Jadwiga z domu Herwarth.
Bibliografia (najważniejsze pozycje) Charles Bohlen, Witness to History, New York 1973, . Hans von Herwarth, Między Hitlerem a Stalinem. Wspomnienia dyplomaty i oficera niemieckiego 1931-1945, Wydawnictwo Bellona i Wydawnictwo Rytm, Warszawa 1992, , ,