W Niemczech Zachodnich Po wojnie von Merkatz rozpoczął pracę w Akademie für Raumforschung und Landesplanung w Hanowerze. W 1946 wstąpił do konserwatywnej Deutsche Partei (Partia Niemiecka). Od 1949 do 1961 deputowany do Bundestagu. Od 1949 do 1952 był sekretarzem stanu w Ministerstwie Spraw Wewnętrznych.
W latach 1951–1958 von Merkatz był członkiem Zgromadzenia Doradczego Rady Europy, a od 1952 do 1958 roku Wspólnego Zgromadzenia Europejskiej Wspólnoty Węgla i Stali. Od 1955 do 1961 Minister ds. Rady Federalnej.
17 października 1956 von Merkatz został powołany na stanowisko Federalnego Ministra Sprawiedliwości. Funkcję pełnił do wyborów parlamentarnych w 1957 roku. Ponownie uzyskał mandat deputowanego i został członkiem Konwentu Seniorów niemieckiego parlamentuWalter Henkels: 99 Bonner Köpfe, Frankfurt am Main 1965, s. 176.
W 1960 wstąpił do Unii Chrześcijańsko-Demokratycznej (CDU). W latach 1960–1961 był federalnym Ministrem do spraw Wypędzonych, Uchodźców i Ofiar WojnyMerkatz, Hans Joachim von..
Od 1967 do 1979 roku pełnił funkcję prezydenta