Niemieckie zjednoczenie odbiło się pozytywnie na późniejszej karierze Kohla jako kanclerza, która bez tego mogłaby nie trwać tak długo. Kohlowi w 1989 r. z trudem udało się odeprzeć na zjeździe partii w Bremie próbę wewnętrznego puczu przeciwników zebranych wokół Heinera Geißlera, Rity Süssmuth i Lothara Spätha.
17 stycznia 1991 został wybrany po raz trzeci po tym, jak w wyborach do Bundestagu w 1990 r. wygrał z premierem Saary i ówczesnym kandydatem SPD na urząd kanclerza Oskarem Lafontainem. Tym samym został pierwszym kanclerzem zjednoczonych Niemiec.
Po nieznacznie wygranych wyborach do Bundestagu w 1994 r. Kohla ponownie wybrano kanclerzem; tym razem wygrał on z premierem Nadrenii-Palatynatu Rudolfem Scharpingiem z SPD. Następne lata ukształtowane zostały raczej sukcesami w polityce zagranicznej (Frankfurt nad Menem jako siedziba nowo powstałego EBC, wprowadzenie euro). W 1995 r. Kohl, jako pierwszy zachodni polityk po protestach na placu Tian’anmen, złożył wizytę w chińskiej bazie wojskowej (odwiedził wtedy 196 Dywizję Piechoty w Tianjinie), co spotkało się z protestami organizacji broniących praw człowieka.