W 1864 r. został podsekretarzem stanu w Ministerstwie ds. Indii, ale pod koniec tego roku został Lordem namiestnikiem Irlandii. W 1866 r. otrzymał tytuł 1. hrabiego Kimberley. W tym samym roku upadł liberalny rząd Russella i Kimberley stracił stanowisko. Po powrocie liberałów do władzy w 1868 r. został lordem tajnej pieczęci. W latach 1870–1874 i 1880-1882 był ministrem kolonii. Następnie został Kanclerzem Księstwa Lancaster. W latach 1882–1885, 1886 i 1892–1894 był ministrem ds. Indii. W latach 1892–1894 był ponadto Lordem Przewodniczącym Rady.
Kiedy premierem został w 1894 r. Rosebery, Kimberley otrzymał tekę ministra spraw zagranicznych. Na tym stanowisku podpisał anglo-japoński Traktat o Handlu i Żegludze (1894). Stanowisko to utracił po wyborczej porażce liberałów w 1895 r. W latach 1891–1894 i 1896-1902 był liderem Partii Liberalnej w Izbie Lordów. W 1899 r. został kanclerzem Uniwersytetu Londyńskiego. Zmarł w 1902 r.
Na jego cześć nazwano miasto Kimberley w Południowej Afryce.