W 1857 r. został mianowany przez cesarza Franciszka Józefa I przewodniczącym Rady Państwa (wówczas organu doradczego monarchy). W latach 1861–1865 był kanclerzem (Ministerpräsident) jako nominalny szef liberalnego gabinetu Antona von Schmerlinga. Od 1872 do 1906 był naczelnym komendantem cesarsko-królewskiej Obrony Krajowej. 19 października 1874 został mianowany na stopień generała artylerii, a 15 listopada 1908 na stopień generała piechoty. Mecenas sztuki, promotor nauki, m.in. kurator Austriackiej Akademii Nauk, opiekun austriackiego Muzeum Sztuki i Przemysłu. W 1884 r. nabył za nieznaną sumę kolekcję papirusów znalezionych w Fajum, które w 1899 r. podarował Bibliotece Nadwornej (Hofbibliothek, obecnie Austriacka Biblioteka Narodowa).
W 1852 r. poślubił swoją kuzynkę arcyksiężniczkę Marię Karolinę, córkę Karola Ludwika Habsburga, księcia cieszyńskiego. Arcyksiążę Rajner oraz jego żona znani byli z działalności społecznej oraz charytatywnej i cieszyli się dużą popularnością. Uchodzili za szczęśliwe małżeństwo, jednak nie mieli dzieci. Ulubioną rezydencją arcyksięcia aż do śmierci był jego pałac () w Wiedniu.