Kiedy w 1972 rząd brytyjski objął bezpośrednią władzę nad Irlandią Północną, Whitelaw został pierwszym ministrem ds. Irlandii Północnej. Na tym stanowisku pozostawał do 1973, kiedy został ministrem zatrudnienia. Stanowisko to utracił po porażce konserwatystów w wyborach 1974. W tym samym roku odznaczono go Orderem Kawalerów Honorowych. Niedługo po przegranych wyborach został zastępcą lidera opozycji, Edwarda Heatha, oraz przewodniczącym Partii Konserwatywnej. W wyborach na lidera partii w 1975 Whitelaw stanął po stronie Heatha, który jednak przegrał wybory z Margaret Thatcher. Whitelaw przestał być przewodniczącym partii, ale pozostał zastępcą lidera opozycji.
Po wygranych przez konserwatystów wyborach w 1979 Whitelaw został wicepremierem i ministrem spraw wewnętrznych. Na tym stanowisku musiał zmierzyć się z problemem narastającej przestępczości oraz kwestią przepełnionych więzień. Dwa dni po wyborach 1983 otrzymał tytuł wicehrabiego Whitelaw (był to pierwszy dziedziczny tytuł parowski kreowany od 18 lat) i zasiadł w Izbie Lordów. Został również Lordem Przewodniczącym Rady oraz przewodniczącym Izby Lordów. W grudniu 1987 doznał ataku apopleksji, co zmusiło go do rezygnacji z zajmowanych stanowisk.