W 1718 r. został członkiem gabinetu jako lord steward. W 1725 r. został generałem artylerii. Sprawował to stanowisko do 1740 r. i ponownie w 1742 r. W 1736 r. został awansowany do stopnia marszałka polnego. W 1739 r. był jednym ze współzałożycieli Foundling Hospital. Zmarł w 1742 r. i został pochowany w Opactwie Westminsterskim. Tytuły księcia Greenwich, hrabiego Greenwich i barona Chatham wygasły wraz z jego śmiercią. Tytuł księcia Argyll odziedziczył jego młodszy brat, Archibald.
Rodzina 30 grudnia 1701 r. poślubił Mary Brown (ok. 1682 – 16 stycznia 1716), córkę Johna Browna i Ursuli Duncombe, córki Anthony’ego Duncombe’a. Małżonkowie nie mieli razem dzieci.
6 czerwca 1717 r. poślubił Jane Warburton (ok. 1683 – 16 kwietnia 1767), córkę Thomasa Warburtona i Anne Williams, córki sir Roberta Williamsa, 2. baroneta. John i Jane mieli razem cztery córki: Elizabeth Campbell (zm. 16 lipca 1799), żona Jamesa Stuarta-Mackenziego, nie miała dzieci Caroline Campbell (17 listopada 1717 – 11 stycznia 1794), 1. baronowa Greenwich Anne Campbell (ok. 1720 – 7 lutego 1785), żona Williama Wentwortha, 2.