Wczesna działalność polityczna i małżeństwo left|upright|thumb|Mary Cathcart W roku 1772, w wyborach uzupełniających Graham został kandydatem Wigów z Perth, w opozycji do Jamesa Murraya, brata księcia Atholl, lecz został pokonany większością zaledwie sześciu głosów na 100. Pomimo porażki pozostał aktywny na niwie polityki, lecz wycofał się krótko przed wyborami ogólnymi w roku 1774, kiedy zaręczył się z Mary Cathcart, drugą córką 9. lorda Cathcart, której siostra była narzeczoną syna i spadkobiercy 3. księcia Atholl. 26 grudnia 1774 roku poślubił Mary, a jej starsza siostra została tego samego dnia księżną Atholl. „Jane,” pisał lord Cathcart, „poślubiła, aby zadowolić siebie, Johna, diuka Atholl, pana na posiadłości; Mary wyszła za Thomasa Grahama z Balgowan, mężczyznę jej serca, równego książętom.” Jej portret, pędzla Thomasa Gainsborough, był bardzo chwalony podczas wystawy w Royal Academy w roku 1777.