Pozostał w lokalnej polityce jako przewodniczący East Sussex Country Council od 1937 do 1940 roku.
Gwynne miał ciągłe kłopoty finansowe, spowodowane z jednej strony ekstrawaganckim stylem życia (znany był z organizowania hucznych przyjęć w Folkington Manor, w których uczestniczyli, między innymi, Freeman Freeman-Thomas i pisarz Rudyard Kipling), a z drugiej strony jego życiem erotycznym, które czyniło go ofiarą szyderstw. Poza tym, jego kamerdyner, Wilde, był uważany za jedną z tych osób, które wyłudzały od Gwynne'a pieniądzeWriting at the Kitchen Table, Artemis Cooper, 2000, HarperCollins, str. 266. Po śmierci Gwynne'a pośród jego papierów znaleziono wiele listów miłosnych od różnych lokalnych dżokejów.
Podczas II wojny światowej Gwynne popadł w alkoholizm.
W 1947, obarczony długami, zmuszony był do wynajęcia Folkington i przeniesienia się do mniejszego Wootton Manor.
Sprawa Adamsa Gwynne nigdy się nie ożenił, był za to bliskim przyjacielem Johna Bodkina Adamsa, lekarza prowadzącego praktyki, z którym wyjeżdżał na częste strzeleckie wakacje do Szkocji i Irlandii. Ponadto, Gwynne odwiedzał Adamsa każdego dnia o 9 rano. Historyczka Pamela Cullen podejrzewa, że byli oni kochankami.