U progu rewolucji amerykańskiej obaj bracia zaangażowali się w lokalną politykę. John uczestniczył w miejskich komitetach stworzonych aby protestować przeciw cłom na herbatę wprowadzonym przez brytyjski parlament oraz aby zorganizować bojkot brytyjskich towarów. W 1774 roku obaj bracia zostali wybrani do stanowego parlamentu New Hampshire. Jednak proces polityczny szybko zirytował Langdona i wkrótce przyłączył się do lokalnej armii obywatelskiej. Brał między innymi udział w rajdzie na lokalny fort, podczas którego zdobyto zapasy prochu zanim mógł je przejąć gubernator królewski. W 1775 wybrano go do Kongresu Kontynentalnego. W kongresie Langdon natychmiast opowiedział się za ogłoszeniem niepodległości.
Jako członek Kongresu Kontynentalnego Langdon przyczynił się znacząco do przygotowań do wojny. Ze względu na doświadczenie w sprawach morskich zasiadał między innymi w komitecie Kongresu nadzorującym utworzenie floty kontynentalnej.