Jeszcze podczas służby w marynarce Prescott był działaczem lewicowych związków zawodowych. W 1970 wygrał wybory do Izby Gmin w okręgu Kingston upon Hull East. Wcześniej (w 1966), Prescott kandydował w okręgu Southport, ale przegrał tam znacząco z kandydatem konserwatystów. W latach 1974–1979 był posłem do Parlamentu Europejskiego. Było to w czasach, kiedy europarlamentarzyści byli nominowani przez krajowe parlamenty.
Prescott zajmował różne stanowiska w laburzystowskim gabinecie cieni, ale jego kariera nabrała rozpędu dopiero w 1993, kiedy na konferencji Partii Pracy wysunął pomysł głosowania systemem „jeden członek, jeden głos". Pomysł Prescotta został wprowadzony w życie i podczas pierwszego głosowania tym systemem Prescott został wybrany wiceprzewodniczącym Partii Pracy w 1994.
Po wyborczym zwycięstwie Partii Pracy w 1997, Prescott został wicepremierem oraz otrzymał tekę ministra środowiska, transportu i regionów. Na tym ostatnim stanowisku pozostał do 2001. Od lipca tego roku, stał na czele Urzędu Wicepremiera oraz był pierwszym sekretarzem stanu.