reprezentował okręg wyborczy Cardiff South East, a od 1983 r. okręg wyborczy Cardiff South and Penarth.

Pierwszym stanowiskiem rządowym sprawowanym przez Callaghana był urząd parlamentarnego sekretarza w ministerstwie transportu, który objął w 1947 r. W tym czasie wprowadzono na brytyjskich ulicach przejścia dla pieszych (popularne „zebry”) oraz zwiększono wykorzystanie świateł odblaskowych na drogach. W 1950 r. Callaghan został parlamentarnym i finansowym sekretarzem Admiralicji. Był również delegatem do Rady Europy. Stanowisko sekretarza utracił po porażce wyborczej laburzystów w 1951 r. W latach 1955–1960 był parlamentarnym doradcę Police Federation. W 1960 r. wystartował w wyborach na wiceprzewodniczącego partii jako przeciwnik jednostronnego rozbrojenia nuklearnego. Przegrał wprawdzie z George’em Brownem, ale już rok później został Kanclerzem Skarbu w gabinecie cieni Hugh Gaitskella. Kiedy Gaitskell zmarł w 1963 r. Callaghan zgłosił swoją kandydaturę w wyborach na lidera partii, ale zajął trzecie miejsce, za Haroldem Wilsonem i George’em Brownem.