Jako pozostałe czynniki wskazywał swoją podróż po USA z końca lat 40., gdzie uderzyły go ogromne różnice klasowe, a także swoją podróż do Azji w 1953, gdzie wyrobił swoją ocenę na temat skutków kolonializmu.
W 1952 Olof Palme został przewodniczącym Sveriges förenade studentkårer, organizacji skupiającej zrzeszenia studenckie. Funkcję tę pełnił do 1953. Dołączył następnie do administracji rządowej kierowanej przez Tage Erlandera. Do 1954 był sekretarzem w sztabie obrony Försvarsstaben, później do 1963 pozostawał zatrudniony w urzędzie premiera. Wkrótce stał się najbliższym doradcą Tage Erlandera, zyskując opinię dynamicznego polityka młodej generacji.
W 1958 Olof Palme po raz pierwszy uzyskał mandat posła do Riksdagu z ramienia socjaldemokratów w okręgu Jönköping. Utrzymywał go w dziewięciu kolejnych wyborach do 1985 włącznie. W 1963 dołączył do rządu Tage Erlandera jako minister bez teki. W 1965 przeszedł na stanowisko ministra transportu i komunikacji. Następnie w latach 1967–1969 sprawował urząd ministra edukacji.