Od 1961 do 1963 roku pracował w Ministerstwie Gospodarki.
Wczesna działalność polityczna W czasie pobytu w więzieniu w latach 1953–1956, zaprzyjaźnił się ze współwięźniem Akbarem Chajbarem, który wprowadził Karmala bliżej w poglądy marksistowskieMisdaq 2006, s. 94.. Karmal zmienił nazwisko z Sultan Husajn na Babrak Karmal, co w języku Pasztunów oznacza Towarzysz Robotników, miał to być symbol zerwania z burżuazyjnym pochodzeniem. Kiedy został zwolniony z więzienia, kontynuował swoją działalność w związku studentów i zaczął promować marksizmRasanayagam 2005, s. 47.. Resztę lat 50. i początek 60. spędził na angażowaniu się w organizacjach marksistowskich, dwie z czterech istniejących wówczas grup zostało ustanowionych przez niego samegoRasanayagam 2005, s. 47–48.. W 1964 roku w wyniku wprowadzenia w życie afgańskiej Konstytucji Tymczasowej, zalegalizowano tworzenie nowych podmiotów politycznych. Sytuację wykorzystało kilku wybitnych marksistów, którzy w styczniu 1965 roku w domu Nur Mohammada Tarakiego powołali do działania Ludowo-Demokratyczną Partię AfganistanuRasanayagam 2005, s. 48.. Problemem w nowej partii stała się frakcyjność.