Od 1962 roku Rudar Ljubija występował w międzystrefowej lidze. W 1967 klub zdobył historyczny awans do grupy zachodniej II ligi jugosłowiańskiej. W tym samym roku, Rudar Ljubija przeniósł się na nowy stadion w Prijedorze i zmienił nazwę na FK Rudar Ljubija-Prijedor. W 1970 roku górnicy dotarli do 1/16 finału Pucharu marszałka Tito. W sezonie 1970/71 klub walczył w kwalifikacjach do pierwszej ligi jugosłowiańskiej z FK Proleter Zrenjanin, ale przegrał rywalizację (0:5, 1:0). W następnym sezonie ponownie zakwalifikował się do barażów do I ligi, ale ponownie przegrał tym razem z FK Spartak Subotica (2:2 na wyjeździe, 1:3 u siebie). W 1973 klub spadł do III ligi. W 1976 powrócił do II ligi, ale w 1979 ponownie spadł do III ligi. W 1981 klub okazał się w lidze regionalnej (IV poziom), dopiero po dwóch sezonach powrócił do III ligi. W 1985 z triumfem powrócił do drugiej ligi. Niestety, po sezonie 1987/88 nastąpiła reforma systemu lig, dlatego Rudar okazał się w nowo powstałej między-republikańskiej lidze (III stopień). Zaledwie po roku, w 1989 wrócił do drugiej ligi W rozgrywkach o Puchar marszałka Tito dotarł do półfinału, gdzie w rywalizacji z Velež Mostar przegrał dopiero w serii rzutów karnych 3:5 (0:1 w Mostarze, 1:0 w Prijedorze).