Za namową Grzegorza Laty, Szarmach przeszedł w sezonie 1976/1977 do Stali Mielec.

1976–1980: Stal Mielec Szarmach trafił do Mielca w po tym, jak do Nîmes Olympique przeszedł napastnik Stali, Jan Domarski. Transfer do Stali był blokowany przez działaczy Górnika, którzy odraczali przesłanie dokumentów zawodnika. Szarmach nie zagrał przez to w sześciu kolejkach sezonu 1976/1977 oraz dwumeczu przeciwko Realowi Madryt w ramach I rundy Pucharu UEFA. W Stali zadebiutował w wygranym meczu z ROW-em Rybnik (3:1, 19 września 1976 roku), zaś pierwszą bramkę strzelił przeciwko Lechowi Poznań (1:5, 25 września 1976 roku). Pierwszy sezon w barwach Stali Szarmach zakończył na 4. miejscu w lidze, tracąc do będącego na 3. miejscu Górnika Zabrze jeden punkt. Wystąpił w 23 meczach i zdobył 11 bramek. W Pucharze Polski po raz trzeci w karierze Szarmach doszedł do półfinału, w którym przegrał z Zagłębiem Sosnowiec (1:0, 9 kwietnia 1977 roku).

W sezonie 1977/1978 Szarmach zajął ze Stalą 8. miejsce w tabeli, mając dwa punkty przewagi nad strefą spadkową. W rozgrywkach ligowych strzelił 13 bramek, występując w 22 meczach.