Ostatecznie trafił do Górnika Zabrze, natomiast Arka domagała się dyskwalifikacji i rocznego zawieszenia piłkarza.
1972–1976: Górnik Zabrze W Górniku Andrzej Szarmach zadebiutował w wygranym spotkaniu 1/16 Pucharu Europy przeciwko Sliema Wanderers (0:5, 13 września 1972 roku), w którym trzykrotnie asystował przy bramkach Włodzimierza Lubańskiego. Pierwszą bramkę dla Górnika zdobył w zwycięskim meczu rewanżowym (5:0, 27 września 1972 roku). W I lidze Szarmach zadebiutował z Gwardią Warszawa (0:0, 17 września 1972 roku), zaś premierową bramkę strzelił przeciwko Polonii Bytom (1:0, 1 października 1972 roku). Początkowo Szarmach był ustawiany na lewym skrzydle. Dopiero za kadencji trenera Teodora Wieczorka został przesunięty do linii ataku. W sezonie 1972/1973 Górnik nie obronił mistrzostwa Polski z poprzedniego sezonu i zajął 4. miejsce w tabeli (przegrał rywalizację o 3. miejsce z Gwardią Warszawa przez gorszy bilans bramkowy). Szarmach zagrał w 24 meczach ligowych i zdobył 10 bramek. W rozgrywkach o Puchar Polski Górnik odpadł w ćwierćfinale, przegrywając dwumecz z Odrą Wodzisław.