16 września 1953 arcybiskup Walenty Dymek powierzył mu stanowisko profesora Arcybiskupiego Seminarium Duchownego w Poznaniu.
16 listopada 1958 mianowany został przez papieża Jana XXIII biskupem pomocniczym diecezji gdańskiej i biskupem tytularnym Alii. Sakry biskupiej udzielił mu w Kościele Wniebowzięcia NMP w Gdańsku prymas, kardynał Stefan Wyszyński w asyście arcybiskupa Antoniego Baraniaka i biskupa Edmunda Nowickiego.
Jako biskup pomocniczy gdański podjął wykłady w Biskupim Seminarium Duchownym w Gdańsku oraz kierownictwo referatu nauki chrześcijańskiej w gdańskiej kurii. Oprócz tego wykonywał typowe posługi biskupie, takie jak wizytacje kanoniczne czy udzielanie sakramentu bierzmowania. W 1964 został powołany na stanowisko krajowego duszpasterza pisarzy katolickich w Polsce.
10 marca 1971 w klinice w Warszawie zmarł biskup diecezjalny gdański Edmund Nowicki. 11 marca 1971 kolegium konsultorów wybrało biskupa Kaczmarka wikariuszem kapitulnym diecezji gdańskiej. Blisko pół roku później, 2 grudnia 1971, papież Paweł VI mianował go biskupem diecezjalnym diecezji gdańskiej.