Ks. Staliński pozostawał w Prabutach do 3 lipca 1890, kiedy to został mianowany proboszczem w Sztumie, po śmierci tamtejszego kaznodziei Petera Gaeblera. Już od dłuższego czasu starano się tam o rozbudowę świątyni, jednak władze w okresie kulturkampfu patrzyły na to nieprzychylnym okiem, bowiem parafia miała wówczas w przeważającej części polski charakter, o czym świadczy fakt, iż tylko w co trzecią niedzielę odprawiane były msze św. w języku niemieckim. Ks. Staliński miał już spore doświadczenie jako budowniczy kościoła w Prabutach, poza tym władze pruskie były mu przychylne, czego dowodem były nadane mu odznaczenia państwoweJanusz Ryszkowski Jak rozbudowano kościół św. Anny w: Informator miasta i gminy Sztum, grudzień 2015. W latach 1899–1901 kościół św. Anny przeszedł poważną przebudowę (kościół częściowo rozebrano i przedłużono o 10 metrów), a w 1901 zakupiono nowe organy do świątyni firmy TerletzkiWacław Bielecki Organy kościoła św. Anny w Sztumie w: Prowincja : kwartalnik społeczno-kulturalny Dolnego Powiśla i Żuław, nr 2 (4) 2011. Ponadto zasługą księdza było utworzenie w mieście domu dla sierotDie Presse: Ostmärkische Tageszeitung Anzeiger für Stadt und Land, s. 2 Provinzialnachrichten, 9 marca 1911. W Sztumie ks. Staliński pełnił posługę do 22 kwietnia 1908 rokuJan Wiśniewski Budowa kościoła św.