Po studiach rozpoczął pracę jako prywatny nauczyciel, a od 1872 uczył religii, języka niemieckiego i geografii w ewangelickiej szkole realnej w Bielsku. Na duchownego ordynowano go 3 listopada 1872 w Białej, gdzie w latach 1872–1874 był wikariuszem superintendenta Jakuba Hönela. W 1874 został duszpasterzem parafii ewangelickiej w Wiener Neustadt. W latach 1883–1885, po śmierci Karla Samuela Schneidera, był proboszczem w Bielsku. W 1885, kiedy zmarł Jakub Hönel, przejął parafię bialską.

28 sierpnia 1880 wziął ślub z Laurą Gertrudą Seeliger, córką bialskiego burmistrza Rudolfa Theodora Seeligera.

W 1884 Fritsche, wraz z Theodorem Haase i Ferdynandem Schurem, założył wydawaną do 1940 gazetę „Evangelische Kirchen-Zeitung für Österreich”, komentującą ówczesną sytuację Kościoła ewangelickiego w monarchii austro-węgierskiej. W 1904 wraz z Theodorem Zöcklerem założył czasopismo „Evangelisches Gemeindeblatt für Galizien und Bukowina”, które istniało do 1939. Przez lata zamieszczał swoje kazania w ukazujących się w Lipsku: „Sammlung von geistlichen Kasualreden” i „Predigten der Gegenwart”.

Od 1907 był przewodniczącym wyższych władz Kościoła ewangelicko-augsburskiego w Austro-Węgrzech, a rok później został superintendentem Galicji i Bukowiny.