W 1325 roku Sankt Johann otrzymało własnego duszpasterza, a w 1329 roku na miejscu obecnego kościoła konsekrowano świątynię pod wezwaniem obu świętych Janów.
W latach 1618–1619 kościół poddano gruntownej renowacji, podczas której otrzymał nowy ołtarz i tabernakulum. Średniowieczna budowla została jednak całkowicie zniszczona 31 maja 1855 roku podczas pożaru, który objął znaczną część zabudowy Sankt Johann. Pozostałości świątyni rozebrano w latach 1855–1856.
Budowę nowego, znacznie większego kościoła rozpoczęto 1 maja 1857 roku według projektu monachijskiego architekta Georga Schneidera. Zaplanował on trójnawową neogotycką halę z pojedynczą wieżą zachodnią. Nawa była na tyle ukończona, że 28 października 1862 roku można było dokonać jej poświęcenia i rozpocząć odprawianie nabożeństw.
Budowę planowanej 72-metrowej wieży rozpoczęto w 1870 roku. 22 czerwca 1871 roku w jej murach pojawiły się pęknięcia, w związku z czym kościół zamknięto, a mieszkańców sąsiednich budynków ewakuowano. Tego samego dnia wieża zawaliła się, niszcząc dwa przęsła korpusu nawowego. Za przyczynę katastrofy uznano wadliwe posadowienie jednego z filarów.