W 1903 roku po stronie południowej szosy starotarnowickiej na pokrytym tzw. warpiami terenie, na którym dawniej działała kopalnia żelaziaka brunatnego, założono z inicjatywy burmistrza miasta, Richarda Otte, oraz proboszcza parafii katolickiej, ks. Franza Kokotta, okazały park. Na zachód od niego w latach 1916 i 1918 powstały dwa nowe cmentarze. Cmentarz założony w 1918 to Cmentarz Wojenny, na którym spoczęli żołnierze polegli w czasie pierwszej (a później także drugiej) wojny światowej oraz polscy żołnierze zmarli w okresie II Rzeczypospolitej. Z kolei przy bramie wejściowej Nowego Cmentarza z 1916 roku (Cmentarz św. Józefa), wybudowano w 1919 roku okazałą halę cmentarną inspirowaną antycznymi świątyniami rzymskimi. W 1959 roku przekształcono ją w kościół noszący wezwanie św. Józefa Robotnika. Jego wejście poprzedza klasycystyczny portyk z trójkątnym tympanonem wspartym na czterech kanelowanych kolumnach, ściany świątyni są poprzedzielane pilastrami na zewnątrz, a lizenami wewnątrz, cały budynek zaś nakryty jest czterospadowym dachem.