Wybraną lokalizacją był dawny (pierwszy w Łodzi) cmentarz katolicki przy ul. Ogrodowej, nieczynny od 1852 roku. Władze poinformowano, że w ołtarzu głównym zostanie umieszczony obraz św. Mikołaja, patrona cara. Przenosin budynku dokonali robotnicy fabryki Poznańskiego pod nadzorem architekta Konstantego Wojciechowskiego. Prace rozpoczęto 10 kwietnia 1888 roku. Według legendy samo przenoszenie trwało zaledwie jeden dzień. Prace ukończono 10 maja, a 21 maja 1888 arcybiskup warszawski Wincenty Teofil Popiel dokonał rekonsekracji kościoła, nadając mu za patrona św. Józefa. Do roku 1909 pełnił funkcję świątyni filialnej, natomiast w roku 1910 erygowano parafię pw. św. Józefa, której stał się siedzibą. Pierwszym proboszczem parafii został ks. inf. Henryk Przeździecki. Dokonał on kolejnej rozbudowy poszerzając kościół o nawy boczne, dobudowując kaplice boczne i przebudowując prezbiterium. Odkupił on również przylegający do kościoła teren zamkniętego cmentarza ewangelickiego, który zaaranżowano na park parafialny. W tym samym okresie rodzina Poznańskich ufundowała 5 nowych ołtarzy wykonanych przez firmę Święty Wojciech w Poznaniu. W 1935 roku wyremontowano dzwonnicę i umieszczono w niej dzwony: Józef, Walenty, Antoni, skradzione przez hitlerowców w czasie II wojny światowej, kiedy to kościół został zamknięty.