Świątynia ma formę trzynawowej bazyliki z transeptem. Posiada dwie wysokie wieże w fasadzie i trzy niższe: sygnaturkę oraz dwie wieże przy prezbiterium mieszczące schody. Forma i układ przestrzenny kościoła nawiązują do tzw. gotyku nadwiślańskiego. Świątynia ta jest traktowana przez znawców architektury jako wzorcowa w polskiej architekturze sakralnej. Sam Józef Pius Dziekoński uznał ją za swoje największe osiągnięcie artystyczne.
Kościół został konsekrowany 29 września 1901 – w dniu patronalnym św. Michała Archanioła – przez bpa Kazimierza Ruszkiewicza. W uroczystości uczestniczyło 30 tys. osób. Świątynia mogła pomieścić ok. 8000 wiernych. Koszt jej budowy wyniósł 300 tys. rubli.
W latach 1932–1934 dwie 75-metrowe wieże kościoła obniżono do 2/3 ich pierwotnej wysokości. Powodem było pękanie ścian świątyni pod wpływem ciężaru hełmów wież.
7 kwietnia 1943, po mszy żałobnej odprawionej w kościele za rozstrzelanego oficera „Wachlarza” Wilhelma Baranowskiego ps. Borkowski, Gestapo aresztowało ok. 20 uczestniczących w niej członków tej organizacji.