Wszystko to sprawiło, że biskup poznański Jan Lubrański dekretem z 1512 r. zezwolił na dalsze szerzenie kultu maryjnego i budowę kościoła. Pierwszy kościół był drewniany o konstrukcji szachulcowej. W 1540 r. anonimowy malarz z Wielkopolski namalował do niego obraz Matki Bożej z Dzieciątkiem, który szybko zdobył sławę cudownego i stał się celem licznych pielgrzymek. W 1668 r. Adam Konarzewski sprowadził na Świętą Górę filipinów z Kongregacji Oratorium św. Filipa Neri, w których posiadaniu Święta Góra jest do dzisiaj.
Obecny kościół powstał w latach 1675–1698. Miał on być wotum ufundowanym przez Adama Konarzewskiego w podziękowaniu za cudowne uzdrowienie w dzieciństwie. Adam Konarzewski wkrótce jednak zmarł, a budowa była kontynuowana przez wdowę po nim Zofię z Opalińskich. Swój obecny kształt kościół zawdzięcza jej podróży do Włoch, podczas której zobaczyła ona kościół Santa Maria della Salute w Wenecji. Będąc pod wrażeniem piękna tej świątyni, Zofia Konarzewska postanowiła zbudować jej replikę pod Gostyniem, według projektu włoskiego architekta Baltazara Longheny, który był też twórcą kościoła w Wenecji. Budowę według nowych planów rozpoczęto w 1677 r. Pracami kierowali architekci włoscy Jerzy Catenazzi i Jan Catenazzi.