Wszystkich Świętych przy placu Grzybowskim wznieśli ołtarz z obrazem „Błogosławieństwo dzieci”. Górscy ufundowali też świątynię w Zembrowie. Mąż Pauliny był nieoficjalnym łącznikiem Kościoła katolickiego w Królestwie Polskim z papieżami Piusem IX, Leonem XIII i Piusem X, stąd ich warszawski pałac przy ul. Foksal 8 nazywano „polskim Watykanem”.
W 1876 Górscy zbudowali w Ceranowie pałac otoczony parkiem, ogrodem i stawami rybnymi. W swoich majątkach, zamiast pańszczyzny, wprowadzili odpłatność za robociznę. Ludwik Górski przeprowadził jedną z pierwszych w kraju meliorację gruntów.
Od imienia Pauliny Górskiej pochodzi nazwa folwarku Paulinów w dobrach sterdyńskich. Istniała tu cegielnia oraz gorzelnia z łaźnią dla służby folwarcznej.
Od 1851 Paulina Górska opiekowała się Warszawskim Towarzystwem Dobroczynności. Przekazywała znaczne sumy na jego działalność. W 1854 wraz z mężem i dwoma kapłanami założyła w Warszawie, przy parafii pw. św. Krzyża, Towarzystwo Pań Miłosierdzia św. Wincentego à Paulo. Była to organizacja charytatywna. Na parceli Górskich, przy ul. Ordynackiej 4, powstała siedziba stowarzyszenia, apteka dla biednych oraz przytułek dla osieroconych dziewcząt. Paulina Górska była prezeską towarzystwa aż do swojej śmierci.