W 1791, cztery lata po przybyciu, redemptoryści powiększyli sierociniec i utworzyli szkołę. Otwarto również szkołę z internatem dla młodych dziewcząt pod kierownictwem szlachetnie urodzonych warszawianek (jedyną wówczas w Warszawie). Liczba chłopców sierot stale rosła. Pieniądze na utrzymanie wszystkiego przychodziły regularnie od stałych darczyńców i innych ludzi chcących pomóc w różny sposób. Obietnicę pomocy uzyskał m.in. u Stanisława Augusta Poniatowskiego oraz Komisji Edukacji Narodowej. Mimo to Klemens musiał czasem żebrać po bogatych domach, by utrzymać dwa kościoły (oprócz św. Benona opiekował się kościołem jezuickim przy katedrze, który był opuszczony po kasacie zakonu), sierociniec-internat, szkołę rodzin rzemieślniczych, szkołę elementarną, w której było od 100 do 400 dzieci (większość z nich nie płaciła za naukę i utrzymanie).
Gdy nie udawało się w inny sposób pozyskać środków na cele dobroczynne, Klemens często wyruszał na miasto w żebry.
Pracą duszpasterską św. Klemens również otaczał służące, których wiele było w Warszawie, oraz prostytutki pragnące zmiany życia. Był założycielem kilku bractw, drukarni oraz wydawnictwa wydającego książki religijne i szkolne.