Sprzedawał również pamiątki z Góry Zamkowej (sam również rzeźbił).
W 1925 roku pod szczytem Góry Zamkowej umieszczono 50-kilogramowy dzwon z wizerunkiem Matki Boskiej Częstochowskiej. Jego fundatorem był ks. Walenty Gadowski. Odtąd Wincenty Kasprowicz dzwonił nim na Anioł Pański, głos dzwonu pomagał także w orientacji zagubionym podczas mgły.
W dniu 31 sierpnia 1930 roku uroczyście otwarto Pieniński Park Narodowy. Jego otwarcie poprzedzone było wykupieniem ziemi w Pieninach z rąk prywatnych. Wkrótce potem w prasie rozpoczęła się kampania przeciwko pobytowi Kasprowicza w pustelni. Wzmogła się ona w 1937 roku, kiedy to na własność Parku przeszły ziemie na Górze Zamkowej. Wskazywano na niszczenie przyrody pienińskiej przez turystów i pielgrzymów zmierzających do pustelni. Ostatecznie jednak pustelnik nie tylko nie został usunięty, ale uzyskał zezwolenie na zbieranie chrustu i drzewa na terenach Parku oraz od 1934 roku prowadził na jego potrzeby stację meteorologiczną.