Jednym z głównych zadań Piotra Kapnista było rozwiązanie sporu papiesko-rosyjskiego, dotyczącego Kolegium Duchownego w Petersburgu. Instytucja ta, sprzeczna z prawem kanonicznym, ograniczała wolność Kościoła rzymskokatolickiego, nie tylko w Kraju Nadwiślańskim, ale także na terenie Imperium Rosyjskiego. W konsekwencji wiele stolic biskupich pozostawało nieobsadzonych. W latach siedemdziesiątych XIX wieku Rosja zaczęła dążyć do ugody ze Stolicą Apostolską. W 1873 roku, Kapnist, w imieniu rządu petersburskiego, przedstawił w Sekretariacie Stanu projekt reformy spornego kolegiumBoudou A., O Kolegjum Duchowne w Petersburgu, w: Przegląd Powszechny, Kraków 1925, s. 355.. Poseł zapewnił, że Rosja jest gotowa pozbawić kolegium wszystkich spornych uprawnień. Tzw. Memoriał Kapnista głosił, że kolegium „odjętoby wszelkie atrybucje sądownicze w sprawach małżeńskich i przywrócono by w tej materii dawny porządek rzeczy, obowiązujący od r. 1848. Kolegium nie mieszałoby się wcale do stosunków między klerem a Stolicą Świętą”, lecz zachowało jedynie „funkcje czysto administracyjne”.