Krypta U stóp prezbiterium znajduje się krypta Goi, w której zachował się nagrobek z cmentarza w Bordeaux, miasta w którym zmarł. Obok niego jest pochowany jego przyjaciel Martín Miguel de Goicoechea. Zostali pochowani razem 29 września 1919 r., aby uniknąć błędu w identyfikacji szczątków. Ciało Goi nie miało czaszki, która prawdopodobnie została oddzielona do analizy frenologicznej.
Muzeum 1 kwietnia 1905 r. kościół został zaliczony do zabytków narodowych. W 1928 r. aby chronić zabytkowe wnętrze przekształcono go w muzeum (zarządzane od 1987 r. przez Urząd Miasta Madryt) i wybudowano replikę eremu, do której przeniesiono sprawowanie mszy. Architektem repliki był Juan Moya Idígoras. W oryginalnym eremie ostatnie msze sprawowano w 1929 r., obecnie odprawia się je dwa razy w roku w rocznicę urodzin i śmierci Goi.
Lokalne święto Już w XVIII w. święty Antoni był szczególnie popularny wśród praczek pracujących nad rzeką Manzanares (nieopodal eremu). Możliwe, że to właśnie dzięki nim stał się patronem panien na wydaniu. W XIX pracujące nieopodal młode szwaczki chodziły do eremu aby prosić świętego o męża.