Klasztor przy kościele początkowo obsadzony był przez mnichów obrządku bizantyjskiego (prawdopodobnie zbiegli oni z Konstantynpola przed prześladowaniami ze strony ikonoklastów), w połowie X wieku klasztor objęli benedyktyni. W XII wieku kościół był wymieniany jako noszący wezwanie świętych Stefana I, Dionizego i Sylwestra, prawdopodobnie stało się to w efekcie przeniesienia do kościoła relikwii św. Stefana i Sylwestra z oratorium przykościelnego klasztoru. Pierwszą wzmiankę z określeniem in Capite w odniesieniu do tego kościoła znaleziono w roku 1194. We wczesnym średniowieczu kościół był nazywany Sancti Silvestri inter Duos Hortos (pomiędzy dwoma ogrodami). Kompleks zabudowań został odnowiony w latach 1198-1216, dobudowano wówczas dzwonnicę.
W 1286 roku papież Honoriusz IV przekazał kompleks zabudowań klaryskom. W XVI wieku siostry rozpoczęły przebudowę. Francesco Capriani prowadził prace w kościele w latach 1591-1601, od roku 1595 razem z Carlo Maderno. Po przebudowie kościół konsekrowano w 1601 roku. Od 1667 roku rozpoczęto prace nad dekorowaniem wnętrza, trwały one do 1697 roku. W 1703 Domenico de Rossi przebudował fasadę od ulicy.
W roku 1887 papież Leon XIII powierzył kościół św. Sylwestra pallotynom.