Pierwsze zbiory zawierały około 350 greckich, łacińskich i hebrajskich woluminów.
Papież Sykstus IV wyznaczył stałą siedzibę na parterze Pałacu Watykańskiego, w czterech salach ozdobionych freskami przez takich artystów jak Melozzo da Forlì i bracia Ghirlandaio. Co najważniejsze, 15 czerwca 1475 roku wydał bullę Ad decorem militantis Ecclesiae, która formalnie ustanawiała Bibliotekę Watykańską jako instytucję, nadając jej personel z Bibliotekarzem Świętego Kościoła Rzymskiego na czele, regulamin oraz stałe fundusze. Pierwszym oficjalnie mianowanym Bibliotekarzem został humanista Bartolomeo Platina. Za czasów Sykstusa IV zbiory wzrosły do ponad 3500 manuskryptów, skatalogowanych przez Platinę.
W 1587 roku, ze względu na stale rosnące zbiory biblioteki, papież Sykstus V zlecił architektowi Domenico Fontanie budowę nowej, większej siedziby. Wzniesiony w latach 1587–1588 budynek przeciął Dziedziniec Belwederski i do dziś mieści główne sale Biblioteki.