Budynek Projekt budynku przygotowali znani serbscy architekci , i . Przyjęli oni założenie, że styl budynku powinien być zgodny z jego przeznaczeniem. Jest to budynek wolno stojący. Wejście zdobią cztery kolumny z frontonem z symetrycznie umieszczonym akroterionem. Ozdoby na froncie budynku wyrzeźbił Stojanovic. Wnętrze jest wzorowane na ówczesnych bibliotekach berlińskich. Czytelnia studencka został umieszczona na parterze, a profesorska na piętrze. W budynku znalazły się też mniejsze czytelnie, magazyny i katalogi. Meble zostały zakupione w kraju i za granicą w ramach pożyczek rządowych i odszkodowań niemieckich. W holu umieszczono podarowane popiersie Andrew Carnegie. Gdy podczas II wojny światowej zostaje zniszczona Biblioteka Narodowa Biblioteka Uniwersytecka, która posiadała wówczas 280 000 woluminów przejmuje jej funkcję.

W 2016 roku biblioteka otrzymała darowiznę w wysokości 106 000 USD na przebudowę fasady i dachu z amerykańskiego Funduszu Ochrony Dziedzictwa Kulturowego. Prace zostały wykonane w 2017 roku.