Archiwum Archiwum Instytutu jest jednym z najbogatszych zasobów źródłowych do badań historii Żydów w Polsce. W zbiorach Archiwum ŻIH znajdują się dokumenty powstałe w społeczności żydowskiej w Polsce od XVIII w. do czasów współczesnych, m.in. dokumentacja organizacji takich jak: Centralny Komitet Żydów Polskich, Joint, Hebrajskie Stowarzyszenie Pomocy Imigrantom HIAS czy Towarzystwo Propagowania Pracy wśród Żydów, prace studentów szkół wyższych i seminariów rabinackich dotyczące historii, filozofii i religioznawstwa, dokumenty gmin żydowskich, a także dokumenty dotyczące II wojny światowej: Podziemne Archiwum Getta Warszawskiego, tzw. Archiwum Ringelbluma (wpisane w 1999 r. na listę zabytków piśmiennictwa światowego UNESCO „Pamięć Świata”), pamiętniki pisane w obozach koncentracyjnych i gettach, akta Judenratów, relacje osób, które przeżyły Holokaust, prasę konspiracyjną oraz inne.
Od 2013 r. na stronie internetowej ŻIH znajduje się spis wszystkich kolekcji archiwalnych.