Od pierwszych tygodni wojny Ringelblum pisał osobisty dziennik. Już w październiku 1939 zaczął także gromadzić materiały i dokumenty na temat sytuacji Żydów w okupowanej Polsce. Dzięki członkostwu we władzach ŻSS uzyskał dostęp do wielu interesujących źródeł informacji, m.in. mógł zapoznać się relacjami żydowskich uchodźców, których Niemcy wypędzili z rodzinnych miejscowości i przesiedlili do getta warszawskiego. Już wówczas przy zbieraniu materiałów pomagało mu kilku współpracowników. Zorientowawszy się, iż Niemcom nie zależy na kontrolowaniu życia intelektualnego i kulturalnego w getcie, Ringelblum doszedł do wniosku, że można zaryzykować nadanie tej działalności bardziej zorganizowanego charakteru. Począwszy od maja 1940 zdołał pozyskać do współpracy kilkudziesięciu żydowskich literatów, nauczycieli, naukowców i działaczy społecznych. Za datę formalnego utworzenia podziemnego archiwum getta uznaje się inauguracyjne zebranie w dniu 22 listopada 1940, które odbyło się w mieszkaniu Ringelbluma przy ul. Leszno 18. Organizacja przyjęła konspiracyjną nazwę Oneg Szabat (pol. „Radość soboty”, „Radość szabatu”). Kryptonim ten wybrano ze względu na fakt, iż zebrania członków odbywały się najczęściej w soboty. Za miejsce spotkań służyły biura ŻSS mieszczące się w budynku Głównej Biblioteki Judaistycznej przy ul.