XVI w. Od 1553 kupiec i bankier królewski Izrael (Isserle) ben Josef, wnuk przybyłego z Ratyzbony bankiera Mojżesza Auerbacha, starał się u króla Zygmunta II Augusta o zezwolenie na adaptację własnego domu na synagogę. Zgoda wydana została 12 listopada 1556. Tablica fundacyjna wskazuje na datę budowy 1553, jednak trudno przyjąć, by budowę faktycznie rozpoczęto bez pozwolenia królewskiego. Być może inskrypcję na tablicy należy rozumieć jako mogącą odnosić się do daty podjęcia przez jej fundatora decyzji o budowie drugiej synagogi na Kazimierzu. Ale można także założyć, że fundator był na tyle pewny, że zgoda królewska zostanie wydana, iż rozpoczął budowę wcześniej.
1 kwietnia 1557 pożar zniszczył znaczącą część miasta żydowskiego wraz z synagogą, która wkrótce została odbudowana. Ponownie zezwolenie króla było konieczne do budowy, wówczas już murowanej, synagogi i po jego uzyskaniu prace budowlane ruszyły w 1558, kierowane prawdopodobnie przez krakowskiego mistrza murarskiego Stanisława Baranka. Sądząc z niewielkich rozmiarów tej budowli, służyła ona prawdopodobnie jako dom modlitwy dla wąskiego kręgu rodziny i przyjaciół fundatora. XVII i XVIII wiek przyniosły kolejne przebudowy, obejmujące również drewniane i murowane przybudówki.