Podstawową jednostką w strukturach ZRWM była kongregacja, która nie posiadała jednak osobowości prawnej. Organizacja podlegała Urzędowi do Spraw Wyznań MSW, jednak ostatecznie sytuacja prawna wspólnoty została uregulowana 28 czerwca 1961 roku, kiedy związek został oficjalnie zarejestrowany i jego struktury uzyskały osobowość prawną. W 1963 roku związek obejmował 20 kongregacji: w Bielsku-Białej, Bytomiu, Częstochowie, Dzierżoniowie, Gliwicach, Katowicach, Krakowie, Legnicy, Łodzi, Lublinie, Sosnowcu, Świdnicy, Szczecinie, Tarnowie, Wałbrzychu, Warszawie, Wrocławiu, Włocławku, Zgorzelcu i Żarach. Działało w nich 27 synagog oraz domów modlitwy, pod opieką organizacji znalazły się także 53 cmentarze oraz 9 kuchni rytualnych. Rozprowadzano również mięso z uboju rytualnego oraz macę.
Od 1950 roku działalność organizacji była stopniowo ograniczana, w związku z kolejnymi falami migracji malała również liczba członków – w 1963 roku było ich 6 tysięcy, w 1968 roku do 5 tysięcy. Na początku lat 70. XX wieku członków było tylko 2 tysiące, w 1982 roku było ich 1892, a w 1990 roku – 1558. Ostatni zjazd organizacji miał miejsce w 1968 roku.