Ostatnie antyczne synagogi na terenie Palestyny powstały w początkach VII w. Po opanowaniu regionu przez Arabów w 637 budowanie synagog zostało zakazane, a większość Żydów zmuszona do opuszczenia Palestyny.
Średniowiecze thumb|Wnętrze synagogi w Ratyzbonie Niewiele wiadomo o synagogach powstałych we wczesnym średniowieczu. Pierwsze przekazy dotyczące późniejszych synagog pochodzą z XI i XII wieku, i odnoszą się do Europy, gdzie do X wieku znalazła się większość Żydów. Wykształciły się wówczas dwa odłamy kultury i religii żydowskiej – sefardyjski na Półwyspie Iberyjskim i aszkenazyjski w Niemczech i pozostałej części Europy. Architektura synagog sefardyjskich rozwijała się pod wpływem kultury islamu, w opanowanej przez Arabów Hiszpanii. Najważniejszymi synagogami sefardyjskimi były powstała około 1200 r. synagoga w Toledo, oraz nieco późniejsze synagogi w Segowii i Kordobie. Były to budowle o układzie bazylikowym, posiadające dekoracje w stylu mauretańskim.