Według Księgi Ezdrasza, władca perski Cyrus zakończył niewolę babilońską w 538 r. p.n.e., rok po zdobyciu Babilonu. W latach ok. 521-516 p.n.e. wzniesiono drugą świątynię. Część dawnego terytorium Królestwa Judy z Jerozolimą stała się prowincją imperium perskiego.
Żydzi w diasporze mały|Dzieci żydowskie z nauczycielem w Samarkandzie około roku 1911, fot. Prokudin-Gorski Palestyńska wspólnota żydowska przez kolejne stulecia podlegała, wraz z całym krajem, władzy imperium perskiego, następnie Aleksandra Wielkiego, Ptolemeuszów egipskich i ostatecznie syryjskich Seleucydów – aż do powstania Machabeuszy w 167 r. p.n.e., w którego efekcie powstało niezależne królestwo żydowskie. Przez całą drugą połowę pierwszego tysiąclecia p.n.e. rozwijała się świadomość narodowo-religijna Żydów w oparciu o religię judaizmu, która została skodyfikowana w tym okresie. Głównym centrum religijnym Żydów jest od tego czasu Jerozolima, gdzie stała Świątynia Jerozolimska. Po stu latach królowie żydowscy jako wasale poddali się Rzymianom. W I i II w n.e., po dwóch kolejnych powstaniach żydowskich, Rzymianie zdziesiątkowali ludność żydowską i zlikwidowali niepodległe królestwo.