I år 70 e.Kr. blev det andet tempel i Jerusalem ødelagt af Romerriget, og dermed ophørte det jødiske styre i Israels land indtil 1948. Selv om den jødiske befolkning ikke fik et dekret om at forlade landet, var forholdene, såsom fiscus Judaicus, en særlig skat pålagt jøder, alvorlige nok til at overbevise de fleste indbyggere om at sprede sig rundt omkring på kloden.
Et lille samfund er tilbage
Så blev nogle jøder alligevel tilbage i Palæstina. Bar Kochba ledte en lille gruppe jøder i et oprør mod romerne fra 132-135 e.Kr. som reaktion på opførelsen af den nye romerske by “Aelia Capitolina” på Jerusalems område. Selv om oprøret blev mødt med voldelige og hårde gengældelser, tillod romerne i slutningen af århundredet officielt jødedommen som en sanktioneret religion i Palæstina.
Da de kristne byzantiner overtog kontrollen med Palæstina i det fjerde århundrede, blev der indført mange restriktioner for det tilbageværende jødiske samfund, lige fra forbud mod blandede ægteskaber mellem kristne og jøder til forbud mod, at jøder ejede kristne slaver. Der var tale om at forbyde jødedommen helt og holdent, men disse planer blev aldrig ført ud i livet.
Trods den mindre samling af lærde var rabbinerakademierne i Palæstina i stand til at færdiggøre det, der i dag er kendt som Talmud Yerushalmi (Jerusalem Talmud). Selv om den babyloniske Talmud anses for at være det mere autoritative værk, er Jerusalem Talmud stadig et af de vigtigste bidrag til den jødiske litteratur.
Liv under muslimsk styre
I 638 erobrede kalif Omar Jerusalem fra byzantinerne og indledte dermed det muslimske styre over området. Selv om jøder og kristne blev betragtet som andenrangsborgere, faldt mængden af direkte forfølgelse betydeligt.
Samfundet i Palæstina var forholdsvis roligt i den tidlige islamiske periode. Der blev oprettet et rabbinerakademi i Tiberius (og senere flyttet til Ramle) for at konkurrere, uden held, med de ti jødiske akademier i Baghdad.
Kristent styre: Mere af det samme
I 1099 ankom korsfarerne til Palæstina og oprettede et kristent kongedømme i Jerusalem, der varede indtil 1187. Korsfarerne forbød jøderne at bo i byen Jerusalem, selv om de havde lov til at bo i resten af Palæstina og havde lov til at besøge Jerusalem.
Men det kristne styre var kortvarigt. I 1187 erobrede Saladin og det ayyubidiske dynasti Jerusalem. Selv om det kristne Europa ønskede at etablere en permanent tilstedeværelse i Jerusalem og Mellemøsten, trak de sig faktisk til sidst tilbage til Europa efter muslimernes generobring af Akkon i 1291.
I 1258 faldt Baghdad til mongolerne. Af frygt for et sammenbrud af deres imperium og for at bevise deres styrke indførte de muslimske herskere hårde sanktioner over for jøder og kristne i hele regionen, herunder Palæstina. Disse restriktioner – herunder at bære særlig beklædning og at læger ikke måtte betjene muslimske patienter – blev opregnet i Umars pagt fra det syvende århundrede, en liste over love vedrørende ikke-muslimer, der boede i muslimske lande, som tidligere sjældent var blevet håndhævet.
Det osmanniske styre: Nye muligheder for det jødiske samfund
Det osmanniske rige erobrede Palæstina i 1517 og holdt det indtil imperiets nedgang ved slutningen af Første Verdenskrig. Osmannerne var, selv om de var praktiserende muslimer, langt mindre hårde over for det jødiske samfund end tidligere islamiske imperier og tillod dem faktisk at trives. Den jødiske befolkning i Palæstina var eksploderet i de foregående årtier med tilstrømningen af spanske og portugisiske jøder, som var blevet fordrevet under inkvisitionen. De jødiske samfund i Jerusalem, Tiberias, Gaza, Hebron, Acre og Safed voksede kraftigt i antal i denne periode.
I Safed revolutionerede rabbiner Isaac Luria den jødiske mystiske tænkning og etablerede Safed som centrum for kabbalistiske studier. Også i Safed skrev Lurias efterfølger, Joseph Caro, Shulchan Arukh, som stadig er den mest indflydelsesrige jødiske lovbog den dag i dag.
I 1798 invaderede Napoleon Egypten. Selv om han aldrig erobrede Palæstina, havde den europæiske indflydelse på Mellemøsten positive virkninger for det jødiske samfund. En række reformer i det 19. århundrede førte til flere rettigheder for jøderne, og i 1876 fik de (sammen med alle andre i imperiet) fuldt statsborgerskab.
I slutningen af århundredet begyndte jøderne efter en stigning i antisemitiske hændelser i Østeuropa at flytte til Palæstina med håbet om en dag at skabe et jødisk hjemland der. Dette var begyndelsen på den moderne zionistiske bevægelse, der officielt blev organiseret med den første zionistiske verdenskongres, som blev afholdt i Basel i Schweiz i 1897. I 1909 havde jødiske bosættere grundlagt Tel Aviv, den første rent jødiske by i det moderne Palæstina.
I slutningen af Første Verdenskrig havde briterne overtaget kontrollen med Palæstina som en del af Sykes-Picot-aftalen med Frankrig i deres deling af det snart ikke-eksisterende osmanniske rige. Dette skulle ikke blive den sidste politiske ændring i Palæstina. Konflikter mellem den arabiske befolkning og den voksende jødiske befolkning ville i de kommende årtier ændre ansigtet på Mellemøsten.