Kr.u. 70-ben a Római Birodalom lerombolta a jeruzsálemi Második Templomot, és ezzel 1948-ig véget ért a zsidó uralom Izrael földjén. Bár a zsidó lakosság nem kapott rendeletet a föld elhagyására, a körülmények, mint például a fiscus Judaicus, a zsidókra kivetett különadó, elég súlyosak voltak ahhoz, hogy a legtöbb lakost meggyőzzék arról, hogy szétszóródjanak a földkerekségen.
Egy kis közösség maradt
Mégis maradt néhány zsidó Palesztinában. Bar Kochba vezette a zsidók egy kis csoportját a rómaiak elleni felkelésben Kr. u. 132-135 között, válaszul az új római város, “Aelia Capitolina” Jeruzsálem területén való felépítésére. Bár a felkelést erőszakos és kemény megtorlások fogadták, a század végére a rómaiak hivatalosan is engedélyezték a judaizmust, mint szentesített vallást Palesztinában.
Amikor a keresztény bizánciak a negyedik században átvették Palesztina irányítását, számos korlátozást vezettek be a megmaradt zsidó közösségre, a keresztények és zsidók közötti vegyesházasság megtiltásától kezdve a zsidók keresztény rabszolgák birtoklásának megtiltásáig. Szó volt a zsidóság teljes betiltásáról is, de ezek a tervek soha nem valósultak meg.
A kisebb tudósállomány ellenére a palesztinai rabbinikus akadémiák képesek voltak befejezni a ma Jerushalmi Talmud (Jeruzsálemi Talmud) néven ismert művet. Bár a babiloni Talmudot tekintik a tekintélyesebb műnek, a Jeruzsálemi Talmud még mindig az egyik legfontosabb hozzájárulás a zsidó irodalomhoz.
Élet a muszlim uralom alatt
638-ban Omar kalifa elfoglalta Jeruzsálemet a bizánciaktól, és ezzel megkezdődött a muszlim uralom a terület felett. Bár a zsidókat és a keresztényeket másodrendű állampolgároknak tekintették, a közvetlen üldöztetés mértéke jelentősen csökkent.
A palesztinai közösség meglehetősen csendes volt a korai iszlám időszakban. Egy rabbinikus akadémia alakult Tiberiusban (majd később Ramle-ba költözött), hogy – sikertelenül – felvegye a versenyt a bagdadi tíz zsidó akadémiával.
Keresztény uralom: More of the same
1099-ben keresztes lovagok érkeztek Palesztinába, és keresztény királyságot hoztak létre Jeruzsálemben, amely 1187-ig tartott. A keresztesek megtiltották a zsidóknak, hogy Jeruzsálem városában éljenek, bár Palesztina többi részén élhettek, és megengedték nekik, hogy Jeruzsálembe látogassanak.
A keresztény uralom azonban rövid életű volt. 1187-ben Szaladin és az Ayyubid dinasztia elfoglalta Jeruzsálemet. Sőt, bár a keresztény Európa állandó jelenlétet akart kialakítani Jeruzsálemben és a Közel-Keleten, végül Európába vonultak vissza, miután a muszlimok 1291-ben visszafoglalták Akkót.
1258-ban Bagdad a mongolok kezére került. Birodalmuk összeomlásától tartva és erejüket bizonyítani akarván, a muszlim uralkodók kemény szankciókat vetettek ki a zsidókra és keresztényekre az egész régióban, beleértve Palesztinát is. Ezeket a korlátozásokat – köztük a speciális ruházat viselését és azt, hogy az orvosok nem szolgálhatták ki a muszlim betegeket – a hetedik századi Umar-paktumban sorolták fel, a muszlim területeken élő nem muszlimokra vonatkozó törvények listájában, amelyet korábban ritkán hajtottak végre.
Az oszmán uralom: Új lehetőségek a zsidó közösség számára
Az Oszmán Birodalom 1517-ben hódította meg Palesztinát, és egészen a birodalom hanyatlásáig, az első világháború végéig tartotta azt. Az oszmánok, bár gyakorló muszlimok voltak, sokkal kevésbé voltak szigorúak a zsidó közösséggel szemben, mint a korábbi iszlám birodalmak, és valójában lehetővé tették számukra, hogy virágozzanak. A palesztinai zsidó lakosság száma az előző évtizedekben az inkvizíció során elűzött spanyol és portugál zsidók beáramlásával robbanásszerűen megnőtt. A zsidó közösségek száma Jeruzsálemben, Tiberiasban, Gázában, Hebronban, Akkonban és Safedben jelentősen megnőtt ebben az időszakban.
Safedben Isaac Luria rabbi forradalmasította a zsidó misztikus gondolkodást, és Safedet a kabbalisztikus tanulmányok központjává tette. Szintén Szafedben írta Luria követője, Joseph Caro a Shulchan Arukh-t, amely a mai napig a legbefolyásosabb zsidó jogi kódex.
1798-ban Napóleon megszállta Egyiptomot. Bár Palesztinát soha nem foglalta el, a Közel-Keletre gyakorolt európai befolyásnak pozitív hatásai voltak a zsidó közösségre. A 19. században számos reform vezetett ahhoz, hogy a zsidóknak több joguk lett, és 1876-ban teljes jogú állampolgárságot kaptak (a birodalom összes többi lakosával együtt).
A század végére, miután Kelet-Európában megszaporodtak az antiszemita incidensek, a zsidók Palesztinába kezdtek költözni abban a reményben, hogy ott egy napon zsidó hazát teremthetnek. Ez volt a modern cionista mozgalom kezdete, amely hivatalosan az első cionista világkongresszussal vált szervezetté, amelyet 1897-ben tartottak a svájci Bázelben. 1909-re zsidó telepesek megalapították Tel-Avivot, a modern Palesztina első tisztán zsidó városát.
Az első világháború végére a britek a Franciaországgal kötött Sykes-Picot-megállapodás részeként a hamarosan nem létező Oszmán Birodalom felosztása során átvették Palesztina ellenőrzését. Nem ez lett volna az utolsó politikai változás Palesztinában. Az arab lakosság és a növekvő zsidó lakosság közötti konfliktusok az elkövetkező évtizedekben megváltoztatták volna a Közel-Kelet arculatát.