Vuonna 70 jKr. Rooman valtakunta tuhosi Jerusalemin toisen temppelin, mikä käytännössä lopetti juutalaisten vallan Israelin maassa vuoteen 1948 asti. Vaikka juutalaisväestölle ei annettu määräystä lähteä maasta, olosuhteet, kuten fiscus Judaicus, juutalaisille määrätty erityisvero, olivat tarpeeksi vakavia vakuuttamaan useimmat asukkaat hajaantumaan ympäri maailmaa.
Pieni yhteisö säilyy
Siltikin osa juutalaisista jäi Palestiinaan. Bar Kochba johti pientä juutalaisjoukkoa kapinassa roomalaisia vastaan vuosina 132-135 jKr. vastauksena uuden roomalaiskaupungin ”Aelia Capitolinan” rakentamiseen Jerusalemin alueelle. Vaikka kapinaan suhtauduttiin väkivaltaisesti ja ankarasti, vuosisadan loppuun mennessä roomalaiset sallivat virallisesti juutalaisuuden hyväksytyksi uskonnoksi Palestiinassa.
Kun kristityt bysanttilaiset ottivat Palestiinan haltuunsa neljännellä vuosisadalla, jäljelle jääneelle juutalaisyhteisölle asetettiin monia rajoituksia kristittyjen ja juutalaisten välisten avioliittojen kieltämisestä siihen, että juutalaisia kiellettiin omistamasta kristittyjä orjia. Puhuttiin juutalaisuuden kieltämisestä kokonaan, mutta nämä suunnitelmat eivät koskaan toteutuneet.
Palestiinan rabbiakatemiat kykenivät pienemmästä oppineistostaan huolimatta saamaan valmiiksi sen, mikä nykyään tunnetaan nimellä Talmud Yerushalmi (Jerusalemin Talmud). Vaikka Babylonian Talmudia pidetään arvovaltaisempana teoksena, Jerusalemin Talmud on silti yksi juutalaisen kirjallisuuden tärkeimmistä teoksista.
Elämä muslimien vallan alla
Vuonna 638 kalifi Omar valloitti Jerusalemin bysanttilaisilta ja aloitti muslimien vallan alueella. Vaikka juutalaisia ja kristittyjä pidettiin toisen luokan kansalaisina, suoran vainon määrä väheni huomattavasti.
Palestiinan yhteisö oli melko hiljainen islamin varhaiskaudella. Tiberiukseen perustettiin rabbiakatemia (joka myöhemmin siirrettiin Ramleen) kilpailemaan, tuloksetta, Bagdadin kymmenen juutalaisakatemian kanssa.
Kristillinen hallinto: More of the Same
Vuonna 1099 ristiretkeläiset saapuivat Palestiinaan ja loivat Jerusalemiin kristillisen valtakunnan, joka kesti vuoteen 1187. Ristiretkeläiset kielsivät juutalaisia asumasta Jerusalemin kaupungissa, vaikka he saivat asua muualla Palestiinassa ja vierailla Jerusalemissa.
Mutta kristittyjen valtakunta oli lyhytikäinen. Vuonna 1187 Saladin ja Ayyubidien dynastia valloittivat Jerusalemin. Todellakin, vaikka kristitty Eurooppa halusi vakiinnuttaa pysyvän läsnäolon Jerusalemissa ja Lähi-idässä, he vetäytyivät lopulta Eurooppaan sen jälkeen, kun muslimit valtasivat Akkon takaisin vuonna 1291.
Vuonna 1258 Bagdad kaatui mongoleille. Pelätessään valtakuntansa romahtamista ja halutessaan osoittaa voimansa muslimihallitsijat asettivat ankaria pakotteita juutalaisille ja kristityille koko alueella, myös Palestiinassa. Nämä rajoitukset – muun muassa erityisvaatteiden käyttäminen ja se, että lääkärit eivät saaneet palvella muslimipotilaita – lueteltiin seitsemännellä vuosisadalla laaditussa Umarin sopimuksessa, joka oli luettelo muslimimailla asuvia ei-muslimeja koskevista laeista, joita oli aiemmin harvoin pantu täytäntöön.
Osmanien valtakausi: Uusia mahdollisuuksia juutalaisyhteisölle
Osmanien valtakunta valloitti Palestiinan vuonna 1517 ja piti sitä hallussaan, kunnes valtakunta rappeutui ensimmäisen maailmansodan lopulla. Vaikka osmanit olivat harjoittavia muslimeja, he suhtautuivat juutalaisyhteisöön paljon vähemmän ankarasti kuin aiemmat islamilaiset valtakunnat ja itse asiassa sallivat juutalaisten kukoistaa. Palestiinan juutalaisväestö oli kasvanut räjähdysmäisesti edellisinä vuosikymmeninä inkvisition aikana karkotettujen espanjalaisten ja portugalilaisten juutalaisten tulon myötä. Jerusalemin, Tiberiaksen, Gazan, Hebronin, Akkon ja Safedin juutalaisyhteisöjen määrä kasvoi huomattavasti tänä aikana.
Safedissa rabbi Isaac Luria mullisti juutalaisen mystisen ajattelun ja perusti Safedin kabbalistisen tutkimuksen keskukseksi. Samoin Safedissa Lurian seuraaja Joseph Caro kirjoitti Shulchan Arukhin, joka on tähän päivään asti vaikutusvaltaisin juutalainen lakikokoelma.
Vuonna 1798 Napoleon hyökkäsi Egyptiin. Vaikka hän ei koskaan valloittanut Palestiinaa, Euroopan vaikutuksella Lähi-idässä oli myönteisiä vaikutuksia juutalaisyhteisöön. Useat uudistukset 1800-luvulla lisäsivät juutalaisten oikeuksia, ja vuonna 1876 heille myönnettiin täysi kansalaisuus (kaikkien muiden keisarikunnan asukkaiden tavoin).
Vuosisadan lopulla juutalaiset alkoivat Itä-Euroopassa lisääntyneiden antisemitististen välikohtausten jälkeen muuttaa Palestiinaan siinä toivossa, että jonain päivänä he voisivat luoda sinne juutalaisen kotimaan. Tämä oli alku nykyaikaiselle sionistiselle liikkeelle, josta tuli virallisesti järjestäytynyt elin ensimmäisessä sionistien maailmankongressissa, joka pidettiin Baselissa, Sveitsissä vuonna 1897. Vuoteen 1909 mennessä juutalaiset uudisasukkaat olivat perustaneet Tel Avivin, ensimmäisen kokonaan juutalaisen kaupungin nykyisessä Palestiinassa.
Ensimmäisen maailmansodan loppuun mennessä britit olivat ottaneet Palestiinan haltuunsa osana Ranskan kanssa tehtyä Sykes-Picot’n sopimusta pian olemattomaksi jääneen Osmanien valtakunnan jakamisessa. Tämä ei tulisi olemaan viimeinen poliittinen muutos Palestiinassa. Arabiväestön ja kasvavan juutalaisväestön väliset konfliktit muuttaisivat tulevina vuosikymmeninä Lähi-idän kasvoja.