Вавилонски и персийски период (586-333 г. пр. Хр.)
През 586 г. пр.н.е. вавилонците под ръководството на цар Навуходоносор II превземат Йерусалим, разрушават Соломоновия храм, слагат край на Давидовото царуване и отвеждат народа в плен. Само най-бедните остават в Юда, сега вавилонска провинция Йехуд със столица в Мисфа в бившата територия на Вениамин, северно от Йерусалим. Няколко години по-късно, отново според Библията, управителят на Йехуд е убит от съперници, което предизвиква ново изселване на бежанци, този път в Египет. Така около 580 г. народът на Юда се намира на три различни места: елитът във Вавилон (където, между другото, изглежда, са били добре третирани), голяма общност в Египет и остатък в Юда. Изгнанието приключва, когато персийският цар Кир Велики завладява Вавилон (по традиция през 538 г. пр. Хр.). Персите възстановяват Юда/Йехуд като провинция ("Йехуд медината") в рамките на сатрапията "Отвъд реката" и през следващия век част от изгнаниците се завръщат в Йерусалим. Там те в крайна сметка възстановяват Храма (по традиция 516/515 г. пр. Хр.), но в продължение на повече от век административната столица остава в Мисфа. Междувременно Самария продължава да съществува като провинция Семарина в рамките на една и съща сатрапия с Йехуд.
Персийският период
През 539 г. пр.н.е. персите завладяват Вавилон и през 537 г. пр.н.е. поставят началото на персийския период в еврейската история. През 520 г. пр.н.е. КирВелики разрешава на евреите да се върнат в Юдея и да възстановят Храма (завършен 515 г. пр.н.е.). Той назначава Зоровавел (внук на предпоследния юдейски цар Иоахин) за управител, но не разрешава възстановяването на царството. Влиянието на зороастризма върху монотеизма, юдаизма, както и върху християнството, все още е предмет на научни дебати.
Без могъщ цар храмът става по-могъщ и свещениците се превръщат в доминираща власт. Въпреки това Вторият храм бил построен под чужда власт и имало въпросителни относно неговата легитимност. Това е предпоставка през следващите векове в юдаизма да се развият различни секти, всяка от които претендира да представлява "юдаизма". Повечето от тях обикновено не насърчавали социалните контакти, особено брака, с членове на други секти.
В края на вавилонското изгнание се построява не само Вторият храм, но и, според документалната хипотеза, окончателната версия на Тората. Въпреки че свещениците контролират монархията и Храма, книжниците и мъдреците (които по-късно стават равини) монополизират изучаването на Тората, която (от времето на Ездра) се чете публично в пазарните дни. Тези мъдреци развиват и поддържат устна традиция наред със Свещеното писание и се идентифицират с пророците. Според Геза Вермес към тези книжовници често се обръщали с основния термин за уважение "господар".
Елинистичен и римски период (333 г. пр. Хр. - 70 г. сл. Хр.)
Елинистическият период започва през 332 г. пр.н.е., когато Александър Велики завладява Персия. След смъртта му през 323 г. пр.н.е. империята му е разделена между неговите генерали. Първоначално Юдея е управлявана от египетско-елинските Птолемеи, но през 198 г. пр.н.е. сирийско-елинската империя на Селевкидите под ръководството на Антиох III завзема контрола над Юдея.
Според една от теориите елинистическият период е периодът на канонизиране на Танах (еврейската Библия) и появата на извънбиблейски свещени традиции. Най-ранните свидетелства за традиция на еврейския мистицизъм са около книгата на Йезекиил, написана по време на вавилонското изгнание. На практика обаче всички известни мистични текстове са написани в края на периода на Втория храм. Някои учени смятат, че езотеричните традиции на Кабала (еврейския мистицизъм), са повлияни от персийските вярвания, платоновата философия и гностицизма.
Във 2 Ездра 14:45-46, написана през втори век след Христа, се казва: "Двадесет и четирите книги, които си написал най-напред, направи публично достояние, и нека ги четат достойни и недостойни; а седемдесетте, които бяха написани последни, запази, за да ги дадеш на мъдрите от твоя народ." Това е първото известно споменаване на канонизираната еврейска Библия, а седемдесетте неканонични текста може да са били мистични; Талмудът предлага други мистични традиции, които може да имат своите корени в юдаизма на Втория храм.
Близкият изток е космополитен, особено през елинистическия период. Използвани са няколко езика, а въпросът за лингва франка все още е предмет на дискусии. Евреите почти сигурно са говорили арамейски помежду си. Гръцкият език често е бил използван в цялата източна част на Средиземноморието. Юдаизмът бързо се променя, реагира и се адаптира към по-големия политически, културен и интелектуален свят и на свой ред привлича интересите на неевреите. Историкът Шайе Коен отбелязва:
Всички юдаизми от елинистическия период, както в диаспората, така и в земята на Израел, са елинизирани, т.е. те са неразделна част от културата на древния свят. Някои разновидности на юдаизма са били по-елинизирани от други, но нито една от тях не е била остров сама за себе си. Погрешно е да си представяме, че земята на Палестина е съхранила "чиста" форма на юдаизма, а диаспората е била дом на фалшифицирани или разводнени форми на юдаизма. Следователно терминът "елинистичен юдаизъм" има смисъл само като хронологичен показател за периода от Александър Велики до Макавеите или може би до римските завоевания през I в. пр. н. е. Като описателен термин за определен тип юдаизъм обаче той е безсмислен, защото всички юдаизми от елинистическия период са "елинистически". (Коен 1987: 37)
Културни борби с елинизма
Много евреи живеели в диаспората, а юдейските провинции Юдея, Самария и Галилея били населени с много езичници (които често проявявали интерес към юдаизма). Юдеите е трябвало да живеят с ценностите на елинизма и елинската философия, които често са били в пряко противоречие с техните собствени ценности и традиции. В общи линии елинистическата култура се възприема като цивилизатор, който носи цивилизовани ценности и начини на живот на народите, които смята за изолирани, изостанали или изродени.
Например в Йерусалим, в близост до Храма, са построени бани в гръцки стил и дори в този град гимназията се превръща в център на социалния, спортния и интелектуалния живот. Много евреи, включително и някои от по-аристократичните свещеници, приемат тези институции, въпреки че на тях често се гледа с пренебрежение заради обрязването им, което евреите възприемат като белег на завета си с Бога, но което елинистичната култура разглежда като естетическо оскверняване на тялото. В резултат на това някои евреи започват да се отказват от обрязването (и по този начин от завета си с Бога), докато други се възмущават от гръцкото господство.
В същото време, когато евреите се сблъскват с културните различия, те трябва да се изправят срещу парадокс в собствената си традиция: законите на Тора се отнасят само за тях и за прозелитите, но техният Бог, както те вярват, е единствен и неповторим за всички. Тази ситуация довежда до нови тълкувания на Тора, някои от които са повлияни от елинската мисъл и в отговор на интереса на езичниците към юдаизма. В този период много концепции от ранната гръцка философия навлизат или оказват влияние върху юдаизма, както и върху дебатите и сектите в рамките на тогавашната религия и култура.
През 331 г. пр.н.е. Александър Велики превзема Персийскатаимперия. След смъртта му през 323 г. пр.н.е. империята му се разпада и провинция Йехуд става част от Египетското царство, управлявано от династията на Птолемеите. Управлението на Птолемеите е меко: Александрия става най-големият еврейски град в света, а Птолемей II Филаделф Египетски (281-246 г. пр. Хр.) насърчава еврейската култура, като спонсорира превода на Тората на Септуагинта. През този период се появяват и фарисеите, както и други еврейски партии от Втория храм като садукеите и есеите. Но в началото на II в. пр. н. е. Йехуд пада под властта на сирийския владетел Селевкид Антиох IV Епифан (174-163 г. пр. н. е.), който, за разлика от толерантността, проявена от Птолемедите, се опитва да извърши пълна елинизация на евреите. Оскверняването на Храма от негова страна предизвиква национално въстание, което завършва с изгонването на сирийците и повторното освещаване на Храма при Макавеите
Царството, създадено от Макавеите, е съзнателен опит да се възроди Юда, описан в Библията: еврейска монархия, управлявана от Йерусалим и простираща се върху всички територии, управлявани някога от Давид и Соломон. За да осъществят този проект, хасмонейските царе завладяват (и насилствено обръщат в юдаизма) някогашните моавци, едомити и амонци, както и изгубеното Израилско царство.
Като цяло евреите приемали чуждото управление, когато от тях се изисквало само да плащат данък, а в останалите случаи им се позволявало да се управляват сами. Въпреки това евреите са разделени на привърженици на елинизацията и на противници, както и на такива, които са разделени по отношение на лоялността към Птолемеите или Селевкидите. Когато първосвещеникът Симон II умира през 175 г. пр. н. е., избухва конфликт между поддръжниците на сина му Ониас III (който се противопоставя на елинизацията и е благосклонен към Птолемеите) и сина му Язон (който е благосклонен към елинизацията и е благосклонен към Селевкидите). Следва период на политически интриги, в който жреци като Менелай подкупват царя, за да спечелят първосвещеническия сан, и обвинения в убийство на конкурентни претенденти за титлата. Резултатът е кратка гражданска война.
Огромен брой евреи се притичват на страната на Язон, а през 167 г. пр.н.е. селевкидският цар Антиох IV нахлува в Юдея, влиза в храма и го лишава от пари и обредни предмети. Язон бяга в Египет, а Антиох налага програма за насилствена елинизация, изискваща от евреите да се откажат от собствените си закони и обичаи под заплахата да бъдат избити. В този момент Мататия и петимата му синове - Йоан, Елеазар, Симон, Йонатан и Юда Макавеи, свещеници от фамилията Хасмон, живеещи в селското село Модеин (произнася се "Мо-Ах-Деин"), поемат ръководството на кървавия и в крайна сметка успешен бунт срещу Селевкидите.
Юда освобождава Йерусалим през 165 г. пр.н.е. и възстановява Храма. Сраженията продължават и Юда и брат му Йонатан са убити. През 141 г. пр.н.е. събрание на свещеници и други лица утвърждава Симон за първосвещеник и водач, с което на практика се установява Хасмонейската династия. Когато Симон е убит през 135 г. пр.н.е., неговият син (и племенник на Юда) Йоан Хиркан заема мястото му на първосвещеник и цар.
Хасмонейското царство
След като разгромява силите на Селевкидите, Йоан Хиркан установява нова монархия под формата на свещеническата династия на Хасмонеите през 152 г. пр.н.е. - по този начин свещениците се превръщат в политически и религиозни власти. Въпреки че Хасмонеите са възприемани като герои и водачи заради съпротивата им срещу Селевкидите, някои смятат, че при тяхното управление липсва религиозната легитимност, която се дължи на произхода от Давидовата династия от епохата на Първия храм.
Садукеи, есеи и фарисеи
Разривът между свещениците и мъдреците се задълбочава по време на елинистическия период, когато евреите са изправени пред нови политически и културни борби. Приблизително по това време се появява партията на садукеите като партия на свещениците и съюзническите елити (името садукеи идва от името на Садок, първосвещеника на първия храм).
Есеите са друго ранно мистично-религиозно движение, за което се смята, че е отхвърлило като погрешни или назначените от Селевкидите първосвещеници, или Хасмонейските първосвещеници. Но скоро те отхвърлят и Втория храм, твърдейки, че самата есенинска общност е новият храм и че подчинението на закона представлява нова форма на жертвоприношение.
Макар че липсата на загриженост за Втория храм отчуждава есеите от голямата маса евреи, тяхното схващане, че свещеното може да съществува извън Храма, се споделя от друга група - фарисеите ("сепаратистите"), която се намира в общността на книжниците и мъдреците. Значението на името обаче е неясно.
По време на Хасмонейския период садукеите и фарисеите функционират предимно като политически партии (есеите не са толкова политически ориентирани). Политическите различия между садукеите и фарисеите стават очевидни, когато фарисеите изискват от хасмонейския цар Александър Янаи да избере между това да бъде цар и да бъде първосвещеник по традиционния начин. Това искане довежда до кратка гражданска война, която завършва с кървави репресии срещу фарисеите, въпреки че на смъртния си одър царят призовава за помирение между двете страни. Александър бил наследен от вдовицата си, чийто брат бил водещ фарисей. След нейната смърт по-големият ѝ син, Хиркан II, търси подкрепата на фарисеите, а по-малкият ѝ син, Аристобул, търси подкрепата на садукеите.
През 64 г. пр.н.е. римският пълководец Помпей превзема Йерусалим и превръща еврейското царство в клиент на Рим. През 57-55 г. пр.н.е. Авъл Габиний, проконсул на Сирия, го разделя на Галилея, Самария и Юдея с 5 окръжни синедриона (съдебни съвети). През 40-39 г. пр.н.е. Ирод Велики е назначен за юдейски цар от римския сенат, но през 6 г. от н.е. наследникът му Ирод Архелай, етнарх на Юдея, е свален от император Август и териториите му са присъединени към провинция Юдея под пряка римска администрация: това бележи края на Юдея като дори теоретично независимо царство.