A 67-ben elszenvedett fiaskó véget vetett a Gallus veresége után kialakuló „nemzeti konszenzusnak" a háború kérdésében. A jeruzsálemi papság és az „arisztokrácia" leszerepelt a fanatikusok szemében, akik magukhoz ragadták a hatalmat. De minthogy az előbbiek nem adták át önként posztjukat, elkeseredett polgárháború alakult ki 67-68-ban. A zélóták vezetője az a gischalai Johanán lett, aki csak nemrég (67 novemberében) szökött át Galileából Jeruzsálembe. Ide az ország minden részéből özönlöttek a menekültek, akiket könnyen fanatizáltak a radikálisok.
A zélóták így hamarosan felülkerekedtek a szent városban. Első dolguk az volt, hogy a nyíltan vagy titokban a rómaiakkal szimpatizáló vezetőket félreállítsák. Sokukat - főként a heródesi királyi család tagjait - bebörtönözték és meggyilkolták." Még a főpapi családokat is félreállították, magukhoz ragadva a főpapválasztás jogát, amit sorsolás útján, egyszerű közemberekkel töltöttek be. A bekövetkező események szempontjából fontos, hogy Josephus hangsúlyozza: a zélóták „gőgjükben az Istent is meggyalázták, és szennyes lábukkal bemerészkedtek a szentélybe", illetve: „a gonosztevők az Isten templomát választották bástyául a nép forrongása ellen, és a szentély lett menedékük és palotájuk.

Az életben maradt tekintélyesek, köztük Simeon ben Gamaliél, a neves farizeus bölcs, valamint Anan ben Anan főpap igyekezett a népet buzdítani, hogy vessenek véget a zélóták hatalmának." Annyit sikerült elérniük, hogy a felkelőket visszaszorították a Templomba, amely - Anan saját szavai szerint is - immár „várkérrt vagy erődítményként" szolgált.
A zélóták külső segítséget nem remélhettek máshonnan, csak az edomitáktól, akiket Josephus így jellemez: „vad, féktelen nép, szüntelenül keresi a felfordulást, örül minden forradalomnak; kevés biztatásra is azonnal fegyvert ragad, és úgy rohan a harcba, mint valami ünnepre. A hamarosan felvonuló edomita sereg előtt mindenesetre bezárták a városkapukat.
Josephus itt egy érdekes párbeszédet iktat be művébe, amelyben Jésua ben Anan főpap, valamint az edomita csapatok vezére, Simon, Thakéos fia szólal meg. Az előbbi lényegében ismételt vádbeszéd a zélóták ellen, az utóbbiban viszont az edomiták - alig hihető módon - „Isten házát", a „közös hazát" és „törzsrokonaik szabadságát" akarják megvédelmezni.
A következő éjjel tomboló vihar tört ki. Amíg a jeruzsálemiek házaikba menekültek, a zélóták kijutottak a Templomból és megnyitották az edomiták előtt a városkapukat." Másnap reggelre 8500 tetem borította Jeruzsálem utcáit, de a zélóták és az edomiták egyesült csapatai tovább folytatták a rablást és öldöklést, aminek Anan és Jésua főpap is áldozatul esett. Josephus nem győzi hangsúlyozni, hogy a város pusztulása ekkor végeztetett el:


„Nem tévedek, ha azt mondom: Anan halálával kezdődött el a város pusztulása; azon a napon, mikor a zsidók főpapjukat, azt a férfiút, aki megmutatta nekik a menekülés útját, a város közepén látták lemészárolni, azon a napon már össze is omlott a faluk, és már meg is szűnt a zsidó állam. (...) De Isten, azt hiszem, már elhatározta a megszentségtelenített város pusztulását, és mivel a szentélyt tűzzel akarta megtisztítani, elszólította a földről azokat, akik még védték és szerették. íme, most mindenki szeme láttára kutyák és vadállatok martalékául dobta oda azokat, a férfiakat, akik nemrégiben még templomi öltözetükben a világraszóló szertartásokat vezették, és akik előtt hódoltak a földkerekség minden részéről a városba sereglő zarándokok. Azt hiszem, maga az Erény is megsiratta ezeket a férfiakat, és siránkozott amiatt, hogy ily szégyenletesen elbuktak a gonoszsággal vívott harcukban.”


Miután az edomiták kitombolták bosszúvágyukat és eloltották vérszomjukat, meggyőződtek arról, hogy a zélóták csak eszköznek használták őket saját tervük végrehajtására, ezért 2000 polgárt kiengedtek a börtönből, majd hazavonultak. A zélóták - a gischalai Johanán vezetésével - átvették a teljes ellenőrzést a város felett, s megkezdődött a korlátlan terror uralma.
Vespasianus nem hallgatott néhány tábornoka tanácsára, és ahelyett, hogy megtámadta volna Jeruzsálemet, hagyta, hogy a polgárháborúban a zsidók felemésszék erőiket.3 A rómaiak a Jordántól keletre fekvő tartomány, Peraea meghódítására indultak. Ennek fővárosa, Gadara, dystros hó (március) 4-én önként meghódolt, ezért Vespasianus visszavezényelte seregét Caesareába, s csak 3000 gyalogost és 500 lovast hagyott hátra Placidus parancsnoksága alatt, hogy meghódoltassa a tartományt.
„Így egész Peraea, Machairos kivételével, részben önként, részben fegyveres erővel a rómaiak birtokába került. Az időjárás jobbra fordultával Vespasianus serege nagyobb részével még egyszer kivonult Caesareából, elfoglalta Antipatrist, Lyddát és Jamniát, az V. Macedonicát Emmaus mellett egy táborban szállásolta el, majd Samarián keresztül Neapolisba (Sichem) vonult, onnan pedig Jerikóba. Az utóbbiban és Adidában helyőrséget hagyott hátra, míg Gerasát egy Lucius Annius vezette különítménnyel leromboltatta.

Jeruzsálem kivételével most már az egész országot leigázták a rómaiak. Vespasianus éppen arra készülődött, hogy Caesareából megindítsa a főváros elleni támadást, mikor kézhez vette a 68. június 9-én meggyilkolt Nero halálhírét. Ez mindent megváltoztatott. A Birodalom jövője bizonytalanná vált, Josephus szavaival élve: „eresztékeiben recsegett-ropogott. Ennek megfelelően Vespasianus egyelőre minden hadműveletet leállított az országban. Mikor 68-69 telén megérkezett Galba trónra-lépésének híre, Titust azonnal Rómába küldte, az új uralkodó üdvözlésére és további parancsokért. Ám Titus még csak Korinthoszig jutott, amikor kézhez vette Galba 69. január 15-i meggyilkolásának hírét. Titus ezért visszasietett apjához Caesareába. Mindketten a kivárás mellett határoztak.
Ekkor azonban újabb veszedelem ütötte fel fejét Iudaeában, ezúttal egy gerasai férfi, Simeon bar Giora személyében. Simeon eleinte a Masada erődjét megszállva tartó sicariusok oldalán állt, de a jeruzsálemi főpap, Anan halála után önállósította magát. Nain mellett egy erődöt épített, és kb. 20 ezres sereget toborzott Júdea falvaiból. Miután a Héródion erődjét sikertelenül próbálta megkaparintani, végig- dúlta Idumeát, és elfoglalta Hebront, ahol jelentős élelmiszerkészletekre tette rá a kezét. Xanthikos hónapban (március-április) Simon bar Giora csapatai élén bevonult Jeruzsálembe. A nép abban reménykedett, hogy végre megszabadul a gischalai Johanán zsarnokságától - ám ettől kezdve két zsarnok uralma nehezedett rájuk.

Vespasianus megint lépéskényszerben volt: ezúttal a hegyes, kopár Iudaea területét kellett megtisztítania a lázadóktól. 69 daisios hónap (május-június) 5-én indult el seregével Caesareából, előbb Gophna és Akrabatta toparchiákat foglalta el, majd Bét-Él és Efraim városkákat, tribunusa, Cerealis pedig Hebront gyújtotta fel. Most már mindent meghódított a rablóktól megszállott Heródeion, Masada és Machairos várak kivételével, úgyhogy már csak egy cél volt a rómaiak előtt: Jeruzsálem.