Miután ezt meghagyta Lentulusnak, és az ifjút elküldte, belevetette magát a gyilkos küzdelembe, és ottveszett. A fényes győzelem után Hannibált barátai arra biztatták, használja ki jó szerencséjét, kövesse nyomon a futásban levő ellenséget, s ötödnap a Capitoliumon vacsorázhat. Nem könnyű megmondani, mi térítette el ettől Hannibált. Mintha valami rossz szellem sugalmazta volna habozását és bátortalanságát. Ezért mondta neki a karthágói Barcas haragosan:
- Győzni tudsz, de győzelmedet kihasználni nem tudod!

A győzelem következtében helyzete mégis lényegesen megváltozott. Mert míg az ütközet előtt egész Itáliában nem mondhatott magáénak egyetlen várost, kereskedelmi központot vagy kikötőt, úgyhogy hadseregének ellátásáról csak sarcolással tudott gondoskodni, most csaknem egész Itáliát meghódoltatta.

A rómaiak arra számítottak, hogy Hannibál üldözőbe veszi visszavonuló csapataikat, és betör a fővárosba. Quintus Fabius tekintélye ismét rendkívülien megnőtt ebben a nehéz helyzetben. Fabius nem csüggedt el a veszély láttán, nem vesztette el a fejét a szörnyű vereség hallatára, magabiztosan járt-kelt a városban, derűs, kedves mosollyal köszöntötte az embereket, mindenkihez volt néhány jó szava, megnyugtatta a tereken jajveszékelőket, akik elesett hozzátartozóikat siratták.
Mi sem bizonyítja jobban Fabius nemes jellemét, mint az, hogy ő öntött lelket az állami vezetőkbe, és okos szóval rábírta a rómaiakat, hogy a fenyegető veszély elől ne meneküljenek el, ne hagyják el a fővárost. És az ellenség támadása előtt Rómában megszűntek a belső viszályok.
Fabius nagylelkűségét bizonyítja az is, hogy a szenátus tagjaival együtt kiment a városkapukhoz, fogadni a cannaei vereség után hazatérő Terentius Varrót. Sőt még dicsérettel is illette, amiért lelkierejét megőrizve visszajött, hogy részt vegyen szeretett fővárosa védelmében.
Nemsokára híre terjedt Rómában, hogy Hannibál Itália más részei felé vette útját. A cannaei vereség hallatára a rómaiak szövetségesei közül sokan átpártoltak a karthágóiakhoz. Több nagy város, köztük Capua is csatlakozott Hannibálhoz. Capua volt Róma után Itália legjelentősebb városa. Csatlakozása révén Hannibál könnyebb helyzetbe került, így jobban biztosíthatta csapatai élelmiszer-ellátását.

A rómaiaknak másutt sem kedvezett a hadiszerencse. Szicíliában ötezer karthágói harcos szállt partra. Elfoglalták Akragasz kikötővárost, és felkelést szítottak Szürakuszaiban. Ez a két város i. e. 214-ben csatlakozott Karthágóhoz.
V. Philipposz, Makedónia királya szövetséget kötött Hannibállal, és támadást indított a római csapatok ellen Illíriában. A Gnaeus és Publius Cornelius Scipio parancsnokságával Hispániában állomásozó két római hadtestet pedig Hannibál testvére, Hasdrubál semmisítette meg.
Úgy látszott, Róma végveszélybe került. A papok naphosszat imádkoztak az istenekhez, hogy hozzanak győzelmet a rómaiaknak. Fabius unokaöccsét, Pictort elküldték a görögországi Delphoiba, hogy a híres jóshelyen tudakolja meg, milyen sors vár Rómára.

A fővárosban eközben megtették a szükséges intézkedéseket az állam megmentésére. Tizenhét éves kortól behívtak minden fegyverfogható rómait és a szövetségesek közül azokat, akik hűek maradtak Rómához. Mivel nem volt elég fegyverük, összegyűjtötték a templomok falára felaggatott trófeákat. Ismét Fabiust választották meg consullá. Ettől kezdve a Hannibál ellen harcoló hadvezérek mind Fabius taktikáját követték.
Noha a karthágói csapatok tovább fosztogatták Itáliát, a római hadvezérek elhatározták hogy kitérnek a nagyobb összecsapások elől. A köztársaság most minden erejével arra törekedett, hogy meghiúsítsa az ellenség legfőbb tervét: az itáliai szövetség megbontását és a Rómával szemben álló erők egyesítését. Hannibál serege elszigetelődött, tartalékai lassan elapadtak, a további harcokhoz szükséges felszerelése megcsappant. Róma arra számított, hogy lassan felőrli a karthágóiak erejét, és halogató harcokkal megsemmisíti az ellenség hadseregét.

Öt év leforgása alatt - i. e. 215-210 között - a rómaiak ismét erőre kaptak. Egymás után visszafoglalták a karthágóiak által megszállt erődöket, Hannibált kiszorították Közép-Itáliából, és délre kényszerítették. Mindent elkövettek, hogy a Rómához hű, régi szövetségeseket megtartsák, és visszahódítsák azokat, akik Karthágóhoz csatlakoztak. Éberen ügyeltek arra, hogy az ellenség ne kapjon erősítést. A köztársaság friss erőit Szicíliába irányították, csapatokat küldtek Hispániába és Hannibál szövetségese, Makedónia királya, V. Philipposz ellen.
Lassan aztán beigazolódott Fabius elgondolásának helyessége, mely szerint nagy ütközetek nélkül is lehet háborút nyerni. Hannibál pedig, aki képtelen volt szembekerülni az ellenséggel, holott nyílt csatában minden bizonnyal legyőzte volna, most kétségbeesetten vette tudomásul, hogy tervei meghiúsultak.

Az itáliai szövetségesek közül a legtöbb hű maradt Rómához. Akik pedig Hannibálhoz pártoltak, nem nyújtottak jelentős segítséget a karthágóiaknak. Az ellenséges hadsereg létszáma egyébként sem volt elég nagy ahhoz, hogy megvédje az általa elfoglalt tartományokat: a karthágói csapatok kénytelenek voltak feladni egyes területeket, ahová azonnal bevonultak a rómaiak. Az árulókkal véresen leszámoltak, hogy elrémítsék az ellenség híveit.
Hannibál most már világosan látta, hogy a maga erejéből nem nyerheti meg ezt a háborút. Abban reménykedett, hogy utánpótlást kap Karthágóból. A karthágói szenátus azonban nem bízott többé lángeszű hadvezérében, gyanakodva fogadta Hannibál ragyogó terveit az itáliai háború folytatására, és nem küldött újabb erősítést. A karthágói kormányt jobban érdekelték a szicíliai és hispániai események.

Nem sokkal a cannaei vereség után a rómaiak Szicíliába küldték egyik legkiválóbb hadvezérüket, Marcus Claudius Marcellust. A vasakaratú, merész, tehetséges katona fellépése következtében ismét a rómaiak felé fordult a hadiszerencse. Marcellus csapatai sorra elfoglalták Szicília nagyobb városait. Feldúlták Szürakuszait, míg végül tartós ostrom után elfoglalták a várost. (Szürakuszai védelmét a híres görög tudós, Arkhimédész irányította.) A karthágói hadsereg nem tudta feltartóztatni a rómaiak támadását; feladta Szürakuszait, és ezáltal az egész sziget ismét a rómaiak uralma alá került.
Makedónia királya is súlyos vereséget szenvedett a rómaiaktól Görögországban, le kellett tennie arról a szándékáról, hogy Hannibál segítségére siessen Itáliába. Kénytelen volt tárgyalásokat kezdeni a rómaiakkal, és az i. e. 205. évben békét kötött velük.

Hannibálnak nem maradt más reménye, mint a két öccse - Hasdrubál és Mago -, akik csapataikkal eredményesen harcoltak a rómaiak ellen Hispániában. A karthágói csapatok azonban nem tudtak már betörni Itáliába, mert a rómaiak erős állásokat építettek ki maguknak az Iberus, a mai Ebro folyó mentén.
Hispániában is megfordult a kocka, amikor Publius Cornelius Scipio az újonnan szervezett római seregek élére állt. Egyik csapást a másik után mérte a karthágói csapatokra, míg végül teljesen megtisztította Hispániát az ellenségtől. Hasdrubál és Mago egyenként igyekeztek betörni Itáliába, hogy bátyjuk segítségére legyenek. De mindkettőjük próbálkozása kudarccal végződött. Hasdrubál életét vesztette a csatában, a rómaiak pedig, amikor felismerték az egyik halottban Hasdrubált, fejét levágták testéről, és bedobták Hannibál táborába. Mago partraszállási kísérlete Liguriában kudarccal végződött. A Tarentumi-öbölbe beszorított Hannibál utánpótlás nélkül teljesen veszélytelenné vált a római csapatokkal szemben.

Most már nem volt több értelme, hogy a karthágói csapatok továbbra is Itáliában maradjanak. Hannibál mégsem sietett az elvonulással. Jól tudta, hogy a sorozatos vereségek után nem fogadnák szívesen Karthágóban. Pedig helyzete egyre rosszabb lett Itáliában. Fabius és a Szicíliából visszatérő Marcellus római hadvezérek egyre délebbre szorították Hannibált. Fabius olyan volt, mint a haza védőpajzsa, az energikus Marcellust pedig, aki váratlan rajtaütéseivel pillanatnyi nyugalmat sem hagyott Hannibálnak, a rómaiak a köztársaság kardjának nevezték el.
A Hannibálhoz átpártolt városok sorra visszakerültek a rómaiakhoz. Visszafoglalták Capuát, és szigorúan megtorolták a város lakóinak árulását. Tarentum, a mai Taranto visszavételénél mindkét római vezér a maga elképzelése és természete szerint cselekedett. Marcellus nyílt harcba bocsátkozott. Az óvatos Fabius pedig inkább a tarentumi helyőrség árulására alapította terveit, hisz a helyőrség javarészt itáliai harcosokból állt. Hannibál ekkor ismerte be először, hogy most már nincs reménye a győzelemre, s belátta, hogy nem tudja egész Itáliát meghódítani.
Hannibál utolsó nagy győzelmét Marcellus serege felett aratta. Ebben az ütközetben Marcellus bordái közé dárda fúródott, és a kiváló katona holtan esett össze a csatatéren. Hannibál, amikor az elesettek között felismerte nagy ellenfelét, elvette ugyan annak gyűrűjét, de megadta neki a végtisztességet: felravataloztatta, elhamvasztatta, majd hamvait ezüsturnába rakta, aranykoszorút tett rá, és elküldte Marcellus fiának.

Fabius továbbra is óvatosan és kitartóan harcolt, és lassan visszaszorította a karthágóiakat: az agg consul most érte el dicsősége tetőfokát. Ragyogó diadalmenetet rendeztek tiszteletére, és Maximusnak, Legnagyobbnak nevezték el. Fabius halogató taktikája nem kevés áldozatot követelt Itália lakóitól: földjeiket letaposták, falvaikat felégették, marháikat elkergették vagy leöldösték.
És mégis a Halogató makacs kitartásának köszönhették a rómaiak, hogy ismét erőre kaptak, és ennek következtében a lángeszű karthágói hadvezér képtelen volt merész terveit és elgondolásait megvalósítani. A szicíliai és hispániai sikerek lehetővé tették, hogy a római csapatok kiheverjék a sok súlyos vereséget. A római kincstárba csak úgy ömlött a római hadvezérek zsákmányolta rengeteg ezüst és arany.

Végre annak is eljött az ideje, hogy teljesen megtisztítsák Itáliát az idegen katonáktól, akik végigdúlták az ország falvait és városait. A további hadműveletekre Publius Cornelius Scipio tett javaslatot. Scipio Hispániában aratott győzelmével nagy dicsőségre és népszerűségre tett szert. Az új hadvezér úgy gondolta, hogy a hadműveleteket át kell vinni Afrika területére, majd magába Karthágóba.
Amikor consullá választották, nagy erővel hozzálátott a hadjárat előkészítéséhez. A nagy tehetségű hadvezérnek azonban le kellett küzdenie a szenátus makacs ellenállását. Fabius Maximus is szembeszállt Scipióval. Az óvatos Halogató veszedelmesnek tartott minden merész elgondolást, és makacsul hajtogatta, hogy a Karthágó elleni hadjárat eleve kudarcra van ítélve, és addig nem csökkenthetik az itáliai haderő létszámát, amíg az ellenség az ország földjén tartózkodik, és fenyegeti a fővárost.

Fabius beszédeivel rémületet keltett a rómaiak között. A szenátus azzal utasította el Scipiót, hogy a kincstár kimerült, nem rendelkezik a hadjárat előkészítéséhez szükséges összeggel. A hadvezér kénytelen volt saját maga előteremteni a pénzt a hadjáratra. Mivel nem bíztak benne, Scipio csak a szicíliai csapatokat vihette magával, és azokat a harcosokat, akik hispániai seregéből önként jelentkeztek.
Fabius komor jövendölései ellenére indult el Scipio Afrikába négyszáz csapatszállító teherbárkával. Nemsokára azonban eljutottak a hírek Rómába Scipio ragyogó győzelmeiről. A rómaiak megsemmisítettek két ellenséges tábort, és gazdag zsákmányt szereztek.
De ennél is sokkal nagyobb jelentősége volt annak, hogy a karthágói kormány megrettent Scipio győzelmétől, és hazarendelte Hannibált Itáliából, hogy rá bízza a város védelmét. Hannibál összegyűjtötte csapatait, ügyesen áttört a rómaiak tengeri védelmi vonalán, és i. e. 203-ban áthajózott Afrikába.

A karthágói csapatok Itáliából történt kivonulásának híre óriási örömujjongást keltett Rómában. Fabius Maximust ünnepelték, mert végső soron őt tartották Hannibál igazi legyőzőjének. S ha nem is nyílt, győztes csatákban verte le a karthágói hadvezért, mégis az ő kitartása és körültekintő politikája vezetett győzelemre.
De Fabius a nagy ünneplések ellenére sem nyugodott. Úgy vélte, hogy a karthágói hadjárat a köztársaság pusztulásához fog vezetni. Kijelentette, hogy a veszedelem tovább nőtt, mert Hannibált nem verték meg Itáliában, de Karthágó megvédése után még nagyobb erővel és elkeseredettebben tör majd a rómaiakra.
Fabius jövendölése azonban nem vált valóra. Scipio ügyesen kihasználta az afrikai törzsek széthúzását, és legyőzte magát Hannibált is. Megtörte a büszke Karthágót, és ezzel megerősítette a rómaiak uralmát. Győzelmeiért kapta az Africanus utónevet.

III. Antiokhosz szíriai király befogadta udvarába a második pun háborúban vereséget szenvedett Hannibált, és kinevezte katonai tanácsadójává. A kiváló karthágói hadvezér azt javasolta III. Antiokhosznak, hogy létesítsen egy Róma-ellenes szövetséget, nyerje meg a szövetség számára Szírián kívül Makedóniát, Karthágót és néhány görög várost.
Hannibál abban reménykedett, hogy ismét betörhet Itáliába, és elfoglalhatja a gyűlölt római köztársaság fővárosát. Antiokhosz habozása és a római köztársaság határozott intézkedései következtében a terv kudarcba fulladt. Szíria királyát szinte egytől egyig elhagyták szövetségesei, seregét i. e. 190-ben teljesen szétverték a rómaiak. Antiokhosz megígérte, hogy kiadja Hannibált Rómának. A karthágói hadvezér azonban továbbmenekült, és hosszabb bolyongás után végül Bithüniában Prusziasz király oltalma alá helyezte magát.
Erről Rómában mindenki tudott, de senki sem törődött Hannibállal mint sorsüldözött, beteg öregemberrel. Amikor Titus Quintius Flamininus a szenátus megbízásából követként valami más ügyben Prusziaszhoz érkezett, és megpillantotta az ott tartózkodó Hannibált, haragra gerjedt, hogy még mindig életben van, és bár Prusziasz hosszasan kérlelte, s valósággal könyörgött barátja és védence érdekében, Titus kérlelhetetlen maradt. Mondják, hogy volt egy ősrégi jóslat, amely ezt mondja Hannibál haláláról:
”Libüssza hantja rejti holtan Hannibált.”

Hannibál ezen Líbiát értette, és azt remélte, hogy majd Karthágóban temetik el, miután ott fejezi be éltét, Bithüniában van azonban egy homokos tengerparti rész, s annak közelében egy Libüsszának nevezett nagyobb falu. Hannibál itt lakott, de mert nem bízott Prusziaszban, aki gyenge ember volt, és félt a rómaiaktól, házát már korábban hét, szobájából kivezető föld alatti járattal látta el. Ezek mind más és más irányban haladtak, és mindegyiknek jó nagy távolságra titkos kijárata volt. Mihelyt értesült Titus Quintius Flamininus szándékáról, azonnal megkísérelte a menekülést a föld alatti titkos utakon át, de mikor mindegyik kijáratot a király őrei állták el, elhatározta, hogy öngyilkos lesz.
Egyesek úgy beszélik el, hogy köpenyét nyaka köré csavarta, majd szolgájának megparancsolta, hogy térdeljen a hátára, húzza szorosra a köpenyt, és csavarja, míg lélegzete elfogy, és megfullad. Mások azt állítják, hogy bikavért ivott, Livius szerint pedig méreg volt nála, amit egy serlegben megkevertetett, és amikor a serleget kezébe vette, ezeket mondta:
- Vessünk hát véget egyszer a rómaiak súlyos aggodalmainak, akik olyan nehezen várják egy gyűlölt öregember halálát.

Mondják, hogy Hannibál így fejezte be életét. Mikor ezt a szenátusnak jelentették, sokan gyűlöletesnek tartották Titus Quintius Flamininus túlbuzgó és kegyetlen eljárását, hogy Hannibált, ezt az öreg, szárnyaszegett és megtépázott madarat merő dicsvágyból megölte, csupán azért, hogy nevét Hannibál halálával hozzák kapcsolatba. Emlegették Scipio Africanus elnéző és nemes magatartását is, s annál inkább csodálták, mert amikor a győzhetetlen és félelmetes Hannibált Afrikában leverte, nem űzte el hazájából, kiadatását sem követelte polgártársaitól, sőt amikor az ütközet előtt tárgyalt vele, barátságosan fogadta, az ütközet után pedig a béketárgyaláson nem bánt vele sértően és megalázóan, s nehéz sorsát nem tette még súlyosabbá.

Mondják, hogy amikor később Epheszoszban ismét találkoztak, és séta közben Hannibál mindjárt azt a helyet választotta, amely rangjánál fogva nem őt, hanem a római hadvezért illette volna meg, Scipio ezt ráhagyta, és tovább sétált vele; majd amikor a hadvezérekről kezdtek beszélgetni, és Hannibál kijelentette, hogy Alexandrosz volt a leghatalmasabb hadvezér, utána Pürrhosz következik, és harmadik ő saját maga, Scipio csendesen elmosolyodott, és így szólt:
- És ha én nem győztelek volna le?
- Akkor, Scipio, nem harmadik, hanem első hadvezérnek tettem volna magamat - válaszolta Hannibál.
Fabius Maximus nem érte meg a karthágói háború végét. Súlyosan megbetegedett már abban az időben, amikor Hannibál elhagyta Itáliát. Rövidesen meg is halt.
Így aztán nem értesülhetett ellenfele vereségéről, akit ő maga nem volt képes legyőzni. A karthágóiak ellen vívott háborúban szerzett érdemeiért mint ”a haza megmentőjét” temették el.