罗马的海上优势及自身缺乏强大的舰队迫使汉尼拔选择由陆路出征意大利。这是一段化腐朽为神奇的道路。野心勃勃的他就像新世代的亚历山大一样，征服了沿途所有地区。当他离开伊比利亚半岛时，其北部地区也都在迦太基人的控制之下。公元前218年春，他带领一支由9万左右步兵、1万多骑兵和约40头战象组成的军队从新迦太基出发。在抵达萨贡托之后，他选择沿着伊比利亚山脉与大海之间的狭长海滨继续前进。为了能赶在冬季来临前翻越阿尔卑斯山，他不得不快马加鞭。然而，即使他没有进行任何大规模围攻，而只是选择使用突袭敌对城市或是以武力威吓敌对部落的策略，也仍然在北西班牙浪费了一些时间。在越过比利牛斯山之前，他对军队进行了重组，留下驻军以保护新征服的领地，遣返了忠诚度欠佳的士兵，并将一部分军队派给兄弟哈斯德鲁巴以补充战力。
带着重组的军队，包括约4万名步兵和1万名骑兵，汉尼拔向高卢进发。8月底，他越过了罗讷河（Rhne）。其中最值得称道的是用木筏将战象运过这片宽广的水域，这对迦太基先锋们的临场应变能力提出了很高的要求。波里比阿对此写道：“通过将两块木筏拼接在一起的方式，大部分随军动物被成功地运过河去。但仍有一部分战象由于惊恐跳入河中，虽然它们最终安全地走上岸，但赶象人都淹死了。战象拥有强壮的身体，并能将巨大的鼻子举过水面……尽管它们必须在水中走过很长一段距离，但它们仍能站稳。”（波里比阿III 46）与此同时，罗马执政官普布利乌斯·科尔内利乌斯·西庇阿（Publius Cornelius Scipio）和提比略·森普罗尼乌斯·隆古斯（Tiberius Sempronius Longus）拟定了一份作战计划。森普罗尼乌斯将与罗马主力部队一起转移到西西里岛，并从那里进攻北非，对迦太基构成直接威胁，而西庇阿则在北部战场为其提供掩护。
公元前218年9月，西庇阿在马塞利亚地区（今马赛）遇到了推进中的迦太基部队，但他无法阻拦其继续前进。了解到汉尼拔的野心后，他果断地选择撤回意大利，并将两个兵团留给自己的兄弟格奈乌斯（Gnaeus），让他进攻西班牙，以扰乱迦太基人的后方补给线。
一些怀疑论者的担忧现在变成了现实。汉尼拔拥有相当强大的战争潜力，并实现了整合化一；但罗马人分散了自己的力量。一支部队在南方，整装待发进军迦太基；另一支部队则在前往西班牙的路上；而意大利北部也迫切需要一支部队抵挡迦太基人。不过，罗马人还可以如此自我安慰，即使汉尼拔真的成功入侵意大利，那也意味着他的供给线将会拉得极长，而且前方部队与后方补给之间还隔了一座阿尔卑斯山。
汉尼拔翻越阿尔卑斯山的行为无疑让人联想到亚历山大的军事成就，特别是他征服巴克特里亚（Baktria）的事迹。这一切虽早在古代就得到高度认可，但很多围绕其展开的传说故事使它显得有些虚幻。而现实则更加清晰明了，汉尼拔将自己的部队分成三个军团，分别沿迪朗斯河（Durance）、热内夫山（Mont Genèvre）和伊泽尔河（Isèretal）、小圣伯纳德山口（Sankt Bernhard）进军意大利。虽然迦太基军队在途中遭遇损失，但并不惨重，这一切都要归功于充分的准备工作。最糟糕的是战象，其中大多数没能在艰苦的行军和恶劣的天气中存活下来。在汉尼拔的后续作战中，它们扮演的也只是无足轻重的角色。然而，迦太基军队几乎在很短的时间内就恢复了作战能力。此外，汉尼拔还获得了罗马敌对势力凯尔特人的增援。在大约5个星期的时间里，他就从罗讷河流域挺进到了波河流域（Poebene），而这时已经11月了。
从新迦太基到意大利，近6个月的紧张行军让汉尼拔的部队筋疲力尽。汉尼拔决定先做短暂休整，然后沿着波河向帕辰察［Placentia，今皮亚琴察（Piacenza）］推进。在那里等待他们的是西庇阿和两万名士兵。最终在提契诺河（Ticinus）畔爆发了这场战争的第一次战役，汉尼拔依靠骑兵的优势取得了胜利，罗马执政官西庇阿身受重伤。这是第一次布匿战争之后罗马和迦太基之间的第一次军事对抗。令人惊讶的是，迦太基人完全有能力在战场上抵挡可怕的罗马军队。这次战役如果失败，就意味着汉尼拔的探险之旅将提前结束。他比对手承担了更大的风险，但也赢得了最终的胜利。
提契诺河战役之后，西庇阿开始避免与汉尼拔发生正面冲突，至少是在另一位执政官森普罗尼乌斯放弃进攻北非带领增援部队赶到之前。迦太基的一个重要战略目标也应运而生：在北非战场拖住罗马人。森普罗尼乌斯反对西庇阿的建议，敦促其做出与汉尼拔作战的决定。
公元前218年12月，两军再次交战。汉尼拔灵活地运用战术，引诱处于不利境地的罗马人进攻。当罗马人越过特雷比亚河（Trebia）时，整个军团被团团围住，毫无还手之力。侧翼和后方部队被汉尼拔的骑兵击溃，只有中央军团杀出一条血路逃回了帕辰察。超过一半的罗马军队被歼灭，此外还有一大部分成为汉尼拔的战俘。对俘虏的区别待遇也值得深思。在严酷惩罚作为战俘的罗马公民的同时，汉尼拔将非罗马公民的意大利战俘遣送回家，并且没有勒索任何赎金。
不同的对待方式传达了一个明确的信息：汉尼拔希望意大利人将他视为罗马霸权国家的解放者。为了让人们对这一意图有更深的印象，他还派出使节，试图说服意大利人背叛罗马。汉尼拔非常期待这样的改变。如果得不到他们的支持，他的战略计划可能就无法取得成功。然而，意大利人对他仍抱有怀疑态度，与罗马的同盟关系也暂时维持现状。
尽管如此，公元前217年初，种种迹象都表明迦太基人可能会无功而返。而与之相对的是，罗马人的动员工作却十分成功。汉尼拔按照计划行动，在博洛尼亚（Bologna）度过了冬天。罗马人召集了新的军队，但他们不知道如何才能解除日益增加的威胁。入春后，汉尼拔向南行军，穿过亚平宁山脉后沿着阿诺河（Arno）中游继续前进。他本人却在经过沼泽地区时病倒了，并因此失去了一只眼睛。
他在今天的菲耶索莱（Faesulae）停下了脚步，并命令军队对阿雷佐（Arretium）地区进行掠夺，以引诱正逗留在那里的罗马执政官弗拉米尼乌斯出击。草率的弗拉米尼乌斯在特拉西梅诺湖（Trasimenischer See）北岸与汉尼拔交战。罗马军队在一条狭长的沿湖通道上遭到迦太基人的伏击并被彻底击败。15000多名罗马士兵战死，这其中也包括弗拉米尼乌斯，同时还有超过1万人被俘。汉尼拔采用了一年前特雷比亚战役后对待战俘的方式。他把意大利人遣送回家，希望他们可以为迦太基的理念做宣传。之后他选择南下，前往亚得里亚海的皮塞嫩（Picenum）地区。自公元前218年春迦太基军队离开东西班牙海岸之后，地中海终于再次出现在汉尼拔的视野中。这之后，他又纵容军队抢掠了阿普利亚（Apulia）附近的肥沃地区。
一连串的失败之后，恐慌彻底笼罩了罗马城。一天又一天，元老院成员不间断地进行辩论。民众对于解决方案和取得胜利的呼声日益高涨，最重要的是，他们需要一位谨慎的战略家。昆图斯·费边·马克西姆斯承诺将不负众望，因此民众推选他为独裁官，组建临时政府，在有限的6个月时间内行使最高行政权。马尔库斯·米努西乌斯·鲁弗斯（Marcus Minucius Rufus）则以骑兵统帅的身份担任费边的助手。他与费边一样也曾出任执政官，并拥有丰富的军事经验。但他们两人在性格上有着极大的不同：费边温和谨慎，而米努西乌斯易怒且鲁莽。
首先，费边改变了罗马的战争策略。他的前任总是在对己方不利的地形上匆忙地和汉尼拔交战，最终输掉战争，而他并没有强迫自己与迦太基人正面交锋。他选择用时间来消耗对方，利用这些时间训练军队来提升士气，同时寻找下一次交战的有利时机。
与此同时，汉尼拔自由地穿越了阿普利亚和坎帕尼亚（Campania）。由于费边高挂免战牌，他可以肆意地抢掠那些富庶地区。而经过漫长等待之后，费边也终于等到了扭转战局的机会。在汉尼拔经过离泰阿诺（Teanum）不远的伏尔图尔努斯河（Volturnus）时，费边成功地将其包围并展开反击战。不过这一部署被对手机智地化解：汉尼拔在牛角上绑上火把并驱赶着牛群冲向罗马人的营地。把守隘口的士兵本应该防止迦太基人脱逃，却因此陷入恐慌，擅离职守和迦太基的赶牛部队作战。汉尼拔利用由此产生的混乱逃出了费边的包围，而费边则不敢在夜晚离开自己的营地与汉尼拔作战。不过这段历史是否真如文字记载的那样还有待考证（波里比阿III 93-95）。然而，无论如何，它都凸显了汉尼拔作战的灵活性和费边的小心谨慎，后者也因此在历史书中被称为“拖延者”（Zauderer）。
对费边战术的质疑声越来越大。许多人认为他的助手——骑兵统帅米努西乌斯是更好的选择，因此他们地位上的差异日渐消失。米努西乌斯希望通过进攻来扭转战局。罗马军队的指挥权被一分为二。在杰罗尼翁（Gereonium）[1]附近，米努西乌斯向汉尼拔发起进攻。而汉尼拔十分清楚罗马军营内的紧张气氛，正面应战并将对手击败。若不是费边出兵为米努西乌斯的逃亡部队提供掩护，这场失败将会更加彻底。虽然费边的谨慎策略被证明是更好的，但从长远来看，罗马人并不满足于此。
费边的独裁统治宣告结束，他没有为这场战争带来众所期盼的突破。公元前216年，执政官盖乌斯·特伦提乌斯·瓦罗（Gaius Terentius Varro）和卢基乌斯·埃米利乌斯·保卢斯（Lucius Aemilius Paullus）决心调动一切力量做出改变。罗马历史上第一次建立了一支由8个军团组成的军队，其中包括从罗马同盟者那里招募的士兵。整体对比来看，罗马方面约有9万人，而迦太基约有5万人。此前从未有过一场战役动用过如此之多的兵力。
汉尼拔关注罗马城内的事态发展，并为不可避免的战斗做着准备。他占领了奥菲杜斯河（Aufidus）畔的罗马营地坎尼（Cannae），这片地区地势平坦，有利于迦太基骑兵摆开阵形。他十分清楚罗马军团不可阻挡的冲击力，尤其是当他们按计划冲锋时。为了取胜，他不得不兵出奇招。因此，他正对着罗马阵线中央摆出了一个向前凸出的由西班牙人和高卢人组成的半圆形步兵队列。他们的任务是抵挡罗马人的猛攻并有序地撤退。汉尼拔自己也留在了战斗部队中，他们将面对的是对手最强力的冲击。而攻击则由北非部队从侧翼展开，骑兵在其中起着至关重要的作用。来自努米底亚、西班牙和高卢的骑兵必须击败罗马骑兵，并从后方包抄罗马军队。这个计划能否成功取决于他们的表现。
1.迦太基军营
2.罗马军营
3.迦太基重装骑兵队
4.迦太基轻装骑兵队
5.迦太基非洲步兵军团
6.迦太基伊比利亚、高卢步兵军团
7.迦太基轻武装部队
8.罗马轻武装部队
9.罗马军团
10.罗马骑兵队
战斗当天（可能是公元前216年8月2日），汉尼拔的策略起到了效果，迦太基人成功了。罗马军队被包围击溃，他们甚至没能组织起有效的抵抗。罗马人损失惨重，据说超过7万名战士战死，包括执政官卢基乌斯·埃米利乌斯·保卢斯。超过1万名罗马士兵被迦太基人俘虏。只有少数人设法逃脱，执政官盖乌斯·特伦提乌斯·瓦罗也在其中。相对而言，汉尼拔的损失就小得多。
罗马军团不败的神话被打破。通过成熟的战略部署和巧妙的战术运用，汉尼拔展示了如何战胜在数量上有明显优势的对手。
汉尼拔是众神的宠儿？迦太基的守护神更强大？面对他如此巨大的成功，这些问题必须得到解答，更何况罗马史学家一直在指责他不信教（李维XXI 4）。坎尼战役后不久，汉尼拔和马其顿宣誓结盟，这份盟约透露了对汉尼拔行为的宗教肯定。我们可以在盟约中读到：“在宙斯、赫拉和阿波罗面前，在迦太基的守护神赫拉克勒斯和伊奥劳斯（Iolaos）面前，在阿瑞斯（Ares）、特里同（Triton）和波塞冬面前，在那些与我们共同奋战的神灵面前，在太阳、月亮和大地面前，在河流、港口和海洋面前，在所有掌管迦太基的众神面前，在所有统治马其顿和其他希腊地区的天神之前，在所有陪伴我们征战的众神之前，大家都见证了这份誓言。”（波里比阿VII 9）
坎尼战役是罗马历史上最黑暗的一天，这是一场彻底的失败。罗马人现在在意大利已经没有可以一战的军队了。汉尼拔登上了权力巅峰。据说，在这位常胜将军召集的作战会议中，一部分军官建议他进军罗马。迦太基骑兵指挥官马哈尔巴曾说：“你知道如何取得一场胜利，汉尼拔，但你不知道如何利用它！”（李维 XXII 51）这句话虽流传甚广，但其真实性仍有待考证。
但汉尼拔有不同的计划。他并没有在战局和心理都最占优的时刻进军罗马，这可能是他在整场战争中犯下的第一个也是最致命的错误。也许是对萨贡托旷日持久的围攻仍心有余悸，又或许汉尼拔认为他的军队不足以完成这项任务，这我们已经无从知晓。但是从未尝试进攻可能是一次灾难性的不作为，也最终给汉尼拔带来了苦果。事实上，其他规模相仿的部队都接受了这样的挑战并顺利地完成了任务。例如，若干年后克劳狄乌斯·马塞勒斯攻占叙拉古就证明了这一点。他带领的军队并不比汉尼拔在坎尼战役中指挥的部队更强，而叙拉古的防御工事更坚固，比罗马更难攻破。费边·马克西姆斯攻下塔伦图姆（Tarent）也是一个很好的例子。但这都只是基于坎尼战役的过程和结果得出的片面观点，其主要论点如下：正面进攻的罗马军团在数量上占据绝对优势，而汉尼拔则以灵活的战术与之抗衡，其特点是机动性和对地形的充分利用。相对于罗马的巨大损失，迦太基方面损失较小，但汉尼拔并不敢利用这一有利时机。他给了罗马喘息的机会，放弃了几乎已经到手的胜利。从现有的无论是古代还是现代作者的陈述中，都可以得到与之相应的论点。问题是，这一切是否与历史实情一致。在任何情况下，针对我们讨论的事件及其导致的后果，都不会只有一种解读，而是存在不同的声音。对坎尼战役的主流看法是，这对于汉尼拔而言是一场压倒性的胜利，却因为他的犹豫不决而最终败北。正如人们声称的那样，汉尼拔本可以在罗马军队溃败之后一举拿下罗马城，结束战争。但他并没有这么做，据此可以认为汉尼拔虽是一名军事鬼才，却也只是一位没有政治远见并最终败下阵来的老兵。此外，巨大的失败使罗马的最终胜利更为耀眼，它好似一种独一无二的存在，不仅能够承受如此巨大的冲击，而且有能力反败为胜。
另一个似乎更接近真实历史的解读则对坎尼战役的影响范围有更清楚的判断。虽然汉尼拔取得了辉煌的胜利，在战场上证明了自己，但罗马的惨败仍是以迦太基军队巨大的损失为代价换来的。汉尼拔的损失比两军战力间明显的纯数字比较要大得多。坎尼战役这场大规模军事冲突之后，迦太基的军事实力也遭到了削弱。汉尼拔已经无法继续实行原有的主动进攻策略。他没有选择进攻罗马，一方面表明了其军队战力遭到削弱；另一方面则是他对情报进行评估得出的结论。他认为这样鲁莽的冒险并不会带来胜利。汉尼拔在坎尼战役之后积极寻求政治解决方案，这并不是一位门外汉的拙劣表现，而恰恰相反，即使情势所迫，他仍试图找到最佳的出路。赢得新的盟友为他创造了必要的喘息机会（李维XXII 61）。坎尼战役后不久，罗马人也被迫将新组建的军队拆散成小部队，同时派往不同的战线。而此时，迦太基人不必再单独承担战争的压力。汉尼拔一开始所追求的对抗罗马的理想战争形态取得了成果。而这也使他能够兑现自己的政治和军事誓言：将战争带到意大利的土地上去。这一目标的实现使北非免受战争之苦；而对于汉尼拔来说，当他作为一个孩子目睹了反叛雇佣军对迦太基的围困时，其意义远不止这一次战略目标的完成。
如果汉尼拔以为罗马会因为坎尼之战中的溃败而准备和解，那么他就大错特错了。即使有一场酣畅淋漓的大胜指引方向，他仍然没有直接进攻罗马，而是间接地削弱对方，这样的战术有其更深层次的考量。在坎尼战役胜利的影响下，属于萨莫奈人、卢卡尼亚人（Lukanien）、布鲁提乌姆人（Bruttien）和阿普利亚人（Apulien）的一部分城市加入了迦太基一方。特别重要的是，意大利第二大城市、位于亚平宁半岛土地最肥沃的坎帕尼亚地区的卡普亚（Capua）也选择脱离罗马，加入汉尼拔的阵营。
政党变化往往和国内政局改变以及社会斗争相关。受罗马霸权影响而在政治、经济和社会中处于不利地位的人纷纷转投汉尼拔。
但即使是在他最成功的时刻，汉尼拔也清楚地意识到罗马的颓势很快就将结束。拉丁人、伊特鲁里亚人（Etrusker）、萨宾人（Sabiner）、翁布里亚人（Umbrier）、皮切诺人（Picentiner）以及大多数坎帕尼亚人仍旧忠于罗马。而重要的港口城市那不勒斯也拒绝了汉尼拔一次又一次的招降。
自汉尼拔到达意大利以来，他赢得了四场胜利（提契诺河战役、特雷比亚战役、特拉西梅诺湖战役、坎尼战役），而且最后一战对于罗马人而言是毁灭性的，但罗马人并没有屈服。至少在当时他们仍坚信，这座位于台伯河畔的城市（Tiberstadt）的政治力量不会因军事失败而被击垮。
离开新迦太基之后不到两年的时间里，汉尼拔的事迹令世界震惊。无论是大自然还是那个时代最强大国家的军事力量，都无法阻挡他。这些前所未有的成功对他个人又有何影响？是否改变了他？类似这样的问题都很难得到解答，因为古罗马的作者们几乎没有记述这位让全世界屏息凝神的将领的个性。我们不清楚，他是如何看待自己失去了一只眼睛的，或是在坎尼战役大胜之后他表达了什么样的感受，抑或他多年来是如何忍受常人无法想象的巨大压力的。我们仅有的信息总是和他的公开活动有关。那些对他的描述或是指责都将他视作一位军事将领（普鲁塔克，Leben des Fabius Maximus 15，16）。波里比阿如此赞扬汉尼拔的成就：“罗马与迦太基之间所发生的一切都由这个男人负责，汉尼拔，他有着无比的才智和坚韧的意志。他在意大利赢得了优势；西班牙的事务都交由他的兄弟哈斯德鲁巴和马戈；在西西里岛，则先后由希波克拉底（Hippokrat）及其兄弟和利比亚人米托诺斯（Myttonos）代理。他还以同样的方式影响着希腊和伊利里亚。他从那里威胁着罗马人，让他们陷入恐慌，并通过与腓力的合作来分散他们的注意力。他就是这样一位如此伟大和令人钦佩的人，并且能够把上天赐予的天赋转换成无与伦比的能力。竭尽人之所能，达成自己设定的一切目标。”（波里比阿IX 22）
这位非凡的常胜将军在和亚历山大相仿的年纪令骄傲的罗马战栗，而那位大帝曾多次击败并最终征服波斯。然而，在坎尼之战之后，迦太基人与马其顿人的发展却完全不同。不像亚历山大占领了庞大的异国领土［波斯帝国、苏萨（Susa）和波斯波利斯（Persepolis）］，汉尼拔并没有作为胜利者进入罗马，而罗马也没有成为第二个波斯帝国。
汉尼拔是为了迦太基的独立而战。他试图效仿古希腊城邦的政治制度，通过创造各方势力间的平衡，使几个相互竞争的政体同时存在，从而阻止一个全能的霸权国家出现。事实上，罗马断然拒绝受到这样的束缚。而这一点是汉尼拔在坎尼之战后才体会到的。在自己成功的顶峰才有所领悟，对他而言可能为时已晚。一个极具启发性的悖论很好地阐释了这一情况：罗马从未如此接近深渊，而属于汉尼拔的胜利却远在天边。
[1] 也译作“吉鲁尼乌姆”，位于意大利中部山岳地区萨莫奈（Samnium），即今天部分属莫利塞大区的桑尼奥（Sannio）。
