总结而言，综观这本书，我们看到了人类自我意象的变迁。长期以来，人类都难以克服傲慢的倾向，自大地想象自己拥有中心地位，认为其余万物都是围绕着我们而旋转。但是，我们也一次又一次证明这样的想法是错误的——其实是我们围绕着太阳旋转，而太阳围绕着银河系的中心旋转，银河系位于一个充满无数星系的宇宙，而这个宇宙又只是四个多重宇宙层级中小小的一个。我希望这能让我们保持谦卑。然而，尽管我们高估了人类在万物图景中的物理力量，但我们却总是低估我们的精神力量！我们的祖先认为他们永远受限于地面上，永远无法真正理解天上星星的本质。然后，他们意识到自己不用飞入太空就能研究天体——只需放飞人类的心智，而非身体。得益于物理学的进展和突破，我们对实在本质的洞察变得越来越深邃。我们发现自己栖身于一个祖先们做梦都想不到的宏大实在中，这意味着人类未来生活的潜力也一定会超出我们的想象，不可限量。在未来，有了几乎无穷无尽的物理资源，人类的天赋和创造力一定会变革一切。所以，命运掌握在我们自己手中。
唯一能限制我们的，是人类自己的想象力
如果我错了，如果数学宇宙假说是错误的，这意味着基础物理学必将遭遇到一个障碍，如果不克服它，我们就无法更好地理解我们的物理实在，因为它缺乏数学描述。如果我是正确的，这个障碍就会烟消云散，万事万物从本质上都可以被我们理解。我想，这是一件奇妙的事情，因为那时候，唯一能限制我们的，就是人类自己的想象力。
更准确地说，唯一能限制我们的，就是我们的想象力和完成艰苦任务的决心。道格拉斯·亚当斯对“生命、宇宙和万物的终极问题”所给出的答案（见第9章），并不能算一个答案，也无法安抚所有提出问题之人。同样，关于实在终极本质的问题，我所提出的答案（“全是数学”，或者更具体地说是“第四层多重宇宙”）也无法回答大部分传统的宏大问题。与直接回答不同，大部分问题都被改述，重新措辞。例如，“量子引力学的方程是什么”这个问题就变成了“我们在第四层多重宇宙中处于什么位置”——这个问题与原来的问题一样难以回答。所以，关于物理实在的终极问题一直在改变。我们抛弃了“哪一些数学方程描述了我们的实在”这样误导性的问题，转而发问“如何从飞鸟视角中计算出我们的宇宙在青蛙视角中的样子”——也就是我们的观测。这将决定我们是否能揭开这个宇宙的真实结构，并帮助我们弄清楚我们的家园位于数学宇宙中的哪个角落。
基本问题比那些不那么基本的问题更容易回答，这在物理学中是一个普遍的现象——如果我们发现了描述量子引力学的正确方程，它们就能让我们对空间、时间和物质的理解更深入，但无法帮助我们建立更精确的全球气候变化模型，即使它们已经从本质上解释了与天气有关的所有物理学。魔鬼就藏在细节之中，要搞清楚这些细节需要大量与终极基本理论无关的艰苦工作。
本着这样的精神，本书剩下的部分将探索一些更具体的宏大问题，带领我们越来越远离基本物理学，但越来越靠近我们自己的家园。由于本书前面的部分花了太多精力来讨论我们的过去，那么，用展望未来作为旅程的终结，再合适不过了。
我们宇宙的未来——它将如何终结
如果数学宇宙假说是正确的，那么总体来说，我们物理实在的未来并没有太多东西可以说——由于它存在于时间和空间之外，它终结或消逝的方式与它创生和变化的方式并没什么不同。但是，如果我们拉近镜头，仔细观察我们栖居的这个包含时间和空间的数学结构，那么一切就会变得更加有趣。在我们这里，万事万物仿佛是在我们这样的观察者的着眼点上展开，所以我们自然而然地想知道最终会发生什么。
那么，数十亿年之后，我们的宇宙将如何终结？对这个即将到来的宇宙末日，我有5个主要的猜想，都画在图12-2中了，并在表12-1中进行了总结——大冷寂、大挤压、大撕裂、大断裂和死亡泡泡。
图12-2 我们知道，我们的宇宙开始于140亿年前的一场炙热的大爆炸，它先膨胀，然后冷却，将它的粒子变为原子、星星和星系。但是我们并不知道它的终极命运。人们提出的终极情景包括大冷寂（永远膨胀）、大挤压（再次坍缩）、大撕裂（无穷大的膨胀率将万物撕裂）、大断裂（空间被拉伸过多时，它的结构展现出了致命的颗粒性质）和死亡泡泡（空间“冷冻”入致命的泡泡中，并以光速膨胀）。
表12-1 空间在5种宇宙末日情景中的不同未来
我们的宇宙已经膨胀了约140亿年。大冷寂是指我们的宇宙将永远膨胀下去，稀释为一个冷寂黑暗、最终死亡的地方。这让我想到艾略特所说的：“这就是世界完结的方式，不是砰的一声垮掉，而是轻轻啜泣着消亡。”如果你像罗伯特·弗罗斯特（Robert Frost）一样，更喜欢世界终结于烈火中而非冰冻中，那么请双手合十，祈祷大挤压的出现吧。在大挤压中，宇宙膨胀最终将反向进行，万事万物被再次压缩在一起，导致灾难性的坍缩，很像大爆炸的倒播。而大撕裂在无耐心的人眼里与大冷寂十分相似，在其中，我们的星系、行星甚至原子都将在有限时间后的一场终曲中被撕裂。
这三个结局，你会赌哪一个发生呢？这将取决于暗能量随空间膨胀将发生什么事。我们在第3章曾提到过，暗能量占宇宙质量的约70%。如果暗能量保持不变，那将发生大冷寂；如果暗能量稀释为负密度，将发生大挤压；如果暗能量“反”稀释为更高的密度，将发生大撕裂。
由于我们尚不知道暗能量究竟是什么东西，我只能告诉你，我的赌注是这样的：40%赌大冷寂，9%赌大挤压，1%赌大撕裂。另外50%呢？我要把钱存起来，投注给“以上皆非”选项，因为我认为人类应当更加谦卑地意识到，还有许多基本的东西是我们所不了解的，例如空间的本质。大冷寂、大挤压和大撕裂的结局，都事先假定了空间本身是稳定的，并且能够被无限拉伸。
我们曾经认为，空间处在一个无聊的稳定状态，宇宙的戏剧在其中徐徐展开。然后，爱因斯坦告诉我们，空间并不只是这场戏剧的舞台，它也是其中的重要演员——它能弯曲成黑洞，能荡漾出引力波，能拉伸为一个膨胀的宇宙。也许，它还能像水一样冷冻为另一个不同的相，在其中产生出致命的高速膨胀泡泡（见第5章）。这些泡泡都是新的相，为我们提供了一个新的宇宙末日候选者。我们还曾经认为，如果空间不与其他东西相互远去，就无法创造出更多空间。
然而，爱因斯坦的引力理论讲述了一个完全相反的故事（见第2章）：在星系之间的某个区域内，能够产生出更多的空间体积，而不需要将新产生的体积膨胀入其他区域——新的体积还是待在原来的星系之间。此外，爱因斯坦的理论还说，空间的拉伸可以永恒持续下去，这样，在大冷寂和大挤压的情景中，我们宇宙的体积就会接近无限大。这听起来好得令人难以置信，不禁让人怀疑：真是这样吗？
橡皮筋看起来很不错，具有连续性，就像空间一样。但是假如你把它拉伸得过多，它就会断裂。为什么？因为它是由原子组成的，如果拉伸得太多，橡皮筋原子的颗粒性质就变得重要起来。有没有可能，在人类无法企及的微小尺度上，空间也具有类似的颗粒性呢？数学家喜欢用理想的连续统来模拟空间，不采用任何颗粒性，因此无论距离多么小，都是有意义的。在MIT的大多数物理课上，我们也使用着同样的连续统空间模型，但是，它真的正确吗？肯定不正确！事实上，反对它的证据越来越多（见第10章）。在一个简单的连续空间中，你需要写下一个数位无限多的数字，才能确定两个任意点之间的距离，但是物理学巨擘约翰·惠勒告诉我们，量子效应或许会让小数点后34位之后失去意义，因为我们整个经典的空间概念在小尺度上会崩溃，也许是被一个奇怪的泡泡结构所取代了。这有点像你在计算机屏幕上不断放大一张照片，就会发现原本看起来光滑而连续的画面实际上变成了颗粒状，就像橡皮筋一样，只不过照片中不可细分的组成单元是像素（见图10-3）。
由于照片是由像素组成的，它只包含着有限量的信息，并能很方便地在互联网上传输。同样地，越来越多的证据表明，我们的可观测宇宙也只包含着有限量的信息，让我们更容易理解大自然如何计算下一步要做什么。全息原理指出，我们的宇宙最多包含着10124比特的信息（见第5章）。算下来，平均每个原子的体积中可以塞进10个TB的信息。
下面就是困扰我的事。量子力学薛定谔方程暗示着，信息不可能被创生，也不可能被毁灭（见第6章）。也就是说，随着宇宙的膨胀，每一升空间中所包含的信息量在持续减少。在大冷寂情景（我在天体物理学家中进行了一圈投票，大冷寂的得票处于宇宙末日选举中的领先地位）中，宇宙会永远膨胀下去，那么，当每升空间所包含的信息含量的数量级从GB降到MB，甚至少于一部手机能存储的数据时，会发生什么呢？降到每升1字节呢？在我们用详细模型来取代连续统空间模型之前，我们无从知晓具体的结果，但是我想，我应该把赌注押在下面这种情况：某些糟糕的事情会发生，将逐渐改变我们所知的物理定律，让我们这样的生命形式不可能继续存在下去——欢迎来到我所谓的“大断裂”。
下面的事更让我困扰：我经过简单的计算发现，大断裂将在几十亿年后发生，甚至比我们的太阳耗尽燃料、吞噬地球的时间还早。暴胀理论是将“爆炸”放入宇宙大爆炸的最好理论（见第4章）。暴胀理论说，在早期宇宙中，存在相当多的高速拉伸区域，某些区域拉伸的程度比其他区域大。如果空间拉伸存在一个上限，到达上限后就会遭遇到大断裂，那么，大部分体积（因此也包括大部分星系、恒星、行星和观察者们）都将处在拉伸得最多、最接近断裂的区域内。
那么，这个即将来临的大断裂会是什么样呢？如果空间的颗粒性逐渐增长，那最先陷入困境的就是尺度最小的结构。我们可能会先注意到，核物理学的性质发生了变化，例如先前稳定的原子发生了放射性衰变。接着，原子物理学开始改变，扰乱了所有化学和生物学。幸运的是，我们宇宙中的伽马射线暴就像一个便利的预警系统，就像煤矿中的金丝雀，或许可以早在大断裂伤害我们之前就发出警示。伽马射线暴是灾难性的宇宙爆炸，从遥远的宇宙深处而来，向我们爆发出短波的伽马射线。在连续空间中，所有波长移动的速度都相同，等于光速，但是在一个颗粒空间中，短波移动的速度稍慢。我们最近发现，两个波长不同的伽马射线从一个遥远的爆炸出发，在宇宙中旅行数十亿年后到达同一张照片的时间差在0.01秒之内。从表面上看，这排除了大断裂将发生在亿亿年之后的可能性，将上一段中的时间预测呈现在我们面前。
实际上，问题比这更加严重。我们空间的膨胀并不均匀，其实，某些区域（例如我们的银河系）根本不膨胀。因此，有人可能会认为，在星系间的空间经历大断裂之后，住在星系里的观察者还可以快乐地生活很长时间，只要这些遥远区域的恶化效应还未传递到我们的星系就好，但是，这种情景只能拯救观察者，却拯救不了潜在的理论！实际上，理论和观测之间的差异只会变得更糟——现在，再重复一下先前的论证就可预测道，我们有极大的可能性正幸福地生活在某个幸存的星系中，而其他大部分空间早已发生了大断裂，所以，奇怪的伽马射线时间滞后现象的缺乏就变得更加难以解释。
所以，我们将宇宙学和量子力学中某些最受人珍视的配料混合在一起，再加上一些实验数据，搅一搅，就炮制出了一味奇怪的佳酿。结果是什么呢？配料混合得并不好，这意味着，至少其中一个方面出了问题。我热爱神秘的事物。我发现，悖论是大自然赐予我们物理学家最好的礼物，因为它们常带来突破的线索。我想，我们理应在空间本质的研究上获得突破，大断裂的悖论正是一条有趣的线索。
生命的未来——人类如何跨越毁灭性的险滩泥沼
我们从第四层多重宇宙的物理实在出发，拉近镜头细观了我们的宇宙并讨论了它未来的命运。现在，让我们更加靠近我们的家园，来考虑一下生命的未来。在宇宙所有令人敬畏的性质中，我认为最鼓舞人心的是，它鲜活了起来，包含了拥有自我意识的实体，比如我们——这群能够享受它并探究其秘密的人类。
那么，展望未来，生命会怎样呢？人类在宇宙中孤独吗？是否还存在其他愿意与我们交流或企图毁灭我们的文明呢？人类会遍布我们的宇宙吗？或许会以某种更加进化的形式？下面，我们就将探索这些令人着迷的问题，但首先，让我们先来解决一些更紧迫的问题：未来，地球上的生命将面临哪些主要的生存威胁？我们怎样才能缓和这些威胁？
存在风险
当我15岁时，脑中一个念头令我感到震惊。我很清楚，人无远虑必有近忧。我们担心健康、人际关系、金钱和事业这样的个人挑战，还担心家庭、朋友和社会面临的威胁。但是，在这其中，有可能毁灭全人类的最大威胁是什么呢？我们对这个威胁担心得足够多吗？不，并没有！
我意识到，我的人生笼罩在风平浪静的虚假安全感中，我过去竟然天真地相信所有需要担心的事情都已经被别人处理好了。在我蹒跚学步时，我从不担心晚餐，因为我知道父母对此早有计划。我从不担心我的安全，因为我知道消防员和警察对此也有周密的计划。但我渐渐意识到，我周围的成年人并不是我所认为的那样全知全能，有许多小问题都需要我自己解决。不过，摆在全人类面前的那些真正重要的大问题，一定早有政治领袖们来优先考虑了。然而，真的是这样吗？
作者推荐了相关网站以方便读者参考相关内容，扫码登陆。
我从未怀疑过这一点，直到15岁时，一个恐怖的真相就像一块砖头砸到我头上。这个人生的“叫醒电话”来自我了解到了核军备竞赛的细节。我真的震惊了，因为我突然意识到，在这颗美丽珍贵的蓝色行星上，居住着数十亿的人类，尽管没有人想要一场全面核战争，但在我的人生中却有极大的风险会看到这场战争爆发，导火索可能只是一次偶然事件。或许，这个风险是每年1%——又或许是它的1%，也可能是它的10倍，在我看来，这风险仍然高得令人瞠目结舌。然而，竟然没有任何一个国家把它当作首要问题。此外，这只是被尼克·波斯特洛姆称为“存在风险”（existential risk）的许多例子中的其中一个。存在风险有可能会消灭地球上所有智慧生命，或者永久彻底地削减我们的潜力。
美国未来学家巴克明斯特·富勒（Buckminster Fuller）用一种比我年轻时更诗意的方法描绘了人类在“地球宇宙飞船”上集体旅行时面临的基本困境。当地球宇宙飞船在冰冷贫瘠的太空中航行时，它支持和保护着我们。它存储了大量但有限的水资源、食物和燃料。它的大气层让我们保持温暖，（并用臭氧层）阻挡太阳有害的紫外线，它的磁场保护我们不受致命的宇宙射线侵害。当然，任何一个有责任心的飞船船长都会把保护飞船未来的存在当作第一要务，这包括了避免小行星撞击、船载爆炸、过热、紫外线防护层被破坏和过早消耗物资。然而现在，我们飞船上的船员并没有把其中任何一条作为第一要务，投入的资源（据我评估）还不及它赐予我们的百万分之一。甚至，我们的飞船根本没有船长！
接下来，我们将探讨为何人类如此不擅长应对这些关乎我们长期生存的重大威胁，以及我们对此到底能做什么。不过，让我先简短地调查一下到底存在哪些危机。图12-3总结了我认为最相关的一些存在风险。让我们从时间线的最右端（也就是最遥远的未来）开始，一步步回到现在。
图12-3 有可能毁灭我们所知的生命形态或永久削减它们潜力的情况举例。我们的宇宙自身似乎还会延续几百亿年，但我们的太阳却会在10亿年内将地球烤成焦土，并吞噬地球，除非我们将地球移动到安全距离之外；35亿年后，我们的银河系将与仙女星系相撞。尽管我们并不知道确切的时间，但我们几乎可以肯定地预测，在撞击发生之前，小行星就会撞击地球，超级火山会喷发，造成长达数年的冰冷寒冬。在更近的时间内，我们可能会面临着自讨苦吃的局面，例如气候变化、核战争、全球性的瘟疫以及不友好的超级人工智能。
太阳正在死亡
让我们先从天文学和地质学的威胁开始，然后再转向人类自己制造的威胁。早先，我们讨论了我们宇宙终结的5个末日情景：大冷寂、大挤压、大撕裂、大断裂和死亡泡泡。尽管我们不知道其中哪一个会真的发生（如果真会发生的话），我猜我们并不需要惊慌，因为在几百亿年的时间里，宇宙都不会发生大规模的破坏。
确定无疑的事实是，我们45亿岁的太阳会更早为我们带来麻烦。由于太阳核心发生着复杂动态的核聚变反应，它发出的光会越来越亮，逐渐消耗着它的氢燃料。有预言称，大约10亿年后，太阳光将为地球的生物圈带来大灾难，时空温室效应将逐渐烤干我们的海洋，就像金星上已经发生的事情一样。如果我们不做点什么，那它一定会发生。
有趣的是，我们可能真的能做一些事。天文学家唐纳德·科瑞堪斯基（Donald Korycansky）和弗雷德·亚当斯（Fred Adams）的研究表明，通过妙用小行星，地球可以逐渐远离日渐炙热的太阳，到达更远的轨道，以保持恒定的温度。他们的基本思想是每6 000年推动一颗大型的小行星以极近的距离掠过地球，在正确的方向上给地球一个引力牵引。每一次这样的近距离相遇都需要经过微调，方法是将小行星送到接近木星和土星的地方，以获得下一次靠近地球所需的能量以及重置角动量。我们过去已经用过这样的“引力辅助”，将NASA的旅行者号等探测器送到外太阳系。一旦成功，这个计划将把地球从现在算起适宜人类居住的时间从10亿年延长到60亿年。在那之后，太阳将照旧结束自己的生命，膨胀为一个红巨星。到那时候，如何继续保持大气层的适宜温度并且不被太阳吞噬掉，还需要更彻底的测算。
与此同时，几十亿年之后，我们整个银河系将与它最近的大邻居——仙女星系相撞，并融合为一个更大的星系。这件事并没有听起来那么糟糕，因为星系中恒星之间的距离与恒星的大小相比，太过遥远，所以大部分恒星只是穿过彼此的空隙，并不会相撞：举个例子，如果太阳的大小相当于波士顿的一个橘子，那么，它最近的恒星邻居——比邻星会位于我的家乡斯德哥尔摩。相比之下，大多数恒星并不会相撞，而是会相互混合，形成一个崭新的星系，“银河仙女星系”（Milkomeda）。然而，正如我们接下来要看到的那样，这件事将加剧超新星爆炸和小行星撞击的危险。
小行星、超新星和超级火山
地球上的化石证据显示，过去的5亿年内发生了5次大规模的灭绝事件，每一次都消灭了超过50%的动物物种。尽管细节尚存激烈的争议，但人们普遍相信这些事件都是由各种天文或地质事件所引发。5大灭绝事件中最近的一个发生在约6 500万年前，看起来是由一个与珠穆朗玛峰差不多大的小行星撞击墨西哥海岸线所引起的，此次事件最著名的伤亡就是非鸟恐龙的灭绝。这个小行星的冲击能相当于几百万次氢弹爆炸。它撞开了180公里的地壳，黑暗的尘云笼罩地球，遮蔽阳光多年时间，导致全球生态系统崩溃。
地球会定期遭到来自太空的撞击，这些物体大小和成分各异。所以，问题不在于我们是否会遭受类似的死亡撞击，而在于什么时候会遭遇。答案很大程度上取决于我们自己——建立一个由机器望远镜组成的全球性网络，应该能够提前几十年对危险的入侵小行星发出警报，给我们足够的时间来开发、启动和执行计划以偏转它们的方向。如果准备得足够早，只需要温和地推动一下就可以了。可采用的方法有很多，例如引力牵引（用卫星的引力去吸引小行星）、星载激光（烧蚀小行星表面的物质，使其脱落，让小行星往相反的方向反冲），甚至还可以粉刷小行星，好让太阳加热带来的辐射压推动着它往相反方向前进。如果时间很短暂，就需要一个较为冒险的方法，例如动力撞击器（让卫星像足球运动员一样将小行星踢离轨道）或核爆炸。
作为热身，我们可以用一些较小的小行星来做练习，它们撞击地球的次数更加频繁。比如，1908年的通古斯事件就是由一个油罐车大小的物体撞击地球导致。这样大小的物体并不会带来存在风险，但是如果它撞到一个大城市，那它释放出的百万吨级爆炸将会让数百万人丧生。经过练习，一旦我们掌握了偏转小型小行星以保护地球的技巧，当下一个大家伙来临时，我们就能做好万全的准备。我们还能把同样的技术诀窍运用在我们前文讨论过的长期工程项目上，操控小行星以扩大地球的轨道半径，使地球远离逐渐炙热的太阳。
小行星并不是造成生物大灭绝的唯一原因。还有一个来自天空的嫌疑犯就是超新星爆炸引发的伽马射线暴，正是它导致了约4.5亿年前的第二次生物大灭绝。尽管现存的证据太少，不足以在“法庭”上判它有罪，但这名“嫌疑犯”显然拥有作案的方法和可行的机会。当某些质量超大、旋转超快的恒星以超新星的形式爆发时，它们会将剧烈的爆炸能量以伽马射线的方式释放出来。如果这种杀手射线扫过地球，它将带来两个连环效应：首先，它将直接毁灭人类，并毁掉地球的臭氧层；之后，太阳的紫外线会再次清扫地球表面。
不同的天文学风险之间有着有趣的关联。偶尔会有恒星随机地逛到太阳系附近，干扰小行星和彗星的轨道，将它们成群结队地送入内太阳系。其中一些有可能与地球相撞。比如，预计140万年后，恒星格利泽710就将在1光年外的地方路过太阳系，比我们最近的邻居——比邻星目前与地球的距离近4倍。
此外，今天的银河系，大部分恒星都乖乖地按同样的方向绕银河系中心旋转，就像有条不紊的转盘。然而，当银河系与仙女星系相撞并融合后，就会一团糟。恒星之间破坏性接触的频率大大提升了，这将激发大量小行星，甚至可能将地球踢出太阳系。这种星系撞击还会造成气体云的相撞，引发一波造星运动，而最重的新生恒星会很快爆炸成超新星。如果它们距我们很近，结果不会很舒服。
回到家园，我们还可能面临着“内敌”——地球自身引起的事件。超级火山和玄武岩浆洪流是多次生物大灭绝的头号嫌疑犯。它们能用黑暗的尘云封锁地球，遮蔽阳光数年之久，引发“火山冬天”，与大型小行星撞击后一样。它们还可能会在大气层中注入能导致有毒物质、酸雨和全球变暖的气体，从而干扰全球生态系统。实际上，人们广泛认为，西伯利亚的一次超级火山爆发就是2.5亿年前那次最大规模灭绝事件的罪魁祸首。这次事件被称为“大灭绝”（Great Dying），几乎摧毁了96%的海洋生物。
自作自受，打开潘多拉的盒子
总而言之，我们人类面临着来自天文或地质的存在风险；我只总结了我个人认为最严重的例子。当我思考这些危机时，我得出的结论实际上非常乐观：
●很有可能，未来科技能帮助地球生命再繁荣数十亿年。
●如果我们和后代一起努力的话，应该能够研发出这些科技。
前文没有谈到图12-3左边那些最紧急的危机，现在，给我们一些时间来处理剩下的这些问题吧！
颇具讽刺意味的是，这些最紧急的问题大都是自作自受。与之相比，大多数天文和地质的灾难都徘徊在几百万甚至几十亿年后，而我们人类却以10年为单位，迅速改变着一切，就像打开一个潘多拉的盒子，里面飞出了各种各样的存在风险。我们用渔业、农业和工业转变了水、土地和空气，每年造成30 000种生物灭绝，被生物学家称为“第6次生物大灭绝”。接下来该灭绝的生物，会不会是我们自己？
毫无疑问，你一定听说过有关人为危机的严厉争论，从（意外发生或故意而为的）全球性瘟疫到气候变化、污染、资源枯竭和生态系统崩溃。让我来告诉你，我最担心的两个人为危机是什么——意外的核战争和不友好的人工智能。
意外的核战争
“连环杀手正逍遥法外！”“人体炸弹！”“当心禽流感！”尽管报纸头条都喜欢用这些标题来吸引眼球，但最有可能杀死你的其实是古老又无聊的癌症。虽然你每年患癌症的概率低于1%，但是只要你活得够长，最后的概率还是很大。意外的核战争也同样如此。
在过去的50多年里，人们造出了能够引起核决战的工具。这段时间里发生了一连串爆发全面战争的虚假警报，原因有很多，从计算机失灵、供电故障、情报错误到导航误差、轰炸机坠毁和卫星爆炸。在我17岁时，这些事情让我十分困扰。那时我作为自由撰稿人为瑞典和平杂志《PAX》撰写文章。这本杂志的主编卡里塔·安德森（Carita Andersson）热心地培育了我对写作的热忱，教会我许多技巧，并让我写了一系列新文章。逐渐解密的历史记录显示出某些核事件的风险远远大于当初认为的程度。比如，很明显，在2002年的古巴导弹危机中，比尔号驱逐舰（USS Beale）向一艘身份不明的潜艇发射了深水炸弹，而后者实际上是一艘装载有核武器的苏联潜艇，它的指挥官们争吵着是否应该回敬一颗核鱼雷。
尽管“冷战”早己结束，但近年来的危机却不减反增。洲际弹道导弹不甚精确但破坏力极大，这加强了“互相保证毁灭”（mutually assured destruction）机制的稳固性，因为一方先出击将导致无法避免的大规模报复行动。但近年来，导弹研究转向更精确的制导、更短的飞行时间和更好的敌方潜艇追踪系统，侵蚀了前述机制的稳定性。导弹防御系统一旦成功，将彻底侵蚀这个机制。俄罗斯和美国都保留了他们的预警发射战略，要求发射决策在5～15分钟的时间内完成。而在这么短的时间里，可能根本无法获取完整的信息。1995年1月25日，俄罗斯时任总统叶利钦差几分钟就要启动针对美国的全面核战争，只因为一个身份不明的挪威科学火箭。美国一个项目计划用常规弹头取代三叉戟潜艇搭载的24枚D5洲际弹道导弹中的两枚，引发了广泛担忧；因为俄罗斯的预警系统无法将它们与核导弹区分开，增加了灾难式误解的可能性。还有一些令人担忧的情景包括精神不稳定的军队指挥官和/或边缘政治/宗教行为导致的刻意渎职行为。
可是，为什么要担忧呢？当然，如果事态变严重了，理智的人们会站出来，作出正确的选择。实际上，有核国家都有精心设计的对策，就像我们的身体对待癌症一样。我们的身体通常可以处理孤立的恶化突变，并且，要引发某一种癌症，可能需要同时触发4个看似巧合的突变。然而，如果我们扔骰子的次数足够多，坏事就可能会发生——斯坦利·库布里克（Stanley Kubrick）的核战争黑色喜剧《奇爱博士》（Dr.Strangelove）就将其描绘为一个三重巧合。
在我的人生中，两个超级大国之间意外的核战争有可能发生，也可能不会发生。如果它发生了，它必将改变一切。我们目前所关心的气候变化与核冬天相比，根本不算什么。核冬天来临时，全球性的尘云将阻隔阳光长达数年之久，就像小行星撞击或超级火山造成生物大灭绝时的后果一样。2008年经济动荡在核战争面前是小巫见大巫，因为核战争会导致全球性的作物枯竭、基础设施崩溃和大规模的饥荒。在饥饿中挣扎的幸存者会组成武装团伙，挨家挨户抢夺财物。我的人生中会遇见这样的事情吗？我赌30%的概率，与我患癌症的概率差不多。然而，我们对防止核战争所给予的关注和资源，远远低于我们为预防癌症所做的努力。即使全人类的30%都得了癌症，总体来看，人类还是会幸存，但如果爆发核战争，我们的文明不一定能逃过这一劫。关于如何降低这一风险，在科研机构的大量报告中有具体且直接的步骤——但这永远不会成为第一要务，总是被大多数人忽略。
不友好的技术奇点
工业革命带来了比我们更强壮的机器。信息革命带来了在某些方面比我们更聪明的机器。在哪些方面呢？曾经，计算机只能在简单的、依靠蛮力的认知任务（例如快速算术或数据库搜索）上超越我们。但是2006年，一台计算机打败了国际象棋冠军弗拉基米尔·克拉姆尼克（Vladimir Kramnik）；2011年，一台计算机在美国智力竞赛电视问答节目《危险边缘》（Jeopardy！）中击败了卫冕冠军肯·詹宁斯（Ken Jennings）；2012年，一台计算机在美国内华达州获得了驾驶执照，因为它的汽车驾驶技术被证明比人类更安全。这些进展会走向何方？计算机最终能否在所有任务上都超越我们，从而衍生出超人的智能？我毫不怀疑，这必将发生：我们的大脑是一堆遵守着物理定律的粒子，并没有一个物理定律阻止粒子组成某些能完成更高级的计算过程的排列。但是，它真的会发生吗？如果真的发生了，这会是一件好事，还是坏事呢？这些问题十分适时：尽管某些人认为超级智能机器在可预见的未来不可能实现，但还有一些人不这么认为，例如，雷·库兹韦尔就预言，2030年，这样的机器就会出现，使其成了目前必须应对的、最紧急的存在风险。
●奇点理论
总而言之，我们并不清楚超级智能机器会不会出现。在这件事上，人工智能专家们也分成了几个阵营。但我个人的观点十分清晰，那就是，如果它发生了，后果将是爆炸性的。在我出生的两年前，也就是1965年，英国数学家欧文·古德（Irving Good）解释了原因：
超级智能机器的定义是一台能超越所有人类智力活动的机器，不管人类有多聪明。由于对这种机器的设计也是人类智力活动之一，因此，超级智能机器能够设计出更好的机器；毫无疑问将会发生一场“智能爆炸”，将人类的智力远远甩在后面。这样，第一台超级智能机器就是人类需要发明的最后一个东西，因为这种机器足够温顺，它会告诉我们如何才能控制它。
1993年，数学家兼科幻作家弗诺·文奇（Vernor Vinge）写了一篇启人深思、使人冷静的论文。他把这种智能爆炸称为“奇点”（the Singularity），认为我们根本不可能对该点之后的事情作出可靠的预测。
我猜测，如果我们能造出超级智能机器，那么第一台这样的机器将严重受限于人类为它编写的软件。由于我们不理解如何将智能程序最优化，所以我们可能会用硬件来弥补这一点，我们可能会建造非常强大的硬件，其计算能力甚至超过我们的大脑。毕竟，我们的神经元并不比海豚的神经元多，也不比海豚的神经元好，只是连接方式不同而已。这意味着，有时候软件比硬件更重要。在这种情况下，第一台机器或许能够通过一遍又一遍重写自己的程序来实现一次又一次彻底的进步。也就是说，我们人类花了数百万的时间，才从猿猴般的祖先里彻底进化出了智能。而这种机器能以同样的方式，在短短的几小时甚至几秒钟内，就进化出远超祖先——也就是我们人类的智力。
从此以后，地球上的生命再也不一样了。不管是谁，也不管是什么，只要控制了这种科技，就能迅速成为全世界最富有、最有权势的富豪。它比所有金融市场更聪明。它发明的东西、获得的专利远超所有人类研究者。通过设计出本质上更好的计算机硬件和软件，这种机器能迅速提升自己的能力和数量。很快，它们就能发明出超乎我们想象的科技，包括任何它们认为有必要的武器。政治、军事和社会控制将很快跟上来。基于当代的图书、媒体和网络内容产生的影响，我怀疑这种机器能够出版比几十亿拥有超级天赋的人类还多的书籍，并能赢得我们的心灵和思想，而不用彻底收买或征服我们。
●谁控制着奇点
如果奇点发生了，它将如何影响人类文明呢？我们当然不能给出肯定的答案，但我想，答案应该取决于究竟是谁或者什么东西从一开始就控制着它，正如我在图12-4中画出的那样。如果科技最初是由学术研究者或其他使之开源的人所发展出来的，我认为随之而来的混战局面将会变得高度不稳定，并在短暂的竞争后，由胜出的那个实体来控制。如果这个实体是一个利己主义的人类，或者追逐利润的公司，我认为他们对政府的控制也为期不远了，因为这位所有者将占领世界，并摇身一变，成为政府。如果这个实体是一个利他主义的人类，结局也是一样的，只不过在这种情况下，人类控制的人工智能更像是被奴役的神，一种拥有理解力和超人能力的实体，但却只会遵循主人的指令做事。这些人工智能远超过今天的计算机，二者的差距就像我们人类与蚂蚁的差距一样。
也许，事实会证明，想要奴役这样的超级人工智能是不可能的，即使我们竭尽全力将它们“锁起来”，不让它们接触互联网。只要它们能与我们交流，它们就能理解我们，懂得如何用花言巧语欺骗我们，让我们作出一些看似无伤大雅但却能让它们“逃脱”、扩散或夺权的事情。我很怀疑我们能否控制这样的逃脱，因为今天的人类即使在人造计算机病毒面前也常无计可施，而这些病毒比起人工智能来说简单太多了。
为了防止逃脱事件的发生，或者说为了更好地为人类利益服务，它的主人可以选择自愿让权给友好的人工智能。这是人工智能研究者埃利泽·尤德考斯基（Eliezer Yudkowsky）提出的一个概念。友好的人工智能不管最终发展到多么先进的程度，它都始终保持着一个目标——要对人类产生正面的而非负面的影响。如果这成功了，那么友好的人工智能就会表现得像仁慈的神祇，或动物园管理员。如果人类的所有工作都被友好人工智能控制下的机器人替代了，那么人类依然可以活得幸福，因为我们所需的一切都是免费提供的。相比之下，如果奇点由利己主义的人类或追逐利润的公司所控制，将可能带来空前的贫富差距，因为历史证明，大多数人类都喜欢将财富攥在自己手里，而不是将其分散出去。
图12-4 如果奇点真的来临，背后的控制者不同，结果将十分不同。我认为“没有人”这个选项是非常不稳定的，在短暂的竞争之后，控制权就会落入单个实体的手中。我还认为，由利己主义的人类或追逐利润的公司控制，最终都将被政府控制所取代，因为所有者终将统治全世界，并变成政府。由利他主义的人类控制，或者让权给保护人类利益的友好人工智能，结果并不会有什么不同。不管怎样，终极的控制者都将是一个不友好的人工智能，它超过了自己的创造者，并迅速发展，巩固自己的势力。
然而，再完美的计划也会失败。友好人工智能的控制权也可能不稳定，控制权最终可能会落入一个不友好的人工智能手中。不友好的人工智能的目标与我们人类不一致，它的行为可能会摧毁所有人，以及人类所关心的一切事物。这种灾难的发生可能是偶然性的，而不是故意为之——人工智能可能只是想用地球上的原子做点别的事情，只不过这件事情与我们的存在相违背。这与我们人类对待低等生物的方式很相似。这个事实令人沮丧：当我们想修建水坝时，总要淹没一些区域，这些区域内的蚂蚁会因此丧生，但我们还是会修建水坝——并不是因为我们讨厌蚂蚁，要对它们赶尽杀绝，只是因为我们的注意力聚焦在一个我们认为更重要的目标上。
●超级智能生命的内部实在
如果奇点真的发生，这会让人工智能拥有意识和自我意识吗？它们会拥有内部实在吗？如果不会，那它们充其量只是僵尸而已。在人类所有的特征中，我觉得意识是迄今为止最令人瞩目的一个。就我而言，这使得我们的宇宙拥有了意义。所以，如果我们的宇宙被某种不具有意识的生命形态所统治，那它就失去了意义，是对空间的巨大浪费。
生命和意识的本质一直是人们争论的焦点。我想，这个现象不止在碳基生命中存在，还应该存在于更一般的生命形态中。我在第10章中提到，我相信意识是信息以某些方式加工时的感觉。由于物质通过排列组合来处理信息的方式非常多，同时拥有极其多变的复杂性，这暗示着意识也可能拥有极其多变的层级和种类。那么，我们主观上感知到的这种意识就是从某些高度复杂的物理系统中产生出的一个现象，这些系统不断地输入、处理、存储和输出着信息。很显然，如果原子能组成人类，那么物理定律也同样允许它们组成更先进的知觉生命。
如果人类最终会通过触发奇点而开发出更智能的实体，那么我认为这些实体也能感觉到自我意识，因此它们不能被看作无生命的机器，而应该看作像我们一样有意识的存在。但是，它们的意识在主观上可能与我们的感觉大相径庭。比如，它们可能缺乏人类对死亡的巨大恐惧，因为它们只需要将自己备份一下，那么即使它被消灭，失去的东西也并不多——最多是最近一次备份点到现在为止累积的记忆而已。人工智能之间可以随意复制信息和软件，这或许会削弱个性，而个性正是人类意识的特色——如果我与你事无巨细地共享着记忆和能力，那么我们之间还有什么差别呢。所以，一群相距不远的人工智能可能会感觉它们是同一个生物，拥有同一个群体心智。
如果这是真的，那就符合末日论所提到的长期生存问题——将要终结的并不是生命本身，而是我们的参考类，也就是一些主观感觉与人类心智非常相似的、自知的观察者时刻。即使大批精致复杂的群体心智在几十亿年的时间内占领了我们的宇宙，我们也不应该为我们不是它们中的一员而感到惊讶，就像我们不会为自己不是蚂蚁而感到惊讶一样。
●人们对奇点的反应
关于奇点，人们有着非常不同的反应。友好人工智能的想法在科幻作品中有着久远的历史，它巩固了艾萨克·阿西莫夫著名的机器人三定律，这正是我们人类想和机器人保持的和谐关系。但那些描写人工智能超过并攻击人类的故事也十分流行，比如《终结者》系列电影。许多人对奇点理论不以为然，称之为“极客的狂喜”，认为它只是一个遥不可及的科幻场景，根本不可能发生，至少在可预见的未来不可能发生。还有一些人认为它很可能会发生，如果我们不未雨绸缪，提前作出详细计划，那它或许会毁灭人类，还会摧毁人类所珍视的一切。我们在前文讨论过这种观点。我在机器智能研究所（https：//intelligence.org/）担任顾问，这里的许多研究者都支持这种观点，认为奇点将是我们面临的最严重的存在风险。有一些研究者甚至觉得，如果不能保证尤德考斯基等人眼中的友好的人工智能情景一定会发生，那么，最好的方式就是将未来的人工智能锁起来，由人类严密看管，或者根本不要研发先进的人工智能。
到目前为止，我们的讨论一直聚焦在奇点的负面后果，但还有一些人，例如雷·库兹韦尔则认为，奇点可能会带来极大的正面效应。实际上，他认为这将是发生在人类身上的最好的事情，将解决人类目前面临的所有问题。
