今天我们现有的智能系统和科幻小说中的智能系统之间有着很大的差距，虽然许多人，无论是外行和内行，都试图低估这种差距。我们以IBM公司的沃森认知技术为例，这一技术目前可以算是我们人类想象力的一个颇具价值的里程碑。这是许多人历时几百年进行大规模智能设计研发的结果，正如乔治·丘奇所指出的那样，它使用的能量是人脑的数千倍。他也指出，由于技术上的限制，这可能只是暂时的。沃森在智力问答节目中的胜利是真正的胜利，这有可能是由于节目规则的刻板限制才会获胜，但为了使之发挥能力，甚至要修改这些规则。其中的一个折中办法是：放弃一点多样性，一点人性，得到一个令人满意的节目。沃森不是好伙伴，尽管IBM的广告有些误导性，让公众相信沃森拥有一般的会话能力，但把沃森当成一个貌似真实的多维立体主体，就像把手动计算器当成沃森一样可笑。对于这样的主体来说，沃森可能是很有用的核心器官，但与其说它是一个大脑，不如说只是一个小脑或杏仁核，充其量只能是一个有特殊用途的子系统，它可以起到很大的支持作用，但远不能胜任制定目标、计划以及进行有意义对话的任务。
我们为什么要把沃森变成一个有思想、有创意的人类主体呢？也许图灵的那个测试把我们引进了陷阱中：去寻求在屏幕后至少创造出一个真实人物的幻觉，去跨越“恐怖谷”(13)。这里的危险在于，自从图灵提出挑战之后，人工智能的创造者便试图用可爱的仿人触感、迪斯尼化效应来粉饰“恐怖谷”，使外行们沉迷其中，不能自拔。魏岑鲍姆的ELIZA是创造这种肤浅幻觉的先驱，他的那个简单肤浅的程序使人们相信他们正在认真而倾心地交谈，对此他感到沮丧。正是这种沮丧感使他开始有了自己的使命。
他有理由担心。如果说从严格的图灵测试比赛勒布纳奖（Loebner Prize）角逐赛中我们能学到什么，那就是即使是非常聪明的人，如果不了解计算机编程的可能性和捷径，也很容易被简单的小把戏欺骗。人工智能界人士对这些“用户界面”上的伪装方法态度不一，有轻蔑，有喝彩，但普遍都认为这些技巧并不深奥，却很有效。如果人们的态度能发生转变，坦率地承认人形装饰品是虚假的广告，应该被谴责，而不是喝彩，那该多好啊。
怎样才能让这种转变发生呢？一旦我们发现人们开始主要基于人工智能系统的“建议”做出生死攸关的决定，而这一系统的内部操作很难理解，这时我们就能理解，为什么那些想方设法鼓励人们要更多地信任这些系统的人，应当承担更多道义上和法律上的责任。人工智能系统功能非常强大，对于这一系统做出的“判断”，甚至是专家也有理由不相信他们自己的看法到底正确与否。但是，如果使用这些系统的人会因为使用该系统做了常人未曾做过的事而受益，无论是经济方面受益还是其他方面受益，他们都需要确保他们知道如何能以最大的控制力和正当理由，负责任地做到这一点。就像我们给药剂师、起重机操作员和其他专家授权许可一样——他们的错误及错误判断会造成严重后果，给操作员发许可证并对他们进行约束，在保险公司和其他保险商的压力下，可以迫使人工智能系统的创建者不遗余力地寻找、揭示其产品的弱点和差距，并培训那些操作系统的人。
人们可以想象，在一种反向的图灵测试中，接受试验的是法官：除非他或她能够发现弱点、找到越界的证据、洞察系统中的漏洞，否则就得不到操作许可证。而要获得成为法官的认证，需要进行大脑训练，这种训练苛刻无比。无论何时，只要遇到一个似乎很聪明的主体，我们就有一种强烈的欲望想要对其采取意向立场。事实上，拥有能抗拒住把有着人形外表的机器看成人的念头的能力并不好，它代表了种族主义或物种主义。许多人发现这种怀疑一切的方法在道义上令人反感，我们也可以预期，即使最熟练的系统用户，只要能够缓解执行职责时的不适感，偶尔也会忍不住与他们的工具“交朋友”。不管人工智能设计者如何小心翼翼地消除假“人类”的痕迹，我们都能预期到，在这个全新的人类活动设定下会出现全新的思维习惯、对话的伎俩和诡计、陷阱和虚张声势。电视广告上介绍的新药有很多已知的副作用，但和必须揭露的问题相比就相形见绌了，这些问题是特定系统无法负责任地回答的，对那些“忽视”他们产品中缺陷的人应处以严厉的惩罚。人们普遍注意到，当今世界日益严重的经济不平等在很大程度上是由于数字企业家积累的财富造成的；我们应该制定法律，为了公共利益，将他们的财产交由第三方代管。在这些义务面前，一些最富有的人自愿首先服务社会，其次赚钱，但我们不应该仅仅依靠善意。
我们不需要有意识的人工主体。有自然意识的人类的数量已经太多了，足以处理那些该由特殊及特权机构处理的任何任务。我们需要的是智能工具。这些工具没有权利，也没有会被伤害的感情，亦不会愤愤不满于笨拙的用户对它们的“虐待”。(14)不让人工主体有意识的原因之一是，不管它们变得多么有自主性（原则上，它们可以像任何人一样有自主性、能自我提高或自我创造），如果没有特殊规定的话，它们不会像我们这些有自然意识的人类一样，有弱点，会死亡。
在塔夫茨大学的一个研讨会上，我与马蒂亚斯·朔伊茨（Matthias Scheutz）共同教授人工智能和自主性，我向学生提出一个问题：描述一个机器人的规格，它能与你签署有约束力的合同，不是代表其人类主人，而是代表它自己。这不是让它理解条款或操作笔在纸上写字的问题，而是它作为一个道德上负责任的主体有并“应该有”的法律地位的问题。小孩子不能签这样的合同，那些按照法律要求要受到这种或那种监护人的照顾并由监护人承担责任的残疾人也不能签这样的合同。对于那些可能想要获得如此崇高地位的机器人来说，问题是，就像超人一样，它们太无懈可击以至于无法做出令人相信的承诺。如果它们要背弃承诺，会怎样？它们没有信守诺言，能给它们什么样的惩罚？是把它们关在牢房里，还是更合理些，把它们拆了？除非我们最开始时给它们安装了人工漫游癖，而且人工智能自己不能忽略或禁用这种人工漫游癖，否则把它们关起来对于它们来说几乎不会带来任何不便；并且考虑到我们假定人工智能很狡猾，有自知，那么系统上很难使这个解决方案万无一失。如果存储在设计和软件中的信息得以保存下来，那么拆除人工智能并不会杀死它，无论是机器人还是像沃森一样的无法动弹的主体都是如此。数字记录和传输是一种重大突破，使得软件和数据实际上可以永远存在，依靠它，机器人获得了永生——至少我们通常想象的那种机器人有着数字软件和记忆。如果这还不明显，那么想想假如我们每周都能制造一些“备份”人，人类的道德会受到怎样的影响。当你周五晚上的备份在周日早上传到网上，那么你不会记得周六你没有系蹦极绳，从高桥上大头朝下跳了下去，但是你之后可以欣赏到你的死亡录像带。
所以我们创造的不应该是有意识的类人主体，而应是一种全新的实体，更像是圣人，没有良知，没有对死亡的恐惧，没有令其分心的爱和恨，没有个性，但是各种各样的弱点和怪癖毫无疑问会被看成是系统的“个性”：一箱箱的真理（如果我们幸运的话）几乎可以肯定会被零星的谎言所污染。学习与它们共存却不被这些人工智能奴役我们的奇点论所分心，真的很难。人有人的用处将很快改变，再次、永远地改变，但如果我们对自己的行为负责，我们就可以在危险之间掌握主动权。
06 我们的机器使我们陷入非人类混乱 THE INHUMAN MESS OUR MACHINES HAVE GOTTEN US INTO
We are in a much more complex situation today than Wiener foresaw, and I am worried that it is much more pernicious than even his worst imagined fears.
我们今天的处境比维纳预想的要复杂得多，我担心这比他预想的最糟糕的情况还要糟糕得多。
罗德尼·布鲁克斯
Rodney Brooks
罗德尼·布鲁克斯是一名计算机科学家，麻省理工学院机器人学荣誉退休教授，麻省理工学院计算机科学实验室前主任，以及Rethink Robotics的创始人、董事长兼首席技术官。著有《肉体与机器》（Flesh and Machines）。
布罗克曼谈罗德尼·布鲁克斯
在埃罗尔·莫里斯（Errol Morris）1997年的纪录片《快速、廉价、失控》（Fast, Cheap and Out of Control）中，机器人专家罗德尼·布鲁克斯与驯狮师、拓扑学家和裸鼹鼠专家一起亮相，一位评论家描述布鲁克斯“眼睛里闪烁着一丝微笑”。但大多数幻想家都是如此。
在他几年后的职业生涯中，作为一名世界一流的机器人学家，布鲁克斯提出“我们把人类过度超人化了，其实人类只是机器”。他接着又描绘了即将到来的人工智能世界，在这个世界里，“我们和机器人的区别将消失”。他还承认他有一种分裂的世界观。“就像信仰宗教的科学家一样，我有两套完全不同的观点，在不同情况下会采取不同的观点。”他写道，“我认为，正是这种在不同信仰体系之间的超越，使人类最终能够接受机器人是有情感的机器，然后开始同情它们，并赋予它们自由意志、尊重并最终赋予它们权利。”
这些观点提出于2002年。在这篇文章中，他的观点虽然狭隘却更偏执。他认为，由于软件工程的快速发展，我们越来越依赖无处不在的那些系统，它们不但具有剥削性，而且还非常容易受到攻击。人类对这些系统如此依赖令他感到震惊。他说软件工程的发展速度已经超过了实施可靠有效的保障措施的速度。
数学家和科学家们常常受限于他们工作中使用的工具和隐喻，无法看清他们特定领域之外的大局。诺伯特·维纳是这样，我想我也是这样。
当维纳写下《人有人的用处》一书时，他正处于将机器和动物简单地理解为物理过程的时代的末尾，以及将机器和动物理解为计算过程的我们当下这一时代的开端。我猜想，未来会有一个时代，在那个时代所用的工具看起来与维纳所处的两个时代所用的工具截然不同，就像那两个时代的工具本身也彼此不同一样。
维纳是早先那个时代的巨人，使用的工具是自牛顿和莱布尼茨时代以来发展起来的，用于描述和分析物理世界中连续过程的工具。1948年，他出版了《控制论》，“控制论”这个词是他杜撰的，借指机器和动物的通信和控制科学。今天，我们将该书中的思想称为控制理论，它是设计和分析实体机器不可或缺的学科，却忽略了维纳关于通信科学的主张。维纳在第二次世界大战期间，对高射炮的瞄准和发射机械的研究工作在很大程度上推动了他的创新。他将数学的严谨性引入到各种技术的设计中，而在以前，从罗马排水系统到瓦特的蒸汽机再到汽车的早期发展，这些技术的设计过程本质上多是启发式的。
我们可以想象，如果当时没有艾伦·图灵和约翰·冯·诺伊曼——他们都为计算基础做出了重大贡献，那么我们的智力和技术史就会出现不同的版本。图灵在他的论文《关于可计算数及其在判定问题中的应用》（On Computable Numbers, with an Application to the Entscheidungsproblem）中设计了基本的计算模型——现在称为图灵机，该论文撰写并修订于1936年，于1937年发表。在这些机器中，使用有限字母表的一条写有符号的纸带对输入的计算问题进行编码，并为计算提供工作空间。每个单独的计算问题需要不同的机器。后来，其他人的工作表明，在一个特定的机器中，也就是通用图灵机中，任意一组计算指令可以在同一纸带上编码。
在20世纪40年代，冯·诺伊曼开发了一种抽象的自复制机器，称为元胞自动机。在冯·诺伊曼的设定中，元胞自动机占据了二维无限正方形阵列的有限子集，每个正方形格子中写有来自29个不同符号组成的有限字母表中的单个符号，而无限阵列的其余部分开始为空白。所有方格中的单个符号步调一致地变化，变化规则都是基于该方格中的当前符号及其相邻符号而制定出来的，虽然复杂但有限。按照冯·诺伊曼提出的复杂规则，大多数方格中的符号保持不变，只有少数几个符号每次发生一些变化。因此，当我们观察非空白方格时，似乎能看到一个恒定结构，里面在发生一些活动。
当冯·诺伊曼的抽象机器复制时，它在平面的另一个区域复制出自己。在“机器”里有一条水平方格线，它用有限字母表的一个子集作为有限线性磁带。正是这些方格中的符号对它们所属的机器进行编码。在机器的复制过程中，“磁带”可以向左或向右移动，它既可以被看成（转录）对在建的新“机器”发出的指令（翻译），又可以被复制，新的“磁带”副本被放在新机器里进行进一步复制。
弗朗西斯·克里克（Francis Crick）和詹姆斯·沃森（James Watson）后来在1953年展示了生物学上一个很长的DNA分子是如何具象化这样的磁带的，该DNA分子具有4个碱基的有限字母：鸟嘌呤、胞嘧啶、腺嘌呤和胸腺嘧啶，分别简写为G、C、A和T。(15)就像冯·诺伊曼的机器一样，在生物复制中，DNA中的线性符号序列先转录成RNA分子，然后再变成蛋白质、构成新细胞的结构，在这个转录过程中，DNA也在新细胞中得以复制和封存。
另一个基础性工作是冯·诺伊曼在1945年发表的《第一稿》（First Draft）报告，该报告描述了一种数字计算机的设计，其中冯·诺伊曼提出了一种既包含指令又包含数据的存储器。(16)这种计算机现在被称为冯·诺伊曼架构计算机，与哈佛架构计算机不同的是，哈佛架构计算机有两个独立的存储器，一个用于存储指令，一个用于存储数据。摩尔定律时代制造的绝大多数计算机芯片都基于冯·诺伊曼架构，包括那些驱动我们的数据中心、笔记本电脑和智能手机的芯片。从早期在哈佛大学和布莱切利园用电磁继电器构建的数字计算机到冯·诺伊曼的数字计算机架构的飞越，在概念上与专用图灵机到通用图灵机的扩展是相同的。此外，他的自我复制自动机与图灵机和基于DNA的生物细胞复制的机制在构造上具有根本的相似性。直到今天，关于冯·诺伊曼是否看出图灵机和他创建的两部机器之间存在交叉关系，学术界一直存在争论。图灵和冯·诺伊曼在普林斯顿大学期间，图灵完成了对论文的修改；而且，图灵在拿到博士学位后，几乎一直在继续做冯·诺伊曼的博士后。
如果没有图灵和冯·诺伊曼，维纳的控制论可能不会仅有短短的荣耀时刻，它会更长时间地主导我们的思维方式，驱动技术的发展。在这个想象的历史版本中，我们今天可能生活在一个真正的蒸汽朋克世界，而不仅仅在制造业博览会上看到它神奇的实例！
在我看来，维纳以一种特殊的方式思考世界，包括物理的、生物的和社会的世界。他把世界看成连续的变量，在《人有人的用处》第1章中他这样解释过，并通过吉布斯统计对热力学表示了赞同。他还在物理和生物实体之间加入令人难以置信的信息模型作为它们之间信息传递的工具。在我看来，近70年后的今天，从我们拥有的技术优势来看，他的工具似乎不足以描述构成生物体系的机制，而且他也没有想到类似的机制最终可能会融入技术计算系统中，就像现在一样。今天的主导技术根植于图灵和冯·诺伊曼的世界，而不是维纳的世界。
在第一次工业革命中，人类工人使用来自蒸汽机或水轮的能量取代了他们自己的能量。人类不再是体力劳动的能量来源，而变成调制器，研究如何使用大量能源。但是因为蒸汽机和水轮必须很大才能有效利用资金，而且在18世纪，仅有的用于空间能量分配的技术是机械的，只能在很短的范围内有效，所以许多工人需要挤在能源的周围工作。维纳预测，传输能量并将之转化成电能的技术将开启第二次工业革命。他说对了。现在，使用能量的地方可以远离能量源，从20世纪初开始，随着配电网的建立，制造业变得更加分散。
接下来维纳认为，另一项新技术，即他那个时代刚刚诞生的计算机器，将带来又一次革命。他谈到的这种机器本质上似乎既是模拟的，也是（也许是）数字的。在《人有人的用处》一书中，他指出，由于这些机器能够做出决定，蓝领工人和白领工人可能会沦落为更大机器上的齿轮。他担心，由于机器的这种能力所催生出的组织结构可能会使得人类彼此利用甚至是相互滥用。在过去的60年里，我们确实看到了这一切的发生，而且还远远没有结束。
然而，他基于物理学的计算观使他没有意识到事情会变得多么糟糕。他看到机器的交流能力能为我们提供一种全新的、无人性的指挥和控制方式。但他却没有看到，几十年内计算系统会变得更像生物系统，而且根据他在那本书第10章中对自己在生物学某些方面的建模工作的描述，他似乎低估了和物理学相比生物学的复杂性。我们今天的处境比他预想的要复杂得多，我担心这比他预想的最糟糕的情况还要糟糕得多。
在20世纪60年代，计算是牢固地建立在图灵和冯·诺伊曼奠定的基础上的，它是数字计算，以他们所使用的有限字母表为基础。一个由有限字母表中的字符构成的、任意长度的序列或字符串，可以被编码为唯一的整数。和图灵机一样，计算的形式变成了计算单个整数值输入的整数值函数。
图灵和冯·诺伊曼都逝世于20世纪50年代，当时他们就是这样看待计算的。他们既没有预见到摩尔定律会带来计算能力的指数增长，也没有预见到计算机器会变得如此普及。他们还没有预见到计算模型的两个发展，每一个都对人类社会构成巨大威胁。
第一个发展源于他们所采用的抽象概念。50年来，摩尔定律推动了软件生产大赛，新的软件被不断生产出来以充分利用每两年翻一番的计算机能力，而工程学科的谨慎和检验传统却被搁置一边。软件工程发展速度快，容易发生故障。这种没有正确标准的软件的迅速发展，为利用冯·诺伊曼架构中将数据和指令存储在同一存储器的特征，开辟了许多途径。最常见的一种路径称为“缓冲区溢出”，它将一个大于程序员预期的输入数字或长字符串溢出到存储指令的地方。通过仔细设计一个迄今为止特别大的输入数字，使用软件的人可以用程序员不打算使用的指令感染它，从而改变它的行为。这是创建计算机病毒的基础，之所以命名为“计算机病毒”，是因为它与生物病毒相似。生物病毒将额外的DNA注入细胞，而细胞的转录和翻译机制盲目地解释该额外的DNA，产生可能对宿主细胞有害的蛋白质。而且，细胞的复制机制会让病毒大量增殖。因此，一个小的外来实体可以控制一个更大的实体，并以意想不到的方式改变后者的行为。
这些及其他形式的数字攻击使我们每天的日常生活不再有安全感。现在我们几乎一切都依靠计算机。我们的电力、燃气、道路、汽车、火车和飞机等基础设施依靠计算机，这些都是不堪一击的。我们依靠计算机来管理我们的银行业务、账单、退休账户、抵押贷款、商品购买和服务。同样，这些也是不堪一击的。我们的娱乐活动依靠计算机，我们的商业和个人通信、国内安全、了解到的世界信息，以及投票系统都依靠计算机，所有这些都是脆弱得不堪一击的。这一切不会很快得到解决。与此同时，我们社会的许多方面都可能受到恶性攻击，不管攻击来自职业罪犯还是民族国家的对手。
第二个发展是计算不再是简单的计算功能。相反，程序持续在线，因此它们可以收集一个查询序列的全部数据。按照维纳、图灵、冯·诺伊曼的方案，网络浏览器的通信模式是：
用户：请显示A网页。
浏览器：这就是A网页。
……
用户：请显示B网页。
浏览器：这就是B网页。
而现在的通信模式是这样的：
用户：请显示A网页。
浏览器：这就是A网页。（同时我默默记下你曾要求访问A网页。）
……
用户：请显示B网页。
浏览器：这就是B网页。（同时我注意到它的内容与前面请求的A网页之间的相关性，因此我将更新您，即用户的模型，并将其传输给生产我的公司。
当机器不再简单地计算一个函数，而是保持一种状态时，它就可以开始通过呈现给它的请求序列，对人类进行推断。当不同的程序在不同的请求流之间相互关联，例如，将网页搜索与社交媒体网站相关联，或者与在另一个平台上的支付服务相关联，或者与在特定广告上的停留时间相关联，或者与用户使用带GPS功能的智能手机时所经过的位置相关联。这时，由许多程序构成的总系统，由于程序之间互相沟通，以及它们与数据库的通信，会带来全新的隐私泄漏。许多美国西海岸公司所做出的巨大剥削性飞跃，是在没有得到那些与计算机平台交互的人员知情同意的情况下将这些推断货币化。
维纳、图灵和冯·诺伊曼无法预见这些平台的复杂性，在这些平台上，条款合同中有许多艰涩难懂的法律字眼，人们不清楚这些条款的具体含义就自愿签订，这使得他们放弃了那些在与其他人一对一的交易中绝不会放弃的权利。计算平台已经成为一种屏障，在其背后，一些公司不人道地剥削他人。在某些国家，政府操纵这些平台，其目的不是利润，而是镇压异议。
人类已经陷入困境：我们正被一些公司剥削，这些公司提供了我们渴望的服务，但与此同时我们的生活却依赖于许多软件系统，这些软件系统极易受到攻击。让人类摆脱困境将是一个长期任务。它将涉及工程、立法以及最重要的，道德领导力。道德领导力是最重要的，也是最大的挑战。
07 智能的统一 THE UNITY OF INTELLIGENCE
The advantages of artificial over natural intelligence appear permanent, while the advantages of natural over artificial intelligence, though substantial at present, appear transient.
人工智能胜过自然智能的优势是永久的，而自然智能胜过人工智能的优势，虽然目前是实质性的，但似乎这只是暂时。
弗兰克·维尔切克
Frank Wilczek
弗兰克·维尔切克是麻省理工学院物理系赫尔曼·费什巴赫讲席教授，2004年诺贝尔物理学奖得主，著有《美丽之问：宇宙万物的大设计》（A Beautiful Question: Finding Nature's Deep Design）一书。
布罗克曼谈弗兰克·维尔切克
我第一次见到弗兰克·维尔切克是在20世纪80年代，当时他邀请我到他在普林斯顿的家里聊天。“地址是默塞尔街112号，”他写道，“寻找没有车道的房子。”几个小时后，在爱因斯坦的旧客厅里，我和未来的诺贝尔物理学奖得主交谈起来。你永远也猜不到，弗兰克是不是和我一样，对周围的环境很敏感。他唯一提到的就是在“没有车道的房子”前找个停车位太难了。
与大多数理论物理学家不同，弗兰克长期以来一直对人工智能有着浓厚的兴趣，有这三个他的“结论”为证：
1.“弗朗西斯·克里克称之为‘惊人的假说’：意识，也称为心智，是物质的一种涌现性。”如果这是真的，则表示“所有智能都是机器智能。自然智能与人工智能的区别不在于它是什么，而在于它是如何制造的”。
2.人工智能不是外星人入侵的产物。它是特定人类文化的产物，反映了文化的价值。
3.大卫·休谟在1738年写下了“理性是，并且只应该是，激情的奴隶”这一番引人注目的言论。当然，这番话是指人类的理性和人类的激情。但休谟的逻辑、哲学观点也对人工智能有效。简单地说：驱动行为的是激励，而不是抽象的逻辑。
他指出：“20世纪和21世纪的大事是，随着计算的发展，我们学会了如何更好地计算基本定律的后果。这里有一个反馈循环：当你能更好地理解事物时，你就可以设计出更好的计算机，这样你就能更好地进行计算。这是一种上升的螺旋结构。”
在这篇文章里，他认为，就目前而言人类智能具有优势，然而，我们的未来，不受太阳系的限制，毫无疑问也不受银河系的限制的未来，如果没有人工智能的帮助，将永远无法实现。
对有争议问题的简单回答
◎ 人工智能会有意识吗？
◎ 人工智能会有创造力吗？
◎ 人工智能会是邪恶的吗？
这些问题在当今大众媒体里和科学辩论中经常被提到。但讨论似乎从未有定论。在这里，我首先作答如下：
基于生理心理学、神经生物学和物理学的答案，如果不是“是”、“是”和“是”，那将是非常令人惊讶的。原因很简单，但也很深刻：根据这些领域的证据，自然智能和人工智能之间极有可能没有明显的鸿沟。
著名生物学家弗朗西斯·克里克在1994年的著作《惊人的假说》（Astonishing Hypothesis）中提出了一个“惊人的假说”：心智来自物质。他的著名观点是，心智，只不过是“一个巨大的神经细胞组群及其相关分子之间的交互作用”。
这个“惊人的假说”实际上是现代神经科学的基础。人们试图通过理解大脑的功能来理解心智的工作原理；他们试图通过研究信息如何被编码成电子和化学信号，如何被物理过程转换，以及如何被用来控制行为，来理解大脑是如何工作的。在科学尝试中，他们不容许超自然行为。到目前为止，在数千次精心设计的实验中，这种策略从未失败过。至今为止，还没有证据表明，有必要允许意识或创造力不受大脑活动的影响，以解释任何观察到的心理物理学或神经生物学的事实。没有人曾偶然发现与生物体中的传统物理事件分离的心智力量。虽然关于大脑、关于心智，我们尚有许多未解之谜，但这个“惊人的假说”却一直未受到损伤。
如果我们把视野拓宽到神经生物学之外，把整个科学实验的范畴考虑进来，这个假说就更加引人注目。现代物理学关注的往往是极其微妙的现象。为了研究这些现象，实验者必须采取许多预防措施防止“噪声”污染。他们经常发现，为防止杂散的电场和磁场干扰实验，有必要建造精密的屏蔽装置；因为微震或过往车辆引起的微小振动，有必要进行补偿；有必要在极低的温度和高真空状态下工作；等等。但有一个明显的例外：他们从未发现有必要把附近或远处的人的思想考虑进来。似乎与已知的物理过程分离，但能够影响物理事件的“思想波”无须存在。
这一结论，从表面上看，消除了自然智能与人工智能之间的区别。这意味着，如果我们能够复制或准确模拟发生在大脑中的物理过程——原则上我们可以做到，并将其输入和输出结果连接到感觉器官和肌肉，那么我们就能在物理人工物身上再现我们观察到的自然智能的行为。在这一过程中，没有任何可观测的效应会丢失。作为一个观察者，像其他人一样，我将意识、创造力或邪恶归于人工物的理由，与把这些属性归于其自然对应物的理由一模一样，不多也不少。
因此，把克里克的神经生物学的“惊人的假说”和物理学的有力证据结合起来，我们可以推断出自然智能是人工智能的一个特例。这一结论，我称之为“惊人的推论”。
这样，我们就有了3个问题的答案。由于意识、创造力和邪恶是自然人类智能的显著特征，因此它们是人工智能可能拥有的特征。
在100年前，甚至50年前，若相信心智源于物质的假设，并推断出自然智能是人工智能的特例，那将是信仰的飞跃。鉴于当前对生物学和物理学的理解存在许多鸿沟，它们确实值得怀疑。但这些领域的新发展改变了这一局面：
生物学：一个世纪以前，虽然有物理学上的解释，但心智以及新陈代谢、遗传、感知都是生命中深不可测的神秘方面。而今天，从分子开始，我们对新陈代谢、遗传、感知的许多方面都有了极其丰富和详细的描述。
物理学：量子物理学经过一个世纪的发展和在材料上的应用，物理学家们已经一次又一次地发现，物质的行为非常丰富、奇怪。超导体、激光器和许多其他奇迹表明，单个简单的分子单位组合在一起，可以表现出全新的“涌现”行为，但同时又完全遵守物理定律。化学，包括生物化学，包含了大量的涌现现象，这些现象都源于物理学。开创性的物理学家菲利普·安德森（Philip Anderson）在一篇题为《多就是不同》（More Is Different）的文章中，就涌现问题做出了一个经典阐述。他首先承认：“还原论假设，也就是基于简单部分的已知相互作用的物理解释具有完备性这一假设，可能仍然是哲学家们争论的话题，但对于大多数活跃的科学家，我认为他们会毫无疑问地接受这一假设。”但是他继续强调：“对于大而复杂的基本粒子聚集体的行为，不能用几个粒子表现出来的性质进行简单外推。”(17)大小和复杂性每升到一个新级别，都会有新的组织形式出现，其模式以新方式编码信息，其行为以新概念进行描述。
电子计算机是涌现现象最好的例子。这里所有的牌都在桌面上。工程师们根据已知的相当复杂的物理原理，从下到上设计机器，它们能以令人惊讶的方式处理信息。你的苹果手机能在国际象棋中打败你，能快速收集和传递任何信息，也能拍出很棒的照片。因为计算机、智能手机和其他智能物体的设计和制造过程是完全透明的，毫无疑问，它们奇妙的能力涌现自常规的物理过程，我们可以追溯这一过程直到电子、光子、量子、夸克和胶子。显然，无生命的东西可以变得相当聪明。
让我总结一下这个论点。从两个得到有力支持的假设中，我们得出一个简单的结论：
◎ 人类的心智源于物质。
◎ 物质是物理学定义的。
◎ 因此，人类的心智是从我们能够理解并可以人工再现的物理过程中涌现出来的。
◎ 因此，自然智能是人工智能的一个特殊情况。
当然，我们的“惊人的推论”可能会失败，因为这个论点的前两行是假设。但是，这个失败将会带来一个重大发现，一个意义非凡的新现象，它具有大规模的物理后果。这个新现象会发生在不起眼的、被精细研究过的物理环境中，比如人脑内部的材料、温度和压力中，但不知何故，几十年来那些拥有精良仪器、意志坚定的研究员却一直没有能够触碰到这一现象。这样的发现将会是……举世震惊的。
智能的未来
改善人的身体和心智是人性的一部分。在历史进程中，衣服、眼镜和手表使我们的抗逆力、感知力和警觉力变得越来越强。它们是对自然禀赋的重大改进，我们对它们太过熟悉，但这不应该令我们忽视其深刻的意义。今天，智能手机和互联网正将人类增强自身的动力带入一个全新领域，这是一个对于我们作为智能生物的身份更为核心的领域。事实上，这使我们有了一个巨大的集体意识和集体记忆。
与此同时，自主的人工智能已经成为各种“脑力”游戏的世界冠军，如国际象棋和围棋。它们已经接管了许多复杂的模式识别任务，例如重建在大型强子对撞机的复杂反应中发生的一切，从粒子轨迹的暴风雪中寻找新的粒子，或者从模糊X射线、功能性磁共振成像和其他类型的图像中收集线索，以诊断疾病。
推动自我提升和创新的动力将把我们带向哪里？虽然事件的确切顺序和它们将要发生的时间尺度是不可能预测的，或者说至少超出了我的能力范围，但一些基本的思想表明，最终出现的最强大的心智将是与我们今天所知的人类大脑截然不同的东西。
想想以下6个方面，在这些方面中，信息处理技术大大超过了人类能力，有的是从广阔度超过，有的是从质量上超过，有的兼而有之：
◎ 速度：电子的有序运动，是现代人工信息处理的核心，可以比大脑运行中的扩散和化学变化过程快得多。典型的现代计算机时钟速率接近10千兆赫兹，相当于每秒100亿次运算。任何一种单一的速度测量都不适用于令人困惑的各种脑运算过程，但有一个基本的限制，那就是动作电位的潜伏期，这将动作电位的间距限制在每秒几十次。当影像的“帧速”低于约每秒40帧时，我们可以分辨出它实际上是一个静止画面的序列，这或许不是偶然的。因此，电子处理的速度比人脑快近10亿倍。
◎ 尺寸：典型神经元的线性尺寸约为10微米。而为电子器件设定了实际极限的分子尺寸比前者的万分之一还小，人工加工单元正接近这一尺寸。小尺寸让通信更有效率。
◎ 稳定性：人类的记忆本质上是连续的（模拟的），而人工记忆可以具有离散的（数字的）特征。模拟量会被销蚀，但是数字量可以被存储、刷新并完全精确地保存下来。
◎ 工作周期：努力会使人类大脑疲劳。它们需要时间来摄取营养、补充睡眠。它们会衰老。最重要的是：它们会死亡。
◎ 模块化（开放体系结构）：因为人工信息处理器支持精确定义的数字接口，所以可以轻易地添加新模块。因此，如果我们想要一台计算机“看到”紫外线或红外线或“听到”超声波，可以直接将适当的传感器的输出馈送到它的“神经系统”。大脑的结构则更加封闭、不透明，人体免疫系统会积极抵抗外来植入物。
◎ 量子准备：这是模块化的一种特殊情况，它具有长期的潜力。近来，物理学家和信息科学家已经认识到，量子力学的原理支持新的计算原理，这些新的计算原理可以赋予信息处理以质变的新形式和很可能新的智能水平。但是这些可能性依赖于量子行为的各个方面，它们非常微妙，似乎特别不适合与人类大脑温暖、潮湿、混乱的环境进行交互。
显然，作为智力平台，人类大脑远不是最佳的。但是，尽管多才多艺的家务机器人或机械兵会找到现成的、有利可图的市场，但是在目前还没有一种机器能达到这些应用所需的通用人类智能。尽管人类大脑在许多方面相对薄弱，但与人工智能相比仍有一些巨大的优势。让我提5点：
◎ 三维：虽然，如前所述，现有人工处理单元的线性尺寸远小于大脑的线性尺寸，但其以光刻（基本上是蚀刻）为中心的制作过程基本上是二维的。这在计算机板和芯片的几何结构中显而易见。当然，人们可以将一层层堆叠起来，但是与层内相比，层与层之间的间隔要大得多，通信效率也低得多。而大脑则可以更好地利用所有三个维度。
◎ 自我修复：人类大脑可以从许多伤害或错误中恢复过来，或者带病工作。计算机则通常必须从外部修理或重新启动。
◎ 连接性：人类神经元通常支持几百个连接（突触）。此外，这些连接的复杂模式是非常有意义的（参见下一点）。而计算机单元的连接数量较少，并且连接模式固定。
◎ 发育（具有交互式雕塑的自组装）：人脑通过细胞分裂增殖单元，并通过移动和折叠将它们组织成连贯的结构。这一过程还使细胞间的连接大量增加。雕塑的一个重要部分是在婴儿期和儿童期通过积极的过程发生的，因为个体与他或她的环境相互作用。在这个过程中，许多连接被淘汰，而另一些则被加强，这取决于它们在使用中的有效性。因此，大脑的精细结构是通过与外部世界的交互作用来调整的，而外部世界是一个丰富的信息和反馈源。
◎ 集成（传感器和驱动器）：人脑配备有各种感觉器官，特别是眼睛，人脑还配备多功能驱动器，包括能组建物体的手、能走路的腿，以及会说话的嘴。这些传感器和驱动器被无缝地集成到大脑的信息处理中心，经过了数百万年的自然选择磨炼。我们以最小意识注意力来解释它们的原始信号，并控制它们的大规模行动。然而，我们并不知道自己是如何做到这一点的，而且这一过程模糊不清。使机器人在这些“常规”输入输出函数上达到人类标准是非常困难的。
与当前的人工脑相比，人类大脑的这些优势具有深远意义。人类大脑的存在提供了一个令人鼓舞的证据，它向我们展示了从物质中获取更多的一些可能的方法。如果人工脑能赶上人类大脑的标准，那么什么时候才能赶上？
我不确定，但请允许我提供一些有根据的意见。人工脑的三维挑战，以及在较小程度上的自我修复看起来并不难克服。虽然它们提出了一些棘手的工程难题，但是一些改进的方法很容易想象出来，而且现在已有了明确的前进道路。另外，虽然人类的眼睛、手以及其他感觉器官和驱动器的能力非常有效，但它们的能力远没有达到任何物理极限。光学系统可以在空间、时间和颜色上以及在电磁波谱的更多区域中以更高的分辨率拍摄图像；机器人可以移动更快、身体更强；等等。在这些领域中，现在已经有了超人性能所必需的组件。瓶颈是用信息处理单元的语言快速地获取信息。
这个瓶颈把我们带到剩下的那些，也是最重要的大脑优于人工装置的优势。这些优势源于它们的连接性和交互式发育。这两个优势是相辅相成的，因为正是交互式发育塑造了婴儿大脑的大量连线但蔓延的结构，通过神经元和突触的指数式增长，使婴儿大脑能够长成非凡的人类大脑。计算机科学家们开始发现大脑结构的力量：神经网络。顾名思义，其基本设计受到了大脑的直接启发。神经网络在游戏和模式识别方面取得了惊人的成就。但是在自我复制机器的深奥领域中，当今的工程技术与神经元及其突触的力量和多样性相比差远了。这可能成为一个新的、伟大的研究前沿。在这里，生物学也指明了前进的方向，因为我们对生物发展的理解足以模仿它的本质。
总的来说，人工智能胜过自然智能的优势是永久的，而自然智能胜过人工智能的优势，虽然目前是实质性的，但似乎这只是暂时。我猜想，工程学要赶上将需要几十年的时间，但除非发生灾难性的战争、气候变化或瘟疫，否则技术进步将在几个世纪里保持旺盛的上升势头。
如果真是如此，我们可以展望在接下来的几代人里，人类通过智能设备变得更强，将与越来越有能力的自主人工智能共存。那时将有一个复杂的、迅速变化的智能生态系统，并因此迅速进化。考虑到工程化设备最终将具有的内在优势，进化的先锋将是机器人和超级头脑，而不是微不足道的智人。
