这就是我们要做的。接下来的几十年，我们将对人类700万年进化以来从未发现的思维方式进行大量研究探索。我们将从局部极小值出发，找到更小的极小值，甚至是全局极小值。当我们做到这些，我们甚至可能会使机器像蚊子一样聪明，它会一直沿着宇宙梯度下降，直到达到最终目标，不管那是什么。
15 “信息”之于维纳、香农及我们 “INFORMATION" FOR WIENER, FOR SHANNON, AND FOR US
Many of the central arguments in The Human Use of Human Beings seem closer to the 19th century than the 21st. Wiener seems not to have fully embraced Shannon's notion of information as consisting of irreducible, meaning-free bits.
尽管如此，《人有人的用处》一书中的许多中心论点似乎都更接近19世纪而非21世纪。维纳似乎并不完全接受香农关于信息的观点。香农认为信息是由不可简化的、没有意义的比特组成。
戴维·凯泽
David Kaiser
戴维·凯泽是麻省理工学院科学史格梅斯豪森讲席教授，物理学教授，是科学、技术与社会项目负责人。著有《嬉皮士救了物理学》（How The Hippies Saved Physics）及《美国物理学与冷战泡沫》（American Physics and the Cold War Bubble，即将出版）。
布罗克曼谈戴维·凯泽
戴维·凯泽是一名物理学家，他对物理学与政治和文化等学科的交叉非常感兴趣，为此，他写了大量文章。
在写这本书之前的第一次会议（在康涅狄格州华盛顿）上，他就自维纳时代即军事工业时代、冷战时代以来人们对“信息”看法的变化发表评论。那时，维纳把信息比喻成熵，因为信息不能被保存，也就是不能被垄断；因此，他认为，原子弹秘密及其他这种高度保密的事情不会一直都是秘密。今天，尽管（维纳可能已经预料到）或真或假的信息正满世界传播，但是经济世界的信息确实可以被储存，被商品化、货币化了。
戴维说，这种信息的商品化“并非全是好事，也不全是坏事”。我想，这取决于你买完袜子或游艇几分钟后浏览器上突然冒出的袜子广告或欧洲河流旅游广告是否让你感到厌烦。
更不用说信息的扩散了。戴维对与会的其他人抱怨说，在维纳时代，物理学家“有《物理评论》（Physical Review）就足矣。它就在我们面前，里面充满我们可以掌控的内容。而现在呢，每分钟都淹没在5万种开源期刊里”，内容五花八门。戴维说，这些事态的发展是维纳没有预料到的，他忍不住要问：“我们需要一套新的指导性隐喻吗？”
《梦游者》（Sleepwalkers）一书讲述了从远古时代到文艺复兴时期的科学思想史，在书中，作者阿瑟·凯斯特勒（Arthur Koestler）发现了一种张力，这种张力标志着我们对宇宙的想象里最巨大的飞跃。凯斯特勒认为，今天当我们在阅读哥白尼和开普勒的伟大作品时，我们惊叹于他们的现代洞察力，同时书中奇怪的陌生感也令我们深感震撼，这种陌生感根植于早期的魔法或神秘主义之中。
在诺伯特·维纳的经典著作《人有人的用处》中我也发现了同样的双重性，就像折纸的新旧两面。这本书于1950年首次出版，1954年再次发行修订版，在很多方面都充满先知灼见。维纳是麻省理工学院的大学问家，他早在大多数观察家之前就认识到，“我们只能通过对属于社会的信息和通信设施的研究来理解社会”。维纳认为反馈回路在社会变迁中将起到决定性作用。反馈回路是其控制论理论的核心特征。这些反馈回路不仅能使人彼此相连，还能使人与机器相连，更重要的是使机器与机器相连。
维纳窥探到了一个信息与媒介分离的世界。人，或者机器，可以跨越很远的距离传递图案，并在端点处用这些图案做成新的物品，而无须“将物质粒子从一端移动到另一端”，这在我们网络化3D打印机的世界中已经实现了。维纳还设想机器与机器之间的反馈回路将推动自动化的巨大进步，甚至对于以前依赖人类判断的任务也会起到推进作用。“这种机器在体力劳动和脑力劳动之间没有特别的偏爱。”他说。
尽管如此，《人有人的用处》一书中的许多中心论点似乎都更接近19世纪而非21世纪。尤其是，尽管维纳在整本书中都提到了克劳德·香农在信息理论方面的新著作，但他似乎并不完全接受香农关于信息的观点。香农认为信息是由不可简化的、没有意义的比特组成。自维纳时代以来，香农的理论促进了近年来“大数据”和“深度学习”领域的进步，这使得重新审视维纳的控制论所描绘的前景变得更加有趣。如果我们回过头来实现维纳关于“信息”的指导性愿景，那么明天的人工智能会有什么不同呢？
◆◆◆
当维纳撰写《人有人的用处》一书时，他对于与战争相关的研究经验很少，对于军事工业综合体中知识分子生活中的道德模糊性也不甚了解。就在这本书出版的几年前，他在《大西洋月刊》（Atlantic Monthly）上发表了一篇文章，表示他不会“再发表任何可能会被不负责任的军国主义者利用而造成损害的研究”。(34)对于新技术的变革力量他内心充满矛盾，既不想陷入无限的炒作，也不想沉溺于后来的权威人士的数字乌托邦主义。
他在《人有人的用处》一书中写道：“进步不仅为未来创造了新的可能性，也带来了新的限制。”他担心人为的限制、技术的限制，尤其是冷战的限制，会威胁到对控制论至关重要的信息的流动：“在参议员约瑟夫·麦卡锡及其追随者的推动下，对军事信息盲目、过度的分级”促使美国政治领导人正采取“历史上只有在文艺复兴时期的威尼斯才有的类似的神秘心态”。维纳和许多直言不讳的“曼哈顿计划”的退伍军人一样，认为战后美国政府对保密的痴迷，尤其是对核武器秘密的痴迷，源于对科学过程的误解。他写道，制造核武器的唯一真正秘密就是这种炸弹是否能够制造。一旦这个秘密被揭露出来，再加上广岛和长崎的原子弹轰炸，国家强加的任何保密措施也无法阻止其他人像曼哈顿计划研究人员所遵循的那样，通过一系列推理链解开谜底。正如维纳所写：“大脑中没有马其诺防线。”
为了说明这一点，维纳借用了香农关于信息论的新观点。1948年，在贝尔实验室工作的数学家兼工程师香农在《贝尔系统技术杂志》（Bell System Technical Journal）上发表了两篇长篇文章。1949年，数学家沃伦·韦弗向广大读者介绍了香农的观点，他解释说：“信息这个词……有一种特殊的含义，不能与它的常见用法混淆。特别是，不能把信息与意义混为一谈。”(35)韦弗继续说，语言学家和诗人可能关心交流的“语义”方面，但像香农这样的工程师不会这样。相反，“通信理论中‘信息’这个词不指你说了什么，而是指你能说什么”。在香农这个如今非常有名的表述中，符号串的信息内容由选择给定字符串的可能符号数量的对数给出。香农最重要的观点是，一段消息里的信息就像气体里的熵：它是系统无序性的度量。
当维纳撰写《人有人的用处》一书时他借用了这个观点。如果信息像熵，那么它就是不守恒的。19世纪的物理学家已经证明，一个物理系统的总能量必须始终恒定不变，从一个过程开始到结束一直保持完美的平衡。但熵不同，随着时间的流逝，熵将不可避免地增加，这是热力学第二定律。从这个明显的区别来看，能量是守恒的，而熵必须增长，随之而来的是巨大的宇宙级后果。时间必须向前发展，未来一定与过去不同。宇宙甚至可能正朝着“热寂”方向发展，在那个遥远的未来，能量总量均匀分散，达到最大熵的状态，宇宙之后就不会发生进一步的变化。
如果信息作为熵不能被保存，那么维纳得出结论，军事领导人试图“在静态图书馆和实验室中储存国家的科学知识”是愚蠢的。的确，“在有效信息水平不断提升的世界里，任何被仔细地记录在书籍和论文中，然后用保密标签放入我们的图书馆里的科学研究都不足以长期保护我们”。维纳认为，我们在保密、分类或信息保存方面所做的所有努力都会失败，就像在热力学第二定律面前所有鼓吹永动机的方案一定会词不达意一样。
同样地，维纳也对美国自由市场原教旨主义的“正统”提出批评。对大多数美国人来说，“信息问题将按照标准的美国标准来衡量，也就是说一件东西作为商品的价值在于它在公开市场上能带来什么”。的确，“在典型的美国世界，信息的命运是成为可以买卖的东西”，他认为，大多数人“无法想象一条信息不被任何人拥有”。维纳认为这种观点和猖獗的军事信息分类一样，都大错特错。他再次援引了香农的见解：由于“信息和熵是不守恒的”，它们“同样都不适合作为商品”。
◆◆◆
信息不守恒，这一观点到目前为止一切都好。但是维纳真的理解香农所称的“信息”吗？正如韦弗所强调的，香农之论点，其关键在于将口语化的“信息”的意义，即具有意义的信息，与抽象的、精简的概念，即符号串加以区分，这些符号选自浩大的杂乱无章的宇宙，以一定的概率排列起来。对于香农来说，“信息”可以被量化，因为它的基本单位比特是传递单位而非理解单位。
而且，维纳在《人有人的用处》一书中对“信息”加以描述时，一次又一次地倾向于该词的经典、人道的含义。“一条信息，”他写道（而不是一“比特”信息），“为了对社会的总信息做出贡献，必须说一些与社会先前存储的普通信息大不相同的话。”这就是为什么“男生不喜欢莎士比亚”，他总结道：吟游诗人的对句可能与随机比特流截然不同，但它们对于理性的大众来讲还是太过耳熟能详，而且它们也已经“融入当时的陈词滥调之中”。
至少莎士比亚所写的信息内容曾经是新鲜的。维纳担心，在战后繁荣时期，“巨大的人均通信量”，从报纸、电影到广播、电视和书籍等，会孕育平庸，最后使信息回归平庸。“我们越来越必须接受一种标准化的、无害的、无关紧要的产品，就像面包店的白面包一样，生产的目的不是为了食用价值，而只是因其易保存、好销售。”他恳求道，“当年轻人因渴望获得做了小说家后所具有的威望，却不是因为他有话要说而写出第一本小说，从那时起，愿上帝保佑我们！也愿上帝保佑我们，让我们远离那些虽正确、优雅，却毫无实体、精神而言的数学论文。”
维纳对“信息”的看法听起来更像是1869年的马修·阿诺德（Matthew Arnold）说的(36)，而不是1948年的克劳德·香农，这种看法充满“实体和精神”而不是“比特”。维纳很认可阿诺德对“内容生产者”的浪漫观点。“准确地说，艺术家、作家和科学家都应该被一种不可抗拒的创作冲动所感动，即使这些作品不会让他们得到任何报酬，他们也愿意为得到这种创作机会而付出。”为艺术而艺术，这是19世纪的呐喊：艺术家们应该为他们的作品而受苦，对有意义表达的追求应该永远胜过对金钱的追求。
对维纳来说，这是衡量“信息”的正确标准：实体、精神、抱负、表达。然而，为了反对把信息商品化，维纳又回到了香农的数学理论之中，把信息当作熵。
◆◆◆
现在回到我们的时代。事实证明，在很多方面，维纳都是正确的。他对于由机器与机器通信而驱动的网络反馈回路的愿景现在已经成为生活的常态。此外，从互联网时代最早的轰动开始，数字盗版颠覆了那种认为“信息”可以被储存下来的观点，这些“信息”以歌曲、电影、书籍或代码形式存在。在这里设置一个付费墙，所有内容将在此扩散出去，所有这些不能被保存的信息熵也都在此扩散出去。
但是，巨大的跨国公司，也就是一些世界上规模最大、利润最丰厚的公司，现在经常反驳维纳认为“信息”不能被储存或货币化的观点。具有讽刺意味的是，他们交易的“信息”却更接近香农的定义而非维纳的定义。
虽然谷歌图书可以帮助免费发行数十万部文学作品，但谷歌本身，和脸书、亚马逊、推特以及它们的许多模仿者一样，强行占用低级形式的“信息”，并利用它获取了非凡利润。这些公司通过专有的“深度学习”算法筛选出数以十亿计的香农类信息，将包括从看到的广告到我们在浏览网页时遇到的新闻故事（无论真假）等所有内容进行微目标定位。香农类信息指从几乎每一个接触过网络计算机的人那里收集来的看似毫无意义的点击、“喜欢”和转发。
早在20世纪50年代早期，维纳就曾建议研究人员研究与人类完全不同的蚂蚁的结构和局限性，以便有一天机器可能实现人类而不是昆虫所能达到的“几乎无限的智力扩展”。只有“在熵增加的最后阶段”，当“个体间的统计差异为零”时，机器才可能支配我们人类——这一概念给维纳以安慰。今天的数据挖掘算法反向利用了维纳的方法。这种算法利用我们的爬行动物脑而不是模仿我们的大脑皮层，从我们深夜翻看的博客、寻欢作乐的点击流中收集信息，通过精确地利用微小的、残存的“个体间的统计差异”制造大量利润。
可以肯定的是，最近在人工智能方面取得的一些成就令人赞叹。现在计算机创作出的视觉艺术品和音乐作品就像公认的大师作品一样给人强烈的震撼，它还能创造出维纳大加赞赏的那种“信息”。但迄今为止，对社会影响最大的却是收集、操纵香农式的信息，这种信息重塑了我们的购物习惯、政治参与、人际关系以及对隐私的期望等。
如果基本货币变成维纳所定义的“信息”，那么“深度学习”会演变成什么呢？如果像维纳早先所担忧的那样，出现猖獗的军国主义、失控的企业营利追求、保密的自我限制特征，以及人类表达退化为可互换的商品，此时维纳的道德信念再次被唤醒，那么这一领域会有怎样的转变呢？也许“深度学习”可能会变成对有意义信息的培养，而不是对有力却毫无意义的比特的无情追求。
16 伸缩性 SCALING
Although machine making and machine thinking might appear to be unrelated trends, they lie in each other's futures.
虽然机器制造和机器思维可能看起来是毫不相关的两个趋势，但它们存在于彼此的未来。
尼尔·格申斐尔德
Neil Gershenfeld
尼尔·格申斐尔德是麻省理工学院比特和原子研究中心的物理学家、主任，著有《FAB》（FAB）一书，还与艾伦·格申斐尔德（Alan Gershenfeld）和乔尔·卡彻-格申斐尔德（Joel Cutcher-Gershenfeld）合著了《设计现实》（Designing Reality），是微观装配实验室（Fab Lab）全球网络的创始人。
布罗克曼谈尼尔·格申斐尔德
在关于《人有人的用处》一书的康涅狄格州讨论中，尼尔·格申斐尔德宣称他讨厌这本书，这句话引起哄堂大笑。他提出的另一个新鲜观点同样引起哄堂大笑，他说：计算机科学是发生在计算机领域和科学领域最糟糕的一件事。他完整的论点是，维纳不了解发生在他身边的数字革命的含义——尽管有些人会说，不能对向身处大楼一层的人提出这样的指控，他又没有千里眼。
尼尔告诉我们：“我生命中虽不重要但却占据了主导地位的事情就是发起了微观装配实验室和创客运动。当维纳谈到自动化带来的威胁时，他没有想过与这种情况相反的另一种情况，那就是掌握自动化手段可以增强人类的能力，而在微观装配实验室，我所参与的活动就是一个指数式发展的例子。”
2003年，我去麻省理工学院拜访尼尔，他在那里负责管理比特和原子研究中心。几个小时后，我看到一场由好多奇特事物组成的大型展示。在他颇受欢迎的快速成型课堂（“如何制作几乎任何东西”）上，我看到了一个学生完成的作品，这是一个没有任何工程学背景的雕塑家，他制造了一个便携式的尖叫空间，可以储存你的尖叫声，稍后播放。班上的另一个学生制作了网页浏览器，鹦鹉可以用它来上网。尼尔自己正在对科幻主打产品，即“万能复制器”的路线图做基础研究。这次参观让我大脑受到强烈冲击，好几年都缓不过来。
尼尔管理着微观装配实验室的全球网络。微观装配实验室是一个小型的制造系统，由数字技术支撑，为人们提供建造他们想要建造东西所需的物资。作为数字通信和计算与制造相结合的创客运动的领袖，他有时觉得自己已置身于当前关于人工智能安全的激烈辩论之外。“我做研究的能力取决于使我能力增强的工具，”他说，“问它们是否聪明，就像问我如何知道我的存在一样虽然有效，从哲学上讲也很有趣，但从经验上来看却无法证明。”他感兴趣的是“比特和原子之间的关联，这是数字和物理之间的边界。从科学角度来说，这是我所知道的最激动人心的事情”。
关于人工智能的讨论并非历史上久而有之。我们可以把这些讨论看成躁狂抑郁症的表现：从某种计算方法来看，我们现在正处于第五个人工智能的繁荣—萧条周期。这些波动掩盖了它一直以来的潜在进步，也隐藏了它未来的发展方向。
这些周期大概十年为一轮。第一个是主机，它们的作用就是使工作自动化。但这与现实相悖，因为在现实中，很难编写程序来完成对人们来讲很简单的任务。第二个是专家系统，这些系统将专家的知识编成法典并取代专家。但专家系统在收集知识和推理尚未涵盖的案例方面遇到困难。第三个是感知器，感知器试图模拟大脑的学习方法，以避开这些问题，但是很多事情都是它们不能做的。第四个是多层感知器，多层感知器可以处理那些使简单网络出错的测试问题，但是对于非结构化的、真实世界的问题，它们的表现很差。第五个是深度学习。我们现在正处于深度学习时代，许多早期人工智能想要达到的目标均得以实现，但在某种程度上却又很难理解这种深度学习，因为它带来的后果包括智能和人类的存亡威胁。
这些阶段，每一个都预示着超越前人局限性的革命性进步，然而实际上每个阶段都在做同样的事情：从观察中做出推断。我们可以从这些方法的伸缩性来更好地理解它们之间的联系，所谓伸缩性就是指它们的性能根据所处理问题的难度而变化的情况。电灯开关和自动驾驶汽车都必须判定操作者的意图，但是前者只有两种选择，而后者的选择则更多。人工智能的繁荣阶段始于有限领域一些颇被看好的例子；而衰败阶段则伴随着某些例子的失败，在这些例子中，机器无法处理结构较差的实际问题的复杂性。
在伸缩性方面我们所取得的稳步进展不太明显。这一进展依赖于线性函数和指数函数之间的技术区别——这种区别在人工智能诞生之初就变得明显，但是对于人工智能的影响直到多年之后才被人们所认识。
《人有人的用处》一书是研究智能机器的重要文献，在这本书中，诺伯特·维纳预言了许多自他撰写该书以来出现的最重要发展趋势，同时也指出了那些对这些趋势有贡献的人，但始终未能认识到这些人的工作为什么如此重要。维纳创造了控制论领域；我一直不理解那是什么，但是该书中缺失的却是人工智能该如何发展，这是核心问题。这段历史之所以重要，是因为它的影响至今仍在。
这本书中提到了克劳德·香农，提到了他对国际象棋计算机前景的思考。当时，香农正在做一些比猜测更有意义的事情：他正在做的工作为数字革命奠定了基础。作为麻省理工学院的研究生，他为范内瓦·布什（Vannevar Bush）研究微分分析器。这是最后一批很棒的模拟计算机之一，房间里装满了齿轮和轴。用这种方式解决问题时遭遇的困难令香农感到沮丧，这种沮丧使他在1937年写出了可能是有史以来最好的硕士论文。在论文中，他展示了如何设计电路来求出任意逻辑表达式的值，介绍了通用数字逻辑的基础。
从麻省理工学院毕业后，香农在贝尔实验室学习通信。模拟电话的通信质量随着距离变远而变差，相距越远，质量越糟。香农没有继续改进模拟电话，相反，在1948年，香农指出，通过符号而不是连续量的通信，效果会非常不同。将语音波形转换为二进制值1和0就是一个例子，不过许多其他的符号集也都可以用于数字通信。重要的不是特定的符号，而是检测和纠正错误的能力。香农发现如果噪声高于阈值（这取决于系统设计），那么肯定会有误差。但是，如果噪声低于阈值，则代表符号的物理资源的线性增加就会使得接收符号出错的可能性呈指数式下降。我们现在将这个关系称为阈值定理。
这种伸缩性下降得如此之快，以至于出错的概率小到实际上永远不会发生。发送的每个符号都会使确定性翻倍而不是线性增加，因此错误概率可以从0.1下降到0.01再到0.001等等。这种通信错误的指数式减少使得通信网络的容量呈指数式增加变成可能。最终这解决了人工智能系统的第一个问题：知识从何而来。
多年来，加速计算的最快方法是什么都不做——只是等待计算机变得更快。同样地，多年来人工智能项目旨在通过辛苦地输入信息来积累日常知识。这种方法没有伸缩性，它只能像人们输入信息的速度一样快。但是，当电话、报纸新闻和邮件信息全部转移到互联网上时，所有做这些事情的人都变成了一个数据生成器。其结果是知识积累以指数式而不是线性的速度在增长。
《人有人的用处》一书中也提到了约翰·冯·诺伊曼的博弈论。但在这本书里，维纳忽略了冯·诺伊曼在数字化计算中所起的开创性作用。模拟通信随着距离的扩大通信质量下降，模拟计算（如微分分析器）随着时间的增长而退化，误差越来越多。冯·诺伊曼在1952年给出了一个与香农的计算结果相对应的结果（他们在普林斯顿高等研究院见过面），表明通过符号而不是连续量，使用不可靠的计算设备来进行可靠的计算是完全可能的。这又是一个伸缩性参数，只要噪声低于阈值，那么随着表示符号的物理资源线性增加，错误率就会呈指数式下降。这就使得在计算机芯片中安装十亿个晶体管成为可能，最后一个晶体管和第一个晶体管一样有用。这种关系导致了计算性能的指数式增长，这解决了人工智能中的第二个问题：如何处理指数式增长的数据量。
伸缩性为人工智能解决的第三个问题是提出推理规则，从而不必为每个问题雇用程序员。维纳认识到反馈在机器学习中的作用，但他忽略了表征所起的关键作用。在自动驾驶的车里不可能存储所有可能的图像，在对话计算机里也不可能存储所有可能的声音；它们必须能够根据经验进行归纳。深度学习的“深度”部分不是指洞察力的深度，而是指用来进行预测的数学网络层的深度。事实证明，网络复杂度的线性增加导致网络的表征能力呈指数式增长。
如果你在房间里丢了钥匙，你可以去找。如果你不确定钥匙丢在哪个房间，你就得把一栋楼里的所有房间都找遍。如果你不确定钥匙是丢在哪栋楼里，你就得把一个城市里所有楼房的所有房间都找个遍。如果你不确定它们丢在哪个城市，你就得在所有城市的所有建筑物中搜索所有的房间。在人工智能中，找到钥匙与汽车安全地在道路上行驶或计算机正确地理解口头命令之类的事情相对应，房间、建筑物以及城市与所有必须考虑的选项相对应。这被称为维度之咒。
维度之咒的解决办法是利用该问题的信息来约束搜索。搜索算法本身并不新鲜。但是当应用到深度学习网络时，它们会适应性地建立搜索位置的表征。这样做的代价是不再可能精确地找到一个问题的最佳答案，不过通常我们所需要的只是一个足够好的答案。
综上所述，这些伸缩性使得机器能够像生物复杂性的相应阶段一样有效地工作，这并不奇怪。神经网络最初的目标是对大脑的运作方式进行建模。但是当神经网络演变成一种与神经元实际如何发挥作用无关的数学抽象概念时，这个目标被搁置了。但是现在两者出现了融合，这种融合被认为是一种前向的而不是逆向的工程生物学，是深度学习效仿大脑皮层和脑区的结果。
我所管理的最困难的研究项目之一是将我们现在所说的数据科学家与人工智能先驱配对。这是一次痛苦的改变目标的经历。数据科学家在解决人工智能先驱提出的由来已久的问题方面取得进展，但被认为并不重要，因为伴随这些解决方案，在理解这些解决之道方面并没有出现相应的飞跃。如果一台国际象棋计算机无法解释它是如何下国际象棋的，那么它有什么价值呢？
当然答案是它会下棋。一项有趣的新兴研究出现了，这项研究将人工智能应用于人工智能，也就是说，训练网络来解释它们是如何操作的。但是仅仅通过观察它们的内部工作很难理解大脑和计算机芯片，只有通过观察它们的外部接口才能更容易地解释它们。我们相信（或不相信）大脑和计算机芯片都是基于对它们进行测试的经验，而不是基于对它们工作原理的解释。
工程学的许多分支正在从所谓的命令式设计过渡到声明式设计或生成式设计。这意味着，不是使用诸如CAD文件、电路原理图和计算机代码之类的工具显式地设计系统，而是描述你希望系统做什么，然后设计工具对满足你的目标和限制的设计进行自动搜索。当设计复杂度超过人类设计者可以理解的程度时，这种方法就变得必要。虽然这听起来像是一种风险，但是人类的理解力有其自身的局限性；工程设计中有许多设计看似有不错的见地，却带来很不好的后果。声明性设计依赖于人工智能领域的所有进步，也依赖于对虚拟测试设计的仿真度的提高。
所有设计问题的源头也是人类繁衍的源头。我们设计的方式存在于基因组中最古老、最保守的一部分，叫作Hox基因。它们是负责调节基因的基因。你的基因组中没有任何东西能储存你身体的设计，相反，你的基因组中储存了一系列步骤，这些步骤会形成你的身体。这与人工智能中的搜索方式完全类似。有太多可能的身体计划要搜索，大多数修改要么无关紧要，要么非常致命。Hox基因代表了进化搜索的生产场所。在分子水平上，这是一种自然智能。
人工智能有一个身心问题，因为它没有身体。人工智能的大部分工作是在云中完成的，在数据汇集的计算机中心的虚拟机上运行。我们自己的智能是进化这种搜索算法的结果，进化能够改变我们的物理形式以及我们的遗传规划——它们二者紧紧地联系在一起，不可分割。如果人工智能的历史可以被理解为是伸缩性而不是许多其他方式起作用的历史，那么它的未来也是如此。继通信和计算之后，现在数字化的是制造，这就把比特的可编程性带到了原子世界。通过不仅把设计数字化，还把材料的构造数字化，我们便能把从冯·诺伊曼和香农那里学来的教训应用到指数式增长的制造复杂性上。
我将数字材料定义为由一组离散的零件构成的材料，这些零件以一组离散的相对位置和方向互相可逆地连接起来。这些属性使得材料整体的几何结构由以下因素决定：局部约束、待检测和校正的装配误差、待连接的各种不同的材料，以及可拆卸而不是不需要时必须丢弃的结构。作为生命基础的氨基酸和作为游戏基础的乐高砖均有这些特性。
氨基酸的有趣之处在于它们毫不有趣。它们具有典型但不罕见的属性，例如吸引或排斥水。但是只要20种就足以制造出一个你。同样地，大约20种数字材料零件类型，如导电、绝缘、刚性、柔性、磁性等材料，就足以形成各种功能，这些功能可以被用于制造诸如机器人和计算机等现代技术产品。
人工智能的先驱者们预见到了计算与制造之间的联系，他们的工作奠定了计算机大厦的基础。维纳将材料运输和信息传递联系起来，暗示了这一点。约翰·冯·诺伊曼是现代计算机架构的奠基者，但实际上他在这方面写的东西很少；他做的最后一项研究，并且非常认真翔实地写出来的东西就是自复制系统。为了抽象地说明这一点，他建立了一种机器的模型，这种机器能够传递构建自己的计算。艾伦·图灵为计算机科学搭建起了理论框架，他研究的最后一件事情是基因中的指令如何产生物理形式。这些问题解决了一个典型的计算机科学教育所缺少的主题：计算的物理配置。
冯·诺伊曼和图灵将他们的问题作为理论研究提出，因为实现它们超出了当时的技术。但是，随着通信和计算与制造的结合，在实验上这些研究正变得容易实现。我的实验室研究的重点是制造一个组装器，它能够从正在组装的部件中组装自己，另外一个重点是合作开发合成细胞。
在物理上能自我复制的自动机的前景可能比失控的人工智能带来的恐惧更可怕，因为它把智能带到了我们生活的地方。这可能是《终结者》中天网机器人霸主的路线图。但这也是一个更有希望的前景，因为对原子和比特进行编程的能力使得全球能够共享设计，同时在本地生产诸如能源、食品和住所之类的东西——所有这些都正在成为令人兴奋的数字制造的早期应用。维纳对工作的未来表示担忧，但他并没有质疑工作本质所隐含的假设，当创造取代了消费时，这些假设会遭遇挑战。
历史表明，占主导的情节既不是乌托邦式的也不是反乌托邦式的，通常我们最后都是在这两个极端之间的状态混日子。但是历史也表明，我们不必等待历史的发生。1965年，摩尔用5年时间将集成电路的规格翻一番，实现了数字技术50年的指数式改进。我们用了很多年的时间来应对它所带来的影响，而不是期待这种影响。我们现在所获得的数据比摩尔当时用来实现数字制造性能翻一番所拥有的数据要多得多。事后看来，应该可以避免过度的数字计算和通信，而且从一开始就可以解决诸如访问和识字等问题。
如果创客运动预示了第三次数字革命，那么人工智能成功地实现其自身早期目标便可以被看作是前两次数字革命的最高成就。虽然机器制造和机器思维可能看起来是毫不相关的两个趋势，但它们存在于彼此的未来。使人工智能成为可能的相同的伸缩性趋势表明，当前的狂热即将成为历史，之后还有更重要的一个阶段，那就是将人工智能与自然智能相结合。
这是一个原子形成分子、分子形成细胞器、细胞器形成细胞、细胞形成器官、器官形成有机体、有机体形成家庭、家庭形成社会和社会形成文明的进步。这个宏大的进化循环现在可以封闭了，原子排列比特，比特排列原子。
17 第一批机器智能 THE FIRST MACHINE INTELLIGENCES
Hybrid superintelligences such as nation-states and corporations have their own emergent goals and their actions are not always aligned to the interests of the people who created them.
虽然我们并不总能察觉到，但是诸如民族国家和企业这样的混合型超级智能有它们自己的涌现目标，而且其行为并不总是与创造它们的人的利益相一致。
丹尼尔·希利斯
W. Daniel Hillis
丹尼尔·希利斯是发明家、企业家和计算机科学家，南加州大学工程与医学贾奇·威德尼讲席教授，著有《计算机的本质：使计算机工作的简单想法》（The Pattern on the Stone: The Simple Ideas That Make Computers Work）。
布罗克曼谈丹尼尔·希利斯
当丹尼尔·希利斯在麻省理工学院读本科时，他用堆叠式玩具制造了一台计算机。这台计算机有大约10000个木质零件，会玩井字棋，而且从来没输过。它现在被收藏在加利福尼亚州山景城的计算机历史博物馆里。
20世纪80年代初，丹尼尔在麻省理工学院计算机科学和人工智能实验室攻读研究生，他设计了一台拥有64000个处理器的大型并行计算机。他把它命名为“连接机器”，并成立了有可能是世界上第一家人工智能公司——思维机器公司，用来生产和销售“连接机器”。尽管他和理查德·费曼共进了一顿午餐，在午餐时，这位著名的物理学家却说：“这确实是我听到过的最愚蠢的想法。”“尽管”这个词也许是错误的，因为费曼有一个众所周知的爱好，那就是喜欢使用“愚蠢的想法”这个词。结果，公司成立那天费曼来了，参加了暑期工作，完成了特殊任务，做出了宝贵贡献。
从那以后丹尼尔成立了许多技术公司，其中最新成立的一家叫应用发明公司。这家公司与商业企业合作开发技术方案，解决后者最棘手的问题。他拥有数百项美国专利，包括并行计算机、触摸界面、磁盘阵列、防伪方法以及一系列电子和机械设备。很显然他拥有无穷无尽的想象力，在这里他勾画出一些未来可能的场景，这些场景均源于我们对越来越好的人工智能的追求。
“我们的思维机器不仅仅是隐喻，”他说，“问题不在于‘它们会变得特别强大，伤害我们吗？’（它们会），问题也不在于它们是否会一直按照我们的最佳利益行事（它们不会），问题在于，从长远角度来看，它们是否能帮助我们找到出路——那是在寻找‘灵丹妙药/启示录’过程中我们出现的地方。”
我谈到过机器，但不仅仅是那些有铜脑和铁脑的机器。当人类原子被编织进一个组织，这个组织不是把他们当作负责任的人，而是当作齿轮、杠杆和棍子来使用时，他们的原料是血肉这件事就并不重要了。在机器中当作元件来使用的东西，实际上就是机器中的元件。不管我们是把决定权委托给金属机器，还是委托给那些血肉机器，不管这些机器是当局、大实验室、军队还是公司，除非我们提出正确的问题，否则我们永远也得不到正确的答案。天色已晚，善与恶的选择已敲响了我们的大门。
诺伯特·维纳，《人有人的用处》
诺伯特·维纳在识别智能机器的潜在危险方面领先于他的时代。我相信，在意识到第一批人工智能已经开始出现这方面，他甚至领先于他的时代更多。他把那些他称之为“血肉机器”的公司和部门看成第一批智能机器，这一点儿没错。他还预见到创造那些目标未必与我们自己的目标一致的超级人工智能会带来的危险。
不管维纳是否清楚，但现在我们清楚了，这些组织性的超级智能不仅仅包括人类，它们是人类和信息技术的混合体，信息技术使人类能够协同工作。即使在维纳时代，没有电话、电报、收音机和制表机，“当局、大实验室、军队和公司”也无法运作。今天，如果没有计算机网络、数据库和决策支持系统，它们也无法运作。这些混合智能是技术增强的人类网络。这些人工智能具有超人的能力。它们比人类个体懂得更多；它们能够感知更多；它们能够做出更精细的分析和更复杂的计划。它们拥有的资源和力量比任何个人拥有的都要多。
虽然我们并不总能察觉到，但是诸如民族国家和企业这样的混合型超级智能有它们自己的涌现目标。虽然它们是由人类建造的，也是服务于人类的，但它们的行为却常常像独立的智能实体一样，而且它们的行为并不总是与创造它们的人的利益相一致。国家并不总是为公民服务，公司也不总是为股东服务。非营利组织、宗教组织或政党也不总是遵循其原则而行动。直觉上，我们意识到它们的行为受其内部目标的引导，这就是为什么我们在法律上和思维习惯上都把它们人格化。当我们谈论“中国想要什么”或“通用汽车正在做什么”时，我们并不是在隐喻。这些组织有智能，它们能感知、能做出决定、能采取行动。和人类个体的目标一样，组织的目标也很复杂，常常还自相矛盾，但它们的目标是真正的目标，因为这些目标能指导行动。这些目标在某种程度上取决于组织中人员的目标，但两者并不相同。
所有美国人都知道，美国政府的行为与其公民的那些丰富多样又常常互相矛盾的目标之间的联系是多么松散。企业也是如此。营利性公司名义上服务于多个群体，包括股东、高管、雇员和客户。这些公司的区别在于如何平衡它们对各方的忠诚，但其行事方式却常常并不服务于任何一方。承载企业思想的“神经元”不只是人类员工或连接他们的技术，它们还被编码到企业的政策、激励结构、文化和程序习惯中。涌现而出的企业目标并不总是反映执行它们的人的价值。例如，一家石油公司虽然其领导人和员工都关心环境，但却可能采取某种激励结构或政策，使得公司为了效益而危害到环境安全。各组成部分具有的良好意图并不能保证涌现系统一定会采取相应的行为。
政府和公司，两者结构中都有一部分是由人类建立的，两者都会自然而然受到人类的激励，至少会表现出与它们所依赖的人类有共同的目标。离开人类，它们都无法运转，所以它们需要与人类合作。当这些组织表现出利他行为时，通常这就是它们的一部分动机。我曾赞扬一家大公司的首席执行官，称赞他的公司对人道主义救济工作所做的贡献。这位首席执行官，语气中不带有一丝讽刺意味，回答道：“是的。我们决定做更多这样的事情，以使我们的品牌更受欢迎。”构成混合型超级智能的个体偶尔会施加“人性化”的影响，例如，一名员工可能会为了适应另一个人的需要而打破公司的政策。这名员工可能真的出于人类同理心，但我们不应该认为超级智能本身有这种同理心。这些混合机器有目标，它们的公民、客户、雇员是它们用来实现目标的资源。
我们几乎能够不用人类组件，只用纯信息技术构建超级智能。这就是人们通常所说的人工智能。我们有理由问一问，我们设想的机器超级智能对人类持什么样的态度。它们是否也会认为人类是有用的资源，与我们的良好关系值得保持？它们是否会被构建成有着与我们人类一致的目标？超级智能会认为这些问题很重要吗？我们应该问的“正确的问题”是什么？我认为最重要的一个问题是：各种超级智能体之间会是什么关系？
想想混合型超级智能目前是如何处理它们之间的冲突的，这很有趣。今天，大部分的最终权力属于民族国家，这些国家声称对一片土地拥有权力。无论是为了本国公民的利益还是为了专制统治者的利益，民族国家都主张在它们的地理疆域内自身有着优先于其他智能的愿望或目标。它们声称只有它们才可以使用武力，并且认为只有其他民族国家才能与它们相提并论。如果有必要，为了行使它们的权力，它们愿意要求公民做出重大牺牲，甚至牺牲公民的生命。
