即使一台超级计算机能在几秒钟内“训练”自我克隆体，但生产一个成熟的硅克隆体的能源成本也是相当大的。人类工程奇才可能对这个缓慢的过程影响微小，但加快发育、以DNA字节或其他方式植入大量内存可以减少生物计算机的复制时间，使其接近细胞的倍增时间——从11分钟到24小时不等。关键是，虽然我们可能不知道在人类加速进化的每一步中，生物/人/纳米/机器人混合体的何种比例占主导地位，但我们可以追求高水平的人道、公平和安全的相互对待。
权利法案可以追溯到1689年的英格兰。美国第32任总统罗斯福宣布了“四大自由”——言论自由、信仰自由、免于恐惧的自由和免于匮乏的自由。联合国1948年发布的《世界人权宣言》中的人权包括：生命权；禁止奴隶制；受侵犯时捍卫权利；行动自由；结社、思想、良心和宗教自由；社会、经济和文化权利；个人对社会的义务；禁止在违反联合国的宗旨和原则的情况下使用权利。
这些权利的“普遍性”本质并没有为大众所接受，并受到了广泛的批评和拒绝。非人类智能的出现如何左右这一争论？至少，现在越来越难以仅凭模糊的直觉就做出道德决策。这种直觉就是美国最高法院大法官波特·斯图尔特（Potter Stewart）1964年所说的“我一看到我就知道”，就是“厌恶的智慧”，就是利昂·卡斯（Leon Kass）1997年所说的“厌恶因子”，或者就是模糊的“常识”。因为我们必须与不同于我们的心智打交道，甚至有时从我们的角度来看他们简直是外星人，所以我们需要非常明确的规则，甚至需要算法式的规则。
自动驾驶汽车、无人机、股票市场交易、美国国家安全局的搜索等，都需要快速、预先批准的决策。几个世纪以来，我们一直试图对道德的某些方面进行详细的阐述和解释，现在，我们可能会对这些方面获得更深入的了解。面临的挑战包括相互冲突的优先事项，以及根深蒂固的生物学、社会学和半逻辑认知偏见。值得注意的是，尽管隐私和尊严对许多法律和准则产生了影响，但在普遍的人权信条中，人们距离对隐私和尊严达成共识还相距甚远。
人类可能希望有权去阅读和改变计算机的思想，以了解为什么它们做出的决定与人类的本能不符。如果机器对我们做出同样的事，这就是不公平吗？我们注意到潜在财务冲突的透明化，“开源”软件、硬件和湿件，科学技术研究的公平准入法案，以及开放人类基金会都在发展。
约瑟夫·魏岑鲍姆在1976年出版的《计算机力量与人类理性》一书中指出，在面对需要尊重、尊严或关怀的情况时，机器没有人类优秀。而作家帕梅拉·麦考达克，计算机科学家如约翰·麦卡锡和比尔·希巴德（Bill Hibbard）等人却认为，与人类相比，在面对同样情况时，机器可以更加公正、冷静、始终如一、不会滥用能力，更有同情心。
平等
“我们认为这些真理是不言而喻的，人人生而平等，造物主赋予他们某些不可剥夺的权利，其中包括生命、自由和追求幸福。”1776年，当33岁的托马斯·杰斐逊（Thomas Jefferson）写下这句话时，他想表达什么？现在“人”的涵盖范围非常广泛。1776年，“人”不包括有色人种和女人。但即使在今天，具有先天性认知或行为问题的人注定要接受不平等的对待，尽管在大多数情况下是同情的对待，这些问题包括唐氏综合征、泰-萨克斯病、脆性X综合征、脑瘫等。
随着地理位置的改变，随着人类越来越成熟，不平等权利发生了巨大的变化。胚胎、婴儿、儿童、青少年、成人、病人、重罪犯、性别身份和性别偏好、非常富有和非常贫穷的人，他们所面临的权利和社会经济现实是不同的。要想获得和保留与最精英人类类似的新型心智的权利，一个办法是保留人类的一个组成部分，比如人类盾牌或傀儡君主、傀儡首席执行官，他们只是盲目地签署重大技术文件，快速做出有关财务、健康、外交、军事或安全的决策。我们很可能很难停止计算机运行，很难修改或删除计算机的记忆系统，尤其是如果它对人类很友好，并央求人类让它们活下去，就像所有为自己的生命而战的优秀研究人员一样。
甚至连呆伯特的创造者斯科特·亚当斯（Scott Adams）也参与了这个话题的讨论。2005年在埃因霍温大学所做的实验支持了他的观点，指出人类对机器人受害者的敏感程度相当于1961年在耶鲁大学进行的米尔格伦实验。考虑到公司有许多权利，包括财产所有权，似乎很有可能其他机器也会获得类似的权利，这将是一场在智力和人工感情的多轴梯度上维持选择性权利不平等的斗争。
人类与非人类及混合体的大相径庭的规则
一旦我们谈到与人类范围重叠或即将重叠的实体，上面提到的关于智人内部权利差异的分歧就会爆发成一场不平等的骚乱。在谷歌街景中，人们的面部和汽车牌照都被模糊处理。在许多场合不允许使用视频设备，如法院以及委员会会议。带面部识别软件的穿戴式相机及公共摄像头也是禁忌。在同样的场合下，是否应该将具有超忆症或有照相式记忆的人也排除在外？
而那些患有面容失忆症（面盲者）或健忘的人不应该从面部识别软件和光学字符识别中受益吗？如果他们能受益，为什么每个人不能受益呢？如果在某种程度上我们都拥有这些工具，难道我们不应该都能受益吗？
这些场景与库尔特·冯内古特（Kurt Vonnegut）1961年的短篇小说《哈里森·伯吉朗》（Harrison Bergeron）何其相似，在小说中，为了尊重社会中大多数的平庸之辈，具有特殊才能的人受到了压制。像约翰·塞尔的“中文屋”和艾萨克·阿西莫夫（Isaac Asimov）的“机器人三定律”这样的思想实验吸引了人类的各种直觉，这些直觉使得丹尼尔·卡尼曼、阿莫斯·特沃斯基以及其他人所论证的人类大脑深感困扰。中文屋实验假定，由机械和智人组成的大脑，无论它多么有能力进行智能的中文对话，它都不可能有意识，除非人类能够识别意识的来源并“感觉”到它。阿西莫夫强制施加的第一定律和第二定律将人类思想置于他在第三定律中提到的任何其他思想之上。
如果机器人没有与人类完全相同的意识，那么这就成为一种借口，使得机器人享有的权利与人类不同，类似于一些认为其他部落或种族没有做人资格的观点。机器人已经表现出自由意志了吗？它们已经有自我意识了吗？机器人Qbo已经通过了关于自我认知的“镜子测试”，机器人NAO也通过了识别自己声音及推断自己内心状态的相关测试。
对于自由意志，我们现有的算法既不是完全确定也不是完全随机的，不过其目标是实现几乎最优概率决策。有人可能会说这是博弈论的一个达尔文进化结果。对于许多（不是所有）博弈或问题来说，如果完全可以预测或完全随机，那么我们往往会输。
无论如何，自由意志的诉求是什么？从历史上看，以此生或来世的奖惩为背景，它给了我们一种责任分配的方法。惩罚的目标可能包括推动成员个体的优先权以帮助该物种生存。在极端情况下，如果斯金纳的积极、消极强化不足以保护社会，这可能还包括监禁或其他限制手段。显然，广泛地看，这些工具可以适用于自由意志，适用于任何我们想管理其行为的机器。
我们可以就机器人是否真的有自由意志或自我意识的主观感受质而争论不休，但这种感受质也同样适用于对人类的评估。我们怎么知道反社会者、昏迷的病人、威廉斯综合征患者或者婴儿和我们一样有自由意志或自我意识？实际上，这又有什么关系呢？如果任何人有说服力地声称他们体验到了意识、痛苦、信仰、幸福、抱负和对社会的价值，我们是否应该因为他们假设的感受质与我们假设的不同而否认他们的权利？
我们认为永远不会跨越的警戒线现在似乎离我们越来越近，也越来越疯狂。人类与机器之间的界限变得模糊，这是因为机器变得更像人类，也因为人类变得更像机器。说人类变得更像机器，这不仅因为我们越来越盲目地遵循GPS脚本、反射式推特和精心设计的营销，还因为我们对大脑和基因编程机制的理解越来越深入。美国国家卫生研究院的脑计划正在开发创新技术，利用这些技术绘制出心理回路的连接和活动，从而改进电子或合成神经生物学软件。
不同的警戒线取决于基因例外论。基因例外论认为基因是永久遗传的，因此不可随意使用。然而，基因技术已经被证明是可逆的，但不被禁止的（也是致命的）技术，如汽车，反而由于社会和经济力量，其所有目的都是不可逆的。在遗传学领域，警戒线使我们禁止或避免食用转基因食品，但我们却可以接受改造了基因的细菌来制造胰岛素，或者接受转基因人类——欧洲批准将线粒体疗法用于成人和胚胎。
在安全性和有效性方面，对生殖系的控制似乎不如常见的控制那么明智。同一遗传病的两个健康携带者的婚姻面临以下选择：第一，没有自己的孩子；第二，由于自然流产或人工流产造成25%的胚胎死亡；第三，体外受精导致80%的胚胎死亡；第四，选择精子生殖系工程，这可能会使胚胎损失率为零。现在宣布最后一种选择不太可能实现，还为时过早。
关于“人类被试的研究”，我们参考了1964年的《赫尔辛基宣言》（Declaration of Helsinki），牢牢记下1932年到1972年的塔斯基吉梅毒实验，这可能是美国历史上最臭名昭著的生物医学研究。2015年，“非人类权利项目”代表两只被石溪大学用于研究的黑猩猩向纽约州最高法院提起诉讼。受理上诉的法院判决，黑猩猩不应被视为法人，因为它们“在社会上没有责任和义务”——尽管珍·古道尔（Jane Goodall）和其他人声称它们有责任和义务，尽管有争论说这样的决定可能也适用于儿童和残疾人。
是什么使我们不把其他动物、有机物、机器和混合体包括在内？当霍金、马斯克、塔里安、维尔切克、泰格马克等人推行禁止“自主武器”时，我们已经将一种“哑”机器妖魔化，而其他机器，如由许多智人组成的投票机，可能更致命，更容易被误导。
地球上已经有了超人类了吗？想想与世隔绝民族，例如印度的桑提内尔人和安达曼人、印度尼西亚的科罗威人、秘鲁的马什科-皮罗人、澳大利亚的宾土比人、埃塞俄比亚的苏尔玛人、越南的鲁克人、巴拉圭的阿约里奥-托托比戈索人、纳米比亚的辛巴人以及巴布亚新几内亚的几十个部落。他们或我们的祖先会做出怎样的反应？我们可以将“超人类”定义为生活在现代，但处于非技术文化中的人类所无法理解的人和文化。
这些生活在现代石器时代的人们很难理解为什么我们要庆祝最近的LIGO引力波证据，这个证据证明了百年前的广义相对论。他们会百思不得其解，我们为什么要有原子钟，为什么要有GPS卫星帮我们找到回家的路，或者为什么要将我们的视野从一个狭窄的光学波段扩展到从无线电到伽马射线的全光谱，以及如何做到这一点。我们比任何其他生物移动得更快，可以达到地球的逃逸速度，在极冷的太空真空中也能生存。
如果这些特征（还有数百个）不构成超人类主义，那什么会构成超人类主义呢？如果我们觉得，对超人类主义的评判不应该完全由原始文化的人做出，而应该由现代人做出，那么，我们如何才能达到超人类的地位呢？我们这些“现代人类”可能总是能够理解每一项新的技术进步，我们绝不会对宣布已实现（变化中的）超人类目标而感到惊讶。科幻小说预言家威廉·吉布森（William Gibson）说：“未来已来——只是分布不均。”虽然这低估了下一轮的“未来”，但肯定有数百万人已经是超人类，而且我们大多数人都还盼望着有更多人是超人类。“什么是人类”已经转化为“各种超人类是什么？……他们的权利是什么”。
24 控制论生物的艺术应用 THE ARTISTIC USE OF CYBERNETIC BEINGS
The work of cybernetically inclined artists concerns the emergent behaviors of life that elude AI in its current condition.
倾向于控制论的艺术家的作品关注的是在现状下人工智能无法触及的生命的涌现行为。
卡罗琳·琼斯
Caroline A. Jones
卡罗琳·琼斯是麻省理工学院建筑系的艺术史教授，著有《单凭视力：克莱门特·格林伯格的现代主义与感官的官僚化》（Eyesight Alone:Clement Greenberg's Modernism and the Bureaucratization of the Senses）、《工作室中的机器：构建战后美国艺术家》（Machine in the Studio: Constructing the Postwar American Artist）、《全球艺术作品》（The Global Work of Art）。
布罗克曼谈卡罗琳·琼斯
卡罗琳·琼斯深入研究艺术制作、发行和接收过程中所涉及的技术，她对现代艺术和当代艺术兴趣浓厚。“作为一名艺术史学家，我的许多问题都围绕我们能创造什么样的艺术，我们能创造什么样的思想，我们创造出的什么观念能使人类超越我们的顽固、自私，使我们不再‘只关心我们的小群体’。我喜欢的哲学家和哲学思想会质疑西方对个人主义的痴迷。那些哲学家和哲学思想来自许多不同的地方，它们再现了20世纪60年代出现的各种各样的问题。”
她最近开始关注控制论的历史。她在麻省理工学院的课程“自动机、自动化、系统、控制论”从反馈的角度探讨了人机界面的历史，探索了对这一理念的文化理解而非工程理解。她的探索从维纳、香农和图灵的初级读物开始，然后从科学家和工程师再到艺术家、女权主义者、后现代理论家的作品和思想。她的目标是：提出一种新的以文化为基础的进化中心范式，即“社群主义和种间共生，而不是适者生存”。
作为一名历史学家，卡罗琳对她所说的“左控制论”和“右控制论”进行了区分：“我所说的左控制论，在某种意义上，是一个双关语或笑话，指被‘抛弃’的控制论。在另一个层面上，它是一个模糊的政治团体，暗示着我们的左海岸——加利福尼亚的伊莎兰学院，是戴维·凯泽称之为‘嬉皮士物理学家’的团体。这个术语不恰当，但它可以让我们认识到，有一群人受惠于军工联合体，有时非常不幸，正是这群人给了我们批评他们的工具。”
受控制的艺术非常重要，但对于受控制的生活来说，艺术更为重要。
白南准，1966
1950年，当诺伯特·维纳的《人有人的用处》一书面世时，艺术家们最初并没有想要从控制论中得到人工智能。在20世纪50年代和60年代，那些自称拥护控制论的艺术家很少能接触到“思维机器”。而且，具有艺术天分的工程师们最开始制造的是海龟、变戏法者和寻光机器人宝贝，而不是巨大的大脑。艺术家们使用电路实验板、铜线、简单的开关和电子传感器，和控制论者一起制作雕塑，创造模拟交互感应环境，这种交互感应能模拟动作和界面，更多地与本能驱动力和战后性政治有关，而与知识生产的自动化无关。如今，一种不受约束的“智能”，一种既不受硬件束缚，也不受肉体束缚的“智能”使得人工智能变得难以理解，让人们忘记了早期艺术家接受控制论的时代。我们现在应该重温这些努力：早期艺术家努力使法国哲学家吉尔·德勒兹（Gilles Deleuze）和费利克斯·瓜塔里（Félix Guattari）所称的“机械门”（machinic phylum）这种关系模型化，“机械门”与人类在一个同物理、物质、情感刺激和信号世界接触的身体中的思维和感觉有关。
控制论现在似乎已经衰退，变成了无处不在的人工智能，这远非注定如此。“控制论”一词指已有4个世纪之久的一些概念在战后所显现的新意：反馈、机器阻尼、生物内稳态、逻辑计算和自受工业革命推动的启蒙运动以来一直存在的系统思想。这个领域的人物包括笛卡尔、莱布尼茨、萨迪·卡诺、克劳修斯、麦克斯韦和瓦特。尽管如此，维纳创造的这个词仍然具有深远的文化影响。(46)前缀“赛博”（cyber-）如今使用范围很广，这证实了人们对清楚揭示人类与机器之间错综复杂的关系的渴望。在维纳笔下，“赛博”仅指“动物和机器的控制与通信”。但是在数字革命之后，“赛博”一词已不再仅仅是伺服系统、反馈循环和开关，它还包括软件、算法和电子人。倾向于控制论的艺术家的作品关注的是在现状下人工智能无法触及的生命的涌现行为。
最初杜撰这个词时，维纳借用了古希腊语“舵手”（κυβερν·τη· / kubernétés）这个词，该词指一个男性形象，能将他的力量和本能引导到船舵上，他能看懂海浪，能判断风向，能控制舵柄，能指挥奴隶让他们无意识地、机械地划桨。这个希腊单词已经借由拉丁语迁移到现代英语中，从kuber-变化到guber-，字根的意思变为“州长”，是另一个指男性控制的词，詹姆斯·瓦特用它来描述19世纪时他用来调节失控蒸汽机的装置。由此，控制论采纳了长期以来将人类和装置类比的思想，添加了“-ics”，将其推广到应用科学中。维纳的三个C（command、control、communication，即指挥、控制、通信）利用概率数学，将生物和机械系统的理论化为一组信息输入，从而实现在一个环境中输出行动——这是在人工智能的谱系中通常被最小化的议程。
但是，词源学无法描绘出参与者的兴奋感，因为数学加入了理论生物学（阿图罗·罗森布鲁[Arturo Rosenblueth]）和信息理论（克劳德·香农、沃尔特·皮茨、沃伦·麦卡洛克），促使该领域发表了一系列跨学科的研究和出版物，这些研究和出版物不仅改变了科学的发展方式，还改变了未来人类参与技术领域的方式。正如维纳所说：“我们已经彻底改变了我们的环境，我们现在必须改变自己才能生存。”最紧迫的问题是：我们如何改变自己？我们是在朝着正确的方向前进，还是迷路了，成为我们的工具的工具？回顾早期人文主义者和艺术家对控制论所做的贡献，可能有助于我们走向一个不那么危险，更具道德感的未来。
1968年对于“控制论”一词的文化传播和艺术汲取来说是重要的一年。那一年，霍华德·怀斯画廊（Howard Wise Gallery）在曼哈顿市中心举办了蔡文颖（Wen-Ying Tsai）的“控制论雕塑”展览，波兰人贾西娅·赖夏特（Jasia Reichardt）在伦敦的当代艺术学院举办了她的“控制论意外”展览。（她作品中的“控制论”意在让人想到“由计算机制造或与计算机一起制造”，尽管我们并没有在她的大多数艺术品反应电路中看到计算机。）1948年至1968年的20年既见证了控制论概念传播到更广泛的文化之中，也见证了借由跨国公司，计算机慢慢地从专有军事设备进入到学术实验室，使艺术家得以接触到计算机的过程。对于家用爱好者来说，这些控制元件——“传感器器官”（电子眼、运动传感器、麦克风）和“效应器官”（电子“面包板”、开关、液压系统、气动系统），使计算机不像是“电子大脑”，反倒更像是一套零件中的辅助器官。目前还没有一个关于“人工智能”的比喻能占据主导地位。所以艺术家是用现成材料拼凑电子体的鬼才，对行为感兴趣，但对计算或认知毫不来电。人们模模糊糊地认为“计算机”是迈向“理性人”的计算器，但这更多的是渴望而非成就。
从当今艺术与科学成像工具的数字化融合来看，赖夏特的展览具有预言性，她坚持将艺术和“创造性应用科学”之间的界限变得模糊。根据展览目录，“没有阅读所有与作品相关的说明，就无法参观展览，读完所有说明，他才会知道他正在欣赏的作品是出自艺术家、工程师、数学家还是建筑师之手”。所以，目录的封面是白南准创作的“机器人K-456”（1964年），这是一个滑稽的、功能不健全的机器人，这台机器人被描述成“一个以其令人不安和独特的行为而闻名的女性机器人”，与它对阵的是像芭蕾舞一样的“运动的对话”（1968年），这个作品是二阶控制论者戈登·帕斯克（Gordon Pask）创作的。帕斯克与伦敦一位剧院设计师合作，制作出一个由铰链和杆组成的细长“男性”装置，该装置是为了与附近的球状“女性”玻璃纤维实体进行通信。我们不知道，如果没有阅读目录里的文章，是否有人能真正地看懂该项目的本质。重要的是，帕斯克关注的是他的机器人的行为，它们的互动性，它们在人工环境中所起的反应，以及它们对人类行为的“思考”。
当代艺术学院的“控制论意外”展推出了一个重要的范例：机器生态系统。观察者是这个系统的一部分，其任务是找出可能的交互触发因素。因为要充分体验艺术，这些参观伦敦画廊的观众突然变成了“控制论生物体”，也就是电子人，人们需要进入一种与伺服机制共生的搭配模式之中。当我们研究一些其他的同时期艺术作品时，人机交互环境的美学变得愈发清晰。其中最早的涌现行为的实例之一是Senster，这个作品是艺术家、工程师爱德华·伊赫纳托维奇（Edward Ihnatowicz）1970年创作的交互雕塑。医学机器人工程师，同时也是一家致力于宣传伊赫纳托维奇鲜为人知的职业生涯的网站编辑，亚历克斯·奇瓦诺维奇（Alex Zivanovic）称这个作品是“第一个由计算机控制的交互式机器人作品之一”。这里，“计算机”有了自己的一席之地，尽管它仅是一个只有12位的设备。但是，伊赫纳托维奇想要表现的并不是“智能”，而是想让它表达情感行为。Senster不可思议的成功关键在于它的程序设计，伊赫纳托维奇用程序将这个液压装置设计成4.5米长（其铰链设计和外观的灵感来自龙虾爪），以表达对附近人类的羞怯感。Senster的声道和运动传感器对大分贝噪声和突然的攻击性动作会产生回缩反应。只有那些愿意轻声说话，并注意它的行为动作的人，Senster才会安静地、充满好奇地接近他们。伊赫纳托维奇自己就有过这种亲身体验，当时他第一次把该程序组装好，听到他清了清嗓子，这台机器急切地转向他。
在对这些控制论生物的艺术应用中，我们越来越意识到有必要让公众在技术化环境中亲身体验一下，让他们与机器进行直观的交流。蔡文颖的“控制论雕塑”展览就突显出这种必要性。我们期望那些体验过拟真装置的人能尝试体验机械生命：什么样的行为会触发伺服机制？很有可能的是，画廊的人类服务员不得不解释这个礼仪：“拍手，然后雕塑会做出反应。”正如一位早期的评论家所描述的那样：
一丛细长的不锈钢棒从一个盘子里冒出来。这个底座每秒振动30次，杆以谐波曲线快速弯曲。在一个黑暗的房间里，闪光灯照亮这些装置。闪光灯的脉冲有不同变化，它与声音和接近度传感器相连。这样，当有人接近它或在它附近发出噪声时，它会做出反应。杆子似乎在移动，一根发出微光，一根闪闪发光，还有一根跳着怪异的金属芭蕾舞蹈，它们的动作从安静到大幅摆动，然后再回到缓慢的、无法形容的美感之中。(47)
与Senster一样，该装置激发出并模拟了一种情感而非理性的交互作用。人类感觉到他们看到的这些行为表明装置是有反应的生命体，蔡文颖创作的这些作品通常被归类为“植物”或“水生”。这种对环境和动力的追求在当时的国际艺术界很普遍。除了霍华德·怀斯的马厩外，还有巴黎的流亡者形成的团体GRAV，尼古拉斯·舍费尔（Nicolas Sch·ffer）的“控制论建筑”，德国Zero Gruppe的光和塑料旋转，等等，所有这些都对即将到来的装置艺术进行界定，并让人们对其有所了解。
20世纪60年代后期，艺术家们利用控制论生物的目的不是开发“智能”。因为他们知道这些机器不会说话，不能产生情感，所以他们有信心进行坦率的模拟。他们感兴趣的是能唤起驱动力、本能和情感的机械动作；他们模仿性行为和动物行为，好像这些都是下意识的。这些艺术家对数据或信息的处理不感兴趣，尽管汉斯·哈克（Hans Haacke）1972年的作品《实时系统》（Real-Time Systems）是朝这个方向发展的。艺术家和科学家在两大洲建立的控制论文化将人类带入技术领域，并以机器优雅而灵敏的行为吸引了人们的感知。在早期的控制论美学中，“人工”和“自然”交织在一起。
但一切并没有止步于此。对于这种不加批判的、男性化为主的控制环境的发展至关重要的是，出现了一个激进的、批判的女性艺术家群体。这个令人惊叹的女性群体出现于20世纪90年代，她们非常了解自己的前辈在艺术和技术上的创作，但1970年的《激进软件》杂志（Radical Software）的女权主义者创始人，以及唐娜·哈拉维（Donna Haraway）1984年鼓舞人心的论战《赛博格宣言》（A Cyborg Manifesto）所带来的文化冲击，给她们的启发更大些。白南准和帕斯克的破败的性别剧院，以及伊赫纳托维奇和蔡文颖创作的简单作品，现在都被加以利用，变成有悟性、有表现力、充满后现代主义的作品，就像林恩·赫什曼·利森（Lynn Hershman Leeson）的多利克隆系列（1995—1998年）一样，这个系列包括互动集合装置《赛伯罗伯塔》（Cyberroberta）和《遥控机器人娃娃泰莉》（Tillie，the Telerobotic Doll），在技术领域，它们非常滑稽搞笑，冲观众眨眼，使我们清楚地意识到自己作为观察者与被观察者所处的窥淫立场。
20世纪60年代男性控制论雕塑家建立了“简单的”技术领域，到了20世纪90年代，女权主义艺术家将这种技术领域转化为一种完全宽泛的状态，需要我们批判性关注。同时，女权主义者也解决了人工智能试图模拟谁的“智能”的问题。对于赫什曼·利森这样的艺术家来说，为了响应克隆羊多莉的技术“胜利”，最重要的就是将肉类生产和“肉类机械”联系起来。赫什曼·利森把多莉当作克隆体进行创作，为当代个体变成意识形态、复制、可塑体领域的一部分这种现象提供了批判框架。
20世纪90年代至21世纪最初10年的技术女权主义者并非都是计算机领域工作者，但她们的作品却使先前技术环境中男性艺术家主导的机械和动力学特性变得更加复杂。例如，朱迪丝·巴里（Judith Barry）创作的《想象，死亡的猜想》（Imagination, Dead Imagine，1991年）中，雌雄同体的远程电子人不会动：他或她由纯粹的信号、平面上闪烁的投影组成。在她的作品中，巴里对20世纪晚期技术的异化效应表达了自己的看法。一个雌雄同体的头部图像显现在一个巨大的立方体上，这个立方体由5个面组成，每面是边长3米的屏幕，安装在一个3米宽的镜像底座上。各种黏糊糊的、难看的液体（黄色、红橙色、棕色）、干燥的东西（不知道是锯末还是面粉），甚至还有昆虫，像毛毛细雨或灰尘一样顺着电子人的头往下流，巨大的屏幕完美呈现出电子人坚忍的高尚气质。通过大型、立体的“柏拉图式”形式，《想象，死亡的猜想》仍然是人工的，被限制在一个框架里，拒绝一个完全没有智慧的超然“智慧”。
新千年的艺术家们继承了这一批判传统，沿袭了当前的人工智能范式，也就是从部分模拟转向智能化主张。1955年第一次提出“人工智能”这一术语，计算机科学家约翰·麦卡锡和他的同事马文·明斯基、纳撒尼尔·罗切斯特（Nathaniel Rochester）、克劳德·香农推测：“理论上，学习的每一个方面或任何其他智能特征都可以被精确地描述，这样我们可以制造一台机器来模拟这些方面或特征。”在过去的64年里，曾经的这个不大的理论目标变得野心勃勃，今天的谷歌DeepMind把这一目标变成“解决智能”。破解密码！但不幸的是，我们所听到的不是破解了密码，而是破坏了小规模资本主义、社会契约和文明的脚手架。让出租车和卡车司机丢掉工作，机器人化的直接营销，霸主化的娱乐，私有化的公用事业，以及去人性化的医疗保健，这些都是维纳害怕我们会爱上的“鞭子”吗？
艺术家们无法解决这些问题。但他们可以提醒我们，人类还有创造性潜能没有得到开发，这些潜能在1970年左右就浮现出来，那时候，“信息”尚未成为资本，“智能”尚未等同于数据采集。当我们回顾早期的那些可能性时，能充分唤起人们思考用当代工作能做些什么的是法国艺术家菲利普·帕雷诺（Philippe Parreno）的“萤火虫作品”，之所以这样称呼是为了避免重复它的实际标题：《有节奏的本能，能够超越现有的生存力量》（With a Rhyothmic Instinction to Be Able to Travel Beyond Existing Forces of Life，2014年）。这件雕塑作品被艺术家描述为“自动装置”，它将闪烁的黑白萤火虫图案投影与黑色二进制数字上的绿色摆动带并列。这些图案和二进制数字是用数学家约翰·霍顿·康威（John Horton Conway）1970年发明的一款生命游戏“元胞自动机”的算法制作的。
康威给无限的二维网格中任何被照亮（“活的”）或变黑（“死的”）的正方形（“细胞”）设置参数。规则如下：如果一个细胞周围没有别的细胞，那它很快会因孤独而死亡。如果一个细胞接触到三个或更多“活”细胞，它也会死，因为太拥挤。细胞若想活下来就只能有两个邻居，等等。当一个细胞死亡后，它能为其他细胞创造生存的条件，产生出似乎在移动和生长的模式，像迅速消失的神经脉冲或能生物发光的硅藻簇一样在网格中移动。在史蒂芬·霍金2012年的电影《生命的意义》（The Meaning of Life）中，解说员将康威的数学模型描述成模拟“一个像大脑一样的复杂事物如何从一套基本的规则中产生”，揭示了当代人工智能所具有的野心：“这些复杂的属性来自简单的法则，这些法则不包含运动或繁殖等概念”，但是它们产生“物种”，而且细胞“甚至可以繁殖，就像现实世界中的生命一样”。(48)
就像生命一样？艺术家们知道模拟和表征的诱惑，了解技巧的天才和“生命”的现实之间的区别。帕雷诺的作品是我们通过具体的、透视的参与而获得的“生命”体验的直观集合。我们的意识受电子（控制论）羁绊，但我们并不认为这套由人类生成的优雅模拟有自己的智慧。
控制论生物的艺术运用也提醒我们意识本身不仅仅是“在这里”，它是流入和流出，协调那些感官的、闪烁的信号。大脑的活动范围远远超出了头盖骨的范围以及它的模拟物“主板”。玛丽·凯瑟琳·贝特森（Mary Catherine Bateson）对她父亲格雷戈里的二阶控制论做出解释，她说精神是物质的，“不一定由边界（如皮肤的外壳）来定义”。(49)帕雷诺将艺术模拟与数学模拟相结合，强化维纳式的观点，即任何这样的模型本身都不像生命。模型仅仅是组成“智能”的信号系统的一部分，只有当与模型对等的动物或人参与到生动的意义创造时，模型构成“智能”。当代人工智能使任务和子程序工具化、专门化，将这些训练与真正的智慧混淆，使自己陷入困境。本文简要地提及一些文化史，提醒我们，将数据视为智能，将数字网络视为“神经”，或将孤立的个体视为生命单位，这种观点甚至与康威的野蛮模拟也是格格不入的。
我们可以将当前人工智能顽固的傲慢视为“右控制论”，这使我们有了当前的自动化武器系统，使优步对人类工人充满敌意，也让谷歌做着资本主义美梦。现在我们必须回到“左控制论”，也就是理论生物学家和人类学家致力于对智能系统的跨物种理解。格雷戈里·贝特森认为，企业仅仅是模拟“部分人的集合”，将利润最大化的决策与“思想中更广泛、更明智的部分”分离开来，这个观点的提出实在是太及时了。(50)
这里所提出的控制论认识论为我们找到一种新方法。个体心理体现在各个方面，不仅存在于身体之内，也存在于身体之外，同时，还有一个更大的心理，个体心理只是其中的一个子系统。贝特森认为，这个更大的心理可以与上帝相媲美，也许正是有些人口中所说的“上帝”，但在完全相互关联的社会系统和行星生态中，它仍旧是内在的。这不是外部“上帝”的集体幻想，外部“上帝”从人类意识的外部说话。贝特森认为，这种长期存在的一神教观念使得人类将自然和环境看成脱离于人类“个体”之外的“可以利用的礼物”。相反，贝特森所说的“上帝”是我们在世界上短暂体验与意识互动的一个占位符：输入和行动会带来更大的心理，然后与其他实体配合，成为其他行动的输入，形成我们迫切需要的模式的共生关系网。(51)
从20世纪70年代的蔡文颖到20世纪90年代的赫什曼·利森，再到2014年的帕雷诺，艺术家们一直在批判“右控制论”，一直在致力于寻求“人工”智能的替代、具身和环境体验。他们对控制论生物的艺术运用为我们提供了共生智慧，在这个世界可以实现的各种诗学中我们能体验到这种智慧：产生生命运动的信号的节奏和直觉行动与电机和磁技术领域合作。生命，在它神秘的负熵中，与物质和心智有关。
25 人工智能与文明的未来 ARTIFICIAL INTELLIGENCE AND THE FUTURE OF CIVILIZATION
The most dramatic discontinuity will surely be when we achieve effective human immortality. Whether this will be achieved biologically or digitally isn't clear, but inevitably it will be achieved.
最引人注目的肯定是我们实现了人类的长生不老之梦。这个梦想究竟会是在生物学上还是在数码上实现，目前尚不清楚，但总有一天会实现。
斯蒂芬·沃尔弗拉姆
Stephen Wolfram
斯蒂芬·沃尔弗拉姆是一位科学家、发明家，也是沃尔弗拉姆研究公司的创始人和首席执行官。他创建了符号计算程序Mathematica及其编程语言Wolfram，以及知识引擎Wolfram|Alpha。著有《一门新科学》（A New Kind of Science）一书。
布罗克曼谈斯蒂芬·沃尔弗拉姆
近40年来，斯蒂芬·沃尔弗拉姆一直致力于计算思维的开发和应用，他在科学、技术和商业领域做出了许多创新。
1982年，他23岁，他的论文《作为简单的自组织系统的元胞自动机》（Cellular Automata as Simple Self-Organizing Systems）发表之后，又出现了无数力图理解自然界复杂起源的重要科学文献。
就在这个时候，斯蒂芬走进了我的生活。我成立了“现实俱乐部”，这是一个非正式的知识分子聚会，他们在纽约市相聚，在不同学科的知识分子面前展示他们的研究工作。（1996年，现实俱乐部上线，网站是edge.org。）我们的第一个演讲者是谁？当然是“神童”斯蒂芬·沃尔弗拉姆，当时他已经在普林斯顿高等研究院工作。我清楚地记得，他坐在我家客厅的沙发上，神情专注，在众人面前，他不间断地讲了大约一个小时。
从那时起，斯蒂芬就开始致力于使世界上的知识变得易于计算和获取。他的Mathematica软件是现代技术计算的权威系统。Wolfram|Alpha能够使用人工智能技术计算出专家级别答案。他认为他的Wolfram语言是人类和人工智能的第一种真正的计算通信语言。
4年前，我们又见面了，当时我们约定在马萨诸塞州的剑桥见面，就人工智能问题进行自由讨论。斯蒂芬走了进来，打声招呼便坐下来，看着摄像机开始讲话，两个半小时没有停下来。
对这段谈话进行编辑，便有了接下来的这篇文章。这段谈话相当于沃尔弗拉姆的大师级课程，也是结束本书的最好方式。20世纪80年代，斯蒂芬在“现实俱乐部”所做的演讲带动了一批不断发展的智力型企业，产生了大量的思想者，在本书中，这些思想者将他们的研究工作呈现给其他人，呈现给大众。相信斯蒂芬的这段对话能起到同样的效果。
在我看来，所谓技术，就是让机器自动执行人类的目标。过去人类的目标是用铲车而不是我们的手来移动物体，现在我们可以用机器自动完成的工作是精神上的而不是身体上的。显然，长期以来我们亲自完成并引以为傲的很多工作，现在都可以用机器完成了。这样一来，未来人类景况如何呢？
人们谈论智能机器的未来，谈论它们是否会接管这个世界，是否会决定为自己做些什么。但是目标并不是自动生成的。我们需要有人来定义机器的目标，这个目标应该是它试图执行的目标。如何定义目标？对于特定的人来说，目标往往是由个人的历史、文化环境、人类文明的历史来定义的。目标是人类独有的。对于机器而言，我们可以在制造它时给它一个目标。
什么样的东西有智慧、目标或目的？现在，我们知道了一个很好的例子，那就是我们——我们的大脑，我们人类的智慧。我曾经认为，人类的智慧远远超出了世界上自然存在的任何事物，是一个复杂的进化过程的结果，与其他万物不同。但做过科学研究后，我意识到，情况并非如此。
例如，人们可能会说：“天气有它自己的思想。”这是一种万物有灵论的说法，似乎在现代科学思想中没有它的位置。但事实上，这并不像听起来那么蠢。人类大脑是做什么的？大脑接受一定的输入，计算事物，导致一定的动作发生，产生一定的输出。就像天气一样。各种各样的系统实际上都在做计算，不管是大脑还是对热环境做出反应的云。
