下一次军备竞赛
现在你可能已经猜出来了，我个人对自动化武器系统怀有深深的担忧。不过，我还没有告诉你我最大的担心，那就是：假如爆发人工智能武器军备竞赛，会导致什么样的结局。2015年7月，我在写给斯图尔特·罗素的公开信中表达了这个担忧，后来，我在未来生命研究所的同事又给予了我许多有用的反馈。[34]
一封来自人工智能和机器人研究者的公开信
自动化武器能在无人干涉的情况下选择和袭击目标。这些武器可能包括4轴飞行器，它们能够搜索和杀死满足某些预定标准的人。不过，这些武器中不包括导弹或遥控无人机，因为它们的目标决策都是由人类做出的。人工智能技术已经到达了一个临界点，过不了几年，就可能出现实际可行的系统部署，尽管这不一定合法。不用等到几十年后，自动化武器就会带来很大的风险：继火药和核武器之后，它被认为是第三次武器革命。
对自动化武器，有人支持，也有人反对。比如，有人提出，用机器来替代人类士兵可以降低伤亡人数，但也会降低发动战争的门槛。人类今天面临的一个重要问题是，是展开一场全球人工智能军备竞赛，还是努力阻止它发生？只要任意一个主要军事力量推动人工智能武器开发，那全球军备竞赛几乎是不可避免的，而这场技术进步的终点是显而易见的，那就是：自动化武器会成为明天的AK突击步枪。与核武器不同，它们不需要昂贵或稀有的原材料，因此，它们会变得无处不在，并且价格便宜，能够被所有主要军事力量大规模生产。那么，自动化武器早晚都会出现在黑市、恐怖分子、意欲控制人民的独裁者、想要种族清洗的军阀等人的手中。自动化武器是刺杀、颠覆政权、制伏人群或选择性地杀死某个种族的理想工具。因此，我们相信，人工智能军备竞赛对人类无益。人工智能有许多方式可以在无须创造出新型杀人工具的情况下，使战场对人类（特别是平民）而言变得更加安全。
正如化学家和生物学家没兴趣开发生化武器一样，大多数人工智能研究者也没有兴趣开发人工智能武器，也不希望其他人用这种研究来玷污这个领域。因为这会激起公众对人工智能的反对，从而限制人工智能未来可能为社会带来的裨益。实际上，化学家和生物学家广泛支持那些阻止生化武器研究的国际条约，而这些条约都非常成功；无独有偶，大多数物理学家也都支持那些禁止太空核武器和致盲激光武器研发的条约。
有人可能会认为，这些担忧只是“和平环保狂”的杞人忧天。为了避免这种想法，我想要让尽可能多的硬核人工智能研究者和机器人学家在这封公开信上签名。国际机器人武器控制委员会（The International Campaign for Robotic Arms Control）曾召集几百人签名反对杀手机器人。我觉得我们可以做得更好。我知道，专业机构通常不愿意为了某些带有政治意味的目的，而将自己庞大的会员电子邮箱地址分享出来，因此，我从网络文档中收集和整理了一份研究者和研究机构的名录，并在亚马逊的MTurk共享平台上做广告，招募人马来寻找这些人的电子邮箱地址。大多数研究者的邮箱地址都可以在他们所属的大学网站上找到。
在花了24小时和54美元之后，可以很骄傲地说，我成功获取了几百名成功入选美国人工智能发展协会的人工智能研究者的电子邮箱地址。其中，英裔澳籍人工智能教授托比·沃尔什（Toby Walsh）非常好心地同意向名单中的所有人发一封邮件，帮我们宣传这个活动。全球各地MTurk平台上的成员不知疲倦地为沃尔什列出更多的邮件名单。不久之后，就有超过3 000名人工智能研究者和机器人研究者在我们的公开信上签名，其中包括6位美国人工智能发展协会前任主席，还有来自谷歌、Facebook、微软、特斯拉等公司人工智能领域的领袖。未来生命研究所的志愿者团队夜以继日、不知疲倦地核对签名列表，删除开玩笑的条目，比如比尔·克林顿和莎拉·康娜。除此之外，还有17 000人也签了名，其中包括史蒂芬·霍金。沃尔什在国际人工智能联合会议（International Joint Conference on Artificial Intelligence）上组织了一场新闻发布会后，这件事成了闻名世界的大新闻。
由于生物学家和化学家选择了自己的立场，如今他们才得以把主要精力放到创造对人类有益的药物和材料上，而不是制造生化武器上。人工智能和机器人学界现在也开始发声，公开信的签署者们希望他们的领域能以“创造更好的未来”，而不是“开发杀人新方法”被人们熟知。但是，人工智能未来的主要应用会是民用还是军用的呢？虽然在本章里我已花了很多笔墨来讨论前者，但人类可能很快就会开始在后者上投入重金，假如人工智能军备竞赛打响的话。2016年，民用人工智能的投资额超过了10亿美元，但这与美国国防部2017年120亿～150亿美元的人工智能相关项目的预算相比，简直是小巫见大巫。与此同时，中国和俄罗斯可能也注意到了美国国防部副长罗伯特·沃克（Robert Work）在宣布预算时所说的话：“我想要我们的竞争者好奇，黑幕后面到底藏着什么。”[35]
是否应该付诸国际条约
虽然现在在国际上，禁止杀手机器人的风头正旺，但我们依然不知道未来会发生什么。如果真要发生点儿什么，会发生什么事呢？关于这个问题的争论十分活跃。虽然许多主要利益相关者都同意，世界众强国应该起草一份国际法规来指导自动化武器系统的研究与使用，但是，究竟应该禁止什么样的武器，以及禁令应当如何执行，这些问题都尚未达成协议。比如，是应该只禁止致命的自动化武器，还是应该把那些严重致残，比如致盲的武器也包括进去？我们应该禁止自动化武器的开发、生产还是拥有权？禁令应该禁止所有的自动化武器，还是如我们的公开信所说，只禁止攻击性武器，而允许防御性武器存在，比如防空炮和导弹防御系统？如果是后一种情况，那么，既然自动化武器系统很容易进入敌方领土，那它到底算不算是防御性系统？自动化武器的大部分部件都可以用于民用，那么，应如何执行这种条约？比如，运送亚马逊包裹的无人机和运送炸弹的无人机之间并没有太大的区别。
在这场争论中，一些人认为，要设计一份有效的自动化武器系统国际条约实在是太难了，简直毫无希望，因此，我们根本不应该尝试。但是别忘了，约翰·肯尼迪在宣布“登月计划”时曾强调说，只要某一件事在未来能大大造福于人类，那么，再困难也值得尝试。此外，许多专家认为，尽管事实证明，生化武器禁令的执行十分困难，但这样的禁令仍然具有很大的价值，因为禁令会让生化武器使用者蒙羞，从而间接限制它们的使用。
2016年，我在一次晚宴上遇到了美国前国务卿亨利·基辛格（Henry Kissinger），抓住这个机会，我询问了他在生化武器禁令中所扮演的角色。他向我解释了当他还在担任美国国家安全顾问时，是如何让前总统尼克松相信，生化武器禁令有利于美国国家安全。作为一位92岁高龄的老人，他的思维和记忆是如此敏锐，令我十分钦佩。同时，他从局内人的角度讲述的故事深深地吸引了我。由于美国已经因历史原因和核威慑力处在了超级大国的位置，如果爆发一场结局不明的全球性生化武器军备竞赛，对于美国来说，弊大于利。换句话说，如果你已经是最有权力的人，那么，最好遵照“如果没坏，就别修理”的格言。后来，斯图尔特·罗素加入了我们的餐后谈话，我们一起讨论了，为什么致命性的自动化武器禁令有利于国家安全，甚至是全人类的安全：从这场军备竞赛中获益最大的，并不是超级大国，而是一些较小的“流氓国家”和非国家主体，比如恐怖分子，因为一旦自动化武器被开发出来，他们就可以在黑市上进行交易。
一旦大规模生产的小型人工智能杀人无人机的成本降到只比智能手机贵一点点，那么，无论是想要刺杀政客的恐怖分子，还是想要报复前女友的失恋者，只要他们把目标的照片和地址上传到杀人无人机，它就会飞到目的地，识别和杀死那个人，然后自毁，以保证没人知道谁是幕后黑手。无独有偶，那些想要进行种族清洗的人也能很容易地对无人机进行编程，让它们只杀死那些拥有某些肤色或种族特征的人。斯图尔特·罗素预言，这种武器变得越智能，杀死每个人所需要的材料、火力和成本也就越低。比如，罗素很担心有人会用黄蜂大小的无人机来杀人，如果它们能射击眼睛（因为眼球很柔软，很小的子弹就能深入大脑），那它们就能用极小的爆炸力来杀人，成本也极低。或者，它们也可以用金属爪子抓住人的头部，然后施加微小的聚能引爆装置击穿头骨。如果一辆卡车可以释放100万个这样的杀手无人机，那你就拥有了一种恐怖的全新大规模杀伤性武器，它可以用来选择性地杀死事先规定的某一类人，而保证其他人和其他物体均毫发无伤。
许多人可能会反驳说，我们可以让杀手机器人的行为符合伦理标准，以此来消除上述的担忧，比如，让它们只杀敌方士兵。但是，如果我们连一个禁令都执行不了，又如何能保证敌人的自动化武器是100%符合伦理标准的呢？这难道不比从一开始就禁止生产自动化武器更难？我们怎能一边认为，文明国家训练有素的士兵不遵守战争规则，还不如机器人做得好，而另一边又认为，流氓国家、独裁者和恐怖分子十分遵守战争规律，永远不会部署机器人来打破这些规则。这不是自相矛盾吗？
网络战争
关于人工智能在军事中的应用，还有一个有趣的应用可以让你在手无寸铁的情况下攻击敌人，那就是网络战争。有一件事堪称未来网络战争的小小序曲——震网病毒（Stuxnet）。震网病毒感染了伊朗铀浓缩项目的高速离心机，使其分崩离析。社会的自动化程度越高，攻击性人工智能的力量就越强大，网络战争的破坏性就越大。想想看，如果你黑入了敌人的无人驾驶汽车、自动巡航飞机、核反应堆、工业机器人、通信系统、金融系统和电网，那么，你就能高效地摧毁对方的经济体系，削弱其防卫系统。如果你还能黑入对方的武器系统，那就更好了。
本章一开始，我们就探讨了人工智能近期有许多有益于人类的惊人机遇，只要我们保证它是稳定的，并且不被黑客攻破。人工智能本身当然可以用来加强网络防线，从而让人工智能系统更加稳定，但很显然，人工智能也可以用来进行攻击。如何保证防御方胜出，或许是近期人工智能研发最严峻的目标；如若不然，我们建造的高级武器也可能倒持戈矛，被用来攻击我们自己！
工作与工资
本章到目前为止，我们主要聚焦于人工智能如何催生具有变革性但同时又让普通人负担得起的新产品和新服务，从而影响消费者。那么，人工智能会如何通过变革就业市场来影响劳动者呢？如果我们在用自动化促进经济繁荣发展的同时，能搞清楚如何做才不会剥夺人们的收入和生活目标，那么，我们就能创造出一个人人都可享有闲暇和空前富足的美好未来。在这一点上思考得最多、最深入的人，莫过于经济学家埃里克·布莱恩约弗森了，他也是我在麻省理工学院的同事。虽然他总是梳洗整洁，衣着考究，但他其实是冰岛裔。我常常忍不住想，布莱恩约弗森或许是为了融入我们学校的商学院，前不久才刮掉了满脸“维京人”式的狂野红胡子。无论如何，他自己肯定没有“刮掉胡子”的疯狂想法。布莱恩约弗森把自己对就业市场的乐观预期称为“数字化雅典”（Digital Athens）。古代雅典公民之所以能拥有悠闲的生活，享受民主、艺术和游戏，主要是因为他们蓄养奴隶来做苦工。那么，为何不用人工智能来代替奴隶，创造出一个人人都有权享受的数字化乌托邦呢？在布莱恩约弗森的心目中，人工智能驱动的经济不仅可以消除忧愁和苦差，创造出富足的物质生活，让每个人都能得到自己想要的东西，它还能提供许多美妙的新产品和新服务，满足今天的消费者尚未意识到的需求。
技术加剧不平等的3个方面
如果每个人的时薪都逐年增长，每个想要更多闲暇的人都可以在逐渐减少工作时间的同时持续提升生活质量，那么，我们就能在未来的某一天实现布莱恩约弗森所说的“数字化雅典”。从图3-5中我们可以看到，这正是美国从第二次世界大战到20世纪70年代中期这段时间内所发生的事情：尽管存在收入不均，但收入的总体体量在变大，使得每个人分到的蛋糕也变得越来越大。不过接下来，发生了一些改变，布莱恩约弗森是第一个注意到这件事的人：从图3-5中可以看到，虽然经济水平正在持续增长，平均收入持续提升，但过去40年中的收益都进入了富人的口袋，主要是顶端1%的富人，而底端90%穷人的收入停滞增长。这种不平等的加剧在财富上的表现更加明显。对美国社会底层90%的家庭来说，2012年的平均财富是85 000美元，与25年前一模一样，而顶端1%的家庭在这段时间内的财富即使经过通胀调整之后，还是翻了一倍多，达到了1 400万美元。[36]从全球的角度来看，情况更糟。2013年，全球最穷的一半人口（约36亿人口）的财富加总起来，只相当于世界最富有的8个人的财富总额。[37]这个统计数据不仅暴露了底层人民的贫困与脆弱，也暴露了顶端富豪令人叹为观止的财富。在我们2015年的波多黎各会议上，布莱恩约弗森告诉参会的人工智能研究者，他认为人工智能和自动化技术的进步会不断将总体经济的蛋糕做大，但并没有哪条经济规律规定每个人或者说大部分人会从中受益。
尽管大多数经济学家都同意不平等现象正在加剧，但这个趋势是否会继续下去？如果会的话，又是为什么？有趣的是，在这个问题上，经济学家们各执一词。政治谱系上位于左翼的人通常认为，主要的原因是全球化和某些经济政策，比如对富人减税。但布莱恩约弗森和他在麻省理工学院的合作者安德鲁·麦卡菲认为另有原因，那就是技术[38]。具体而言，他们认为数字技术从三个不同的方面加剧了不平等的程度。
图3-5 1920—2015年，美国家庭收入的变化趋势
注：这张图展示了在整个20世纪经济极大地提高了每个群体的平均收入，以及不同群体分别获益的份额。20世纪70年代以前，无论贫富，人们的生活都在变好。而在那之后，大多数收益都进入了顶端1%的富人的口袋，而底端90%的人几乎没有任何改善[39]。图中的数据经过了通胀调整，以2017年的美元表示。
第一，技术用需要更多技能的新职业取代旧职业，这有益于受过良好教育的人：从20世纪70年代中期开始，硕士学位持有者的薪水增长了约25%，而高中辍学者的平均工资降低了30%[40]。
第二，布莱恩约弗森和他的合作者认为，从2000年开始，在公司的收入中，越来越大的份额进入了那些拥有公司而不是为公司辛勤工作的人的口袋里。此外，只要自动化技术持续发展，我们还会看到，机器拥有者分走的蛋糕会越来越大。这种“资本压倒劳动力”的趋势对持续增长的数字经济来说至关重要；数字经济的概念是由技术预言家尼古拉斯·尼葛洛庞帝（Nicholas Negroponte）提出的，他认为数字经济是移动的比特，而不是移动的原子。如今，从书本到电影，再到税务筹备工具，一切都被电子化了，在全世界任何地方多卖出一套这些东西的成本几乎为零，而且不用雇用新员工。这使得收益的大部分进入了投资者而不是劳动者的口袋，这也解释了，为什么尽管底特律“三巨头”(35) 1990年的总收益与硅谷“三巨头”在2014年的总收益几乎相等，但后者的员工数比前者少9倍，并且股市上的市值是前者的30倍[41]。
第三，布莱恩约弗森和他的合作者认为，数字经济通常会让“超级明星”而不是普通人受益。《哈利·波特》的作者J. K.罗琳是第一个成为亿万富翁的作家，她比莎士比亚富有多了，因为她的故事能以文字、电影和游戏等各种形式在数十亿人口中以极低的成本传播。同样地，斯科特·库克（Scott Cook）在税务筹划软件TurboTax上赚了10亿美元，而TurboTax与人类税务筹划员不一样，它能以下载的形式售卖。由于大多数人只愿意购买排名最高的前10个税务筹划软件，并且愿意花的钱少之又少，因此，市场上的“超级明星”席位极其有限。这意味着，如果全世界的父母都试图把自己的孩子培养成下一个J. K.罗琳、吉赛尔·邦辰、马特·达蒙、克里斯蒂亚诺·罗纳尔多、奥普拉·温弗瑞或埃隆·马斯克，那么，几乎没有孩子会觉得这种就业策略是可行的。
给孩子们的就业建议
那么，我们应该给孩子们什么样的就业建议呢？我鼓励我的孩子去做那些机器目前不擅长，并且在不远的未来也似乎很难被自动化的工作。近期，在对“哪些工作会被机器取代”的一项预测中，[42]有人提出了一些在职业教育之前应了解的职业问题。这些问题十分有用。比如：
◦ 这份工作是否需要与人交互，并使用社交商？
◦ 这份工作是否涉及创造性，并能使你想出聪明的解决办法？
◦ 这份工作是否需要你在不可预料的环境中工作？
在回答这些问题时，得到的肯定答案越多，你的就业选择可能会越好。这意味着，相对安全的选择包括教师、护士、医生、牙医、科学家、企业家、程序员、工程师、律师、社会工作者、神职人员、艺术家、美发师和按摩师。
相比之下，那些高度重复、结构化以及可预测的工作看起来过不了多久就会被机器自动化。计算机和工业机器人早在很久以前就已经取代了这类工作中最简单的那部分。持续进步的技术正在不断消灭更多类似的工作，从电话销售员到仓管员、收银员、火车司机、烘焙师和厨师。接下来，就是卡车、公交车、出租车和Uber/Lyft司机等。还有更多职业，包括律师助理、信用分析师、信贷员、会计师和税务员等，虽然这些工作不属于即将被完全消灭的工作之列，但大多数工作任务都将被自动化，因此所需的人数会越来越少。
但是，避开自动化并不是唯一的职业挑战。在这个全球化的数字时代，立志成为职业作家、电影人、演员、运动员或时尚设计师是有风险的，原因是：虽然这些职业并不会很快面临来自机器的激烈竞争，但根据之前提到的“超级明星”理论，他们会遇到全球各地其他人的严酷竞争，因此，鲜有人能脱颖而出，获得最终的成功。
在许多情况下，站在整个领域的层面给出就业建议是短视和不够有针对性的。许多工作并不会完全被消灭，只不过它们的许多任务会被自动化取代。比如，如果你想进入医疗行业，最好别当分析医疗影像的放射科医生，因为他们会被IBM的沃森取代，但可以成为那些分析放射影像、与病人讨论分析结果并决定治疗方案的医生；如果你想进入金融行业，别做那些用算法来分析数据的定量分析师，也就是“宽客”，因为他们很容易被软件取代，而要成为那些利用定量分析结果来做战略投资决策的基金管理者；如果你想进入法律行业，不要成为那些为了证据开示而审阅成堆文件的法务助理，因为他们的工作很容易被自动化，而要成为那些为客户提供咨询服务并在法庭上陈情激辩的律师。
到目前为止，我们已经探讨了个人在人工智能时代如何才能在就业市场上获得最大的成功。那么，政府应该做些什么来帮助人们获得职业成功呢？比如，什么样的教育系统才能帮助人们在人工智能迅速进步的情况下，做好充分的就业准备？我们目前采用的模型，也就是先上一二十年学，然后在一个专业领域工作40年，还能奏效吗？或者说，是否应该让人们先工作几年，然后回到学校里待一年，接着工作更长时间，如此往复？这种模式会不会好一点呢？[43]又或者，是否应该让继续教育（可以在网上进行）成为每份职业必有的标准部分呢？
此外，什么样的经济政策最能帮助我们创造出新的好职业？安德鲁·麦卡菲认为，许多政策或许都能帮上忙，包括加大科研、教育和基础设施方面的投资，促进移民、鼓励创业等。麦卡菲觉得，“《经济学原理》的教材十分清楚，但没有人按此执行”[44]，至少在美国没有。
人类最后会全体失业吗
如果人工智能始终保持进步的势头，将越来越多的工作自动化，那会发生什么事呢？许多人对就业形势十分乐观。他们认为，在一些职业被自动化的同时，另一些更好的新工作会被创造出来。毕竟，过去也发生过类似的事情。在工业革命时期，卢德分子也曾对技术性失业感到忧心忡忡。
然而，还有一些人对就业形势十分悲观。他们认为，这一次和以前不一样，空前庞大的人群不仅会失去工作，甚至会失去再就业的机会。这些悲观主义者声称，在自由市场中，工资是由供需关系来决定的。如果便宜的机器劳动力的供给持续增长，将进一步压低人类劳动力的工资，甚至低到最低生活标准之下。由于一份工作的市场价格等于完成这份工作的最低成本，不管是由人来完成，还是其他东西来完成，所以在过去，只要能把某种职业外包给收入更低的国家或者成本更低的机器，人们的工资就会降低。在工业革命时期，我们学会了用机器来取代肌肉，人们逐渐转向了那些薪水更高、使用更多脑力的工作。最终，蓝领职业被白领职业取代。而现在，我们正在逐渐学习如何用机器来取代我们的脑力劳动。如果我们真的做到了，那还有什么工作会留给我们呢？
一些职业乐观主义者认为，在体力职业和脑力职业之后，会出现一波新的职业，这就是创造力职业。但职业悲观主义者却反驳说，创造力只是另一种脑力劳动而已，因此最终也会被人工智能所掌握。还有一些职业乐观主义者认为，新技术会创造出一波超出我们想象的新职业。毕竟，在工业革命时期，有谁能想象到，他们的后代有一天会当上网页设计师和Uber司机呢？但职业悲观主义者反驳说，这只是一厢情愿的想法，缺少经验数据的支持。职业悲观主义者指出，一个世纪前或者早在计算机革命发生之前的人也可以说同样的话，预测说今天大部分职业都会是崭新的、前所未有的，超出前人想象，并且是由技术促成的。这种预测是非常不准确的，如图3-6所示，今天大部分职业早在一个世纪前就已经存在了，如果把它们根据其提供的就业岗位数进行排序的话，一直要到列表中的第21位，我们才会遇到一个新职业：软件工程师，而他们在美国就业市场中所占的比例不足1%。
这里，让我们再回头看一看图2-2，就会对事态有一个更好的理解。图2-2展示了“人类能力地形图”，其中，海拔代表机器执行各种任务的难度，而正在上升的海平面表示机器当前可以完成的事情。就业市场中的主要趋势并不是“我们正在转向完全崭新的职业”，而是“我们正在涌入图2-2中尚未被技术的潮水淹没的地方”。图3-6表明，这个结果形成的并不是一座孤岛，而是复杂的群岛。其中的小岛和环礁就是那些机器还无法完成，但人类却很容易做到的事情。这不仅包括软件开发等高科技职业，还包括一系列需要超凡灵巧性和社交技能的各种低科技职业，比如按摩师和演员。人工智能是否会在智力上迅速超越人类，最后只留给我们一些低科技含量的职业？我的一个朋友最近开玩笑说，人类最后的职业，或许会回归人类历史上的第一种职业：卖淫。后来，他把这个笑话讲给一个日本机器人学家听，这位机器人学家立刻反驳道：“才不是呢，机器人在这种事情上游刃有余！”
职业悲观主义者声称，终点是显而易见的：整个群岛都将被海水淹没，不会再有任何用人比用机器更便宜的工作存在。苏格兰裔美国籍经济学家格雷戈里·克拉克（Gregory Clark）指出，我们可以从我们的好朋友——马身上窥见未来的踪影。请想象一下，1900年，两匹马凝视着早期的汽车，思考着它们的未来。
“我很担心技术性失业。”
“嘶嘶，别做个卢德分子。在蒸汽机取代我们在工业中的地位、火车取代我们拉货车的工作时，我们的祖先也说过同样的话。但今天，我们的就业岗位不减反增，而且，这些岗位比过去更好，我宁愿拉一辆轻巧的四轮马车，也不愿整天原地打转，只为了驱动一台愚蠢的矿井抽水机。”
“但是，如果内燃机真的腾飞了呢？”
“我肯定，一定会有超出我们想象的新工作给我们来做。过去一直都是这样的，就像轮子和犁发明的时候一样。”
图3-6 2015年，美国1.49亿劳动人口的职业分布
注：这张饼形图表明了2015年美国1.49亿劳动者在从事什么职业。这里的职业按照美国劳工统计局的标准，按照普及程度，总共划分为535个种类[45]。所有超过100万人的职业都进行了标记。一直到第21位，才出现第一个由计算机技术延伸而来的新职业。这张图是根据费德里科·皮斯托诺（Federico Pistono）的分析而绘制的。[46]
呜呼！马儿的那些“超乎想象”的新工作从未降临。那些没有实用价值的马儿被屠杀殆尽，导致马匹数量骤减，从1915年的2 600万匹降低到1960年的300万匹[47]。既然机械式的“肌肉”让马匹成为无用之物，那么，机械“智能”是否会让同样的事降临到人类头上？
让人们的收入与工作脱节
有人说，在旧工作被自动化的同时，会涌现出更好的新工作；也有人说，人类最后都会失业。究竟谁对谁错？如果人工智能发展的势头持续增强，那么，双方都可能是正确的。只不过，一方说的是短期，另一方说的是长期。虽然人们在讨论职业的消逝时，总是带着一种凄惨和绝望的情绪，但实际上，这并不一定是一件坏事。卢德分子执迷于某一些特定的工种，而没有意识到，其他工作也可以带来同样的社会价值。同样地，当今社会，那些执迷于工作的人或许也太过于狭隘了。我们想要工作，是因为它们能给我们带来收入和目标，但是，如果机器能生产出丰富的资源，那么或许也存在其他方法，能在不需要工作的情况下，带给我们收入和目标。马的结局其实也有些类似，因为马并没有完全灭绝。相反，从1960年以来，马匹数量增长了三倍还多，因为它们被一个有点类似“马匹社会福利”的体系保护了起来。虽然马不能支付自己的账单，但人类决定照顾好它们，为了好玩、运动和比赛的目的而让它们留下来。我们是否可以用同样的方法来照顾好我们的同类呢？
让我们先来看看关于收入的问题。在持续变大的经济蛋糕中，只需要切下小小的一块进行重新分配，就能让每个人过上更好的生活。许多人认为，这不应仅仅停留在我们“能够”做的事上，而应该成为我们“应该”做的事。前文我曾提到过，摩西·瓦尔迪在一个研讨会上探讨了用人工智能技术拯救生命的伦理责任。正是在同一个会议上，我发表了自己的看法。我认为，让人工智能技术有益于人类，同样是一项伦理责任。这其中就包括分享财富。埃里克·布莱恩约弗森也出席了那次会议，他说：“在新一代财富阶层崛起的同时，如果我们不能避免一半人类的生活水平恶化，那将是我们的耻辱！”
那么，应该如何分享财富呢？人们提出了许多方法，每种方法都有许多支持者和反对者。最简单的方法叫作“基本收入”（basic income）。这种方法是指，每个月向每个人发放一笔收入，这笔收入是无条件的，对收款人也没有任何要求。对基本收入这种方法，人们已经在加拿大、芬兰和荷兰等地进行了一些小规模的实验，还有一些实验正在计划中。支持者声称，基本收入比其他方法（比如基于需求的福利性支出）更有效，因为它不需要由人来决定谁有资格和谁没资格领钱，这样一来，就消除了一些管理上的麻烦。有人曾批评说，基于需求的福利性支出会抑制人们工作的积极性。不过，在一个无人工作的未来世界，这条批评也就无关紧要了。
政府帮助公民的方法有很多，不仅可以直接给他们金钱，还可以向他们提供免费或有补助的服务，比如道路、桥梁、公园、公共交通、儿童保育、教育、医疗、养老院和互联网等。诚然，许多国家的政府现在已经在提供了许多这样的服务。与基本收入不同，这些政府投资服务旨在实现两个目标：一是降低人们的生活成本；二是提供就业机会。即便在未来，机器能在任何工作上都胜过人类，政府还是可以在儿童保育、照顾老人等事情上付钱雇用人类，而不是直接把看护工作外包给机器。
有趣的是，即便没有政府干预，技术的进步也能免费向人们提供许多有价值的产品和服务。比如，在过去，人们会花钱购买百科全书和地图册、寄信、打电话，而现在，只要你有互联网，就可以免费获得这些服务。此外，还有免费的视频会议、照片分享、社交媒体、在线课程等数不胜数的新服务。一些对人们来说价值连城的东西，比如救命的抗生素，如今都非常便宜。因此，多亏了科技，今天许多穷人才能够获得过去连世界首富都梦寐以求的东西。有些人认为，这意味着，过上体面生活所需的收入正在降低。
如果在未来的某一天，机器可以用最低的成本生产出今天所有的商品和服务，那么，我们显然已经有足够的社会财富来让所有人过上更好的生活。换句话说，即使是相对少量的税收也足以让政府负担得起基本收入和免费服务。然而，虽然这种财务分享的方法是可能的，但并不意味着它一定会发生。并且，在政界，人们在“应不应该采用这种财务分享的方法”这个问题上各执一词。正如我们之前看到的那样，美国目前似乎正朝着相反的趋势前进——几十年来，一些人越来越穷。如何分享日益增长的社会财富的政策会影响每个人的生活，因此，关于“应该构建哪种未来经济”的对话，应该让每个人参与进来，而不只是人工智能研究者、机器人学家和经济学家。
一些辩论者认为，降低收入上的不平等不仅在人工智能主导的未来是一个需要解决的问题，在今天也应受到重视。虽然主要的讨论集中在伦理问题上，但仍有证据表明，更高程度的平等能带来更好的民主。当社会有很多接受过良好教育的中产阶级时，选民更难被操纵；一小部分人或公司想通过买通政府来实现卑劣目标的企图也会更难达成。更好的民主还能促进经济发展，减少腐败现象，使经济变得更加高效，增长速度更快，最终让所有人受益。
让人们的目标与工作脱节
工作带给人们的不只是金钱。伏尔泰在1759年写道：“工作驱扫了人类的三种邪恶根源：无聊、不道德行为和贪婪。”同样地，给人们发放收入并不足以保证他们就能活得很好。罗马帝国为了让人民满意，不仅向他们提供面包，还建起了马戏团。有一位圣人曾强调过非物质需求的重要性：“人活着不只是为了吃饭。”那么，在金钱之外，工作还给我们带来了哪些有价值的东西呢？如果工作消失了，社会又将如何弥补？
这些问题的答案十分复杂，因为有人讨厌工作，也有人热爱工作。此外，许多孩子、学生和家庭主妇也没有工作，但他们照样生活得不亦乐乎。同时，历史上充满了各种被宠坏的王公贵族因无聊和抑郁而精神崩溃的故事。2012年，一项综合了多个研究的分析表明，失业会对幸福造成长期的负面影响，而退休则利弊兼有[48]。正在发展的积极心理学研究发现了一些能促进人们幸福感和目标感的因素，并发现一些工作能提供许多这样的因素，比如：[49]
◦ 朋友和同事的社交网络；
◦ 健康和善良的生活方式；
◦ 尊敬，自尊，自我效能，还要有一种叫作“心流”(36)的心理状态，也就是在做自己擅长的事情时获得的愉悦感；
◦ 被别人需要和与众不同的感觉；
◦ 当你感觉自己属于和服务于某些比个人更宏大的事物时，所获得的意义感。
这为职业乐观主义者提供了理由，因为所有这些因素都可以在工作之外获得，比如，通过运动和兴趣爱好获得，还可以通过与家人、朋友、团队、俱乐部、社区团体、同学、人道主义组织和其他组织相处而获得。因此，为了创造出一个繁荣昌盛而不是自我毁灭的低就业社会，我们必须搞明白，如何才能促进这些产生幸福感的活动的发展。这个问题的解决不仅需要科学家和经济学家的努力，还需要心理学家、社会学家和教育者的参与。只要我们认真对待为全人类创造幸福的项目（项目的部分资金可能来源于未来人工智能创造出来的财富），那么，社会肯定能变得前所未有的繁荣，至少应当让每个人都像获得了梦寐以求的工作那样快乐。只要你打破了“每个人的活动都必须创造收入”这个束缚，那未来就有无限的可能。
人类水平的智能
在这一章，我们已经讨论了，只要我们未雨绸缪，防患于未然，人工智能就可能在不远的未来极大地改善我们的生活水平。那么，从长期来看，人工智能的发展会如何呢？人工智能的进步会不会最终因为某些不可跨越的桎梏而停滞下来？人工智能研究者最终能否成功实现他们的最初目标，创造出人类水平的通用人工智能？在第2章，我们已经了解到，物理定律允许一团合宜的物质具备记忆、计算和学习的能力，也了解了物理定律并不阻止这些物质具备这些能力，并发展出比人脑更高的智能。我们人类能否成功建造出这种超人类水平的通用人工智能？如果能，何时能创造出来？这些问题正变得越来越模糊。从第1章的内容可知，我们还不知道答案，因为世界顶级人工智能专家都各执一词。大部分专家预计，这将会在几十年到100年内实现，还有一些人认为这永远不会发生。这很难预测，因为当你探索一片处女地时，你并不知道你和目的地之间隔着几座山峰，只能看见最近的那座山，只有当你爬上去，才看得见下一个横在面前的障碍物。
最先会发生什么事呢？即便我们知道如何用今天的计算机硬件制造出人类水平的通用人工智能，我们依然需要足够的硬件，来提供所需的计算能力。那么，如果以第2章中所说的FLOPS（浮点运算次数）(37)来衡量的话，人类大脑具备什么样的计算能力呢？这个问题既好玩又棘手，其答案极大程度上取决于我们如何问这个问题，比如：
◦ 问题1：要模拟大脑，需要多少次FLOPS？
◦ 问题2：人类智能需要多少次FLOPS？
◦ 问题3：人类大脑能执行多少次FLOPS？
关于问题1的答案，已经发表了许多相关的论文。它们给出的答案大概在100个每秒千万亿次FLOPS，也就是1017次FLOPS[50]。这差不多相当于2017年全世界运行最快的超级计算机——价值3亿美元的“神威·太湖之光超级计算机”（如图3-7所示）的计算能力。就算我们知道如何用神威·太湖之光超级计算机来模拟一个技术精湛的劳动者的大脑，但如果我们不能把租用它的成本降到该劳动者的时薪之下，就根本无法盈利。甚至于，我们可能会花费得更多，因为许多科学家相信，要精确复制大脑的智能，光有数学简化的神经网络（就像第2章所说的那种神经网络）是行不通的。或许，我们需要在单个分子甚至亚原子粒子的层面上进行模拟，如果是这样，那所需的FLOPS就要高得多。
图3-7 神威·太湖之光超级计算机
注：神威·太湖之光超级计算机是2017年全世界运行最快的超级计算机，它的计算能力可能已经超过了人类大脑。
问题3的答案更简单一些：我不擅长计算19位数的乘法，即使用纸笔来演算，也要花好几分钟的时间。这样一算，我的FLOPS低于0.01次，比问题1的答案少了19个数量级！造成这种巨大差距的原因是，大脑和超级计算机都被优化来完成极端困难的任务。在下面这两个问题上，我们可以看到同样的差距：
◦ 一台拖拉机如何才能完成F1赛车的工作？
◦ 一辆F1赛车如何才能完成一台拖拉机的工作？
如果我们想要预测人工智能的未来，需要回答哪一个问题呢？都不需要！如果我们想要模拟人类的大脑，就需要关心刚才提出的3个问题中的问题1；但是，要建造人类水平的通用人工智能，就应该重点关注问题2。人工智能的未来会是什么样的，没人知道它的答案，但是，无论我们是选用软件来适应今天的计算机，还是建造更像大脑的硬件(38)，都比模拟大脑便宜得多。
为了评估答案[51]，汉斯·莫拉维克对大脑和今天的计算机都能有效完成的一个计算任务进行了一个类比。这个任务就是：人类视网膜在将处理结果经视神经传输到大脑之前，在人眼球后部进行的某种低级图像处理任务。莫拉维克发现，想要在一台传统计算机上复制视网膜的这种计算任务，需要大约10亿次FLOPS，而整个大脑所需要的计算量大约是视网膜所需的1万倍（基于体积比和神经元的数量），因此，大脑所需要的计算能力大约为1013次FLOPS，差不多相当于2015年一台价值1 000美元的计算机经过优化以后可以达到的能力。
简而言之，没有人能保证我们在有生之年能建造出人类水平的通用人工智能，我们不清楚最后到底能不能建造出来，但也并没有无懈可击的理由说，我们永远无法建造出来。硬件能力不足或者价格太昂贵，都已不再是令人信服的理由。关于架构、算法和软件，我们不知道终点在哪里，但当前的进步是迅速的，并且，全球各地的天才人工智能研究者组成了一个正在迅猛发展的共同体。他们正在逐渐解决各种挑战。换句话说，我们不能对“通用人工智能最终会到达甚至超过人类水平”这种可能性视而不见，认为它绝不可能发生。下一章，就让我们来探索一下这种可能性吧，看看它会将我们引向何方！
本章要点
◦ 人工智能的短期进步可能会在许多方面极大地改善我们的生活，比如，让我们的个人生活、电力网络和金融市场更加有效，还能用无人驾驶汽车、手术机器人和人工智能诊断系统来挽救生命。
◦ 如果我们要允许人工智能来控制真实世界中的系统，就必须学着让人工智能变得更加稳健，让它听从命令，这非常重要。说到底，要做到这一点，就必须解决与验证、确认、安全和控制有关的一些棘手的技术问题。
◦ 人工智能控制的自动化武器系统也迫切需要提升人工智能的稳健性，因为这种系统的风险太高了。
◦ 许多顶级人工智能研究者和机器人学家都呼吁签署一份国际条约来限制某些自动化武器的使用，以避免出现失控的军备竞赛，因为这样的军备竞赛可能会带来人人唾手可得（只要你有钱，又别有用心）的暗杀机器。
◦ 如果我们能弄明白如何让机器人法官做到透明化和无偏见，人工智能就能让我们的法律系统更加公正高效。
