完全自动化的考虑要素
2016年12月12日，特斯拉车主俱乐部（Tesla Motors Club）会员jmdavis在电动车论坛贴文，发表使用特斯拉的亲身体验。当他以时速60英里开上佛罗里达的高速公路去上班的时候，他的特斯拉仪表板显示前面有辆看不到的车，因为正前方的货车挡住他的视线。突然间，前方的卡车虽然没有减速，但他的紧急剎车启动。一秒钟后，卡车转上路肩，以免撞上前方因为路上有车子碎片骤然停下的汽车。特斯拉在前方的卡车剎车之前就决定剎车，让jmdavis的汽车有足够的距离停下来。他写道：
如果是手动开车，不太可能有办法及时剎车，因为我看不到那辆停下来的车。特斯拉早在前方的车子反应之前就做出反应，而这就产生撞车与急剎车的差别。特斯拉太强了，谢谢你救了我。1
特斯拉之前才更新软件，让Autopilot的自动驾驶功能得以利用雷达信息，更清楚车子前方的环境全貌。2虽然在自动驾驶模式时能发挥特斯拉的特点，但我们很容易想象当意外迫在眉睫时，汽车从人类手中接过主控权的状况。美国的汽车制造商已经与美国运输部达成协议，在2022年之前拟定汽车自动紧急剎车系统。3
通常AI与自动化的区别很模糊。自动化出现在机器承接完整工作的时候，而非只有在预测的时候。在写到这里的时候，驾驶汽车依然需要人类定期干预。我们要到什么时候才能期待完全自动化？
目前AI的外观包括执行「预测」这个要素的机器，其他要素则各自代表预测的一种互补品，会随着预测变得更便宜而更有价值。完全自动化是否有意义，取决于机器也执行其他要素的相对报酬。
人类与机器可以累积数据，无论是输入数据、训练数据，还是回馈数据，端看数据类型。人类最终必须做判断，但可以将判断写成程序，在预测之前设定在机器之中；或者机器可以透过回馈，学习预测人类的判断。因此我们可以采取行动，什么时候让机器负责而不是由人类执行比较好？更微妙的情况是，什么时候由机器处理预测会增加机器的报酬，而不必让人类也采取行动？我们必须判定机器执行其他要素（搜集数据、判断、行动）的报酬，才能决定一项工作是否应该完全自动化，或者可以完全自动化。
排除人类参与的可能
澳洲偏远的皮尔布拉（Pilbara）地区有大量铁矿。大部分的采矿场距离最近的大城伯斯（Perth）都超过1000英里。矿场所有员工都是搭飞机到现场，进行数周的密集轮班。因为他们的薪资都包括额外津贴，还要负担他们在现场的支出，所以采矿公司想趁他们在那里时尽可能利用他们也就不足为奇了。
矿业巨擘力拓集团（Rio Tinto）的大型铁矿场采用高度资本密集的经营方式，不管从成本与规模来看都是如此。它们从陨石撞击留下的巨大陨石坑开采铁矿，这样的工作很难复制。因此，主要的工作是用体积有两层楼房子大的货车拖拉，不但要从矿坑中往上拉，还要拉到附近用来运送铁矿的铁路，送往北方数英里外的港口。因此矿业公司的真正成本不在人，而是停工时间。
矿业公司当然想企图借着彻夜运转来达到最好的结果。不过，即使是最能适应轮班的人，夜晚也比较没有生产力。一开始，力拓解决人员调度的办法，有一部分是利用可在伯斯遥控的货车。4但在2016年，公司更进一步使用73辆可自动操作的自动驾驶货车。5这样的自动化帮力拓省下15％的营运成本。矿场的货车一天24小时运转，不需要上厕所的时间，而且白天温度高升到摄氏50度以上时，驾驶座也不需要空调。最后一点，没有司机，货车就不需要前座和后座，意思就是不需要回转，进一步在安全、空间、维修与速度上节省成本。
这种作法之所以可行，是藉由AI预测货车在路上会碰到的危险，协调货车进入矿坑。不需要人类驾驶在现场监督，或是远程监控货车的安全。而且周遭更少了人类制造的安全风险。尤有甚者，加拿大采矿业者正在研究引进AI驱动的机器人进入地底挖掘，而澳洲业者也在设法将矿场到港口的整个生产线自动化（包括挖掘机、推土机与火车）。
采矿业有很好的机会采取完全自动化作业，因为采矿的许多活动已经把人类排出在外。如今，人类接受指挥，执行关键工作。在AI出现最新进展之前，除了预测之外，每件事都可以自动化。预测机器代表着在许多相关工作中排除人类的最后一步。以前，人类可以观察周遭环境，并明确告诉设备要做什么。现在，AI从传感器取得信息，学习预测前进路线上的阻碍。因为预测机器可以预报路径是否畅通，矿业公司再也不需要人类做这样的事。
如果人类在一项工作中最后能做的是预测，那么一旦预测机器可以做跟人类一样的事，决策者就能将人类从工作中移除。不过，就像我们在后面看到的，很少有工作像采矿的例子那样明确清楚。就大多数的自动化决定来说，提供机器预测，不见得代表移除人类判断而以机器决策者取代的作法很划算，取消人类行动而以实体机器人取代的作法也是如此。
没时间思考或不需要思考
预测机器让特斯拉等自动驾驶车得以成真。但使用预测机器来触发自动化，颠覆人类控制汽车的作法是另外一回事。基本原理很容易理解：从预测到意外出现的当下，到做出必要反应的中间，人类没有思考或行动的时间（「没时间思考」）。相反地，写程序来设定汽车的反应就相对容易。在需要快速决定时，将控制权交给机器的效益很高。
当你使用预测机器时，做出的预测必定会传达给决策者。但如果预测可以直接引导出一个明显的行动方案（「不需要思考」），将人类判断留在决策圈的可能性就会减少。如果已经将判断写成程序，而且处理后续行动相对简单，那么将整个工作交到机器手中就很合理。
这就导致各式各样的创新。在2016年的里约奥运，一个全新的机器人摄影机借着追踪选手的动作，并在泳池底部移动，捕捉适当的镜头，来帮游泳选手录像。6以前操作者要从远程遥控摄影机，但必须先预测游泳选手的位置。如今预测机器能做到这些事。游泳录像只是个开始，研究人员目前正努力将这种自动化摄影机引进到更复杂的运动，例如篮球。7同样的，快速决定的需求与可写成程序的判断，正朝着完全自动化的方向推进。
预防事故与自动化的体育摄影机有什么共同点？在这两种情况中，对预测做出快速行动的反应都有高报酬，而且判断不是可以写成程序，就是可以预测。当由机器处理所有工作的报酬比过程中有人类加入的报酬还高的时候，就会出现自动化。
自动化也会出现在沟通成本很高的时候。就以太空探索来说，将机器人送上太空比送人类上太空容易多了。有几家公司正研究在月球开采珍贵矿藏的方法，不过他们必须克服许多技术难题。而这里我们关心的是，月球上的机器人如何确认方向与行动。无线电信号传送到月球再反射回来至少需要2秒钟，因此地球上的人类要操作月球上的机器人是个缓慢痛苦的过程。这样的机器人无法对新的状况迅速反应。如果有个沿着月球表面移动的机器人突然遇到悬崖，只要通讯稍有延迟，就代表地球上的指令可能会太晚到达。不过预测机器提供解决办法。有了良好的预测，月球上的机器人可以自动化的反应，不需要地球上的人类指引每个步骤。没有AI，这样的商业创举大概就不可能实现。
外部性
完全自动化的概念或许会引人联想到科幻小说里的常见主题：伤害人类。即使我们都能坦然接受机器完全自动化，法律却未必允许。艾萨克．艾西莫夫（Isaac Asimov）预想到管制机器人的问题，选择在机器人里内建三大法则，以巧妙的设计排除机器人伤害人类的可能性。8
同样的，现代哲学家常常提出看似抽象的道德两难。就以电车难题来说，想象你正站在转辙器旁，可以将一辆电车从一个轨道转移到另一个轨道。你发现电车行经的路线上有5个人，不过你可以将电车转到另一个轨道，但是那条路线上有1个人。你没有其他选项，也没有时间思考。你会怎么做？这个问题难倒许多人，而且他们通常只想逃避思考这个难题。不过，随着自动驾驶车的出现，这种情况可能就会发生。总要有人解决这个两难，将适当的反应设定在汽车的程序中。问题无法逃避，有人将决定谁生谁死，最有可能这样做的是法律。
目前，我们不是将自己的道德选择写成程序，加入自动化的机器，而是选择让人类留在决策圈。比方说，想象有个无人机武器可以完全自动化运作：自动识别、锁定目标，然后杀死敌人。就算陆军将领可以找到能区别平民与战士的预测机器，战士想出办法混淆预测机器要花多长的时间？要求的精准程度可能没那么快达到。因此在2012年，美国国防部在经过很多解释之后提出一项指令，不论是否决定要攻击，让人类保留在决策圈都是必要条件。9虽然不清楚这个条件是否一定要遵守，但无论出于什么原因，人类干预的要求都将限制预测机器的自动化，即使机器可以自己运作。10甚至特斯拉的Autopilot自动辅助驾驶软件尽管能够自己开车，也附带法律条款与条件，特斯拉还是规定驾驶的双手要时时放在方向盘上。
从经济学家的观点来看，这点是否合理取决于会造成潜在伤害的背景。举例来说，操作遥远矿区或厂房的自动驾驶车，与在公用道路上操作的自动驾驶车完全不同。「工厂内部」的环境与「公开道路」的差别在于经济学家称为「外部性」（externalities）的可能性，这是别人会感受到的成本，而不是关键决策者会感受到的成本。
经济学家对外部性的问题有各种解决办法。一个解决办法就是指定责任归属，让关键决策者将原本属于外部的成本内部化。比方说，在与气候变迁相关的外部性内部化的背景下，碳税就扮演这种角色。但是说到自动化机器，鉴别责任归属就复杂了。机器与组织外部的潜在伤害（当然也包括组织里人类的生理伤害）愈密切，愈需要谨慎，而且要按照法令要求，让人类维持在决策圈里。
人类的感受
问个问题：什么东西是橘色，而且英文字的发音听起来像鹦鹉（parrot）？
答案？胡萝卜（carrot）。
这个笑话好笑吗？还是下面这个问题比较好笑。小女孩问父亲：「爸爸？所有童话故事的开头都是『很久很久以前』吗？」爸爸回答：「不是，还有一系列的童话故事开头是：『如果我当选，我承诺……』」
好吧，经济学家的确不是说笑话的高手，但我们比机器擅长说笑话。研究人员麦可．尤曼（Mike Yeomans）与其他人发现，如果说起机器推荐的笑话，一般人会觉得不如人类喜欢的笑话好笑。研究人员发现，机器推荐的笑话还不错，但一般人宁可相信那些推荐来自人类。如果是机器推荐的笑话，但是读笑话的人却被告知是人类推荐的笑话，那他们会觉得很满意。
在艺术成就与体育竞赛也一样。艺术的力量通常衍生自顾客对艺术家人生历练的认识。观看体育活动的刺激有部分靠的是人类的竞争，即使机器可以跑得比人快，比赛的结果也没那么令人激动。
陪伴小孩玩耍、照顾老人，以及许多包含社交互动的行为，如果由人类来做或许也比较好。就算机器知道基于教育目的要提供小孩什么信息，但有时候由人类来传达信息或许最好。尽管随着时间经过，我们人类可能比较能够接受由机器人照顾我们和孩子，甚至会观赏机器人体育竞赛，但目前人类比较喜欢由人类进行这些活动。
当人类最适合采取行动时，这种决策就不会完全自动化。而在其他情况下，预测是自动化的重要局限。当预测够好，而且可以判断事先拟定的报酬时，无论是由人类把程序写死，或是机器透过观察人类来学习，决策都能够自动化。
本章重点
* 将AI导入一项工作，未必代表那个工作可以完全自动化。预测只是其中一个要件。许多时候，还是需要人类进行判断并采取行动。不过，有时候判断可以写死成程序，或者可以得到充分的案例让机器学会预测人类的判断。此外，机器也能采取行动。当机器执行工作的所有元素，那么这项工作就完全自动化，人类则完全被排除在决策圈之外。
* 极有可能最先达到完全自动化的工作，就是完全自动化可以带来最高报酬的工作。这些工作包括：
1. 除了预测之外，其他元素已经自动化的工作（例如采矿）；
2. 快速行动来响应预测会产生高报酬的工作（例如无人驾驶车）；以及
3. 减少等待预测的时间会产生高报酬的工作（例如太空探险）。
* 在城市的街道操作自动驾驶车与在矿场操作自动驾驶车有个重要区别，就是前者会产生显著的外部性，后者则没有。在城市的街道操作自动驾驶车可能引发意外事故，产生的成本是由决策者之外的人承担。相反的，在矿场操作自动驾驶车引发意外所产生的成本，只会影响矿场相关的资产或个人。
政府会立法管制产生外部性的活动，因此，对会产生重大外部性的应用来说，要将其完全自动化的潜在阻碍是法令。指定责任归属是经济学家解决这种问题、将外部性内部化的常用工具。我们预期在许多新领域需求增加的驱动下，明显会有一波制定指定责任归属的相关政策出现。
PART III
工具
