预测人类的判断
Google子公司Waymo之类的公司已经成功测试在两点间自动载客的方法，但那只是创造自动驾驶车的一部分。驾驶也会对车里的乘客产生影响，这就比较难观察了。不过人类驾驶会考虑到车上的其他人，新手驾驶学到的第一件事，就是踩剎车时，要让车上的其他人觉得舒服。Waymo的汽车必须学会避免突然煞车，要让车和缓地停下来。
开车牵涉到数千种相关的决定。1要人类将处理每种可能状况的判断方法都写成程序并不切实际。因此，我们训练自动驾驶系统的方法是提供许多例子，让它们学习预测人类的判断：「人类在这种情况下会怎样做？」开车并不是独特的例子。在人类需要反复做决定，而且可以搜集到人类接收的数据，并因此做出决定的环境，都有可能借着奖励预测机器去预测「人类会怎样做？」，来让这些决定自动化。
至少对人类来说，根本的问题在于AI能否将其预测的能力转变成人类的判断，并在过程中彻底避开人类的参与。
预测人类会怎么做
许多决策很复杂，而且根据的判断并不容易写成程序。不过，这并不保证人类还是这些决策的核心。就像自动驾驶车，机器或许会藉由观察许多例子而学会预测人类的判断。所以预测问题就变成：「在输入数据的条件下，人类会怎样做？」
Grammarly公司提供一个例子。艾利克斯．斯夫琴科（Alex Shevchenko）与马克斯．利特温（Max Lytvyn）在2009年创办Grammarly，率先使用机器学习来改善正式书面文字的写作。主要重点在于改善句子的文法与拼字。比方说，把It’s main focus is on improving grammer and spelling in sentences放进Grammarly，程序就会告诉你It’s应该是Its，而grammer拼错了（应该是grammar），它还会告诉你main这个词是多余的。
Grammarly能够藉由检视纯熟编辑校正过的文件数据库，并从用户接受或拒绝建议来学习，做到这些校正。在这两种情况下，Grammarly都是预测人类编辑会怎样做。这是超出文法规则的机器应用，同时评估偏离完美文法是否会受到人类读者青睐。
人类可以训练AI的想法能够扩大到各式各样的情况。将预订旅程的过程自动化的新创公司Lola，核心的AI是从找出好的旅馆选项开始。不过就像《纽约时报》（New York Times）的报导：
举例来说，它的专业知识就比不上有着多年预订迪斯尼乐园家庭度假经验的旅行社。人类可以更灵活，比方说，如果知道顾客希望和孩子在仙多拉城堡（Cinderella Castle）前拍一张没有其他人的照片，就会建议他们应该预订园区里的早餐，赶在开门前拍照。2
这个例子显示，机器在可描述的情况下（例如可得到的东西与价格）比较容易去判断，但无法理解更细腻的人类偏好。不过，Lola可以学会预测有丰富经验与想法的人会怎样做。Lola的问题在于：预测机器需要观察多少预订奥兰多迪斯尼乐园假期的人，才能得到足够的回馈，学习其他相关的判断标准？Lola发现，虽然它的AI在一些判断标准上面临挑战，但是能够发现旅行社做过、但无法事先描述的决定，例如喜欢现代旅馆还是街角的旅馆。
人类训练师帮助AI变得够好，让工作的许多层面逐渐不再需要人类。当AI正在对错误容忍度非常低的流程进行自动化时，这点尤其重要。久而久之，AI会从错误中学习，直到不需要人类的修正。
另一个例子是新创公司X.ai，它专注在提供一个助理，协助安排会议，并将会议填入行事历。3它透过寄送电子邮件给数字个人助理（「艾咪」（Amy）或「安德鲁」（Andrew），看你喜欢哪个名字），跟使用者与想要会面的人互动。比方说，你可以寄一封电子邮件给安德鲁，安排你和H先生下周四的会议。之后X.ai会进入你的行事历，并寄送电子邮件给H先生安排会面。H先生说不定并不知道安德鲁不是人类。重点是，你免去和H先生或他的助理（最理想的情况是另一个艾咪或安德鲁）沟通的工作。
很显然，如果时间安排出错，或是自动化助理引起潜在受邀者反感，或许就大事不妙了。几年来，X.ai雇用人类训练师，检讨AI反应的准确性，并加以确认。每次训练师做了一个改变，AI就会学到更好的反应。4人类训练师的角色不单只是保证应对有礼，还要应付人类企图诱使助理犯错的恶劣行为。5在写到这里的时候，有关这种预测人类判断方法的自动化能够到什么程度，还是一个不确定的问题。
人类会被排除在外吗？
如果机器能够学会预测人类行为，会彻底将人类排除在外吗？按照预测机器目前的发展，我们认为不会。人类是一种资源，因此简单的经济学显示，人类还是能做些事情。问题比较多的地方在于「那些事情」对人类的价值高低、吸不吸引人。在你的组织里，人类应该做什么？你要寻找怎样的新员工？
预测仰赖数据，这代表人类跟机器相比有两项优势。我们知道一些机器（还）不知道的事，而且更重要的是，我们更善于在没有太多数据时做决策。
人类拥有三种机器没有的数据。第一，人类的感官强大。在许多方面，人类的眼、耳、鼻、皮肤依然胜过机器的性能。第二，人类是自己喜好的最终裁决者。消费者数据极为珍贵，因为这提供预测机器与个人喜好有关的数据。杂货店提供折扣给使用会员卡的消费者，以便取得他们的行为数据；商店付钱给透露喜好的消费者；Google、脸书，以及其他业者提供免费服务，换取可在其他背景进行定向广告的数据。第三，隐私疑虑会限制机器能够取得的数据。只要有足够的人没有表现出自己的性生活、财务状况、心理健康状态与可能让人反感的想法，预测机器就没有充足的数据去预测多种类型的行为。缺乏好的数据，我们对其他人类的了解就使我们的判断技能有一席之地，那是机器无法学会预测的。
以少量数据预测
预测机器可能也会因为一些罕见的事件而缺乏数据。如果机器无法观察到足够的人类决策，就无法预测在这些决策下的判断。
我们在第六章讨论过「已知的未知」，那是由于缺乏数据而难以预测的罕见事件，包括总统大选与地震。在一些情况下，人类擅长以少量数据进行预测，例如我们能辨识人脸，即使对方年纪渐长。我们也讨论到，根据定义，「未知的未知」如何难以预测或因应。如果人类从来没有面临类似的情境，AI就无法预测人类会怎样做。因此AI无法预测一家公司面临新科技时的策略决定，例如面对网络、生物工程，甚至是AI本身会做出什么决策。人类可以用模拟，或是从不同的背景中看出有用的相似之处。
最后，预测机器或许会变得更善于模拟。不过，我们的重点是，预测机器不擅于预测罕见事件的情况依然不变。在可预见的未来，当不寻常的状况出现时，人类的预测与判断仍有其作用。
我们在第六章还特别强调「未知的已知」。举例来说，我们讨论到，即使未来你在管理AI方面取得惊人的成功，是否决定将这本书推荐给朋友的难题。困难在于你缺少自己没看过这本书会发生什么事的数据。如果想了解因果关系，你就必须观察在违反现实情况下可能发生的事。
对于这个问题，人类可以提供两大解决办法：实验及建立模型（modeling）。如果情况出现得更频繁，你可以进行随机的对照试验。指定一些人为实验组（强迫他们阅读这本书，或至少给他们书，也许之后会进行小考），其他人则是控制组（强迫他们不读这本书，或至少不跟他们宣传有这本书）。接着等待，搜集一些他们在工作中应用AI的衡量标准。比较两组人，实验组与控制组的差异就是读这本书的影响。
这种实验效果非常好。没有实验，新的医疗方式不会获得许可。从Google到第一资本（Capital One）等以数据为主的公司，都用实验促成许多决策。机器也可以进行实验。只要状况出现得够多，实验的能力并非人类仅有。机器跟人类一样可以进行实验，并学会预测因果关系。这一直是目前机器在各种电玩游戏中得以超越人类的一个关键。
而相对于实验，建立模型需要对由观察数据产生的状况与过程有深度了解。在状况出现得不够多、或实验的成本太高的时候，这种方法尤其有用。
前一章提到的网络求职平台ZipRecruiter决定找出最理想的价格，这包含两个部分。第一，必须找出「最理想」代表什么意义，是短期营收，还是更长期的某些东西？是要有更多求职者与广告主，还是更高的价格？第二，必须选出具体的价格。要解决第二个问题，就要进行实验。于是人类专家设计出实验，但原则上随着AI的进步，有了足够的广告主及充分的时间，这种实验可以自动化。
不过，决定什么「最理想」比较难自动化。由于求职者的数量取决于职缺广告的数量，反之亦然，整个市场只有一种观察。只要有出错，ZipRecruiter就可能会倒闭，再也没有第二次机会。因此，它为自己的事业建立模型，探讨将短期获利达到最大的结果，并对照较长期的获利达到最大的其他模型。如果没有数据，建立模型的结果与报酬函数工程仍然只有人类可以做，只不过这需要高度的技巧。
建立模型也有助于第二次世界大战同盟国的轰炸袭击。工程师发现他们可以更有效地防御轰炸机，尤其是可以在不牺牲效能下，增加飞机的承载量。问题是到底要保护飞机的什么地方？进行实验是可行的做法，但是成本很高，而且飞行员可能会丧命。
每架到德国上空执行轰炸攻击的轰炸机返航后，工程师都能看到哪些地方遭到防空炮火攻击，机身上的弹孔就是他们的数据。但这些就是明显要加强保护的地方吗？
他们请统计学家亚伯拉罕．渥尔德（Abraham Wald）评估这个问题。经过一番思考与相当周密的计算后，他告诉他们要保护没有弹孔的地方。他搞错了吧？这似乎违反直觉。他的意思该不会是要保护飞机上有弹孔的区域吧？不是。他有个产生数据的流程模型，他发现有些轰炸机进行攻击之后没有回来，推测那些轰炸机被打到致命的地方。相反地，返航的轰炸机被打中的地方并不会致命。根据这个独到见解，空军的工程师在没有弹孔的地方增加防御，飞机果然得到更好的保护。6
渥尔德对缺失数据的洞见，必须先了解数据从哪里来；由于这个问题以前没有出现过，工程师没有前例可以参考。就可预见的未来来看，这类计算超出预测机器的能力。
这个问题难以解决。解决办法来自人类，而非预测机器。不过，渥尔德是历史上优秀的统计学家，他深刻了解统计学的计算，而且心思灵活，能够了解产生数据的过程。
人类可以透过训练来学会这种建立模型的技巧，这是大多数经济学博士课程的核心重点，也是许多学校企管硕士的部分课程（包括我们在多伦多大学开的课）。在与预测机器合作时，这种技巧很重要，不然很容易会掉进已知的未知陷阱。你可能以为预测告诉你该怎样做，但它们可能带你误入歧途，混淆了因果关系。
就像渥尔德对产生弹孔数据的流程有个好模型，好的人类行为模型有助于在人类决策产生数据时做出更好的预测。就可预见的未来来看，人类有必要协助开发这种模型，并找出相关的行为预测变量。预测机器很难在没有数据的情况下做出推断，因为行为可能会改变。它需要了解人类。7
类似的议题会出现在许多涉及「如果我这样做会发生什么事？」的决策，而且这是之前没做过的事。应该在产品在线增加新产品吗？应该和竞争对手合并吗？应该收购一家创新的新创公司，还是通路伙伴？8如果大家在改变之后有不同的行为，那么过去的行为就不是未来行为的有用指南，预测机器就没有相关数据。就罕见事件来说，预测机器的用途有限。因此，罕见事件对机器预测人类判断的能力设下重大限制。
本章重点
* 机器或许能学会预测人类的判断，一个例子就是开车。要人类将处理每种可能状况的判断方法都写成程序并不切实际。因此，我们训练自动驾驶系统的方法是提供许多例子，而且预测人类判断这些例子会带来的报酬，询问：「人类在这种情况下会怎样做？」
* 机器预测人类判断的能力有限，这种局限与缺乏数据有关。有些数据是人类才有而机器没有的，例如个人喜好。这类数据很有价值，而企业目前是透过提供折扣给使用会员卡的会员，以及像Google及脸书等提供自由网服务的方式花钱取得。
* 机器不善于预测罕见事件。经理人可能会在过去没有并购、创新与合伙等数据下做出类似的决策。在这种不常见的情况下，人类可以利用模拟和建立模型来做决定。如果是过去不曾多次发生的情况，机器就无法预测人类的判断。
