对于软件的偏见还可以扭曲社会决策和个人决策。谷歌在推销无人驾驶汽车时表示，虽然不能完全杜绝交通事故，但无人驾驶汽车的确能够大大减少事故发生。巴斯蒂安·特龙在2011年的演讲中说道：“你们可知道行车事故是造成年轻人死亡的头号原因？你们又是否意识到这些事故大多是人为疏忽，而不是机器错误，因此，这些死亡是否可以通过机器来避免？”特龙的话很有说服力。在管理危险活动方面，例如开车，社会长期以来都优先考虑安全性，每个人都肯定技术革命在减少事故和受伤风险中所扮演的角色。但即使这样，事情也不像特龙说的那样是非分明。目前来说，无人驾驶汽车避免事故和死亡的能力依旧是理论上的。就像我们看到的，机器与人为错误之间的关系很是复杂，很少以我们期待的那种方式呈现出来。而且社会的目标也永远不是一维的。甚至需要重新审视我们的安全需求。我们一直都知道，需要权衡法律和行为准则——安全和自由的权衡，保护自己和置自己于危险之中的权衡。我们允许、有时甚至鼓励人们进行带有危险性的嗜好、运动和其他追求。我们知道，充实的人生并不是完全孤立的人生。即使在设定高速公路的速度限制的时候，我们也在权衡安全和其他目的。
这样的权衡很难，而且通常在政治上具有争议，它们塑造了我们生活的社会。问题是，我们是否愿意将选择的权利转交给软件公司？当我们将自动化视作弥补人为疏忽的灵丹妙药的时候，我们排除了其他的选项。匆忙投向无人驾驶汽车的怀抱也许不仅仅会剥夺个人自由和责任，还会妨碍我们去探索降低交通事故发生概率的其他方式，例如加强驾驶员教育或是推广公共交通。硅谷对高速公路安全的担忧虽然坦诚，但也是有选择性的，这一点值得我们注意。近年来，因使用移动电话和智能手机而分心已成为造成车祸的一大原因。美国国家安全委员会的一项分析指出，在2012年美国公路上发生的车祸事故中，有1/4都是因为使用手机造成的。谷歌以及其他顶尖科技公司几乎没有做出任何努力来开发一款意在阻止人们在开车的时候使用手机接听电话、收发短信，或是使用应用程序的软件，而这绝对比建造一辆可以自动驾驶的汽车有意义得多。谷歌甚至派它的说客前往州政府，以图阻止通过禁止员工佩戴谷歌眼镜以及其他分散注意力的眼部佩戴设备的法案。电脑公司可以为社会做出重要贡献，我们对此应该表示欢迎，但是我们不应该把这些公司的利益与我们的自身利益混淆起来。
代码背后的商业动机
如果你不理解软件编写人员的商业、政治、智力和道德动机，也不了解数据自动处理所固有的局限性，那么你很容易就会被技术操控。正如拉图尔所说，我们冒险用他人的意念替换自己的想法，却没有意识到其实这种交换已经发生了。我们越是让自己向技术靠拢，冒的风险就越大。
我们不在意室内管道，总是忽略它们的存在，是因为我们已经习惯了。虽然我们无法修好漏水的水龙头或是罢工的马桶，但我们明白为什么会有这些管道以及它们的功能。同理，我们对大多数技术视而不见正是因为它们太普遍了。它们的运作方式以及背后的假设和利益都非常明显，或者至少是人们可以察觉到的。技术可能带来意想不到的效果——室内管道改变了人们对卫生和隐私的观点，但是它们并没有什么隐藏的动机。
但是，要是让信息技术隐形可就是另外一回事了。虽然我们意识到，信息技术存在于生活中，但是对我们来说，计算机系统还是非常艰涩难懂的。在许多情况下，软件代码作为商业机密被保护起来，我们无法窥见。即使我们能看到代码，也很少有人能明白其中的含义。我们不懂代码语言。而流入算法的数据也被隐藏起来了，它们通常存储在远端的守卫森严的数据中心里。我们不知道如何收集数据，不知道收集数据的目的，也不知道谁能够访问这些数据。现在，软件和数据不再存储在个人硬盘里，而是通过云存储的方式被集中起来，我们甚至无法确定计算机系统的工作原理在什么时候发生了变化。大众化的程序每时每刻都在进行升级改版，而我们却没有意识到。昨天使用的应用程序，可能今天就变了样。
现代世界一直都非常复杂。它被分割成一个个技术和知识的专有领域，经济系统和其他体系交错，现代世界拒绝人们进行任何尝试去了解它的全貌。而现在，这种复杂程度比以往任何时候都要强，连“复杂”本身都藏了起来。在精心设计的简洁的屏幕后面，在用户友好的界面背后，它悄悄掀起了面纱。用政治学家兰登·温纳的话来说，我们被“隐匿的电子复杂性”包围了。人们之间的“关系和联系”曾经是“人类世界的一部分”，表现为人与人、人与物的直接互动，现在却“被抽象掩盖了”。当那种神秘的技术被隐藏起来，我们最好应该提高警惕。在这一点上，技术的种种假设和意图已经渗透到人类自身的愿望和行为中。我们再也无法分辨软件是在帮助我们还是在控制我们。我们握着方向盘，却分不清是谁在驾驶。
[1] TEP指technology（科技）、entertainment（娱乐）、design（设计）的英文缩写，是美国一家私有非营利机构，该机构以它组织的TED会议著称，会议宗旨是“值得传播的创意”。——编者注
[2] Pebble是由硅谷创业公司Pebble Technology公司设计的一款兼容iPhone和Android（安卓智能操作系统）手机的智能手表，用户可以直接通过Pebble手表查看设备中的短信。——编者注
