我先搜到了那个时间点——我在大禹的引导下去救两个孩子的那一天——在红色暴雨预警发出之后,泽城有六十五万人次使用了大禹逃生,其中三十九万人次到达目的地。
但这不能证明什么——这些没能到达目的地的人,是因为不信任大禹,所以没有按照它的指示逃生?或是有意外,像那辆商务车一般被广告牌砸中?
我抽取了几条记录,都没有什么说服力。我又在搜索框里输入了另一个日期——我们从泽城搬家去岩城的那一天。定位到正确的地点之后,我找到了大禹发出的泥石流预警。当时,住在我们那组“完整建筑”里的三百多户居民中,有一百多户人收到了预警。而没有收到的人家,多是高龄人群。可这也不能证明大禹是“故意”忽略他们的,说不定,是老人们没有订阅这项服务。
雨就要来了。我飞快地点开一个个文件——恐怕没有时间继续调取数据进行统计,只能寄希望于费博易曾分析过这个问题。
他会把信息藏在哪里呢?
我找到标注为“商务”的文件夹,里面有一个文档,是“过往业绩”,罗列的数据却让我大失所望。费博易只统计了宏观数字——YU相对于GUN的逃生效率提高了百分之五十七,经济损失降低了百分之三十五—但这些数字并不能回答丹朱的问题:对于身处灾难之中的个体而言,大禹提供的逃生方案,真的公平吗?
我起身走了几步——换个思路,如果它真的对人的“价值”进行了评判,那么目的是什么?
抬起头,我看见一张纸,上面是我二十多年前的手写字——堵车。于是我想起来,当年甲方之所以会在城市安全大脑项目里,要求我们抛弃GUN系统,启动YU的设计,是因为“洪季”前发生的全城大堵车——所有的人都想尽快上高架路,结果就是谁都走不了,反而会导致惨烈的死伤。媒体报道里有一个著名的故事,是淹死在高架桥下的一家三口,他们出发的地点距离高架入口仅仅四公里,最后却用了三个小时都没能上去。
在“堵车”两个字旁边,是“疏通”二字,我几乎可以想起费博易当时的话:“其实,GUN计算的逃生路线基本正确,只要我们能有效疏通人流和车流,效果就会好得多。”
难道是为了让道路保持通畅?我走出保密机房,接上网络,视域里立刻弹出一条警示信息。
“大禹?”我呼唤它。
“您好,涂山娇女士。”在强调紧迫感的时候,大禹会提高语速。走廊尽头有一扇窗开着,风卷着泥土的气息呼啸着穿过走廊。“怎么了?”我问。
“在您视线范围之外有山洪,很快就会袭击您所在的地点。我建议您乘坐电梯下楼,我已经让它停在二十层了。”
我走进楼梯间——“大禹,你怎么评价在你的帮助下没能逃生的人?”
“我深表歉意,但我希望您能对我保持信任。”它说,“您要乘坐电梯才能赶上,水马上就要漫到停车场了。”
我的腿疼得更厉害了,只好走得慢了一些。当我到达七层时,距离大禹说的三分钟已经过了一阵子。我推开楼门,细密的雨连成银色的线,在黑色树影底图上绘制寒光。这雨要形成洪水,还需要一段时间。
“太慢了。我建议您现在返回楼上。”大禹说。我回答说:“我要去停车场。”
“不,已经来不及了。”它说,“请回到楼里去,向上走,那里更安全。”
我可不想整个“洪季”都被困在这里。我踏上地面,雨点变重了,接着轰然砸下,把树林惊扰得喧嚣起来。大禹试图让我回头,但我顶着风雨摸索到了停车场,地面没有积水。“你的计算不太准,大禹。”我说。
“我正在对数据进行校正,女士。”
我检查了外置气囊,拖着腿坐到车里。前窗那道Y形虹光闪过时,我仿佛回到了很多年前。大禹说道:“我不建议您开车上高架。从南出口出去,只需要绕一点儿路,就可以确保安全。”
它为什么一直让我绕路?我看向它给我的导航路线,循环扭曲仿佛中国结,然后我忽然想到一个点子。我用管理员权限修改了自己的账户,切换到丹朱的,让大禹以为坐在这车里的人是她。然后我对大禹说:“目的地是‘家',找最快的路。”
“当然,”大禹的语气竟然松弛下来,不紧不慢地说,“我们现在有充足的时间,最快的路线是走高架。”
“安全到达的可能性是?”“百分之百,女士。”
9
我走进家门,天色已经全暗下来,窗口有一个人影背对着我。“洪季”家里多一个人并不奇怪,我打开灯,刚要告诉对方这楼里还有许多空房间。她转过身来,是丹朱。
商均的葬礼之后,我就再没有见过她了。丹朱依然很瘦,肤色晒得黝黑,眼角额间已经有了皱纹,更显得目光锐利。
“什么时候回来的?”我去给她倒了一杯水。
“我来泽城出差。上午给姐姐电话的时候,我已经在路上了。”她接过杯子,但并没有要坐下的意思,依旧站在我面前,“姐姐已经去城里确认了吗?行动力真是太强了。”
“你知道我进城了?”我并不喜欢自己的一言一行都被她监视,“看来,你不需要我给你答案,你已经有答案了。”
丹朱说:“对。为了实现‘有效逃生',大禹会对人进行筛选。”“有效逃生?”
“大禹做的方案里,经常用这个词,涂山姐姐不知道吗?”她反问我。
“我的专业不是人工智能,大禹的设计我没参与太多。”我说,“它是怎么对人进行评价的?通过年龄吗“
只切换丹朱的账号去测试大禹是不够的,我也尝试了阿启的账号,安全到达目的地的可能性同样是百分之百。但再换成另外几位与我同龄的友人,数据却会大幅下降。五十多岁就被它判定为“高龄”,我心中也有些不服气。
“没有那么简单。如果只从结果来看,居民的生存概率确实与年龄相关,但大禹的‘筛选’其实是基于大数据的判断。它会让那些在后续的其他灾难中有更高概率生存下来的人,优先使用逃生路径。”
我想起曾经和费博易的争吵。他完全不能理解城市规划中的“均好性”和“底线性”概念,“我不想听那些模糊的观点,我们的目标就是提升整体的逃生效率,我只要可以量化的数据:降低伤亡,降低经济损失——所以,当然会有一些人享有优先权。”
我对丹朱说:“这也合理。”
丹朱说道:“这对很多人都不公平。”
当时我是怎么质问费博易的?“谁?谁有优先权?谁能决定哪些人有优先权?”
答案一直都很清晰——是那些年轻人,是那些可以追上YU计算的逃生方案的人,是那些“更有价值”的人。我很想知道,最后身体孱弱的费博易,是否也面对过大禹的“筛选”?
我问丹朱:“它是通过什么来筛选的?”
“我们还不清楚,那是它的算法黑箱。说不定它会把浏览‘华夏’网站,都作为依据之一呢。”丹朱笑了笑,“在东海城,我们已经暂停了大禹的运行,而泽城的居民正在往城郊撤离。我更好奇你的决定, 涂山姐姐,你会关闭大禹吗?”
不论是关闭大禹,或是找一些专业人员来优化它的算法,都对应着“责任”。所有人都能获救当然是最好的选择,但如果逃生道路的通行量有限,怎么做才是更好的选项呢?
——谁又能去定义“更好”呢?
我反问她:“如果我现在关闭大禹,能减少死伤吗?”——没有大禹,就是公平吗?
“我不知道。”她说,“不过现在,选择权在你手中。你已经到家了,其他人还在路上,你要改变他们的命运吗?”
10
请确认是否要关闭程序。”
费博易的设计令人迷惑,查询记录要在现场,而关闭大禹却可以远程操作。坐到车里用管理员账号登录后,我很快找到了那个页面。
丹朱还有公务,接了个电话就离开了。和当年那个沉默哭泣的孩子不同,现在,她会把难题抛给我。
我把车开出楼栋,开进雨里,远山在车窗上抹出淡青的轮廓,直到交通灯的红光笼罩了前路。
我停下来。真的还要继续前行吗——选择总有代价,倘若这代价是弱者,我是否可以牺牲他们,去实现宏观意义上的目标?
我的视线停留在“确认”按键上——真的要关闭大禹吗?如果我们失去人工智能,失去东海城,失去“华夏”网站上那些希望的种子,人就必须承认自己仅仅是人,独自站在天地之间,用渺小的姿态去面对最大的恐怖。
灯光跳转为绿色。我退出大禹的管理员账号,转向辅路,视域里的Y形虹光随之熄灭。
夜色已深,雷电在山巅翻滚,但尚未到来。
*本文最初是与美国亚利桑那州立大学科学和想象力中心合作,为气候想象力课题而创作的,英文电子版发表于the Climate Action Almanac(《气候行动年鉴》)。