鹰隼机走后,森林幻影也一层层亮起来,就像有一支笔在不断涂抹着城市。一幢幢高楼再次藤蔓密布,变回了山丘,绿荫重染了街区,林间小道再现,万物回复从前。人们像被忽然宣布释放的死囚,此刻纷纷涌入街区激动相拥,喜极而泣之声就像之前死亡降临的哀号一样响彻全城。很多人张开双臂,仰天齐歌,仿佛多年前的祈雨的仪式。而山谷那一边,欢笑之声犹如风中的呢喃,轻微而持续,隐隐夹杂着蜂巢人的童声合唱,像是远古传说中的唱诗班,真是前所未有的景象。我紧紧搂着她,整个宜季的压抑、父亲死亡的痛苦,以及我们的自杀准备,在窗外忽然升起的歌声中化为一身战栗。而她安静靠着我,毫无表情地凝视着窗外的一切,并不因为这种忽至的巨变而感到兴奋,而是欠身到床头,拿起戒指,启动碎钻似的玻璃球。光影四射,色彩绚然,玻璃球果然已经通畅。
宕机的世界重新启动,三千隔都恢复了联系,那些键盘、语音、触屏等控制界面都像改邪归正的浪子,此刻有求必应,流畅得仿佛是在讨好人类。玻璃球的幻影里,死里逃生的人们掀起了狂欢的浪潮,聊天广场上人满为患,原来相互漠不关心的独居者此刻都在眉飞色舞地讲述各自城市里大同小异的遭遇,并且无不惊叹机器重启的惊险一刻。人们有意无意地避开了那些抑郁症患者和跳崖者,以及像我父亲那样的自杀者,仿佛在劫后余生的时刻,谈论他们是一件不合时宜的事。
到了下午,全球隔都事务局也大梦初醒似的开始重塑全球秩序。既然AI已经貌似正常,那么探讨机器失控的原因、如何避免再次发生,尤其是在此过程中如何避免伤及无辜,便成为最优先的议程。仅仅半天,全球隔都事务局便毫无悬念地决定,修订此前的“机器人三定律”,增加第四条,即“当人类全体或个体处于危险境地,机器应当不惜代价施以援救,包括牺牲自身的一部分或者全部”。修订后的机器人定律,将强制写入最底层的全球算法底层协议里,作为首要的、完整的、不可分割的、不可突破的最低标准。
这意味着,没有这个协议模块,机器根本无法启动。
但人们都知道,仅靠升级的协议模块并不足以确保执行,想要落实条款,需要厘清“人类”的定义边界。因为在此之前,“机器人三定律”本来就是《AI法典》的最高原则,但并未强制执行,三千隔都的执行力度也各不相同。原因在于究竟何为“人类”,其实是一个复杂的伦理问题,那些看上去显而易见的定义一旦深究,便会陷入诘辩的泥淖。直立行走的就是人类?那么坐轮椅的人呢?会说话的就是人类?那么聋哑人呢?会思考的就是人类?那么智障人士呢?有完整五官的就是人类?那么毁容者呢?如此不一而足。但这一次,全球隔都事务局决定统一“人类”的标准,而且强制执行,以摆脱这种长期争论不休的消耗,即只有在“沃森”数据库上登记在册的,才是受保护的人类,假如不在册,此人虽然可以照常使用包括玻璃球在内的机器,但在紧急状态下不受机器的保护,也无法避免机器的伤害。如此,机器一旦启动,便会首先接入“沃森”的注册数据库,甄别每一个具体的人,规范机器的每一个动作。
这一规定并不新鲜,以前也曾多次提议,但由于这一规定的强制性太强,相当多的隔都(包括我们这座高原城市)都拒绝执行,因为这需要将每个人所有的生理指标全部在“沃森”系统上登记,以证明此人就是此人。一方面,这显然不仅会侵害个人隐私,也可能让全球隔都事务局权力过大,具备成为一个独裁机构的潜质;而另一方面,世界万事普遍不确定,总有那么一些人是不愿意注册的,也总有那么一些人会忘记注册,因为没有注册而失去了作为人的资格,也不公平。但是一场机器乱局之后,这些意见几乎无须辩驳,便已默然无声——而在不久的将来,那些意见不同的人也会发现,这种担忧是多余的。因为所谓的隐私保护,或者对独裁者的担忧,都将很快变成一些历史名词,等在前方的是另一种未来,每个人都前所未见的未来。
至于如何定义“保护”,原先采用案例学习的方式,供AI自我判断、自我调整。但这种方式导致“保护”的定义过于灵活和不确定,著名的“电车困境”在气候灾难里反复出现,救孩子还是救老人,救一人还是救多人,这种问题令救援的机器备受困扰。全球隔都事务局里的人甚至怀疑,也许这就是此次机器乱局的根源。因此全球隔都事务局决定,机器应当依据自己的算法自行抉择,“保护”的定义不再基于具体的案例,而是纳入某种复杂的算法,人类只提出原则,绝不干涉实际行动,因为AI已经能够自我迭代底层代码,能够自我修订、改进、编写相关的算法。在机器包裹下的算法世界是一个极其精确而复杂的黑箱,人类不能像一头冲进瓷器店的疯牛那样,去毁坏那种完美流畅的秩序。每个人毫无疑问地理解并接受这一点,因为事故与改进之间有一种螺旋递进的关系。一百年前的沉船、车祸、飞机失事都是沿着同样的路径走来,人类不可能一蹴而就地实现安全,既然已经将“机器人三定律”升级为“机器人四定律”,且纳入最底层的协议,那么将具体行动托付给机器算法,是理智的选择。但是人们却没有意识到,其中蕴含的意义,无论在伦理上还是在现实中,都远远要比表面看上去的更深刻,也更隐蔽。从此以后,人类犹如一只懵然无知的昆虫,一头撞进蜘蛛的网络里,无知无畏地挣扎着,在那个复杂、精细、纤巧的世界里越陷越深。
一切恢复原状,却也并不完全是原来的模样。复苏后的机器系统就像一个负罪感深厚的仆役,几乎承担了人世间的一切辛劳,世界开始不可阻挡地奔向另一个极端。救济站毫不意外地关闭了,原来包罗万象、分工复杂、产业庞杂的世界现在全部锁进了算法控制的黑箱里,你看不到里面的一切,却坐享其成。你仿佛从此有了一个得心应手的厨子、一个体贴入微的保姆、一个无所不能的保健医生,无事不妥帖,无事不完美,甚至完美得令人生出一种无功受禄的歉意。而教师、投资经理、外科医生、按摩师、音乐家、会计师、审计师、律师、小说家、电影制作人、导演、歌手、计算机工程师,以及所有其他不可能消失的工作岗位,就像生物大灭绝似的一夜消失。失业和就业就像两个孪生兄弟,携手变成了两个历史词语。“失业墓碑”虽然依然矗立在全球隔都事务局的玻璃球站点,但红线已消逝,已是纯粹的墨色。
我和她总是站在窗前,看各种飞行器忙碌穿梭着。鹰隼机送来食物,大一些的青鸟飞行器送来日常必需品。它们出没在森林幻影的树梢间,出现在每个公寓的窗台上,就如空气和水一样存在着。没错,还是一日四餐,每一款菜肴都是精心准备的,既出于口味,也出于健康。而外衣、内裤、鞋袜、洗漱用品,机器就像母亲对待幼儿一样帮我们每日更新,各种式样,变化多端,仿佛能猜透我们的喜好——它当然能猜透我们的喜好,天量数据与超级算力已经使它比我们更了解我们自己。这个机器复苏的世界,没有人类的参与,也一样运转顺畅,所有的流程都由精确的数字替代了。虽然没有证据表明“埃达夫人原则”已经被突破,但这个世界确实不再有人类的位置,甚至我们曾经孜孜以求的金钱,现在也像数字风铃一样挂在虚拟世界里叮当作响,变成了最可笑的话题。人类已经被机器从工作流程中剔除出去了,每个人都退休了。于是,我很自然地想起了“失业日”那一天,我和面试官在尖顶咖啡厅里的谈话。他说,这个世界的一切体力和脑力的劳动都可以由机器完成,每个人都会过上坐享其成的生活。
“怎么可能?”我当时脱口而出。
“即使是这样,”我又说道,“攀比心理也是我们人类的本性,嫉妒、比较、争夺都不可能改变。即使在现实中与世无争的独居者,到了玻璃球上一样露出争强好胜的獠牙。”
“不,”面试官摇着头说,“到时候人类面临的很可能会是另一种问题。衣食无忧总是带来无所事事的空虚,而不是无忧无虑的幸福。”说完后,他微微一笑,露出刀刻的细痕,仿佛比任何人都更早地预见了未来。
自始至终,也没有人说得清机器乱局的事故如何发生,又是如何结束的,仿佛机器系统只是在那一刻骤然停止了跳动,然后用一连串混乱而绵长的杂音,积累了自我恢复的力量,就像太阳的东升西落,属于自然的力量。人们一开始在玻璃球里寻觅蛛丝马迹,但在开始之前就知道这方法不会奏效,因为算法与数据的复杂程度早已超越了人类搜寻证据的能力,“网络钩沉”这种探究历史真相的专业技术早在气候灾难之前就全部转移给了AI。一直以来,机器是人类的唯一信源,算法的结论是唯一的真相,而要求机器自查失控的原因,不啻要求罪犯调查自己的案件。这种悖论早在互联网兴盛之初,当我们借助搜索引擎来追寻某个事件因果之时,就已经有了肇因。所以,在这个讲究直觉、充满急智、缺乏哲学的时代里,人们便有了许多事后诸葛般的结论。一些人猜测机器系统就如人体构造一般复杂,这只是一次患病自愈的自然过程。一些人则将功劳归结为《AI法典》里的最高原则“机器人三定律”,它虽然未能普遍落实,却是机器不得不恪守的基本原则,最终成为机器复苏的动力。虽然这些结论都毫无证据,但时间一久,这些说法却被人们奉为不可置疑的真理。人们其实都愿意相信任何一种自己最初听到的说法,并在添油加醋中使之成为不可撼动的真理,甚至每个人都有自己的一种理论。譬如我们,虽然没有任何证据,但也可以将机器乱局的起因,归结为我们在西斯廷教堂发现了某种秘密——毕竟,是我们登上扶梯之后,虚拟世界才开始地动山摇的。