这意味着每一只数码体都应当得到某种尊重,幂级所无法给予的尊重。
安娜进行了最后的尝试。“这些数码体作为雇员仍然可以为你们盈利。你们可以……”
皮尔逊摇摇头,“我很理解你的努力,祝你好运,但这并不符合幂级的宗旨。如果这些数码体能成为产品,潜在的收益也许能抵过风险;但如果它们只能成为雇员,那就是另一种情形了。这么大的投入如果只能带来这么少的回报,我们可无法接受。”
当然不可能,她想。还有谁能接受呢?除了一个狂热的人,一个被爱驱使着的人,一个像她这样的人。
***
安娜正准备给德雷克发一条消息,告诉他和幂级的会面失败了,这时机器人的身体活过来了。“会面怎么样?”贾克斯问,但是他从她的表情里已经明白了问题的答案。“我的错吗?他们不喜欢我给他们看的东西?”
“不是,你做得好极了,贾克斯。他们就是不喜欢数码体;我以为我能改变他们的想法,但我错了。”
“值得一试。”贾克斯说。
“我想是的。”
“你还好吧?”
“我没事。”她向他保证。贾克斯拥抱了她,然后走回充电平台,返回数据地球。安娜独坐在桌前,盯着空空的屏幕,思索着用户组还剩下什么选择。在她看来,只剩一条路了:为多维体工作,并试图说服他们神经源引擎是值得移植的。她需要做的无非是戴上捷立亲贴片,加入他们工业化的育幼实验。
不管她对多维体有什么看法,起码这家公司理解实时互动的重要性,而幂级不懂。玄思数码体也许独处温室中就能心满意足,但如果想让它们成为有生产力的个体,这不是一条可行的捷径。必须有人花时间陪它们,而多维体对此一清二楚。
但她不喜欢多维体为了让人们花时间而采取的方法。蓝色伽马的战略是让数码体变得可爱,多维体采用的却是不可爱的数码体,然后用药物迫使人们喜欢它们。在她看来,显然蓝色伽马的方案才是正确的,不仅更合乎伦理,而且更有效。
事实上,考虑到她现在的处境,也许这个方法过于有效了:她正面临着一生中最大的一笔开支,而这笔开支正是为了她的数码体。当年的蓝色伽马里没有人能预料到这种情形,也许他们本该预料到的。没有羁绊的爱,正如同零一欲望想卖的东西一样,纯属空想。爱一个人就意味着为他作出牺牲。
而这正是安娜考虑为多维体工作的唯一原因。换了其他情况,她会觉得一份要求她使用捷立亲的工作是种侮辱;她和数码体共事的经验不比世界上任何人少,而多维体却在暗示,没有药物干预,她就不能成为一名高效的训练师。训练数码体正如训练动物一样,是一份工作,一个专业人士不需要爱上任何一项任务也能做好他的工作。
这一刻她也意识到了爱意在训练过程中所起的巨大作用,爱意在最需要耐心的时候产生耐心。安娜不屑于将这种爱意像产品一样制造出来的想法,但她必须承认现代神经医药学的研究成果。如果让她在训练玄思数码体的时候脑子里一直充满催产素,不管是否出自她的意愿,她对数码体的态度肯定会受到影响。
唯一的问题是,她是否能忍受这一事实。她相信,捷立亲贴片不会影响她照顾贾克斯,没有哪只玄思数码体能取代贾克斯的地位。如果为多维体工作是让神经源得到移植的最好办法,那她就愿意去做。
她只希望凯尔能理解这一切。她的态度一直很明确,贾克斯的幸福永远是第一位的,迄今为止凯尔还没抱怨过什么。她不希望两人的关系会因为这份工作而终结,但是她和贾克斯在一起的时间比任何一个男朋友都长。如果事情恶化到了不可兼得的地步,她知道自己会选择谁。
十
安娜发来一条消息,表明会面没取得什么成果。消息很短,但对德雷克而言意味着很多。他听到了她的语气,以前她讨论多维体的时候用过这种语调,因此他明白,她准备接受多维体的工作了。
这是安娜为移植神经源作出的最后努力,再也没有退路了。没人喜欢这种工作,但她已是成年人,权衡利弊之后作出了她的决定。如果她愿意这样做的话,他至少应该表示支持。
然而他不能。因为还有另一个选择:接受零一欲望的条件。
早些时候他与马可和波罗谈过之后,就私下联系了珍妮弗·蔡斯,问她如果数码体希望成为法人的话,会不会与零一欲望的预期产生矛盾。她回复说,零一欲望的用户买下数码体副本之后可以自由办理成为法人的手续。事实上,如果他们对数码体的感情能强烈到零一欲望所希望的程度的话,她认为很多人都会让数码体成为法人。对他而言这是正确的答复,但他内心里总有个念头,希望她给出错误的答复,让他能够心安理得地拒绝她的提议。现在,作决定的责任依然在他这里。
他考虑过安娜的论点:数码体自己没有能力决定是否接受零一欲望的提议,因为他们既没有爱情的经验,也没有工作的经验。如果把数码体想象成人类小孩的话,这个论点很有道理。但这也意味着只要他们还被困在数据地球里,只要他们的生活还像这样和外界隔绝,他们就永远没法成熟,永远不能作出这么重要的决定。
也许不应该把数码体的成熟标准定得像人类那样高,也许马可已经足以作出这类决定了。马可看起来很乐意把自己看作一只数码体,而非人类。有可能他还没有完全理解自己的决定有何后果,但德雷克总觉得,马可其实比他更理解自己的本性。马可和波罗并不是人类,也许把他们看作人类就是一种错误,是逼着他们符合他的预期,而不是让他们实现真正的自我。像对待人类一样对待他们,或者承认他们并非人类,哪一种行为算是更尊重他们呢?
换作其他场合,这可以成为一个纯理论问题,搁置到以后再讨论;但现在,这个问题直接牵涉到他此时此刻面临的抉择。如果他接受了零一欲望的提议,安娜就不必去多维体工作,因此问题变成了:谁去接受洗脑更好,马可还是安娜?
安娜懂得她接受这份工作的后果,比马可更懂。但安娜是一个人,不管他觉得马可多么让人惊异,他依然把安娜看得更重。如果两者之中必须有一个接受神经化学调整,他不希望是她。
于是,德雷克在屏幕上调出了零一欲望送来的合同,然后把穿着机器人身体的马可和波罗叫过来。
“准备签合同?”马可问。
“你要明白,如果你仅仅是想帮助别人的话,就不应该签。”德雷克说,“你要是签字的话,一定得是因为你自己想做。”接着他意识到,自己其实并不知道这是不是真的。
“你不必一直问我,”马可说,“我和之前的感觉一样,想做这个。”
“你呢,波罗?”
“是的,同意。”
数码体很愿意,甚至可以说是很急切;也许这样就足够下决心了。但他还有其他想法,纯粹自私的想法。
如果安娜接受了多维体的工作,她和凯尔之间就会产生一道裂痕,而他则可以从中获益。这个想法一点都不高尚,但他没法假装自己没想过这事。而如果他接受了零一欲望的提议,这道裂痕就会在他和安娜之间产生了。这会让两人走到一起的可能性彻底破灭。他能放得下吗?
也许他和安娜始终都不会有任何机会,也许这么多年来他只是在骗自己。如果是这样,他还不如彻底抛弃幻想,把自己从这渴望中解放出来,这种对永远不会发生的事情的渴望。
“你在等什么?”马可问。
“没什么。”德雷克回答。
在数码体的注视之下,他在零一欲望的合同书上签了字,然后发送给珍妮弗·蔡斯。
“我什么时候去零一欲望?”马可问。
“等对方也在合同上签了字,我们会给你照张相,”他说,“然后我们会把快照发送给他们。”
“好的。”马可说。数码体开始兴奋地讨论这意味着什么,而德雷克却在想该怎么和安娜讲。当然,他没法对她说,他做这一切是为了她好。如果她觉得他是牺牲了马可来让她获益的话,她肯定会内疚到极点的。这是他作出的决定,最好让安娜怪罪到他头上。
***
安娜和贾克斯在玩“震颤矢量”,这是安娜最近添加到数据地球里面的一个赛车游戏。他们驾驶着悬浮车穿越一片崎岖不平的陆地,地面起伏得像装鸡蛋的盒子一样。安娜设法在一处盆地里积攒了足够的速度,成功跳过了附近的一处山涧,但贾克斯没能做到。他的车子翻滚着跌进深渊,场面很是壮观。
“等我赶上。”他在对讲机里说。
“好的。”安娜回答,把悬浮车打到空挡。趁着等贾克斯驶上悬崖里之字形小径的工夫,她切到了另一个窗口,查看有没有新消息。结果她大吃一惊。
菲利克斯给整个用户组发了一则消息,兴高采烈地宣布开启一个倒计时,准备迎接人类与陌兽的第一次接触。起初她以为是自己误解了菲利克斯,因为他的用词向来很诡异,但用户组里其他几个人发来的消息证实了神经源的移植工作已经开始,是零一欲望出的钱。用户组里有人把他们的数码体当成性玩具卖掉了。
然后她看到一条消息说那个人是德雷克,他把马可卖掉了。她刚想发一条回复说这不可能,又停住了。她切换回数据地球的窗口。
“贾克斯,我要打个电话。你自己练习一会儿跳山涧行吗?”
“你会后悔的,”贾克斯说,“下场比赛我打败你。”
安娜把游戏切换到练习模式,这样贾克斯就可以反复练习跳跃,而不必每次失败都得从山谷底部爬上来。然后她打开视频电话窗口,呼叫德雷克。
“告诉我这不是真的。”她说,但一看到他的脸,她就明白了。
“我不是故意瞒你的。本来我准备给你打电话的,但是……”
安娜震惊得几乎说不出话了。“你为什么要这样?”德雷克犹豫了很久,她又接着说,“就是为了钱?”
“不!当然不是。我只是觉得,马可的观点有道理。他已经足够大了,可以自己作决定了。”
“我们讨论过这个问题。你当时同意,最好再等一段时间,让他有更多的经验。”
“我知道。但是后来我……我觉得自己过于谨慎了。”
“过于谨慎?”
他停了一会儿,“我意识到,是放手的时候了。”
“放手?”这个词听起来就好像在说保护马可和波罗不过是某种童年的幻想,而现在他们已经长大了。“我从没想过你是这么觉得的。”
“我以前也没有,但是现在不同了。”
“这么说你是不打算让马可和波罗有朝一日成为法人了?”
“不,我仍然是这么打算的。我只是不像过去那样……”他又犹豫了一会儿,“执迷了。”
“不那么执迷了。”安娜开始怀疑自己究竟了不了解德雷克,“这对你有好处,我想。”
他听到这句话时似乎有些受伤,但她不在乎。“对大家都有好处,”他说,“数码体可以进入真实空间了……”
“我知道,我知道。”
“我觉得这是为了大局着想,真的。”他说,但他自己似乎都不相信。
“这怎么能是为了大局呢?”她问。德雷克沉默不语,她直直地盯着他。
“我以后再和你谈。”安娜说着,关掉了电话窗口。一想到马可将会被别人利用的方式——而他自己都不知道自己在被利用——她就心痛不已。你永远不可能挽救每一只数码体,她提醒自己,但她从没想过连马可也会陷入危险之中。她猜想德雷克的想法也许和她一样,但他理解作出牺牲的必要性。
在数据地球的窗口里,她看到贾克斯开着悬浮车,乐呵呵地上坡下坡,就像小孩子在玩没轨道的过山车一样。她不想现在就告诉他和零一欲望的交易,他俩肯定会讨论这对马可意味着什么,而她现在没有精力去进行这种讨论。眼下她唯一想做的就是看着他,试着去想想神经源的移植。移植工作竟然真的起步了——真是难以想象,这种感觉太奇特了。她觉得这不算是宽慰,毕竟伴随着如此巨大的代价;但贾克斯的未来所面临的巨大障碍终于被移除了,这无疑是一件好事,而且她还不必去为多维体工作。到移植完成要等上好几个月,但既然已经能看到目的地了,时间会过得很快的。贾克斯将能够进入真实空间,再一次见到他的朋友,重新融入整个社交宇宙。
未来当然不可能一帆风顺,前方依然有无尽的障碍,但至少她和贾克斯有了克服障碍的可能。安娜让自己短暂地沉浸在幻想中,想象他俩成功之后将会是怎样的情形。
她想象着贾克斯随着年岁增长而逐渐成熟,在真实空间中,也在现实世界里。想象着他终于成为法人,找到一份工作,自食其力。想象着他参与数码体的亚文化圈子,形成一个有足够资金和技术的社群,有必要时能够自行移植到新平台上。想象着他为伴着数码体长大的那一代人类所接纳,那批人将把数码体看作情感上的可能伙伴,而她这一代人已经不可能做到了。想象着他爱着,被爱着,争吵着,妥协着。想象着他做出许多牺牲,有些很困难,有些则举重若轻,因为是为了他真心在乎的某个人。
几分钟过去了,安娜告诉自己不能再做白日梦了。没人能保证贾克斯一定能做到那些事情。但是为了让他有一天能得到机会去尝试这一切,她必须担负起眼前的责任:尽她一切努力,去教会他如何生活。
她启动了游戏的关闭进程,打开对讲机呼叫贾克斯。“游戏时间结束了,贾克斯,”她说,“该做功课了。”
[后记]
科幻小说中随处可见人造生物,就像从宙斯头部跳出的雅典娜一样,这些人造生物一出现就完全成形,但我不认为意识是这样工作的。依据我们人类经验,至少需要二十年的努力才能培养出一个有用之人,而培养一个有用的人造生物也不会比这更快。我想写的正是这二十年间可能会发生什么。同时,我也对人和人工智能之间的情感关系感兴趣,我说的情感关系不是指人类沉迷于性爱机器人。性爱并不能让关系真实,只有想维系关系的意愿才能做到这一点。有些情侣大吵过一次就分手;有些父母为孩子做的少到可怜;有些养宠物的人只要宠物们变得稍有点麻烦,就立马弃之不顾。在所有这些情况中,人们不愿意作出努力。而维系一段真正的关系,不管是与另一半、孩子,还是宠物,都需要你有意愿平衡自己与对方的需求。我看过有人在故事里讨论人工智能的合法权利,但聚焦在形而上哲学问题的同时,这些故事回避了真实生活。就好比电影里经常把爱情描述成宏伟的浪漫姿态,而长远看来,爱情也意味着解决金钱问题,以及收拾地板上的脏衣服。因此,界定人工智能的合法权利虽说是一件大事,但处理好人与人工智能的个人关系也同样重要。而且,即便我们不在乎它们是否拥有合法权利,作为有直觉的机器人,它们也需要得到尊重。你不应该虐待炸弹嗅探犬,不管它们是否拥有选举权。即使你只在意它们能否排查出炸弹,好好对待它们也符合你的基本利益。不管我们希望人工智能扮演什么角色,雇员、情侣或者宠物,它们在成长过程中被人爱护,都能让它们更好地扮演这一角色。最后,让我引用下莫莉·格罗斯的话,她曾经在一次演讲中分享过成为母亲对她作家生涯的影响。“养个孩子,”她说,“让你不得不认真思考一些让人头疼的问题:什么是爱?我们如何获得爱?为什么这个世界上存在罪恶、痛苦和失去?我们如何找到尊严与宽容?谁拥有权力?为什么?什么是解决矛盾的最佳途径?”如果我们想赋予一个人工智能大的责任,那么,我们需要为这些问题提供合理解答。要做到这一点,需要的不是把康德的所有书都植入人工智能的大脑,而是类似于父母对子女那种精心照料。
Ent译