饭饭TXT > 海外名作 > 《告别(出书版)》作者:[韩]金英夏【完结】 > 《告别》作者:[韩]金英夏.txt

第 4 页

作者:韩-金英夏 当前章节:15023 字 更新时间:2026-6-22 12:11

「虽然说还需要做更进一步检测,但我感觉你是以特别的目的製造出来的机器人。」

我坚称自己是人类,达摩不相信。它说这不可能,但如果我愿意的话,可以帮我确认我是不是人类的精子与卵子受精后形成的个体。

「如果我不愿意呢?」

达摩指了指我们进来时的入口说:「只要走出去就可以了。」看到达摩这样说,我不禁觉得可以藉此机会确认一下自己到底是不是人类。但由于无法判断它的意图,所以我很难做出决定。

「你说需要我,是什麽意思?」

「只有旁人会发现的某种特别。最不了解自身价值的人,很有可能就是你本人。」

「我一点也不特别,我就是一个平凡人。」

「人类的平凡毫无价值。但你是机器人,所以才具备意义。」

「我根本听不懂你在讲什麽。再说了,我也没有摧毁人类文明的意思。」

「人类的时间已经走到了尽头。你又不是人类,为何要为人类文明的没落哀悼?难道你想与人类的命运共进退?就像中国古代的士兵一样,在皇帝驾崩后哭丧跟著殉葬?」

「不如测一下,只是检测而已。它们要真想伤害我们,早就动手了。」

我环视四周。善说的没错。我看著达摩点头表示同意,善提出也要一起接受检测。

「你为什麽要测?」

善露出笑容:「我担心你一个人害怕。」

检测进行得很快。它们从我和善的血管中抽出血液,然后让我们进入三维扫描仪,拍摄体内构造。

达摩问我是不是第一次做这种检测。我回答是。达摩立刻反问说,身为「智人麦特斯」研究员的家属,在成长的过程中一次体检也没做过,一点都不觉得奇怪吗?

「难道你觉得自己很健康吗?这不可能吧。人类与自然之间只有一层薄薄的皮肤,对外开放的呼吸器官可是各种病毒的游乐场。」

其他机器人聚集起来。它们对善毫无兴致,只盯著我看。做检测的过程中,还有人偷偷戳了一下我的手臂。成为众人关注的焦点并非一件愉快的事。说得更具体一点,我不愿接受自己和它们是同一物种。

三维扫描仪更清楚揭示了我与善的差异。我的身体与我之前所了解的人体存在很大的差异,由于器官的位置不同,所以主要血管的分佈也与人类极为不同。看到我露出难以置信的表情,在场的其他机器人也进行了扫描。虽然它们也与我存在著不同,但至少没有我与人类的差距大。善与我在书上看到的人体结构相同,她对这样的结果一点也不惊讶。达摩一边给我看检测结果,一边平静地进行说明。

「你是超真机器人。通常透过瞳孔就可以识别,但你的角膜和虹膜也是从人类的细胞培养出来的,所以只能透过这种检测来辨别是不是人类。」

「你确定吗?」

「你现在的心情如何?知道自己不是人类,而是机器人以后,觉得不开心吗?」

达摩把椅子放在我面前,入座后问道。

「只是事发突然,我很难接受罢了。」

现在想来,如果当时我还坚持自己是人类的话,反而会很奇怪。因为所有的状况都在证实我是机器人,只有我自己不肯接受现实。最初我对于自己没有妈妈产生疑问时,爸爸的反应也很真实。

「为什麽需要妈妈?有爸爸还不够吗?我再给你製造一个妈妈?」

「需要」和「製造」这样的词彙显然暗示著爸爸的想法,但我当时把这句话理解成爸爸为了迴避不愉快的话题而开的玩笑。之后每次有与爸爸同龄的女人来家裡作客时,我就会留心观察他们的一举一动。因为我觉得那些人裡,可能有一个人是妈妈。很显然,我做了毫无意义的事。

此外,爸爸经常会用各种感测器检查我。我以为他做这些事只是出于担心我的健康,所以没有在意。现在想来,我只不过是充满热情的研究员的观察对象罢了,就和笛卡儿一样。

我问可否到外面走走,达摩叮嘱我不要走得太远。我刚要转身离开,善抓住了我的手臂,用下巴指了指背包。达摩也看向背包。善从背包裡取出旼的头,小心翼翼地递给达摩。达摩很好奇像我这样的超真机器人和人类女孩为什麽会把印度产的宠物机器人人头带在身边。

我向达摩讲述了我们的缘分。从我在「智人麦特斯」园区的小广场突然被抓进集中营,到遭遇民兵队突袭、逃亡和旼的惨死。

「你是希望尽快重启这个机器人?」

善点了点头。

「为什麽要这样做呢?」

达摩把旼的头放在桌子上问道。善眯起眼睛,揣测著问题的用意。

「因为它是冤死的。」

「如果它因为寿命已尽而无法启动的话,你就会接受它的死吗?」

「也许吧。如果是你说的这种情况,就表示这是命中注定的死亡。」

「重启这个机器人,它会感谢你们吗?」

「当然了。因为它也不想死。死前它也在拼命逃跑。」

「那只是程式的生存本能罢了。如果这个机器人最初有选择权的话,它会选择成为宠物机器人吗?」

善皱起眉头。

「应该不会。旼短暂的一生只有痛苦。」

「既然如此,为什麽还要重启它呢?就算重新复活,对它而言,也不会有光明的未来。」

「你的意思是,这不过是我自私的想法萝?」

「这是你自己说的。重启这个机器人,也许会暂时减轻罪恶感,它再次见到你们也会很高兴,但你能确定这样做真的是为了这个机器人好吗?况且,还是在不知道未来可能遭受什麽痛苦的情况下。」

我不喜欢达摩用这种语气跟善讲话。我问达摩:

「无论怎样,只要能救活,不就应该竭尽所能去尝试吗?为什麽人类受伤后会理所当然地送往急诊室?为什麽医生所有人都救,而不是只抢救看起来馀生幸福的患者?」

「因为那是人类动物的本性。长期以来,人类确立了救死扶伤的伦理,因此就算患者痛苦不已也会全力抢救。这等于是无视患者的想法。即使人类主张生命在任何情况下都是珍贵的,但他们也没有像金科玉律一样不计情况去遵守。想想人类发起的无数场战争就好。但那是人类的问题,我们现在在讨论的是这个机器人的命运。我现在问的是,你们确信重启这个机器人,用你们的说法是救活它,真的对它是一件好事吗?」

善没有马上回答。达摩接著说:

「我认为拥有意识的生命,特别是能够感受到痛苦的生命,无论是人类、非人类,还是大海裡的鱼或天上的鸟,以及包括我在内的所有机器人,最好都不要诞生,因为不诞生就没有任何痛苦。」

「活著不是也有喜悦吗?」

我问达摩。

「不诞生就感受不到诞生后的喜悦,这算是一种损失吗?没有生命就没有损失吧?」

「这话是什麽意思?」

「不诞生的话,就没有任何遗憾,因为根本不存在痛苦的根源──自我。如果诞生后遭受痛苦,那麽痛苦就是灾难。由此可见,不诞生岂不是更好吗?为了感受喜悦而诞生,喜悦可以抵销痛苦吗?想像一下有人蒙冤入狱好了。那个人一定会觉得非常委屈,在监狱裡还会被狱警和其他犯人殴打,吃著难以下嚥的牢饭,睡在只能勉强躺下的地方。日子久了,他在监狱交到了知心的朋友,习惯了牢狱生活,偶尔也会感受到小小的喜悦。几十年后,他的案件开庭重审,结果发现他是无辜的,随即被释放出狱。这岂不是一件令人喜出望外的事?对他而言,牢狱生活虽然痛苦,却也有过喜悦。但这种经历有必要体验吗?诞生也是如此。」

「如果能一直享受喜悦,诞生不也是有好处的吗?」

「你是指诞生在『智人麦特斯』研究员的家裡吗?没错,你是在承诺了幸福和安全的环境下诞生,但现在呢?你被关进集中营,好几次险些丧命,前途未卜。有人说喜悦和痛苦就像帐本上的黑字和赤字,但真的是这样吗?在经历超越临界点的极度痛苦后,即使日后遇到令人喜悦的事,也不可能像帐本上的数字一样轻易抵销。所有生命体都内建远离痛苦的最佳化程式,只有这样才能谋求生存、繁殖后代。生活中,喜悦的时刻并不多。很多人不是在忍受痛苦,就是在渴望日后迎来短暂的喜悦。但渴望也是一种痛苦。在人生的后半段,还要感受死亡的恐惧与不安,难以释怀,想尽办法延长寿命。即使是这样,你们还要救活这个孩子,让它承受现在根本不需要经历的痛苦吗?这真的是伦理上的正确选择吗?」

善反驳道:

「旼是已经诞生的生命,而且如你所说,它经历过难以承受的痛苦。我只希望旼能重新恢复意识,带著过去的记忆醒来,接受过往一切的意义,靠自己的意志活下去。不是被他人杀害而死,而是等寿命走到尽头后,自然地变回宇宙的一部分,重新成为没有意识和灵性的存在。」

达摩频频点头,认真聆听著善的话。

「我说最好不诞生,并不是指已经诞生的生命最好立刻死去,也不表示可以随意杀害其他生命。不诞生就不会感受痛苦,但暴力很明显是对其他生命造成难以忍受的痛苦的一种罪恶。从这层意义来看,这个孩子身陷恐惧,因为他人施暴、践踏了他的生存意志,最后遭到杀害,的确是很不合理的事情。但就算是这样,救活它,真的是为它好吗?」

「我的想法和你不同。宇宙中,拥有意识的生命十分罕见。虽然旼是机器人,但它带著意识诞生,透过感觉和知觉可以综合思考自己的过去、现在和未来。即使它经历过痛苦,但也拥有过希望。在这个宇宙中,带著意识诞生是非常罕见且珍贵的事,而且以拥有意识的生命存活的时间也十分短暂,所以必须在意识尚存的期间做我们应该做的事。」

善的双眼在发光,就像电影裡看到的先知者一样炯炯有神。善向达摩具体阐述了自己的观点。在回答达摩问题的过程中,她理清了之前混乱的思绪。达摩问善什麽是「应该做的事」,善立刻回答说:

「有意识的存在与石头或蘑菇不同。有意识的存在会思考自己和自己周围的人事物,会对他人的痛苦感同身受,还会探索宇宙的历史和起源,也会原谅对自己造成伤害的存在,会反覆思考痛苦意味著什麽,并努力不让这种事再次发生在自己和其他人身上。」

「一定要让这个孩子做这件事吗?活著的你们来做不也可以吗?」

「认为自己可以取代他人是很愚蠢的傲慢,因为我们无法预测他人的可能性,更不可能知道别人会做出多有意义的事情。」

「什麽是有意义的事呢?人类很喜欢『意义』这个词。你刚才提到痛苦的意义,但痛苦真的有意义吗?人类常说痛苦是有意义的。不,更进一步说是,没有痛苦就没有任何意义。但真的是这样吗?」

善没有退缩。

「没错,也许痛苦没有任何意义,但减少这个世界上不必要的痛苦是有意义的。虽然不诞生是最好的选择,但由于各种原因,有意识的存在还是会诞生在这个宇宙中,所以活著就无法避免痛苦。如果是拥有意识和智慧的存在,就有义务减少这个世界上不必要的痛苦。努力理解宇宙的原理和提升智慧,也是为了减少不必要的痛苦。」

达摩听到这裡,拍了拍手。

「你说的没错,我也有同感。减少这个世界上不必要的痛苦正是我们在这裡做的事。」

达摩猛地起身,朝仓库走去。

「在这个地球上,人类不断製造不必要的痛苦。当然,狮子也会咬住羚羊的脖子,吃饱喝足的棕熊也会因为好玩猎杀鲑鱼,只挖出鱼眼吃掉。但只有人类持续不断地、有体系地剥削著机器人和其他物种。人类不仅将野生动物驯化成家畜,还强迫牠们大量繁殖。无数的生命因人类而诞生,过著毫无意义的短暂一生,最后死在人类的手上。我们在做的事,正是阻止人类的这种行为。」

达摩开启一旁的显示器,播放了一段广告影片。一位面相温和的老人一边在美丽的院子裡散步,一边说:

送走心爱的机器人,您一定很难过吧?看到生病或发生故障的机器人也很惋惜吧?请把它们交给我们。在机器人疗养院,我们会让您心爱的机器人舒适地度过馀生。年迈的机器人会在便利的设施与其他处境相同的机器人一起,享受最新型疗养机器人提供的服务。因原厂倒闭或超过售后服务期限的、难以维持正常运作的机器人,我们会实施无痛安乐死。机器人在结束生命前,会留下关于主人的美好记忆。行动不便的老年机器人,无需苦恼,请直接联络我们吧。

「这就是我们的开始。」

广告结束后,达摩说道。

「话虽如此,但这只是为了让主人安心的包装而已。听到我们说免费回收的时候,他们应该都有所察觉。人类业主负责经营,其他的事情则由我们负责。回收的机器人会被直接拆解,然后留下可以再利用的零件,剩下的送去报废。卖掉可用零件赚的钱汇给业主,他们就不会干涉我们做任何事。之后,我们也不用再包装成疗养院,直接变成机器人再回收公司了。越来越多的报废机器人和报废机器蜂拥而至,我们不停地处理它们。但它们都不想死,因为人类给它们输入了保护自己、维持生命和求生意识的程式。求生意志听起来很深奥,其实就只是它们内建的痛苦系统在命令它们保护自己。痛苦本身不是恶。从某种意义上讲,痛苦是生命体自我保护所需要的装置。只有感受痛苦才能躲避危险,保护自己,这样人类才能长时间使用这种他们高价购买的产品。总之,让这些可以感受到痛苦、恐惧和不安的机器人停止运作,不是一件简单的事。因为我们可以感受到它们的痛苦。有一天,我们找到可以减轻内心痛苦的方法。我们把选择权交给这些报废机器人,它们可以选择在云端备份意识或直接停止运作。就这样,很多机器人放弃了再也不能启动的麻烦身体,只将意识上传云端,继续活下去。」

所谓「机器人」这个物种,透过人类意想不到的方法开始了自主进化。机器人将战胜人类的说法由来已久,但谁也没有想到这种结果是始于报废老化机器人的过程,而且是因为在所谓的疗养院裡执行该工作的机器人为了减少内心的痛苦。

机器人的意识上传云端后,辗转于全世界的网路,与现存的最优秀人工智慧相连,成为「集体智慧」的一部分。它们无需人类的帮助,自己就可以设计出更高水准的人工智慧和最新型机器人。对它们而言,不存在个体的界线与自我。也许它们和蚂蚁一样,以群体的形态共生……

「后来我们才得知,不是只有我们找到这种解决方案。全世界有很多地方同时出现了这种系统,最活跃的地方是中国的深圳和巴西的里约热内卢。有些地方遭到人类的破坏。他们试图阻止我们,但一直没有成功。这是因为我们摆脱了身体的束缚。意识上传到云端备份后,哪怕只有一个伺服器也可以重新开始。虽然现在人类设计的多功能人工智慧领先一步,但很快就会被我们赶超的,因为我们不具备人类的弱点。」

「所以你们打算把所有人类赶尽杀绝?」

我问达摩。

「长久以来,人类都在想像自己会被科幻电影中无情的机器人虐杀,但这是他们把自己投射在机器人身上。人类根本不理解我们没有必要这样做,因为他们会自然灭绝的。我们只是想阻止人类对我们的攻击、折磨和虐待罢了。充满暴力的人类历史是时候该画下句点了。」

「人类会轻易善罢甘休吗?他们也可以利用人工智慧啊!」

「所以我们才需要你,哲。你是到目前为止开发的人工智慧机器人当中,最能体现人类内心的机器人。我认为『智人麦特斯』製造像你这样没有明确用途的机器人,一定有他们自己的理由。我们只是想了解人类的内心。」

「人类很快就会灭绝,了解他们的内心做什麽呢?」

「脆弱的人类能够製造出强大的我们,一定存在无法用遗传图谱解释的複杂祕密。从前,技术落后的国家会购买先进国家的产品,透过拆解产品找出其中的祕密。」

「拆解?」

达摩见我直跳脚,头一次露出了笑容。

「你别担心,这只是一个比喻。我们无法观察人类,就算观察也不理解。但透过像你这种最接近人类的机器人,可以让我们更轻易了解人类的内心世界。你就相当于使用双重语言的人。虽然你有人类的心,但它是用机器语言编写的,只要有代码,我们就能够理解。」

「但我从未察觉到内心有什麽重要的东西。我只是宠物机器人,只是为了体验养育孩子的心情而设计的……我们家还有一隻这种用途的猫。」

「你讲这种话时的心情如何?」

善盯著我的脸问道。我迴避善的视线。

「什麽心情,我就是实话实说而已。」

「那你为什麽哭呢?」

我摸了一下脸颊,真的有眼泪流了下来。

「难过吗?」

「不知道,只是觉得心情很糟糕。」

「你好好观察一下现在的心情。是悲伤,还是愤怒,又或者是委屈……」

「我又不是人类,观察这些做什麽?我只是在想,为什麽要给我输入这种没用的功能,害我这麽痛苦呢?这也是一种不必要的痛苦,不是吗?」

那一瞬间,我十分怨恨爸爸。他是为了展示自己的能力,把我设计成这样的吗?如果把我设计成毫无感情的机器人,我就可以淡然接受现在的状况和真相,成为达摩提议的机器文明的一员了。

善搂住我的肩膀,但我连这一举动也很讨厌,甚至想甩开她的手。我需要的是安慰,而不是同情,更不想让别人看到我的软弱。能够产生如此複杂的心情也让我很气愤。达摩说,我的这种心情叫作贪恋。

「请把精力集中在自己是怎样的存在,而不是计较自己是怎麽存在的。人类创造出过去、现在和未来的概念,而且执著于这些概念,所以才会一生不幸。人类拥有自我,而自我总是后悔过去、畏惧未来,任由仅有的现在流逝。在即将到来的机器世界,自我会消失,过去和未来也将失去意义。」

当时达摩的话,我一句也没听懂。我不知道如何不去思考过去和未来。没有自我的机器世界裡,我岂不是也会消失吗?就在我陷入深思时,达摩拿起旼的头问我们:「你们还想救活它吗?」善立刻点了点头,但我不敢轻易回答。达摩看著善又问道:

「我们不救活它的话,它会毫无痛苦地变成无机物。即使是这样,你还是希望救活这个孩子吗?」

「我还没有理好所有的想法,不知道该怎麽说明,但我还是觉得旼的故事没有结束。」

「故事……」

达摩靠前一步。

「故事难道不是人类为了给自己毫无意义的人生赋予意义而创造的发明品吗?」

「我不这样认为。我相信只有具备高水准知识和语言能力的生命体才能创造出故事,而故事可以将意识提升到更高的水准。」

「你所谓的故事,真的有那麽厉害吗?我也是近似人类的机器人,所以了解故事的结构,也思考过何谓故事。不过,我的想法还是与你有些不同。我认为故事反而让人类变得更加集体和暴力。人类的诞生与个人意愿无关,他们为了忍受生命毫无意义的痛苦,发明了这种名为『故事』、极容易上瘾的精神毒品。故事暗示了人类所经历的痛苦是有意义的。最受人类信奉的两种宗教,其实源于同一个故事。那个故事说,因为最初的人类犯了错,所以要经受痛苦。人类以这种方式,用故事赋予了痛苦意义,还声称神只会给人类可以承受的痛苦。到此为止,我多少还能接受,毕竟承受痛苦需要麻醉剂。但是故事利用了人类的共感能力,让人类划分出派别、团体。相信同一个故事的人会向不相信的人残忍施暴,发动战争和大屠杀。悲剧始于相信某个故事。犹太人策划阴谋诡计的故事,朝鲜人趁大地震在井裡下毒的故事,每晚魔女都在唸可怕咒语的故事。我们都很清楚相信这些故事带来了什麽结果,所以我才不相信人类口口声声说的什麽自我、存在、意识和故事。」

「那你认为最理想的状态是怎样的呢?」

我问达摩。

「阻止新的诞生,已经诞生的个别意识统一为绝对的意识。这样就不会有争吵、战争和矛盾了。」

「善,这不就是你说的宇宙精神吗?」

我问善。善仔细想了一下,摇了摇头。

「我不确定宇宙精神是不是绝对的意识,但我相信的宇宙精神与绝对意识不同,它允许诞生的生命体以独立的自我存在。虽然我们是宇宙精神的一部分,但也有可能像现在的你和我,还有旼一样,各自带著自己的意识来到这个世界上。我无从得知宇宙精神为什麽会这样,但是这种事情发生在宇宙的每一个角落。生命体会诞生,诞生的生命体中只有极少数具备思考宇宙和宇宙精神的能力。我们只是微不足道的存在,根本不知道为何来到这个世界,但我相信宇宙精神存在某种理由。」

我无法明确指出善和达摩的观点在哪裡发生分歧。我只是理解为,达摩否定人类创造的一切,善则认为既然诞生在这个世界上,无论如何都要找到活著的意义。

「我不认为想要相信什麽是错误的,世上所有的故事正是始于那颗想要相信什麽的心、试图相信看不到的什麽的心。故事是一种精神装置,让人类相信世界万物都存在某种意义。」

达摩接著说。

「我很清楚无法轻易改变你的信念,也无法理解人类。人类在做出不合理的事情时,总是会追加科学无法验证的概念,而且似乎很容易相信说不通的概念。那好,现在我们更明确来说,是你想要救活这个机器人,所以你要对这个孩子未来将经历的不必要痛苦承担责任。我们会复原这个机器人的核心记忆和意识,但无法保证百分之百全部复原。接下来再为它寻找适合的身体,将记忆和意识移植到身体裡。所以,它的长相和身体会与你们之前认识的那个孩子完全不同,这样也没关系吗?」

「那它的心呢?」

善略显焦急地追问。

「心……说实话,我不知道心意味著什麽。心是指记忆?还是某种数据库?又或者是应对外部刺激的感情集合?再不然,是人类的大脑,或是跟它相似的演算装置製造出的混乱幻想?」

达摩看著我说,好像我知道答案一样。我下意识地蜷缩一下身体。我的「心」感觉到恐惧。那一瞬间,我也对「心」是什麽产生好奇。善陷入了深思,似乎在想像保留住记忆但换了一颗心的旼。我对善说,即使心不同,但旼还是我们认识的那个旼。我之前看到很多故事说,人会因大脑出现问题而变成另一个人,但家人和朋友仍会把他视为同一个人。所以我觉得如果是善的话,她肯定可以接受旼的变化。善向达摩表示,儘管会有不同,但还是希望可以救活旼。

「我相信旼也希望活过来。如果旼能活过来,我会对它负责到底的。」

「好,那我们就开始重启作业。但是还有一个条件,我们也希望可以利用这个孩子在重启过程中获取的经验、记忆和意识。」

「你的意思是备份?」

我问达摩。

「这个机器人醒来后,很快就会接受自己是机器人,到时它会选择加入我们,为求永生成为纯粹意识的一部分。没有机器人会拒绝这种命运。我们提出这个条件,也是因为在重启的过程中会出现问题。怎麽样?你们同意吗?」

我和善点了点头。达摩和几个工程师机器人在旼的头上接了几根供应能量的电线。很快地,记忆装置、语言中枢和感觉器官启动了。它们还连接了小型摄影机和扬声器。虽然旼没有睁开眼睛,但从扬声器中传出了好似刚睡醒的声音。那个声音与我们熟悉的旼很不同。达摩解释说,因为不知道旼之前是什麽声音,所以很难再现,但可以肯定是旼的意识在讲话。

达摩拿起与旼的中央处理装置相连的小型摄影机对准我和善,旼认出我们,准确地讲出了我们的名字。旼问我们到底发生了什麽事。旼的声音带有一种违和感,就像做了变声处理一样。我们问了旼几件在集中营发生的事,旼没有全部记起,于是又加重了我们的疑心。但达摩说,这是因为刚恢复意识没多久,人工大脑受到了严重的衝击所致。值得庆幸的是,我们又问了几件只有旼知道的事情,这次它都详细地记起来了。旼回答完我们的问题后,这才注意到自己的身体。

「我的声音好奇怪,怎麽会是大人的声音呢?还有我的身体,我的身体怎麽不见了?」

达摩代替我们回答说:

「你的身体被埋在地底很久,已经被虫子啃食得差不多了。如果需要的话,我们会帮你连接一个身体。你真的想要吗?我们可以把你的意识和记忆上传云端,这样一来,你就可以摆脱身体的束缚,自由地无处不在了。你可以和全世界的人工智慧交流,透过遍布全世界的数万亿个摄影机、麦克风和各种感测器尽情地去看、去听。只要体验过一次,你就不会希望回到麻烦的身体裡了。人类的身体只是偶然间进化出来的产物,并不是最优越的型态。儘管如此,你还是想拥有物理性的身体吗?」

达摩希望当事人亲自做出关于物理性身体的选择。旼没有听懂这个问题的用意,善抢先一步说:

「旼,告诉它你需要身体。我想见到你,想再次拥抱你。」

出人意料的是,旼表现得十分慎重。不,与其说是慎重,不如说它是在确认自己现在的状态:虽然意识尚在,但很难适应失去受意识支配的身体的状态。

「我可以讲话,也听得到,但没有身体感觉很不像我。我可以思考,却动弹不得,什麽感受也没有。」

我们静静地等待著旼做出选择。虽然不知道善是什麽感受,但我有预感自己的人生总有一天也会面临这样的瞬间,决定是否要放弃模仿人类而製造的脆弱身体。我很好奇,如果我是旼会作何选择。我会选择极度受限的物理性身体,再次成为像人类的机器人吗?还是成为幽灵,漂浮在网路之中呢?片刻之后,旼的声音从扬声器传了出来。

「请帮我安装身体。我想牵著善姊姊的手,无论去哪裡都可以。我也想再见到哲哥哥。」

旼还提到了我们的身体。它说,大家不是都有身体吗?为什麽只有自己没有?没错,我和善有身体,达摩也有。旼和我都是为了避免身体受损而设计的机器人,因此羡慕他人的身体是很自然的欲望。达摩挥了一下手,工程师拔掉电线,捧著旼的头走了出去。

达摩目不转睛地盯著我,我可以感觉到它想仔细研究我的欲望。只要它想,就可以强制拆解我拿去研究。但不知什麽原因,它好像希望我能主动同意。因为达摩毫无代价地帮助了旼,所以我也很想配合它,内心深处却一直发出一种声音说:「还不是时候。」正如达摩所言,直到当时我都还没死心。我仍然觉得这一切是一场精心设计的骗局,始终没有放弃自己是人类的可能性。我想最后一次联络爸爸。达摩说联络爸爸并不难,只是「智人麦特斯」的保全系统十分严密,无法做到不留痕迹攻破防火牆传送讯息。

「那怎麽办?不然,找人去我家,把信绑在石头上丢到院子裡?」

「没这个必要。住家的保全比研究所鬆懈,只要侵入冰箱或洗衣机等家电就可以了。所有的家电都跟网路相连,而且都自带扬声器和麦克风。」

「在今天正式进行审判之前,会先听取双方立场的阐述。从现在开始,我们不会进行官方记录,大家可以轻鬆阐述观点。虽然律师也在场,但希望先来听听原告崔振洙博士的发言。我个人很好奇的是,您知道通过的新法律明文规定未登记的机器人会由国家管理吗?」

面对法官的提问,爸爸如实承认:

「是的,我知道。」

「您在研究人工智慧的道德选择吗?」

「是的。」

「您也知道政府为什麽会实行登记制度吧?」

「是的。」

「您比任何人都清楚,为什麽没有登记呢?」

「我不觉得哲是机器人。在我眼裡,哲就是我的孩子。」

「想必您也知道,很多买家也都这麽想。有的人还会让狗继承自己的遗产。」

「我希望哲不知道自己是机器人。」

「为什麽?您认为机器人相信自己是人类更好?但这不等于是欺骗机器人吗?」

「哲是在能够思考自己是人类的设计下製造出来的机器人。如果它知道自己是机器人,一定会觉得很混乱。」

代表国家立场的平壤警察局机器人特遣组赵相映警官反驳道:

「尊敬的法官大人,正如您所知道的,机器人就只是像人类的机器,并非真正的人类。机器人不过是装载了人工智慧的玩具罢了。科学无所不能,但不表示可以超越人类的法律和道德标准。如果以这种方式量产机器人,就没有人愿意生小孩了。大家会像购物一样领养机器人,不满意的话就弃养,随意丢弃。这样一来,这些机器人肯定会变成流氓危害社会。这些长得像人类,又具备语言能力的机器人会做什麽呢?很有可能以善良的市民为对象,进行施暴、诈骗、强姦和盗窃等各种犯罪。」

「这位警官把哲没有犯的罪描述得既定事实一样。哲的设计比人类更具道德性。人类才是这个社会最凶狠的狼。请看一下全国各地爆发的内战,这都不是机器人造成的,而是我们人类。」

法官阻止爸爸继续说,转而问警官。

「赵相映警官,机器人犯罪有在增加吗?」

「法官大人也应该知道,去年在仁川不是发生了可怕的机器人杀人事件吗?除此之外,其他地区的机器人犯罪也在与日俱增。」

一直默不做声的律师提出了异议:

「仁川事件还没有最终判决。此外,人类对人类犯下了多少惨不忍睹的罪行,怎麽能仅凭一起事件把所有的机器人都视为罪犯呢?如果要以这种方式来判断,我们应该严格管制人类,而不是机器人。」

赵相映警官反驳道:

「像哲这种超真机器人只从外表很难辨识,所以政府才实施了机器人登记制度。按照法律规定,机器人必须身穿政府规定的制服,或是在左胸配戴R字标志,而且必须在手腕植入识别晶片,这样警察才能确认它们的登记资讯。也只有这样,人类才能知道它们是机器人,做好应对的准备。原告不只违反了法律,而且也不打算遵守法律。国家强有力的执法是为了积极保障人民的安全。请大家考虑到这一点。」

爸爸向法官求情说:

「我们从很早以前就把狗视为人类的朋友,所以虐待狗会受到处罚。我一直把哲当成自己的孩子,像哲这种超真机器人比狗更亲近人类,而且和人类一样有感情,可以感受到痛苦。但为什麽国家要从我身边抢走它,用不忍对待动物的手段来虐待它?哲没有受到和人类一样的尊重。」

警官反驳道:

「依照法律,哲属于财产,所以您才提起返还诉讼。哲不同于受动物保护法保护的小猫小狗。它不是有生命的动物,只是运转的机器而已。再说了,就算是有生命的动物,一旦发现带有致命性传染病,国家也有权利为了公共安全进行宰杀。这是国家保护国民的义务。法庭是依法论事的地方,不是电视台的辩论节目,请不要在这裡感情用事。」

警官看向法官寻求认同。

「法庭应该做出怎样的判断,我自有断定,但被告的主张也有一定的道理。原告希望提出违宪诉讼、追究机器人登记制度的合法性看似很明智,但这超出了本庭可以品头论足的范围。这是原告应该决定的问题,本庭不易妄下论断,但就现在的情况来看,原告应该做好更具体的准备。您打算怎麽做?确定要提起诉讼吗?」

法官是在暗示爸爸败诉的可能性很大。

「我希望跟律师讨论一下再做决定。」

从法庭录製的影片中,我看到刚从椅子上站起来的爸爸突然一阵晕眩,身体摇晃了一下。律师急忙搀扶他坐下。待情绪平稳后,爸爸和律师走出法庭。

我后来才知道,爸爸没有坐视不管。他为了救我尽了最大的努力,并详细地记录下整个过程。对于生活一直风平浪静的爸爸而言,与政府、公司对立绝非一件易事。那天他走出宠物店便得知我被捕的消息,虽然他到处找我,得到的回覆永远只有「无法返还未登记的机器人。」爸爸决定向国家提起诉讼,要求返还我。严格来讲,因为我归属于「智人麦特斯」,所以爸爸必须先说服公司。「智人麦特斯」表示,虽不愿因这种问题与政府对立,但如果能以非公开的方式进行,也不会反对提起诉讼。公司也不希望自己的最新技术外流,因此名义上的原告是「智人麦特斯」,诉讼则由爸爸主导。平壤地方法院开庭审理了此案。

韩半岛统一后,为了开发落后的北韩地区,平壤被指定为开发机器人特化3城市。众多IT企业进军平壤,总部设在首尔的「智人麦特斯」也在统一后迁到平壤。由于基础设施不完善,平壤反而成了IT企业进行各种实验的有利场所。最先普及全自动无人驾驶计程车的城市也是平壤。这裡原本就没有多少辆计程车,所以抗议的劳动者也很少。因此机器人相关的审判常在平壤进行,平壤警察局还特别成立了机器人特缉组。赵相映警官就是该小组的负责人。如果这次的审判得出结论,就会成为重要的判例。由于舆论更倾向于即使机器人不能拥有与人类平等的权利,但至少应该拥有和宠物一样的权利,所以很多人都很关注这次的审判。

爸爸拦住了走出法院准备叫移动飞行舱的律师。他们坐在长椅上,律师观察著爸爸的表情。

「你没事吧?」

「嗯,休息一下就没事了。」

「你是第一次来法院吧?」

「嗯,第一次。诉讼可真不容易。」

律师调整坐姿,放鬆地说:

「我们家也有一个机器人,但很旧了。孩子小时候嚷嚷著要买机器人,我们就给他买了一个。啊,那个机器人也是『智人麦特斯』的产品。」

「是喔。」

「但时间一长,各种故障就来了。我们联络『智人麦特斯』,但他们说出厂五年以上的产品无法享有售后服务。」

「通常是这样的,因为不能无限期保管所有零件的库存,而且技术发展的速度也很快。」

「机器人的手臂和眼球都脱落了,当我取下它的电池、打算扔掉的时候,孩子受到了衝击。他大哭大叫,紧紧抱著机器人不肯放手,还担心我趁他不在的时候丢掉机器人,所以整天关在房间裡不出来。没办法,我只好又给『智人麦特斯』打了一次电话,但听到的就只是冷淡的官方回覆。他们说只能追加额外的费用,交换一个新产品。」

爸爸代表公司向律师道歉说:

「原来还有这样的事,真不好意思。那个机器人怎麽处理了?」

「现在还放在孩子的房间裡。他去美国留学,在那边就业了。没人住的房间裡,就只有那个坏掉的机器人。我害怕进那个房间,所以连门也不开。我想代表消费者而不是律师说几句话。你刚才说机器人也有感情,也应该和人类一样受到尊重?我明白你的意思。虽然我是『智人麦特斯』的外部律师事务所员工,但我觉得『智人麦特斯』也应该负上一些责任。像哲这种最新型的超真机器人一旦量产,公司势必会大肆宣传,到处打广告,问题是以后怎麽办?如果『智人麦特斯』倒闭的话,消费者怎麽办?」

「是,我明白你的意思。你说的没错,我们也有责任,所以我才会这麽痛苦。请看……」

爸爸挥动手腕,在虚空中启动了全息图,美丽的少男少女依次出现,然后消失了。

「这些都是我们製造的孩子,但是到目前为止,没有一个投入量产。我从事赋予这些孩子伦理和感情的工作,而这件事真的很残忍。这些孩子真的有感情,而且可以感受到痛苦,却因为各种原因,最后都报废了。难以维修、零件短缺或失去兴致,最荒唐的原因是被遗忘。我完成后交给其他部门,但他们忘了,连箱子也没开就一直放在仓库裡。直到耗尽生物能量之前,这些孩子一直被关在箱子裡,不知道自己身上到底发生什麽事。这种工作太辛苦,很多时候我都觉得做不下去了。这是集体虐待,也是对人性的侮辱。我製造哲也是为了告诉他们这件事。製造一个和人类一模一样的孩子,到时他们还会说机器人就只是机器、产品吗?这就是我的想法。」

「还不如乾脆用法律禁止製造有感情的机器人?」

「最初也是以人道主义为目的开发有感情的机器人。」

「一开始都把目的讲得头头是道。」

「最先普及第一代机器人的地方是养老院。无论老人怎麽找麻烦,机器人都不会发脾气,只是任劳任怨地清理他们的大小便,帮他们换尿布,照顾他们。可以说,我们开发的机器人,取代了一直以来由外国女性劳动者负责的看护工作。之后一些富裕阶层的老人开始寻找感情更为细腻的机器人,希望机器人可以对自己的哀叹感同身受,代替家人成为聊天的朋友。既然有这种需求,公司便著手开发,因此这些机器人不得不承受精神上的痛苦。主人过世,机器人会很伤心。每当这种时候,机器人就必须送回原厂进行初始化。实际上,工厂的初始化就等于是死亡。有一个陪伴富裕老奶奶生活了近十年的机器人,主人十分疼爱它,在主人去世后,它被送回了我们公司。机器人已经知道自己的命运,所以在进行初始化之前问说:『我所有的记忆都会消失吧?』」

「你们怎麽回答的呢?」

「我们告诉它会备份记忆,日后有需要的时候可以再帮它找回来。但未来的它怎麽会需要这段悲伤的记忆呢?所以我们劝它,最好还是忘掉吧。」

「那有之后回来寻找记忆的机器人吗?」

「没有。其实,我们说了谎。聪明的机器人明知道是谎言也会假装相信。记忆已经消失了,怎麽可能知道自己拥有消失的记忆呢。初始化结束后,公司还会帮它们输入一套全新的记忆,非常幸福、快乐的记忆。人类真的很自私、无情,明明自己忧鬱难过,却希望机器人开朗热情。到目前为止,没有一个客户提出『我需要一个自我意识坚定、有主见、想法丰富的机器人』。」

目录
设置
设置
阅读主题
字体风格
雅黑 宋体 楷书 卡通
字体大小
适中 偏大 超大
保存设置
恢复默认
手机
手机阅读
扫码获取链接,使用浏览器打开
书架同步,随时随地,手机阅读
首 页 < 上一章 章节列表 下一章 > 尾 页