来自 赢咖心境 2019-11-15 00:00 的文章

赢咖:假如你可以制造出一千个数字版的虚拟自

如果你想将他们从世界上彻底抹去,又会面临哪些问题?

Philip Ball 是一位英国的科学作家,曾经在《自然》、《新科学家》(New Scientist)、《展望》(Prospect)等杂志发表过文章。2018 年,他出版了自己的新书《诡异至极:为什么你印象中自己对量子力学的了解与现实情况完全不同》(Beyond Weird: Why Everything You Thought You Knew About Quantum Physics is Different)。目前他居住在伦敦。

本文由 AEON 授权赢咖博客发布,你可以在 Twitter 上关注他们。


如果你曾经玩过角色扮演类游戏——无论是网络游戏还是传统的实体游戏——你就会知道与自己在游戏中的虚拟角色产生感情羁绊是一件多么容易的事情。每当虚拟角色在游戏中被巨魔蹂躏、被恶龙击倒或者被术士杀害,你都感同身受。

美国社会学家威廉·西姆斯·班布里奇(William Sims Bainbridge)是一个狂热的游戏玩家,他将我们与游戏中虚拟角色的关系又推进了一步:为至少 17 个已故家庭成员创造出虚拟化身。在 2003 年发表的一篇关于网络虚拟角色的论文中,他大胆展望未来:终有一天,人类能够将自己的部分身份信息上传到属于自己的人工智能虚拟化身之上。这些人工智能虚拟化身不需要依附人类,可以独立运行,甚至在我们死后依旧能够正常活动。

面对这些人工智能虚拟化身,我们应该承担起何种责任?

不管对暴力血腥的电脑游戏持何种看法,当你把一个虚拟世界中的攻击者炸得七零八落时,没有人会真的认为你犯下了一桩谋杀案。我们会在未来的某一天制造出拥有一定自主性和认知能力的人工智能虚拟化身,这已经不再是荒诞可笑的幻想,而是很有可能发生的事实。

很多哲学家认为,人类的思维意识不一定必须以大脑中的神经元网络为载体,它们也可以存在于很多其他形式的物质系统之中。如果他们的观点正确,我们便没有任何说得过去的理由相信,功能无比强大的电脑不具备将电路作为意识载体的能力。

如今,道德哲学家努力研究很多塑造人类的伦理学问题:人生的价值是什么?我们应该努力打造何种生活?人类多样性在我们心中的价值究竟有多高?然而一旦面对如何对待计算机世界中的虚拟实体这个问题,我们就显得迷茫无措,不知道如何才能用依托现实世界发展而来的道德直觉找到答案。我们的骨子里认可这样一种观点:杀死一只狗是不对的,甚至连打死一只苍蝇都有问题。但是,这和关闭虚拟苍蝇大脑(或者虚拟人类大脑)的感觉是一样的吗?当“生命”以全新的数字形式存在于世时,我们的个人感觉和人生经验恐怕就不再是能够指导行为的可靠道德指南。

剑桥大学的理论物理学家阿德里安·肯特(Adrian Kent)已经开始探索人类道德理性中的这片空白地带。他在最近发表的论文中提出,假设能以低廉的成本在电脑上制造出虚拟人类意识,我们会想要为这个虚拟人物打造一个丰富多彩且意义非凡的互动环境——换言之,要为他创造一个值得过下去的“人生”。也许我们也可以为真实的人类打造人生:只需要详细扫描他们大脑的全部细节,然后再在计算机上将其复制出来便可。我们可以用这项技术“拯救”身患绝症的病人。如今,一些超人类主义者将它视为通往意识不朽的康庄大道。

当然,这也可能只是一场白日梦。但请不要因此而不屑一顾。现在,我来介绍一套名为功利主义(utilitarianism)的道德原则。18 世纪末期,杰里米·边沁(Jeremy Bentham)首次提出功利主义,后来约翰·斯图尔特·穆勒(John Stuart Mill)又对其进行改进和完善。边沁提出,综合考虑所有因素后,我们应该努力确保最多的人获得最大的幸福(或者“效用”)。用穆勒的话说就是:“越能促进幸福,行为就越正确;越会阻碍幸福,行为就越错误。”

作为指引人们实施良好行为的道德准则,功利主义有很多值得批评的地方。我们如何才能衡量或者比较幸福?比如说,感受祖母的疼爱和成为一名技艺精湛音乐会钢琴家的快乐相比,哪个更让人感到幸福?肯特说:“即便想要认真研究分析功利主义的思想,你也不知道自己在‘幸福公式’中代入的变量究竟意味着什么。”尽管如此,当下大部分信仰体系还是默默承认,相比引诱人们走上道德沦丧的邪路而言,道德原则还是更容易引领人们选择追求更大的幸福。

在肯特提出的假设中,人们可能会站在功利主义的立场思考问题:认为自己有义务替身而出,在不受任何约束的情况下大量增加自己虚拟化身的数量。现实世界中,如此不受控制的繁育行为有着明显的弊端。庞大的家庭导致人们情感频频受挫,经济入不敷出。而且,人口过多问题目前已经对全球资源造成巨大压力。但是在虚拟世界中,所有的限制都不复存在,你可以用近乎无限的资源虚拟出一个乌托邦。此时,你为什么不继续创造尽可能多的虚拟世界,让每一个虚拟世界都充满心满意足的虚拟化身呢?

《黑镜 第三季》剧照,虚拟世界的服务器。图片来自豆瓣电影

我们的直觉可能会想:这样做有什么意义呢?也许有意识的虚拟化身并不会和有血有肉的真实人类具备相同的内在价值。新奥尔良市杜兰大学(Tulane University)的心理哲学和虚拟现实伦理专家迈克尔·马德瑞(Michael Madary)表示,我们应该认真对待这个问题。他说:“人类生活中存在一种神秘元素,它指引我们思考很多经典哲学问题——‘为什么这里有某种东西存在,而不是空无一物?’‘人生有意义吗?’‘我们有义务在道德的约束下度过人生吗?’计算机上的虚拟思维可能也会提出同样的问题,但是从人类的角度来看,它们始终还是假的。”虚拟思维之所以能够存在,是因为我们选择将其发明出来。

正如部分哲学家一样,有些人可能会思考这样的问题:如何才能证明我们自己不是虚拟的存在?我们不能排除这种可能性,但我们依旧认为经典哲学问题对人类而言意义重大。所以,我们不妨假设经典哲学问题对计算机中的虚拟化身也有同样的意义。

如此一来,肯特又抛出更尖锐的问题:从道德角度来看,应该创造一群完全一样的生物,还是应该创造一群每个个体都存在差异的生物?毫无疑问,创造一群完全一样的生物是效率更高的做法——我们只需要获取其中一个个体的信息,然后就可以实现大规模复制。但是人类的直觉告诉我们,多样性总是更具价值。然而如果没有理由相信无数不同个体比无数相同个体拥有更大幸福,我们又为什么需要保证多样性呢?

肯特认为,多个不同类型的各异生命比多个完全相同的单一生命更可取。他说:“内心的一个声音告诉我说,和一个生活着十亿个完全相同虚拟化身(我们将每个相同虚拟化身都称为爱丽丝)的宇宙相比,一个生活着十亿个不同虚拟化身的宇宙要更有趣。我始终无法摆脱这种发自内心的直觉。”他把这个现象称为“复制劣势”(replication inferiority)。

肯特想要弄清一个问题:在生活着十亿个相同爱丽丝的宇宙中,分析探讨一个不断重复出现的生命是否还有意义。或者说,我们此举不过仅仅是在探讨一个分散在宇宙每个角落里的单一生命罢了。这样一来,生活在相同环境中的无数爱丽丝可能并不比某个单独的爱丽丝更有价值。肯特把这种现象叫做“复制无用”(replication futility)。他说:“我渐渐倾向于认同复制无用。”但是肯特也承认,他找不到一个能证明复制无用理论合理性的完美论点。

肯特的思维实验涉及到一些道德哲学领域历史悠久的难解之谜,而人们从未能够找到解释这些谜题的满意答案。1984 年出版的《理性和人类》(Reasons and Persons)是一部研究身份和自我的不朽杰作。在该书中,去年刚刚过世的英国哲学家德里克·帕菲特(Derek Parfit)深入剖析了这些哲学难题。帕菲特思考了一系列重大问题——世界上应该有多少人?条件允许时,从道德角度来看,为世界添加一个值得度过一生的生命是否总是一件好事?

即便认同功利主义的观点,你也会发现为最多人谋求最大幸福的过程中也存在一个问题:这两个标准容易产生歧义。比如,假设你有权利控制一个资源有限世界中的人口总数。此时,你可能会认为世界上存在一个理想的人口规模。大体上来看,理想人口能最大程度利用资源,确保收获幸福和成功。但是在这个乌托邦里,我们总是有办法找到位置再塞一个人进去吧?为了让一个人获得更幸福的人生,其他所有人都要牺牲一点点自己的幸福,这种做法你能接受吗?

问题的麻烦在于,往乌托邦里塞人的过程永远没有尽头。人口总数不断增加的同时,新增人口收获的幸福可能已经大于此前乌托邦内居民所做出的牺牲。帕菲特说,你最终将得到一个“矛盾的结论”:在这种情况下最好的结果是人口过剩,每个人的生活都苦不堪言,但他们还是比没有生活的乌托邦外之人要稍微好一点点。总体来看,他们少得可怜的幸福加在一起,还是要比少部分真正幸福个体的幸福总量要大。帕菲特写道:“我觉得这个结论令人难以接受。”但我们能证明他的道德直觉是正确的吗?肯特表示自己无法确定:“我认为目前大家还未就这个矛盾的结论找到能够达成共识的解决方案。”

图片来自 José Martín Ramírez C on Unsplash

这个问题的核心其实是帕菲特所谓的“非同一性问题”(nonidentity problem):当个体的存在与否完全取决于我们的选择时(比如我们能否往乌托邦里再“塞一个人”),我们如何能够理性分析涉及这些个体的问题?我们的行为会给这些个体带来影响。原则上来说,如果我们能在行动之前权衡自己行为给个体带来的利与弊,自然也就能做到理性分析与个体有关的问题。但是,如果衡量过程中需要考虑个体自始至终就不存在的这种可能性,我们便永远不知道应该如何继续下去。因为相较于压根不存在而言,几乎所有其他结果都显得更好。如此一来,人们似乎就能从道德上接受各类惨不忍睹的局面。

在提倡人口功利主义的思维模式中,还存在另外一种更为奇怪的情形。如果一个个体收获幸福的能力极其强大,因此他获得的幸福远远超过其他人为他付出的牺牲总和,这种局面如何理解?美国哲学家罗伯特·诺齐克(Robert Nozick)将这种个体称为“快乐怪兽”(utility monste),并在 1974 年出版的《无政府、国家和乌托邦》(Anarchy, State and Utopia)用这个例子抨击功利主义。用诺齐克的话说,此时“为了提升幸福的总量,我们要全部牺牲,从而保证满足怪兽的胃口”。很大程度上而言,我们可以将帕菲特的著作看作一种尝试(虽然以失败告终)——找到一条能够同时避开矛盾结论和快乐怪兽的出路。

现在,让我们回想一下肯特思维实验中充满虚拟化身的虚拟世界,还有他提出的复制劣势理论——特定数量不同生命的价值高于同等数量相同生命的价值。也许这能帮助我们避开帕菲特的矛盾结论。虽然列夫·托尔斯泰在《安娜·卡列尼娜》(Anna Karenina)的开篇就提到不幸的家庭各有各的不幸,但似乎大量悲惨个体的人生都单调乏味,看上去非常类似。因此,他们不会一点一滴地为人类幸福总量的提升贡献力量。

但是基于同样的原因,复制劣势理论却能证明快乐怪兽的存在。因为根据定义,快乐怪兽必须是独一无二的个体。为了满足他贪婪的胃口,势必要牺牲难免有些相似的其他个体。同这些个体相比,快乐怪兽“价值”更高。这似乎不是一个令人满意的结论。肯特承认说:“如果人们能够将更多精力投入到这些问题的研究上来,那就太好了。我现在感到有些困惑。”

美国自由主义经济学家罗宾·汉森(Robin Hanson)是弗吉尼亚州乔治·梅森大学(Robin Hanson)的经济学教授,也是牛津大学人类未来研究院(Future of Humanity Institute)的助理研究员。在他看来,这些问题与其说是思维实验,不如说是对未来的预测。在 2016 年出版的《仿真时代》(Age of Em)一书中,汉森畅想了一个人类可以将意识上传到电脑的社会。如此一来,人们便以“仿真化身”(与此前提到的虚拟化身不同)的身份开始虚拟生活。他写道:“数十亿这类上传意识的仿真化身能够一栋高楼内共同生活和工作,丝毫不会感到拥挤和局促。”

汉森详细研究了自己书中描写社会的经济运行模式。仿真化身有着各种尺寸,其中一些就很小。仿真化身经历的时间流失速度和人类也不相同。他们的世界里可能存在大量监控,所有人只能拿着勉强能够养家糊口的最低工资。但是仿真化身可能选择只记住休闲的安逸时光,以此麻痹自己,逃避悲惨的命运。和很多人一样,汉森也认为我们现在就生活在这样的虚拟世界中。

汉森畅想的未来社会使得自我复制成为可能,因为一旦将意识上传到电脑中后,我们便能非常轻松地对其进行复制。汉森表示,仿真化身的身份问题会随着时间推移变得不再尖锐:最初,所有的仿真复制体都是“同一个人”,但他们在走上各自不同的生活道路之后渐渐分化出属于自己的身份。这与双胞胎的发育过程很相似。

图片来自 Sharon McCutcheon on Unsplash

汉森表示,人类的自我复制不仅仅具有可能性,而且具有可取性。在即将到来的仿真时代,拥有特别价值心理特质的人将会经历多次“上传”。一般来说,为了保险起见,人们都会想要复制多个自己。汉森说:“他们希望尽量多保留意识的复制品,以便确保自己能够在经历意外发生的灾难后依旧存在于世。”

但是,汉森不觉得仿真时代的人们会选择过上肯特描述中那种千篇一律的日子。他说:“仿真化身认为,在不同的时间和地点重复同样的生活是一件没有什么意义的事情。他们将把重点主要放在大量复制体身上,因为复制体能够工作,能够与他们建立联系。但是,工作和与他人建立联系要求每个仿真化身独立自主。曾经从事过不同的工作和交往过的不同伙伴也对此有影响。”

尽管如此,仿真化身仍然要面对我们目前尚且无力评估道德困境的考验。汉森说:“我不认为人类进化出来的道德伦理具有足够的普遍性和强大生命力。仿真化身生活的环境与人类祖先有着天壤之别,因此人类的道德无法为仿真化身提供始终如一的行为指南。根据我的预测,面对道德困境的仿真化身会产生许多不同的态度,而且这些态度之间彼此可能冲突矛盾。”

目前,这一切听起来好像中世纪时人们就天使在针尖上跳舞这种虚构出来的事情展开争论,让人感觉非常不安。我们能创造出一种打一开始就要求具备真正活力和意识的虚拟生命吗?肯特说:“我觉得没有人能自信地分析这件事发生的可能性,因为我们还没有在科学层面充分地认识和了解意识。”

即便如此,科学技术仍在不断发展进步,这类问题也依旧困扰着每一个人。也在人类未来研究院任职的瑞典哲学家尼克·博斯特罗姆(Nick Bostrom)提出,“后人类”(posthuman)文明具备计算处理能力,能够轻松掌控生活体验与人类一样“真实”和丰富的仿真化身。值得一提的是,博斯特罗姆也认为我们目前已经生活在虚拟环境中。但是也许在后人类时代来临之前,我们就需要直面如何塑造人类这个重大问题。肯特表示:“在不久的将来,这个问题将成为折磨未来程序员、研究人员和政策制定者的真正困局。”

现实世界中可能已经存在肯特预想中才会出现的情景。分析研究促进和预防人类怀孕问题时,我们已经开始讨论效用最大化原则和非同一性问题。什么时候应该以风险太大(比如婴儿可能出现发育畸形)为理由拒绝使用人工辅助受孕技术?没有任何新技术能确保自己是百分之一百的安全(怀孕本身就是不安全的);如果以风险为把控标准,试管婴儿就永远不会出现。我们通常认为,能接受的人工辅助受孕技术风险应该低于某些特定阈值。但是功利主义者却对这种想法提出质疑。

比如,如果新的人工辅助繁育技术存在一定风险,可能导致非常少量的婴儿先天缺陷(诸如显而易见的胎记),我们还愿意采用吗?这不是设想出来的情形,而是历史上存在的真实争论。纳撒尼尔·霍桑(Nathaniel Hawthorne)在 1983 年出版的短篇小说《胎记》(The Birth-Mark)中写道,一个炼金术士般的人物想要消除妻子身上的疤痕,但他采用的手法存在导致妻子死亡的风险。2002 年,乔治·布什(George W Bush)政府下辖的生物伦理学委员会在分析人工辅助受孕和胚胎研究问题时就引用了霍桑的小说。压根不使用这项技术,世界上就不会存在一批因为该技术而出生且带有胎记的人。但相比从未出生而言,我们很难说他们出生之后就一定更加幸福。我们应该以何种标准评判这类人的幸福?我们在什么情况下才能断定即便有先天缺陷也比从未出生要幸福?

图片来自 chester wade on Unsplash

有的人援引这种道德困境来论证人类生殖克隆技术的合理性。社会污名、扭曲的父母动机和不正常的父母期望等危险因素都是人类生殖克隆技术的弊端,但这种技术的弊端真的就大于新生儿呱呱坠地所能带来的益处吗?我们凭什么有资格决定克隆人是否有权出生?而在克隆人之前,我们又是执掌着什么群体的生杀大权?

这种论证思路似乎要求我们扮演上帝一般创世者的角色。不过,女权主义观察家可能会提出非常公平的疑惑:我们是不是只是沦落为弗兰肯斯坦式幻想的猎物和仆从?换言之,这是否只是一群男人因为追求制造人类的最终目标而激动到走火入魔,而女人却不得不花一辈子时间静下心来权衡整个过程的利弊?纵观贯穿整场争论始终的新鲜感,我们的确发现一种相当家长式作风的色彩。(不容忽视的是,汉森是网络社区 Manosphere 中的英雄。他为“非自愿独身者”(INCEL)的行为和性资源“再分配”的必要性进行辩护,因此饱受社会各界批评。在《仿真时代》里提到历史因果关系时,汉森表现出一种相当奇怪的态度。他提出男性仿真化身可能比女性仿真化身更受欢迎,因为“如今的社会趋势表明,大部分领域的顶尖人物都是男性”。)

即便如此,虚拟意识的前途未来确实引发了很多新奇而又迷人的伦理学问题。肯特表示,这些问题迫使我们直面自己对当今世界各种生活模式和人口结构所秉持的自觉价值观。我们很难找到强有力的哲学论点,论证出为什么一定数量的不同个体比同样数量的相同个体更具有道德优越性。所以我们为什么会产生这种固有观点?这种观点又会如何影响我们的其他假设和偏见?

有的人可能会说,人类感知到的群体同质性会削弱我们的同理心和伦理分析能力。我们用“无个性”和“大众”等词汇形容来自不熟悉环境的其他人,这意味着我们觉得他们的生活不如我们心中与自己生活方式差异更大群体的生活更有价值。肯特说,我们显然不愿意承认这就是自己看待世界的方式,“可惜事实并非如此。”

基因多样性对维持种群健康发展有着重要意义。因此,我们是不是甚至可能在进化过程中产生了一种对千篇一律个体深入骨髓的厌恶和反感?每当电影里出现同卵双胞胎或者大量相同的克隆体,我们就知道这不是什么好的兆头。这种偏见非常不可思议。1919 年时,西格蒙德·弗洛伊德(Sigmund Freud)将其与“分裂的概念”——也就是“二重身”(doppelgänger)——联系起来。他说:“二重身就是两个人长得极其相似的人,人们甚至觉得他俩完全相同。”对于同卵双胞胎来说,二重身表现为一种互相偷窥的魅力。但如果世界上存在一百多个完全相同的个体,人们的感受就只会剩下恐惧一种。

无论是在现实世界还是虚拟世界中,我们似乎都不会在短时间内接触到大量的复制化身。但是,正如肯特所言:“有时候,思维实验的价值在于,它能为看待既有问题的你提供一种全新思考方式。”汉森设想的虚拟世界里有很多勤勤恳恳的劳动者,班布里奇则用虚拟化身替代了过世的亲属。我们应该用什么样的伦理标准对待这些虚拟化身?这个问题让我们发现,人类本能用来权衡自己生活中道德价值的惯有逻辑标准并不牢靠,甚至还存在空白地带。


翻译:糖醋冰红茶

题图来自 sebastiaan stam on Unsplash;长题图为《头号玩家》剧照,来自豆瓣电影