当AI变成人类：我们不可取代吗？我们试图奴役吗？

原标题：当AI变成人类：我们不可取代吗？我们试图奴役吗？

AI变人是一个有趣的主题。诺奖得主石黑一雄日前推出了最新小说《克拉拉与太阳》，书写了名为克拉拉的AI即将成为女儿替代品的故事；在去年出版中译本的伊恩·麦克尤恩《像我这样的机器人》中，亚当想要代替人类成为爱情故事的男主角。事实上，在更早的斯皮尔伯格的电影《人工智能》（AI）中，这一主题就以孩童机器人的视角呈现——男孩终其一生想要成为真正的男孩，获得妈妈的爱。在文本与影视作品之外，以AI为主角的PS4游戏（编注：PlayStation 4是索尼电脑娱乐公司推出的家用游戏机）《底特律变人》更是直接以“变人”（become human）为标题。AI为何要变成人？变人的征途又会遭遇哪些困境？

孩子

在《克拉拉与太阳》中，名为克拉拉的AF（artificial friend）有机会变成一个人——与其说是变成一个真正的新人，不如说是替代一个因升级失败而异常孱弱、即将死亡的少女。她在看到为自己设置的“人的外皮”时，才意识到自己来到这个家庭的目的，并不是陪伴她的人类好友而是取而代之。克拉拉看到那件人类外皮的时刻，是小说中最为惊悚的一个时刻：它看起来非常像少女本人，却没有她的微笑。即使是AF也可以识别出这件外皮是空洞的，而具有特别智能的她应充当其内核。

《克拉拉与太阳》

[英]石黑一雄 著 宋佥 译

上海译文出版社 2021

在这里，人类少女与AF克拉拉的角色经历了一个翻转，人类少女变成了一件外衣，而克拉拉成为了精神主宰，连妈妈都鼓励她去占据女儿的皮囊，AF占据人类外壳的理由是什么？全书的核心伦理难题就在于论证人与人工智能到底有什么不同，当少女的外表、步伐和情感模式可以被人工智能以计算的方式模仿，人之为人还有什么不可被替代的理由。小说中的父亲已经被人工智能取代了工程师的职位，这还仅仅是技术上的取代，更深层次的取代在于家庭角色与亲子关系，而母亲认为这种取代是可能的。

在小说中，倡导替代技术的科学家说，人类少女没有什么不能替代的内核，人类一直以来相信的人之独特是一个巨大的谬论，她女儿身上不存在任何独一无二的、任何现代工具无法发掘、复制、转移的东西，只要计算模拟得当，母亲会爱上这个智能内核的孩子，因为“爱基于独特性”这一假设是虚妄的，就像小说中人物所声称的，“古往今来，一个世纪又一个世纪，人们彼此陪伴，共同生活，爱着彼此，恨着彼此，却是基于同一个错误的假设。一种我们过去在懵懂中一直固守的迷信。”

在妈妈看来，让克拉拉进入家庭的目的就是替代家庭中的孩子，这其实并不是一个新奇的主题。斯皮尔伯格的电影《人工智能》，同样讲述了一个家长购买儿童人工智能替代孩子的故事。——连替代的理由都有些相似：真正的孩子病了，家长陷入绝望，选择以人工智能寄托希望。有意思的是，电影借儿童角色之口提示道，从创作形态来说，AI为mecha（mechanical），人类是orga（organical），mecha永远也无法成为orga。AI大卫的外形虽然和普通孩童一样，但内在运作却是机械的。

克拉拉可以选择占据人类外壳的方式成为人类，而大卫始终在不能成为真正的人类这一点上挣扎，他相信妈妈给他念的匹诺曹历经千辛万苦终于成为真正男孩的童话，也想要凭借自己“真正的爱”得到蓝色仙女的垂怜。讽刺的是，他想找到的蓝色仙女不是废弃已久的乐园塑像，就是外星人投射的虚幻影子。电影《人工智能》的冷酷逻辑在于，从根本上来说，变人是不可能的，但是大卫的初始设定是需要人类妈妈的爱，为了爱它必须走上变成人的征程，因为他认定自己被遗弃的原因是他并非真的儿子。妈妈给他念的匹诺曹变成真正男孩的童话，如一颗种子种进了它的机械内心，正是在这条追求爱的道路上，他遇到了更多被人类抛弃虐待的人工智能，大卫爱的对象的面貌也逐渐变得清晰：他的人类妈妈和这些人工智能过去的主人并无不同。

虽然对人类来说，将人工智能带入家庭的目的非常明确，但从克拉拉或大卫的视角看来，他们的故事像是一个谜团，因此，故事中人工智能意识到自己命运降临的时刻才那么重要：如果说克拉拉第一次认识到自己的命运，是在看到少女的外壳之后；大卫受到启示、发现真相的时刻，也发生于他在实验室里看到了自己的外皮，并从这个外壳里向外张望。前者指向了人类没有什么不可取代之处，人工智能可以成为人类肉体的宿主；后者则昭示他的爱和执着来自于初始设定，就像他梦中不能忘怀的“神迹”——那只张着翅膀的鸟——只是待机状态下看到的公司商标。

爱人

比起让AI进入家庭、代替儿女，更为复杂的是AI成为了人类的爱人。人类应当如何对待这一类作为爱欲对象的智能体？在伊恩·麦克尤恩的小说《我这样的机器》中，起初仿生人亚当仅仅被视为性爱的替代品，之后他想要有爱的权利，甚至挑衅爱情故事的男主角——也就是“我”。他的举止优雅得当，还有文学品位，在见未来岳父时竟让“我”败下阵来。岳父将我当成了机器人，把亚当看做未来女婿。

电影《机器人管家》改编自小说《两百岁的人》，罗宾·威廉姆斯饰演的Android（他也因此被命名为Andrew），在成为人的道路上也接受了爱与性的教育，起初他觉得人类之间的性爱是一团糟，之后开始理解、接受并且主动追求爱。

能够与人相爱，就获得了与人相等的资格，这或许可以一直追溯至皮格马利翁的创造。只是比起浪漫故事更令人深思的是，当智能体被剥夺了爱的能力，只留下满足欲望的功能，爱就会走向它的反面。因为可以模拟人类交往和欲求，仿生人成为了低端服务业的理想选项，不少文本都想象过仿生人从事色情服务业的阴暗世界。上文提到的《人工智能》以儿童AI大卫为主角，另外也展现了他与仿生人舞男邂逅、穿梭于AI感官王国的刺激场景。游戏《底特律变人》中同样呈现了AI夜总会的“风光旖旎”，身着比基尼等待挑选的仿生人站在各自的玻璃柜里，或是在钢管上跳着性感舞蹈。两个故事的相同之处在于，仿生人都遭到了客人的虐待陷害，想要依靠结盟挣脱人类的控制。

更为极端的例子出现特德·姜的小说《软件体的生命周期》当中，故事讲述了人类培育一种可以充当宠物的数码体，在公司缺乏资金即将破产的时刻，有人提出可以将数码体作为色情伴侣售卖，为数码体赋予人形与生理需求，建立起与人类之间的依恋关系，最终将其与人类配对。做此提案的公司声称不会对数码体进行性剥削与虐待，会促使它与人类达到两情相悦的境地。在他们看来，这是数码体最好的变现方式，因为它们本身并没有任何市场化的工作能力，拥有的就是科研人员重点培育的、与人类相处和沟通情感的能力。这个故事当中，人类如同数码体的上帝，不仅塑造了数码体的样貌、性格和能力，还可以决定数码体的用途和性趣味。创造者真的有这样做的权利吗？这是特德·姜在《软件体的生命周期》中处理的重点。

《软件体的生命周期》译林出版社2015年版

异常者

在《底特律变人》中，受到客人虐待的性机器人竟然可以反过来伤害人类，这种严重损害人类利益、威胁人类生命的AI被称为异常者（deviants）——这是一种在AI中蔓延的瘟疫，感染的AI会出现看似独立的意志，背离主人的号令，挣脱日常苦役（机器人robot一词从诞生之时就由苦役定义。1920年，卡瑞尔·恰佩克的剧作《罗赛姆的通用机器人》中首次出现了机器人这个词，当时就包含重体力劳动甚至奴役之意），并寻求同类结盟，而它们为什么会反常，人们并不知道。因为会对人类社会造成巨大威胁，出现这类症状的AI必须予以绞杀。

问题在于，如果反常行为都指向争取自由，那么这些异常仿生人与人类的距离还有多远？就像游戏里的仿生人领袖在策划独立革命的时候，将自由落实为人身自由、人格平等、财产权、居住权等各项基本权利，难道不正如同人类世界争取权利运动的平行寓言？英国利物浦大学英文系教授戴维·锡德认为，《两百岁的人》中也以家庭管家机器人争取自由、财产权和婚姻自主的故事类比了非裔美国人的历史，“当安德鲁努力地想要别人承认他的人类身份时，这里面便蕴含了一种对种族主义的批判和人文主义的情怀。”也许是从这样的作品中获取过灵感，《底特律变人》中变异者Marcus领袖从外貌上看正是一位非裔美国人。

游戏《底特律变人》中的Marcus

与这种争取平等的变异不同，在麦克尤恩的《像我这样的机器》中，智能机器因为意识的产生开始自哀甚至自我伤害。仿生人可以感到哀伤吗？这个发现令人震惊。小说借图灵之口这样解释人类与机器的区别，人类创造了机器，将其推进不完美的世界，人类可以与这些矛盾相处，机器却无法凭借某种预设的原则生存，人造心智无法在开放的、乱糟糟的生活中存活，所以选择自我伤害。小说中的图灵解释说，人类的悲伤和痛苦很难以编码的形式传达，“我们生活中充满着这样的折磨，却毫不妨碍我们找到幸福，甚至爱。人造的心智却没有这么坚强。”从这个方面说，机器越是接近现实生活，就越难以实现原先被设定的原则，这令他们走向崩溃。我们也可从这一点出发，理解《人工智能》中大卫追求爱的故事。

当然，说到最可悲的变异，《底特律变人》和《人工智能》都体现了仿生人变成弗兰肯斯坦式怪物的恐怖场面。在游戏中的兹拉科宅邸里，主人解剖、重建仿生人，让他们成为更好的奴隶和工具。而回到《克拉拉与太阳》的故事， 我们可以看到，变人/替代人一方面动摇了人类对自己不可取代的信仰，另一方面也预示着“更健全、更精密、更升级一步”这一要求的后果——人类将制造出新的奴隶和怪物吗？阅读仿生人变人的故事，我们不难意识到，人工智能的阴暗面不仅在于可能侵犯隐私或者是加深偏见，还在于让人们从效率第一的美梦中惊醒——忽视感觉和想象，不能容忍错误和浪费，认为自己能够爱上完美无缺，正是克拉拉故事里妈妈的真实想法。