技术的顶点，是造福人类还是超越人类？

原标题：技术的顶点，是造福人类还是超越人类？

△

题图来源：《星际穿越》

我们很容易忽视我们在宏大的生态系统中的卓越地位，尤其是在一个容易依赖技术引领我们走向我们渴望的未来的时代。

我们真的相信技术比人类更复杂和必要吗？被创造的东西真的能取代它的创造者吗？我们必须共同决定，是在宏伟技术的帮助下为人类建设更美好的未来，还是以牺牲人类为代价建设一个更好的技术的未来。

技术的顶点是什么？

文 | 卡洛斯·莫雷拉、 戴维·弗格森

来源 | 《超人类密码》

转载自 | 学人读书（ID：scholar_book）

01

原子弹之后，

技术是否将再一次凌驾于人类之上

我们以前也经历过类似的情况，结果总是事与愿违。我们集体做出了错误的选择，或者说，我们没有及时做出正确的选择。我们没有把人性放在首位，而是提升了对技术的承诺。我们让技术引领我们，技术却让我们误入歧途。这种看似细微的疏忽总是把我们的生活变得更糟糕。

1895年，德国机械工程师威廉·伦琴（Wilhelm Rontgen）发现了X射线。他的发现让法国化学家皮埃尔·居里和玛丽·居里3年后发现了放射性元素。居里夫妇发现放射性元素的10年后，新西兰物理学家欧内斯特·卢瑟福（Ernest Rutherford）和英国放射化学家弗雷德里克·索迪（Frederick Soddy）发现铀的放射性是原子分裂的结果。仅仅这3项发现——X射线、放射性和原子分裂，就推动了科技在世界范围内的发展，而科技的发展反过来又永久地改变了人类历史的进程，可是因为我们没有保持警惕，结果也有坏的一面。伦琴

伦琴、居里夫妇、卢瑟福和索迪都获得了诺贝尔奖，而且索迪在放射性方面的工作引起了全世界对核反应的关注，这也成为科幻作家H.G.威尔斯于1914年出版的未来主义小说《解放全世界》的主要灵感来源，这部小说描绘了战争时从飞机上空投原子弹的场景。20年后，威尔斯想象的原子弹在德国的一个秘密实验室里变成了现实。匈牙利物理学家利奥·西拉德（Leo Szilard）致信美国总统富兰克林·罗斯福，向他通报了德国的计划，并敦促美国开始发展自己的核武器。西拉德邀请阿尔伯特·爱因斯坦在这封信上签名，这让这封信更有分量。曼哈顿计划由此诞生。

6年后，1945年8月6日和9日，美国分别在广岛和长崎投下了秘密武器——原子弹，迅速结束了第二次世界大战。人类损失惨重，但事实上，人类遭受的持久伤害早在1945年夏天之前就已经开始了，恰好在50年前的1895年，当时的一系列科学发现让我们把技术提升到了人类之上。被原子弹摧毁的长崎

在我们兴奋而又轻率地奔向未来的过程中，我们的前辈一路乘着技术浪潮，来到了核战争这一无可挽回的威胁面前。这一认识促使爱因斯坦最终哀叹道：“让我害怕的是，我们的技术已经超越了我们的人性，这一点已经变得非常明显。”

今天的情况貌似不同，但其利害关系的重要性并不亚于X射线和原子分裂的发现。我们当前的技术高峰之前的进步浪潮，与20世纪之交的那一波同样值得注意：1973年，罗伯特·梅特卡夫（Robert Metcalfe）发明了以太网；1975年，温顿·瑟夫（VintonCerf）和罗伯特·卡恩（Robert Kahn）发明了互联网；1976年，乔布斯和沃兹尼亚克发明了第一台个人电子计算机；1990年，蒂姆·伯纳斯·李（TimBerners-Lee）发明了万维网。这些激动人心的进步催生了第一个浏览器、第一个搜索引擎、第一个社交网络、第一部智能手机和第一个手机应用。随着虚拟现实、区块链、数字货币、人工智能和机器人等技术的发展，技术正在进一步加速发展。

我们又一次处于临界点。我们必须首先提醒自己，我们每个人拥有的身体、思想和灵魂比世界上一切东西都先进。正是人类这一资源为我们提供了最大的灵感，并对所有人最好的未来做出了最伟大的诠释。

我们必须记住，目前存在的以及将来会存在的所有技术，都是我们自身完善的技术体系的产物。如果我们在这个浩瀚的宇宙中拥抱我们的主要价值，然后收获人类的巨大资源，我们就能确保在未来的日子里实现大多数人最深切希望的。如果我们忽视了这一点，那么我们失去的将不仅仅是生命，而是我们生存的理由。《2001：太空漫游》剧照

02

追问：

什么是主流，技术还是人性？

《连线》杂志创始主编凯文·凯利（KevinKelly）称科技是“人类的催化剂”。这种加速效果让我们兴奋不已。当苹果发布最新款iPhone（苹果手机）时，我们一起庆祝。人工智能机器人、虚拟现实和自动驾驶汽车的新闻让我们大开眼界。目前，科技是全球最热门的话题和最热门的投资领域，而且这一趋势在短期内似乎不会降温。许多曾经只存在于科幻小说中的场景如今已成为现实。未来，我们会看到教育、医疗和电力等行业的效率达到前所未有的水平，还会看到对抗癌症和饥饿等全球性问题的更伟大的胜利，甚至是永久的胜利。

但正如埃里克·韦纳（ErikWeiner）在《洛杉矶时报》的一篇专栏文章中所指出的那样，目前仍存在冲突。他写道：

“我们生活在便利的时代，这一理念是硅谷推销的核心，我们热衷于此。我们认为便利不仅是一种美好，也是一种期望，一种权利……但我们往往没有意识到便利生活的全部成本。”科技提供给我们的“便利”

今天的技术世界是由几十万人的思想和资源来建立和管理的。因此，在我们生活的社会里，最富有的1%的人现在积累的财富比世界上其余人的总和还要多，他们中的大多数人都是通过科技发家致富的。我们对技术的让步，让我们在不知不觉中把经济授权给了1%的人，而不是创造一个为所有人、子孙后代和地球的繁荣而运行的经济。如果我们不共同记住全人类固有的价值，并开始把人们的权利放在追逐利润之上，这种不平衡就会加速。

凯文·凯利写道：“我们今天生活中每一个重大变化的核心都是某种技术。”决定世界如何变化的首要问题是我们将如何使用技术，而不是我们将使用什么技术。技术将作为主要的催化剂和主导力量继续存在。它正在并将继续成为我们生活中越来越重要的一部分。关键的问题是，我们是继续让技术削弱我们的卓越地位，还是重申自己作为技术的创造者和完美主义者的地位？我们的职责是确保被创造、接受和扩散的东西总是首先培养出更优秀、更健康的人类。

凯利解释说：“我们不同于我们的动物祖先，因为我们不仅仅满足于生存……这种不满足激发了我们的创造力和成长。”我们必须做出的决定是明智地管理我们至高无上的聪明才智和蓬勃发展。我们必须不断问自己：“什么是主流？是人性还是技术？”我们必须在全世界范围内采取必要的措施，确保我们的答案是人性，而且永远都是人性。机器人与人类女孩

有些人认为，我们应该无条件地把对人类未来的控制权交给机器。他们把自己的信念建立在所谓的“技术奇点”上，技术奇点假设，已经出现的人工智能最终会引发一场智能爆炸，产生一种强大的计算机超级智能，其质量将远远超过人类的所有能力。科幻作家弗诺·文奇（Vernor Vinge）在他的文章《即将到来的技术奇点》中说，这将标志着人类时代的终结，因为新的超级智能将继续进行自我升级，并以人类无法理解的速度前进。换言之，我们将成为机器的奴隶。

这一假设的重大缺陷在于，它没有考虑人类的精神和道德特征，而正是这些特征将我们与地球上的其他物种区分开来，这些特征包括直觉、同理心、远见、信念，以及凯利所说的独创性，它们来源于人类永远渴望“更好”。埃隆·马斯克（Elon Musk）最近承认，人类被低估有一个关键的原因。机器人永远不会知道患上癌症或因饥饿失去孩子的感觉。人工智能永远无法理解分娩、海上的日落或实现10年梦想的宏伟场面。计算机程序永远无法与人类的复杂性相比，因为人类具有广泛的情感和部落特征。

最好的技术可以做的是，根据我们的管理、我们的设计、我们的编程来确定工作的优先顺序。关键是确保我们分配给它的优先事项和我们赋予它的管理方法符合全人类的最佳利益。解决办法是将人类的核心属性，即那些使我们与地球上的每一种生命形式区别开来的属性，编入我们创造的技术中；将人类智慧代码写入人工智能技术，以便让产品为我们服务，而不是让我们屈从于它。

03

人性外包：

技术正在让人性商品化、标签化

技术只有在我们允许的范围内才能自由发展。到目前为止，我们在管理技术自由方面一直很迟钝。操纵美国总统大选或许是一个转折点。至少，它为全球敲响了警钟。但我们必须掌握的真相要微不足道得多：我们都是脸书平台操纵能力的同谋。我们创造了它，多年来一直欣然接受它，赋予它力量，无论是有意的还是无意的。

2012年1月的一个星期里，脸书从大约70万名用户接收到的新闻推送中删除了10%到90%的积极情绪内容。这一行动是脸书和美国学者正在进行的一项秘密研究的一部分，他们都想知道，用户的情绪是否会被朋友通过社交网络表达的情绪所影响。他们的最终目标是确定是否有可能操纵用户接收到的推送，从而使他们更快乐，理论上，这会让他们在脸书上停留更长时间，让他们接触更多的广告，从而增加脸书的收入。据《卫报》专栏作家斯图尔特·杰弗里斯（Stuart Jeffries）称，这项研究发现：“减少某人接收到的新闻推送中积极情绪内容的数量，会导致他们在自己的状态更新中使用的积极词汇的数量显著下降，而消极词汇的数量略有增加。”换言之，这项研究证明，如果脸书愿意的话，它可以影响用户的情绪，从而达到赢利的目的。

正如你所想象的那样，当脸书进行测试的消息被泄露时，用户的反应不太愉快。杰弗里斯解释道：“脸书可能想让我们在它的网站上更快乐，这样我们就能待得更久，这让人很反感……这样马克·扎克伯格就可以买更多的游艇了。”虽然杰弗里斯认为这是“一种令人厌恶的商业模式”，但他承认这种做法在各类技术平台上并不是新鲜事。他援引《伦敦书评》的作者托马斯·琼斯（Thomas Jones）的话提醒我们：“脸书的目的是搜集、组织和存储尽可能多的个人信息，以便向广告商推销，并筛选和分层……我们不是脸书的用户，而是它的产品。”

正如琼斯所言，让“日常生活方方面面地媒介化和商品化”，并不只有脸书这么做。从手机、搜索引擎到门铃、安全摄像头和声控扬声器，你使用的几乎所有技术工具都是这么做的。我们生活在一个由技术驱动的世界里，这个世界的真相让我们像杰弗里斯一样不禁要问：我们是否已经成了“被切除脑叶的实验室老鼠”，可以被改变情绪以增加公司收入？事实上，正在争夺网络控制权的为数不多的几家大型平台公司——脸书、亚马逊、谷歌和推特，并不是为了影响我们的情绪而进行这项活动的。大多数情况下，这些公司都希望我们在使用它们的产品时打起精神，以便为我们推送更多我们想要的东西。这当然是提供良好客户服务的基础，为客户提供服务的最佳方式莫过于尽可能多地了解客户。然而，这种方法引发了一些更关键的问题。

◆ 如果搜集到的关于你的信息并不能说明全部情况该怎么办？

◆ 如果你寻找的东西不仅仅是一天十几个数字印记该怎么办？

◆ 最重要的是，这些公司掌握关于你的信息之后还能做些什么？

在一个日益受到我们所使用的技术影响的世界里，我们使用的技术越多，失去的做人的自由就越多。

对现代科技公司而言，它们的一大法宝就是把你的身份、个人数据和行为搜集、翻译，并卖给其他公司的营销人员，后者需要这些信息来向你推销产品。这种算法被称为“行为定向”，它有效地利用技术对你的行为的翻译来影响你未来的决策。这从表面上看是无害的，在现代，这似乎不过是一种精明的营销策略，也许你根本不相信它会影响我们。不幸的是，这种用技术赢利的普遍做法不仅改善了公司的营销工作，还改变了我们对自己的看法，这直接影响着我们的行为方式，以及我们会变成什么样的人。

在一个极少人能看到的隐蔽的现实背后，你正在把你的人性外包给一小部分公司，这些公司可能是善意的，但它们永远无法充分保护你，永远不能完全代表你，永远无法帮助你实现期许和梦想。在大多数情况下，它们所做的恰恰相反：破坏你的基本自主权。电影《社交网络》剧照

这个问题比经济问题大得多。我们正在谈论的是，在全球生态系统中，人类生活面临的一个明显的现实威胁。我们是存在的顶峰，头顶着创造的皇冠。但我们在不知不觉中创造了全球历史上最大的敌人——现代的科学怪人。但我们仍然可以控制故事的结局。我们必须心甘情愿且明智地行使这种控制权。

04

技术的本质：

让人类自由地做自己

在前三次工业革命中，人类首先利用蒸汽机实现生产机械化，然后用电力实现大规模生产，最后利用电子信息技术实现生产自动化。在过去的半个世纪里，第四次工业革命在第三次工业革命的基础上开始发展，德国著名经济学家克劳斯·施瓦布（Klaus Schwab）认为，第四次工业革命的特征是“跨越物理、数字和生物领域的技术融合”。

如果部署得当，这种融合极具发展前景。几十年来一直存在的全球性问题，如获得清洁的水源和治愈某些癌症，现在都可以得到解决。几十年来似乎无法实现的全球性任务，例如普及教育，现在已经成为我们生活中的现实。但就目前情况而言，施瓦布描述的消除各个领域之间的界限在很大程度上导致了对人类资源的滥用，以及失去对未来的掌控。

人类的精神和愿望的本质是自由：做自己的自由，表达个人信念的自由，以及成为我们能成为的最好的自己的自由。事实上，我们不仅是人类，还是进化中的人类。“我们作为集体会变成什么”这个问题为我们世界的未来写下了剧本。技术能否让我们共同成为最好的自己？

人类与技术的不稳定结合给我们每个人都留下了一个生存问题。它正摆在我们面前，在我们的心中激荡。你想要的仅仅是生存，还是真正的繁荣？数千年的人类历史提供了一个显而易见的答案，这个答案将我们与其他所有生命形式区分开来：人类渴望繁荣、进步，渴望变得比现在更好。