当您想到即将到来的人工智能末日时，您会想到什么？如果您偏爱科幻电影的陈词滥调，您可能会想象杀手机器人（带有或不带有浓重的奥地利口音）崛起并消灭其傲慢的创造者。或者，也许，就像《黑客帝国》一样，你会选择可怕的机器，它们会从我们的身体中吸取能量，并用模拟现实来分散我们的注意力。
对于尤瓦尔·诺亚·哈拉里 (Yuval Noah Harari) 来说，他在过去十年中花了很多时间担心人工智能，但对他来说，这种威胁不再那么梦幻，而是更加阴险。 “为了操纵人类，没有必要将大脑与计算机物理连接，”他在引人入胜的新书《Nexus》中写道。 “几千年来，先知、诗人和政治家一直使用语言来操纵和重塑社会。现在计算机正在学习如何做到这一点。他们不需要派杀手机器人来射杀我们。他们可以操纵人类扣动扳机。”
语言——以及人类将其编成巨大的、环绕全球的纱线的能力——是这位以色列历史学家如何理解我们物种及其脆弱性的基础，这位以色列历史学家现在正在写他的第四本科普书。在他 2014 年大受欢迎的《智者》（Sapiens）（最初于 2011 年以希伯来语出版）中，他认为人类之所以占据主导地位是因为他们学会了大规模合作，这要归功于新发现的讲故事的能力。这种能力使我们的祖先能够相信完全虚构的事物，它是我们宗教、经济和国家的根源，如果我们的叙事能力以某种方式关闭，所有这些都会消失。
《Sapiens》迄今为止已售出 2500 万册，这证明了赫拉里自己的讲故事能力，尽管它也有一些批评者。学术界质疑其准确性以及将 7 万年人类历史塞进 450 页的想法。情景喜剧取笑哈拉里的超级粉丝，他们像现代圣经一样挥舞着这本书。 《智人》的吸引力在于其令人眼花缭乱的范围，但正如 2020 年《纽约客》的一篇简介指出的那样，赫拉里的缩小方法可能会产生最小化时事重要性的效果。
Nexus可以被视为对这种批评的谴责。尽管它在数千年中进行了极快的冲刺，在时间和大陆之间来回跳跃，但它非常关心今天发生的事情。
如果说故事是智人模式的基础，那么这里的一切都与信息网络有关，赫拉利将其视为支撑我们社会的基本结构。他写道：“力量总是源于大量人类之间的合作，”而将这些合作网络结合在一起的“粘合剂”就是信息，“许多哲学家和生物学家”将其视为“现实最基本的组成部分”。
但信息并不能可靠地讲述世界的真相。赫拉利强调，更常见的是，它会产生虚构、幻想和集体妄想，从而导致纳粹主义和斯大林主义等灾难性的发展。为什么智人尽管在进化上取得了成功，却总是如此自我毁灭？赫拉利表示，“问题不在于我们的本性，而在于我们的信息网络。”
哈拉里审视了过去信息如何让我们误入歧途，他不乏可以借鉴的例子。其中最令人难忘的是《Malleus Maleficarum》 ，由多米尼加修道士 Heinrich Kramer 在 1480 年代的奥地利撰写。这本书是一本以极其可怕的方式揭露和谋杀女巫的指南，如果几十年前没有印刷机的话，这本书不会走得太远，让克莱默的疯狂思想传播到整个欧洲，引发了一场猎巫的狂潮。
赫拉里的基本观点是，信息革命可以带来人类繁荣时期，但总是要付出代价。当我们发明闪亮的新技术，将文字和思想比以往任何时候都更远、更快地传送时，喷涌而出的许多信息都是垃圾或非常危险的。在维护社会秩序方面，虚构往往比事实更可靠，这一事实也无济于事。
人工智能革命的可怕之处不仅在于我们会被聊天机器人的错误信息淹没，也不在于当权者会利用它来处理我们私人生活的数据。与书籍和收音机等以前的技术不同，赫拉里写道：“人工智能是第一个能够自行做出决策和产生想法的工具。” 2016-17 年，我们在缅甸看到了这方面的早期警告，当时 Facebook 算法的任务是最大限度地提高用户参与度，但其回应却是宣扬仇恨的反罗兴亚人的宣传，助长了大规模谋杀和种族清洗。
时事通讯促销后
赫拉里有力地说明了为什么我们应该将此类算法视为自主代理，以及如果我们不小心，人类将如何成为人工智能以更可怕的力量进行操纵的工具。除非我们立即采取行动，否则这种新兴的“外星智慧”（他更喜欢这样称呼它）可能会引发我们无法想象的灾难，甚至包括人类文明的毁灭。
这种对人工智能的悲观态度并不新鲜：Eliezer Yudkowsky 等“厄运者”多年来一直警告其世界末日的潜力，甚至人工智能行业也开始表达担忧。赫拉里试图在这场辩论中增添的是长远的眼光。通过将他的镜头应用于以前的信息革命并展示不同形式的政府如何应对这些革命，他相信我们可以为即将到来的地震做好准备。
Nexus有一些奇怪的盲点；奇怪的是，在对主要由营利性公司驱动的技术的批评中，资本主义几乎没有被提及。但无论你是否同意赫拉里对人工智能的历史框架，你都很难不被他构建人工智能的细致方式所打动，他用生动的例子来点缀可能相当枯燥的分析，比如雪儿·阿米（Cher Ami）的故事，第一个人工智能的故事。世界大战信使鸽，在这里用来梳理信息的基本滑稽性。与之前的书籍一样，他严重依赖列表（“两个主要挑战”、“五个基本原则”）和二元论（真理与秩序、民主与独裁），但这有助于组织他的思维，而不是使写作变得乏味。
他提出的限制人工智能能力的解决方案范围广泛，从明智的（禁止机器人模仿人类）到可笑的（鼓励艺术家和官僚“合作”以帮助我们其他人理解计算机网络），但Nexus主要用作诊断并呼吁采取行动，从这些方面来看，它基本上是成功的。如果它的销量接近智人的水平，我们作为一个物种就能更好地应对机器的崛起。
免责声明
本文内容(图片、文章)翻译/转载自国内外资讯/自媒体平台。文中内容不代表本站立场，如有侵权或其它，请联系 admin@eiefun.com，我们会第一时间配合删除。