尤瓦尔·赫拉利：新技术用来造天堂还是建地狱，全看我们如何选择

文 尤瓦尔·赫拉利 译 林华

“大家”阅读

互联网时代，读者并不缺乏信息，但一些真正具有传播价值的内容，却往往淹没于信息洪流之中。力求将最有价值的信息，最有锐度、温度、深度和多维度的思考与表达，最值得阅读的网络优质原创内容，快速呈现给读者，是 《世界文化》的初衷。【“大家”阅读】每期将甄选优秀公众号上所汇聚的中文圈知名学者、专栏作家的最新文章，与读者分享“大家”眼中的“世界文化”。

“2011 年夏，我写完《人类简史》后，觉得肯定不会再讲那个故事了。我对那本书有一份特别的喜爱，也为该书的成功而心存感激，但我觉得我已经讲完了人类这个物种如今的故事。人类2.0 仍在展开，可我想以后的故事最好留给别人去讲。

“但是，2016 年美国总统选举后，我想我恐怕要回到开头，重新审视我们这个物种通过想象建构秩序和统治结构的独特能力。

……

“今天我们面临的巨大挑战是创立一个不以民族国家或资本主义市场为基础的由想象建构的新全球秩序。有没有办法呢？

“这就是我想在本书中讲的故事。”

尤瓦尔·赫拉利

写出上面这些文字的不是我尤瓦尔·诺亚·赫拉利，而是一个强大的人工智能系统按指令模仿我的写作风格写的。这个人工智能系统叫作GPT—3，是旧金山一家专门研究机器学习的实验室“OpenAI”制造的。GPT—3 接到指令，要它为《人类简史》出版10 周年写一篇新序，于是它收集了我写过的书和文章、对我做过的访谈，以及在网上找到的几十亿个句子，使用这些原材料生产出了上面的文字。这些文字没有经过任何编辑改动。

我读着GPT—3 模仿我的风格写出的文字，心情复杂。一方面，我觉得这些文字不怎么样。GPT—3 抄了我自己写过、说过的一些话，将其与从互联网上搜罗到的各种主张糅在一起。这些主张中有很多是我不同意的，甚至有些我认为不能服人，或者简直荒唐可笑。如此产生的文章是文字与思想的大杂烩。目前我并不担心——GPT—3 不会夺走我的工作，至少今后几年不会。

另一方面，我真心讶异不已。读着上面的文字，我被惊得瞠目结舌。这是人工智能写的吗？！不错，这些文字是这里一点那里一点拼凑起来的杂烩。可天下文章难道不都是这样吗？我写《人类简史》时，也阅览了许多书籍、文章和访谈录，把不同的思想和事实合并起来写成新的东西。GPT—3 生产的这些文字最令人震惊的是它居然言之有理。它不是胡乱拼凑了一堆句子，而是有着连贯的逻辑。我不同意GPT—3 的一些论点，但使我感到惊骇的是，这些文字真的提出了论点。如果给“无限猴子定理”中的猴子一台打字机让它玩，我只需瞥一眼，半秒钟内就能够认定猴子打出的东西不是我写的。可是，我得把GPT—3 的文字仔细读上一两分钟，才能得出结论这并非出自我手。

还有一点令我惊愕，也令我警觉。那就是变化的步伐。GPT—3 作为人工智能依然非常原始。厉害的还在后面。2010 年我写《人类简史》时，我几乎没有想过人工智能。它听起来不属于严肃的历史书，倒像是科幻电影的题材。可是，当我坐在图书馆里埋头于故纸堆的时候，我那些在计算机科学实验室的同事也没闲着。2011 年，《人类简史》以希伯来文首次出版，一个名叫沃森的人工智能在美国一个很受欢迎的智力竞赛节目《危险边缘》（Jeopardy）上打败了人类参赛者，一辆自动驾驶汽车在柏林城里的大街小巷穿行了一圈，苹果手机上安装了语音助手Siri。

10 年后，人工智能革命席卷世界。这场革命标志着我们所知的人类历史的完结。数万年来，人类发明了各种工具，使人类的力量更加强大。斧头、轮子和原子弹给了人类新的力量。人工智能却不同。有史以来第一次，力量可能会脱离人类之手。

以前的所有工具都使人类更强大，因为工具本身无法决定自己的用途。决定的权力从来都掌握在人的手中。一把斧头决定不了砍哪棵树，一颗原子弹无法决定是否要发起战争。但人工智能可以。今天，你去银行申请贷款时，已经是人工智能系统决定是否批准你的申请了。你求职投简历的时候，审查你的简历、决定你的命运的很可能是一个人工智能。

《人类简史三部曲》尤瓦尔·赫拉利/著，林俊宏/译中信出版集团

《人类简史：从动物到上帝》（十周年畅销纪念版）作者：尤瓦尔·赫拉利 译者：林俊宏出版时间：2017年2月

AI创作系统Disco Diffusion：只要输入描述性的关键词，之后交给系统渲染生成，便能得到极富视觉冲击力的画作，图为系统渲染出的凡·高《星空》和《向日葵》。

以前的所有工具都使人类更强大，因为人懂得工具，而工具不懂得人。一个农夫知道一把斧头能做什么，但斧头不明白农夫的需要和感觉。很快，人工智能就能比我们更加了解我们自己。它是会继续做我们手中的工具，还是我们会成为它的工具呢？

至少还有几年的时间，人仍然比人工智能更强。具体来说，我们仍有能力决定人工智能和其他革命性技术的发展和用途。我们一定要明智地使用这个能力。技术的目的从来不是先天确定的。同一个技术可以有许多不同的用途。在20 世纪，一些社会通过电力、火车和无线电的力量建立了极权独裁，其他社会使用一模一样的技术创造了自由民主政体。21世纪的新技术是用来造天堂还是建地狱，全看我们如何选择。

要做出明智的选择，我们需要了解新技术的充分潜力，也需要更好地了解自己。如果我们能使用人工智能创造一个新世界，那个世界将是什么样子？如果你能够使用生物工程学来重塑人的身体与头脑，你会做出何种改动？

童话故事里，一条神奇的金鱼或一个无所不能的精灵答应满足人的三个愿望时，通常都没有好结果。人所求的都是错的，因为他们不知道自己的苦难或幸福的真正来源。若想比童话故事里那些笨拙的人得到更好的结局，就需要知道作为人的意义。我们是谁？我们从哪里来？

所幸过去10 年间，随着数字设备的威力呈指数增加，我们对人体生物学和人类历史的知识也加速增长。自从2011 年《人类简史》出版以来，科学家发现了人类族谱上的几个新支。2013年，在南非初次发现了属于纳莱迪人（Homo naledi）的遗骨。2019 年，发现了曾居住在菲律宾吕宋岛上的吕宋人（Homo luzonensis）。2021 年，在以色列和中国分别发现了两个可能的新人类物种。

我们不仅知道了其他古人种的存在，还对他们的生活有了更多了解——他们吃的食物、他们的行为方式，甚至他们交配的对象。我写作《人类简史》时，我们只知道几个小小的线索，暗示智人和尼安德特人发生过混种繁殖。现在，我们已经掌握了关于他们相遇相交的很多证据。我们还知道，智人和尼安德特人都和另一个神秘的人类物种杂交过，那个物种叫丹尼索瓦人，是2010 年初次发现的。最近，科学家发现了一个混种人的骸骨，其母亲是尼安德特人，父亲是丹尼索瓦人。

自我写成《人类简史》以来，人类的故事增添了众多细节和新的曲折。但是，我在书中表达的中心意思丝毫没有改变：对智人最好的描述是，他是会讲故事的动物。我们创作出了关于神、国家和公司的虚构故事，而这些故事构成了我们社会的基础和我们生活意义的源泉。我们比任何其他动物知道的真理都多，但我们相信的虚构故事更多。但只有人类会为了故事而彼此杀戮，而我的论点是，如果真想搞懂人类历史，就必须认真对待我们的虚构故事。只看经济或人口因素是不够的。

Homo naledi的骸骨

仅以第一次世界大战为例。德国和英国为什么打仗？不是因为领土不够大或食物不够多。1914 年，两国有足够的领土为所有国民造房子，也有足够的食物养活国民。但是，它们两国无法就一个它们都能相信的共同故事达成一致，于是就发动了战争。今天，英国和德国实现了和平，不是因为它们的领土增加了（其实两国的领土比1914 年时少了许多），而是因为现在它们有了一个大部分英国人和德国人都相信的共同的故事。

几千年前佛陀就说过，人世乃梦幻泡影。在人工智能时代，我们相信的故事比以前更加重要，因为我们有了追求幻想的更强大的技术。

古人想象天堂和地狱时，他们的幻想深深地影响着他们的行为。可是，他们只能把天堂推迟到想象中的来生。在21 世纪，至少有些人会忍不住使用人工智能、生物工程学和其他革命性技术来试着在今世实现自己的幻想。如果我们不谨慎地选择自己所相信的东西，很可能会被幼稚的乌托邦幻想误导，陷入技术地狱之中无路可退。

要创造一个更美好的世界，只学会计算机编码或解译遗传密码是不够的。人工智能和遗传工程学很容易被用来为极权暴君和宗教狂热分子服务。我们真正需要明白的是人的头脑以及头脑产生并相信的幻想。这是诗人、哲学家和史学家的任务，现如今这个任务比任何时候都更加紧迫。

常有人问我，为什么《人类简史》引起了这么多读者的共鸣。我认为，这本书之所以成功，是因为它满足了一个实实在在的需求，为大家讲述了一个关于人类历史的最新科学发现的故事。不过，我也试着帮读者从一个新的角度来看大局。我们生活在一个全球性世界中，但大多数学校里教的和书本上讲的都还是某一个国家或文化的当地历史。要想了解你的未来，你需要了解整个世界的历史和全人类面临的挑战。我写此书，是想帮人们更清楚地看世界，让每个人都有能力参加我们时代最重要的辩论。

GPT—3 冒充我写的那些文字我并不全同意。但其中有一句话我完全认可：“我们生活在由和我们非常不同的人在我们出生很久以前发明的思想牢狱之中。”在我看来，像我这样的历史学家的工作是展示这些思想牢狱是如何建造起来的，并表明我们并非注定关在其中无法逃脱。人是讲故事的动物；没有故事，人类社会就无法运作。但归根结底，这些故事不过是我们为了帮助人而创造出来的工具。如果一个故事造成的弊大于利，我们总可以把它改掉。