AI威胁人类，只需要制造幻觉就够了

卓克

《未来简史》的作者尤瓦尔·赫拉利一直对人工智能保持警惕。《未来简史》是2014年动笔的，那时不要说ChatGPT了，连AlphaGo战胜李世石都还要再过一年半才上演。但赫拉利已经在书里预测了AI对人类的威胁。当年他预测，AI在音乐艺术和内容创作中发挥作用的同时，也会导致当前的从业者被边缘化。这一点在2023年持续了148天的美国编剧大罢工事件上已经应验。

2023年，赫拉利发表了新一波AI威胁论，他提到，对于AI威胁，人们总默认要有两个前提，一个是AI要发展出意识、感情，才能在精神世界对人类形成实质性威胁；另一个是AI要发展出可靠的移动能力、动作能力，才能在物理世界对人类形成实质性威胁。这两条多少都受到科幻作品的影响。

比如，《黑客帝国》就是典型的AI在精神世界对人类构成的威胁，那个叫作“矩阵”的机器靠人类提供能量，并可以依照机器自己产生的意识生成可以控制人类的虚拟世界。而《终结者》讲的则是AI机器人在速度、力量、协调能力远超过人类后，对人类实施的统治和毁灭。

赫拉利说，AI要对人类构成足够大的威胁，其实根本不需要满足这两条。什么时候危机就会降临呢？只要AI可以掌握语言，能生成真假难辨的内容就足够了。

当前的AI科技，正在这条线的边缘。

人类有一个久远的恐惧，那就是困在虚幻中，不能触碰到真实世界。比如，佛教讲“六根六尘”——眼、耳、鼻、舌、身、意，色、声、香、味、触、法，这些互动全都是暂时的幻觉，不能揭示真正的现实。佛教的终极目标就是帮信徒看穿幻觉，最终实现觉醒和解脱。

另外，《美丽新世界》和其他反乌托邦小说也都在描述一个令人恐怖的由权力编织的假世界。

所以，当人们无法分辨真伪时，无边的恐惧就降临了。而AI不需要展现出意识和情感，不需要能灵活运动，就可以做到这一点。

比如，写这篇文章时，我想找一个人类被虚幻笼罩而无法触碰真实世界的例子，但我只想到了《1984》和《美丽新世界》。没有ChatGPT的时候，我只能去网络里一遍遍搜索，若想找到佛教“六根六尘”这样好的例子，可能需要很长时间。

但有了ChatGPT，我只需向它提问：几千年来，人们对困在幻觉世界的恐惧都有哪些著作？它瞬间就列出了6个：柏拉图的洞穴寓言、东方玛雅矩阵、浪漫主义和超验主义、反乌托邦文学、电影《黑客帝国》、佛教“六根六尘”教诲。

这简直太好了！然后我再追问，“六根六尘”的说法具体怎么体现人对困在幻觉世界的恐惧呢？得到的答案就是剛刚我说到的内容。当然，我并不是直接复制粘贴，而是在写进稿子前又搜索核查了一遍，看看是不是和ChatGPT给出的解释一致。

但更多的普通用户，他们从ChatGPT上获得了一个说得通的答案，就不会再去核实了。而“说得通”与“真”是两码事。假如你把一大堆说得通但是编造的内容当作真实去看待的话，你的世界就已经困在幻觉中了。

有人说，这还不好办？我核实一下不就完了吗？

其实，我们之所以还能核实，是因为目前由人类产生的内容总量远远超过由AI产生的内容，所以用谷歌搜索出的内容99.999%不是AI编造的。但AI可以7×24小时无休止产出，它的产量是我们的千万倍。等到在网上一搜，搜出的结果有三分之一都是AI产生的，核实的步骤也就没有意义了。

我听说李白有一首诗《夜泊牛渚怀古》，在ChatGPT上一搜，出现了两首：

（一）牛渚西江夜，青天无片云。

登舟望秋月，空忆谢将军。

（二）牛渚西江夜静妖，

古渡无人舟自娆。

哪个是真的呢？我就去网上核实，没想到搜索结果里还有另外7个不同的版本。到底哪首是真李白写的呢？

有些人分析，第一首才是真的，因为“望秋月”和“空忆谢将军”更贴近怀古，更像感伤。但你之所以能看得出来，是因为今天的ChatGPT对中文语料输出的水平还不够。等今后足够好的时候，只要不是信息考古专家，再聪明细致的人也分辨不出来。

生成式AI做出的这些改动并不是随机乱改，而是依据算法。算法可能是让输出更贴近人们经常使用的表达方式，也可能是依据统计规律中呈现的人们的审美偏好，也可能是依照某些禁令做的删改。

当唐诗无法确认真伪，经书无法确认真伪，我们难道就能确认社交媒体上点燃我们情绪的发言、打动我们的内容就是真的吗？今后很有可能出现的那些所谓微言大义的内容难道就是真的吗？

过去十年，社交媒体在争夺人们注意力上打成了一锅粥。现在随着AI的出现，争夺的焦点已经变成了情绪和信任，而要赢得这场胜利，AI并不需要具备意志、情感、情绪，也不需要能跑会跳、控制武器，它们只要能精细地生成真假难辨的内容就足够了。这就是尤瓦尔·赫拉利的担忧。

最后，赫拉利也给出了明确的解决方法：严格标注由AI生成的内容，减慢从实验到产品的尝试。慢下来后，就能看出更多潜伏的危机了，在危机成长成灾难前给予监管。

（摘自“得到App”，本刊有删节，仙人掌图）