AI：非人类权威的生成

熊伟

生成式AI的狂飙突进让人工智能受到的关注又多了一些。其实，在实验室里，在数不清的服务器组成的广袤“农场”上，在生产车间，在线上线下的闲聊中，人工智能从未离场。只是看到生成式AI跨过了娴熟运用自然语言的关口，人们对各种技术路线的人工智能又新增了期待，也新增了担忧。

人工智能技术本身的进步引发好奇，人工智能在各产业的应用值得跟踪，人工智能的社会影响同样不容忽视。我们已经在《中国信息化》今年（2023年）5月号刊发《生成式AI与舆论——“海量耳机效应”》，提出生成式AI能够造就一种舆论工具，给海量用户“戴上耳机”，在他们耳边絮语，潜移默化地影响他们的思想。新的舆论工具将是颠覆性的，比已有的报纸、杂志、广播、电视、网站、移动新媒体等等媒介更加有力。

舆论是社会的“皮肤”，也可能是人工智能首先影响的社会层面。我们将由表及里，继续讨论。

回溯祭祀活跃的部落，以吏为师的国家，以及其他林林总总的古代社会，我们会意识到，人群中出现权威的历史已经十分漫长了。如果要找到各种权威的共同点，或许可以说，他们都是受到周围人们信服的知识提供者，占据着文化的高地。按照文化社会学的观点，所谓文化，就是社会或人群共同的信息。如果把文化的范围扩大，加上物质部分，文化则是社会或人群共同的成果。在人工智能出现之前，知识全部直接产自人类；而现在人工智能也可以生产知识，尽管其中有大量错误的知识。但这一点并不特殊，因为人类也生产了大量错误的知识。当新的知识源出现时，非人类权威也立即出现了。

围棋之“神”

生物学中有“生态龛位”概念，指不同物种凭借各自优势在生态系统中占据生存位置。人类在飞翔、游泳、视觉、听觉、嗅觉、速度、力量等等方面，都弱于某些物种，但智力卓越，由此占据了生物圈中最具优势地位的生态龛位。因为人的优势来自智力，所以当人们看到比自己跑的快的羚羊、猎豹，比自己力量强的狮子、大象，不会有心理劣势。同樣地，当人们制造出比自己速度快的工具，汽车、火车、飞机，比自己力量大的机械，起重机、空气锤，也没有什么失落感。然而一旦人们发觉智力被其他事物超越，感受就完全不同了。人容易接受非人的“他者”力强于人，却难以接受“他者”智胜于人。而且智力之中还有区分，有些智近乎力，如暴力解算。计算机算多位数相乘比人快很多，毫不稀奇，人们不放在心上，但在分析、推理、决策上，人总是自负的，被人工智能超越，就没那么舒服了。

棋类游戏是一个值得研究的角度。人工智能下棋超过人类造成很大的心理改变，而围棋带来最后一击。1997年5月，IBM公司的计算机“深蓝”第一次在标准国际象棋比赛中打败世界冠军卡斯帕罗夫。这一事件在未来几年引起了严重的担忧。笔者在2001年采访包括三位图灵奖获得者在内的多位专家，写了题为《像海参一样愚蠢——人工智能与智能计算纵横》的科普文章，发表在《计算机世界》上。其中有一句“当IBM的计算机打败国际象棋大师的时候，有人坐不住了：计算机如此聪明，它们能力的成长会失去控制，最终危害人类吗？”反映了二十多年前世纪之交时人们面对人工智能的心态。可见对人工智能的警惕绝不是新近产生的。那时计算机下围棋还很业余，有人一度认为计算机永远也下不过人类专业围棋手，并臆想了一些理由来支持这种判断。但围棋的特殊性并没有维持住人类的领先地位，2016年3月，谷歌旗下DeepMind公司研发的AlphaGo战胜围棋冠军李世石，比分为4：1；2017年5月，AlphaGo的升级版AlphaGo Master战胜世界排名最高的围棋手柯洁，比分为3：0。

顶尖围棋手面对比自己下棋更厉害的人工智能，一开始表现得非常不甘心。李世石36岁就退役了，他说败给人工智能对他打击很大。柯洁在与AlphaGo Master对局时落泪，此后数次表示不愿意与人工智能比赛，还说“我这辈子打不败AI”“我并不希望AI出现”。但在机器的实力面前，人类不得不承认差距。李世石九段在退役纪念赛上与韩国围棋AI“韩豆”下了两局棋，第一局竟然被让二子！面对AI，棋手们的心理也有明显的变化，从原先的不甘、遗憾，到现在下出AI的第一选择时的自喜——棋手们已经甘当AI的小学生了。不得不说，他们是理智的。自从棋手们不再“妄想”战胜AI而是诚心诚意向AI学习，他们的棋力迅速提高了。世界冠军唐韦星说，人工智能可以很好地帮助年轻棋手提高水平。

围棋AI已然远远超越人类，成了围棋之“神”。这正是一个非人类权威生成的故事。

知识的流向

下棋的策略方法是知识的一类，此类知识的效用体现在棋力上。棋手向人工智能学习，是通过观察对局，总结规律，然后自己形成关于行棋方法的知识。棋手们并没有向围棋人工智能询问如何提升棋力。

知识检索类AI则与此不同，你可以向它们提问，然后获得想要的知识。知识检索类AI大放异彩的事件发生在2011年2月，IBM公司研发的人工智能“沃森”以悬殊比分在美国著名智力竞答电视节目“危险边缘”中击败两位人类“常胜将军”，把100万美元大奖收入囊中。笔者曾采访参与IBM“沃森”项目的研究员潘越，写了一篇题为《像海参一样愚蠢，但比科学家聪明》的专栏文章，2011年7月发表在财富中文网上。潘越说，通过上网检索并用判断算法评估检索结果的正确性，“沃森”能回答“是什么”，但对“为什么”和“怎么样”类型的问题表现很差。

生成式AI如ChatGPT和知识检索类AI也不同。“沃森”工作时是要接入互联网搜索答案的，ChatGPT却不联网，它自己根据此前的训练来生成答案。“沃森”出错的情况很少发生，偶尔出错的原因是它搜到了错误答案却误以为正确；ChatGPT则“擅长”胡编乱造，每每提供错误答案，需要人类自己核实它生成内容的正确性。让今天的ChatGPT和12年前的“沃森”来一场知识比赛，“沃森”必然完胜。

生成式AI的长处在于掌握自然语言，真的能够自己“说话”而不是复述输入的内容。当生成式AI和知识检索类AI实现优势互补，人们就有了既能够提供可靠知识，又很会使用人类语言文字的AI。即使只考察12年前的“沃森”，也不难认识到，AI能够掌握的数据比一个人的记忆库不知大多少倍。其实，知识权威的桂冠正像棋力桂冠一样，已经牢牢戴在AI的头上，如在医疗领域，人工智能作为医学知识权威，早就开始“执业”诊疗了。今年6月，中国科学院院士顾东风教授说：人工智能可以快速处理大量医疗数据；在临床诊断方面，AI能够识别5类38种心电图，算法的诊断敏感性明显高于普通心内科医师的水平。

吉登斯在《现代性的后果》一书中提出：“在现代性的条件下，再没有什么知识是‘原来意义上的知识了，在‘原来的意义上，‘知道就是能确定。”这种观点能够帮助我们理解数字时代的“知识反哺”现象——传统社会里总是前辈向后辈传授知识，而在现代社会，由于知识日新月异，并且青少年接受能力更强，父母、祖父母反而要从青少年那里获得知识，如手机的设置、网购的方法。我们也可以设想，在AI应用普及的未来，再没有什么知识是“原来”意义上的知识了，除非它经过了AI的确认。在那样的场景中，AI扮演熟悉互联网和手机操作的青少年，人类扮演它们的父母和祖父母。人们开始习惯于就某个不了解的知识向AI提问，把获得的回答奉为标准答案。这种方法的好处是节约时间，让学习知识的效率极大提高，但难免让AI成为无可争议的知识权威。

当人们在诸多领域习惯了非人类权威，社会心理将变得怎样？不妨参考围棋手们预演的心路历程：痛苦——不甘——反抗——反抗失败——接受现实——察觉好处——甘之如饴。

非人类权威的生成，也即人类权威的黄昏。由于AI，世界将从诸神的黄昏走向人类的黄昏吗？抑或AI将成为新的造神运动的产物？或许我们还有一些时间来思考这些问题。