李喆：认识AI，更多是为了认识人类自身

徐梅

李喆坐在北京大学图书馆台阶上。图/受访者提供

“这里面的利害远远超过了对索拉里斯文明的探索，因为它所牵涉的是我们自己，事关人类认知的局限性。”

当我在《索拉里斯星》里读到这句话的时候，心里一震。

2023年3月22日跟李喆通话时，他提到了这本科幻小说——波兰作家斯坦尼斯瓦夫·莱姆在上世纪六七十年代以不可思议的想象力，写出了这个人类与外星文明相遇的故事。

索拉里斯星文明是一个类似于智能海洋文明的超级存在，充满人类科学家不能解释的现象，“这片活海洋”仿佛一个巨型大脑，它比人类文明领先数百万年，但它的行为并不依照“人类的观念”，它不建造城市和桥梁，也不造飞行器或试图穿越太空，也不试图征服宇宙，而是“整天忙于进行成千上万次的‘本体自发变形”。

像不像黑匣子里不知疲倦地自主学习不断进化的AI？

小说里莱姆写道，承认这片大海具有意识已经需要极大的勇气，跟这个会思考、拥有心理活动却非人类观念的庞然大物“对话”更是要逼疯人类。

“归根到底，一个人只能用他自己的大脑来思考。”

“再说，就算真的和会思考的海洋实现了‘信息交流，人们究竟希望从中得到些什么呢？他们又能从中期待些什么呢？”

“谁知道呢？也许这样是值得的，……我们恐怕不会对它有任何了解，但也许能够了解一下我们自己……”

索拉里斯星上的智慧大海沉默不语，精神濒临崩溃的人类科学家喃喃自语。

我是跟李喆通完电话后，才看的这本小说，书上读到的这些句子，让我对他的思考和认知更新有了更多理解。

李世石退役的时候，李喆在《围棋天地》上发表了一篇文章，流传甚广。他在文中称，李世石的退役标志着充满智慧创造和个人风格的棋士时代的终结，称之为“一个时代的退隐”。

李喆在那篇文章里借用了文学批评中“作者已死”的观念，以此关照AI出现后被迫“从创造主体降格为模仿者”的人类顶级棋手，“作者的隐匿退出，作品的同质化与套路化，创造性的消亡，新形式的缺失……如果说这些危机在文艺领域还只是影影绰绰地呈现于敏锐专业的人群心中，那么在围棋界，这些危机在技术飞跃的这两三年里，已经实实在在地摆在所有人面前。”

跟李喆通话的时候，武汉大学正是樱花盛放的时节，在這所被誉为全国最美的花园大学里，李喆给武大学生开了一门围棋课，下棋不多讨论不少，期末考试，学生并不需要在棋盘上鏖战收官，而是要交一篇小文章。

李喆总是会联系最新的新闻，让同学们展开讨论。思辨是人类最强大的认知更新工具，而ChatGPT永远“自信满满”，研究人员迄今还未攻克的一个难题是训练它，让它知道自己“不知道”，遇到未知领域的问题，可以直接回复“我不知道”，而不是一本正经地说瞎话。

3月份有一个重大新闻，美国棋手凯琳·佩林并非职业棋手，甚至在业余棋手中也算不上高手，然而他与顶级围棋AI KataGo对阵竟然14胜1负，这个战绩令世界顶级棋手都不敢想象。

“他取胜的方式并不是人类常规的行棋思路，而是一个科技公司开发出来的，由另一个AI算出的针对AI盲点的下法。”

研究人员表示，KataGo之所以失手，可能是因为在它的对抗性演练中，并没有经历过足够多的此类下法——或者说，这种制造“包围圈”的下法往往在刚开始时就因为浪费棋子太多，而被认为注定落败，所以围棋AI也没有意识到如果让“包围圈”合围，自己就会落败。

这个棋盘上的实验充分显示了AI快速部署的潜在风险，如同开发这个击败顶级围棋AI程序的美国加州科技公司FAR AI的首席执行官所言，“我们能看到，非常庞大的AI系统在几乎没有被验证的情况下就被大规模部署了。”

除了人工智能并非全知全能、在部署上必须慎重可控这个点，李喆更想要引导学生们通过这则新闻深入思考围棋AI的思维模式与人类的差异，以此理解纵使AI可以在知识层面上迅速超过人类，人类与AI之间的学习过程仍然是复杂的、长期的。

在李喆看来，人类棋手这些年在做一个非常前沿的思维实验，将AI所展示的下法，通过人类的思维方式进行理解，“转化为人类的知识。”

“我们都在说人类棋手在学习AI，其实AI怎么想的，人们并不知道，它在黑匣子里运行，它的启示是一种沉默的启示。人类向AI学习的过程是非常漫长的，这个过程中人类会看到AI的边界，也会更多认识自己。”

“人类棋手与AI共存七年，你最深的感触和思考是什么？”李喆在我们结束通话前的最后一问中陷入了长考，“我要想一下再回答你，我给你发微信吧！”

挂断电话几分钟后，我的手机对话框里跳出这样一段话——“七年来，和围棋领域一样，AI在各行业生成超越以往人类认知的信息，这些信息之精确和高效将带来许多外在的行业结构变化和内在的反思性，也引发一些焦虑不安。不安和抗拒的源头或许关于人类思维与AI算法的对照：解AI算法 bug不易，破人类思维惯性更难。”

以下是李喆对于人类智慧与人工智能如何“接触”的思考：

这学期开始我给学生出了一个题目：“AlphaGo之后ChatGPT又引发了一个人工智能的热潮，为什么AI在围棋和语言方面的应用会引起全世界的关注？”

有一个学生交的作业写得特别好，他说就他而言，AI最让人感兴趣的是，它就像是人类认知世界思考问题的一面镜子，围棋AI甚至没有收官的概念，只有胜率和最好的下法，恰恰反映出人类对围棋是以自己的思维方式来认知的。

他说就像科幻小说《索拉里斯星》里的一句话，“在人类不存在的地方也就不存在人类能够理解的逻辑。”

这位同学说，“人类的有限性促使我们必须追求在自我的理解中实现最优解，同时还要明白世界存在着各种各样的认知方式，对此我们必须理解和尊重。”

我上学期给他们上课的时候讲了很多关于AI的算法和我们人类下棋的思维差异性，首先是为什么AI能赢我们，其次是除了胜负以外还有什么内容。

这里面肯定不光是输赢，还有很多关于认知方面的问题——我们人类下棋是通过一个什么样的认知和决策结合起来的；AI下棋是怎么下的？这些异同都会反映在棋盘上。

有了AI之后，AI的下法是不是真的能被我们理解，我们所谓的理解到底是什么？这些都很值得去探讨。

AI为我们展现并揭示出一种更真实、更正确的“认识”或者可称之为真理，当然它们现在能力还有限，不是绝对正确。

这种揭示是一种沉默的揭示，它不会告诉你为什么。如果不告诉你为什么的话，其实它给出的知识就还不完全是一个可以直接在思维上指导你的一种工具，思维的重新建立，还是要人类自己来做的。

我们依靠AI先拿到一个结果，然后我们去推这个过程，这和以往我们的认知方式是相反的，而且这个过程并不是AI本身的过程，因为AI的过程我们是不知道的，我们也无法模仿。

2001年中国围棋乙级联赛，12岁的李喆取得五胜二负。图/受访者提供

我们要用人的思维模式来完成这个过程，这个过程实际上也只是对我们人类自己有意义，对人类提高自身的认知能力有意义。

我们这一代跨越了前AI和AI两个时代的“过渡时期的棋手”都在做这个工作，从小学的都是传统的人类整体的经验，加上自己个体的天赋和经验的结合，这是我们在AI出现之前的学习方式和知识获得的方式。

AI出现之后，它呼唤了一种新的能力，一种在AI给出的信息和你自身的认知之间建立起一种新的连接的能力。掌握这种能力不是一件很容易的事情，在AI的算法和人类的道理中，要建立起一个术和道的对话，这是比较困难的，是一个长期的事情，不是一下子能够完成的。

有一种说法认为现在的棋手记忆力强就会占优，把AI的棋都背下来就赢了。这是不可能的，围棋太复杂了，变化太多，不可能靠死记硬背学AI就行。我觉得这完全是一种误解，是对后AI时代人类优秀棋手的贬低，能够把AI的棋更好地转化为自己的理解，这个能力是很难得的，是一种很强的能力。

有趣的是，AI看似给了标准答案，但由于它没有给出解释，导致每个棋手用人类思维转换它的时候，理解路径都不一样。AI的一步棋，同样是顶尖棋手，因为他们各自的风格不同、认知不同，可能产生的理解就不同。

从这个角度来看，我也不认同今天的棋手因为AI失去了个人风格这个说法，我觉得这个说法是非常粗糙简单的。打一个不那么恰当的比方，今天世界足坛也有风格化丧失的说法，但实际上每支球队都有自己的节奏和特点，只是随着专业化的进程，这些风格差异更难被识别出来了。

AI时代的围棋也是这样，整体更快更强，但由于知识转化过程中特别依赖于个人的思维，每个人从AI下法收获到的东西是不一样的，反映出来就可能是下棋质量的高低，也有可能是风格的不同。我认为随着对AI下法和信息的不同角度的理解转化，未来或许反而是更加具有个人风格的时代。

AI不仅对棋手提出了要求，对围棋解说评论和写作阐释都提出了更高的要求，这些从业者也要具备更高的认知转化能力才能将棋盘上的思维撞击阐释得更加精彩。

我一直很遗憾，AI出来后，我们没有利用这个工具，更生动更准确地展示出棋手下棋时头脑中的风云变幻。都说围棋很难，难在哪里？懂棋的人看得大呼过瘾，能不能把激烈的智力战斗用AI这个辅助工具更直观地展现出来？这些工作都没有做，只盯着AI的实时胜率看，太可惜了。

对于行业来说，AI改变了训练方式、改变了行业格局，但非常可惜，在揭示围棋真理上，还有很多可能性没有被实现出来。AI让我们有了一个自我关照的对象，可能更能够让我们明白自己是什么，然后我们的能力是什么，我们的思维是什么，我们下棋的时候思维到底是什么样子的，到底是由哪些部分组成的？厚薄、死活、輕重、官子……这些围棋知识的性质和区别是什么？棋感、计算、判断，这些下棋时的基本思维，又与人的哪些认知能力和特点有关？由于可以跟AI做对比，人类思维的长处和弱点更容易体现出来，这些东西都是非常有价值的。在这些重新理解和回顾认知的基础上，我们或许还可以向前一步，借助AI技术上的超越性来创造一些新的有效的概念，由此突破人类自身原有的思维边界。

我们下棋到底用了什么样的思维方式，然后我们的认知和情绪是怎么产生作用的，这些东西其实是构成人性的东西，里面有关于人本身的知识。

不管怎么样， AI至少让我们看到了围棋更美的东西，我们人类围棋进步的速度是很慢的，我们的界限就在那里了。AI出来，打破了藩篱，让我们对围棋的认知因为更接近真理而产生了一种美感，这种影响是不可能磨灭的，AI给我们打开了一个新世界的大门，看到了更广阔的世界，而不是相反。

这个过程中所涉及的关于知识论和认知科学的部分，如何利用AI这面镜子，更深地把握人类的认知和思考的某种真实，这是我现在最感兴趣的问题。