对GPT及未来人机融合智能的思考

刘伟

我们需要突破事实和价值分析等传统思维来理解当前的人机融合智能化问题和关系。任何智能都是针对具体问题提出的新解决方案，然而原有问题解决的同时必然会产生新的问题，因此就需要新的智能来解决新问题。这就决定了人机融合智能只有进行时，没有完成时。

当前，有关GPT及其不断升级的版本讨论越来越多、越来越激烈，机器派甚至认为机器智能已经可以碾压人类，未来不得而知，人类派认为机器智能突破的是形式化符号化的下棋、对话技术性，对于物理域、社会域等方面的认知原则性依然没有大的进步。纵观两种观点，大家各持己见、脑洞大开、激辩异常，大有当年文艺复兴、思想启蒙之势。

GPT本质就是一个人机混合智能产品，并涉及一个关于智能的基本问题，即：机器智能是计算，人类智能是算计；算计产生了计算，计算能够产生算计吗？

维特根斯坦在《逻辑哲学论》里的最后一句话：“对于那些不可说的，我们只能保持沉默。”，关于这个“沉默”究竟是什么呢？有人认为是指“表征（非常名）”，有人认为是指“非常道”，还有人认为是指“伦理”，而ChatGPT则认为维特根斯坦的“沉默”是指对于那些无法用语言表达的事物，我们无法用语言来描述它们，只能保持沉默。这是因为语言只能表达那些可以被语言描述的事物，对于那些超出语言范围的事物，语言就无能为力了。这种“沉默”是一种哲学上的谦卑，也是对于语言和思维的一种反思。因此，维特根斯坦的“沉默”并不是指真正的静默，而是指对于无法用语言表达的事物，我们需要放弃语言和思维的主导地位，保持一种谦虚的态度。

有人认为：“人工智能的本质是语言。程序是代码，程序也是语言。智能，在语言的活动中，和语言计算的过程中。”事实上，深究起来，人类智能的本质应该不是语言。而是产生语言的思维意图和动机。情感和感性是意图和动机的主要源泉，算计贯穿了整个思维过程。正如休谟所言：单纯的理性产生不了意图和动机。

智能是感性与理性的合一。

人类文明的演化粗略可划分为西方文明和东方文明，人类对智能领域的理解也可大致划分为东西方这两大体系。人工智能领域的发展主要是延续了西方文明的科技脉络：逻辑+实验，而作为更为抽象的人性智能领域的反映，东方文明也起到了举足轻重的作用：洞察+平衡，也可以认为西方偏逻辑、算法，东方侧非逻辑、算理。

西方哲学侧重一多，东方思想依赖有无，计算适合大数据处理，算计更宜小样本感知。利用模棱两可信息的算计能力在人类几乎所有的认知活动中都扮演着重要的角色。计算与算计与计算计的共性：即三者都是信息处理。计算的信息处理载体目前是机器，算计的信息处理载体目前主要是人脑（含感官），计算计的载体则是人机融合的系统。

未来的人机融合智能形式需要解决的就是把东西方的合理部分有机地整合在一起，形成一套崭新的智能适配机理，这种适配性包括两部分，一部分是相互适应，一部分是互相配合。若把机器看成是建立在确定性数据、算法、算力基础上的物体，那么人则应是建立在随机性知识、算理、算计基础上的物体，其中的知识具有主观性、强弥聚、富弹跳、不确定的特性。

某种意义上说，智能就是寻找最好替代的过程，这里的替代包括替代物、替代方案、替代系统等，寻找就是计算加上算计的混合处理过程，算计常常涉及宏观方向和内在道理，算法往往关联具体过程和方法手段。算计不是简单的计算逆过程。人的算计涉及显性、隐性知识，侧重价值化与事实性的融合，人和机器的计算包括可描述中可程序化的显性知识，聚焦事实性。机器计算中很难既对立又统一，而算计中却常常可以和为贵。

无论人工智能还是人类智能，都有着一个共同的缺点：容易自我伤害，即聪明反被聪明误。因此在人机融合智能的数据、信息、知识处理中，必须建立具有预见性的责任分配机制，及明确是否、何时以及在何种程度上使用何种算法系统。因而未来的人机融合智能中既应有技术也应有艺术，即凡是涉及人机融合的智能，无论概念、定义、推理、决策都不是固定不变的，在态、势之间还有一个中间区域——态势区：其中既有态也有势，既有事实也有价值，既有数据也有信息知识，既有公理也有非公理，既有直觉（非逻辑）也有逻辑，既有反思也有反馈（反思是动态的虚实复合反馈）。

目前，人机交互缺乏动态性，之间的定性分析还尚未完成，定量更为困难，例如，如何让机器“明白”人不同阶段的意图变化？如何让人理解机器的各种计算结果，有时候，大而全的数据库、知识库也可能是大的障碍，因为很多变化因素是很难（或还不能）用参数表示的，比如一个婴儿的哭可以是因为饿了，或是痛了，或是病了，或是困了……也可能是因为上述综合因素造成的，但是这种复合情况就很难用固定的数据库、知识库（甚至常规的知识图谱）进行表征。机器强化学习中的奖惩机制与人类的奖惩机制相差甚大，人类的奖惩除了“利”（事实）之外还有“义”（价值）；同样，机器的态、势、感、知机理与人类的态、势、感、知机理都大相径庭，机器基本上还是“以理服人”，而人类则是“情理交融”，机器与人的交互是两者单向的，而人与机器的交流则是人机环境系统之间多向的人机、机机、人环、机环、人机环，其中不但存在着大量的“交”更有更多的“互”。人是环境的主动部分，机器只是人造的被动工具，例如现在许多机器的界面（如手机各种提醒方式）是不会随环境、任务、人的变化而随机应变的。

人类一般是通过日常常识进行关联-判断，有些复杂的推理还与动态的预期有关；而机器是通过不完备的数据非（人类）常识连接-分析，没有类人的预期机制。从根本上说，机器的聪明、狭隘与人类的聪明、狭隘是不同的，人类处理问题的模型是在无限开放/非线性环境下不断跨域融合的创造型认知算理模型，而機器处理问题的模型是在有限封闭/线性环境下的经验型计算算法模型。目前，对于所有重要的人机系统而言，最终的裁判权还是人，这是因为这些问题的实质不仅是科学技术问题还涉及大量的环境噪声、社会人文、伦理法律等非科学技术问题。人工（机器）智能是人们用逻辑编写固定的事实算法，考虑的是规则的搭配，如用手拿筷子或刀叉吃饭，而人类是用非逻辑（混合了事实、情感的更高阶逻辑）进行的动态价值算法，更多的是恰当的应变，如除了手拿筷子或刀叉之外，还可以用脚或其他工具吃饭。人工智能为“是不是”功能，人类智能是“应不应”能力，功能是工具非适应性的被动实现，能力是生命适应性的主动实现。人还不了解自己，尤其是没有真正认识人的认知与感觉形成的真正过程和实质。人类的神经网络并非麦卡洛克-皮茨逻辑神经元网络，而是立体交织而成的多模态生物组织，人是环境的，很少有人在夏天无意识到下雪的情形，能否对自身/自我的行为的觉察和意识常常是人机的重要区别。

真实的智能并不是一开始就绝对的正确，也可能一开始就犯方向性错误，但在过程中不断进行实时调整，过程中恰当地调整程序和时机、方式或许更能表征智能的大小和好坏。如海森伯格所言：“任何理解最终必须根据自然语言，因为只有在那里我们才能确实地接触到实在。”实际上，小孩子的语言与成人的语言是不同的，同一个概念或语句，都带有某种发现和试探性，情感性多于知识性，价值性多于事实性，虚拟大于真实，ta在玩味这个概念或语句，总是在可复制和不可复制之间找到一条最佳的道路来达成自我共识，并在未来能够较准确地迁移到其他某个情境任务中去。这个过程不是照抄照搬，而是有机化学了之后的任务和情境融合。也许可以把维特根斯坦《逻辑哲学论》的第一、二句改为“世界是一切发生的事情和未发生的事情”和“世界是由事实和价值构成的，而不是由事物构成的”更为准确吧！

有人认为：“其实，任何系统大到一定程度，都会有可解释性的问题。深度学习是特别如此，因为没有人知道巨大数目的参数是怎么具体作用的。其他的系统，举例说，某个推理系统，如果大到一定程度，其表现的行为很难是精确可知的。不过，原则上是可知的，如果不计代价。这和（机器）深度学习形成对照。”语义的核心在于价值性，可解释性最大的困难在于语义的理解和说明，学习是为了建立事实联结，理解是为了实现价值联系，两者之间在进行相互重构的同时也存在着从事实到价值之间的巨大鸿沟。与机器学习不同，人类的学习是复合事实与价值的联结。当前，是否创造出新的可演化的机器学习模型是衡量是否是新一代人工智能的试金石。当今，机器学习不可能由一种算法统治，必然是由各种数学模型所构成，根据具体应用的不同，选择最适应的机器学习模型。当然，机器学习一定有对应用的范围的适应性，有适应多领域应用的，也有仅适应单一领域的。在现阶段的算法领域中不可能产生比人机融合学习更强大的算力的任何模型，一套人机融合的计算计系统或算计算系统或许更能代表未来智能领域的发展趋势。

随着新一轮科技革命的发展，特别是网络通信技术的突破和人工智能技术的加强，人机融合领域也进入了新的时代。在当前这个时代，人机环境系统关系的内容和形式与以往有很大的不同，并导致人机融合策略的选择和交互策略的效果都与以往不一样了。在此情况下，以传统的人机交互观念和价值观念来理解当前的人机融合智能，很可能使这方面的研究陷入被动局面。因此，我们需要突破事实和价值分析等传统思维来理解当前的人机融合智能化问题和关系。任何智能都是针对具体问题提出的新解决方案，然而原有问题解决的同时必然会产生新的问题，因此就需要新的智能来解决新问题。这就决定了人机融合智能只有进行时，没有完成时。

智能是有限的，智慧却是无限的。

语言的边界是思想的边界，但思想的边界却不一定是语言的边界。

计算是一种操作共识性符号（如0、1、2）的过程，其操作也是共识性符号（如+、-）的使用。

算计是一种符号与非符号（如经验、直觉）的操作过程，其操作也是符号与非符号的使用。

正常情况下，具体的属性既不是符号的，也不是对象的，而是关系的（有人误认为纯符号系统或对象也有属性），属性只有在各种关系的相互作用中才能显露出其真实性的一面，这也是复杂性系统产生的主要原因，其中的有些关系是自然产生的秩序（如因果性），有些关系则是人为构建的设计（如目的性），有些符号化的因果关系可以通过计算实现，有些非符号化的目的意图可以通过算计实现，当这些变化组合在一起时，就会涌现出各种复杂性。

语言和思维是密切相关的，它们之间存在着相互影响的关系。语言是人类表达思想、交流信息的主要工具，而思维则是人类对于世界的认知、理解和思考。语言可以影响人类的思维，反过来，思维也可以影响人类的语言表达。语言和思维之间的关系是相互促进、相互依存的。语言和思维的发展也是相互关联的，语言的发展可以促进思维的发展，而思维的发展也可以促进语言的发展。因此，语言和思维在人类的认知和交流中都起着非常重要的作用。

机器智能可以模拟人类的思维过程，但是它們不具备人类思维的复杂性和广度。机器智能是通过算法和模型来处理和分析大量数据，从而进行决策和行动的。虽然它们可以执行各种任务，并且在某些方面甚至比人类更加高效和准确，但是它们的思维过程仍然是基于预设的规则和程序，缺乏真正的自我意识和主观性。目前，虽然有一些机器智能领域的研究和应用，但是它们仍然无法像人类一样具备真正的思维能力。人类思维的本质是基于自我意识、情感、记忆、判断和推理等多个方面的复杂交互，而机器智能目前还无法完全模拟并实现这些功能。因此，机器智能的思维过程是基于规则和算法的，而非真正的自我意识和主观性。

意图和动机是人类行为的两个重要方面，它们的产生与多种因素有关。以下是一些可能影响意图和动机产生的因素：

1.个人目标和价值观：个人的目标和价值观是产生行为意图和动机的重要因素。一个人的目标和价值观会影响他们对特定行为的看法和评价，并决定他们是否会采取相应的行动。

2.环境因素：环境因素包括社会和文化环境，以及工作、家庭和朋友圈等方面的具体情况。这些环境因素可能会影响个人的行为期望和行为选择。

3.情绪和情感：一个人的情绪状态和情感体验会影响他们对特定行为的看法和评价，并决定他们是否会采取相应的行动。

4.外部激励因素：外部激励因素也会影响人们的意图和动机。例如，奖励和惩罚等外部激励因素可能会影响人们的行为选择和行为意图。

总之，意图和动机的产生是一个复杂的过程，涉及多个方面的因素。这些因素可能相互作用，相互影响，从而产生不同的行为意图和动机。

人类的思维语言常常存在于自然语言之外。

（作者为北京邮电大学人机交互与认知工程实验室主任）

责任编辑：马莉莎