以改造教育和学习应对人工智能时代的挑战——段伟文研究员访谈

◎张 栋

人工智能是当今人类社会所面对的最具根本性的挑战和机遇之一，其对人类社会的潜在影响兼有高度的不确定性、复杂性。基于这种认识，我们采访了中国社会科学院哲学所的段伟文研究员，面对高度不确定的未来社会，努力寻求其中具有一定确定性的部分。

记者：由AlphaGo战胜李世石开始，人工智能在近几年成为了公众关注的一个热点话题。在您看来，人工智能在近几年是否取得了重要的突破性的进展？

段伟文：从人工智能的应用层面来看，由于计算能力的提升、计算成本的下降、大数据和深度学习等发展，近年在数据智能和跨媒体智能上，实现了一些具有商业、产业和军事价值的发展，出现了一些合成智能技术和可能替代人类的自动化智能系统，如智能服务终端、智能翻译系统、智能聊天与陪伴机器人等。但从理论上来说，现在的人工智能仍然处于弱人工智能或专用人工智能阶段，只能在特定的环境中按规则执行单一任务，其智能识别等功能并非建立在理解的基础上，不会思考，没有行动意向，也没有意识和自我意识，强人工智能和通用人工智能还看不到实现的前景。因此，目前人工智能并没有取得实质性的突破。

记者：畅销书《未来简史》中，作者把人类和生物也理解为自然演化出的算法。生物智能可以被理解为算法吗？

段伟文：有一个理论叫计算主义，是当代认知科学和人工智能研究中的流行范式。其中心观点，简言之，就是万物皆算法。从计算主义的角度看，计算机算法和宇宙中所有事物的算法都是没有差别的，都是可以符号化的，都是按照程序、条件关系来运行的。如同牛顿力学时代把宇宙中一切事物的基本规律都用力学来概括，计算主义就是把整个宇宙中一切事物的基本规律用算法来概括。计算主义是一种认识论，是一种观察和认识世界的当代视角，从这个视角，我们可以看到很多以往看不到，认识不到的问题。从这个角度，生物智能不仅可以被理解为算法，而且把生物智能作为算法进行研究还是认知科学的重要主题，其成果是人工智能研究的重要基础。但计算主义也仅是一个观察世界的方式，既不是唯一的方式，也不一定是正确的方式，之所以采取这样的视角，是因为它能够带来新的发现。

段伟文，中国社会科学院哲学所研究员。主要研究方向：科学哲学、技术哲学、科技伦理、网络研究。

记者：如果生物智能也可以被视为算法，那目前人工智能和人类智能是否存在本质性的差别？

段伟文：即使从计算主义的视角，算法也至少有两类，一种是自然发生的算法，自然世界和社会系统自动运行演化的规律和条件关系，另一种是体现人如何理解这些规律和条件关系，如何去模拟自然过程，通过计算机实现的人工算法，后者是对前者的拟合。人对自然的认识和理解，必然要采取特定的视角，必然有所简化。两者当然是有区别的。

至于两者是否具有本质上的一致性，这可能并不是一个重要的问题，因为本质是什么，很难说清楚。本质的东西，我们不一定认识到了，我们认识到的不一定就是本质，我们今天认为是本质的东西，明天不一定还是。如果把这个问题提给计算主义者，他会认为是，不论人类智能还是人工智能，思考和认知的过程都是一种对符号的运算和处理。如果不从计算主义的角度出发，那么人类智能和人工智能之间的差别也很明显，比如人能自我控制，机器不能；人有信念，有欲望，有意图，有情绪，机器没有；人的知觉是和身体相关的，比如我们的空间感，是具身性的认知，机器不是。

所以与其谈他们在本质上相同与否，不如谈他们在某一个抽象程度上所具有的相似性，但同时，人类智能中的很多东西，比如意识、信念、欲望、情绪，是抽象不了的，至少在今天我们的认知水平下，是抽象不了的。如果有一天我们能够把意识、信念、欲望、情绪这些都用算法表达出来，那么生物智能也就可以在更高的层次，更多的部分上被化约成为算法。

记者：在您看来强人工智能是否是可能的？基于目前的计算机原理是否可能？

段伟文：强人工智能，接近人类智能，甚至超越人类智能的人工智能是不是可能实现，如果从现代人类技术发展的历史视角去看，那一切皆有可能。无数前人不敢想，想不到的东西都已经变成了现实。而且强人工智能本身就是人工智能技术研究的初衷，是最开始的目标。只是在发展过程中，发现很难，所谓的莫拉维克效应，实现对人来说复杂高级的智力活动只需要较少的计算能力，是相对简单的，但实现无意识的技能和直觉却需要极大的运算能力。计算机可以解复杂的数学题，可以在围棋上战胜人类，但在感知能力赶不上一个一岁婴儿。因此我们的研究才逐渐集中到针对特定任务和功能的弱人工智能上去。

目前的人工智能，其实也可以说根本就没有什么智能，因为目前机器学习还必须借助于人工标注，即使所谓无监督学习，也必须依赖人为其做决策。所有的机器都必须在既定的规则下运行，不可能像人一样去创作，或者创造出一些东西。目前一些看上去像是智能的机器，比如像“深蓝”、“alpha go”、“alpfa zero”， 仍然是通过穷举法或是自我博弈中大量试错来实现的，只不过它的运行速度非常快，但这仍然很难说是智能。

目前来看，强人工智能还很遥远，基于目前的计算机原理可以说还看不到明确的前景，并不像《奇点临近》之类的那些作者所宣传的那样可以预见、迅速实现。事实上，如果过度乐观的估计了人类的技术能力，把资源和投入过度集中到特定的方向上，还可能导致重大的挫折和浪费，日本80年代开始的第五代计算机计划的失败，就是典型的教训。

记者：计算机的原理在未来有没有可能发生根本性的变革？

段伟文：我们知道计算机的技术一直在不断的进步，目前正在研发的比如量子计算机，在技术上是重大的突破，但从计算机原理的角度来说，还没有什么重大变革，还没有超越图灵机的范畴。

原理上的变革，当然是可能的，但同时也是无法预见的。但凡科学上的革命性变化，都是这样，发生之前谁也不知道，甚至无从预料。

记者：如果强人工智能是可能的，那么它有没有可能成为不受人类控制的系统？

段伟文：如果有强人工智能的出现，那它实际上就已经不是完全受人类控制了。这是必然的，否则它就不是强人工智能了。强人工智能本身就要求它能够自我学习、自我迭代、自主决策。自主决策，本身就意味着不依赖人的决策，所谓人的控制，首先就是决策由人掌握。一个自我演进的决策系统，必然不在人的控制之下。

事实上，即使是现在的计算机系统、网络系统是完全为人所控制吗？也不一定。这里需要思考的是人类和机器之间的关系。在未来的社会中，不仅有人这个主体，还有各种人工智能、自动机器这些准主体、亚主体，不管强人工智能来不来，我们都必须建立一种机制，能够让人和机器共同构成的行动者的网络中，使整个过程能够为人所控制，否则这个前景一定不是人类所希望看到的。

机器超过人其实并不新鲜，我们谁也跑不过汽车、火车，飞不过飞机，为什么在智能领域我们会觉得难以接受呢？因为智能涉及的是决策的问题。比如，未来如果无人驾驶比人类驾驶还要安全，那是不是人类驾驶会是不道德的呢？是不是机器应该成为人的监护者呢？在决策的链条中，哪些决策可以交给机器，哪些情境可以由机器主导，在人和机器的关系上，应该有怎样的定位，这是值得思考的问题。

记者：关于人工智能，一个比较现实的担忧是其对人类就业的影响，您如何看待？

段伟文：一般而言，重大的科技突破和新技术的应用，必然在社会的资源配置上寻求新的优化组合。由此，在短时间内，某些行业的劳动力可能被低成本的新技术替代而造成所谓的技术性失业；长期来看，则可能形成新的行业生态，带来新的就业机会。但人工智能巨大的研发投入，很可能在短时间内使智能机器的效率迅速提升、成本迅速降低。一旦智能机器的成本低于人工成本，很可能带来对人力大规模、快速的替代。

理论上，人工智能对就业的冲击会被市场调节和社会适应机制逐渐消化。但实际上，由于未来人工智能的产业应用，在广泛性和快速性上可能超过以往的技术革新，在特定历史时期对众多具体行业的就业影响可能更加复杂和严重。

首先，人工智能最有可能先在劳动力密集、技能要求低、劳动重复性较高、人力总成本大的行业实现低成本商业化。大量的服务业和低端制造业岗位可能首先被替代。比如快递业和送餐业，最近京东和顺丰对无人机的开发，很可能会影响到这些行业的普通从业人员。

其次，一旦人工智能出现突破性的发展，对就业的影响还会出倍增效应和甚至指数效应。人工智能可能会在一些行业带来突发的、快速的、大规模与断崖式的失业潮，这种情况一旦发生，就有可能造成大范围的社会问题。

第三，人工智能还有可能对部分专业技术人员造成冲击。大数据智能与跨媒体智能等合成智能与一些自动智能系统的结合应用，初步形成了替代部分知识型工作的趋势。一些人工智能系统可以高效地完成特定的认知性工作，如数据比对、信息深度整理、知识洞察、现象识别等，一旦可以实现低成本商业化，势必对金融、财务、保险、新闻、法律以及一般的秘书等行业和岗位带来巨大冲击。

记者：一直以来，人本身都是最重要的资源，但如果人工智能在就业和生产上对人形成了广泛、大规模的替代，人似乎就会面对根本的价值困境，您如何看待？

段伟文：历史上历次科技革命和工业革命带来的机器取代人、新产业汰换旧产业的冲击，都通过一系列的创新，特别是教育与学习上的变革，转化成了创造性破坏的效果。但一方面，这种基于历史经验的自信在逻辑上并不完备，不能肯定面对人工智能的挑战人们依旧能自然地找到创造性应对的办法；另一方面，即使最终找到应对之策，也不能不考虑嬗变过程中的冲突与无序，特别是受冲击的特定群体为之所付出的代价。基于这种考虑，我们需要为智能化社会的到来做好系统的准备，教育与学习应该是这种准备的首要方面。

人工智能可能带来的就业问题的复杂性和特殊性，首要的是机器的智能化使其具有了学习能力。智能机器在记忆、对象识别等领域，以及有明确规则的特定任务上，经常表现出比人更强的能力，让人类自惭形秽。

如何面对这种挑战，很多方面仍然是未知的，但在改造我们教育和学习方面的必要性是确定的。未来学家们的预见中始终隐含着一个可能是误导性的预设，即以科技和机器的标准衡量人的价值和能力。从这一预设出发，教育和学习的首要目的不是为了人自身的创造性需求，而是去适应科技的发展。教育和学习以专业化和技能化为主导。

如何改造我们的教育和学习？当代教育与学习变革的首要目标不应再局限于单纯的专业知识和专业技能的获得，而要上升到使人作为智能化社会有价值的存在的层面。

在指导思想上，未来的教育与学习必须在首先实现视角的转换，即从人类与科技分离和人与机器对立的二元视角转向人类与科技融合和人机共生的系统协同视角。如果说未来社会将走向人类与机器人、智能自动系统等人工智能体共在的泛主体社会，那么人类应该担当其中的主导者、创新者和决策者。这就对未来的教育与学习提出了新的总体目标：用教育和学习支撑人类在未来智能化泛主体社会中的认知力、创造力和领导力。

在教育与学习的核心内容上，重点不应再是具体的专业知识和专业技能，而是更加凸显用于掌握专业知识与专业技能的核心素质和认知能力的培养。

在技术手段上，没有太多悬念的是人工智能本身将用于教育和学习。但如何合理地使用人工智能作为教育的工具，需要有系统的研究。包括如何规避人工智能的局限性，以及如何通过人工智能使得教育更具包容性、减少人的发展的不平衡性等等。

在组织形式上，教育和学习的终身化趋势日益显现，未来继续教育可能会成为主要的成人教育形式，还有可能会出现与实践经验累积，工作方式与生活方式的阶段性选择相契合的多段式高等教育。

智能化时代，可以预见：其一，大学将真正成为城市的中心，不仅会作为知识和文化的中心，还将担当起城市的灵魂的角色，成为每个人免于被机器边缘化的精神家园。其二，人类文明的未来命运取决于人类与科技融合、人机共生境遇下的文化创造力，其基础则是通过教育和学习对人的价值赋予。