人工智能教育应用的逻辑起点与边界

2019-06-17宋灵青许林

中国电化教育 2019年6期

宋灵青　许林

摘要：人工智能的快速发展，极大地改变了教育生态。人工智能功能强大，其在教育领域的应用前景无疑十分广阔，然而有些学者过分扩大了人工智能的功能和应用边界，从知识的学习、能力的培养到情感、价值观的培育，认为人工智能在教育应用中无所不能，尤其是在知识学习方面。滥用“人工智能”并不利于教育发展。基于此，该文首先分析了人工智能与人类智能的关系，探讨了人工智能在教育运用中的边界，并以知识学习为例，从知识本质、知识的类型、知识学习的过程等方面具体探讨了人工智能教育应用的边界，希望对教育人工智能化的思想倾向与做法有一定的警醒。

关键词：人工智能;教育应用;逻辑起点;边界;知识学习

中图分类号：G434 文献标识码：A

一、问题提出

AlphaGo战胜世界顶级围棋高手，写稿机器人正式上岗，微软“小冰”出版诗集，人工智能播音员正在代替人类……近年来，人工智能发展迅猛。未来，人工智能将极大拓展人类的智能，提升人类智力所能创造的价值，美国、欧盟、日本等世界组织和国家纷纷把发展人工智能作为重大战略，努力在新一轮国际科技竞争中掌握主导权。我国同样高度重视人工智能发展，印发了《新一代人工智能发展规划》等文件;习近平总书记强调：“加强领导做好规划明确任务夯实基础推动我国新一代人工智能健康发展”。

人工智能“有可能成为新的革命的起点，这一特征极大地改变着教育生态”。智能分析学习过程、智能推送学习资源、精准个性化教学、智能导师、终生学习伴侣……人工智能在教育领域带来了诸多变革，其作用不容忽视。然而有些学者过分扩大了人工智能的功能，从知识的学习、能力的培养到情感、价值观的培育，认为人工智能在教育应用中无所不能，尤其是在知识学习方面。滥用“人工智能”并不利于教育发展。因此，有必要明确人工智能的教育运用边界，人工智能在何种范围和领域替代人？在边界之内的，才是教育应该着力的方向。

二、人工智能与人类智能

理清人工智能在教育的效用与边界，首先需要弄清楚人工智能与人类智能的关系，这其实就是最早的机器与人的关系。如果认为人工智能具备与人一样的智能，则人工智能就是“全知全能”，人类能做的事情，人工智能能做且做的更好，人类不能做的事情，人工智能也能做。目前关于人工智能是否能发展出人类智能存在以下两种截然相反的观点。

（一）人工智能可以发展出“人类智力”的观点

有科学家预测在未来的强人工智能中，机器也将具有一定的心智，具有自我意识和自由意志。还有些研究者认为随着技术的发展，到了21世纪中期，人工智能的发展会到达一个“奇点”（Singularity），达到“通用型人工智能”，到那时人工智能会具有和人类同样的思维能力，而在学习能力、检索能力等方面又会远超人类。持有这种观点的学者主要是基于以下几个方面的考量：

1.从唯物主义的观点来看，意识是人脑对大脑内外表象的觉察，思维、意识、自我、情感等这些智能特征是人类独有的，都是大脑这种物质的具体功能。事实上，脑科学的研究成果也鼎力支持意识是大脑的一种功能：“脑神经生理学在实验中发现与自我意识相关联的人类大脑新皮层的模块化结构，连接两个脑半球的胼胝体投射纤维在模块间双向交互投射信息，椎体细胞在人脑两个半球内部以及相互间的信息传递功能，大脑两个半球关于直接计算功能与几何认识功能的分工等”。另外，从进化论的观点看，人类的意识和情感，也是无中生有，逐渐发展起来的。既然意识是人脑这种物质的衍生功能，是无中生有逐渐发展起来的，是大自然进化的产物，那么，可以推论“人工制造的人工智能或者其他物质也有可能产生意识”。

2.有学者认为“世界的本质是能量与信号，现实世界与虚拟世界的差异只是量上的差异，而无质的不同”。这意味着，当人工智能感知和反馈越来越多的、各种各样的信号时，人工智能有可能产生自主意识。

3.从技术层面来看，人脑既然是大自然进化的产物，就未必拥有很复杂的规律，本质上并不具有不可突破的特殊性。有关科学家解析：“人脑正是运用860亿个巨量神经元构成的‘硬件系统与更加海量的1000万亿个‘软链接，来进行信息的存储与处理的。这部机器的1000万亿个‘软链接虽然是个极其复杂的系统，但整部机器的原理却是‘简单的，与计算机存储、处理信息的理路差不多”。这预示了人工智能无限的发展潜力。“如今，人工智能的快速发展，已经在人脑的运行机理与人工智能运行机理之间建立了某种联系”，将来在大数据支持下的人工智能将可能把亿万人的生活经验和对生命的感知力集于一身！另外，许多研究者（例如，施一公、潘建伟、Henry Stapp、Roger、Penrose等）认为人类智能的底层机理就是量子效应。有人预测到在21世纪末，量子计算机的计算能力可能是当代计算机的10的36次方倍，到那时，人工智能将有可能向人类大脑发起“挑战”。

（二）人工智不能发展出意识的观点

持有这种观点的学者主要是基于以下几个方面的考量：

1.人脑与人工智能存在本质不同

人工智能感知外界信息甚至具备一定程度的“认知”已不是问题，但与人类相比，两者在思维、意识、情感阶段会产生分化。人工智能是机械的物理过程，而人是生物层面或者生命科学层面的。著名机器人设计师塞缪尔曾经指出：“机器不能输出任何未经输入的东西”。人工智能只是输入程序和數据后的逻辑结果，不过是人脑的再现，是人类认识客观世界的产物，不具备“真切的情感体验和对人世意义的建构”。人对世界是经验与情感的体验和意义的建构，有思想、自我意识、道德感、信仰等特有的东西，这些造成了我们与人工智能有了质的不同。人工智能即使发展到超人工智能阶段，它的体验也不同于人类的体验。

另一方面，人工智能没有像人那样的社会属性和社会关系，机器的自主性是技术性的，没有道德自主性。马克思的实践论强调人的实践在社会中的本体意义。人类的智能、思维、情感不仅是人脑的生理机能，还是社会的产物。即使人工智能通过模拟人的生物神经网络可以表现出与人类大脑相似的思维活动，但其实质是人类预先制定的一系列运算程序，其思维结构是人类赋予的，不能变成一种自发的行为，不构成与人类社会的互动，不能转化为社会化行为，更何况目前人类思维、情感、意识的复杂程度还无法全部转化为计算机代码。从这个层面上来说，人工智能还只是实现人类部分智能的工具。

2.人工智能技术发展存在一些瓶颈

首先，人工智先天地被设置了一个逻辑起点，在算法上仍然不能脱离人为设计和输入，仍然无法自动生成算法，不能像“人类意识那样具有多向度、多维度并且与周遭环境密切关联”。谷歌AlphaGo之所以引起了全球范围内的关注，在于其技术本身的突破。谷歌AlphaGo模仿人类大脑神经模式，有12层神经网络，有超过百万的类人类神经元一样的连接，融入了自学习，超越了传统计算机计算能力这一边界，让程序不再局限于固定的程序，多了可变化的可能。AlphaGo Zero更是自己通过强化学习（Reinforcement Learning），完全从零开始，不需要参考人类任何的先验知识而无师自通。即使如此，也不能认为机器可以自己产生认知，因为围棋规则和判定棋局输赢也是一种监督信号，如果设计者事先不告诉它规则，它就什么都不会做。因此，人们不能以机器可以模拟人脑的部分思维，就认为人脑将会失去其卓越的地位。

其次，就研究方法而言，人工智能基本是按模拟人脑进行的。人工智能在形态功能上完全仿生，做的和人类一模一样，才有可能具备人类智慧，这同样存在一些瓶颈：尽管当前科技正在以指数级发展，但短期内我们仍无法完全弄清人脑机制和人脑思维是什么。在没有完全研究透人脑之前，人工智能想模仿也没有明确的途径和完全解构的样本。

总之，没进入量子力学之前，在没有彻底研究透人脑之前，所有的人造机器，必然只是在某些方面具备高于人类的能力，但它没有人类的主观能动性，不会产生情感、意志、审美等意识。“机器没有思想意识，也没有任何证据表明他们将会有”，人与人工智能有质的区别，人工智能不会突破临界点。

三、人工智能在教育中的应用及边界

（一）人工智能的教育应用优势

人工智能极大地改变着教育生态，在教育领域的应用前景广阔，是克服传统教育不足的有效途径，有助于变革教育模式与教育形式、为学生提供个性化服务、为教师提供精准化教学、为学校提供科学化管理。

1.变革传统教育模式。人工智能逐步展现出某些出色的优势之处，改变了传统教育的运行规则，它打破了时空的限制，可以实现“无时不有、无处不在的学习”和“没有教室的学习”。

2.为学生提供个性化学习服务。人工智能可有效记录、反馈学生的反应，与学生互动，诊断学生学习困难，发现学生的薄弱环节，给学生“画像”，智能推荐学习资源。属于学生个人的人工智能，是学生最知根知底的朋友和最佳学习伴侣，可为其分析学习曲线，提供“一人一张课程表”，为其量身打造个性化学习计划，因材施教，进行一对一的“专家辅导”，等等。

3.为教师提供精准化教学服务。目前，随着教育改革的纵深推进，教学效率仍然是困扰教育的首要问题，而恰当运用人工智能可以提高教学效率。人工智能可以帮助教师备课、批改作业、掌握学生个体和班级整体的学习需求、优化工作任务、合理规划教学流程、进行教学评价等等，这些都将使教师从巨量性、琐碎化的事务性工作中解放出来。

（二）人工智能教育应用的边界

由于人工智能与人类智能存在本质的差别，这就决定了人工智能应用于教育有其边界与定位——在目前乃至未来的很长一段时期人工智能将处于一个辅助性的地位，無法取代教师，也无法完全满足学生学习的需要。过度依赖于人工智能而忽视人的主导性地位，有本末倒置之嫌。

1.教育大数据难以保证

数据是人工智能运行的根本。近年来，机器学习技术在科学理论研究和工业应用方面均取得了引人注目的成就，但现阶段人工智能所依托的教育大数据质量本身难以保证，造成人工智能直接应用于个性化学习和精准化教学常常难以达到理想的效果。原因主要在于：教育过程的复杂性和教育数据的非结构性，教师的教学过程和学生的学习过程数据并未得到完全记录;有些教育数据十分关键，但仍然难以电子化;教育数据分别存储在各地政府教育管理部门、学校及公司的服务器上，并无统一的标准与规范，且不能互联互通，这为人工智能的教育应用造成了一定的障碍。

2.人工智能在学习上的局限性

人类学习特征主要表现在三个方面：社会性;以语言为中介;积极主动性。从AlphaGo Zero的强化学习，我们可以看到，人工智能能够在极短时间内完成感知信息、处理信息、进行决策、指挥运动等任务，完成与环境的交互，不再局限于固定程序，具有一定的自我学习能力，在一定程度上具备了“主动性”，其习得知识的过程甚至不再受到人类知识的限制，让自己变成了老师，在短短几天内就积累起了人类几千年才有的知识。随着人工智能的指数式增长，其与人脑不断接近，其学习能力将越来越强大，但这依然不能改变人工智能没有社会性和积极性的局限，不具有完全的自学习能力，无法自主积极地作用于环境，不能在与人的交往中进行学习。例如，AlphaGo Zero如果到了一些数据无法穷举的领域，如图像识别、自动驾驶等，其算法很难迁移，也很难无师自通。

3.人工智能在教学上的局限性

（1）未来一定时期内人工智能依然局限在“机器学习”的框架内，模拟人的思维是人工智能的长项，但它并不会真正教学，它只是在模拟教师教学。具体地说，人工智能并没有与人脑一样的逻辑思维、判断力、情感等要素。（2）教育系统的复杂性对人工智能提出了更高的要求，人工智能需要预设程序，不能合理地应对超出预测的变化，无法满足学生、教师以及管理者的个性化需求。而“教师的工作往往是非预设、非逻辑、非线性的，教育过程中的各种偶发事件需要高度的创造性和艺术性”，这恰恰是教育生命力所在，而不仅仅是逻辑的运算与推导。（3）在教学任务中，“如果所有任务都符合完美的运算法则并可以细分，那么机器人就可以处理一切”，例如，AlphaGo Zero在信息透明，规则透明，结构明确，并且可用规则是可以穷举的围棋领域，可以无师自通。将来随着教学内容和教学任务的更多部分可以自动化，人工智能将会扮演越来越重要的角色，它将更深入地改变人类学习和教学的过程，能够更加“主动”地教。但人工智能无法超越既有设计的人机互动，无法自觉进行社会化的行为，不具备人类社会的社会属性，而在教育领域，多数教学情景恰恰需要认知投入、情感交流、移情共鸣、价值判断等，因此，教学任务所卷入的认知、情感和社会化因素越多，人工智能“教”的功能就会越低。例如，在传递知识方面，由于人工智能大量的知识储备，其在显性知识的传递方面优势明显;在动作技能领域，人工智能可以把教学任务逐步细分，并持续正确示范和反馈，有利于学生动作技能的掌握;在情感态度和价值观领域，由于人工智能没有感情，不会产生移情，没有情感共鸣，这就造成了其在培养学生情感态度和价值观的过程中作用有限。人工智能与教师在不同领域的教学功能比较示意图如图1所示。

四、人工智能在知识学习领域的运用与边界

知识是学生学习的最基本内容。目前，随着人类知识的急剧增长，传统教育已无法完全满足学生的需求，人工智能在知识教学方面存在较大的优势，未来教师首先面临的就是人工智能在知识教学方面的挑战。由于知识类型具有多样性、学习过程具有复杂性，造成人工智能在促进知识学习方面有所能而又有所不能。下文将从知识的内涵、类型、过程等方面说明人工智能教育的运用及边界。

（一）知识的内涵

知识本身总在不断进化和更新，从本质上说，知识（Knowledge）“是人对事物属性与联系的能动反映，是通过人与客观事物的相互作用而形成的”。数据、信息与知识的关系如图2所示。

由于知识是主客观相互作用形成的，是情景化、赋予主观意义的信息，因此，知识学习离不开个体的主观意识和个体经验。而人工智能虽然具有强大的感知能力，即通过传感器、爬虫等软、硬工具采集，积累各类大数据，善于收集数据，形成信息，但其“先天缺陷”——即基于程序运算而生，造成无法赋予信息意义，即可以传递信息、知识，但无法真正地理解知识的意义。

因此，人工智能凭借强大的信息处理能力、图形和语音识别技术等，会代替部分知识教学的工作，知识取向的教学的方式将会发生改变，但并非所有的知识都是人工智能可以教的。

（二）知识的类型：显性知识和隐性知识

我们的文化知识通过教育得以传承，但是也有一些相对弱势的知识却难以得到人们的重视。1958年英国科学家、哲学家波兰尼提出了“显性知识”（Explicit Knowledge）和“隐性知识”（Implicit Knowledge）。“显性知识是指用书面文字、图表和数学表述的知识，隐性知识是尚未言明的或者难以言传的知识”。显性知识与隐性知识的存在是相对而言的，只是由于显性知识的特点，人们更容易识别它，而大部分隐性知识没有得到足够的重视，尚处于“缄默”的状态。从某种程度上说，对学习者而言，隐性知识比显性知识更重要。教学同样也是这样一个储存着大量隐性知识的专业，每一个教师的教学和教育经验中都聚集着丰富的知识和才能。例如，教师的教学方法大同小异，但是专家与新手的教学效果却大不相同;优秀的教师会依据经验和具体的教学情况来判断采用何种教学方式是合适的，这些恰恰是目前人工智能难以实现的。

隐形知識具有复杂性、多义性和变动性。人可以在不同情境下感知知识的多义性，能够知觉到只可意会不可言传的信息或概念，而人工智能对跨领域情境的随机应变能力很弱，对彼此矛盾或含糊不清的信息不能有效反应，显性化隐性知识、传递“隐形知识”非常困难，总有部分有价值的隐l生知识难以实现转化。总之，人工智能在传递显性知识上面更为擅长，它传递的知识更加准确、知识储备更多，而对于隐形知识的传递则作用有限。

（三）知识学习的过程

1.知识的传授

知识的传递与分享一直是人类习得技能、获取生存机会的重要途径。人类将知识进行编码，然后以显性化的形式实现知识的传承。当前，人工智能对用户接收必要的知识并有效地重新利用知识具有重要的影响。

（1）人工智能传授知识的效率较高

“传统的教育方式多为知识传授型，教师作为知识的权威主要的角色就是充当知识的传授者。”人工智能时代，信息和知识的获取、传播和创新方式将发生变化。“人工智能的自我学习能力正在改变知识客体的被动状态”，加上其存储、运算、搜索等能力远超人类，它在提高知识传授效率等方面无疑是胜过人类的，学习者可以利用人工智能更早和更快地获得更全面和更优质的知识资源，教师以往作为知识权威的地位受到了挑战，教师传授知识的职能，在人工智能时代将被弱化。目前，有些课堂已经实现了机器人代替教师进行传授知识。

（2）教师在教会学生批判性思维、学会质疑方面的作用不可替代

教学不仅是把知识告诉学生，更需要教会学生批判性思维、学会质疑。从长远来看，过度依赖人工智能，学习者自我反省、自我意识和批判性思维的能力将不断弱化。人类把稳定、明确性的知识尤其是教育系统中接近共识的内容、较为可靠的经验输入人工智能（AlphaGo Zero甚至不再需要人类的经验知识，无需人类的案例和指导），人工智能就会不知疲惫、不犯错误、持续不断地教给学生“最正确”的知识。但随着社会和科学的发展，有些知识并不是千真万确、不可质疑的定论。当学生已经习惯屈服于了人工智能“不可超越、无可挑剔”的“权威”，其就不可能具有自主性和创造性的空间。批判性思维要求能多角度、辩证地分析问题，做出选择和决定等，但人工智能的“权威的声音”却在根本上消除了人们对“差异性”和“不同的声音”的信仰。实际上，教育需要尊重“异质思维”“教师可以适当地教会学生质疑知识，把知识当成是一种看法，一种解释，让学生去理解，去分析，去鉴别”。

（3）教师立德树人的作用不可替代

教育不仅是学生知识的增加，还是在传递知识的过程中师生的情感交互和学生良好人格的形成，使之成为“人”，使之从“自然人”成为“社会人”，这是教师工作的基本任务和责任之一。技术和数据会淡化非理性的情感，技术越进步，越要重视对人的价值引领。尽管人工智能在传递知识的过程中，能够采集的学习过程数据包含了与受教育者的感觉、知觉和情绪等相关的因素，但“教师的一言一行具有很强的引导性、示范性”，人工智能并不能完全代替教师作为学生心理与情感的沟通者角色，教师在“培养学生的理想、信念、情操、爱心等精神世界方面的作用不可替代”。

2.知识的理解

人工智能凭借高速的搜索、再检索能力和自我学习能力，对语义进行理解、分析、判断，能够和人类实现交流正成为现实，在一些特别依赖于计算和记忆的智力活动领域，在单一任务场景的处理中显示出超人的能力，它能比你更能理解知识的内容。但人工智能却始终不能理解这些内容背后的意义所在——它只是一步步地计算，对整个活动没有意识，也没有感情。人类从出生到衰老都伴随着鲜活的生存体验，“人类不但能感受和体验这些知识的意义，并且能够主动构建意义”。世界是人参与其中的世界，是人主动建构意义和价值的世界。有时候，境随心转;有时候，心随境转。人工智能即便有无穷多的训练，也难以对语义边界模糊的语言给出恰当的理解和回复，很难做到对场景的整体理解，不能真正理解知识。

3.知識的迁移

当前求知的意义已经从能够记忆和复述信息转向能够发现和灵活使用信息，这就涉及到学习的迁移。迁移是指一种学习对另一种学习的影响。建构主义认为，学习迁移实质上就是在新情境对知识的应用。迁移在学校教育中具有普遍性和创造性，尤其与培养学生问题解决能力和创造力密切相关。“迁移的可能性取决于学习者在记忆搜寻过程中遇到相关信息或技能的可能性”，而人工智能擅长模式识别，在给学生呈现最大范围的实例和这些知识的应用情景方面存在先天优势，可快速帮助学生提取相关学习材料，但人工智能缺乏人类的常识，不能自发地识别连接并将知识转移到新的环境，在帮助学生建立抽象的知识结构和认知图式，把知识从单一场景迁移到多场景方面的作用有限。

4.知识的创新

知识的创新是创新的一个重要方面。目前，人工智能逐渐展现出知识创新的能力，可以独立编程、创作诗歌、生成音乐或美术作品等。例如，“微软小冰”可以根据用户上传的图片快速写出一首现代诗歌，并创作诗集;随着训练的深入，AlphaGo Zero还独立发现了游戏规则，并走出了新策略，为围棋带来了新的见解。通过人工智能创新知识的多个案例可以发现，人工智能的创新具有如下几个特点：（1）具有一定的创新性。虽然其创作还有赖于人的前期输入和大量的训练（AlphaGo Zero甚至可以在零人类经验的基础上产生创新），还缺乏灵性，但其产生的结果或结论却具有创新性，其“创作过程也与人类创作的过程非常相似”。（2）提高了创新的效率。人工智能具有严密的逻辑，能够为实现目标选择最佳路径，在那些任务目标明确且相关数据丰富的领域，人工智能可以“在短时间内提出超过人类现有的学习能力和知识体系，给出创新式的问题解决方案”，人类知识创造的效率与结果将越来越依赖于智能技术。（3）可提供工具支持。野中郁次郎（Ikujiro Nonaka）提出了显性知识和隐性知识相互转换的SECI过程，知识通过群化、外化、融合、内化这种循环转化而形成了一个螺旋形上升的知识创新过程。在此过程中，“人工智能可提供社交媒体进行内容聚合和分发，对创新知识产生一定的作用”。（4）改变了知识创新的传统路径。人工智能可部分参与人的创新过程，一定程度弱化了人在创新中的主体地位，“人类主体地位从传统的‘全程式参与进化为‘环节式或‘节点式参与，深刻地改变了知识创新的传统路径”。

但过于夸大人工智能的创造性也不恰当，首先，人对世界的认识来自人的理性，即通过知识认知和理解世界，人工智能以基于运算的方式理解世界，无法自行完成知识的更新和转化，它们有时的确可以做到“人机莫辨”，也许还能根据人的选择和评判不断地改进自己，但它永远不知道自己在做什么，它自己也无法选择。这样方式生产出来的知识更多的是一种“形式化的内容”，无法形成自己真正的思想观点。

其次，基于规则条件及概率统计的创新方式与基于情感感动及顿悟冥想的创新机理存在本质不同。“人过去通过几百万年作为一个生物物种的演化，带来了一些非常理性的成分”，人工智能可能比较容易模仿这些理性部分，但“人脑不像计算机一样遵循物质的基本规则，会为意识和直觉留出空间”。在人类历史和科学发展史上，一些看似完全无关的偶然事件所引发的灵感或者联想创造了许多重要的发明。人工智能在模拟人的非理性还存在很大挑战，且现在人类对于自身智慧的本质、直觉、创造力等能力尚且没有完全理解，更不要说人工智能模仿了。

第三，创新的本质是人的实践活动，是对未知领域的逐步认知，并在此基础上进行的再创造。人工智能发展的起点是解决问题、提高效率，人类智能的起点是社会化，这是二者区别的根本。人工智能可以替代曾经由人主导的实验过程，但是，程式化的技术难于突破问题意识的局限。

第四，“对于人类社会来说，知识创新依靠的不仅是对知识点的重新组合，更多的是对于既有知识的批判式反思”。因此，人的思维和主观能动性在知识创新的过程中至关重要。由于人工智能本身是程序运算，不具有批判性和反思性，其创造性的工作和作品一定是高度客观性的，创新程度还非常有限。

（四）总结

人工智能通过各种软、硬工具采集、积累各类大数据，形成信息，通过机器学习算法，给出各种预测结果的概率，根据推测的结果，进行最优决策，并以人能理解的文字、言语、行为进行反馈，这为其在结构良好的知识领域发挥作用奠定了基础。人工智能对于显性知识方面（基本事实和过程）的传递尤其擅长，正在逐步向知识的理解、迁移、创新知识领域扩展，这对于学生的学习和教师的教学来说，是有利无弊的。学生不用花费过多课堂时间去死记硬背一些信息，教师可以用更多时间关注教育的更深层次目标，即迁移和创新。但人工智能难以对开放世界作出充分表征，没有人类现实世界的丰富经验和体验，不具备“以特定方式思考”的能力。因此，让人工智能做大部分的知识传递的工作，让人类来做创造性的工作，才是当前和今后一段时期的教育之道。人工智能与人类在知识学习中的作用边界如图3所示。