我国人工智能教育风险研究的可视化研究分析

曾建国，唐 瑶

(南华大学 经济管理与法学学院，湖南 衡阳 421001)

近年来，人工智能技术与教育的融合发展越来越密切.人类在享受人工智能技术带来便利的同时，也应思考在智能时代背景下教育变革将面临的新风险，从而探寻应对措施以最大化利用人工智能技术的价值.查阅文献发现，对于人工智能教育风险的研究多基于局部范围思考，缺乏整体性研究文献综述.因此本研究将利用Citespace和VOSviewer对中国知网该领域文献分析，主要探讨我国2011—2021年间人工智能教育风险的热点和前沿，为我国人工智能+教育研究发展助力.

1 数据来源与研究工具

1.1 数据来源

文章所有相关数据来源于CNKI(中国学术期刊网络出版总库)文献数据库，通过高级检索功能，以“人工智能”“教育”“风险”为主题关键词，检索时间截止2021年7月10日.初步得出满足条件的文献164篇，经过数次的筛选和检查，剔除非人工智能教育风险的英文文献、公告、声明、人物介绍、会议通知等非科研类文献，最终得到有效文献138篇作为本研究的数据来源.

1.2 研究工具

主要采用知识图谱分析和文献关键词共现的分析方法，使用Citespace 5.7.R2和VOSviewer相结合的方式对文献数据进行分析整理，对分析后的图表再做具体论述.通过对年度发文量和发文机构、发文作者、文献关键词共现网络的聚类图谱进行分析，展现2011—2021年间我国人工智能在教育领域的风险研究现状、热点及趋势.

2 我国人工智能的教育风险研究情况分析

2.1 发文量分析

发文量能大致展现特定时期科研动向，有助于观测相关领域热点.2011—2021年这一时期，人工智能在教育领域存在的风险研究的发展大致可以分为两个阶段：发展萌芽期和发展迅速期.

2011—2017年是发展萌芽期，虽然随着人工智能的发展，人工智能技术不断与教育融合，部分学者开始担忧便利的技术可能给教育带来隐蔽的风险，但此阶段发文量低迷.随着2016年围棋的人机对战结果[1]，才将人工智能风险研究迅速带到大众视野，教育中的人工智能风险逐渐引起重视.2017年至今是发展迅速期，教育部2018年发布《教育信息化2.0行动计划》将人工智能+教育的研究推向新阶段.这一年发文量较上一年增长20篇，增长速度惊人；2019年发文量较上一年增长14篇，增长率高达72%.同年8月，联合国教科文组织发布《北京共识——人工智能与教育》，进一步推动学术界对于人工智能教育风险的研究，2020年发文量增长至49篇.由于2021年发文数据尚未统计完全，时间截至7月10日，目前发文量已到达24篇，大概是2020年发文量的49%，可以推断2021年发文量大概较前一年相差不大，研究发展势头依然可观.

2.2 发文机构分析

利用Citespace将所选文献发文机构可视化后，研究机构发文情况.近年间，华东师范大学教育学部发文量最高，北京师范大学教育学部排名第二，江南大学教育学部、上海师范大学马克思主义学院等紧随其后.关于人工智能教育风险研究的机构主要以师范院校为主.师范类院校在该领域研究积极性较高且承担重要角色.所有的发文机构中合作关系较为紧密的是华东师范大学教育学部和江南大学教育学院，但不同的学术机构、院校之间的合作较少，研究机构之间的互动性仍有待加强.

2.3 发文作者分析

Citesapace软件中图谱节点代表发文的作者姓名，姓名的字体大小代表作者发文数量的多少，姓名之间的连线代表作者间合作关系.通过Citespace可视化得出，网络节点数为128，连线为29.作者合作主要的两个研究团体分别是：代蕊华团队和宛平团队.其他高产出作者虽有合作，但是多局限于导师与自己的研究生之间的合作，且未形成大的合作群体.

2.4 高频热点词汇分析

高频次或高中心性关键词能够从某个角度反映出一段时间内该研究领域专家学者普遍关注的核心内容，也就是研究热点[2].关键词是反映人工智能教育风险研究主题内容的一个重要信息.对其统计分析可以快速了解该研究领域的最新研究动态和研究热点.将收集的文献数据导入VOSviewer可视化软件，选择关键词共现，设置词频统计最低阈值为“4”绘制关键词共现图，整理排名前10的高频关键词如表1所示.

2011-2021年我国人工智能教育风险的研究关键词可视化图中，人工智能教育风险研究关键词围绕“人工智能”中心词紧密形成共现网络，体现出该研究的高度聚集性.从关键词共现图谱中可以看出，关键词之间已经构成多个不同聚类，表明我国该研究领域目前存在多个热点研究方向，例如探讨人工智能技术在高等教育、职业教育、思想政治教育等中存在的风险；如围绕教育风险、风险治理方面等开展专题研究以应对人工智能在教育中的风险等.

根据表1，除“人工智能”以77次频次位居高频词首位之外，其他依次是“风险”“大数据”“人才培养”“思想政治教育”“职业教育”等关键词，这些热点关键词反映了人工智能技术在教育领域中存在风险的主要研究领域.从高频关键词的首现年份来看，大多数关键词集中首现在2017年及以后，预示了我国人工智能教育风险领域研究近几年的发展趋势与研究转向.

2016年至今，国家和地方等教育相关部门出台一系列的智能化、信息化的教育新政，旨在速度更快、范围更广、质量更高地推动人工智能在教育领域的发展.如2016年5月，国家发改委、科技部、工信部、中央网信办四部门印发《“互联网+”人工智能三年行动实施方案》中倡导在教育领域开展人工智能应用试点示范.2017年7月国务院印发《新一代人工智能发展规划》中强调人工智能带来社会建设的新机遇，但技术的不确定性、不可解释下也将带来新风险，需在教育、医疗、养老等迫切民生需求领域创新发展，为公众提供安全便捷且高品质服务.2018年，教育部则在《高等学校人工智能创新行动计划》中从高等教育层面对新一代人工智能的创新发展做出了重大部署等.

根据近十年间关键词共现视图与高频关键词列表，检索梳理相关文献发现，大致有以下几个研究方向：

2.4.1 人工智能的教育应用

我国较早将人工智能技术和教育结合的是学校管理系统，运用智能技术将庞杂的数据整理清晰.随着技术的不断发展，与教育的融合也不断深入，根据文献梳理，我国人工智能的教育应用领域可以分为两个：技术应用和场景应用.

技术应用主要是探寻教育信息化.信息化是教育现代化的重要内容，也是推进教育现代化的关键途径[3]，利用人工智能技术、互联网技术与大数据技术等信息技术相结合的方式进行数据分析，探讨在依托信息技术驱动知识学习、精准教育扶贫、自适应自主学习等教育过程中存在的风险[4].

场景应用可分为多个场景，因为部分学者根据人工智能教育的特点，对其在不同学历阶段教育、不同教育性质等框架设想和实际应用进行分析总结，分为高等教育、职业教育、思想政治教育、人才培养、未来教育等应用场景，并在每个场景探索人工智能教育存在的隐秘性或破坏性的教育风险.

2.4.2 人工智能的教育风险

根据VOSviewer可视化分析，目前我国人工智能存在的教育风险类型归纳为技术风险、社会风险和伦理风险等.

技术风险：教育在使用人工智能技术的过程中存在一定不可解释性风险，使用者和监护者难以发觉人工智能技术应用过程中是否算法合理、是否存在偏见.随着技术的无限扩张，在教育领域使用范围越大风险的可能性就越大[5].此外人工智能算法较为结构化，而教育需要较为复杂特殊的育人方式和手段，结构化便与教育行业的多因素性相违背，可能导致算范错误，酿成教育事故.

社会风险：人工智能+教育中存在的风险如果不得以解决将导致社会问题.人工智能在教育领域的应用不仅冲击着传统教师的授课模式，也冲击着学生职业教育的学习内容.“职业替代”一词出现在大众视野，无论是老师、学生或者是其他行业工作者开始忧虑人工智能技术与职业的关系.此外，由于地理位置、学校发展等原因，并不是所有学校都能安装智能的教学设备，学生在智能时代所享受的教学软硬件设施的公平性无法得以保障，是否不利于教育公平的困惑也是一大重要的社会风险.

伦理风险：伦理风险主要存在两个层面，一是存在于某些人工智能教育应用程序的开发和使用可能不符合伦理道德，二是在将人类伦理原则嵌入人工智能系统的过程中.在教育情境下，刘盾等认为开拓教育前线与守住教育底线相结合秉持理性，培育人的精神能力和正确素养仍然是现代教育的主要目的之一，这是在人工智能教育中不能本末倒置的重点.教育中的人工智能机器目前尚不能拥有像人一样的理性与非理性的复杂情感或意识，从而不能对学生进行精神、思想的培养.

2.4.3 人工智能的教育风险应对

学者在对人工智能在教育领域技术应用和场景应用的角度进行风险分析后，纷纷提出对策建议以应对技术所带来的威胁.通过VOSviewer关键词可视化分析发现，学者从教育教学变革角度提出应对对策，并以期应对策略科学有效，对未来教育构成良性因果.

2.4.3.1 基于技术视角的教育变革以应对风险.为应对教育中人工智能技术风险以实现教育公平、提高教育质量、推进教育创新是教育改革发展的三大核心任务，也是教育变革的三大永恒主题[6].祝智庭、管珏琪等学者对人工智能技术风险正在引起哪些教育变革、为什么说教育变革需要技术支撑以及如何利用技术促进教育变革三个问题进行研究.王天平从人工智能大数据技术视角对大数据诱发的教育变革进行研究，并具体论述了大数据诱发的教学思维等变革，分析利用大数据诱发教学深度变革的支持条件，从教学内容、教学方法、教学组织提出了教学变革的策略.

2.4.3.2 基于社会视角的风险治理以应对风险.教育风险治理考验着每一个教育工作者的治理能力.部分学者尝试解释人工智能技术性创新与教育融合的时代背景，对当前中国人工智能创新现状与问题进行剖析，并对中国高等教育人工智能创新应对提出建议[7]；除此之外，有的学者认为人工智能在给教育带来便利和服务的同时，也带来了巨大风险[8]，需要结合国内外人工智能在教育领域的发展情况做出风险审视，并从国家战略、社会福祉、技术发展等层面进行未来预判[9].

2.4.3.3 基于伦理视角的理性思辨以应对风险.伦理风险不同于其他风险，它的破坏性巨大，可能会摧毁人类原有的教育价值和伦理体系，带来一系列潜在的、未知的、不可估量的伤害[10].冯锐教授认为教育中应理性抉择，以规避人工智能在教育应用中的伦理风险；刘霞建议在人工智能教育应用过程中构建师生间伦理共同体以化解风险.人工智能自诞生起便面临着诸多伦理质疑，在与教育融合的过程中秉持理性，需在发展中形成伦理准则从而淡化风险存在的可能性.

2.5 研究前沿分析

表3是利用CiteSpace绘制的关键词突变表，突变值是CiteSpace中反映短期内变化较大的变量的一种计算值.根据表3可以看出我国人工智能的教育风险研究热点突变强度和突变起止年份，并可以通过该研究每一年突变词的变化预测未来研究前沿.

表3 2011—2021年我国人工智能教育风险的研究关键词突变表

结合表2的聚类分析可以发现，2011-2017年，我国人工智能教育持续关注人工智能技术的数据风险，“教育数据”关键词以2.52的强度占据榜首.也由此可看出，在较早的人工智能教育应用层面，学者只注意到了数据应用的风险、教育数据管理存在隐患以及如何针对“风险治理”，探寻“实践途径”.2017-2019年，人工智能的高速运算能力使人们更加重视人工智能发展.这一阶段，学者更加关注技术在教育领域的运用与风险，在实现教育信息化过程中预判风险，达到风险应对与规避.2019-2021年，这一阶段我国人工智能的教育风险研究趋向性明显且集中，逐渐着眼于向“未来教育”的“教育改革”.2020年全球疫情蔓延，在线教育模式打破了传统教育时空的局限性，让人们了解到智能教育发展是顺应时代发展的主旋律，在5g技术的推广下，教育的智能技术将得到进一步推进.我们不能避免人工智能技术的进步，从技术中得到便利和优势，但对教育中存在风险需要进一步探讨，寻觅在未来教育阶段如何进行教育风险治理.

表2 2011—2021年我国人工智能教育风险的研究方向

3 结论与建议

通过CiteSpace和VOSviewer软件对我国2011-2021年人工智能的教育风险研究可视化分析后发现，近10年我国人工智能教育的风险研究整体上越来越引起学术界关注.

3.1 相关研究发文数量增加，合作网络体系尚未建立

随着教育强国战略、教育信息2.0的实施推进，近10年间人工智能+教育模式越来越受到学界的高度关注.人工智能教育风险经历着研究发展萌芽阶段、快速增长阶段.但是人工智能在教育领域存在的风险问题研究之间的合作关系总体较弱，即便是研究的高产出作者，其合作性也不强，核心作者发挥的带头作用有所欠缺.

3.2 相关研究的维度较少，研究深度和视角局限

一方面，目前我国人工智能的教育风险研究大致可以分为教育应用、教育风险种类、风险应对三个维度，仍有许多相关研究发展空间以拓展人工智能的教育风险的研究视角.另一方面，当前研究较为重视的是人工智能教育应用存在的风险，而教育风险应对的研究尚未做较为细致深入的探讨.随着教育与人工智能的深入融合，可能会存在越来越多的潜在的、隐蔽的风险危及着教育事业、教育相关者的生命、财产、健康安全，相关研究的深度和视角需要更加深入和广泛.

3.3 相关研究重理论轻实证，教育风险治理困难重重

人工智能+教育融合越来越深入、智能化教育革新层出不穷，而现有的研究主要着眼于理论性、经验性研究人工智能存在的教育风险，实践性研究相对较少.深入教育一线实证考究研究人工智能教育风险的研究较少，将很难与时俱进全面细致地发掘出在学校、家庭中存在的潜在性、隐蔽性的教育风险，从而导致对于人工智能教育风险治理缺乏现实根据，以至于举步维艰.

基于以上人工智能的教育风险研究现状，尝试提出几点建议：

首先，由于人工智能教育风险研究的现实意义深远，作为教育服务重要组织者的政府、高校等相关部门需重视、鼓励、呼吁高校、研究院等机构间关于人工智能的教育风险研究合作，着力为学者提供产生思维碰撞的科研平台，为建立我国人工智能的教育风险科研网络体系助力，以期推动我国在该领域学术科研往新一个台阶迈进.

其次，学者在重视人工智能技术在高等教育、思想政治上存在的教育风险研究价值的同时，应开拓人工智能技术在未来教育与教育改革等的研究视角，把握人工智能与教育的发展倾向性和发展节奏，与时俱进掌握发展前沿、加强风险研究的力度与深度，促进该领域研究视角的多元化、研究方向的细致化，以达到扩展学术研究的丰富性、多样性与价值性的目的.

最后，研究方法上不再局限于人工智能教育风险的理论研究，建议相关研究者需深入高校、初高中、小学、幼儿园等各层级学校的教学一线中，在人工智能技术实践教学中客观收集真实案例、资料等数据，以理论指导联系实际经验的研究方法，结合中国当前的具体国情，科学性和创新性地提出具有针对性的人工智能教育风险的治理策略.