人工智能背景下教育风险的规避策略研究

杨欢　刘世清

摘要：人工智能的快速发展，是目前科研人员和教育工作者的研究热点。尤其是近年来，人工智能与教育的结合，给教育带来了新一轮的变革，人们普遍关注人工智能给教育带来的机遇，却很少有人关注其背后隐藏的教育风险。该文对人工智能背景下隐藏的教育风险进行梳理，并提出一些规避策略，以期人工智能可以更好地为教育教学服务，这对人工智能以及教育信息化的发展具有重要意义。

关键词：教育人工智能;教育大数据;互联网+教育;教育风险

中图分类号：TP18      文献标识码：A

文章编号：1009-3044（2022）08-0081-02

人工智能（Artificial Intelligence，簡称 AI），是由McCarthy在1956 年的Dartmouth 学会上正式提出的，是计算机学科的重要分支之一[1]。人工智能实际上是人类器官的延伸，帮助人类走得更快、看得更远，做一些过去只有人类才可以进行的工作，在一定程度上解放了生产力。教育中的人工智能（Artificial Intelligence in Education，AIED），又称“AI + 教育”，将教育与人工智能融合在一起，创造具有适应性的学习环境，开发智能工具来促进教育的发展[2]。

1 人工智能的教育应用问题

人工智能在教育中的应用，主要集中在两方面：一方面开展人工智能教育，让学生进行有关人工智能的学习，当今很多高校都设有如编程类课程、机器人教育课程等人工智能课程，教授学生专门学习、研发如何制作智能机器人;同时还创建有人工智能学习小组等。另一方面要求学会运用人工智能技术，进行“人工智能+”背景下的教育，促进教育教学的变革。比如，基于人工智能下的新型教学模式、个性化教学评估等，即如何将人工智能与教育进行有机融合，促进“人工智能+教育”的赋能发展。下面就这一方面的应用进行论述。

1.1基于人工智能的课前准备

课前准备是针对师生双方的。课前教师可以利用人工智能技术，收集、分析以往的课堂情况，生成一份教学指南;还可以获得每一份学生的学情报告，这样教师可以更具有针对性地进行教学;同时，教师还可以利用翻转课堂、微课等技术为学生推送一些简短的学习小视频等，供学生课前学习，学生在课前可以接收到适宜的预习内容，有助于课程的导入，这样既节省了教学时间，又使教学任务变得更加明确;此外，在提升教学效果的层面上，人工智能可以为教师提供虚拟课堂课前演练，有虚拟的教室和学生，可供教师课前试讲并改进教学。

1.2基于人工智能的教学过程

伴随人工智能与教育的深度融合，涌现出了许多线上课堂，比如“MOOC”“空中课堂”等。与传统的教学过程不同，大量的网络课程可供教学，真正实现了教育的“4W”模式，即人们在什么时间（what time）、什么地点（where）、以何种方式（how）学习什么内容（what）。信息化时代，人们可以选择各种各样的资源进行学习，真正做到随时随地进行碎片化学习。人工智能技术在教育中的应用，还可以做到追踪学生的学习轨迹、记录学习过程、生成学习档案。教师可据此为学生选择适合的个性化课程资源;还可采用“真人老师+人工智能助教”的新型教学模式，人工智能助教负责教授给学生一般的知识，而真人教师负责对学生进行精细辅导和情感关怀，弥补人工智能的不足;此外，还涌现出如 “同步课堂”“互联网+教育”“线上送教”等众多人工智能下的新型教学形式，进一步拓宽了学生获取知识的渠道，也在一定程度上缓解了教育不均衡的局面。

1.3基于人工智能的课后辅导

人工智能技术真正变革了“教与学”的形式，在很大程度上解放了教师、家长和学生。人工智能与教育的结合，还可以为学生提供精准的课后辅导服务。学生课后可以进行网络课程学习，可通过网络获取学习资源或向老师等寻求帮助，还可用电子产品下载类似“作业帮”“小猿搜题”等搜题解题软件，这些人工智能为教育带来的机遇，均可为学生提供随时随地的解答与辅导。除此之外，还出现了智能学习机器人，能够对学生的学习进行智能辅导，还附带解题过程、思路、视频讲解等;人工智能技术还可以对学生进行学情分析，根据学生的个性化需求，为学生推送适合学生的一系列学习内容，对学生的学习进行查漏补缺;人工智能可以在学生学习过程中，对学生实时监督，进行智能纠错，生成个性化分析报告等，真正促进学生的深度学习。

1.4基于人工智能的信息化评价体系

以往的教学评价来源于老师课堂的观察以及作业等级与考试得分等，对学生的学习过程关注度不够。人工智能背景下的评价体系，使教师可以根据实际教学情况和每位学生的不同需求，实现个性化组卷，组合成适合不同班级、不同水平的学生试卷，并在学生完成考卷后，进行自动统计数据，生成个性化评估报告，助力精准教学。对于评价过程中的监督模式，除了和以往一样的教师监考外，还可用电子屏蔽仪、考场监控等进行辅助，更大程度上确保测试的真实性。通过对学生学业的信息化精准评价，针对学生的差异，也可更好地为学生匹配适合其学情的老师。人工智能背景下的评价，不仅更高效、更准确，也更全面。

1.5基于人工智能的教育管理体系

教育管理是教育教学中的重要组成部分，人工智能技术在教育管理中也有很广泛的应用。如智能选课系统的出现为教育提供了便利，学生可根据兴趣、学业需求，进入选课系统选择课程。此外，针对学生上课签到的问题，点名签到软件节省了教师点名的时间，提高了课堂利用率;教学软件也层出不穷，比如“对分易”“雨课堂”等，可以便捷地管理班级成员、发布消息、上交作业;校园安全监控系统的广泛使用，极大方便了教育管理者的管理工作，如教室内外、食堂、校园里的监控录像、门禁控制系统等，帮助管理者实时监督教学、生活状况，将学生的学习与生活过程可视化，有助于教师更全面地了解学生，促进教育教学质效的提高。

2 人工智能背景下隐藏的教育风险

2.1 侵犯隐私，泄露数据

教育人工智能伦理是教育人工智能发展不可忽视的现实议题。[3]进入人工智能时代，各种信息通过网络可以方便、快捷地传输，人们在享受便利的同时，也承担了一定的风险。教育领域中的人工智能需要教育大数据，但是教育大数据的采集、存储和处理对人们的威胁很大，尤其是私密信息的泄露[4]。人们的个人信息、位置信息等，很有可能被别有用心的人利用，窃取隐私、泄露数据、频繁的骚扰电话，以及量身定制的推销都表明隐私已经存在泄露。在大数据时代， 学生全时段的校内外活动轨迹及其家庭背景、社会交往等个人信息， 在教师和教育管理者面前“一览无余”，而学生却处在教育管理链的末端，因此，保护好学生的隐私信息就显得尤为重要[5]。在教育中使用人工智能，在提高教育质量，提升教育效率的同时，可能也对人们的信息安全造成了隐患。

2.2 不良信息，误导学生

伴隨着人工智能与教育的深度融合，网络上出现了丰富的学习资源以帮助学生进行自主学习、碎片化学习，但这些信息良莠不齐，学生面对海量的信息资源进行学习的同时，很容易被不良信息误导。学生年龄较小、社会经验不足，对事物的认知能力有限，难以分辨信息的好坏，同时也缺乏对不良信息的抵制能力。面对开放的学习资源，学生可能获取不到自己真正需要的、适合自己的信息，反而会被不良信息误导，受到不良信息的侵害。

2.3 忽视情感、态度与价值观

进入人工智能时代，教育教学组织形式发生了变革，但长此以往会出现师生不能及时互动、问题得不到及时解决、教师关注不到学生的情感等问题。在传统课堂上，教师课上拍拍学生的肩膀对于学生来说都是极大的鼓舞;而在人工智能背景下，追求高效、便捷的课堂，帮助学生收获知识的同时，忽视了对学生情感、态度和价值观的培养。此外，一些智能学习机器人、解题类App等，在传递教学资源的过程中，也难以兼顾到学生个性化的情感、态度等。

2.4 缺乏监督，学生学习松懈

如今已经进入开放学习、自主学习、终身学习的新时代，在丰富的信息资源下，学生可以借助网络，自主学习许多内容。但也正因如此，学生缺乏教师的监督，自主学习被放大，可能在一定程度上造成对自己的学习松懈，特别是对于一些自制力不高甚至缺乏自觉性的学生。比如，以前教师布置作业学生都要认真思考才可以做出来，而现在学生只需要打开“百度”或者下载诸如“作业帮”等的App，拍照便可搜题找到答案，易于导致他们不加思考就把答案抄上去，来完成教师所布置的任务。

2.5 学生形成表演型人格

随着人工智能进入校园，在学校的各个角落，师生几乎都受到了无死角的监控。一些教室开始配备人脸识别系统，用来更方便地记录学生出勤情况，也避免了代替同学“答到”的不良行为，起到了督促学生学习的作用。但同时，这也意味着，要实现数据采集，从动作分析到表情、情绪及肢体分析、眼球追踪等，学生的一举一动都将暴露在人脸识别系统之下[6]。然而，这种评价无法真实判断教学是否在“表演”，学生细微的表情变化是否能够真实表现学生对所学内容的理解程度？对脸部无表情的学生怎样判断[1]？在有监控的环境下和无监控的环境下，所做出的表现是不一样的，长期被系统监测，学生容易形成“表演性”人格，长此以往，会让学生隐藏自己的本性，不利于学生的人格发展。

3 人工智能背景下教育风险的规避策略

3.1 利用信息技术，构建安全屏障

人工智能在教育中的应用产生了许多教育大数据，大数据由各种代码组成，容易被一些黑客攻破并盗取信息。“比如，在信息泄露方面，通过智能系统对教育数据的保密性、真实性和完整性进行维护，依赖于教育数据的存取和免受攻击”[4]。基于目前网络开放、资源共享的特点，为了进一步加强网络信息安全，可以从以下几个方面入手：一是大力加强数据保护，如使用更先进、复杂的解锁机制，对数据进行严格加密，可有效阻挡黑客;二是采用用户安全分离机制，若一个网络用户受到侵害，便不会像以前一样迅速蔓延，导致集体中毒，可以及时降低损失;三是加强技术的改进，开发出更强劲的杀毒软件，让病毒、黑客无机可乘，从而有效保护网络信息安全，使隐私不被泄露。

3.2 创建绿色环境，为学生护航

加大对互联网的净化力度，对网络信息实行更严格的把控，保证网络环境是安全的，健康的。实时进行网络监测，对一些虚假消息、谣言，设置自动识别、过滤;设置网络追踪系统，一旦追踪到不良信息发布者、传播者，给予一定的惩罚。此外，各平台还可以采用实名认证的方式，对未成年的学生提供青少年模式，保证所接触到的内容都是适合他们年龄阶段的;同时，学校也要对学生加强信息素养的培养，安排信息化课程，指导学生如何查找信息、辨别信息、筛选信息、使用信息，增强信息意识。

3.3 丰富机器情感，教师给予辅助

人工智能与人类相比，毕竟是机器，虽然在许多方面，人工智能已经特别先进，但在情感方面，人工智能仍无法和人类相比。如果师生之间的交流被虚拟世界所阻隔，仅传播一些抽象化的符号与程式化的活动，将会导致人文关怀的情感缺失[7]。在人工智能背景下，同样需要关注学生的情感培养。如教会机器人对学生的面部表情进行精细识别，识别学生表情背后蕴藏的情感，如微笑、沮丧等;也可以从语言、声音、动作等方面进行识别，以此给予及时地鼓励或安慰，达到情感唤醒的结果。如此，可以实现对学生的全面化培养。此外，在“人工智能+教育”时代，机器、网络占据了学习的很大比重，但传统教师的角色作用仍然不能被弱化。教师、家长应该更加关注学生的情感发展，帮助学生在学业进步的同时，形成完善的人格和正确的价值观。

3.4 严格把关资源，家校加强监督

“人工智能+教育”时代，资源获取具有很大的便捷性，造成学生很可能不动脑筋就把作业“写”完了的局面。为避免这种情况，建议一些类似于“作业帮”等的学辅软件加强对资源的把控。在学生解题的过程中，需要学生具备一些相应的基础知识，按照指引一步一步思考，与机器共同完成答题，在答题的过程中思考，得到更多收获;或者需要完成一些与目标资源相近的小任务，任务完成后，才可以获取目标答案和解题指引，如此便可以避免学生闭着眼睛完成作业的情况。带动学生按步骤寻找答案，比直接将完整的答案呈现给学生更加有利于学生进步;在此过程中，巩固学生知识的同时，也可以在很大程度上避免学生偷懒、松懈。此外，家校之间应进行协作，加强对学生学习的监督、辅助，帮助学生形成良好的学习习惯。

4 结语

“人工智能+教育”时代的到来，为教育带来机遇的同时，也带来了挑战。人们应该正确把握“教育人工智能”的内涵，以发展的眼光审视它。面对教育信息化的高速发展，广大科研人员和教育工作者应保持理性，警惕人工智能在教育上可能隐藏的一些风险，并积极采取相应的措施加以规避，推进人工智能与教育形成更深程度的融合。

参考文献：

[1] 孟翀，王以宁.教育领域中的人工智能：概念辨析、应用隐忧与解决途径[J].现代远距离教育，2021（2）：62-69.

[2] 王岚，王凯.教育中的人工智能：应用、风险与治理研究[J].黑龙江高教研究，2020，38（6）：45-49.

[3] 赵磊磊，姜蓓佳，李凯.教育人工智能伦理的困境及治理路径[J].当代教育科学，2020（5）：3-7.

[4] 薛庆水，李凤英.人工智能教育应用的安全风险与应对之策[J].远程教育杂志，2018，36（4）：88-94.

[5] 胡弼成，邓杰.大数据时代的教育变革：挑战、趋势及风险规避[J].教育科学研究，2015（6）：29-34.

[6] 刘斯文.人工智能进校园风险何在[N].北京商报，2019-09-10（16）.

[7] 冯锐，孙佳晶，孙发勤.人工智能在教育应用中的伦理风险与理性抉择[J].远程教育杂志，2020，38（3）：47-54.

【通联编辑：唐一东】