人工智能教育应用的安全风险与应对之策*

薛庆水 李凤英

（1.上海应用技术大学 计算机科学与信息工程学院，上海 201418；2.上海交通大学 继续教育学院 高等教育研究院，上海 200240）

一、引言

人工智能（Artificial Intelligenc，AI）的浪潮正在席卷全球，2017年7月，国务院发布了《新一代人工智能发展规划》，明确指出要培养复合型人才，建设我国人工智能人才高地[1]。2017年12月，人工智能入选“2017年度中国媒体十大流行语”[2]。

其实，人工智能的提出，可追溯到1956年的达特茅斯（Dartmouth）会议。之后的半个多世纪，人工智能一直被当作预言，未取得重大进展和突破。直到2012年，随着移动网络、海量数据的积累、计算机计算能力的提升和机器学习新算法的出现，人工智能才得以在全球爆发，进入一个发展新阶段。

人工智能正在深刻影响着今天的社会、经济、文化等各个层面。《未来简史》作者尤瓦尔·赫拉利（Yuval Noah Harari）认为，“人工智能”是我们这个时代最著名、最重要的科学发现，是整个21世纪人类历史上最重要的一个演变[3]。从1997年IBM的深蓝击败国际象棋冠军到2017年Google公司Deep Mind团队研发的“阿尔法狗”（AlphaGo）战胜全世界的围棋高手，让我们充分领略到了人工智能技术的巨大威力和发展潜力。

教育，也是人工智能具有很大影响的领域之一。人工智能让机器学会学习的同时，也改变了人们的思维和学习方式。比如，以前强调“死记硬背”，现在有许多知识根本不需要记忆，智能搜索引擎会对用户需求进行解读和预判，从而给出检索结果；检查学生减法算术错误原因的BUGGY专家系统，也是人工智能在教育中的应用之一。再如，智能探头与视频追踪，能够实时记录教室等学校环境或其他网络学习空间中学生的各种学习行为、表情、交互等变化过程，并通过大数据进行即时分析与反馈，从而进行学习的个性化诊断，改进学习支持服务。

然而，任何事物都有其两面性，人工智能的教育应用也不例外，它在给教育带来便利和服务的同时，也带来了风险和威胁。近年来，以搜索学习者信息尤其是隐私信息为主要目的的恶意程序，正在不断涌现并快速增长[4]。比如，最近杭州某中学在课堂上应用智能探头及视频技术，就引起了较大的争议。我们应该思考，在推进数字化校园建设及教育智能化的过程中，该如何充分尊重与保证师生的隐私。因为技术永远在更新换代，它所隐藏的风险也会时常带来一些不利影响甚至是危害，需要我们未雨绸缪。

由于人工智能+教育的相关研究刚刚兴起，一些潜在的安全问题或风险尚未充分显现。国内外的相关研究文献也比较欠缺，所以有必要进行一番探讨。为此，本文通过对人工智能教育应用所具有的风险进行分析，尝试运用智能化的工具与思维方式提出相应对策，以期对人工智能时代的教育应用以及教育网络空间的安全防范等，做一些新的思考与探索。

二、人工智能的理论基础和教育应用

（一）人工智能的理论基础

人工智能主要是一个机器学习过程，是通过学习之后习得的解决问题的能力。其学习过程包括知识的学习和技能的学习，知识的学习是指机器对各学科领域的知识学习，技能的学习是指机器学习人类解决问题的办法。人工智能解决问题的能力，是指通过学习用已知的知识和技能解决问题和创造性地解决问题，以此建立新的知识和新技能。目前，OpenAI已经研制出能够自主学习新技能的机器人。

可见，人工智能的理论基础与传统的学习理论具有关联，包括行为主义、认知主义、建构主义、联结主义等。由此，衍生出人工智能的五大流派，分别是：符号主义、联结主义、行为主义、逻辑主义和认知主义，上述流派所反映的思想，正是基于传统的人类的教与学的理论基础，见表1。

表1 人工智能的理论基础、应用及相关构成

（二）人工智能的教育应用

目前，人工智能依赖于教育大数据、云计算和机器学习，涉及教育学、心理学、认知科学、计算科学、信息论、控制论、统计学等多门相关学科；其研究领域不断扩大，包括专家系统、机器学习、神经网络、感知问题、模式识别、进化计算、模糊逻辑、计算机视觉、自然语言处理、推荐系统等；其技术支撑主要为机器学习、计算机视觉、语音识别、自然语言处理、专家系统、引擎推荐等；实际应用有机器视觉、指纹识别、人脸识别、智能搜索、博弈、语义理解等。上述这些在教育领域中具有广泛的应用，比如，考试登录系统、专家辅导与答疑系统、智能作业修改、早教机器人、个性化学习规划、智能教育评价与决策[5]。

2016年6月，国务院发布的《“十三五”国家科技创新规划》指出，基于大数据分析的类人智能方向要在教育、办公、医疗等关键行业形成示范应用。2017年12月，人脸识别被应用于北京市2018届中考的听说考试登录系统。可见，未来的人工智能技术，必定会给教育行业带来广泛而深刻的影响。

三、人工智能教育应用的潜在风险与安全威胁

当前，在教育领域应用人工智能的过程中，鲜有人去关注或研究人工智能教育应用的潜在风险和新的安全威胁，例如，在面对“永恒之蓝”病毒时，教育科研领域成了重灾区，大规模中招却无能为力。一场信息安全风暴来临之后，灾难会让我们前功尽弃、一切积累的努力化为乌有，造成的严重影响和损失无法挽回。因此，仅仅亡羊补牢是不够的，我们应及时应对智能时代的新威胁、新挑战。

（一）人工智能教育应用潜在风险与安全威胁的原因分析

图1 教育应用中的人工智能构成要素和关系

在教育相关领域中，人工智能推进教育改革，助力智慧校园和智慧学习，促进创新教育。而人工智能教育应用依赖于教育大数据、学习模型（算法）和机器学习，它与教育大数据、机器学习和网络（互联网、物联网、教育网）存在密切的关系，如图1所示。人脸识别已应用于四六级考试，深度学习软件将语音识别的错误率降低到了5.1%。但是，不管是人脸识别，还是语音识别，所采用的智能系统都是基于大数据的逻辑算法，系统须预先存储海量数据信息，比如，考生人脸数据、各地方言数据，基于底层大数据和人的需求分析，然后编码成逻辑程序建模，才能根据具体情况，执行人的想法。总之，它是根据底层数据设计好的程序或模型来执行任务[6]。

在教育大数据的获取、存储、传输过程中以及用以教育的云计算过程中，容易被病毒、黑客以及不法分子截取、攻击和篡改传播；互联网中的软硬件及其传输信道，都是病毒和黑客攻击的对象；而机器学习，亦被黑客用以智能攻击；另外一个重要的因素是黑客进行攻击和威胁的成本更低廉、方法更简单、攻击力更厉害、隐蔽性更强，而在人工智能教育应用中的安全问题却一直不被重视。

（二）人工智能教育应用潜在风险与安全威胁的表现

1.人工智能教育应用中的信息泄露

人工智能在教育中的应用离不开教育大数据。人工智能本质上是由无数松散的数据和算法构成的智能程序来模拟人脑的高级系统，数据和算法是人工智能最核心的东西。教育领域中的人工智能需要教育大数据，但是教育大数据的采集、存储和处理对人们的威胁是很大的，尤其是私密信息的泄露。它包括因服务器管理人员的疏忽造成的泄露、由于个人对权限的不慎重或认识不清导致的泄露、教育产业服务数据流出引起的泄露，以及不法攻击、用以研究和商业数据挖掘造成的泄露等。

教育大数据采集的一个重要渠道是移动智能终端的数据获取，这些信息和资源包含个人的手机号码、身份、地理位置、账号、邮件、文件等敏感信息，而移动平台的高度互联性会将用户信息暴露；一些以技术和数据起家的人工智能教育应用研发企业，要想短期盈利，仅靠研发产品比较困难，于是有些公司为了尽快变现，打起了教育大数据的主意，依靠售卖教育数据牟取暴利，从而导致安全威胁。

另外，在教育大数据的采集和利用过程中，也会发生人为的、有意或无意地造成信息泄露的现象。比如，教育报考信息系统成黑客攻击目标，考生个人信息被打包出售。2016年4月，四川宜宾一个网名叫“魔法师”、真名叫杜天宇的17岁少年黑客编写了一个木马程序，成功攻击了山东省2016年的高考网上报名信息系统，并盗取64万名考生信息，将其出售以牟取暴利。在人工智能涉及的数据信息中，有相当一部分数据包含个人隐私。

2.人工智能教育应用中的网络攻击

网络是人们学习、工作、生活和娱乐的新空间，也是黑客攻击的主要目标。近年来，通过入侵各种教育系统，篡改考生成绩、志愿等事件屡见不鲜。本文所论述的网络攻击是指一切对教育网络环境中的硬件、软件以及在教育大数据存储与传输过程中进行的不法攻击、信息获取和篡改等行为。

（1）智能型攻击方式出现。近年来，一些网络罪犯利用人工智能发起更疯狂的攻击，比如，服务拒绝、口令猜测、信息搜集、伪造和篡改等。相较之前，其攻击面更广、攻击力更大、攻击效率更高和隐蔽性更强。主要表现在以下几方面：①病毒程序无需人类指令操纵，能够自动复制并迅速传播到整个教育网络中的其他设备系统；②远程分布式控制程序，能够使教育网中的电脑系统全部瘫痪；③能够迅速完成教育大数据的搜集、海量信息的关联和鉴别，更快、更精准地瞄准攻击目标；④当攻击者遇到反击或发现原来的漏洞被修补之后，会自动调整策略转向其他目标或者找到另一漏洞入侵。

据统计，99%的网络系统被Virus（病毒）、Worm（蠕虫）、Trojans（木马）等感染过，造成信息失密、被盗，莫名其妙地死机、掉线等。2017年5月12日，“永恒之蓝”勒索蠕虫病毒在短短一天多时间里，攻击了全球150多个国家和地区的电脑，我国也有数十万台电脑被感染，被病毒感染的电脑，其数据被加密劫持。该病毒影响范围遍布高校、医院、政府、火车站、银行自助终端、邮政等多个领域；影响面最广的是教育系统，其中有教育科研机构4341家中招，造成了多数学生电脑文件被加密和学校公共网络的瘫痪。比如，考试的机考变成了卷考，电子阅览室也被关闭。

（2）智能型攻击的原因分析。进入人工智能时代，教育用网不安全的因素主要有：自身缺陷性、网络的开放性和黑客的智能攻击等。第一，教育大数据的获得越来越依赖于互联网设备的采集、捕捉，并通过云服务器进行数据处理和存储。即使互联网中的每个设备近在咫尺，它们之间的通讯也是通过网络进行的[7]。如，MOOC（大规模开放在线课程）仅一门课程的学习者，有的就多达十几万人甚至数十万人，其中连接的在线学习设备数量可想而知。据美国数据分析机构Gartner统计分析，在2016年，全球有64亿网络设备被接入互联网[8]。据估计，到2020年，网络设备的需求量将会增至2016年的1000倍，届时计算量会呈现指数级增长[9]。这样一来教育网络中的每一台硬件设备及其应用软件出了问题都可能威胁到整个网络。如果其中的一台设备遭到攻击，那么，连接到这台服务器的所有设备都可能受到影响，而且极容易被远程操控，其中的数据也易被窃取和滥用。第二，云课堂需要云服务，而集中式的云服务具有共享、开放与透明的特质，与教育大数据中心和教育用户端相连的元服务“暴露”在网络中，失去了原有的保护，更易遭受攻击、窃听和数据篡改等。第三，校园网等教育用网在安全方面投入不够，安全技术薄弱；师生安全意识也不高，学校无安全强制要求；加之学校等教育机构多使用内网，导致传播性、感染性更强。因此，一旦遇到蠕虫勒索这类事件，就出现了大规模爆发。

3.人工智能教育应用中的虚假/恶意信息传播

“错误信息”、“虚假信息”、“恶意信息”等一直是教育网络面临的严重威胁。Vosoughi等人在Science上发表的一篇论文中指出，“假信息总是比真信息传播得更快、更广”[10]。虚假或者恶意信息会给整个社会的经济、政治和生活的各个方面，造成了严重影响，尤其在教育中的影响更大，不仅影响学习者知识的获得，还影响到学习者的价值观和意识形态。因为对虚假信息的辨别、纠正与清理，需要投入大量的教育资源与成本。

近年来，新媒体技术不仅加速了知识的分享和大规模的传播，而且也为虚假信息的传播提供了便利[11]。2017年，美国大众与传媒研究中心发布了一篇研究报告，指出67%的人通过社交媒体获取信息[12]。这种虚假/恶意信息跨地域大规模快速传播的现象，主要出现在拥有海量用户的互联网应用平台（比如，MOOC、脸书、微信等）产生以后[13]。在互联网环境中，每个用户都是信息的发布者和传播者，都可以在这些自媒体应用平台上发布信息，并在平台内外快速复制和传播信息。

虽然像MOOC、网易云课堂等教育类网站需要帐号才能登录，但仍然有黑客会入侵合法用户帐号，篡改、拷贝真实信息和传播虚假信息。一些黑客频繁攻击和篡改各大高校网站，修改网页信息。比如，2016年8月，黑客攻击了内蒙古财政厅网站的计算机信息系统，将没有通过当年会计从业资格考试考生的成绩，从“不合格”篡改为“合格”，进行恶意传播和诈骗。无独有偶，四川某高校大学生闫某，攻击入侵成都及西安等地10多所高校的教务管理信息系统，为多名在校大学生修改考试成绩，删除旷课、处分记录。每年高考结束后，挑学校、选专业成为考生和家长们的首要任务，各大高校网站的浏览量进入高峰期。然而，据360公司统计，上海地区几乎所有知名高校的网站都被篡改过。对于上网检索高校信息的考生和家长来说，如果电脑没有开启安全软件防护，打开被“挂马”的网页时，就会自动下载运行木马，对电脑资料和志愿填报造成严重风险[14]。

四、人工智能教育应用的风险及防范

（一）机器学习的启示与应用

机器学习（Machine Learning）是人工智能领域中一个极其重要的术语，它通过一套算法，来训练数据集做预测或者采取行动以使得系统最优化，它是人工智能的基础和实现人工智能的方法之一。机器学习最基本的做法，是使用算法来解析数据、从中学习，然后对真实世界中的事件做出决策和预测。与传统的为解决特定任务、硬编码的软件程序不同，机器学习利用大规模的数据来“训练”，通过各种算法从数据中学习如何完成任务。在算法方面，神经网络是最重要的算法之一；在模仿方面，人工智能主要集中于图像识别、语音识别和自然语言处理。

目前，机器学习的主要障碍是特征工程，这需要领域专家在进入学习训练之前就要设定好特征。特征工程主要是靠专家手动完成，而且需要大量的专业领域知识。数据和场景非常重要，如果没有足够的数据和计算处理能力，那么，就必须创建一个使用更简单和低功耗的模型，这就需要专家花费大量的时间和精力来创建合适的输入特征。当这些算法自动化后，用于实现专家决策能力或者学习指导，就成为专家系统。

基于机器学习强大的分析、处理和决策能力，人们对其进行了越来越多的思考。黑客也开始利用以机器学习为基础的人工智能进行网络攻击，一份由学术界、社会团体以及行业人士撰写的报告《人工智能的恶意使用》（Malicious Use of Artificial Intelligence）指出，要警惕人工智能被网络攻击者滥用。机器学习被认为是人工智能中一个容易引发不安全的领域，它可能被应用到许多领域而产生新的威胁，比如，经常被黑客用来搜索代码或其他方面的漏洞攻击。

当然，人们也在将其用以对抗网络安全威胁，如今，人工智能已被大量应用于安全领域。如，美国使用人工智能来预防网络攻击的公司Cylance，研发了反病毒软件Cylance PROTECT，可在没有网络连接的情况下，利用机器学习，使用算法建模来预测威胁的发生，仅需 60 MB内存和1%的CPU就能实时保护计算机免受攻击[15]。

（二）用人工智能打造教育安全大防御

伴随教育信息化水平的提高，人们更关心的是教育软硬件及其产生的教育大数据的利用效率，鲜有人关注智能时代教育系统面临的安全问题。“永恒之蓝”勒索蠕虫事件的发生，使人们了解到教育系统抵御新型威胁的重要性和迫切性。因为代码是人写的，就会有漏洞，按照“千行代码漏洞率”的统计标准，大部分软件或系统每1千行代码里就有1个漏洞。比如，Windows操作系统有5000万行左右代码，那么，它应该有5万个左右的漏洞，其他软件或系统亦然。有漏洞就有可能存在被攻击，没有攻不破的网络，也没有绝对安全的网络空间。所以，应建立漏洞管理机制，利用人工智能来打造教育安全大防御。

比如在信息泄露方面，通过智能来系统对教育数据的保密性、真实性和完整性进行维护，这将依赖于教育数据的存取和免受攻击方案；让有合法需求的人方便使用，并将黑客和试图非法获取的人排除在外；尤其在数据挖掘分析和二次或多次利用方面，应制定严格的法律保障制度。

当前，防止信息泄露的方法主要有两大类：一类是对数据本身进行防护；另一类是采用访问控制对数据进行防护。通常，这两种方法可以结合使用。研究发现，大多数教育信息泄露是和黑客攻击联系在一起的。为此，2013年，我们曾提出移动学习私密保护模型，该模型不仅对存储在服务器中的学习资源采取密文存储，还对数据访问者采用了属性密码控制[16]。

在网络攻击方面，基于目前教育网络开放、源代码开放、数据共享和云服务的集中式管理的现状，对教育网络攻击的有效应对，我们必须完成四个方面的机能：一是对数据本身的防护，对数据进行数据加密和访问控制，可采用密码技术和认证技术；二是对教育网络中的软硬件（网络连接和传输设备、数据存储和应用服务器、系统和应用软件等）和信息传输渠道的防护，可采用数字签名、区块链技术等，能够进行跟踪、记录，有效防止类似IP欺骗相关的问题；三是“去中心化”管理互联网中的服务器，可采用最新的区块链技术去中心化[17]，避免因单点故障或被病毒感染而造成全面崩溃；四是创建智慧防御模型，利用机器学习，创建一个智能型预测模型，能够主动预测和应对已知的、未知的病毒和威胁，并且能够主动攻击、查杀病毒。

在应对虚假信息传播方面，由于这类信息传播得快而且广，传统的技术和手段难以及时做出应对，新的方法和技术应运而生。比如，用户画像和自然语言分析。用户画像通过计算机对海量数据进行挖掘分析，给虚假信息源的发布者进行用户画像，能够追踪真正的信息发布者；自然语言分析，则可以判断信息的真伪和善恶。比如，去年微信平台推出一个“微信辟谣小助手”的程序，用户使用它可以主动搜索、查询、辨别虚假信息，就连阅读或分享过的内容都包括在内，一旦被鉴定为虚假信息，用户都能收到提醒。

五、基于贝叶斯方法的人工智能安全防御模型

在人工智能与机器学习中，数据和应用场景非常重要，如果能把教育或学习场景抽象出一个模型，利用教育大数据，再结合正确算法，那么智能防护将大有可为[18]。教育大数据是载体，人工智能的教育应用是目标，教育网络安全负责护航，而机器学习是从数据通往智能的技术途径。面对教育领域中各种新的智能安全威胁，我们特提出了基于贝叶斯方法的智能型安全防护模型。

（一）贝叶斯方法

贝叶斯理论源于英国数学家贝叶斯（Reverend Tomas Bayes）于1763年在《皇家学会学报》上发表的论文《论有关机遇问题的求解》，他在论文中提出从二项分布的观测值出发，对其参数进行概率推断的方法，被发展为一种系统的统计推断方法，称为贝叶斯方法。贝叶斯方法或者决策理论首先是在不完全信息和数据下，对部分未知的状态用主观概率方法推断，然后用贝叶斯公式对发生概率进行修正，最后再利用期望值和修正概率做出最优决策。人们在根据不确定性情报数据作出推理和决策时，需要对各种结果或结论的概率作出推理和估计，这类推理被称为概率推理。

贝叶斯决策理论类似于人脑的工作机理，被作为机器学习的基础，其优势在于：（1）对于决策问题而言，注重先验知识的使用，与纯理论问题判断比较，人们更容易接受这种主观概率的提法；（2）对缺失数据不太敏感，算法也比较简单，能对调查结果的可能性加以数量化的评价；（3）对先验知识或主观概率的相信并非“非黑即白”，贝叶斯决策巧妙地将二者有机地结合，能对信息的价值或是否需要采集新的信息，做出科学的判断；（4）可以在决策过程中根据具体情况不断地修正，使其决策逐步完善和更加科学。

（二）基于贝叶斯方法的智能型安全防御模型

鉴于教育场景的不确定性和复杂性，比如，移动学习者的位置、学习场景、学习方式和登录系统的不确定性和碎片化、教育大数据的高度互联性，基于贝叶斯思维方法，我们创建了图2所示的智能防御模型。

图2 基于贝叶斯方法的人工智能安全防御模型

该模型的运作流程在于：第一，先进行教育大数据（信息）采集，接着对数据加密存储，然后，一方面对加密的数据进行获取和特征提取，另一方面进行教育数据智能化管理并加以应用，上述过程均面临诸多安全威胁，比如，教育数据泄露、信息完整性破坏、非法访问和信息窃取等。第二，对获取的教育数据作处理、分析，并进行事件复杂性权衡判断，它既可以对准确的、确定性信息源作出合理的逻辑判断，也可以对可疑的、非确定性信息源作出统计推断。若碰到确定性问题，自动采取基于已有模型和方法的决策树方案处理；若碰到不确定性的复杂问题，将采取贝叶斯方案处理，通过机器学习，根据问题的多方面因果关系进行预测，提出新的算法，修改、发展原有模型或重新建模。第三，通过决策树和贝叶斯方式处理后，建立防御方案，从而达到智能防御、自动修复和主动攻击的目的。

在具体的实践操作中，我们一般需要在以下几个环节加以防范：

第一，教育大数据采集：通过传感设备（比如，摄像头、麦克风、陀螺仪、距离传感器、加速度传感器等）或录入设备或其他系统将教育信息（比如，各学段的学生人数信息、各学段学生成绩信息、各学段学生体质信息、教职工人事信息、教学设施设备信息等）数据，从系统外部采集到教育系统内部。传感器是实现移动终端智能化的重要设备，但是安卓和iOS系统在设计初期对感知安全考虑得不够，即使到现在还存在很多漏洞，具有很大的安全隐患。

第二，教育数据存储：为了提高基础教育数据存储的安全性，目前的全盘加密技术能够有效地抵抗离线攻击。以随机形式存储的用户数据经加密后，有利于抵抗各种攻击和威胁。

第三，数据应用、提取、分析和建模：对采集到的教育数据，不管是教学应用还是管理应用或者研究应用、数据二次或者多重开发和应用，即使平时不用的“死”数据，都有可能面临病毒或黑客的攻击、信息的泄露和被非法利用。数据本身并无价值，只有对数据内容进行挖掘、分析和处理才能产生价值。因此，首先从数据到价值的实现，需要给教育数据一个抽象的表示；接着基于这个抽象表示进行建模；最后根据教育场景输入模型的参数，做出优化计算。

第四，决策树处理：通过教育舆情分析系统，对于简单、确定性的安全威胁，可以应用已有的模型和方法去解决。

第五，贝叶斯分析：通过教育舆情分析系统，对于复杂、不确定的教育风险与威胁，采用概率派方法，根据教育应用问题的需要，提出和发展模型、方法和算法等，这也是机器学习学科的核心内容。贝叶斯分析其实就是一个优化问题，其计算通常涉及蒙特卡洛（Monte Carlo）随机抽样统计模拟方法。

第六，智能防御：在教育风险和威胁来临时，及时做出各种智能防护，对有缺陷的服务程序做到自动加固，并能自我修复被病毒或黑客损坏的系统，还能够对各种威胁和病毒进行预测和判断并主动攻击。

我们认为，作为决策参考依据的病毒防护数据固有的随机性和不确定性，意味着确定性方法在解决教育网络攻击的问题上不如贝叶斯网络之类的概率性方法。贝叶斯可以解决多个因果关系，并用概率分布对不确定性进行量化，合理配置教育资源，比较科学地做出教育管理决策。因此，贝叶斯模型是解决人工智能教育应用中的安全问题的有效选择之一。

六、结论

人工智能技术正在促进教育的进步和发展，同时，也带来了一些潜在风险，我们不可因为其带来的安全和风险而因噎废食。人工智能与大数据应用，客观上给一些智能攻击带来了新的便利。因此，我们应当大力发展人工智能防护、自我修复和主动攻击技术，做好从教育数据到教育成果的一系列防御措施。

本文基于人工智能机器原理，提出了基于贝叶斯方法的智能型安全防御模型，该模型在处理人工智能教育应用中的不确定性和复杂性问题方面，具有较好的针对性与使用价值。然而，仅仅拥有技术是不够的。人工智能教育应用方面的安全防护不能依赖于单方面的技术，它应是一个系统、整体的机制，涉及技术手段、法律法规、伦理道德等多个方面，并依赖于人的整体素质的提高与法制环境的完善。

当前的相关探讨仍是初步的，人工智能教育应用还面临着其他方面的潜在风险威胁，比如，若干年后教师职业是否会被智能专家或助理机器人所替代？教育的目的是让人区别于机器，以保持人性[19]，进入课堂或学习环境中的、能够自主学习的机器人，是否会给人类带来其他伤害等，此类更高层的安全防范问题，值得我们在今后的研究中进一步探讨。