生成式人工智能赋能数智教育治理的风险与规避

2024-07-06张静

教学与管理(理论版) 2024年7期

摘要数智技术赋能教育治理是中国式教育现代化建设的时代趋势和战略选择，技术变革推动着数智教育治理能力的进一步提升。以ChatGPT为代表的生成式人工智能（AIGC）赋能数智教育治理更强大的数据、算力与算法，是未来数智教育治理的重要手段之一。针对当前我国AIGC赋能数智教育治理的实践现状，须看到其发展受到基础性风险、价值性风险和预判性风险的抑制。基于此，以利益共联、组织共生和风险共监来规避主体关系、规则滞后以及机制约束的不足，从而推动数智教育治理的高质量发展。

关键词生成式人工智能；数智教育治理；数智技术赋能

生成式人工智能（Artificial Intelligence Generated Content，简称AIGC）是AI由1.0时代进入2.0时代的重要标志，是一类基于训练模型、大量数据学习并根据指令生成具有一定创意与质量的内容的技术。当前以ChatGPT为代表的AIGC类产品正处于发展初期，其功能应用仍显基础，但其在提升教育治理效能、扩大规模、降低成本以及辅助决策等方面展现出了广泛的应用前景。在实际应用中，必须认识到数智教育治理相关理论探析不足、制度建设滞后、风险争议客观存在的现状。基于此，了解AIGC赋能数智教育治理实践现状并探析其风险生成原因及规避路径则显得至关重要。

一、AIGC赋能数智教育治理的实践现状

目前，AIGC类产品已进入到教育治理领域，潜移默化地影响着教育治理主体的行动方式和思维习惯，也对传统教育管理模式的理念、组织结构、权责利等提出挑战，进一步推动着数智教育治理的变革发展。在中国式现代化发展背景下，国内AIGC类产品发展迅猛，其典型代表有“文心一言”“通义千问”。技术不断升级下的AIGC类产品为教育治理带来新的理念、技术与手段，符合中国式现代化背景下教育高质量发展对数智教育治理提出的要求。《中国智慧教育蓝皮书（2022）》指出要以数据治理为核心、数智技术为驱动，整体推进教育管理与业务流程再造，提升教育治理体系和治理能力现代化水平[1]。在规范AIGC应用方面，我国走在世界前列，已出台《生成式人工智能服务管理暂行办法》，同时还进行了诸多的实践改革与探索。在国家层面，“国家教育科学决策服务系统”于2015年实施，融合教育与人口、经济、科技、产业等诸领域数据[2]，开展基于数据分析的教育运行态势监测、教育评价诊断以及教育发展趋势预测、预警等，为国家教育治理提供数据支持。在地方层面，北京师范大学未来教育高精尖创新中心充分利用大数据、人工智能等新技术搭建双师服务平台、区域教育质量地图等多个应用系统，助力区域教育治理水平的提高[3]。浙江省宁波市教育地理信息系统通过大数据技术全方位动态呈现区域人口的规模与结构、流动变化，从而预测人口变化趋势、诊断教育需求，为教育治理提供学区规划、学位供给以及教育资源配置等数据依据[4]。陕西省教育厅打造省级数据枢纽，向上对接国家系统，向下融通市县和学校，以实现数据融通，打破数据壁垒，优化业务流程与资源配置效率，提升教育服务水平[5]。

虽然已有研究探讨了AIGC赋能教育治理的可行性，国家也在政策和立法上给予了一定支持，但其在理论层面的争议还很大。部分学者认为 AIGC的应用不可避免会存在数据主权、网络安全、意识形态类等风险[6]，以及技术难以企及的情感缺失弊端[7]，正如霍克希尔德提出的“情绪劳动”，即将人的情绪作为商品进行出售[8]。当下的AIGC尚无法理解人的情绪情感，而这却是教育治理的重要内容。与此同时，AIGC还存在数据信息类犯罪上升风险[9]、教育价值异化风险[10]、信息安全类风险[11]等，以及AIGC赋能数智教育治理过程中认知不足与行政过度等问题[12]，等等，都是传统教育治理中较少存在的问题。教育治理能否应对这些？成本是否可控？这些都有待进一步研究。

AIGC对于数智教育治理犹如剑之双刃，既是机遇也是挑战。正如《生成式人工智能服务管理暂行办法》所说，需要坚持发展和安全并重、促进创新和依法治理相结合的原则，既要包容看待，亦要审慎对待[13]。因此，既要积极发挥AIGC优势赋能数智教育治理，也要提前规避其可能存在的治理弊端，做到真正为人类所用。

二、AIGC赋能数智教育治理的风险表征

1.治理秩序风险：AIGC赋能数智教育治理的基础性风险

AIGC作为社会前沿技术，赋能数智教育治理是发展的趋势。作为一项新技术，在其能够提升治理质效的同时也要防范在运用过程中出现的治理秩序风险。

（1）数据安全风险

随着数智技术的不断升级，世界将逐渐变得透明，人类本身也将成为透明人，甚至于简单数据的分析和复合运算都存在揭露用户隐私的风险[14]。当治理主体对数据安全的防范意识或能力不足时，就容易被不法分子利用，出现隐私泄露、信息滥用等问题，而这些会对治理主体带来更大危险。AIGC需要大量的数据进行训练和生成，数据越丰富，其产出就越科学、精准，对于治理主体来说，拥有的数据越广泛，AIGC所能起的辅助作用就越大。但是AIGC的内部机制与决策过程并不可见与可控，面对可能存在的漏洞或错误，如若被黑客攻击或利用，其后果不堪设想。

（2）数智基础设施不足风险

虽然数智基础设施建设逐渐普及，AIGC介入教育治理各方面的鸿沟看似不断弥合，但不同区域和层次之间的差异可能会使得AIGC在发达地区和高水平学校中的优势愈加突显，而在欠发达地区和普通学校发展缓慢导致差距逐渐增大，从而产生“马太效应”，加剧教育的不公平现象。不同区域、层次以及背景的治理主体的数智素养存在差异，成为新数智鸿沟发生的内在因素，亦称为“数智时代的达尔文主义”。AIGC的普及应用需要数智基础设施全面覆盖为前提，而欠发达地区的数智基础设施建设面临交通、地理环境等诸多要素限制，建设成本较发达地区更高，各类“数智鸿沟”又加剧了应用和普及的难度，使得治理秩序出现僵化、形式主义等风险。

（3）数智人才缺位风险

数智教育治理的主体是人，其服务对象也是具体生活中的人。AIGC赋能数智教育治理，亟须能够建设、运营和维护数智技术的全面性人才。数智教育治理即使引入了新技术，但缺乏能够运用新技术的人才，就无法真正科学普及和推广运用，自然也就无法形成符合区域性发展的治理模式。政府作为数智教育治理的主导者，其本身不具备研发新技术的能力，需要协调技术研发的科研主体共同参与到治理过程中，同时储备与培养数智技术应用人才，以保障治理秩序与技术手段的有机结合。

2.治理质量风险：AIGC赋能数智教育治理的价值性风险

数智时代教育治理的现代化亟待教育治理的高质量发展。数智治理虽然可以提升治理质量[15]，但AIGC作为新技术手段，仍需关注其可能存在的价值性风险，以稳步提升数智教育质量。

（1）服务竞争风险

随着AIGC在数智教育治理领域的应用和深入，对教育模式、结构以及市场竞争方面都会带来影响与挑战。在教育模式上，AIGC可以改变传统的教育模式，例如在线教育、虚拟课堂等。这些新模式要适应新的教育需求和技术条件，就必须对教育组织的结构、运营方式、服务模式等进行创新和调整；在产业结构上，AIGC能够促进教育产业的发展和升级，推动产业结构的调整和优化。然而，这种调整和优化可能会带来一些淘汰和转型压力。一些传统教育机构会面临技术转型和升级的压力，而一些新兴的科技企业可能会进入教育领域，对传统教育产业造成竞争压力；在服务竞争上，AIGC带来更高效、个性化、智能化的教育服务，然而，这也可能会带来一些风险，例如教育服务价格战、教育服务市场份额争夺等。如果不能有效地应对这些竞争，可能会面临教育服务与社会脱节等风险。

（2）权责分配风险

AIGC赋能数智教育治理，可能涉及多个责任主体，例如政府、学校、社会组织以及利益相关者等。如果责任主体不明确，可能会导致出现问题时无人负责或相互推诿的情况，影响治理效果；另外，不同责任主体拥有的权力与责任并不相同，如果权责不对等，可能会导致某些责任主体过度追求自身利益而忽视其他责任主体的权益，或者某些责任主体承担过多责任而得不到相应的权力和资源，这种情况下，可能会出现资源配置不合理、利益分配不均等问题，影响治理的公正性和有效性；同时，如果出现问题或负面影响，可能需要追究相关责任主体的责任，然而，由于技术复杂性和责任主体多元性等因素，责任追究可能会面临证据收集困难、责任界定不清、法律适用不明等问题，导致责任追究困难或无法有效追究责任。

3.治理异化风险：AIGC赋能数智教育治理的预判性风险

数智时代，以数字化、智能化为代表的新技术所发挥的作用和影响越来越大，以技术“智治”协同“人治”推动“共治”，并最终实现“善治”是AIGC赋能数智教育治理的理想蓝图。在治理过程中不可避免会涉及伦理道德、价值情感等人类特质，因此在看到AIGC正面作用的同时也要警惕其异化风险。

（1）话语缺失风险

AIGC海量的知识储备极大便利了知识的获取，对教育领域带来巨大冲击，教育治理主体在享受AIGC带来便利的同时也应理性看到，其生成的知识并不一定都是正确的，当教育治理主体的知识鉴别能力较弱而又对其产生依赖时，不可避免会受到产出内容的巨大影响，进而影响到其他治理主体。在教育治理领域，人类主体在知识的丰富性、灵活性和及时性等方面相较于AIGC存在明显的短板，这导致在教育治理过程中人类治理主体可能面临话语权逐渐丧失而不自知的风险。长此以往，这种情况将导致治理主体的权威感和责任感逐渐削弱，进而对治理效能产生负面影响，甚至可能导致治理效能的异化。

（2）标准不清风险

在当前学术领域中，关于AIGC如何赋能数智教育治理的标准尚未达成共识。《生成式人工智能服务管理暂行办法》提出，“国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用，完善与创新发展相适应的科学监管方式，制定相应的分类分级监管规则或者指引”[16]。由此可知，国家也未提出清晰统一的标准界限。AIGC的全场景通用性能够较好融于教育治理的方方面面，然而对于教育治理主体来说，简便清晰的治理标准更易于各治理主体的执行。过于复杂的治理标准容易在执行过程中出现过度执行或形式主义，导致治理主体与技术出现矛盾，虽然其初衷是赋能治理的提质增效，但却容易导致数智教育治理的异化。

（3）算法异化风险

AIGC搭建了一个极丰富数据支撑的平台，看似公平地对数据进行分析、处理，实则受控于技术研发主体，其结果体现的是技术研发者带有针对、倾向性的数据算法和观念。AIGC为人类所创造，并不具备人类的情感特质，其产出的是算法偏向下的结果，而非情、理、法相互融通后的结果。这样的治理过程虽然高效，但极易导致治理理念出现偏差，使得情感特质与技术理性出现无法调和的冲突，甚至造成对朴素价值观念的冲击，引发新的治理难题，进一步异化治理。

三、AIGC赋能数智教育治理的风险成因

当下还处于AIGC赋能数智教育治理的初级阶段，数智教育治理的现代化还需要对多元主体的技术运用以及AIGC自身的价值取向予以提升和完善。对其可能存在的各类风险成因可归纳如下。

1. 主体关系：AIGC赋能数智教育治理的风险诱因

数智时代，虽然治理能力不断优化，但多元主体间的互动方式和关系仍偏向传统。不同主体间权利互动的本质是制度、价值和行为的外部展现[17]。AIGC作为新技术进入教育治理中，使得多元主体之间的利益结构变得更加复杂。

（1）协同治理关系尚未形成

传统的教育管理中将政府作为强势管理主体，是一种“自上而下”的管理逻辑，学校、社会等被动执行，彼此之间缺乏沟通。而教育治理强调的是“上”与“下”之间的流动与协同，倾向于推动多元主体之间的共创共担与共享。AIGC赋能数智教育治理在先期需要较多的经济投入以保障基础设施的完备，但其回报与价值体现需要较长的周期。政府主导会对治理成本进行综合考量，因此由政府主导技术产品的投入可以快速为数智教育治理产生冲击，使教师、学生等利益相关者享受更多的数智化便利和服务。然而，非市场选择下的技术投入会在使用过程中出现供需不完全匹配的“悬浮”现象[18]。对于教师与学生而言，被动接受的数智技术意味着数智权利的失衡，可能会引发新的矛盾。对于技术研发机构而言，产品以利益主导者需求为导向，与真正使用者之间沟通不够，社会、师生等利益相关者群体较难主动参与到教育治理中，这种供需失衡会导致数智教育协同治理的关系难以实现，可能产生新的治理困境。

（2）主体利益链关系复杂

《生成式人工智能服务管理暂行办法》由7部委联合发文，出现问题后由谁负责难以界定，进而影响到治理效能。数智教育治理主体的数智素养亦有待提高，不同区域之间的治理经验不能机械地拿来就用，缺乏对本区域治理痛点、难点进行针对性分析、优化的能力，就会出现技术不适用、优势未能充分发挥等治理问题。且新技术在使用初期更容易暴露出各种不足导致存在内部阻力继而影响其推广使用，久而久之，极易成为“形式主义”或“面子工程”等。AIGC技术的深度运用是建立在与海量数据互动的场景下，通过持续性强化自身训练，不断提升技术效能的过程，其与教育各领域的深度融合还需要一定的时间与数据积累。因此，需要对其给予一定耐心，方能更好融入教育治理中。

2.规则滞后：AIGC赋能数智教育治理的客观难题

当前，国外尚未出台有关人工智能的立法性文件[19]，相较而言，中国《生成式人工智能服务管理暂行办法》的出台既是一次立法者的“试水”，也为后续更全面、细致的立法工作做好了铺垫。但不可否认，法律自身的滞后性会在AIGC赋能数智教育治理过程中造成影响。

（1）立法速度滞后于技术发展

ChatGPT-3.5于2022年11月底推出，到2023年4月就已升级至ChatGPT-4的版本，其理解、多模态、错误处理等方面的能力有显著提升。我国立法程序的完成通常需要较长时间，最快也需要一年多，这就使得法律出台时将可能面临技术已经更新迭代的情况。也就是说，自法律出台之日起，其部分内容就已经滞后于当前的技术状态。与此同时，AIGC自身算法特性与运行方式又增加了技术延展的弹性空间，使得法律对于责任的界定更加困难。

（2）部分规则适用失灵

教育治理是一项复杂且持久的工程，其本身存在成本高、周期长等挑战。AIGC赋能数智教育治理为有效应对治理挑战带来机遇，但必须看到AIGC的运用也需要遵循成本收益原则，包括对根本性利益、长远性利益的考量。若当下的成本收益不理想，将可能弱化AIGC的可持续应用。此外，法律规则的制定与执行均需投入大量的人、财、物，若在后期的执法、司法、守法过程中未能投入相应资源，将可能影响预期效果和治理目标的达成。再者，师生等相关利益主体在被动接受治理过程中，存在参与度不高的问题，他们对如何维护自身权利及相关知识相对匮乏，这也将导致治理效果与目标存在差距。

3.机制不足：AIGC赋能数智教育治理的根本约束

AIGC赋能数智教育治理面临诸多阻力，科学、有效、可持续的机制是保障其顺利实施的基石。从当前数智教育治理现状来看，还存在以下不足。

（1）参与动力机制不足

在当前的数智教育治理体系中，政府主导以及科层制执行倾向依然显著。这种模式的优势在于目标明确、效率高且执行力强。然而，从长远角度来看，该体系在实现“多元共治”格局方面仍显不足，且治理柔性不足。具体来说，“自上而下”的治理模式往往更注重目标的执行与完成，但对于治理过程中各方的真实诉求却难以充分满足。要实现真正的“多元共治”，需要确保多元主体之间能够进行平等、充分的协商与合作。然而，现实情况是，师生及其他多元主体对于新技术的参与动力明显不足。这一问题不仅制约了AIGC技术的推广应用，还导致在新技术推广过程中缺乏有效的回馈动力。长此以往，不仅可能增加治理成本，还可能阻碍新技术在教育治理领域的可持续发展。

（2）事前预防机制不足

算法备案与评估是算法监管体系中的重要环节，其发挥作用的前提是整体网络环境的安全与成熟[20]。然而，目前AIGC的算法在教育治理中缺乏情感常识，当面临具体教育治理问题时，不能较全面结合不同区域不同类型学校的校情、生情进行具体分析与处理。当前，基于主体自身利益和监管漏洞隐性操纵的现象屡见不鲜，这给教育治理带来了难题。因此，建立和完善AIGC事前预防制度和监管制度是当前亟待解决的问题之一。

（3）利益联结机制不足

在AIGC赋能教育治理的过程中，由于涉及的利益主体呈现多元化态势，因此需要建立和完善相应的利益联结机制，以确保不同利益相关方能够共同参与到教育治理中来。这个机制不仅需要考虑经济利益，还需要关注文化、情感等方面的联结，从而构建更加紧密的利益共同体和情感共同体。其中，政府在教育治理中扮演着主导者的角色，拥有较为强大的政治和经济影响力；而学校和社会主体则拥有各自的社会和经济资源。在这种情况下，单一的经济利益联结机制是不足够的，需要通过多方面的联结来促进各主体之间的深度合作。AIGC作为新技术的发展前景值得期待，因此需要探索如何更好地联结多元主体的根本性利益，以充分发挥AIGC在教育治理中的作用

（4）利益发展机制不足

教育治理的长远发展不仅限于对当下存量利益的分配和巩固，更在于对增量利益的发展与平衡。当下的教育治理体系中，多元主体存量利益分配不协调导致了日益增多的矛盾和纠纷。尽管AIGC等数智新技术能够提升教育治理的效能，但也在一定程度上增加了治理成本，使得主体间的利益纠纷更加复杂。目前，数智教育治理尚处于初级阶段，多元主体数智利益的发展基础尚不稳固，发展动力也有待提高。为了解决这些问题，未来的数智教育治理应注重“固存量”与“拓增量”的同步发展，以确保技术利益的共创共享，从而更好建设数智教育治理共同体。

四、AIGC赋能数智教育治理的风险规避

AIGC赋能数智教育治理由强结构、强标准的“中心化治理结构”逐渐变为扁平化、网络化的“多中心治理结构”[21]。数智教育治理的高质量发展，亟待构建市场化机制主导下的政府统筹协调、学校自主治理、社会广泛参与的“共建共治共享”格局。

1.组织共建共生：夯实协同治理的人本基础

（1）协同多元主体共同参与数智教育治理

AIGC赋能数智教育治理可能改变以往以实体“人”或“组织”参与的实体模式，而异化为诸多数字主体，有助于更多主体参与教育治理，并激发创新治理思维，提升教育治理的参与和治理能力。在治理体系上，始终坚持党建引领的核心地位，构建“一核多元共治”的治理架构，利用AIGC赋能教育信息的开放、共享，提高区域内的数智协同治理水平，打造安全、全面的信息数据库，利用数智平台整合、分析各类资源，赋能教育公平、效率等治理难题的解决，提升服务质量与信息的互联互通，从而构建更加高效、科学、可持续的数智教育治理格局。

（2）坚持“以人为本”的教育治理核心

在利益共享上，要重视数智利益的产生与分配，例如构建线上积分商城，将“积分制”思维进行借鉴与创新；针对各多元教育治理主体，构建线上协商的共享机制，加强信息的共享、沟通与协同，从思想上重视数智信息的巨大利益潜能，更好将数智治理手段融于“服务好师生”的治理宗旨之中。

（3）培养数智化人才是数智教育治理的基石

AIGC赋能数智教育治理需要数智化人才作为主体实现赋能转化，治理自身实现数智化转型需要大量的数智化人才予以充实，而数智化人才的培养需要政府、市场与学校及师生共同努力。教育治理主导者可以结合区域特征与数智化平台，出台优惠政策引进数智化人才，积极构建和打造本土的数智化人才队伍。同时，治理主体自身利用技术优势主动学习相关知识与技术，以不断满足数智教育治理发展所需的数智素养。

2.风险共治共监：健全数智规制的监管机制

（1）健全数智规则制度

首先，需要将法治与德治相结合，以国家法律法规为治理底线，以社会道德规范为行为约束。技术力量的延展可能与国家法律法规出现冲突，但不论何时都应以国家法律法规为底线，避免被技术隐性操控而不自知。同时，利用数智技术丰富教育治理的文化内涵，依法为基、技治润德，打造贴合地方风俗文化的线上交流平台，提升教育治理的针对性、规范性与文化属性。其次，强化多元治理主体的自治能力，治理规则及内容的制定须体现自治的原则，利用数智技术实现治理内容的公平与便捷、治理内容制定过程的公开与透明，在保证治理规则制定过程合规的条件下充分发挥各治理主体的自治作用，提升多元治理主体平等参与的权利，推动更科学、规范、合理的制度规范设计。同时，后续立法或修改可进一步体现数智规则。在现有教育相关法律法规中，尚未体现对于数智教育治理的针对性规则。需要增加数智教育治理内容，从根本上保障数智教育治理中多元主体的治理权利，从而更好地促进与保障多方利益的和谐与发展。

（2）加快建设监管保障机制

以法律法规为刚性底线，以宣传、风俗文化、日常习惯等为柔性指引，刚柔并济共同预防。在权责利方面，在制定AIGC技术应用政策和规范时，需要明确各责任主体的职责和权利，避免出现权责利不清的情况。同时，建立相应的协调机制和沟通机制，确保各责任主体之间能够有效合作和配合。加强监管和评估，建立独立的监管机构或第三方评估机构，对AIGC技术的应用过程进行监管和评估，确保各责任主体能够按照规定履行职责和承担责任。同时，加强法律宣传和培训，提高各责任主体的法律意识和合规意识。

3.利益共联共享：激发教育发展的内生动力

（1）数智技术赋能，优化教育资源供给与服务

传统教育模式受到时间、空间等多重限制，特别是在欠发达地区，信息闭塞和服务匮乏的问题尤为突出。然而，AIGC凭借其强大的信息获取和资源整合能力，打破了这些限制。其灵活性和即时性等特质，不仅提升了教育效率，还促进了各地区在数智教育上的权利公平，进而改善教育治理结构。

（2）数智技术联结，构建新型利益共同体

AIGC赋能各要素在教育治理结构中高效、规范地流转，不仅包括内部的要素整合，如学校和师生等，也包括外部的资本和技术等要素。这种联结方式使得学校、企业等市场主体得以共享信息、遵守共同规范，从而实现数智利益、政治利益和经济利益的深度捆绑，共同推动教育的高质量发展。

（3）数智技术驱动，提升协同治理能力

新的利益共同体通过协同治理，推动教育各要素的协同发展，进而促进教育的高质量发展。在AIGC的助力下，数智教育治理不仅能有效促进配套制度的优化和完善，强化制度的传播与实施效果，更进一步提高了各参与主体的利益均衡和运作效率。此外，技术赋予的能量加强了各主体间的联结与协同效能，巩固了彼此间的合作关系，优化了信息的交流与互利，从而构建了一个强大的发展共同体。

（4）数智技术共享，实现可持续发展

在建设过程中，协调好个体与集体、主体与客体之间的利益关系，同时借助数智技术整合政府、学校和社会等各方资源，确保现有利益的保障和增量利益的延展，以实现教育治理共同体的可持续发展。

AIGC赋能数智教育治理的发展前景广阔。在新的历史时期，教育领域面临诸多挑战，亟待更新治理理念，丰富治理手段，构建中国式现代化教育治理新范式。尽管当前数智教育治理仍面临诸多困难，但推动教育治理数智化仍然是教育高质量发展的关键路径。以AIGC技术为代表的数智新技术，强化了教育信息的流通性，优化了组织间的多元协同，增强了主体间的互动性，但也必须正视数智新技术带来的技术、制度和伦理道德方面的风险与挑战。但技术始终由人类创造和使用，可以不断优化制度设计和机制运作，充分运用技术优势，构建数智教育治理共同体，助力教育的高质量发展。

参考文献

[1] 李永智.中国智慧教育蓝皮书（2022）[R].北京：中国教育科学研究院，2023：2.

[2] 李伟涛.决策支持视角下的国家教育决策系统功能分析——基于证据整合的教育决策支持 [J].教育发展研究， 2018，38（05）：61-67.

[3] 余胜泉，卢宇，陈晨.人工智能+教育蓝皮书[M].北京：电子工业出版社，2018：203.

[4] 张曦，王磊，叶赛君. 数据互联互通助力教育管理向教育治理转变——以宁波教育GIS系统为例[J].中国教育信息化，2018（15）： 32-35.

[5] 邢蓓蓓，杨现民，李勤生.教育大数据的来源与采集技术[J].现代教育技术，2016，26（08）：14-21.

[6] 钭晓东.论生成式人工智能的数据安全风险及回应型治理[J].东方法学， 2023（05）：106-116.

[7] 王静. ChatGPT技术嵌入智慧司法的伦理风险及其法治应对[J].上海政法学院学报（法治论丛），2023，38（04）：43-62.

[8] 霍克希尔德.心灵的整饰：人类情感的商业化[M].成伯清，淡卫军，王佳鹏，译.上海：上海三联书店，2020：212.

[9] 刘宪权. ChatGPT等生成式人工智能的刑事责任问题研究 [J]. 现代法学， 2023， 45 （04）：110-125.

[10] 张海波，杨兆山. ChatGPT的教育挑战与应答 [J]. 四川师范大学学报（社会科学版）， 2023， 50 （04）：107-114.

[11] 余南平，张翌然. ChatGPT/生成式人工智能对教育的影响：大国博弈新边疆[J].华东师范大学学报（教育科学版）， 2023， 41 （07）：15-25.