教育领域ChatGPT应用伦理困境与纾解对策

摘要：人工智能与教育的创新融合已成为教育改革与发展的必然趋势，然而，以ChatGPT为代表的新一代人工智能技术可能导致学生易产生“技术”依赖而减弱具身化经验，师生关系异化使教师知识权威地位被消解，出现知识盲区、概念滥用误用和算法歧视，知识产权和学术诚信受到极大的威胁等伦理困境。纾解对策建议有：思想上加强认识，积极应对；制定相应的法律法规，明确数字伦理标准；提升师生数字素养，形成灵活的评价机制；塑造情感智能与人文关怀相融，建立算法伦理审查制度。由此，积极建构“AI+教育”新生态。

关键词：ChatGPT；伦理困境；纾解对策

中图分类号：G521

文献标志码：A

文章编号：1009-4156（2024）09-0045-04

一、问题的提出

以ChatGPT为代表的生成式人工智能技术的出现和推广应用，标志着从弱人工智能到强人工智能的转化正在发生，它在为教育带来了机遇的同时，也带来了挑战，对“AI+教育”的理论与实践的发展产生了一定的影响。虽然以ChatGPT为代表的生成式人工智能在技术上已经取得了重大突破，俨然已成为研究者研究的前沿焦点之一，但技术的发展也带来了各种风险和挑战，生成式AI在教育应用中同样面临诸多问题，特别是未来教育中的人机协同价值观和伦理安全问题等。教育领域ChatGPT的应用到底是“阿拉丁神灯”还是“潘多拉魔盒”？毋庸置疑，ChatGPT不仅赋能教育教学创新，而且通过先进技术解决教育教学中的难题，但同时也可能带来学业诚信、学术不端、知识产权保护、隐私泄露甚至意识形态受到威胁等隐患，这不利于人工智能时代教育新生态的建构。为此，科学分析教育领域ChatGPT应用的伦理困境及其如何加以纾解，已成为当前教育研究的热点之一，是亟待研究的重大课题和时代命题。

二、ChatGPT教育应用的伦理困境

马尔库塞认为，科学技术并不是保持价值中立的，“技术的逻各斯被转变成依然存在的奴役状态的逻各斯”［1］。教育领域ChatGPT应用可能导致学生产生“智能”依赖、师生关系异化、知识盲区和学术诚信等伦理困境。

（一）学生易产生“技术”依赖而减弱具身化经验

技术的逻辑不但有可能偏离预设轨道，而且还可能会摆脱主体的控制，对个体自主性、创造性和批判性等产生不利影响。ChatGPT强大的功能之一在于拥有强大的数据采集和分析能力，它可以帮助学生提供精准答案，推送学习资源，通过简单的问答步骤，轻松完成学习任务等，但正是因为这种长期“投喂式”的信息获取模式的存在，可能导致部分学生技术成瘾，从而侵蚀学生的自主性、创造性和批判思维等，助长学生求知惰性。据国外一项研究调查发现，美国大学生中使用ChatGPT完成家庭作业的占比数为89%、使用ChatGPT撰写论文的占比数为53%、依赖ChatGPT完成考试的占比数为48%。对于以上种种情况，如果教师不能及时发现并且制止，学生在很大程度上会对ChatGPT完成学业任务产生一定的依赖性。而且通过“走捷径”随手获得的“答案”，学生不能对其进行很好的理解，从而导致学生的创造性和批判思维能力逐渐下降甚至逐渐丧失。并且由于学生对ChatGPT长期依赖，人长期被技术支配，可能导致人的认知和实践面临断裂的风险［2］。

（二）师生关系异化使教师知识权威地位被消解

教育是一种有目的、有计划地培养人的社会活动，是教师与学生在教育教学中互动的过程，好的教育需要构建真实有效的社会联系。ChatGPT既给教师和学生带来了“智能成果”，也对教师与学生的关系带来了一定挑战［3］。“数智+”时代学生获取知识的渠道显得相对容易，不再完全依赖课堂教学进行知识的传授，这就导致原本教学活动中蕴含丰富的师生交互交往，演变成单纯的、机械的知识传授，教学异化为单向度的知识传授，教师与学生之间独有的教学活动也将割裂为精神独立的“教”与“学”。ChatGPT的介入使传统的“以教师为主导、以学生为主体”的教育关系受到了严重的冲击和挑战。ChatGPT虽为教育活动打破了时空的局限，但也可能造成教育场域内教师-学生人际关系的疏远。

（三）出现知识盲区、概念滥用误用和算法歧视

通常而言，ChatGPT给出的答案具有不透明性和不可解释性，就如某种“技术黑箱”。换而言之，ChatGPT只会给出答案，却无法解释其答案。而且ChatGPT的学习数据主要是网络数据，可能会存在由于时效性不足、数据不足等情况导致信息不准确的风险，甚至出现知识盲区、概念滥用误用等问题出现。另外，ChatGPT常见的问题还包括算法歧视，算法容易带有一定的潜在歧视与偏见。相关研究结果表明，ChatGPT在算法层面存在一定的种族歧视和性别歧视（如在职业层面贬损和弱化女性）等。

（四）知识产权和学术诚信受到极大的威胁

学生在使用ChatGPT的过程中未获得权利主体的使用授权，可能导致抄袭、剽窃等现象不断。目前，美国绝大部分大学生利用ChatGPT完成作业和论文，纽约大学有明确指出该行为是一种学术欺骗行为，香港大学也声明不能在教育教学中运用ChatGPT。由于ChatGPT所使用的图片与文字并未被授权，运用ChatGPT辅助完成写作，无意间造成抄袭剽窃等学术不端行为，而且数字鸿沟对不同群体对于信息占有程度不平等，可能导致知识产权和学术诚信受到极大的威胁。

三、ChatGPT教育应用的伦理困境防范的国际镜鉴

面对教育领域ChatGPT引发的伦理困境的冲击，是拥抱还是禁止？国际上对此持有不同的态度和做法。

（一）拥抱ChatGPT，并为教师提供指导和资源，持续监测新兴技术对学习的影响，培养学生的数字素养

新加坡是全球首个公开表示在其教育系统使用ChatGPT等人工智能工具的国家，同时计划将ChatGPT的使用逐步纳入学校和高等教育机构的教学中，强调教师在新时代引导学生“发掘、提取、判断”信息的重要性。新加坡教育部还为教师提供指导和资源，加强数字技术学习，监测数字技术对学生学习的影响，重点培养学生的技术技能和价值观，引导学生负责地使用技术。此外，学校通过多种评估模式评估学生使用ChatGPT等技术，及时发现使用过程中可能出现的非常规反应，培养学生的数字素养和健康技能［4］。

（二）将ChatGPT等人工智能技术视作大学变革的机遇，鼓励以可控的方式使用

芬兰作为公开支持使用ChatGPT的国家，芬兰大学将ChatGPT视为“大学教学变化的机会”；赫尔辛基大学则鼓励教师在教学中使用人工智能，并让学生做好准备，强调虽然人工智能可能提供产生来源和可靠性尚不明确的文本，但应以可控的方式使用ChatGPT等人工智能技术，如果不能促进学生学习，就应在教学中限制使用；冰岛通过开发ChatGPT开放框架制定使用规则，肯定ChatGPT等技术如果在教育教学中使用得当，则是一种强大工具，但是强调必须在技术上还是道德上皆符合高校的要求，禁止滥用和学术不端［4］。

（三）严格限制对ChatGPT的使用，避免滥用、长期依赖

有些国家和地区为了防范教育领域ChatGPT的应用可能带来的伦理风险，表态学校禁止使用ChatGPT技术。如法国巴黎政治学院，该学院的反剽窃章程和学术规定如果学生的作品与其他人的作品没有区别的话，可以视为剽窃［5］；丹麦的一些大学如丹麦科技大学、奥胡斯大学、哥本哈根信息技术大学皆宣布禁止在考试中使用包括ChatGPT在内的人工智能技术；中国香港大学也明确禁止在学校的任何“可以获得学分的活动”中使用包括ChatGPT在内的人工智能技术，涉及范围涵盖课堂作业、课后作业以及评估任务等［4］。还有一些科学出版机构如《科学》《自然》对于在学术出版中使用人工智能技术制定了相应的规则，如果违反规则，学术论文将不会被接受。

四、纾解对策建议

如何纾解ChatGPT教育应用的伦理困境，是当前亟待解决的重大问题。应从思想上加强认识，积极应对、提升师生数字素养，形成灵活的评价机制、制定相应的法律法规，明确数字伦理标准、塑造情感智能与人文关怀相融，建立算法伦理审查制度等。

（一）加强思想认识，面对伦理困境积极应对

1.从思想上加强对伦理困境的认识。任何事物的发展都具有两面性，技术的发展也不例外，它既可以给人类创造价值、制造机遇，又可以给我们带来一定的隐患，产生负面影响。我们要正视机遇，更好地发挥ChatGPT在理解用户需求、生成文本内容、培养批判性思维、发展创新能力等方面的积极作用。要认清技术内涵，深入了解其在生成信息的准确性、个人隐私安全、伦理道德风险等方面的消极影响。

2.面对伦理困境积极应对。目前，由于对ChatGPT的运行机制和风险管理等缺乏详细了解，各国政府尚未出台有效的应对措施。随着用户群体和使用频次不断增长，将可能逐渐暴露出难以忽视的安全性问题。对此，一些国家已经或者正在考虑对ChatGPT采取限制性措施，以保护个人和国家信息安全。如意大利个人数据保护局宣布禁止使用ChatGPT，限制其处理该国用户信息数据，并对其隐私安全问题进行调查。欧盟、德国、法国和西班牙等也在考虑是否跟进。显然，简单的禁止并不能真正解决问题，只是临时的应对措施，行业组织和政府部门要制定或更新人工智能的道德标准和合规指南、监管措施等政策，支持公司开发安全可信的智能工具，引导用户合理合法地使用智能工具［6］。

（二）制定相关法律法规，明确数字伦理标准

1.制定相关法律法规，加强数字应用监管。针对当前ChatGPT等技术引发的知识产权纠纷、数据安全隐患等风险，我国应制定符合本国国情的相关法律法规，加强对人工智能产品使用过程中的网络系统、个人隐私和知识产权等方面的保护。各级政府部门和教育教学机构也需要有针对性地加强关于ChatGPT使用的法治宣传和培训，强化数字教育网络安全体系，坚持依法治教，加强数字应用监管，健全数字安全新生态。

2.明确数字伦理标准，增强应用服务透明度。教育领域ChatGPT的应用应坚持“以人为本”“立德树人”的根本任务，必须高度重视ChatGPT可能带来的伦理风险挑战，在政策层面应构建数字教育的伦理标准体系，形成可操作性的规范准则，确保ChatGPT的合理使用。并且有必要将数字伦理教育纳入培养方案，以提高师生的学术诚信水平等，避免学术不端等道德伦理问题。在技术层面研发可以检测ChatGPT技术的使用情况，通过加强对人工智能应用过程的约束、审查和管理等，提高人工智能应用服务的透明度。

（三）提升师生数字素养，形成灵活的教育评价机制

1.提升师生数字素养，实现自律自治。通过完善数字伦理平台建设和构建教育数字化国际学习共同体，强化责任主体意识，提高师生自身的社会责任感，增强数字道德伦理意识，提升师生对数字技术伦理的敏感意识以及其应对数字技术伦理问题的能力。加强数字伦理教育，提升师生数字素养，强化“伦理先行”意识，实现自律自治，共同打造ChatGPT教育应用的良好新生态。

2.转变人才培养观念，形成灵活的教育评价机制。“数智+”时代ChatGPT等数字技术赋能人才培养目标转型，培养学科专业素养兼具数字技术素养的复合型人才，避免技术崇拜和工具理性对人对教育的异化。人才培养理念的转变必将导致教育评价方式方法的转变，自ChatGPT问世后，一些高校采用课堂考试替代课后论文对学生进行考核，还有部分教师虽然同意学生利用ChatGPT来完成论文，但要求学生通过ChatGPT生成多个版本的论文，并形成一篇对于不同版本的论文的比较分析报告。同时还可以借助人工智能对学生表现进行自动化记录与评估、基于人工智能的可视化分析技术直观分析学生个人成长轨迹和未来发展趋势等［2］。

（四）塑造情感智能与人文关怀相融，建立算法伦理审查制度

1.塑造情感智能与人文关怀相融，增强师生心灵沟通。教师不仅要善于了解学生的特性和个性，有针对性地开展教学活动，还要善于驾驭人工智能工具，应从“人技分离”转变为“人技合一”的智慧型教师。而且教师还应将更多的精力投入学生必备的品格、情感价值观和健全人格塑造上，增强师生心灵的沟通。情感关怀是教育活动的重要体现，面对人工智能情感关怀的缺失，应构建新型的师生关系、提高师生共情能力、集智能与人文关怀于一体的文化愿景［3］。

2.建立算法伦理审查制度，树立正确的意识形态。智能算法是支持人工智能在教育领域发展的关键和有序运行的核心，但其实也蕴含编译者的意识形态和价值，为此，通过建立算法伦理审查制度，细化伦理标准，并对算法价值进行评估，确保数据可控可信［7］，提高精准度和可靠度，避免不准确、不适当、偏颇的意识形态的信息来源。同时要加强学生对算法的内涵、偏见及更深层次的认知，引导学生以合乎道德规范的方式去合理使用ChatGPT。

参考文献：

［1］李思凡.法兰克福学派审美救赎理论研究［D］.成都：四川外国语大学，2018.

［2］冯雨奂.ChatGPT在教育领域的应用价值、潜在伦理风险与治理路径［J］.思想理论教育，2023（4）：26-32.

［3］赵磊磊，张黎，代蕊华.教育人工智能伦理：基本向度与风险消解［J］.现代远程教育，2021（5）：73-80.

［4］唐科莉，周红霞，邓舒.面对ChatGPT，各国和地区如何应对［N］.中国教育报，2023-03-22（3）.

［5］周洪宇，李宇阳.ChatGPT对教育生态的冲击及应对策略［J］.新疆师范大学学报（哲学社会科学版），2023（4）：102-112.

［6］杨宗凯，王俊，吴砥.ChatGPT/生成式人工智能对教育的影响探析及应对策略［J］.华东师范大学学报（教育科学版），2023（7）：26-35.

［7］邹开亮，刘祖兵.ChatGPT的伦理风险与中国因应制度安排［J］.海南大学学报（人文社会科学版），2023（4）：74-84.

Research into Ethical Dilemmas and its Mitigation Countermeasures for" ChatGPT Application in Education

Huang Shenga Liu Guoquana Su Changqingb

（a. Higher Education Research Institute; b. School of Resources and Environment， Hunan University of Business and Technology， Changsha 410205， China）

Abstract：The innovative integration of artificial intelligence with education has become an inevitable trend in educational reform and development. However， the new generation of artificial intelligence technologies represented by ChatGPT may cause students’ sense of “technology” dependence which will weaken their thinking; The alienation of teacher-student relationships dissolve the teacher’s position as authority in knowledge; Ethical dilemmas arise， which include blind spots of knowledge， misuse of concepts， algorithmic discrimination as well as the great threats faced by intellectual property and academic integrity. The mitigation countermeasures include" strengthening the understanding and making active responses; developing corresponding laws and regulations， and clarifying digital ethics standards; enhancing the digital literacy of teachers and students， and forming a flexible evaluation mechanism; shaping the integration of emotional intelligence and humanistic care， and establishing an ethical review system for algorithms， so as to actively construct a new ecosystem of “AI+education”.

Key words：ChatGPT; Ethical dilemmas; Mitigation countermeasures