生成式人工智能技术对高等教育的挑战

[摘要]以ChatGPT为代表的生成式人工智能在教育领域的快速发展，随之带来的各种潜在风险也引起了教育界的高度重视，如滥用ChatGPT生成内容导致的潜在伦理风险、生成内容可靠性难以甄别智能、使用者隐私和信息安全存在风险等。为了规范生成式人工智能技术在教育领域的应用，推进教育数字化转型和教育高质量发展，探究生成式人工智能技术对高等教育的挑战成为加强规范其应用和管理的重点。

[关键词]ChatGPT；生成式人工智能；高等教育；挑战

[中图分类号]TP18；G64      [文献标识码]A

[DOI]：10.20122/j.cnki.2097-0536.2023.11.041

一、以ChatGPT为代表的生成式人工智能对高等教育的影响

2023年2月，中共中央、国务院印发的《数字中国建设整体布局规划》强调要大力推行国家教育数字化战略行动，促进数字技术在教育领域的创新应用。党的二十大报告也明确了要推进教育数字化，使教育教学与信息技术进一步融合，加快教育数字化转型。2023年2月13日，关于“数字变革与教育未来”的世界数字教育大会是推进教育数字化转型的重要举措。

教育数字化转型是为了适应当今数字技术发展的必然趋势，也是推进教育高质量发展的有效方式，推进教育数字化转型已经成为世界各国的共识与趋势。近年来，世界各国都在加快人工智能在高等教育领域的布局，以智能技术驱动教育理念的更新、教育模式的变革和教育体系的重构[1]。人工智能技术早已潜移默化地融入教学中，而以ChatGPT为代表的生成式人工智能的问世以及其带来的各种潜在风险仍在教育界引起了轩然大波，也从侧面印证了教育数字化转型的紧迫性和必要性。

ChatGPT（Chat Generative Pre-trained Transformer，即聊天生成式预训练模型）是一款由美国人工智能研究公司OpenAI开发的人工智能技术驱动的自然语言处理工具，使用了Transformer神经网络架构，通过连接大量的语料库来训练模型，拥有接近人类水平的语言理解和文本生成能力，具有出色地回答各种复杂问题答案、撰写视频文案、编辑代码等能力。ChatGPT可以通过自然语言交流，根据多轮次的对话互动，通过推理指令之间的关联性，实现用户学习和工作上的多种要求，人们可以直观地体会到生成式人工智能技术对于工作和学习效率的提升。据在专业考试方面的测试显示，ChatGPT基本可以通过谷歌L3级软件工程师水平测试、美国执业医师资格考试、美国司法考试中的证据和侵权行为测试等[2]，因此上线五天之内用户突破100万，三个月内注册数过亿，成为迄今为止用户增长速度最快的AI应用程序。

一项调查显示，截止ChatGPT上线三个月内，美国有89%的大学生都在使用ChatGPT完成作业，其在教育领域的广泛应用迅速引起了教育界的重视，所带来的挑战和风险更是热议不断。美国纽约市教育局率先禁止学生使用ChatGPT，中国香港大学也随之严禁学生使用ChatGPT及其他人工智能工具完成作业和评估，也有学校和组织允许学生基于学术诚信原则合乎道德地使用ChatGPT辅助学习、但要求在引用其回答时必须明确标注。ChatGPT的优势显而易见，它可以为学生提供各个领域的学习支持和辅导，并展现出较强的能力，但其在实际使用过程中仍存在大量的风险。如何应对ChatGPT所带来的挑战，采取应对策略赋能教学创新，推进以ChatGPT为代表的人工智能合理有效地推动教育数字化变革，是教育界迫切需要思考的问题。

二、以ChatGPT为代表的生成式人工智能对高等教育的挑战

（一）学生滥用ChatGPT生成内容导致的潜在伦理风险

相比传统搜索引擎，ChatGPT能够帮助学生更加便捷地查阅和获得信息；但与此同时，由于ChatGPT具有强大的信息快速生成能力，生成的内容语言流畅、逻辑结构清晰，且与人类语言习惯和思维方式高度相似，这就导致学生滥用生成内容完成作业和论文可能性的出现，最终导致抄袭、剽窃等恶劣学术行为，干扰正常的教学秩序，引发关于学术诚信危机的伦理问题，对学术生态产生恶劣影响，这也是目前教育界对于ChatGPT等生成式人工智能主要的担忧之一。面对ChatGPT“便捷式”学习的诱惑，部分学生逐渐养成学习惰性，甚至过度依赖于这种“投喂式”学习模式，不愿去主动探索新的知识和技能，失去学习动力和能力，最终导致学习主体性被智能技术异化。倘若学生长期依赖ChatGPT的智能推荐，这种碎片化的学习方式容易导致信息渠道和信息内容的窄化，学生难以接收更全面、更丰富的信息，可能丧失对系统知识的通盘掌握[3]。

高等教育的目标是培养高素质的创新人才，创新人才的培养是各个领域的核心竞争力，而学生错误依赖于ChatGPT而失去学习能力的情况会导致创新人才培养困难。同时，学生使用ChatGPT所生成的内容时，无法保证其对生成内容完全理解和掌握，无法进一步将知识进行有效运用，这就失去了教育的最根本意义。另外，以ChatGPT为代表的生成式人工智能目前只能在部分地区使用，无法惠及到教育的所有群体，这种差异也会造成教育的不公平性。

人工技术的过多干预会导致教育中情感逐渐淡漠，甚至会导致缺失的情况。在老师的教学过程中，传授知识的同时也会在师生间产生共同的情感体验和共鸣，这不仅是知识的教育过程，也是立德树人的过程，老师在教育过程中对学生情感道德的引导也是重要的环节。而ChatGPT生成信息的过程则缺乏了与学生的情感交流互动，可能导致情感和道德淡漠，将直接影响学生今后在生活工作中的人际关系。

ChatGPT本身也隐藏伦理风险，虽然其没有自主价值观判断能力，但所获取的数据库内容大多数来自于反映西方的价值观的网站、论坛、新闻等，包含价值观、逻辑性、意识形态等内的隐性内容；ChatGPT的算法编制者本身也可能存在不同于我国主流思想的意识形态和道德准则，甚至可能会把个人偏见渗透入数据和算法中，因此输出的信息可能存在文化偏见，不能够保证正确性和真实性；另外，ChatGPT的研发公司OpenAI是在美国成立的人工智能研究公司，无法排除其被美国政府或者其他资本主义意识形态利用的可能性，甚至可能利用“算法霸权”等手段对学生进行错误意识形态植入。看似客观、公证、科学的算法技术，可能蕴含着算法制造者的政治偏见、民族偏见和性格偏见等[4]。

（二）学生难以甄别生成内容可靠性

数据、算法和算力作为ChatGPT等生成式人工智能的三大要素具有不透明性和不可解释性。其核心支撑的数据主要来源于大量的西方公共语料库，如维基百科、新闻报道、社交媒体、电子书籍等；其原始数据，即预训练语料库在分布上也存在倾斜，大部分是以英文数据为主，反映的也是西方国家的价值观，契合资本主义意识形态；其内容的可信度和真实性都无法得到保障，并不适合我国主流意识形态。因此，如果不恰当使用西方数据为主的生成式人工智能，可能会对学生的思想教育产生潜在的不良影响，影响学生的价值观和意识形态，加剧偏见价值的传播。

由于学生无法检索ChatGPT生成内容的出处，还可能会引发关于在不知情使用的情况下侵犯数据所有权、使用权等风险，导致无意识的学术造假和抄袭。对于一些新兴领域或者具有难度的问题，ChatGPT甚至会生成错误答案，但这些模拟人类语言的看似具有逻辑性的错误答案具有迷惑性，学生难以甄别其正确性和可靠性。OpenAI自己发布的使用条款中也提到，ChatGPT存在生成有害建议、错误代码或不准确信息的风险，并可能产生负面的社会影响。普林斯顿大学计算机科学教授Arvind Narayanan发表推特：“我尝试了一些基本的信息安全问题，在大多数情况下，答案听起来似乎有理，但实际上漏洞百出。”

ChatGPT的算法的运作过程具有不透明性，其本质就是一个基于统计学方式的猜词模型，通过在大量的数据库中归纳语言规律，总结单词之间的搭配使用，根据与用户的对话内容和上文的单词的惯用搭配预测下一个单词，模仿人类语言对单词和语句进行搭配组合，而不是通过理解文字的逻辑结构产生文本，其底层逻辑仍然是归纳并非创新，无法创造新的科学知识，也无法保证正确性和科学性。ChatGPT所追求的是语义连贯而非正确的回答，这就导致它总是在围绕一个话题进行反复解释，产生没有任何创新观点的“流利的废话”。

SimilarWeb的数据显示，在2023年1月期间，平均每天约有1300万用户在使用ChatGPT。这种惊人的使用量对背后的算力提出了极高的要求，也需要先进的技术和巨大的财力来支撑。而目前我国能和OpenAI这种掌握先进技术和强大算力水平相比的公司却是少之又少，这就可能导致将学生推向使用西方国家的人工智能软件，而西方人工智能不可避免的渗透了不同文化和价值观，容易对学生的意识形态产生错误导向。

（三）学生隐私和信息安全存在风险

OpenAI还未公布ChatGPT如何对用户个人隐私和数据安全进行保护。在用户的使用过程中，ChatGPT可以通过用户在注册账户时提供的银行支付信息、通信地址信息等悄无声息地收集到各种身份信息，还可以在用户使用软件时收集到IP地址、设备、操作系统、浏览器等相关的技术信息。在信息技术已经和人类生活密不可分的如今，用户信息似乎已经不再是秘密，但是最令人担忧的是，相比其他技术，ChatGPT生成式人工智能的运行方式是与学生直接对话，在进行多轮次的互动中便逐渐掌握了其兴趣偏好、学习习惯、学习需求等大量私人信息，一旦这些隐私信息被第三方所获取并加以利用，将会造成严重的后果。ChatGPT在其隐私政策中也声明，它有权与各种实体共享用户信息，包括附属公司、业务合作伙伴、服务提供商和执法部门。因此，学生信息的披露风险成为ChatGPT在教育领域应用中的重大隐患之一，如果平台和监管机构不采取相关保护措施，不法分子就很容易通过窃取个人信息实施违法犯罪活动。

三、结语

以ChatGPT为代表的生成式人工智能的崛起，意味着人工智能的一次重大变革，也会对高等教育的教学方式产生重大影响，如何应对人工智能在赋能教育发展同时带来的风险是教育界需要思考的新问题。通过研究其存在的潜在风险，积极地探寻应对策略，是将生成式人工智能积极地融入教育教学的有效方式，也是推进教育数字化转型的重要环节。教育界应该以开放的思想和广阔的视角接纳其在教育领域的影响，以科学理性、谨慎的态度把握该项技术的本质特征，并有效运用到教学中。相关教育部门和高等院校必须加快更新、制定与时俱进的高等教育课程规划和新时代人才培养方案，推动教育数字化转型，以应对高速发展的人工智能技术对高校教育巨大的冲击和挑战。

参考文献：

[1]盖君芳，黄宝忠.教育人工智能：新的革命[J].浙江大学学报（人文社会科学版），2022，52（6）：53-65.

[2]卢宇，余京蕾，陈鹏鹤，等.生成式人工智能的教育应用与展望——以ChatGPT系统为例[J].中国远程教育，2023，43（4）：24-31+51.

[3]冯雨奂.ChatGPT在教育领域的应用价值、潜在伦理风险与治理路径[J].思想理论教育，2023（4）：26-32.

[4]冯建军.网络公民教育：智能时代道德教育的新要求[J].伦理学研究，2022（3）：1-9.

作者简介：张玥（1990.10-），女，汉族，江苏连云港人，博士，讲师，研究方向：教育学。