从生成到创造：ChatGPT人工智能内容生产在高校的应用风险＊

内蒙古大学 周雨霆 张洁雅 卢艳芹

ChatGPT 自问世以来就在全球范围内引发热议，随之关于AI 可实施性的考量与忧虑在各行业引发广泛关注。在数字时代背景下，人类享受AI 带来技术红利的同时，其自带的风险也将乘势而入，比如，学习异化风险、教学异化风险、价值观转向风险等。为有效应对这些风险和挑战，我们应加强自主性学习引导，做技术的“主人”；强化学术伦理认知，做有“德性”的人；加快技术换代革新，更新识别、监督技术。在技术时代中，适应新型技术介入教育生态已成为教育发展的必然趋势，既要以积极乐观的态度面对AI 的发展，也要警惕技术发展对教学育人带来的不良影响，以此引领未来高校教育的发展方向，促进新型高校教育生态的良性循环。

随着AI 的不断发展，全球各地的学校教育正在努力将数据分析、机器学习和人工智能等新兴技术应用于课程内容、教学方式和评价体系中。ChatGPT 进入高校的趋势已经避无可避，生成型强人工智能等新型技术介入教育生态，对目前高校教育发展带来了极大的不确定性，因此，需要审慎地思考其中的利弊，在享受技术给教育带来红利的同时，警惕其潜在风险。在我国实现科技强国的征程中，要谨慎预防AI 对我国教育的不良影响，提前进行风险预测并给出相应措施，这对加快我国教育现代化进程具有重要的现实意义和时代价值。

1 ChatGPT 的时代之用

OpenAI 公司推出了一款AI 聊天机器人ChatGPT，即Chat Generative Pre-trained Transformer（预训练的聊天生成转换器）[1]。在其本质上，ChatGPT 是一个大型语言模型（LLM），采用“从人类反馈中强化学习”（RLHF）的训练方式，对人类的文字语言和自然语言进行理解和处理，进而达到聊天的效果。因此，也可以将其理解为是一种基于GPT 模型的对话生成模型，它可以从输入的文本中理解语义信息，自主地生成回复。ChatGPT 通过自我式、无监督的学习方式不断提高自身的对话能力，减少依赖于人工标注的数据收集，旨在生成更加复杂、自然、流畅的回复。

1.1 ChatGTP 生成的技术基础

数据是生成式人工智能的基础，语料体系是语言模型的基础。生成式人工智能是在数据和语料体系下形成的语言模型生成式系统。当今数字世界不断完善，使得ChatGPT 可以从中任意吸取并输出数据，这一切的运作必须以数据为基础，在此之后才能建构生成式人工智能的语言模型。语料体系既包括预训练语料中，如从书籍、杂志、百科、论坛等渠道收集的数据；还包括微调语料，如从开源代码库爬取、专家标注、用户提交等方式收集和加工的高质量有标注文本的数据[2]。

算法是生成式人工智能的基本结构。ChatGPT 是一种基于神经网络的自然语言处理模型，采用Transformer结构的算法，即将问题分解成诸多节点（神经元），让其自动互联和构成。具体来说，ChatGPT 是由其开发的一系列Transformer 模型组成的，Transformer 是一种使用自注意机制来处理序列数据的神经网络结构，可以高效地对长序列进行建模，这种建模使得机器善于利用基础的神经元连接的生成原则，学习和模仿任何与之对话的对象，并通过语言转化体现在表述之中，因此，在自然语言处理领域有着广泛应用。简单来说，人类与生成式人工智能对话越多，提出的要求越复杂，越有利于“神经网络算法”的生成。

算力为生成式人工智能提供强大的动力。AI 拥有的数据、语料体系、神经网络处理模型还远不足以与人类达成聊天对话的现实效果，还需要极其强大的算力作为支撑。ChatGPT 首先要理解和处理人类的信息，其次进行自身数据的筛选和整理，在短时间内反馈给全部用户所需要的信息，这无疑是一个庞大的数据工程，算力是其中不可缺少的一环。

1.2 ChatGPT 的“人性”创造

ChatGPT 是一款强人工智能聊天机器，采用GPT-3.5架构的大型语言模型进行强化学习训练。作为AI 助手，ChatGPT 主要通过文本聊天的方式与人类进行对话，其背后强大的自然语言处理技术可以分析和理解人类的语言，进而实现类似于人的创造性答复。在与用户进行对话的过程中，它可以不断学习并优化自身模型，提升回复的质量和准确性，从而更好地满足用户的需求。这种训练模型克服了上一代智能机器人语言表达的“非自然语言式生成”，具有理解上下文语境和揣测人类意图的能力，能为人类提供高效的人性化语言服务。

这种“人性”创造主要体现在三个方面。首先，ChatGPT 是一种以聊天为核心进行拓展的应用型创造。用户第一次向其提问之后，它会“人性”地思考、解析问题并作出回复，而传统的搜索引擎只是用关键词检索相关内容；其次，它真正意义上实现了人机互动，即沿着一个问题进行不断地、深层次地探讨。这种创造与再创造的对话内容，使用户自然而然地将其当作“人”的回复，而不是一个木讷、呆板的机器检索；最后，用户向其提出一些违背法律道德的问题，ChatGPT 给出回复后并告知用户不建议这样做。由此看来，ChatGPT 已经初步拥有了伦理道德规范，将其认定为具有思考力的人工智能毫不过分。

2 ChatGPT 在高校的应用风险

2.1 学习异化风险

2.1.1 学生主体性异化风险

高校学习的主体是学生，ChatGPT 地出现可能会引发学生主体性异化风险。新时代学生不是被动消极地接受教育，而是有个体能动性、创造性地主动学习。面对高强度、高压力的数据整理、论文写作等学习任务，部分学生选择使用AI 搜寻答案。人工智能产品的快速发展，使信息收集整理变得快速高效、数据分析变得专业可靠，但学生却逐渐从技术的“主人”沦落为技术的“奴隶”。

首先，如果长时间沉迷于数字世界，学生的身体健康难以保证。如诱发近视、颈椎病、眼干燥症、肌腱炎等“电子病”[3]，身体极有可能被技术控制与支配，变得再也离不开技术。这种情况下，技术本来作为身体的延伸工具，在不知不觉中却成了身体的一部分。

其次，ChatGPT 在自己数据范围之内有问必答，它的回答一般来说是有逻辑的、精确的。智能算法可以对学生的提问进行精准“投喂”[4]，在给学生提供个性化辅助的同时，它会不自觉地引导学生思维，剥夺学生自由学习、自主探索的想法和能力。学生学习再也不是自己搜集资料之后进行理解与反思，只是不断追问AI 得出多个答案。学生的主体性渐渐消弭，再也不愿意走出学习的“舒适区”，最终只能沦为技术的“奴隶”。

最后，学生沉迷于ChatGPT 会导致其创造性思维不断消减。学生在利用ChatGPT 完成作业的过程中，其只获得单向的知识灌输与投喂，几乎不再需要思考，只要等待答案的生成即可，进而形成一种“机器的人化”与“人的机器化”的背反[5]，此时，人的创造主体性已经瓦解。当一个学生放弃了自身创造性的一面，高校教育想要培养的人才又该从何而寻，高校教育的目的又该怎么设置？

2.1.2 师生知识异化风险

学习最直接的目的是获取知识，ChatGPT 地出现可能会导致师生知识异化风险。基于数据和算法体系，AI给出的回应大多是公认的数据，它可以为我们提供知识的定义或相关见解，但并不能理解怎样使用知识。

该类知识的真实性、权威性、适用性有待考证。数字世界中的AI 收集大量数据，通过算法将其整合、分析，最后生成属于它的回答。而高校师生的问题一般是针对性、专业性的知识型问题，AI 生成地回答不应盲目信服。一部分初始数据的真伪没有经过人类确证，ChatGPT 可能会搜集到“伪知识”型数据。算法不是大脑，它不会进行思考，只能通过比较数据之后，站在多数数据一方，这样草率地选择知识显然是存疑的。一旦知识的真实性受到怀疑，知识的权威性便会遭到质疑，整个知识领域会变得混乱不堪，知识本身也会受到致命的打击。

知识碎片化现象加剧，难以形成知识网。在使用AI时，师生作为主动提问方，只会提问自己感兴趣的、与自身专业高度相关的问题。AI 给出的回答我们无法理解其思维方式，只能不断加以追问。师生对于某一方面的知识深度不断增加，但知识广度却不曾扩大。尤其对于学生来说，他们获取的知识是碎片的，无法在大脑中形成知识网络。学生被动地接受某一领域的知识，缺乏完整的知识体系，其创新型思维又该如何培养？

2.2 教学异化风险

ChatGPT 是人工智能聊天机器人，而教师与学生是现实、鲜活的个人。因此，教学不仅仅是简单的知识传授，更在于生命意义上的体悟与升华。换言之，教学过程是主体对生命意义的建构和体验过程。将AI 引入教育领域的根本目的是优化教学，这种美好的愿望背后隐藏着教学异化风险，需要谨慎地对待。

在教学之前，教师需要提前收集资料，结合教师个人特色进行课程设计并给出教学计划。AI 技术介入教学之后，教师可以使用其进行资料收集、课程设计，而AI无法认知同一专业领域教师的个人偏好及特点，这可能会导致不同学校相同专业的老师教学内容近乎一致，教学出现绝对化和凝固化趋势。在教学过程中，教学内容可能转变为转述数据，教学应有的生成性和体验性荡然无存。一般来说，课堂教学是围绕一个主题进行发散性思考，师生间进行思维碰撞、翻转课堂。同时，教学是一个不确定、不可预设的过程，教师需要有处理课堂意外情况、适应不同班级的能力，因材施教。

丰富的师生互动是不可缺少的。AI 的介入会代替教师完成一些教学任务，甚至是取代教师，但它也会造成师生之间缺少眼神交流、情感共鸣等联系，不能及时发现和解决学生的问题或关照学生的情绪。这样的教学是冰冷的，没有人文关怀的，只是不断地给学生灌输知识。人机教学模式在人生阅历、情感互动等方面远远不及当前的师生教学模式。此外，教学也不仅仅局限于知识层面，教师的首要任务是育人，大到要培养学生正确的三观，小到关心学生的日常生活、情绪变化。教学应该是一个有“人情味”的过程，是不同思想和情感的碰撞与交融，绝不是单向的知识灌输。

2.3 价值观转向风险

2.3.1 学术诚信风险

ChatGPT 拥有较强的逻辑思维和批判思维，写作能力极佳，可以在少数关键词的提示下完成高度逼真的论文，也因此引发了大众对于师生学术诚信方面的担忧。一方面，ChatGPT 生成的学术论文、个人简历等作品质量极高，在考核中有很大的概率会取得一个较高的成绩，而大部分人无法分辨这是师生本人的创造还是人工智能产品的生成，评估机制完全失效。这样就会导致学术诚信、信任危机以及教育是否公平等价值观问题。另一方面，一部分人认为AI 所生成的学术论文等作品是师生在其个体意识的引导和操控下产出的。因此师生才是真正的作者，ChatGPT 只起辅助作用，不能将该类型作品当作学术造假、学术不端的行为，应该转变价值观，以包容的态度看待此类作品，这种极端的认识令人更加担忧。

2.3.2 创新思维与实践意识退化风险

师生如果对AI 产生过度依赖，将会陷入“舒适区陷阱”，这就造成学习者不断提问，AI 不断解答的恶性循环。人类可能在技术“黑箱”中迷失，甚至可能出现“遇事不决，便问机器”的懒惰与“人假机威”的自大[6]。从此，人类永远无法摆脱数据库的信息，思考逐渐方式固化，创新思维不断退化。更可怕的是，自身却没有类似的认识与体悟，还在为不用思考而感到窃窃自喜。AI所生成的看似创新的内容，其实只是一些已有知识的重新组合，远远谈不上创新，对它进行持续性地提问，师生的创新思维不会提升，反而会退化与消弭。与此同时，一些问题只有在实践中才能得以解决或确证，师生若不加以反思，将本需自身实践的内容拱手让给技术，虽然AI 在一瞬间就可以给出用户精确的答案，但我们的实践能力会不断退化，实践意识也终将隐退。

2.3.3 师生关系淡化风险

教学过程中由于ChatGPT 的介入，师生互动与情感交流减少，教学逐渐变得没有“人情味”，学生对技术的信任可能会超过对教师的尊敬。ChatGPT 的过度使用可能会威胁教师地位，学生上课不专心听讲，在课后形成寻求AI 帮助的心理和冲动。久而久之，课堂互动环节减少，教学进入恶性循环，教育的质量和效果将大打折扣。在专业领域方面，AI 给出的答案甚至更为深入详尽，学生对教师崇拜和尊敬的心理可能会转变为怀疑与不屑，教师地位危机由此出现，尊师重道的传统美德也可能将被颠覆。尽管AI 带来了更多的便利和多样化，但如果师生不能适应它的变革，师生关系、教师地位将会发生不可预知的改变。

3 风险应对策略

ChatGPT 的应用给高校教育带来的机遇和风险需要长时间地实践探索。数字时代背景下，适应AI 教育的变革已经成为教育发展的必然趋势，我们不能坐以待毙，应注意潜在的风险并未雨绸缪，制定合理的使用准则和标准，以轻松自然的心态享受技术红利，推动未来教育的发展，保证高校教学育人的良性循环。

3.1 加强自主性学习引导，做技术的“主人”

新型AI 介入高校教育，由于其便捷的操控方式、精准的解答内容，深受学生青睐，依赖心理不免油然而生，技术红利反而成为“技术鸦片”，不断摧残学习者的学习信念、侵蚀使用者的创新思维、实践意识，极有可能造成学习异化。因此，高校教育需不断加强学生自主性学习引导，强化学生对于学习目的、学习过程、学习意义等方面的深刻认知，教学应培养学生学习主体意识，构建“以学习为中心”的课堂教学模式；学生应根据个人实际情况，自觉而又灵活地调整学习策略，将学习看作是一种全过程提升自我的训练。AI 的发展势必会对高校教育带来冲击，学习者应化冲击为契机，将其作为学习的工具，为自身提供个性化支持，实现互动式学习，方便自我反思和评价。在学习过程中，学生应当认清自己才是学习的主体，发挥主观能动性，强化自主性学习认知，使用技术的同时做技术的“主人”。

3.2 强化学术伦理认知，做有“德性”的人

在教育生态中，技术的更新迭代是为了促进教育现代化的发展，而非让技术一劳永逸地替代人类。目前，AI 是否会导致学生作弊、学术诚信危机等风险已成为社会普遍担忧的问题，最佳的方式应该是合理规范使用，而非绝对禁止。一方面，培育和提升师生的伦理素养，强化学术伦理道德培育，引导师生合理规范使用，营造良好的学术生态；另一方面，除了依靠内在约束，学校还要建立起明确的学术伦理规章制度，以刚性约束手段倒逼使用主体深化对学术伦理规范的认知，从而增强对学术的敬畏，对知识的尊重、对真理的热爱。高校教育的首要目的是育人育才，学术研究的主要目的是探索知识、追求真理，做人与做学问是相互交融的，有“德性”之人才能规范使用技术，做强学术研究。因此，高校在转换教育范式，提升教育层次，全面将知识教育升级到更高层次的智慧教育的同时[7]，还应强化学术伦理培育力度，加强价值观层面引导，培育有“德性”的人。

3.3 加快技术换代革新，更新识别、监督技术

AI 生成内容的真实性、权威性等方面受到的质疑，归根结底是对现阶段技术发展的质疑。应对此类问题及风险，还应“以技促技”，加快技术的换代与革新，更新完善数据库，研制更快、更强、更准的算法体系，不断强化算力，尽可能地转向“人脑”智能，赋予其更多情感、意识等人类机能地体验，通过技术革新解决技术风险。在技术时代中，应“以技治技”，提升识别、监督技术。相应部门应创造指向性明确的算法体系，将其应用到检索引擎专门识别AI 生成的作品，再根据各高校的规章制度实施弹性管理。在监督方面，可以创新算法，使AI 具有识别学术性问题的能力，创造自身独有的数据存储库，方便后续的查询与监督。此外，ChatGPT 在高校应用的利弊取决于高校师生对教育和技术二者关系的认知。教育的核心是育人，工具只是辅助，只有清晰地认识到人与工具的关系，才能有效利用技术优势，推进高校教学育人的良性循环。

4 结语

AI 火速出圈给教育带来了机遇与挑战，ChatGPT 的出现使得人类社会智能发展格局发生重塑性变化，在这全新的人机交互模式下，还能在哪些方面保持自身特性从而发挥人类的独特优势呢？目前，AI 发展的潮流势不可挡，面对新型AI 的冲击，或许应该重新思考“教育应该培育什么样的人”以及“怎样培育人”的问题。在技术格局下，高校应回归教育本位，培育创新思维与创新型人才，探索人机和谐共生的发展模式，推动“AI+教育”的深度融合，建构一个现代化的人类未来智能教育图景。