ChatGPT：拥抱还是禁用

一凡

ChatGPT是什么

ChatGPT是一个生成式AI软件，即内容生成器，它无法凭空生成或制造产品，而是通过人类向它提供的材料、信息、文献、文体等进行深度学习，模拟人类做出回答。因此，本质上，它是一个自然语言处理流程，每次处理用户的需求都有一些基本的步聚。

首先，ChatGPT会进行语言识别。ChatGPT是一款面向世界各国的AI软件，因此要先识别用户使用的语言，才能进行回应。随后，要进行情感分析处理，ChatGPT会对用户输入的信息进行多维度分析，如果不符合国际主流认可的社会伦理，它会自动拒绝回答相关问题。此后，ChatGPT会提取提问的信息，包括用户输入的关键信息以及与问题相关的人名、地名、行业和专业术语等。

接下来，要进行修正和文本分类。修正是对用户输入的信息予以审核和纠错，如修改错别字；文本分类是对用户输入的信息进行分类，根据分类结果，使用相关搜索软件获取信息。更重要的是下一步，即全文搜索处理。ChatGPT基于“自然语言+搜索引擎”的架构，因此，需要从用户输入的信息中进一步提取关键特征，去搜索相关索引，得到想要的答案。

最后，ChatGPT会生成文本。它会从搜索得到的多种结果中选择最符合用户需求的那个，生成对应的文本内容。当然，这个文本内容的答案还要进一步转换成适合问答的形式，如用户熟悉的自然对话形式。如果用户需要论文或调查报告等其他文本，ChatGPT则会转换为该类文章的格式和风格，甚至会列出参考文献和致谢。

现在，之所以ChatGPT被认为是非常强大和“神奇”的AI软件系统，一是有万亿级的数据投入；二是利用了自然语言处理技术（NLP）跨越式的发展，即“大模型”的上下文学习。通过向大模型“喂入”一个提示（prompt），并选择性地加入少量任务的样板，大模型就可以预测下一词的形式，自动生成相关答案。

因此，ChatGPT对自然语言的理解已经开始接近人类。它处理句子时，会通过训练参数“理解”句子中哪些词之间存在关系，哪些词是同义词或反义词。这说明，ChatGPT已经深入参与到人类自然语言体系中。

由于这些原因，ChatGPT不仅能与人们实时聊天，还能帮助人甚至替代人做很多事情。例如，它可以帮助用户写各类文字材料，包括报告、论文，各种题材的文章、诗歌；它还可以在短时间内提供大量信息、回答大量问题，既快又准又好。不过，也有一些ChatGPT生成的文本质量并不尽如人意，需要修改、补充和润色。

ChatGPT引发的忧虑

由于ChatGPT拥有一系列强大的功能，文化、教育和科技界人士纷纷对此表示担忧。首先，ChatGPT的强大、丰富、快速和简便可能会使相当多的人失业，包括中学老师、大学老师、作家、诗人、记者等；其次，ChatGPT的广泛应用可能助长更多人（如大学生和教师）偷懒耍滑、作弊剽窃。

据说，现在有89%的美国大学生使用ChatGPT完成作业，而且成绩不错。美国北密歇根大学哲学教授奥曼在2023年1月底评出了一篇“全班最好的论文”，这篇论文探讨了有关罩袍禁令的道德问题，教授认为该论文段落简洁、用例恰当、论据严谨。不过，在奥曼教授的追问下，提交论文的学生承认自己是利用ChatGPT完成的论文。

美国明尼苏达大学法学院和宾夕法尼亚大学沃顿商学院的教授测试ChatGPT“应考”不同课程的考试题目，结果它在法学院的4个学科考试中获得C+；在商学院的MBA学科考试中获得B～B-的成绩，这些成绩算是中等或良好。更令人震惊的是，在美国最难考的美国医师执照考试中，ChatGPT取得的成绩非常接近通过标准。对于人类学生而言，要通过美国医师执照考试，一般需要在醫学院学习五年并有两年以上的临床实习经历。

此情此景令教育界忧心忡忡。2023年1月27日，法国一流大学巴黎政治学院向全体师生发送电子邮件，宣布禁止使用ChatGPT，以防欺诈和抄袭。具体要求为，禁止学生使用该软件制作任何书面作业或演讲稿；只能在有特定课程目的或在课程导师的监督下，学生才可借助ChatGPT完成学习任务。如被发现未按规定使用ChatGPT，学生将面临被开除的处罚。

美国的华盛顿大学和佛蒙特大学正着手修订其学术诚信政策，将“AI生成”纳入“剽窃”的范围内。美国纽约州的水牛城大学和南卡罗来纳州的弗曼大学表示，计划在必修课程中加入有关针对AI工具的讨论，强化新生对学术诚信等概念的认识。

如果说ChatGPT的出现是与互联网和个人电脑的诞生并驾齐驱的里程碑及信息时代的重要分水岭，那么对待它的态度和行为，也将成为信息时代的另一个分水岭。

ChatGPT来了，禁用它还是拥抱它呢？

ChatGPT该被禁止吗

与其禁止，不如拥抱。在这个分水岭上，我们应当思考如何有效地使用ChatGPT，利用其长处，避免其短处，不能抱得太紧，也不能弃之不用，甚至禁用。

要拥抱ChatGPT，首先应当了解和评估它在人类科研、教育和文化中的作用。ChatGPT的最大作用不是创新，而是能提供某一领域内极为丰富的基础知识和研究现状，让人们知道哪些知识和成果已经被创造和生产，哪些是需要继续努力探索和解决的问题。

正是在这个基础上，ChatGPT可能会淘汰一批人，清理学术泡沫。这对于文科类的学术研究影响极大。一般而言，文科的论文有比较类似的格式，如都有题目、摘要、目录、正文、参考文献、致谢，在内容安排上也有不少相似之处，如基本都按照问题提出、文献综述、本文观点、论据罗列、讨论、结论等顺序安排内容。

ChatGPT可以写出大量的、在内容上看起来并不雷同的文章，因为它经过深度学习，掌握了海量的数据、案例、人物、故事和大量的写作方式和风格。因此，如果让ChatGPT写文章，可以替代大量的文科论文以及少部分理工科论文。这也正是让相当多的人担忧的地方。

尽管ChatGPT可以模拟生成很多文章，但很难替代那些有创意或有全新观点的文章，更无法替代那些需要实验数据才能完成的理工科论文。因此，ChatGPT在学术上的重要作用是，可以检验出什么是有价值的、社会需要的、有创新的真学术、好文章。

其次，ChatGPT可以把更多的教育工作者解放出来，甚至创造出更好的教育效果。孔子曰：“学而不厌，诲人不倦。”后半句其实是针对教育者（师长）的。相当多的教师对于好学、聪明的学生是既喜欢又乐于施教的，但是对于那些反应有些慢、理解力有些差的学生就会显得不耐烦。在学生多次请教而又不理解学习中的问题时，教师就会失去耐心，甚至不愿继续指导学生。

这是一个人性的弱点，但是ChatGPT完全可以解决这个问题。只要有手机或电脑，就可以拜ChatGPT为师，有不懂的地方可以反复请教ChatGPT，它绝不会不耐烦，也不会推脱没时间，更不会嘲笑学生。无论是通识教育中的问题，还是专业课程的内容，ChatGPT都能做到反复解释，不厌其烦。

ChatGPT在教育中还有其他优势，比如，可以帮助教师节省备课时间；它有时会提供错误答案，可以成为学生批判性思维训练的素材。教师还可以利用ChatGPT培养学生对信息的分辨、思考和查证能力。

制定规则，合理使用

不过，紧密拥抱ChatGPT也有弊病，如让学生养成对AI工具的依赖，助长抄袭作弊等陋习；作业和论文无法反映学生真正的知识水平；难以培养学生的批判性思维和解决问题的能力。

然而，这些情况主要出现在学生完成作业和写论文的过程中。因此，在教育领域使用ChatGPT，应当制定一些规则。如在闭卷考试中不准带手机、不准带参考书和纸质资料、不准用电脑，自然也不能使用ChatGPT。对于完成日常的学科作业、期末论文、毕业论文，则不应禁止学生借助ChatGPT答疑解惑、查找资料。如果能熟练使用ChatGPT，学生可以快速了解某一项研究进展到了什么阶段，有哪些成果，需要从哪些地方入手。这对理工科学生和文科学生来说差别不大。但是，对于可能用ChatGPT生成论文的文科而言，采取一定的审核方法区分人工论文和AI论文是很有必要的。

上文提到的发现学生用ChatGPT写論文的奥曼教授也调整了他的教学计划。他要求学生在课堂上只能使用带有监控和限制功能的浏览器撰写论文初稿，而且要求学生对后来的每一次修改做出合理解释。奥曼教授还表示，未来可能不再让学生写论文，而以其他方式考核学生的学习成绩。同时，奥曼教授认为，学生使用ChatGPT完成论文是违纪的，使用AI生成的论文会成为纪律处分的证据，但如何定义“AI剽窃”则是一个新难题。

其实，ChatGPT的设计者也注意到了这个问题。2023年2月1日，OpenAI公司推出一款AI文本分类器，用于辅助辨别文本的作者是人类还是AI软件。这实际上是以AI对付AI。该软件评估文本后会给出5种分类：非常不可能、不太可能、不清楚、可能、非常可能，是AI生成。但是，使用这种AI文本分类器有一些限制，要求至少输入1000个字符，大约150～250个单词。

不过，这种检测工具目前只有26%的准确率，而且在检测大于1000个字符的英文文本时效果更好，检测其他语言时表现要差得多，有时还会把人和AI搞混。如知名AI专家拉斯卡用莎士比亚的《麦克白》第一页的内容做测试，发现AI文本分类器将其误判为“很可能是AI生成的”。

这意味着，以AI对付AI还需要改进。美国普林斯顿大学计算机科学专业的加拿大华裔学生爱德华·田研发了一款名为GPTZero的程序，可检测文本内容是否由ChatGPT生成。GPTZero于2023年1月2日问世，利用两个指标衡量某段文本是否由AI生成，即困惑度和突发性。困惑度用于衡量文本的复杂性，困惑度越高，越有可能是人写的；突发性用于衡量文本句式结构的变化程度，AI生成的句子更统一，而人类更倾向混合使用长短句。

总之，人们应当拥抱和利用ChatGPT，充分利用ChatGPT的长处，限制其短处。ChatGPT既无法产生独特的想法和创意，也无法提供人类在人际交往中获得的情绪体验，如倾听、理解和关爱，而且ChatGPT还会犯各种错误，更不能进行全面的思考和分析。我们没有理由过度担心ChatGPT ，因为它和其他现有的AI软件无法完全替代人类。