火“出圈”的ChatGPT是真智能还是套路深？年轻人使用时小心这些“坑”

先藕洁 刘胤衡

美国人工智能研究实验室OpenAI推出的大型预训练人工智能语言模型ChatGPT，正成为很多年轻人关注和热议的焦点。不少年轻人惊叹ChatGPT回答问题的高效，也有人直言ChatGPT回复的内容“仅是机械组合，充满套路”。毋庸置疑的是，ChatGPT将对年轻人学习、生活乃至未来发展等不同方面的影响。专家提醒年轻人利用新技术时也要注意避“坑”，不要触碰道德和法律底线。

ChatGPT是一款人工智能聊天机器人，在2022年11月一经上线便引发关注。不同于以往广受诟病的“人工智障”，它能够深度理解上下文的关联，完成写文章、邮件甚至是敲代码的复杂任务。于是，便有了高分论文。但这样的成绩不算作弊得来的吗？依靠ChatGPT创作对孩子们的培养有好处吗？

不止一个人提出这样的问题。也因此，ChatGPT正在遭遇一个尴尬的局面，一边因其强大的学习辅助功能而“横扫”各大校园，成为学生眼中的“作业神器”，一边却被多所高校、期刊列入黑名单，遭受封杀。

“全靠ChatGPT，两小时的考试，我一小时就交了卷。”

2022年年底，李凌参加了《新媒体与广告》这门课的网上开卷考试。考试要求在两个小时之内完成一道论述题，问题与互联网广告的新现象有关，字数要求在1200字以上。其间可以查阅各种资料。

“许多同学都进行了提前准备。”李凌告诉记者，很多人除了整理课件，还提前下载了几十篇广告专业相关的论文，以备参考。

他却另辟蹊径。两个小时的考试，当别人还在翻阅各种资料奋笔疾书，他只是和ChatGPT對话几个回合，输入不到20字的问题，就获得了一篇长达6000多字的文章——从定义、源流、特点、未来发展等角度分析了当下互联网广告营销的特点。随后，他将这些素材精简到了1200字左右，“提前一个小时交卷走人”。

1月，成绩出来了，李凌位列全班第一。

ChatGPT创造的“校园奇迹”远不止于此。在ChatGPT的“原产地”美国，2023年1月，一项对1000名18岁以上学生的调查显示，超过89%的受访学生会使用ChatGPT来完成家庭作业。同月，密歇根大学的哲学教授安东尼·奥曼发现全班第一的论文是用ChatGPT写的。

根据中青报·中青网记者不完全统计，截至2023年1月底，国内各大社交平台上，有关使用ChatGPT完成作业的讨论已经超过10万条。

有人认为，ChatGPT能够帮助学生快速梳理问题的解题思路，还能够借助它检查作业错误，是一个相当强大的“辅导老师”。

有人则认为人工智能工具会助长学生的惰性，“什么作业都能够依靠人工智能完成，那学生就不用学习啦！”这并不利于培养学生独立思考的能力，更无利于他们发展创造性思维。

目前，全球多国大学、科研机构发布明确的人工智能禁令，禁止使用ChatGPT和其他所有基于人工智能的工具完成学习与考试任务；多家期刊、出版机构也禁止将ChatGPT列为论文合著者。

不过关于ChatGPT对学生影响的讨论，并未随着一张张禁令而停歇。网络上，公众对于ChatGPT的争论，仍在发酵。

有人认为，虽然ChatGPT可能会提供一个快速简洁的答案，但这并不能培养学生的批判性思维和解决问题的能力，这些能力对未来发展至关重要。

也有人认为，人工智能只是“辅助”学生学习，无法让他们获得自主学习能力。

“现在对人工智能的使用，并没有‘傻瓜’到学生输入一个问题、就能立刻写出一篇完美论文的程度。”上海大学新闻传播学院讲师、硕士生导师徐偲骕对于学生使用ChatGPT等人工智能撰写论文持开放态度，“如果学生真的用人工智能生成了论文并且达到了我的要求，那说明他也是下了一番功夫的。”

正在国内某高校就读的彭羊也认为，一部分人过度神化了人工智能，“ChatGPT写出来的东西，其实并不能直接用。”

2023年2月，彭羊在《量化投资》这门课上被要求写一篇不限字数的课程论文。这门课程不仅涉及金融知识，也涉及计算机编程知识。他想到了用ChatGPT来辅助论文写作，“我问了它一些编程问题，让它给我的代码纠错、教我收集数据以及用Python（一种计算机编程语言——记者注）整理文件。”

“挺锻炼提问能力的！”彭羊表示，ChatGPT要通过用户与机器之间的问答才能得到答案，“要问很具体的问题，如果自己的问题模棱两可，它的回答可能也会有很大偏差，甚至有的时候答案会出错。”

彭羊认为，这种一问一答的过程，像人类在“驯化”人工智能，“问ChatGPT要有技巧，范围要由大到小，比如先提出诸如‘是什么’的定义类问题，如果希望得到更精准的回答，则可以预设情景，比如‘假如你是一名……你要……为了达成目标，你该怎样……’只有不断变换问问题的方式，才能获得最终想要的答案。”

“向机器人提问，也是一种学习的方式。”彭羊告诉记者，他使用ChatGPT主要还是为了优化自己的代码、润色论文内容，“而搜索到的内容，只有自行消化，才能达到学习目的。”

“Ask me anything！（有问题尽管问！）”是ChatGPT与用户聊天的开场白。

一些教育工作者、科研人员认为，一些学生恰恰不知道“问什么”，尚未建立起真正的“问题意识”，如果“问什么”都不知道，那么连AI这个工具都没法很好地使用。

上海大学文学院创意写作学科教授、博士生导师谭旭东多年来致力于培养学生的写作能力，经常为学生布置诸如创作散文、童话、书评等类型的课程作业。他并不担心学生利用人工智能进行写作，“这类作业很容易调动学生的生活经验和知识资源，学生自己有话可说，可能就不会抄袭或者去利用人工智能写作。”

“机器是‘生产’，而人是‘创造’。”谭旭东指出，老师们凭借多年的写作经验和研究积累，能够区分出真人和人工智能写作的区别。即便是相同的故事，语言能力强的人也能把一个老旧的故事讲得优美、有趣，甚至令人惊奇，他说，真正的写作，用词、造句和行文风格都是个性化的。

谭旭东并不担心人工智能会取代学生和教育的主体地位。他说，“人文社会科学和自然科学的疆域很广阔，还有很多未开垦的处女地，需要我们去‘第一个吃螃蟹’。”

“ChatGPT是一种全新的知识工具，从这个意义上来说，它和我们几千年来依靠的书本、图书馆并没有两样，基于这样强大的知识工具来学习，孩子们应该学得更好。”2月9日，上海市教委副主任倪闽景撰文指出，面对ChatGPT，传统教育的方式方法需要作出重大调整。

他就此提出三点建议：教育的首要目标是培养能独立思考和有正确价值判断能力的人，而不再是获取特定的知识；要用ChatGPT等学习工具来协同改进教育教学方式；要更加关注学习的品质。

“ChatGPT这类人工智能产物能推动科技进步，有利于辅助人类的生产生活，但它不能替代人类的智力活动，因为它没有人类所独有的情感和思想。”中国文字著作权协会总干事张洪波认为，ChatGPT涉及庞大数据的算法加工，可能会侵犯到一些用户隐私，人工智能大数据的开发者，应遵守相关的法律规定和社会伦理道德，保证所收录的数据不侵犯他人的权益。

华中科技大学法学院副教授滕锐在接受记者采访时表示，ChatGPT是大量不同的数据集群训练出来的语言模型，目前其背后仍是“黑盒”结构，即无法确切对其内在的算法逻辑进行分解，所以不能确保使用ChatGPT过程中，其所输出的内容不会产生攻击伤害用户的表述。

“如果ChatGPT的回复是错误或虚假信息，会具有极大的误导性，有潜在法律风险。”在他看来，ChatGPT难免存在一些侵犯用户隐私的内容。此外，若回复中存在过度借鉴他人作品的情况，使用不当就有可能侵犯他人的著作权。

“目前大部分国家的知识产权法规定，人工智能程序自身不能成为作者。”滕锐指出，ChatGPT的内容本质，是基于它所拥有的数据进行表达意志的创作，是作为被人类所利用的客体和工具，不具备法律人格，不能承担相应的法律责任，如果ChatGPT侵害了他人的著作权或泄露他人隐私，由它的权利人或使用者来承担相应的法律责任。

“推动构建人工智能治理体系，政府加强监管和研发者保持自律尤为重要。”滕锐说，要避免ChatGPT引发数据安全问题，如泄露商业秘密及违背保密义务，需从法律层面明确ChatGPT产品的应用范围，推进数据的分类分级，规定不同种类数据的保护级别和措施。他建议，在内容保护上，原创性数据要受到知识产权法的保护；在技术监管中，要定期将算法合规纳入大数据安全体系，对其使用情况进行安全审计、评估验证等。

“行业自律也非常重要，ChatGPT的所有人要注意数据安全合格，也要确保获取个人信息具有合法性。”滕锐认为，将伦理道德融入人工智能的全生命周期，才能促进大规模的人工智能应用“向善发展”。

在武汉大学法学院教授孙晋看来，在人工智能大数据的时代背景下，数据隐私泄露问题愈演愈烈，ChatGPT作为数字技术的应用，开发者和使用者都是第一责任人。他提醒，由于ChatGPT的算法和算力均很强大，如果开发者或使用者实施垄断与限制竞争行为，滥用市场支配地位，会具有便利性和隐蔽性，会对反垄断法带来新挑战。

孙晋强调，人工智能开发者要坚持“技术中立”和“科技向善”的原则，开发者的道德水准和法律边界意识，决定其设计软件的发展方向。同时，使用者也要秉持这两项原则，杜绝利用新技术实施违法犯罪的行为，如侵犯公民个人隐私、侵犯商业秘密、商业诋毁、虚假宣传、网络诈骗、洗钱等。

在张洪波看来，利用人工智能技术实施违法犯罪，具有侦查难度，也需科技去甄别和侦破。滕锐认为，机器人走上更高智能阶段的同时，人类利用机器人违法犯罪的现象也会出现，从刑法的角度来看，人工智能不具有刑法意义上的辨认和控制自己行为的能力，但可对机器人背后的自然人进行处罚。

2006年年底我国互联网大规模爆发“熊猫烧香”病毒及其变种，该病毒通过多种方式进行传播，造成很大危害。这个案例令滕锐至今印象深刻。他说，“熊猫烧香”病毒主要是由当时年仅20多岁的小伙子李俊制作，李俊没有法律意识，利用新技术违法，以破坏计算机信息系统罪被判处有期徒刑四年。“年轻人在勇于尝试类似ChatGPT的新鲜事物过程中，不能利用新技术去做违法之事。”

目前，为了避免学生过于依赖人工智能类工具，防止作弊，多国学校已经发出禁令，禁止学生在学校内使用类似于ChatGPT的人工智能工具完成学习任务和考试。“这是警示年轻人，要明白人工智能技术是人类的辅助工具，并不能替代人类进行智力创作，如果年轻人完全依赖，会影响创新创作能力。”张洪波说。

在张洪波看来，人工智能工具可以帮助人类快速处理字数多、容量大的文本内容，最终的智力创作成果，还是要人类自己来完成。开发者开发设计人工智能工具的目的，应该是让人类学习生产生活更方便、快捷、准确，而不是懒惰和消极。

“任何一项新数字技术出现时，年輕人的反应最敏锐，对新事物的接受能力也很强。他们不仅仅是消费者，也有可能是未来新技术的创造者。”孙晋提醒，年轻人也要注意，网络不是法外之地，利用新技术时，不要触碰道德和法律底线。

来源：《中国青年报》 澎湃新闻