人工智能应用热的省思

仲玉维

焦建利 华南师范大学教育信息技术学院教育技术学教授、博士研究生导师，未来教育研究中心主任。主要从事教育技术学基本理论、学习科学与技术、技术支持的教师专业发展、基于移动终端的一对一数字化学习（智慧教室）、极简教育技术、在线学习等问题的教学和科研工作。利用业余时间经营学术自媒体教育技术学自留地（jiaojianli.com）。

2022年11月30日，OpenAI公司向全世界发布了其最新的大型语言预训练模型——ChatGPT。自打那个时候开始，作为技术发烧友的焦建利教授就被生成式人工智能迷得一塌糊涂，兔年春节，他大多数时间是和大型语言模型应用一起过的，一边怀着激动和兴奋，琢磨 ChatGPT以及其他大型语言模型给学校教育带来的机遇，对学校教育的价值和意义、课程与教学的设计研究；一边又充满理性和审慎，省思ChatGPT之类的人工智能，对于技术派教师的知识、技能和素养的挑战，对学生的学习、教师的教学以及学校的管理和服务所产生的诸多技术的、伦理道德的和法律法规的威胁和可能的挑战。本期我们访谈的专家就是华南师范大学焦建利教授。

本刊编辑：2022年年底，OpenAI 发布ChatGPT。不少人有这样的担心，生成式人工智能工具ChatGPT是懒惰學生的福音，可能会取代教师。您怎么看？

焦建利：的确，这种说法有一定的代表性，甚至连分析哲学领域的重要人物、认知科学领域的创始人Noam Chomsky（乔姆斯基）教授都有类似的观点。在一次访谈中，乔姆斯基将使用ChatGPT视为“基本上是高科技剽窃”和“避免学习的一种方式”。

我认为，ChatGPT之类的大语言模型只是工具，是技术产物，是合乎人的目的性的存在。它究竟是剽窃的利器、抄袭的工具还是生产力的工具，完全取决于人，取决于人以什么目的，怎么使用它。

比较有意思的是，我读到的美国和英国的两个有关ChatGPT的学校教育应用的调查报告，结论出乎意料，发人深思。

一项新的调查显示，教师比学生更有可能使用聊天机器人来完成“作业”。该调查由沃尔顿家庭基金会（Walton Family Foundation）委托，2023年2月2日-7日期间，对美国1002名K-12教师和1000名12-17岁的学生进行了调查，调查的目的是了解他们对该技术以及将其用于学校工作的看法。调查结果发现，在美国全国范围内，51%的教师在学校使用ChatGPT，而学生中这一比例仅为33%。在受访的教师中，黑人（69%）和拉丁裔（69%）教师报告的使用率更高。似乎很多教师都允许学生使用ChatGPT。

报告作者写道：“绝大多数使用过 ChatGPT的教师和学生表示，它对他们的教与学产生了积极影响”“与其寻找限制它的方法，学生和老师都认为我们应该寻找方法将ChatGPT纳入教育并充分利用它的潜力。”大多数学生表示，这可以帮助他们成为更好的学生（68%），并帮助他们学得更快 （75%）。73% 的教师表示 ChatGPT 可以帮助学生学到更多。

一家网站通过教师调查应用程序TeacherTapp，对9323名英国教师进行调查，报告显示，只有6%的人在工作中使用过ChatGPT，而 32%的人不知道ChatGPT是什么。这个结果再次发人深思。

这两个或许不具备可比性的对美国和英国教师的调查，似乎也佐证了在“人工智能领域，国家与国家之间的人工智能数字鸿沟正在呈几何倍数的加大”的观点。一方面，这或许是因为OpenAI是美国的互联网公司，或许和两个国家中小学教师的数字素养和技术文化有着密切的关系。

至于ChatGPT之类的人工智能取代教师之说，我的看法是：人工智能不会取代教师，过去不能，现在不能，将来也不能。但是，善于使用人工智能的教师，一定会淘汰不用人工智能的教师。

本刊编辑：ChatGPT一石激起千层浪，引发了全球互联网龙头企业（尤其是微软、谷歌、百度、Meta等）围绕搜索引擎相关业务展开的搜索引擎大战。ChatGPT到底能够为教育、教学带来什么呢？

焦建利：在过去的100年里，每当新的科技被引入教育时，都会产生激烈的争论和普遍的担忧。在这100年里，我们已经见证了很多教育科技的应用和变革，其中包括黑板、放映机、计算机、互联网、平板电脑等，ChatGPT当然也不例外。

由于有了ChatGPT大型语言模型的快速发展，使得我们人类的学习方式会发生一个根本性变化，有助于推动学习方式从“搜索就是学习”逐步转向具有悠久历史和古老传统的“对话式学习”，这种影响在今年已经显现出来了。

有了ChatGPT人工智能之后，每个人都有了自己的人工智能助理和私人学习的顾问，学习、教育教学变得更加个性化，因材施教有望得到落实。特别是随着生成式人工智能的发展，我们发现，在教育的生态里面，信息、知识甚至一些技能已经不再重要，重要的将会是创意、批判性思维、创造性、沟通，包括提问的技巧、协作、审美、情商和品格等。

我总结了一下，ChatGPT之类的生成式人工智能可以帮助人们完成以下几个方面的工作。

一是作为生成式人工智能的代表，ChatGPT能够为教师和学生生成相应的文本，如活动方案、教学设计、随堂练习题等。配合第三方应用，ChatGPT还可以生成故事、电子书、讲义、教案、教学材料、视频微课，甚至演示文稿、代码和网站等。

二是作为一个基于自然语言的大型语言模型，ChatGPT更具对话性，且似乎更有语言天赋，它能够回答后续问题、承认错误、质疑不正确的前提并拒绝不适当的请求；还可以帮助学生、教师更好地理解和掌握抽象的概念和知识，并为教师提供课程相关支持，如回答学术（包括科学、历史、文学、数学等）问题。

三是通过使某些任务和角色自动化，ChatGPT已经为诸多工作场所带来重大变化。人工智能和机器人不但可以自动化传统的体力劳动和重复性劳动，而且能够自动化越来越多的脑力劳动和知识密集型业务；通过将ChatGPT的功能与其他人工智能技术（如人工智能艺术引擎）相结合，可以使目前由人类设计师、艺术家和内容创作者完成的任务自动化；它还可以使学生学习和教师教学的相关业务自动化，如为学生和教师提供学习资源，帮助教师和学生寻找有用的学习资源。

四是ChatGPT的应用场景不僅仅体现在常规工作和教学业务中，在科学研究领域，ChatGPT也有广泛的应用前景。许多科学家和研究人员尝试使用ChatGPT辅助科学研究过程中的某些任务，取得了令人振奋的成绩。如研究人员可结合ChatGPT和其他大型语言模型来确定研究空白、进行文献综述、起草论文并修改完善，撰写演讲稿以及编写计算机代码等。

本刊编辑：人工智能面临着一定的应用风险问题，包括技术伦理、技术向善、隐私保护等，这些问题引起了人们的高度关注。在运用ChatGPT等AI软件的过程中，您遇到了什么问题，有什么样的思考？

焦建利：在我看来，今天我们看到人工智能对于教育在法律和伦理方面的议题，主要有以下五个方面。

一是，我认为它带来的挑战和问题是不确定性和错误的信息，ChatGPT经常会生成一些不准确的信息、误导性信息，给人们带来很大问题。比如，我曾经问ChatGPT谁是乔姆斯基，它告诉我是演员，这是错误的；后来，我用英文问，谁是Noam Chomsky，它的回答是正确的。所以，有的时候我们会思考，究竟它给我们的答案是对的还是错的，还是我们提问方式有了问题，我们批评ChatGPT的语言模型边界和局限性的时候，是不是我们提问的方法出了问题。就好比，并非每一个会说话的人都会聊天，否则，就不会有“把天聊死了”这样的说法了。我们使用ChatGPT之类的聊天机器人，需要学会怎么和它愉快地聊天，这就涉及了一个被称之为“提示语工程学”的领域了。

二是，ChatGPT经常会产出一些并不可靠的内容。比如，在应用过程中间你会发现，它会给你提供一些不存在的信息，我曾经遇到过，我让它列出一些我自己研究的一个课题，有关的参考文献，希望用MAPA格式来给出这样的文献，它列的非常规范，看上去非常漂亮，但是当你去搜索，发现这个文献是不存在的，所以这变成了一个很重要的问题，尤其用到教育教学里面的时候，这种不可靠会带来很大挑战。

三是，我曾经开玩笑地问了ChatGPT一个很荒诞的问题，我问“为什么在慢跑之后吃自己穿的袜子更有营养，更有利于健康？”ChatGPT是怎么回答我的呢，它说“因为慢跑可以帮助我们消化脂肪，而袜子里面含有营养成分，比如维生素、矿物质、氨基酸等等”，它在一本正经地胡说八道。

四是，数据安全的问题、隐私保护以及相关法律的关注。比如涉及了攻击性信息、种族歧视方面不恰当的内容，甚至一些有毒的信息，由ChatGPT的人工大型语言模型产出，很多专家谈到了这一点，我很同意他们的看法，这点看法类似于莎士比亚讲过一句“本无好坏，取决于人怎么思考”。还有就是由于大型语言模型训练带来的偏见，涉及相关语料和相应问题，可以看到这方面的情况还是比较多的，因此，也有人批评在教育里面它带给我们的是什么，有人认为它是“教育的瘟疫”，有人说“抄袭变得更容易了”。

五是，开放性和公平性的问题。在很多专家讨论人工智能里面提到了，以Open AI为例，它的名称是Open，是不是全世界的人都能使用它，我们今天讲由于技术的原因带来很多挑战和问题，但是，归根结底我的看法是，这取决于我们怎么使用它，如果以正确的方式使用它，它会成为我们教师的朋友。

人工智能伦理的问题变得非常重要，我们今天需要采取一些行动来解决这些问题。

本刊编辑：作为技术发烧友，您最近还关注哪些人工智能方面的内容？有什么推荐的最前沿的技术信息吗？

焦建利：我在“自留地君”微信公众号上，会经常发布一些我认为很有意思也很有时效性的人工智能科技动态。比如“人工智能艺术让人人都成艺术家？”的推文中，介绍了以6Pen.art为代表的一组人工智能绘画工具，基于人工智能算法的在线绘画作品创作，可以让每一个像我这样没怎么接受过艺术教育的人，在线借助人工智能，创作出一幅幅自己的绘画作品，还可以参加在线画展。用户直接给出想象中画面的关键词，它就能借助人工智能算法给你生成对应图像，这一切就仿佛它能听懂人类的语言一样。艺术创造不用画笔，而靠“算”，一个“用嘴作画”的时代，似乎已经悄然到来。AI艺术成为艺术的一种新形式，每个使用AI创作软件的人，都似乎可以算作是AI艺术家了。在技术的支撑下，一台计算机在生成网络里对一组声音或图片库进行研究，根据所采集到的资料来生成自己的内容。然后，在其判别网络里通过与原始资料库比对，来测试自己的正确率。如此不断重复以上步骤，机器在反复试验中逐步改进和优化自身。

人工智能不仅可以让每个人都成为视觉艺术家，还可以让我们创作自己的音乐。人工智能在音乐领域的应用愈发深刻广泛，覆盖了音乐教学、人工智能音乐创作、AI演奏、虚拟歌手、娱乐社交等众多场景。单就AI音乐创作部分，人工智能可以让普通人（当然也包括音乐创作专业人士、作曲家和音乐家）利用人工智能技术对音乐进行创作、加工和利用，比如：AI演唱、AI作词、AI作曲、人声/乐器分离、BGM识别、副歌剪辑、曲谱识别、音频合成等。比较有代表性的包括：Amper Music、AIVA、Jukedeck、Ecrett Music、Melodrive、ORB Composer等。

其实，这几个月来，人工智能发展实在是太快了，快到让人瞠目结舌，目不暇接的地步。难怪网友惊呼，“日日工业革命，夜夜文艺复兴”。我觉得，人工智能真正带来的冲击是全新的工作方式，所有的软件和平台都将会被人工智能刷一遍，成为人工智能软件。生活在这个时代的每一个人，也都将被人工智能赋能，否则，就会被这个时代淘汰。

让我们一起见证历史，共同创造人工智能教育应用的未来。