APP下载

生成式人工智能技术对教育领域的影响

2023-05-30张绒

电化教育研究 2023年2期
关键词:伦理问题人才培养人工智能

[编者按] 自2022年11月30日OpenAI发布ChatGPT以来,这款优化对话的语言模型迅速在全球范围内引起高度关注。ChatGPT对教育领域将带来怎样的影响?智能时代,教育领域、互联网企业应如何应对人工智能技术带来的影响?我们应该如何培养适应智能时代的人才?本期,《电化教育研究》编辑部推出特别策划,专访武汉理工大学杨宗凯教授、北京师范大学黄荣怀教授、南京师范大学李艺教授、北京师范大学李芒教授、华中师范大学刘三女牙教授、西北师范大学郭绍青教授、北京大学尚俊杰研究员、华东师范大学余南平教授、华南师范大学胡小勇教授、中国教育科学研究院曹培杰副研究员、讯飞教育技术研究院刘邦奇院长、腾讯教育王涛副总裁等12位教育技术领域学者、政策研究者、互联网企业从业者,从不同角度为我国教育领域应对人工智能带来的机遇与挑战建言献策。

[关键词] 人工智能; ChatGPT; 人机协同; 人才培养; 伦理问题

[中图分类号] G434            [文献标志码] A

一、ChatGPT对教育领域的影响与启示

张绒:对于ChatGPT,有人果断“禁止”,有人欣然“擁抱”,对此,您持怎样的态度?

杨宗凯教授:ChatGPT是生成式人工智能,与之前基于规则的人工智能有很大区别,在信息技术发展史上具有里程碑意义,是一个“奇点”。ChatGPT对于教育的影响,目前仍处于起步阶段,后续发展还需要我们冷静观察、准确把握、趋利避害,简单“禁止”只能是权宜之计。

黄荣怀教授:面对ChatGPT在社会和教育领域掀起的“海啸”,我们需要正视ChatGPT的功能特性、核心价值以及潜在风险,并审慎处理,以超越对人工智能技术应用于教育的认知偏差。当前,人们对人工智能技术应用于教育的作用还存在理解上的误区:一是期待人工智能的潜力能迅速发挥;二是认为人工智能无论发展到何种程度,依然只是工具,成效如何只能取决于教师和学生本身。这就形成了高估人工智能即时作用与低估其长期效应的认知偏差。ChatGPT作为典型的人工智能技术,是一把双刃剑,我们应当思考如何将其作为教育教学的有效工具,而不是简单禁用。因此,相关教育部门应该制定指南和规范,促进ChatGPT在教育领域的有效使用。

李芒教授:在马克思看来,技术的本质就是人的本质或人的本质的表现,技术的不断发展就是人类本质的不断实现。相比其他动物,人类严重缺乏先天本领,根本无法只凭自身各器官自然适应周边特殊环境,因而成为一种必须依赖创造工具才能续存的高级动物。海德格尔也指出,现代技术的本质是人类的技术性生存方式,是人类不可逃避的“天命”。以此可知,技术之于人类具有极其重要的价值,技术进步对人类具有绝对的必要性。我们不可将技术的发展视为对人类自身的威胁,应该毫不吝啬地赞美与欢迎ChatGPT,要充分意识到ChatGPT的发展必然有利于人类的自由和解放。机器更加能干,并不是机器变得聪明,而是制造它的人获得了智慧提升。因此,人们不应震惊ChatGPT的才智,而应该钦佩研制ChatGPT的人员。人类在ChatGPT面前,具有无上的优越感。

尚俊杰研究员:我秉持开放、理性和积极的态度。在技术的发展过程中肯定会伴随着对其利弊的讨论和争议,ChatGPT亦是如此。相较之前的AI聊天机器人,ChatGPT作为生成式人工智能的代表,能够更加准确地理解连续的自然语言对话背后的需求,在此基础上为我们迅速生成更“有效”的答案。所以,它确实在教育领域具有重要的应用价值,但是我们也要看到它给教育带来的影响和挑战以及存在的风险,因此,要采取正确的应对措施,恰当地使用它。

张绒:您认为ChatGPT对智能时代的教育会产生怎样的影响?

杨宗凯教授:ChatGPT对教育的潜在影响主要包括三个方面:一是促进教学模式的转变,适应教育数字化、数字教育的转型,从传统“师—生”二元结构转向“师—生—机”三元结构。教育的本质始终是帮助个体实现自我价值及满足社会发展需求。与传统的二元结构相比,通过技术赋能的三元结构将提升教育的效果与效率,将更加强调“能力为重、价值为先”,以此培养智能时代的合格人才。二是加速现行考核体系的转变,逐步从知识测评转向“知识+素养”测评。ChatGPT可以加速知识传授的过程,让学习者更多地以探索、体验和实践的形式去理解和应用知识,未来的评价体系将不再仅仅是知识本身的评价,而是“知识+素养”的综合性评价。三是推进现有智能教育应用生态的转变,从孤立、专用的教育应用转变为连接、共享、智能的教育平台。ChatGPT作为开放式人工智能系统,可以和现有教育平台进行深度融合,实现智能教育应用生态的全面升级和效能提升。

黄荣怀教授:ChatGPT应用于教育,有以下三个方面需要关注:第一,可能引发教育诚信危机。ChatGPT降低了作弊和学术不端的成本,可能引发一系列诚信危机。学生可以用它代写作业或论文,干扰正常的教学秩序;研究人员可以用它代写研究报告或论文,颠覆学术伦理。面对这一挑战,教育界需尽快改进评价体系,促进评价方法多样化。第二,对用户的信息甄别能力要求更高。虽然ChatGPT可以提供对大量信息的快速访问,但由于 ChatGPT 所生成的文本格式的规范性,用户不易察觉其可能存在的欺骗性,部分错误信息难以正确识别,需要用户反复检查与确认。第三,可能引发新的隐私保护问题。目前尚不清楚ChatGPT如何存储和处理其与用户的互动信息,这一数据“黑箱”会引发公众对个人隐私、数据安全及伦理问题的担忧。

李芒教授:在教育领域,ChatGPT为学生提供充分发挥自身主体性的机会,能够成为学生重要的学习伙伴与得力助手,促进对学生发散性思维、创造性思维、批判性思维的培养,为学生思维发展提供了广阔而全面的未来。可以确定,ChatGPT能够帮助人类在一定程度上实现教育的高质量发展。

刘三女牙教授:随着人工智能技术,特别是基于大模型的内容生成式人工智能(AIGC)技术的快速发展,人类知识的生产、传播、传授的方式将会发生急剧变迁,作为AIGC领域的明星级、现象级应用,ChatGPT已向我们呈现出这种变化的端倪,这将直接影响到教育理念的重塑、人才培养模式的重构。

郭绍青教授:ChatGPT在教育中的应用所产生的影响需要根据具体的应用场景进行分析,即需要把ChatGPT的功能与教育教学全流程的各个环节进行对应与比较分析,以判断其对使用者是有积极作用还是负面影响。例如:学生不假思索地利用其完成作业将会产生负面影响,但作为小组讨论过程中的资料检索工具,则将起到积极作用。根本上来讲,ChatGPT的合理应用能够成为师生的一个智能助手。

尚俊杰研究员:ChatGPT对教育的影响可以分为表层影响和深层影响两类。表层影响主要是对知识生产的变革。例如:ChatGPT协助作业和论文的撰写,充分发挥了ChatGPT出色的对话和生成内容的能力。ChatGPT凭借该能力,可以整合应用到智能辅导系统、辅助教师教学、协助管理决策多个教育场景中,协助提升教育教学的质量和效率。但这背后也会带来隐忧,譬如学习者过度依赖ChatGPT、缺少独立思考等。深层影响指的是对整个教育体系的挑战。例如:ChatGPT能够代替许多初级知识工作,未来的人才究竟需要具备什么样的知识和能力?未来的专业设置、课程设置、教学模式等教育系统各方面需要进行怎样的调整?

余南平教授:人工智能技术的进一步发展会对教育带来许多不可预测的综合性影响,特别是工具理性膨胀对教育中“人的发展”将带来破坏性影响。对教师而言,面对未来发达的人工智能技术,部分教师可能会担心自身被取代,也有部分教师可能会过度信任人工智能,在过度依赖中导致自身能力衰退,逐渐丧失自身对教学的反思能力。对于学生而言,角色转变意味着转变学习观念和学习方式。但是,由于人工智能技术的介入,学生自主化的学习可能变得低效。尤其是以ChatGPT为代表的新一代人工智能技术,已经具备了能够完成专业学术论文、通过顶尖大学考试的能力,而部分学生,尤其是义务教育阶段的学生,由于缺乏自律意识,过度依赖技术,可能会导致学生能力和素质滑坡,反而不利于学生成长和教育发展。另外,人工智能的发展对学科设置和教师进行了重新定义,目前的人文社会科学学科设置是嵌入在现有生产力发展水平基础之上的,而新一代人工智能对社会生产力范式的改变和提升,将淘汰许多旧有学科,使现有无远见的教育投入产生巨大的“沉淀成本”,同时,人工智能的发展也将使没有原创能力的教师被淘汰。虽然,中国高校的学科设置近几年有较大幅度的变化,新兴和交叉学科也在不断增长。但总体来看,与新一代人工智能技术发展相适应的大规模学科调整还没有更多进展,许多学科还停留在工业和信息化时代。而这个问题在未来可能变得更为关键。

张绒:信息技术对教育的革命性影响是否真正到来?

杨宗凯教授:早在十多年前,《国家中长期教育改革与发展规划纲要(2010—2020年)》就已经提出“信息技术对教育发展具有革命性影响”。ChatGPT的出现,让人们更加真切地体验到信息技术的影响力,但是技术发展永远都在路上,革命性影响永远都在过程之中。面对智能技术的变迁,我们需要进一步积极识变、主动应变、科学求变,完善人才培养体系,构建智能教育学学科,善用ChatGPT等新型人工智能工具,变革教育教学方式,培养符合未来需求的时代新人。

黄荣怀教授:不论是政策指向、学术观点还是教育实践,信息技术对教育具有革命性影响是一个基本共识,革命性影响早已到来。早在2001年7月,教育部发布的《全国教育事业第十个五年计划》中就提出,“高度重视信息技术对教育产生的革命性影响,大力推进教育信息化,已经成为当今世界教育发展的主流”。在过去三年的新冠疫情期间,信息技术全面进入教与学的过程,规模之大、范围之广、程度之深,前所未有。ChatGPT等智能技术的深度应用,会像新冠疫情期间的大规模在线教育一样,对学生、教师、家长、教育研究者等主体产生“冲击性”影响,即直观真切地感知和体验到信息技术对学习、工作和生活的改变。

刘三女牙教授:尽管从教育应用的角度来看,ChatGPT还存在诸多问题,但ChatGPT的出现,昭示着技术对教育变革性影响的突变点正在逼近。

李芒教授:教育所具有的连续性、稳定性和继承性的本质特征决定了教育不是会出现奇迹的领域,而ChatGPT的出现也确实并未给教育带来奇迹,更谈不上对教育的革命性影响,对ChatGPT能够在教育领域引发新一轮革命的期待,只是一种乌托邦式的向往。ChatGPT之所以能够引起轩然大波,除了对师生教学活动产生一定的具体影响之外,也许是因为随着元宇宙的急速没落,人们需要一个新爆点用于攫取资本利益罢了。

郭绍青教授:信息技术对教育的革命性影响是一个渐进的过程,不可能通过一项技术的突破或产品的创新就能够标志革命性的结果,需要不断的演进,以实现教育新生态的建设,这是一个量变到质变的过程。

尚俊杰研究员:以互联网、人工智能等为代表的信息技术确实对教育产生了革命性影响。例如:人工智能和学习分析可以让学习者的学习过程更加个性化和智能化,VR/AR技术能够提升学习者学习体验的沉浸感和丰富性……但是,教育变革的过程往往复杂且缓慢,即使是ChatGPT,在短期内也难以让教育产生天翻地覆的变化,真正实现教育的深层变革还有很长的路要走。

张绒:在我国推进教育数字化转型的过程中,像ChatGPT这样的智能技术将扮演怎样的角色?ChatGPT为我们描绘未来教育蓝图提供了哪些启示?

黄荣怀教授:ChatGPT等智能技术将在科技领域与教育领域引发“鲶鱼效应”。在人工智能基础研究与技术研发方面,ChatGPT的发展将持续倒逼我国更多关注基础理论研究、大模型的研制与大平台的部署,增強数据、算法、算力等基础支撑能力,进一步推动我国人工智能迈向世界前列。如在大模型研发方面, OpenAI、Google等已发布了GPT-3、Switch Transformer等大模型,国内的大模型呈现追赶之势,如百度文心、华为盘古等。另一方面,ChatGPT等智能技术融入教育教学能够激发教育变革的内生动力,尤其体现在倒逼教师信息素养的提升上。未来,不使用人工智能技术的教师可能被擅长使用人工智能技术的教师所取代。科技与教育的系统性融合是未来教育生态的关键特征。以服务学生个性化学习为例,ChatGPT将在三个方面发挥作用:一是知识获取,ChatGPT能够快速生成学习材料,帮助学生复习和学习课程内容;二是自主学习,ChatGPT等智能技术的多轮次对话能够为学生提供良好的互动学习体验,提升其学习投入度;三是学习伴侣,随着智能技术的成熟,ChatGPT等智能技术未来能为学生提供多元的学习支持服务,帮助学生进行学习时间管理、学习任务与过程管理。ChatGPT提出了一个重大问题,即当前的教育应当培养什么样的人才。ChatGPT能够成为一种技术,说明机械化文本写作已经不再是个体能力的体现,教育应更加关注学生的逻辑思维、批判性思维和创造性思维等高阶能力。同时,我们知道使用ChatGPT不需要太多的ICT技能,但需要更好的提问能力来获得最佳结果,因此,有效使用智能工具的能力将成为学生核心素养的重要组成部分。

李艺教授:ChatGPT是大数据时代的一种新的技术应用,是融合了既有大数据应用成就各方面特点的新的应用形式,是一种文本理解与重新进行语言组织的指向答案的搜索技术。从人工智能技术发展来说,值得庆贺并积极面对,但从人工智能技术突破的角度来说,并没有质的变更或提升,总体上看,仍然是弱人工智能时代的产物。ChatGPT会对各领域的工作有一定的支持作用,但仍然有明显的局限性:它不能承诺所推荐的教学所需知识是百分百正确的,因之无法替代有人工参与的、针对特定学习内容的知识库;其所谓“生成性”指的是基于大数据的语言生成性,缺乏与人相比的创造能力及相应意义上的生成性,因之不可能改变教师的最终话语权。因此,最佳的态度应该是积极面对,形成与之相应的新的应用方案,或者是在既有方案的基础上,借助ChatGPT对其进行优化,为教师教学及学生学习提供更多的辅助性支持。相信ChatGPT因综合功能较强及容易上手所带来的优势,能够为教育实践与发展带来一定的支持,同时需要注意的是,冷静面对,妥善處置,勿要过分夸大。

刘三女牙教授:从ChatGPT目前呈现的能力来看,还无法满足严肃的教育教学场景要求,它更多的是让我们洞见未来的各种可能,并启发我们更好地开展教育数字化转型过程中的理论研究、技术攻关和应用创新。但是,我们要清醒地认识到,技术的演进速度正在加快,新的范式正在形成,新的赛道正在构建,教育将会迎来人机混合增强的人才培养新模式。

曹培杰副研究员:ChatGPT的横空出世,引发了社会各界关注,从一个侧面印证了教育数字化转型的必要性和紧迫性。科技是第一生产力,人类历史上每一次重大科技进步,都会大幅提高劳动生产率,推动人类社会迈向新阶段。ChatGPT代表着人工智能技术的重大突破,更折射出新一轮科技革命的演进态势。我觉得,ChatGPT等生成式人工智能很可能会重新定义技术在教育中的角色,过去更多是作为工具手段,未来将成为新的教育要素,同教育者、学习者、教育内容等要素一样,都是不可或缺的。当然,新技术不会自然而然地改变教育,必须和理念转型、组织变革、机制创新等结合起来,才能对教育发展带来革命性影响。否则,将会陷入新技术“迷思”,引发“信息技术改变了几乎所有领域,却唯独对教育的影响小得可怜”的困惑。未来教育应重点关注三个方面:一是教育理念转型,打破标准统一的教育教学秩序,推动“工业化教育”向“智慧型教育”转变,实现大规模因材施教和全流程个性化学习;二是教育组织方式变革,超越班级、学科、校园的固有边界,培育跨班级、跨学科、跨学校、跨时空的学习共同体,形成全新的教育组织方式;三是教育运行机制创新,实施数据驱动的教育决策,构建人机协同的群智决策系统,助力政府、学校、社会多元协同治理。

二、智能时代的人机共处

张绒:不少使用过ChatGPT的人表示,ChatGPT的对话反馈响应及时、内容全面,丝毫不逊于人类教师。智能时代,人类教师应如何与人工智能技术共处?

杨宗凯教授:教师是教学活动的设计者、实施者和评估者,而人工智能技术是教学活动的工具,教师要善于驾驭人工智能工具。“君子生非异也,善假于物也。”ChatGPT对教师赋能显著,有助于实现“师师有助教,生生有学伴”的目标。同时,ChatGPT的出现也是强化素质教育的重要契机,我们需要重构一个“知识为基、能力为重、价值为先”的智慧教育新生态。在教学实践层面,教师与人工智能共处有三个面向:一是学人工智能,学习人工智能技术的相关课程。不同时期的学生有不同的特点、不同的需求,教师自身也需要与时俱进,利用AI技术提升自身的导学能力、教学资源的开发能力、教育数据的分析能力。二是用人工智能,利用人工智能开展学习、评价和管理。用AI取代部分自身职能,识记、理解、应用方面的知识传授职能借助AI技术来完成,将自身从琐碎的工作中解放出来。将工作重心更多地转向能力培养、素养培育、心理辅导、人格塑造等,为学生提供更多的情感支持。三是与人工智能一起学、与机器一起学。借助AI提升教学效果,用AI技术提供更加个性化、定制化的学习方案,为学生提供更加耐心、更加准确、更加独特的学习支持服务,促进学习效率的提升,实现规模化前提下的个性化教育。

黄荣怀教授:首先,从育人角度,ChatGPT目前还远不及人类智慧,无法与人类教师媲美。一方面,人类教师具有不可替代性。育人是长期的互动过程,师生间面对面交谈、情感联结、思想交流等要素不可或缺。另一方面,从技术发展来看,ChatGPT仍处于相对低端的水平。当前的ChatGPT能在特定环节或部分实现对于事务及流程的自动化处理,但其距离非结构化信息的智能化处理仍有巨大空间。其次,从知识查询和答案生成的角度,ChatGPT能够成为人类教师的事务助手。ChatGPT可以处理自然语言对话并生成各种文本,能辅助教师处理知识检索、多类型文本生成、作业批改等标准化和重复性的任务。随着智能技术与教育融合的深化,教师的角色需要发生转变,未来教师需更专注于培养学生的必备品格、高阶思维及复杂问题解决能力,成为学生成长的人生导师。最后,从教师角色角度,人类教师应学会与智能技术形成互补、协同、创新的关系。教师与ChatGPT等人工智能技术相处存在“觉醒—体验—实践—传播”四个境界:一是知晓原理,教师应学会基本的人工智能知识和原理,如了解ChatGPT的基本功能、实现机制以及历史演进情况;二是赋能学习,教师学会利用人工智能来学习,提升教师的学科能力和教学能力;三是优化教学,教师尝试利用人工智能开展教学,以发现人工智能对教育教学的实际作用;四是交流分享,教师可以开展关于ChatGPT的主题教研活动,分享应用经验,挖掘其教育效益。

郭绍青教授:ChatGPT在知识提供与简单问题解决方面可能会表现出上述情况,但我们需要看到在学生的高阶思维、问题解决能力、创新能力等核心素养的培养上,ChatGPT这样的人工智能技术产品还无法胜任。一名优秀的人类教师不仅能促进学习者知识体系的建构,而且能促进学习者的全面发展。智能时代,需要理性看待人工智能技术与产品的作用,在当前的发展水平上,像ChatGPT这样的人工智能技术产品还处于智能工具的层面。在教育教学过程中,人类教师与智能工具是一种协作关系,即人机协同,人类教师与智能助手合理分工,相互协作,共同完成教学任务。

尚俊杰研究员:以ChatGPT为代表的人工智能技术能够依据海量的互联网数据,迅速给出全面、有效的对话内容,有时候似乎都超过了人类教师的回答水平,以至于教育领域也有人惊呼ChatGPT会不会替代人类教师。这一点大家大可放心,之前有学者做过深入的研究,结果显示,大中小学教师被人工智能替代的概率均不超过1%,这主要是因为教师从事的工作富有创造性、社交性和情感性,这是人工智能不擅长的工作,所以人类教师很难被替代。但是懂得使用人工智能的教师可能会替代不懂得使用人工智能的教师,所以,未来人机协同将会是大的发展趋势,我们应充分挖掘和发挥人类教师和人工智能的优势,在提高教学效率与质量的同时,让教师更幸福。

胡小勇教授:ChatGPT所展现的强大功能给教师带来了巨大的职业压力,但要说“丝毫不逊于人类教师”则略显得夸张。面对人工智能,人类教师要有接纳意识并与其协同共处。首先,要提高对自身未来的角色认识。随着技术的迭代进步,未来教师需要承担起三種角色:一是医生的角色,能够对学生进行个性化“诊断看片”;二是教练的角色,更多地教授学生方法论、价值观而非单纯的知识;三是导学的角色,通过情感注入和创新体验调动学生学习的主动性。其次,要明确教师和人工智能技术各有千秋。虽然人工智能技术具有强大的算法、算力,但是学生创新思维能力的培养和情感价值观的塑造,应该由教师完成。教师要明确自己在智能时代安身立命的看家本领,同时正确认识和接纳人工智能的技术优势,与人工智能协同合作育人。最后,要善用人工智能技术。一方面,教师要积极树立人工智能赋能的新型智慧教学理念,学会利用人工智能技术辅助完成某些重复性、机械化的职业劳动;另一方面,教师要充分利用智能技术开展学科学习,促进自身智能教育素养的提升。

张绒:ChatGPT一经问世,就有各类教育问题伴随而来,如学生利用ChatGPT写作业、考试。您如何看待这类现象?我们应该如何避免技术应用带来的负面问题?

李芒教授:教育问题是教育的“特色”,每当新技术闯入教育实践活动,都有数不尽的新问题产生。面对ChatGPT给教学带来的新矛盾,无论如何不可采取简单粗暴的屏蔽之策,而应具体问题具体分析,对不同学段的学生采取不同策略。在大学,应将ChatGPT的选择权与决定权交给学生,最终由已经成年的学生在充分发挥主体性的基础上,自主判断是否使用ChatGPT,当然必须合理使用。在中小学,则需要根据不同教学目标、教学任务、教学方法与学习者的具体情况,设计恰如其分的使用方案,分别为:建议不用、建议合理使用以及禁止使用。学生若将ChatGPT视为做题时的参考,便有利于学生的学习;但学生若“借脑做题”而放弃了自主思考,那便一定会阻滞自身各方面的发展。虽然ChatGPT能写能说,但人类不能将自己闲置于懒惰和堕落之中,需要在ChatGPT的有利协助下,亲自写文章,亲自对话。人类与ChatGPT的关系不是敌我关系,而是相互成就的关系,根本目标在于使人类变得更加智慧。因此,只要人类自身为自己负责,不过度依赖地用好它,就能够克服技术应用带来的负面影响。

刘三女牙教授:从积极的角度来看,我觉得有两个方面值得肯定:一方面,善于利用人工智能技术来解决问题(哪怕是作业)是一种值得肯定的信息素养和能力,应该予以鼓励;另一方面,尽管ChatGPT当前还略显稚嫩,但其呈现出了“智能学伴”的潜质,可有效增强学习者的学习体验。当然,我们会担心学习者会利用此类技术来走捷径,损害学习者的知识建构和能力训练,要规避此类问题需要从三个方面来发力:第一,我们要发展新技术,以技术来防止技术的异化应用;第二,加强规范制度的超前设计,尽可能地制约此类情况的发生;第三,从教育理念、教育技术伦理等更高维度来思考,加强理论研究,以更好地指导实践。

尚俊杰研究员:学生利用ChatGPT写作业、考试这类所谓的负面问题的出现,我认为不必过分惊慌。学生大面积使用ChatGPT抄袭作业的情形不太会出现,而且发生这样的事情恰恰是我们反思教学目标、改进评价方式、加强教育管理的良好机会。首先,在作业和考试中使用ChatGPT的现象需要看是否与培养目标一致。如果就是要通过学生独立自主完成作业来掌握知识、提升某项能力和思维,或者牵扯到抄袭、升学决策、伦理道德等问题,我们大可加强对于技术的监管,引导学生正确使用技术。其次,我们也可以从评价方式上入手。在保证教育目标正确、符合道德规范的前提下,如果单纯依靠ChatGPT技术便能非常好地完成作业和考试,我们的评价考核方式是不是应该反思改进了?相对于单纯地考察知识记忆,学生思维能力的培养和评价可能才是未来关注的重点内容。我们可以采取项目式学习、制作作品等方式,结合学习者的过程表现,对学习者的思维能力、合作能力、创新能力等进行培养或考核。再次,技术的发展一般会快于教育的变革,所以教育的需求可能会和技术的可供性不完全匹配。但教育的需求实际上也在不断改变,教育中技术的使用可以对技术工具提出新的要求,从而打造适用于教育场景的技术工具。最后,健全学术伦理、考试管理等教育管理制度,让学生在享受技术便利、提升发展能力的同时,规避技术滥用带来的潜在风险。

余南平教授:技术发展会带来“两面性”,这已被人类社会发展历史所证明,而人工智能技术的进步更是突出与强化了“两面性”。对于技术发展,人类始终应该以积极乐观的态度来看待,生产力进步是社会历史发展之必然,任何回避技术发展的思想与行为都会在历史前进过程中被无情淘汰。但在欢迎技术进步带来“星辰大海”的同时,也不能忽视技术的负面影响,具体到ChatGPT等生成式人工智能技术,它给现有的教学体系、模式、内容带来了巨大的冲击与挑战。由于ChatGPT低门槛的网络化使用,可能会被大量的学生用来完成作业和考试,成为强大的新型作弊工具。由于ChatGPT模型精湛的语言能力,使教师对于原创性内容的分辨变得更加困难,同时也进一步增加了教师的教学负担。而目前在人机识别技术还无重大突破的前提下,许多教学单位采取了“禁止使用”的办法,但这种办法对课后作业和论文考核并不会起到实质性的作用,短期而言,只能在考核形式上采取闭卷、课堂口头回答等方式以应对负面影响。

张绒:国家需要尽快在哪些方面出台相应的政策,引导大家客观、理性认识ChatGPT等生成式人工智能技术?在教育领域中,如何规范广大师生恰当使用人工智能技术?

杨宗凯教授:面对生成式人工智能技术这个初生之物,各国目前还没有足够的深刻认识和经验支撑,如美国多地是暂时禁止使用。为了引导大家更客观、理性地认识生成式人工智能技术,我国需要认真对待,进一步研究,加强辨别力和判断力,尽快出台相关政策,如质量标准规范、学术诚信规范和伦理规范等。在教育领域,可以通过发布政策规划,引导各地理性对待,帮助师生合理使用;通过加强制度设计,规范智能技术在教育中的应用边界;通过探索示范,明确有效的应用方法和模式。总之,一方面鼓励积极探索,另一方面加强监管评估,实现合理应用。

黄荣怀教授:促进ChatGPT等人工智能技术合法、合规、合乎伦理地融入教育教学,保障其融合度与可信度,切实提升教学效率,有以下核心关切点:第一,规范而有序地提升师生的数字素养与技能。一方面,虽然 ChatGPT 可提供对大量信息的快速访问,但不能保证内容的准确性,需要用户对获取信息进行反复检查,对用户的信息甄别能力提出了更高要求。另一方面,在人机协同的教学环境中,师生都需要提升信息技术应用能力、数据思维等信息素养,与ChatGPT等智能技术形成和谐、高效、可持续的人机协作关系。因此,需建立师生数字素养与技能提升支持服务体系,如完善教师数字素养与技能培训机制、健全相关课程与实践活动体系、建设智能化数字素养与技能监测平台等。第二,建立智能技术产品的校园准入体系。一方面,随着人工智能技术的快速发展,相关研究机构需加强智能技术产品的分级分类研究。另一方面,完善智能技术产品的校园准入制度体系。应在审查、监管、问责等方面建立规范体系,包括法律法规、政策措施、制度规定以及管理方式等内容。政府和教育领域应该制定更多的指南和政策,以促进教育领域对ChatGPT在教育评估、教学辅助等方面的应用,从而推动教育实现跨时代的发展。第三,强化人工智能与大数据的教育社会实验。与实验室实验不同,社会实验对过程(如学习)的控制较少,可以自信地说,得到的结果是由给定的干预造成的。因此,通过社会实验来研究人工智能技术在真实的教育过程中的真实影响是很重要的,这可以帮助我们验证一种特定的技术在教育中是否有效。一方面,深入开展人工智能社会实验的方法论与实验规范研究;另一方面,逐步建立完善教育领域的人工智能社会实验体系。第四,规范智能技术的教育应用场景。使ChatGPT等智能技术的教育效益最大化,需系统分析教育场景真实需求与技术供给的耦合机制,规范智能技术的教育应用场景是实现技术有效供给的必要措施。一是加强学生认知特征与智能技术场景关系研究,对ChatGPT等智能技术产品使用中所关联的时间、地点、人物、资源、功能、学科等要素进行链条化分析。二是开展学科内容与智能技术应用的关系研究,需要探索不同学科内容在哪些知识点可用智能技术表达,借助生成式人工智能技术辅助教学,找到人工智能与不同学科内容知识点的最佳结合点。第五,确保师生隐私与数据安全。此外,ChatGPT可能依据用户的属性,对相同问题产生不同的答案,这也有可能引发教育过程中个体平等地浏览所有信息等公平问题。因此,科研机构和科技企业在国家相关部门的领导与支持下,应尽快开发出安全可控、适合师生使用的生成式人工智能技术产品,确保隐私与数据安全。

余南平教授:为了应对新一代人工智能带来的挑战,制度建设层面,国家与管理层应该加强技术安全保障。国家相关部门要与高校、企业加强多维度合作,充分利用智能技术赋能伦理建设,细分伦理挑战风险类型,针对不同的风险类型制定解决预案,开发合乎教育伦理的风险预警系统,以此持续监测教育人工智能伦理风险情况。一旦发现异样,及时给执法部门、教育部门、学校、教师、学生、家长等发送预警信息,从而实现精准施策。但当前的风险预测分析等技術研究主要基于大数据的应用,集中在金融、公共信息安全等领域,而涉及教育领域的智能技术风险分析的研究很少。因此,国家相关部门和高校学者应重视该领域的研究,不断加快发展相关的风险监测技术。

曹培杰副研究员:教育数字化转型是数字中国建设的重要组成部分,在推进中国式现代化进程中具有基础性、先导性、全局性作用。要引导公众认识到ChatGPT只是新一轮科技革命的一朵浪花,未来还会有更多的新技术突破。如何实现教育改革与科技创新同向同行、联动互融,是一项重大的时代课题。为此,教育界对ChatGPT等生成式人工智能需树立包容审慎与底线思维相结合的政策导向。一是积极拥抱新技术,深刻认识ChatGPT等生成式人工智能的技术本质,把握技术优势与不足,将其纳入教育新型基础设施建设进行统筹部署,优化国家智慧教育平台功能,在教育与技术的磨合中探索数字化转型之路,为教育高质量发展提供坚实的数字底座。二是因势利导,研制出台ChatGPT等生成式人工智能教育应用指南,守住教育安全防线,明确负面清单,发布创新应用典型案例,引导师生科学合理使用生成式人工智能,防止出现代写作业、考试舞弊、学术不端等不良行为。三是为我所用促转型,将ChatGPT等生成式人工智能与教育教学改革结合起来,扩大优质教育资源覆盖面,支撑引领新型教与学模式,促进教育链、科技链、创新链的有效衔接,构建虚实融合、人机协同、泛在智能的教育新形态,实现规模化教育与个性化培养的有机结合。

三、智能时代的人才培养

张绒:有人认为,ChatGPT将使程序员、教师、数据分析师等失业。对此,您怎么看?我们将如何培养适应智能时代的人才?

杨宗凯教授:尽管ChatGPT能够实现程序编码、论文撰写、数据分析等功能,但业务需求的理解、教学过程中的情感支持、数据的深度挖掘等更核心、更深层次的任务,ChatGPT都无法满足。ChatGPT的确可能取代一些岗位,但对于像教师这样的岗位很难被取代,毕竟教育是有温度的,教育的过程离不开人与人的情感互动。教育的基本功能是对知识层面、能力素养层面、价值观层面的培养。随着使用量的增多,ChatGPT对于人类既有知识的学习会越来越好,变得越来越聪明。因此,我们的教育需要更加重视价值的引领以及能力素养的培养,亟须将重点从知识传授层面转移到更高的能力素养、价值观培养层面。以ChatGPT为代表的智能技术将引发社会对人才需求的改变,因此,教育行业的人才培养理念、教学体系和教学模式也将随之调整。作为人才培养高地的高等院校更要走在前列。2022年5月,联合国教科文组织举办的第三届世界高等教育大会的主题就是“超越极限:重塑高等教育的新路径”。应对这些变化,需要做到以下几个方面:首先,变革人才培养目标理念,培养复合型高素质人才。传统的技能或能力培养已经满足不了智能时代的人才需求,智能时代要培养机器难以替代的、具有卓越创造力与智慧、人格健全与精神丰满、素质多元与协作能力强的高素质人才。其次,创新人才培养内容,融合人文教育与科学教育。智能时代,各学科将进入更深层次的融合发展阶段,学科之间的壁垒将不断消融,通识教育需要承担起更宽知识维度的人文素养培育重任。同时,增设机器人、人工智能等科技创新课程主题,鼓励学生运用多学科知识解决问题,培养学生系统的认知方法论。最后,优化人才培养方式,关注师生信息素养培养。改进课堂教学方式,创设丰富的学习情境,以任务驱动的方式组织学习,提供社会化网络和认知工具,实现对知识的深层次理解,在师生互动、合作交流和自主学习中发展能力。

李芒教授:人类长期存在职业被替代的危机感与恐惧感。有专家常常预测,某某职业将会被机器所替代。实际上,这种替代论只是危言耸听,人们大可不必为之惶恐。反替代论批判的根据是,人创造了机器,而不是机器创造了人。人类既可以促进机器的“成长”,又可以限制机器的“狂奔”。人类定会控制机器的发展方向和趋势,不会任其肆意妄为。机器的发展就是人的发展,是对人类的解放。人类与机器互有所长,人机共同提升需要相互取长补短,而不可使人之所短愈显其短,人之所长未显其长,彻底被剥夺和压制了进化的机会。人机共效系统的构成是未来发展方向,只有人类智能达到新高度,机器才能取得进一步提升。因此,人类的提升永远是第一提升。人们应特别关注ChatGPT中的Pre-trained(预训练),这表示ChatGPT再能干,也总是先训练、后应用。ChatGPT是高度依赖数据的存在物,但却做不到将所有数据都加以利用,更做不到对尚未发生的事物进行数据处理,因为没有发生的事物是没有数据的。而ChatGPT的生成性也只能局限在预训练中获得的数据范围之内。可见,ChatGPT仍不具备人类独有的创新能力。同时,ChatGPT只适用于允许犯错误的人类活动领域,对那些要求十分精确严谨的领域并不适用,而教育、编程、数据分析正是不能犯错误的领域。教师的职业素养并不只是知识渊博、学富五车,作为人类教育的必要条件,教师还具备ChatGPT暂时望洋兴叹的人性,特别是意识形态。可见,ChatGPT的研究意义远大于实际意义,未来意义远大于现实意义。只有ChatGPT能够做到边学边用,才可能取得实质性突破。因此,对未来的憧憬是美好的。至于人才培养,我们必须依然按照马克思主义关于人的全面发展理论培养适应智能时代的人才。

郭绍青教授:ChatGPT仅仅是一个人工智能工具,对人类社会产生的影响不能简单地通过一个技术产品来判断,需要看人工智能技术集群与人类智力能力的接近度。当然许多职业会受到人工智能技术的冲击,甚至被替代,但复杂性、创新性的职业在当前人工智能技术水平下还是不会被替代的,人类教师面对的不仅是学习者的智力、能力的培养,还包括情感、责任、态度等非智力因素的培养。但也要看到随着智能技术的不断突破与工具的功能演化,人类教师的素养会面临新的挑战。智能时代的人才一定是创新型人才,在这一点上已经达成世界共识,即全面推进核心素养教育,从知识体系教育走向素养教育,促进学生高阶思维能力与非智力因素的全面发展,启迪学生智慧,培养具备解决复杂问题能力的创新型人才。

胡小勇教授:自人工智能面世以来,甚至每有重大媒体技术产生以来,人们对相关职业是否会被替代的讨论就已经屡见不鲜。ChatGPT作为一种现象级的应用,表现出很高的人机理解交互水平,已具备通用人工智能的特征,在众多行业领域有着广泛的应用前景。但是,它是基于现有“数据投喂”来合成观点,这种训练本身还不具备创造力。对于需要创造性的工作来说,它的表现相对较差。未来,它将替代人类完成一些重复、机械、场景集约的工作。就教师而言,它能淘汰躺平的个体,但不易取代“师者”的职业。因为,教师所从事的不只是单纯的技术技能型工作,而是一种系统性、复杂性、创造性、情感型和价值型的高级劳动。所以,教师这个职业永远不会被人工智能所取代。培养适应智能时代的人才,教师要积极占领两个“价值高地”:其一是人工智能伦理诚信建设。技术应该为人合理、合法地使用。教师要理性看待人工智能及其应用,注意伦理规范和学术诚信的问题;要向学生明确用人工智能作弊和代考答题是失信行为;要引導学生规范人工智能技术的教育应用,形成正确的智能教育价值观。其二是学生高阶思维的培养。小胜在智,大胜在德。习近平总书记指出:“育人的根本在于立德。”要从立德树人的根本任务出发,突破传统高阶思维的培养途径,充分发挥人工智能优势,促进学生创造力、批判性思维等关键能力的提升。

四、我国互联网企业在人工智能方面的布局

张绒:面对GhatGPT,我国互联网企业将如何应对?针对教育应用,有人提出应该开发相应的学科类、专业类GhatGPT,对此,您怎么看?

刘邦奇院长:ChatGPT是面向通用场景开发的生成式系统,需要面向教育领域专业场景,从算法、数据、服务场景等方面进行纵深探索,加快研发教育定制版ChatGPT。在算法技术方面,要聚焦教育教学应用,借鉴引进ChatGPT先进技术,积极联合高校、科研院所及人工智能企业协同攻关,不断增强认知智能大模型的自主研发与算法创新能力,确保技术的安全可靠与应用的适切贴合,实现技术创新与教育教学的融合嵌入与逐步渗透。在语料数据方面,基于庞大的语料库可以不断地提高模型的准确性。科大讯飞相关智慧教育产品在全国32个省级行政单位的5万多所学校中得到应用,服务超1.3亿师生,不仅实现了海量的真实数据积累,更是依托在专业数据、算法领域的先发优势,积极建设了通用认知智能大模型算法研发及高效训练底座平台,打造教育领域的专用大模型,以实现教育领域的智能化定制解决方案。在服务场景方面,要以教育教学刚需应用或有大量活跃用户的教育应用为切入点,在教师教学、学习过程、教学评价、学业辅导等场景应用中持续发力,以师生减负增效为目标,实现教师教学所需材料生成、学生作答情况分析与指导、学生个性化提升支持等应用价值,积极打造未来教育的新场景应用示范,让大规模因材施教成为可能。

王涛副总裁:ChatGPT让我们看到大模型可能成为实现通用人工智能(GAI)的可行路径,以ChatGPT为代表的AIGC也让我们看到AI从过去的封闭性、任务性的场景扩展到开放式、互动式、创造性的场景中来,这对未来的技术发展甚至是社会发展都可能会带来巨大的影响。以ChatGPT为代表的技术路线也揭示着未来AI产业方面会出现更大的分化,底层平台性的工作门槛会变得很高,这里的门槛包括资金门槛、人才门槛、算法门槛、数据门槛等,玩家会进一步聚集,而上层应用的门槛会急剧下降,甚至不需要开发人员,只要抓住场景有创意、懂得一些训练方法就可能创造出丰富多彩的、有价值的应用场景。这种分化会催生出繁荣的生态,加速社会的整体进步,同时也可能继“数字鸿沟”之后带来新的“AI鸿沟”。针对ChatGPT,我国互联网企业,如腾讯、百度、阿里等,都在进行积极的布局。腾讯一直持续投入AI前沿技术领域的研发,在AI大模型、机器学习算法及NLP领域都有很深的技术储备。2022年,“腾讯全球数字生态大会”上发布了“四级加速架构”,助力产业数智化落地,为客户提供全场景数智化加速服务,也发布了AI超大规模(万亿)预训练模型“混元大模型”。百度也即将推出“文心一言”。当然这些都还需要一些时间和技术的积累,也期待中国的企业能在AIGC的底层平台方面建立起我们自己的核心能力。

五、生成式人工智能技术引发的

伦理问题与应对之策

张绒:随着ChatGPT等生成式人工智能技术在教育中的广泛应用,将会出现哪些新的伦理问题?我们将如何应对?

李艺教授:以ChatGPT为代表,其拟人程度似乎有所提高,如在聊天、自动程序设计、图像及视频生成等领域给人耳目一新的感觉,但从根本上来说,都是建立在成熟知识积累的基础上的,并没有人所具备的根本性的创造与创新能力。因此,针对伦理问题可以概括为两条:第一,机器还是机器,不是人;第二,因新技术应用导致的伦理相关问题,人们会很快生成一套与之相应的处置办法,将其与人区分开来,从而进入人机协同的新状态。

李芒教授:康德认为,人类是理性动物,而理性的真正使命在于产生“善良意志”。一种行为之所以是“善”的行为,是因为这种行为本身即包含“善良意志”,这种“善良意志”构成了人们行为的绝对律令,是一切“善”的根基。那么,ChatGPT作为一种人造物,其数据集、算法亦不免来自开发者的价值偏见。它所体现的“意志”,仍是开发者作为人的“意志”,而不会根据使用者角色变化而表现出不同的先验善念。由此,ChatGPT所导致的伦理问题看似是人机问题,实则是一部分人与另一部分人的伦理问题,是人的伦理而非物的伦理。ChatGPT的“善良意志”取决于开发者是否具有“善良意志”,即便开发者具有善意,ChatGPT能否表现出善意,也是存疑的。可以说,ChatGPT等人工智能制品在教育中的应用,难以实现类似人类教师般对学生的善意,若不加审查地允许其具有教育实践的主导权,盲目接受数据驱动会误导教育实践,不仅无助于学生的有效学习,更可能损害学生的身心健康发展。正因我们无法判断ChatGPT等生成式人工智能技术是否只扮演着“高效率搜索引擎”的角色,也无法判断使用者是否会被技术背后的开发者所操控而浑然不知,我们才需要小心地验证它们所给出参考答案的合理性与正确性。因此,对生成式人工智能技术的批判永远在路上,时刻谨记不伤害人、尊重人、有益于人、公正待人等技术伦理原则。时刻意识到技术背后人的存在,永远不存在价值中立的技术,只有把技术放在合適的位置上,才能技有所用、人有所长。

刘三女牙教授:随着ChatGPT等生成式人工智能技术在教育中的广泛应用,机器在教育中的存在性毋庸置疑,并将逐渐强化。机器将会怎样扰动教育系统和人的成长,将是我们教育界乃至全社会所面临的重大哲学问题。从现在起,我们需要认真考虑机器(无论是有形的,还是无形的)在教育中扮演怎样的角色,在理论和实践两个层面推进人机协同育人。

余南平教授:任何新型技术的出现都会带来复杂的人类社会伦理问题,ChatGPT等生成式人工智能技术在教育中的广泛应用不仅将带来传统教育范式的颠覆性改变,同时人工智能数据的滥用问题也十分突出。当前,部分企业过度收集和利用学生隐私数据、学生利用智能工具作弊等事件时有发生,已引起国家和社会的广泛关注。面对教育人工智能应用过程中凸显出来的伦理失范问题,国家应该积极介入并有所作为,应在现有的人工智能伦理规范体系下,编制教育人工智能伦理规范指南,并围绕伦理规范指南出台相应的法律法规、责任清单和问责机制,为研发者、使用者、受用者和管理者四大主体提供正确的行动引领,明确技术与人的权力边界,规范各类主体的行为。

六、研究展望

张绒:关于ChatGPT与教育,您认为还需要关注哪些问题?

黄荣怀教授:我认为以下两个方面的问题值得特别关注:一是拥抱国际开源运动。当用户(如学生、教师、管理人员)可以在其环境中访问、调整和应用一些工具或内容时,开放可以促进获得教育并支持创新。因此,开展有关开放科学的研究并制定相关政策以支持智能时代的教育和创新十分重要。二是延展教学公共服务。智能学习公共服务有助于实现教育公平、规模化教育和个性化学习,提高教育质量,促进联合国可持续发展目标4的实现。因此,为智能学习提供公共服务是满足一个国家教育数字化转型需求的解决方案之一,包括面向智能技术产品应用的公共门户、平台、工具和资源等。

尚俊杰研究员:ChatGPT究竟应该如何真正地融入教育、服务教育,还需要更多的实例和证据。将ChatGPT融入自适应学习系统、虚拟学习环境、教育游戏中的构想,亟须进一步实证研究。此外,虽然之前对生成式人工智能技术有很强的期待,但是大家应该都没有想到ChatGPT会来得这么快。这就提示人类需要在各领域提前做好准备,做一些前瞻性的研究,如果未来一些高水平的人工智能技术真的以很快的速度到来了,我们该怎么办?具体到教育领域,也需要抓紧开展研究,究竟应该进行什么样的系统性变革,才能更好地适应人工智能时代的需求。

胡小勇教授:人工智能赋能教育,促进了各学科间的交叉融合,衍生出了新的学科增长点,推动交叉学科知识创新发展。因此,我们要积极探索“人工智能+”交叉学科建设,特别应重视“教育+人工智能”的产研学用,为适应智能时代的教育新生态提前做好功课。

王涛副总裁:技术的发展日新月异,特别是这轮AI技术的发展,需要关注“知识鸿沟”到“数字鸿沟”甚至“AI鸿沟”的演变,小到个体,大到国家,在拥有和使用新的技术方面存在差别,技术本身是社会的一种加速器,如何让技术去缩小鸿沟而不是加大鸿沟,实现更公平的社会发展,也是特别需要关注的。

[编后记] 本次专访,12位专家针对ChatGPT对教育领域带来的影响、智能时代的人机共处、人才培养、伦理问题等各抒己见,既有宏观层面的探讨,又有微观层面的建议。当前,各行各业对ChatGPT的讨论还在如火如荼地进行着,本刊将持续关注新兴技术对教育的影响,也诚挚地邀请广大作者参与到技术变革教育的研究中来。最后,对在百忙之中参与本次专访的12位专家表示衷心的感谢!

The Impact of Generative Artificial Intelligence Technology on Education

—An Interview on ChatGPT

Journal Editor  ZHANG Rong

(Editorial Department of e-Education Research, Northwest Normal University, Lanzhou Gansu 730070)

[Abstract] Since the release of ChatGPT by OpenAI on November 30, 2022, this language model for optimizing conversations has quickly attracted a worldwide attention. What impact ChatGPT will bring to education? How should education and Internet enterprises respond to the impact brought by AI technology in the era of intelligence? How should we cultivate talents to adapt themselves to the era of intelligence? The Editorial Department of e-Education Research has made a special plan to interview 12 educational technology scholars, policy researchers and practitioners in Internet enterprises, and from different perspectives, they have offered suggestions to address the opportunities and challenges brought by artificial intelligence in education in China.

[Keywords] Artificial Intelligence; ChatGPT; Human-Computer Collaboration; Talent Cultivation; Ethical Issues

猜你喜欢

伦理问题人才培养人工智能
2019:人工智能
人工智能与就业
数读人工智能
民事司法的伦理问题思考
现代生物技术发展带来的伦理问题
冠心病治疗过程中的伦理问题
基于人才培养的中职生日常管理研究
基于人才培养的高校舞蹈教育研究
女子中专班级管理共性问题与解决策略研究
基于人才培养的技工学校德育实效性研究