风险与防范:中小学人工智能教育的伦理考量

蒋馨培 赵磊磊

(1. 江南大学 教育学院,江苏 无锡 214122;2. 南京师范大学 教育科学学院,江苏 南京 210097)

1 研究背景

人工智能教育是面向人工智能素养提升的教育,强调培养学生编程、协作、问题解决与创新等核心能力,着重关注计算、数据、批判性与设计等跨学科思维的形成[1],这一教育充分利用现有高质量的AI科普资源、开源软件等,改变传统教学模式[2]。在中小学开展AI教育,不仅能科普AI知识,还能够锻炼学生的逻辑思维能力和问题解决能力[3],培养学生的人工智能素养,使其具备适应未来智能型社会的基本能力[4],实现人的生命价值[5]。综合来说,中小学人工智能教育的内容应主要包括3个方面:一是要用人工智能学习(例如,在课堂上使用人工智能驱动的工具),二是要学习人工智能(人工智能技术是什么?由什么组成?如何运转),三是要为人工智能做准备(例如,让学生不仅理解人工智能的技术原理,更需明白人工智能对人类生活的影响)。

人工智能及大数据技术对社会各行各业都产生了长远的、变革性的影响,同时人工智能正与个性化智能导学、教育大数据收集分析等技术携手不断地推动教育智能化变革。智能技术与人才培养成为国家核心竞争力的重要组成要素,而人工智能教育也成为国家政策的关注重点。对此,国家出台了相应的政策为我国中小学人工智能教育课程的开展与推进提供政策导向与保障,也为各校构建校本化人工智能教育课程指明了大致方向。2017年7月国务院印发《新一代人工智能发展规划》,明确提出“实施全民智能教育项目,在中小学阶段设置人工智能相关课程”[6]。2018年4月教育部印发《高等学校人工智能创新行动计划》,提出“构建人工智能多层次教育体系,在中小学阶段引入人工智能普及教育”[7]。教育部颁布的《义务教育小学科学标准》明确指出:科学素养是指了解必要的科学技术知识及其对社会和个人的影响。很显然,人工智能课程应属于“必要的科学技术知识”[8]。

随着国家政策的出台,关于人工智能教育的讨论也不断增加,主要包括以下几个方面:一是关于中小学人工智能开展的价值目标探讨[9];二是关于中小学人工智能教育的学习内容探讨[10];三是关于中小学人工智能教育开展过程中存在的伦理问题探讨。中小学人工智能教育的开展能够让儿童理解人工智能与人类智能的区别,了解人工智能仅仅是对人类智能的一种延展而非替代。然而,当前系统性探讨中小学人工智能教育开展过程中的伦理问题文章较少,人工智能教育实际开展过程中存在的伦理问题亟待解决。因此,如何在有效利用智能技术为教育带来红利的同时又避免技术破坏人类社会的道德准则,成为中小学人工智能教育发展必须重视和首要需解决的问题。

2 中小学人工智能教育伦理探寻的历史变革

教育是随着时代发展的事业,教育伦理亦然。进入21世纪以来,随着中小学人工智能教育的不断发展,人们既热衷于在教育中应用人工智能技术,又产生了相应的忧思,人工智能教育中存在的伦理问题成了教育领域关注的热点。对于具有时代性的人工智能教育伦理问题而言,对其历史变革进行梳理具有一定的必要性。

2.1 人工智能教育起步期:立足“机器人教育”表层伦理问题探讨

2003年颁布的普通高中新课程标准将“简易机器人制作”列入“通用技术课程”选修内容,由于教育机器人本身具有的高灵活性、强互动性,可以很大程度上助益教学创新,增强学生的动手与思维发展,机器人教育也成为人工智能教育开展的主要课程形式。在这一阶段,以“机器人教育”“机器人教学”为主题的文献逐渐增多,提到了智能导师系统类人的教学模式[11],教育机器人对学生学习的正向影响[12]。学界对机器人教育过程中存在的伦理问题也展开了相应的讨论,如认为机器无法仅靠掌握学生学习信息(登录时间、上课的次数、提交电子作业的情况)来判断一名学生的学习情况[13],机器学习虽为用户的“个性化学习”提供了实现的可能,但是数据收集标准不统一、处理规范不完善严重影响人工智能教育应用的有序发展[14]。在机器人教育开展的过程中,学者们关注到了机器人应用可能引发的伦理风险问题,但没有深入挖掘相应的风险解决策略。

2.2 人工智能教育发展期:聚焦“编程教育”内隐伦理风险形式

2017年7月,国务院发布《新一代人工智能发展规划》,促进中小学人工智能教育快速发展。规划明确提出:“在中小学阶段逐步推广编程教育。”[6]同年10月,教育部关于印发《中小学综合实践活动课程指导纲要》的通知指出,要通过信息技术的学习实践,提高学生利用信息技术进行分析和解决问题的能力以及数字化产品的设计与制作能力[15]。自此,中小学人工智能教育的重心从机器人教育转到编程教育。中小学阶段编程教育主要是让学生感受编程思想,但多数学校在开展编程教育的过程中,不考虑学生的实际情况,教授难度较高的编程知识或以竞赛促学习,违背了编程教育的初衷,或是带来了相应的算法风险[16](数字鸿沟、定制性算法)。结合编程教育这一背景,多数学者从师资建设、课程体系构建、教学方式等角度分析潜在的伦理风险并提出了相应措施,推动了编程教育的发展。

2.3 人工智能教育转型期:关注“智能技术”多形态伦理风险

进入21世纪,中小学阶段的人工智能教育迎来了良好的发展环境与强劲的发展态势。2021年10月,中国教育学会中小学信息技术教育专业委员会发布《中小学人工智能课程开发标准(试行)》文件,阐述中小学人工智能课程的开发标准和教学内容[17]。联合国教科文组织也于2022年2月发布《中小学人工智能课程蓝图:亟需政府支持》文件,为国家层面构建人工智能课程体系提供框架指导[18]。在智能时代这一新的发展背景与国家政策的助力下,人工智能教育课程的构建也迈向了体系化,关于人工智能教育技术伦理风险的研究爆炸性增长。文献梳理发现,多指出技术应用于教育中所带来的关系风险[19](如师生关系异化、技术僭越主体权利)、监管风险[20](系统提供商权责不明)、情感风险[21](忽视教育主体情感需求)等。这些伦理问题的探讨,也为中小学人工智能教育教学提供重新调整、反思、提升的契机,为人工智能教育提供新的发展机遇。

3 中小学人工智能教育发展中的伦理风险表征

目前,学者对中小学人工智能教育发展中伦理风险的关注视角存在一定差异。苏明等学者基于马克思主义技术批判人的异化与教育的异化,对人工智能教育提出了价值审视、公平性审视、人性审视、责任审视和终极目标审视,强调发挥人工智能教育的积极作用[22]。刘盾等学者从哲学与伦理的双重视角,分析人工智能对教育的冲击,指出人工智能应用于教育可能会导致人与教育的分离脱节、人文教育缺失以及对教师职业的威胁等伦理问题[23]。Perrotta等学者对机器学习与人的个性兼容性提出了质疑,通过分析“深度学习”和智能辅导机器对学生教育表现的预测结果,认为人工智能教育中算法对学习者的学习数据分析不当[24]。归纳来看,人工智能教育涉及到技术僭越、情感缺失、算法风险、过程管控等伦理风险问题,由此,本研究从主体地位、情感需求、算法局限、外在规范4个方面分析中小学人工智能教育应用中存在的伦理风险表征形式。

3.1 技术至上消解师生的教育主体地位

技术本身只是提供使用价值的工具,如若过于崇尚技术而形成技术至上的理念,将会消解师生在教育教学中的主体地位,带来一定的关系伦理风险。具体来说,其一,技术至上会破坏教师教学主权。当前,中小学人工智能教育的主题是教授智能知识与技术,人工智能教育课程开设的过程中必然要使用到智能技术,如学习机器人、机器助手等工具,技术的过度使用导致教师在教学设计、决策、诊断、评价等方面的部分职能已经被人工智能所代替。同时,教师采用智能助手为学生的作业评分,技术在教学中的过多参与在某种程度上已经消解教师的“主体权威”和“知识权威”,教师也极易沦为技术的附庸,从而导致自身的观察能力与教育机智有所下降。其二,技术理性造成教育主体地位缺失。尽管智能技术是基于人类智慧衍生的智能产品,但是技术内在的逻辑要求教育主体抛弃多样的情感感受,依照技术理性行事,提高教学效率,这本身就有违教育规律。同时,教育教学中的某些规则被技术规则替代,使教育主体交往的规则被破坏。技术则越来越显示出类似于教育主体的某些特征,渐渐发展成为客体身份的主体存在,导致教育主体地位缺失变成了一个普遍现象。

3.2 人机互动频繁遮蔽教育主体的情感需求

人是社会关系的总和,社会性是人的本质属性。在使用人工智能技术时要遵循人类社会的道德标准与行为准则,以防技术破坏人类社会独有的情感联结。中小学人工智能教育过程中各类技术设备的使用,虽革新了教学方式,但也极易导致教育主体的情感需求被忽视。具体来说,一是教育主体意识不到自身的情感需求。当学生过多地沉浸于虚拟空间与虚拟机器时,极易导致其遗忘真实世界。由于学习机器人能够捕捉学生的面部表情、情感波动,为学生提供及时的学习服务,使学生有一种在课堂上和教师互动的真实参与感。这种过多的人机互动,致使学生渐渐远离现实生活而与同伴产生疏离,导致其社会交往能力和群体意识逐渐下降,违背教育主体同伴交往的情感需求。二是技术的过度使用导致教育主体情感需求被忽视。中小学人工智能教育开展的形式是将人工智能领域最新的知识和模型搬入课堂,便于让学生通过实操理解智能技术背后的原理。另外,还有智能机器人、教学辅助等智能设备的使用,导致课堂极易忽视教师对学生“因材施教”的指导作用。教育本身就是灵魂撼动的职业,需要教育主体的情感交流参与,过多依靠人工智能技术的使用,极易忽视教育过程中学生情感与品格的塑造,不利于学生的全面发展。

3.3 算法推荐难以挖掘个性化育人的本质

教学中利用大数据分析和算法推荐,能够基于学生的学习能力或技能水平动态调整课程难度或种类,能适应每个学习者的速度和进度并实时调整内容;或在恰当的时机提供定制化的练习,实现大规模的个性化学习[25]。但是,人工智能教育育人的本质仍是促进学生的个性化发展,当过多依赖于人工智能的算法推荐,极易出现“信息茧房”效应,导致教学偏离个性化育人的轨道。一方面,算法技术通过采集学生的行为轨迹、学习风格等信息,推送学生感兴趣的内容,而那些被判定为“不感兴趣”“边缘化”的信息就由算法技术自主排除。长此以往,学生的信息获取渠道就被困于一个固定的范围内,学生擅长的学科知识将会得到快速扩充,知识获取的途径也越来越狭窄。智能化算法的推荐破坏了信息收集中的全面性,使人的思维被算法所局限,学生主动获取信息、搜集信息、分析信息的能力退化,致使人的个性化思维难以发展。另一方面,教育教学中过多地依赖于算法技术,不利于学生进行深度学习。学生使用互联网搜索引擎对相关信息进行点击、查看,智能算法的便捷性让学生享受到了信息爆炸的愉悦,同时也使学生过多地依赖于网络,对于自身发展的规划、选择不够明晰。太多的知识信息注定了学生的学习只能是浅尝辄止的,并没有达到深度学习,对于学生持续发展并无很大的助益。

3.4 人工智能教育过程缺乏风险规范与问责机制

智能教育的过程是利用智能技术优化教学过程,以实现人全面发展目标的过程。人们正处于一个技术主导命运的时代,在技术延伸到和人高度相关的教育领域时,有必要对智能技术的应用建立系统监管机构和问责机制。当前,人工智能教育伦理缺乏相对规范的监管和问责机制,在技术风险防控方面存在较大漏洞。如数据收集过程中存在个人信息数据被泄露的安全隐患,机器学习等算法存在偏误、歧视的缺陷。在此方面,如若不进行及时的监管治理,将会造成人工智能应用失序的现象。2018年AI Now报告中提到,人工智能行业“迫切需要新的治理方法”,因为“大多数科技公司的内部治理结构未能确保对人工智能系统的问责制”[26]。只有设置相应的监管与制裁措施,建立外部权威规范,当人工智能教育出现伦理风险问题时才能够及时有效地解决,甚至从根源上保障教育主体的自身权利。另一方面,人工智能教育课程开展的过程中并没有设置相应的风险防范与问责机制。在中小学人工智能教育课程开设的过程中,学生要能够根据特定的情境要求,将相应的硬件与智能技术组装连接搭建出算法模型,以解决实际问题。比如,开发垃圾自动识别系统、东西分拣系统等。在这个开发过程中,算法系统所需的信息数据边界并没有被界定,极易导致过度收集个人或社会的隐私信息,破坏人类社会的道德标准。

4 中小学人工智能教育伦理风险的防范策略

基于前文探讨的中小学人工智能教育存在的伦理风险问题,提出相应的伦理风险防范措施,以期把技术行为可能引起的伦理风险可能性降到最低,发挥智能技术对社会、教育、个人创造福祉的作用。

4.1 明晰工具价值,促进教育主体角色地位回归

智能技术在教育教学过程中只是作为工具使用,如若智能技术颠覆了以“主客体”为本质的人技关系,将会导致不可预测的道德危机。面对技术至上等观念带来的教育主体地位消解的现象,教育工作者应首要明晰智能技术的工具价值,以促进教育主体角色地位的回归。首先,在教师主体角色地位回归这一方面,教师需明晰智能技术的工具效用,通过用好“人工智能技术”去上好“人工智能教育课堂”。教师可以将数据资源库、数字课程等优质教学资源,插入到日常的智能教育课堂当中,为学生提供一个真实的学习情境,加强学生对于智能技术概念原理等知识的理解。同时,教师也应保持着终身学习的信念,利用网络学习资源,提升自身的信息化教学水平,积极构建自身的信息素养核心竞争力,增强对人工智能教育课堂的驾驭能力。包括充分提升自身的信息素养知识、操作能力,运用教学机智对课堂中的突发情况进行有效化解,结合自身的专业素质整合教学设计和调整教学过程。只有这样,才能更好地发挥教师在教学过程中的主体地位。其次,谨防教育主体地位的缺失,教育主体应明确对技术使用的限度,不应盲目地被智能技术“领导”。在中小学教授人工智能相关课程时,教师除了关注智能知识的传授,更应该帮助中小学生提升相应的伦理意识。中小学生掌握人工智能技能的同时,教师还可以就电车困境、控制权归属、责任担当、身份认同、公平公正等话题展开讨论,提升学生的道德主体意识,以防学生过于崇尚技术理性,而做出一些有违伦理道德的事情,对同伴关系造成破坏。

4.2 聚焦人文关怀,捕捉教育主体的情感诉求

人工智能技术本身具有“技术”“类人”双重属性,使得人工智能应用于教育领域中有着先天的优势。但技术理性和人文情感存在相悖取向,如若缺失对教育主体情感需求的满足,将致使教育生命力减弱。因此,应聚焦人工智能教育视域下的人文关怀,捕捉教育主体内生的情感诉求,形成富有人文关怀和情感交互的文化氛围。其一,不应让学生过多地沉浸于智能技术创造的虚拟空间。教育的本质是育人,人工智能教育的本质核心是培养学生的多维思考力、空间创造力,如若学生过多沉溺于“技术使用”和“技术陪伴”,很难与教师和同伴建立亲密的信任与联结关系。教育必须在文化的意义上寻求人之为人的本质属性、人存在于世的合理性以及人们各种行为的合法性[27]。在此基础上,教师应打破这样的情境,创设人际互动课堂,加强教师与学生、学生与学生之间的情感交流活动,了解学生在校真实的情感诉求。其二,以技术的力量促进师生情感交流。具体而言,可借助“教学机器人”“教学助手”等智慧教学设备,为学生解答基础的学习问题,教师为学生讲解复杂具有共性的题目,带领学生进行演绎归纳,帮助学生构建相应的知识图谱,增进师生的教学情感交流。另外,教师可以根据智能感知、智慧监测等教学过程设备,分析学生的学习状况与情绪反应,及时地对学生进行情感干预,排解学生内心的消极情绪。

4.3 关注育人本质,创设人机协同型智能教育模式

算法、数据分析等技术是人工智能融入教学中的重要功能,但算法本身存在歧视和偏误风险,同时算法的智能推荐将限制学生知识扩充和思维拓展。教育的本质是培养学生可持续发展的能力,学习者如若过多依赖于技术对于教学的助推作用,将难以实现教育的核心要义。因此,需关注育人本质,创设人机协同型智能教育模式。其一,坚持技术育人的价值观导向。目前,我国人工智能技术的教育应用实际上只是浅层次的以认知为导向的人工智能教育应用[28],为更好地实现人工智能在育人中的助推作用,应避免人工智能单向影响教育,切实地将人工智能技术搬入课堂教学中。与此同时,智能技术的使用应该考虑到学生全面发展与个性化发展的需要,教师要适时对技术工具进行调控,以防智能技术造成学生知识获取渠道狭窄等问题,破坏教育促进学生全面发展的核心要义。只有关注到技术育人的作用与本质含义,才能真正发挥技术的优势。其二,利用好智能技术优势,创设人机协同型智能教育模式。中小学教师应利用好智能感知与情感识别技术,掌握学生的学习认知水平、情感状态,基于对学生精准的学情分析,结合自身的学科背景与技术素养,构建更加情境化的人工智能课程教学形式。如将AI建模与数学课程相关知识结合起来,形成跨学科型智能教育模式。同时,智能机器人的辅助教学功能可以帮助教师进行简单的智能知识科普工作,教师只需根据学生的学习需求或学习疑惑,有选择地进行深入讲解,这样既可以节省教师的精力,又可以提升学生的智能知识掌握水平。

4.4 重塑技术规范,架构过程伦理风险管控体系

人工智能教育的开展是为了提升师生的信息素养,发挥技术本身的价值。人工智能教育开展带来的风险问题需要有相应的技术伦理风险规约,管控智能技术在教学中的应用限度。具体来说,一是学校可以成立教学过程监督组织,建设透明化的伦理审查体系。审查机构的参与主体可以由信息技术教师、相关领域的专家学者以及法律从事者参与,结合参与主体自身对于伦理问题的了解和研究,可对人工智能教育开展过程中出现的相应伦理问题及时进行监督和防控,并提出一定的前瞻性思考,做到对伦理风险的提前防范。二是重塑技术在课程中的使用规范,让师生了解技术使用的边界。考虑到中小学教育者对于人工智能伦理风险问题了解不多,在规约制定的具体文本上要注意语言表述,既要联系现实语境使用较为精准的语言,也要保证伦理规范的文本表述不要太过细致或宽泛。规范的指向范围需要多关注人工智能和机器学习领域各种方法和技术的实际使用,这有助于缩小伦理和技术话语之间的差距,更易于实际课程开展过程中的风险管控。三是要预测人工智能教育开展过程中可能发生的伦理问题,及时提出相应的管控规约。规约的制定主体应结合当前的伦理风险发生范围、伦理风险防控环境等要素,以客观事实为基础,及时对新兴技术在课堂中的应用可能带来的风险问题进行预测,调整规约管控范围,以防新兴伦理风险出现无规范可参照的问题。

5 结语

智能技术与教育的融合,使得人工智能教育课程已经成为中小学课程体系建设中的核心。从人工智能伦理风险本身来看,人工智能技术逐渐类人化发展,甚至存在僭越人类主体身份的可能性,技术所带来的伦理风险问题将会对教育主体造成极大的伤害。由此,本研究思考了人工智能教育涵盖的范围,分析中小学人工智教育发展现存的伦理风险问题和相应的风险防范策略,以期为消解人工智能教育发展中存在的伦理问题提供理论参照。虽然伦理规制的完善往往具有滞后性,但仍需对其不断完善,使得在人工智能教育开展的过程中各主体能够深度挖掘技术的正向价值,规避负面影响。未来人工智能教育的推进不仅需关注课程层面的设计,更需研究者与相关部门制定完善的伦理规约与法规,为人工智能教育的开展创造和谐规范的生态环境。