人工智能伦理课程建设与探索

2023-04-03韩煜郑秀峰张影沈才有通讯作者浙江省金华高等研究院

中国信息技术教育 2023年7期

韩煜郑秀峰张影沈才有（通讯作者）浙江省金华高等研究院

作为引领未来社会发展的颠覆性技术，人工智能（Artificial Intelligence，简称AI）的重要性日益凸显。它驱动经济社会各行各业从数字化、网络化向智能化转型，大大提高了社会生产力，但它也隐藏着各类风险和挑战——就业替代、算法歧视、信息茧房、数据鸿沟、隐私泄露……因此，2021年9月，国家新一代人工智能治理专业委员会发布《新一代人工智能伦理规范》，明确提出将伦理道德融入人工智能全生命周期，为从事人工智能相关活动的自然人、法人和其他相关机构等提供伦理指引。

●课程设置的必要性

随着人工智能的普及，大家都关注其带来的便利，而研究者则将目光放在人工智能相关法律、伦理、社会问题上。因为脱离了人工智能伦理治理，人工智能技术及其产业就无法可持续健康发展。例如，传统伦理学经典案例——“电车难题”也更新迭代，成为人工智能领域的“无人车难题”。在无人车发生事故时，首先应考虑行人的安全还是驾驶员的安全？驾驶责任如何归属和分配？诸如此类的问题引起了许多学者的关注。目前，人工智能的发展已经超过了当前的法律与人伦规范。因此，当面对伦理问题时，相关规范无法为工程师提供判断依据，这就需要工程师自己做出决定，这也对工程师自身的素质提出了要求——专业知识过硬、道德水平较高、保持伦理思维。目前，针对前两项要求，人工智能专业的学生基本可以达到，但伦理思维对他们是一个极大的挑战。因此，高等院校要及时开展人工智能伦理课程教学，培养大学生的伦理道德素养。同时，社会也要鼓励对工程师继续加强伦理教育。

●授课内容及授课方式

1.人工智能伦理课程内容要点

人工智能伦理课程横跨自然科学和社会科学，教师要将两者融为一体。这就对授课教师提出了挑战：既要熟悉人工智能的来龙去脉，如抖音热门视频背后的推荐算法、火车站入站口闸机背后的人脸识别、唤醒智能语音助理背后的自然语言处理等，又要熟悉伦理学中的功利论、道义论和美德论等内容，还要熟悉相关法律法规。

2.案例教学法在人工智能伦理课程中的应用

案例教学法从具体案例出发，构建一个具体教育情景，注重引导学生主动讨论。其可以化抽象概念为具体情境，激发学生的学习兴趣，化被动学习为主动讨论，提升教学效率，实现课程思政。下面，笔者以三个案例来具体描述案例教学法在教学课程中的应用。

（1）国家安全问题

情境创设：社会相关网站会收集数量较大的用户信息，包括人脸识别信息、精准位置信息、身份证号等多类敏感个人信息，如果被不法分子和别有用心的人利用，将会对我国的经济安全乃至政治安全造成极大的影响。另外，一些信息技术人员可能会利用网络攻击窃取关键网络设备配置、网管数据、运维数据等核心技术数据。

分析：数据是一种独特的资产，其价值难以用金钱衡量。数据管理又是跨职能的任务，需要从业者具备多样的技能和专业的知识。因此，研究者和从业者应充分认清数据对国家政治安全的挑战，研究应对之策，有效维护国家政治安全。

课程思政点：推进国家安全体系和能力现代化，坚决维护国家安全和社会稳定。

（2）传媒治理责任

情境创设：在社交平台上，未被开发的泄洪河沟——龙漕沟是一个被打上“网红打卡地”标签的“小众避暑胜地”。部分平台甚至自作主张将它称为“龙漕沟景区”，利用算法将旅游攻略和游玩分享等内容广泛推送给用户，吸引了众多游客前去游玩。龙槽沟所在地政府曾多次发布提醒，设立栏杆和警示语，呼吁游客远离此处。但仍有不少游客存在侥幸心理，选择冒险游玩。结果，2022年夏天一场突如其来的山洪沿沟直冲而下，造成了7人遇难的严重事故。而在事故发生前，曾有用户多次对旅游攻略等内容进行举报，要求平台下架相关视频，但被置若罔闻。

分析：近几年，新技术正在重塑传媒业，出现了“万物皆媒，万众皆媒”的形态。人工智能的融入，使得媒体的主导权从专业媒体转移至技术平台方，但技术方与平台方显然并不熟悉传媒行业，而专业媒体工作者也鲜有人精通人工智能。面对这样的挑战，专业人员需要进行一体化研究，形成整体解决方案。

课程思政点：加快构建中国话语和中国叙事体系。

（3）元宇宙

情境创设：2021年，美国社交媒体公司FaceBook宣布改名为Meta，公司经营重点将转向元宇宙。自此，元宇宙概念风靡全球，众多科技巨头纷纷推出多种VR/AR等智能穿戴设备。而在上述设备中，人工智能技术发挥着支撑作用，让用户畅享娱乐等典型应用场景。

但有研究者注意到，元宇宙提供的场景，是人工智能技术针对每个人内心最深处的欲望量身打造的桃源秘境，用户一旦进入，容易流连忘返，久而久之，用户便与现实世界脱轨。因而，如何让现实世界与虚拟世界相互连接，合理构建使得元宇宙有序运转的规则秩序，仍是个难题。

分析：科技的发展带来的不仅是社会的进步、生产力的提升，还可能造成人与人之间的关系日益淡化。

课程思政点：加强人工智能伦理研究，让人工智能更好地服务于生活。

●线上课程多元化考核方式

随着新工科建设、工程教育专业认证等工作的深入开展，课程教育改革日益关注培养学生的创新意识及思维能力。因此，传统的考核评价模式需要做出相应调整。良好的考核机制不仅要为甄别和选拔人才提供依据，更要激励学生学习，促使学生查漏补缺，不断自我完善。人工智能伦理是一门主观性很强的课程，需要学生具备分析实际问题能力，如果简单地采用笔试的方式进行考核，为取得高分，学生势必会采取死记硬背、考前突击复习的方式完成学习。这样就陷入了教师教得辛苦、学生学得难受的“死”循环。因此，需构建科学有效的人工智能伦理线上课程多元化考核体系。

多元化考核指的是利用一系列方法评价学生学习结果，它具有以下特点：非机构化情境、多评价主体，多重标准，多种途径，多种方法。合理地运用多元化考核，可以监控教学过程管理，达到创新教育要求，重视学生能力和素质培养，提高人才培养质量，提升教师教学水平。笔者认为，具体应做到以下两点。

1.日常考核和期末考核相结合

将考核分为期末考核、日常考核两部分，期末考核成绩占30%，日常考核成绩占70%。日常考核包括考勤、课前预习、课堂表现及课后作业等内容，占比为2∶2∶1∶5，注重考查学生平时的学习情况。期末考核则是让学生对某一综合案例进行分析，没有标准答案，着重考查学生分析问题、解决问题的实践能力。如果学生无法参加线下课程，可通过钉钉等软件学习，完成考勤、预习及作业等考核内容。

2.个人考核和团队考核相结合

现代社会日益强调团队合作的重要性，为培养学生的团队意识，学期开始，教师引导学生自由组队，形成若干个小组，组内共同完成任务。上课前将要讨论的问题及相关资料发给小组，每次课程留出40分钟的时间，让学生在规定时间内完成汇报；线上参与课程的学生可以通过网络完成汇报。教师与其他组的学生共同参与考核过程，依照讨论过程中学生在问题分析、问题解答和演示讲解等各阶段的综合表现进行考核。