高校算法伦理培育现状及强化路径研究

袁 帆,范 怡

(上海理工大学网络新媒体系,上海,200093)

一、引言

智能媒体的广泛使用增加了大众可接受信息的数量,促成了“算法注入社会”(algorithmically infused societies)的形成。[1]大众在享受新媒体带来的技术便利的同时,也逐步感受到信息茧房、隐私侵犯等一系列算法伦理风险。实质上,技术向来不是中立的,有关技术的决定是一种以价值为基础的决定,它不仅反映特定的社会价值观,而且会将其具象化,算法技术也不例外。[2]随着信息技术使用领域的不断拓展,算法平台从业者通过掌握算法技术,对算法施以控制力和影响力。而这种权力很容易被那些无所顾忌或易受诱惑的人滥用。[3]这些人可以凭借对算法技术的掌握,影响技术结果的价值走向。在算法平台上,还有一部分人同样是算法伦理风险的重要责任人,也就是平台的潜在从业者,即相关专业的大学生。他们在高校中接受的算法伦理教育深度对其从业后的工作行为与状态有着重要影响。高校是开展算法伦理教育的关键角色,本研究重点关注高校在算法伦理培育方面存在的局限性,基于实证调查了解现阶段算法伦理相关培育课程的真实情况,获取高校相关专业学生对于算法伦理培育的一手反馈信息,探寻高校算法伦理教育的未来发展空间。

二、高校算法伦理培育的局限

早期,与算法相关的伦理课程主要由计算机科学与技术专业开设,学习算法技术是此类专业的重点学习内容。伴随着工文融合、交叉学科建设的推进,诸如社会学、新闻传播学等专业也开始涉及一些算法课程,且或多或少都添加了算法伦理内容。具体而言,这些与算法相关的伦理课程主要从三方面展开。一是公共基础课程中的思想道德修养与法律基础课程,作为必修课程针对全校学生开设,主要落脚于社会主义核心价值观等宏观伦理道德的培育,其中可能会基于社会信息化的背景,涉及一些算法伦理问题。二是多数理工科会开设的工程伦理课程。此课程的主要内容是工程相关从业者的伦理责任意识,其专业范围涉及众多,包括土木、化工、信息、环境工程等。三是人文社会学科开设的专业伦理法规课程,例如新闻传播学相关专业开设的新闻伦理与法规课程,这是针对某一特定专业或职业的伦理道德教育。

高校的伦理培育课程体系较为丰富,但聚焦到算法伦理这种微观伦理层面培育时却存在诸多局限。首先,一般的思想道德修养与法律基础课程较少专门讲解算法伦理。作为大学生的必修课程,思想道德修养与法律基础课程虽然能够在宏观层面向较为庞大的学生群体传达整体伦理责任意识,但无法细致覆盖到具体的算法知识内容、伦理困境和解决路径。其次,高校对工程伦理课程的重视程度有限。以清华大学信息科学技术学院为例,2016年计算机科学与技术系硕士研究生培养方案中,必修环节提供了创业机会识别和商业计划、科研规范、工程伦理、知识产权法律及实务、研究生学术与职业素养、文献综述与选题报告、学术活动这7门课程,每门课程赋分1—2分,但培养方案对必修环节的达标要求是不少于3分。[4]也就是说并非所有学生都会学习工程伦理知识。不仅是计算机专业的伦理教育受到的重视不足,教育机构和教育者对专业伦理教育在整个大学教育体系中的地位也缺乏认识和重视,大部分学校没有开设专业伦理课程。[5]最后,人文社科的专业伦理课程对交叉学科伦理内容的设置占比有限。人文社科类专业伦理偏重其本学科、本行业的职业道德及伦理规范,对于算法伦理的涉及内容不多。以新闻传播学专业为例,其主要伦理培育依靠的是新闻伦理与法规课程,其中可能涉及讨论算法伦理的内容主要集中在网络新闻传播过程中发生的低俗新闻、隐私侵犯等方面,可见涉及算法伦理的内容十分有限。

总之,算法行业的蓬勃发展使其吸纳了越来越多不同专业的大学生,针对大学生的算法伦理培育范畴与深度理应逐步扩展,这样才能提升个体的算法伦理水平,继而保障整个算法行业的发展走向更加积极健康。但一项调查显示,大学生的算法素养还有提升空间,特别是针对算法知识、技能以及批判性思维的提升。[6]在算法批判性思维方面,大学生普遍存在思维沉默、妥协、顺从、固着的现象,个体的思维基础能力较弱。[7]

三、高校算法伦理培育现状访谈

(一)访谈设计

本研究采用深度访谈的研究方法探讨高校算法伦理培育现状。访谈时间集中在2023年8月,访谈形式包括线下实地访谈和线上微信语音电话访谈,访谈时间均不少于25分钟,共计20名访谈对象。访谈提纲如表1所示,先询问访谈对象的基本情况,再围绕对算法技术的了解、对算法风险的感知、作为潜在从业者对算法伦理学习的认知等方面展开交流。

表1 访谈提纲

(二)访谈对象基本情况

访谈对象基本情况如表2所示,将20位访谈对象编码为P01—P20,访谈对象的专业涉及新闻传播学、计算机、社会学和管理学,年龄分布在18—26岁之间,研究对象现居地分布在北京、上海、合肥、南京等城市,受教育程度包含大学本科和硕士研究生。

表2 访谈对象基本情况

四、结果与分析

第一,智媒平台的使用以兴趣为主导,社交属性明显。大多数访谈对象对智能媒体的使用主要集中在微博、小红书、抖音等App上,其中,微博的主要吸引力源自其具有追星社区文化和热搜榜功能,这是访谈对象认为微博不同于其他智能媒体的独特优势。P01说:“我最开始用微博主要是为了追星。”抖音则是刷小视频的休闲娱乐属性突出。P02说:“微博会经常会用,因为微博算是一个小的社交场所。”P11说:“我无聊的时候就刷抖音来消磨时光。”

在智媒时代,诸如小红书、微博等智能媒体成为人们获取公共信息和私人信息的重要方式,平台算法作为一种隐性中介控制着信息的可见与不可见,悄然影响着传播效果流[8],进而影响使用者对平台的功能定位。此次访谈中的大部分对象对智媒平台已经有了一定程度的依赖性,在潜移默化中受到各平台算法机制的影响,养成了一些较为固定的使用习惯。

第二,潜在从业者能明显感知到自己受到智媒平台算法的影响,但对算法背后的技术逻辑了解存在差异。当算法开始影响或控制人的想法或行为时,就从单纯的技术转化为一种实质意义上的权力,即算法权力。[9]本次研究的访谈对象均为媒介素养较高的大学生,他们都不约而同地感受到了智能媒体背后的算法技术作用,即能够察觉到自己很容易掉入信息茧房中,只关注自己感兴趣的内容,并且容易长时间沉浸在信息流中而忽视了现实世界的时间流逝。

同时,有访谈对象会积极利用算法规律。如P04谈道,淘宝的算法会向用户反复推荐相同或类似的商品,用户可以利用这一点来寻找价格更低的商品。但算法透明不等同于算法可知[10],只有计算机专业的访谈对象可以具体阐述智能媒体背后的技术支撑,P10和P14是计算机专业的学生,他们在谈及算法推荐时,会较为深入地谈论一些知识理论问题。P10说:“抖音即便在网络不好的情况下也能收到视频推送。这是因其算法会根据地理位置信息选择对应位置最近的数据基站或服务器,推送其中的视频内容。”P14说:“以兴趣推荐算法背后涉及基于行为的协同过滤、基于内容的推荐、基于关联规则的推荐等算法技术,这并不是某种算法代码就能够单独实现的。”非计算机专业的访谈对象对算法推荐的感知大于对算法工作原理的认知。他们对算法背后的逻辑了解不多,对算法负面影响的认识停留在信息茧房方面,而对更为隐匿的算法偏见、算法歧视等问题鲜少提及。

第三,高校开设的伦理培育课程较为宽泛,对算法伦理风险应对效果有限。在调研过程中,大部分访谈对象表示学校并没有开展过算法相关伦理课程的学习,或反映了存在相关课程的内容设置已经与现实情况脱节的现象。如在新闻传播学相关专业中,新闻传播伦理与法规课程是很多高校本科或者硕士研究生培养的必修课,但在此次调研中,新闻传播学专业的访谈对象对这一课程并没有留下深刻印象,没有掌握应对智能媒体或者算法传播的知识与技能。新闻传播学专业的学生P01说:“没有涉及过相关道德规范,虽然我是新传专业,但是说实话它真的没有涉及伦理的课程。媒介社会学课程涉及一些,但是主要是质化研究时的伦理问题,而不是专门讨论AI伦理方面。”其他专业学生也给出了相似的回答,认为本专业并没有提供较好的算法伦理培育课程,P09、P14、P15是计算机专业的学生,P09说:“有思修课,但不能解决具体问题,还是希望能有一些实践性的案例,或者请相关行业人员来讲解。”P14说:“相关课程应该更聚焦于当下现实问题,很多案例在现在已经没有借鉴性了。”P15说:“思政课、工程伦理课都会讲一点技术和价值观方面的内容,但若想真正运用这些知识来解决实际问题,感觉课堂上的知识有点泛化,不是很实用。”早在2002年,清华大学出版的《中国计算机科学与技术学科教程》中已经正式将“计算机技术的社会与职业问题”纳入了计算机学科14门核心课程之一。但根据访谈对象的回应可以发现,我国计算机专业人员的伦理培育仍较薄弱。

第四,“转码”成为非计算机专业学生就业的新选择,尚无法明晰这对行业未来的整体伦理发展趋向会产生怎样的影响。互联网行业迅速发展,越来越多非计算机专业的学生开始学习Python这样的编程类课程,主动迎接智能技术的挑战。P05、P06是新闻传播学专业的学生,P05说:“人工智能是大趋势,没办法逃避。我们有数据库、Python课程,我想以后从事数据处理方面的工作。”P06说:“从个人兴趣出发,我想去游戏公司,但新媒体运营不太想过多涉及了。”P17、P18是社会学专业的学生,P17说:“AI、ChatGPT虽然学习起来有挑战,但如果有机会还是想去平台试一下这方面的实习和工作。”P18说:“深度学习神经网络这种人工智能是特别有前景的,但我的容量上限就在那儿,我想毕业以后去大厂‘卷’一两年。”可见,其他专业有意向为学生提供信息技术的相关课程,扩充了算法潜在从业者的后备军力量。越来越多非计算机专业的学生主动加入智媒平台从业者行列,但他们几乎从未接触过工程伦理类的相关课程,这可能会降低智媒行业的整体伦理水平,但也有可能会因为本专业具备比计算机专业更为严苛的伦理要求而提升智媒行业的整体伦理水平。

第五,现有伦理课程并没有完全激发潜在从业者的社会责任感,这一问题在理工科表现得更为明显。算法作为一项技术手段,能够起到重构公众环境、规范人的行为的作用[11],掌握算法的人就间接成了制定规则的人。潜在从业者对算法承载的价值和责任认识不足。在此次采访中,不少访谈对象对算法的价值偏向并没有明确意识。P14说:“算法就像枪支,本身是没有善恶的。我以后能做的就是更积极地进行人机交互,促进数据优化,做到高召回、高精确。”P15说:“我觉得算法是没有价值观的,它仅仅是一个参数,算法只是对我投入参数的回答。”P07说:“算法本质上只是一种解决问题的方案,不具有主观性。我们无法给一个方法、一个没有自主思考能力的东西赋予价值观。”P20说:“开源的算法可以复刻结果,源代码可以看出是否中立,不开源的就不能保证了。”

可见,算法终究是被少数人开发、控制和利用的技术。[12]访谈对象的态度在某种程度上说明现阶段的高校算法伦理培育还未能使其意识到技术权力的庞大与垄断。

五、高校强化算法伦理培育的路径

此次访谈结果反映出高校有关算法的专业伦理培育效果仍有较大的提升空间。因此,高校需要系统性地强化算法伦理培育。

首先,高校要构建一套适用于算法时代的伦理培育方案。一个理性的伦理行为必然是在专业理念指导之下发生的。[13]目前高校的潜在从业者在承担伦理责任时缺乏主动性,因而需要一套科学的算法伦理培育方案对其加以引导。科学的算法伦理培育方案一是要明确算法对当下社会的影响,调整高校算法伦理培育课程的占比和考核方式;二是要适应我国整体社会和教育现实,确定相关伦理培育课程的学科范畴设置,以适应算法类技术课程学科范畴的扩张;三是应以社会主义核心价值观为导向,重点在于加强准算法相关行业尤其是互联网、智能媒体行业相关潜在从业者的算法伦理批判性思维。算法伦理培育方案的培育目标是使潜在从业者在掌握算法技术的基础上,辩证地看待算法结果和影响,有意识地规范自我算法行为,主动承担算法责任义务。此外,算法伦理培育方案要衔接高校潜在从业者与已从业者,协助作为潜在从业者的学生在毕业到就业的过程中,能够快速实现身份转变,在从算法的接受者转向算法设计者时,同步提高自己作为伦理主体的责任意识。

其次,高校要发挥主观能动性,提高对算法伦理培育课程的重视程度,加强算法伦理培育课程的内容建设。人工智能技术发展迅速,给高校带来了诸多研究机会,但技术进步引发的新技术伦理问题也不容忽视。高校不能只注重技术研究,而忽略技术背后的道德建设。高校需要搭建细化的分层伦理培育,将笼统的工程伦理课程细化为不同方向和类型的伦理进阶课程,给不同年级、不同学科的学生提供更多的选修内容,让学生能够更加完整全面地认识算法、理解算法、负责算法。此外,高校应充分肯定并重视通识教育的作用,丰富有关算法伦理的精品课程。[14]在通识教育中,适当地、适时地加入以上专业课程内容,在校园范围内普及算法伦理常识。

最后,高校要引入跨学科和跨行业力量,突破壁垒,提升算法伦理培育的多元性和实践性。一般而言,人文社科类专业的学生能够通过自身具备的人文关怀,更加真切地感受到算法带来的伦理风险,进而理解个体因掌握算法技术而承载的重大社会责任,但整体上缺乏深厚的技术知识,虽然能够在概念逻辑上理解算法技术运行的大致规则,但是不能完全理解算法技术的内在运算机制、预判运行结果,这使得他们很难将自身的人文关怀转化到可应用的算法技术之中。自身专业学习较多涉及算法技术相关知识的专业多为理工科专业,这些专业的学生对算法风险和算法责任的感知敏感度可能偏低,如计算机专业的学生对其所生产的算法将会用到什么程度,算法收集、生产的数据又会用到什么程度,以及算法受到资本的干预会引发的问题等缺乏考虑。因此,高校有必要促进这些不同专业的潜在从业者之间的沟通和交流,积极贯彻文理融合。与此同时,高校需要在社会上同相关行业组织寻求合作。例如,一些计算机协会和电气与电子工程师协会等行业团体,很早就构建出了一套针对工程师伦理教育的课程,并伴随着技术发展适时更新内容。这些课程内容囊括了哲学思辨、法律问题、实践问题等。相比高校,专门的学术团体和行业团体集结了相关领域中最优秀的学者,一定程度上代表着行业发展的前沿,他们有设计伦理教育内容的天然优势,能够帮助高校搭建伦理教育体系,推动高校有效开展伦理教育,为高校提供宝贵的伦理实践经验。

六、结语

现阶段的高校算法伦理培育尚不完备,伦理课程开设及传授过程中的问题较为突出,并不能对相关专业的潜在从业者算法行为进行有效规范,继而无法应对算法行业、产业未来的发展趋势。高校要想从源头上解决隐私侵犯、数据歧视等一系列算法伦理问题,需要设计一套符合我国高校实情和社会发展现状的新算法伦理培育方案。只有如此,才能从潜在从业者出发,借助他们带动未来算法社会的有序、健康发展。