国际人工智能伦理治理研究态势分析与展望*

汪 琛 孙启贵 徐 飞

在人工智能的科学研究、技术应用与产业扩散过程中，往往会涉及社会、文化、伦理与法律法规等非技术性问题，仅凭个人自省、伦理道德、法律法规这些制度层面单向度的应对措施，难以适应人工智能技术风险的复杂性与动态性问题，甚至还可能抑制学科发展或阻滞技术效益的产生。随着人工智能不断深化以及多领域的介入性赋能，以往伦理研究中“问题-成因-对策”的线性思路，已经难以应对人工智能伦理过程性与系统化的社会风险。在此背景下，为保障人工智能产业的可持续创新，加强人工智能技术与伦理的互嵌性[1]，需要将伦理理论与实践治理相结合，推进伦理原则的治理转化，整合式与体系化的伦理治理建构作为一类新的研究趋向正应运而生。

当下，国内外学者就人工智能的伦理治理研究已取得若干研究成果，但较之人工智能伦理治理研究的规模体量，仍处于起步阶段。本文借助文献计量方法通过对研究主题发展趋势的系统性分析，检索式TS=("artificial intelligence" or "machine learning" or "depth learning" or "natural language processing" or "speech recognition" or "computer vision" or "gesture control" or "smart robot" or "video recognition" or "voice translation" or "image recognition" or "basic algorithm" or "smart search" or "smart recommendation") and govern* and (ethic* OR moral*)。数据采集时间：2020年3月31日，分析文本来源为SCI-Expanded、SSCI、A&HCI三类数据库，共计220篇相关研究论文。基于bibliometrix[2]和CiteSpace[3]软件工具对人工智能伦理治理的现有产出论文进行了深度挖掘，期望能够系统分析人工智能伦理治理研究的整体情况与领域主题，并以参考文献作为整体表征，分析人工智能伦理治理研究的知识基础组成。厘清研究的发展脉络，洞悉人工智能伦理治理研究关注的重心变化与演进方向，获取研究前沿的发展动态，期望能为我国人工智能伦理治理的研究提供一定的情报支持。

1 人工智能伦理治理研究的宏观趋势

1.1 人工智能伦理治理研究的政策背景

人工智能伦理治理研究是以人工智能伦理原则体系为基础，明确指向多领域、多方向、跨学科的实践性研究，目的在于将理论层面的伦理探讨，转化为具有可操作性的规制策略。从近两年发布的人工智能战略性政策看，不论是针对性的人工智能伦理规范文件，还是整体性的人工智能战略布局，人工智能伦理已成为推动人工智能可持续性战略发展的重要社会形塑力量之一，美国、英国、欧盟等发达国家或地区一方面将伦理与道德纳入人工智能设计与监管的基本标准，另一方面还期望通过引导人工智能伦理，实现本国或地区在全球人工智能创新与治理进程中，争夺和确立各自的领军与主导地位。

由此可见，在人工智能产业加速落地的现实背景下，全球一些发达国家和发展中国家在推进人工智能技术创新的同时，也同步关注智能技术可能引发的伦理风险及其治理，佐证了伦理治理在人工智能发展过程中的价值意义。人工智能的伦理治理研究，不仅是人工智能伦理与治理研究的深度融合与实践转向，在未来，甚至还将具有相当比重的技术战略意义，各国和地区加强人工智能伦理治理的研究加速已势在必行。国际涉及人工智能伦理治理相关文件见表1。

表1 国际涉及人工智能伦理治理相关文件示例

1.2 人工智能伦理治理研究的发文趋势

人工智能伦理治理的研究始于21世纪初，第一篇直接相关的研究论文是发表于2007年的《WOZ的扩散：扩展IS创新的拓扑结构》，研究内容关注基于语言处理的自助服务技术，立足创新类型学理论，提出有关信息技术与创新研究的相关建议[4]。整体的论文发表趋势如图1所示，2018年开始，论文发表数量开始加速增加，2020年发表61篇，是2019年(23篇)的近三翻，2021年发表继续增加(70篇)，可见近年来关注热度已有起色。220篇研究论文，累计被引3 172次、篇均被引14.42次、H指数27。相较于人工智能伦理研究，伦理治理研究的整体发展趋势刚刚起步，但随着后续研究的不断深化，以及人工智能实践落地亟需的治理体制配套，相关研究的关注度和成果产出在未来会有进一步的增加。

图1 人工智能伦理治理研究的发文量分布

1.3 人工智能伦理治理研究的计量学定律分析

洛特卡定律是指科学论文的作者数量与其所发表论文数量大致存在平方反比的分布定律[5]，发表论文数量为1的作者总数(696人)占该领域内全部作者人数的96.1%。如图2，发文或合作发文数量为2的作者数量就已降至21位(2.9%)，说明人工智能伦理治理研究存在明显的二极化，即高发文数量作者有但不多(发文数量为8的作者仅有1位，占比0.1%)，一般作者群体数量占比过大，也正是作者论文数量存在严重不均衡的分布态势，也印证了本文对既有人工智能伦理治理研究系统性整合的必要性，需要挖掘高频、核心研究主题以明晰人工智能伦理治理研究的核心议题。

图2 人工智能伦理治理研究的洛特卡定律分布

布拉德福定律是指按照刊载该学科或主题的研究论文数量降序排列，刊载该学科或研究主题的期刊分布符合1(核心区):N(相关区):N2(边缘区)，且三个分布区的刊载论文数量大致相等[6]。由图3可见，三个区域的发文数量分别为74篇、74篇、72篇。虽然计量结果显示存在15本期刊组成的核心区，人工智能伦理治理研究的发文规律并不符合布拉德福定律，领域研究存在明显的离散性。另从刊载期刊的发文数量看，PhilosophicalTransactionsofTheRoyalSocietyA-MathematicalPhysicalandEngineeringSciences(5%)、BigDataSociety(4.091%)、BMJOpen(2.727%)分别为人工智能伦理治理研究发文刊载期刊的前3位。发文量前20期刊的学科属性既包括科技哲学、社会学、商业伦理学，还涉及法律、公共管理、科技政策、公共卫生等多个学科领域，由此可窥见人工智能伦理治理研究的跨学科性质。

图3 人工智能伦理治理研究的布拉德福定律分析

综上可见，人工智能伦理治理研究是以人工智能伦理为主体，结合社会科学与自然科学融合的交叉学科方法，以伦理治理为目标导向的新兴研究领域。多学科介入整合，能够为人工智能伦理治理研究提供丰富的跨学科视角，也在一定程度上表明，人工智能伦理治理研究所涵盖的学科领域之广泛，这也说明人工智能伦理治理多元主体参与的必要性。

2 人工智能伦理治理研究的主题分布

2.1 人工智能伦理治理研究的关键词共现分析

人工智能伦理治理研究的1 118个关键词中，频次大于2次的有199个，大于5次的则降至47个，频次超过10次(含10次)仅有15个，说明目前的人工智能伦理治理的研究重心尚不聚焦，较为分散，形成的网络密度仅为0.029 5，这与研究关注领域的广泛性与交叉性有一定关系。细分来看，频次最高的前5位分别是：人工智能(91次)、伦理(60次)、大数据(27次)、治理(26次)、技术(25次)；中心度最高的前5位是：人工智能(0.38)、技术(0.23)、伦理(0.17)、大数据(0.11)、模型(0.11)。总体上，高频词与高中心度的关键词基本匹配，形成了人工智能伦理治理研究的共识关注主题，见图4。

图4 人工智能伦理治理研究的关键词共现网络

此外，从关键词兴起的时序分布看，不同年份出现代表性关键词也不尽相同，如2006年的人工智能、自主性与康德一元论等15个；2007年的技术、创新类型与自助服务技术等15个；2015年的机器人、死亡驱动(death drive)与一战等6个；2016年的耳鼻喉科学、语音识别能力与活化等8个；2017年的模型、信息技术与心理学理论等14个；2018年的伦理、大数据与治理等45个；2019年的隐私、未来与管理等37个；2020年的新型冠状病毒肺炎、规制与政策等48个；2021年的公平、人工智能治理与影响等47个；2022年的商业伦理、信任与决策制定等。可见，人工智能伦理治理研究的关键词随时间波动增加，说明越来越多的研究主题开始进入研究的关注视域。

2.2 人工智能伦理治理研究的关键词聚类分析

对人工智能伦理治理研究的核心关键词进行聚类分析，得到的聚类网络的模块Q值为0.544 6>0.3，说明主题词聚类结果的社团结构显著；聚类网络的平均轮廓S值为0.810 8>0.7，说明研究主题整体较为集中；得到的10个子集聚类模块S值在0.6～0.7，说明聚类合理，但关键词分布相对较为分散，其余8个子集聚类S值均大于0.7，说明聚类结果令人信服。见图5。

通过本文的梳理整合与文献研读，结合图4和图5，可以归纳整合人工智能伦理治理研究目前主要有三类重点关注内容。

第一，人工智能伦理的治理准则、规制方法与行动路径研究，目前已形成三条主要路径：其一是讨论伦理原则实践转化的可能路径，认为单凭伦理原则不足以规制人工智能的合伦理性[7]，希望寻求伦理原则转化为实践工具的方法[8]；其二是关注政府在人工智能伦理治理过程中的作用机制[9],界定政府在伦理治理过程的责任属性[10]，呼吁塑造新的数据化环境[11];其三是探索人工智能伦理治理的价值目标塑造[12]，尤其当现有的治理机制难以应对人工智能复杂的伦理风险时，治理所需恪守的价值内涵与标准[13]。此外还有学者关注不同产业中人工智能的伦理治理，如金融人工智能[14]，强调行业自治以增强人工智能的可信性[15]。

第二，大数据、人工智能不同领域的伦理治理及其应对措施研究，如医疗人工智能：一是医疗智能化转型的隐私安全与监管机制研究[16],以应对人工智能对病患隐私侵犯行为的发生[17]；二是聚焦医疗数字技术的介入性干涉，尝试构建新的评估方案与可行的治理机制[18]与治理模式[19]，部署适应性的伦理治理机制[20]，引导技术向善发展;三是由医疗人工智能的伦理风险切入，尝试以伦理原则与审查机制的方式，规制伦理风险问题[21]，并以伦理、法律与社会多方整合为基础，推进人工智能稳健性环境的塑造[22]。

第三，自动驾驶汽车的嵌入式与规制性伦理治理研究，已经形成两类不同的理论切入视角：一是基于嵌入性视角，探索自动驾驶对复杂社会风险的应对能力，通过对决策过程的洞察嵌入，实现自动驾驶包括伦理在内的社会风险治理[23];二是在肯定自动驾驶技术愿景与社会期望的基础上，对自动驾驶的伦理风险进行分类与评级，探索不同伦理理论视域下自动驾驶的行为解释[24]。

3 人工智能伦理治理研究的知识基础

3.1 代表性被引文献

代表性被引文献是人工智能伦理治理研究中最受关注的文献，也是人工智能伦理治理研究的文献基石。在14 670篇共被引文献构成的知识基础网络中，被引次数最高是Jobin等[25]的《人工智能道德准则的全球景观》(29次)，文中认为人工智能的伦理指南已经成为人工智能利益相关方的实践刚需，通过对全球 84 份人工智能伦理报告的研判分析，发现各界就基本伦理准则已达成认知趋同，但在现实实施方面却仍存在重大分歧；其二是 Floridi等[26]的《AI4People：良好人工智能社会的道德框架：机会、风险、原则和建议》(22次)，提出有益性、无伤害性、自主性、公正性、可解释性在内的五大伦理原则，旨在为人工智能社会治理提供理论基础；第三是Mittelstadt等[27]的《算法伦理：绘制辩论地图》(18次)，认为算法可能造成的自主权与解释依据缺失，强调伦理规制对算法调节的重要意义。

在共被引网络中，高中心度的被引文献说明其在人工智能伦理治理研究中的主导作用和核心基础，是影响研究发展趋势的核心节点。中心度最高的前三位依次是：第一是《机器学习研究进展》论文集收录的《性别阴影：商业性别分类中的交叉精度差异》(0.17)，其第一作者是麻省理工学院媒体实验室研究员、算法正义联盟的创立者Buolamwini，文章主要关注对不同肤色情况的性别识别问题，认为需要关注商业公司能否建立真正公平、透明和负责任的面部分析算法问题[28]；第二是美国心理学会[29]发布的《心理学家的伦理原则和行为准则》(0.16)；第三是Ananny等[30]的《见而不知：透明度理想的局限性及其在算法问责中的应用》(0.15)，文中特别关注算法黑箱的透明度与管理不足，并根据透明理念的局限性，提出一类算法责任模型。见图6。

3.2 被引文献聚类分析

为进一步整合发掘人工智能伦理治理研究知识基础的模块分类，对220篇研究文献包含的共被引文献进行聚类分析，得到聚类模块Q值为0.774 6>0.3，表示聚类结果显著，聚类平均轮廓S值为0.888 5>0.7，11个子聚类模块S值也都大于0.7，聚类是显著且令人信服的。总的来看，人工智能伦理治理的参考文献聚类是显著且合理的。总共形成有11个聚类子集，内容涉及一般性人工智能的伦理问题与原则指南以及人工智能在各细分子领域的应用与可持续发展，由此进一步印证了人工智能伦理治理多学科介入视角的必要性。见图7。

4 总结与展望

通过对人工智能伦理治理研究文献计量学的系统梳理可以发现，人工智能的伦理治理研究目前仍处于大数据和人工智能伦理研究的发展进阶，是伦理研究的承接升格，也是伦理研究具象化、走向实践应用的必由环节。近年来，人工智能伦理治理研究发展迅速，产出了一系列高质量的研究成果，相关成果间互引关系逐渐加强，研究领域的边界逐渐清晰，但整体还处于初期，距离可操作性的实践应用还有一定距离。为此，本文提出以下四点展望，以供学界同行参考。

4.1 伦理学与社会治理理论的深度融合发展研究

人工智能伦理治理的现实复杂性与动态适应性，使得对人工智能伦理治理研究不能仅凭借如功利主义、义务论、美德伦理等传统伦理学理论为基础支撑，这些伦理理论就同一人工智能伦理困境的诠释解读，时常会陷入争论，因此难以作为治理实施的判决依据；与此同时，过分恪守新制度主义主导下单纯依靠多层级制度体系的强制或弱规训，也无法充分适应人工智能应用语境的动态复杂性。要实现伦理风险的有效治理，应首先超越传统伦理学理论的框架规制，强调伦理分析与技术条件、创新模式、治理手段等多维路径的有机融合，学界目前已有相关伦理与技术融合的治理理论提出，如公义创新、敏捷治理，引领伦理学与治理的融合研究。随着理论整合不断深化，研究视域的独立边界逐渐确定，人工智能各细分子域的针对性研究可能会成为以后人工智能伦理治理理论体系补强的发展趋势。

4.2 推进政府单向治理向多元协同治理转化

人工智能伦理治理作为叠合型概念目标，至少涉及人工智能、科技哲学与公共管理三个主要的学科体系，人工智能学者多期望采用技术化的方法，通过如联邦学习、区块链、隐私计算等技术手段，实现伦理风险的消解与治理；科技哲学多关注人工智能的伦理风险分析以及传统伦理理论在智能化时代的创新阐释与发展；公共管理多从政府视角出发，强调自上而下式的制度向伦理治理转化。三类学科之间的共识观点多集中于伦理原则的制定，尚未就原则向实践的转化机制达成一致。此外，人工智能的伦理风险大多并非是单独主体、强封闭环境下发生的，因此在强化政府应对技术伦理风险的治理机制建设的同时，应当加强包括人工智能学者、社会公众、技术企业以及各相关职能部门之间，就不同适用语境下的人工智能伦理风险形成联动式的协同治理，以覆盖不同学科的伦理认知，响应不同主体的伦理诉求，实现治理效益的最大化实现。

4.3 深化基于多元主体认知的伦理风险评级机制研究

人工智能伦理治理的实施难点之一，就是由于不同行动主体的目标诉求差异，使得伦理风险的认知评价存在层级“鸿沟”。要人工智能伦理的有效治理，一方面需要及时洞悉人工智能伦理治理各利益相关群体的伦理风险认知状况，清晰了解技术研发、政策制定与技术受众对伦理风险认识；另一方面，相关伦理治理政策与实施路径的可信度需要实证化的科学数据作为判定依据。因此，人工智能伦理治理的研究展开不能停留在理论层面的框架规制、模式迭代与风险预见，更需要扎根个体感知，并以此为凭据，构建可行的人工智能伦理治理准则，对不同类型的伦理风险进行评级，可参照医疗器械的三级分类，规制设定人工智能的应用准入机制，依据不同风险程度的界定，限定人工智能产品的适用与推广范围，通过社会试验检验伦理治理的有效性，形成风险评级的反馈与再设计机制。因此，针对不同社会应用方向的人工智能伦理风险评级研究亟待加强。

4.4 加强人工智能伦理原则向治理实践的贯通转化

国内外近百个机构或政府部门都已发布各类人工智能伦理原则文件，学界和业界也就人工智能的基本伦理原则达成基本共识，人工智能伦理治理的体系化进程亦成定势。然而，如何将伦理原则落实至人工智能的产业应用，目前仍处于探索阶段。一方面学界应辨析明确伦理原则与治理准则之间的特征区分，需要进一步探索伦理原则社会实践的可行性以及反馈调节问题，也可借鉴类质性研究的成果产出，如数据法学研究在关注强制性大数据法律法规制定的同时，也关注规范性的数据合规性研究，力求在合法与合规之间达成共识均衡。另一方面，应当拓宽研究视野，伦理风险是人工智能治理的关键领域之一，人工智能治理是一个包括法律、伦理、社会等多方面的复杂研究领域，在关注伦理治理的同时，也应重视其他非技术性、非伦理直接相关要素之间的交互塑造，形成社会-技术双向联动的整合视角，以此为基础，切实推进由“伦理化治理(ethical governance)”向“伦理的治理(governance over ethics)”的转型迈进。