英国西米德兰兹郡警方数据伦理委员会的运作机制

文/苗颖

西米德兰兹郡警察局是英国仅次于伦敦大都会警察局的第二大警察局。作为英国警务数据分析领域的引领者，该警察局建有数据分析实验室，其主要职能是分析各种数据集，为警察局的行动和战略提供辅助决策。考虑到警务数据分析和使用可能引发伦理问题，该警察局于2019 年初成立了数据伦理委员会，旨在将具有相关背景和不同立场的人员汇聚在一起，就数据分析中出现的伦理问题向警察局长、警察与犯罪事务专员提供实用和独立的建议，确保大数据警务的工具和使用方法受到公众的监督。

一、数据伦理委员会的定位

西米德兰兹郡警察局数据伦理委员会将人的权利置于技术发展的核心，在实施独立的监督过程中，将人、法律和标准作为工作的“三大支柱”，即警务工作中承担相关责任的各级人员，相关法律、法规和政策，以标准规范与个人责任为依据的伦理标准。其中，人是根本因素，既包括警务人员，又包括在相关咨询和监督职能机构中的人。

数据伦理委员会审查和建议的对象主要是警务工作中的人工智能项目，通过集体审议、全周期监督和动态审查，数据伦理委员会提出响应建议，以其影响力、透明性和独立性，确保在警务工作中可靠和负责任地使用人工智能。该机构致力于发掘法律和伦理标准的潜在应用价值，并有权质疑人工智能警务项目的开发和应用。此外，委员会建立了一种由高层领导的自上而下的文化，以开放的态度接受监督和问责。

数据伦理委员会的构成和职责体现了成功监督机构应具有的特征，其中包括：择优聘任，拥有众多专业的独立成员；承诺发表会议文件、会议记录和决议；独立于其正在审查的警务技术使用机构；监督职权范围涵盖技术解决方案的整个生命周期和所有应用环境。

二、数据伦理委员会的职能

作为英国警察队伍中第一个成立的数据伦理委员会，西米德兰兹郡警察局数据伦理委员会自成立伊始，便确定了其职能定位，即仅具有咨询职能，无正式的监管职能。

（一）数据伦理委员会的职能

与许多其他伦理治理机构一样，数据伦理委员会的职责是利用其专业知识进行全面的伦理分析，向警察局长、警察与犯罪事务专员提供务实、有价值的建议。其中包括：就内部数据分析实验室提出的研究项目以及警务机构感兴趣的国家警务数据研究项目（如国家数据分析解决方案），向警察局长、警务与犯罪事务专员提供建议；从项目提案、测试到实施，确保在整个生命周期和特定应用环境中，以不间断评估的方式监督技术解决方案等。此外，数据伦理委员会还定期召开会议，发布会议纪要和建议，所有文件及会议记录均须符合保密要求。

2019 年4 月至2020 年9 月，该委员会共审查了18个数据分析/建模项目。其中13 个项目来自数据分析实验室，4 个项目来自国家数据分析解决方案项目，还有1个来自内政部。根据数据分析模型的类型，这些项目大致分为两大类：预测模型和探索性、解释性网络分析模型。

在项目审议中，数据伦理委员会主要探讨六大内容：解决重要的警务和社会问题；项目运行与干预；数据保护影响评估（DPIA）及法律建议；数据采集与应用的有效性；数据中的偏见、误报和保障措施；透明度和伙伴关系。数据伦理委员会的主要任务是在职能范围内提供切合实际的咨询意见，以便为下一步工作推进提供有价值的建议。

（二）数据伦理委员会的审查原则

数据伦理委员会认为，判断是否符合伦理，往往涉及复杂因素，没有明确的答案或解决方案，因此鼓励成员随时自由地提出他们认为存在伦理问题的个人观点或建议。警察局长、警察与犯罪事务专员在参考相关观点或建议的基础上作出符合公共利益的决定，从而将其转化为有意义的行动。

为此，在审查项目时，数据伦理委员会充分考虑了英国国家统计学家数据伦理咨询委员会的类似原则。主要包括：必要性和相称性、对新技术的有限性和风险进行人为监督；足够准确、适当和严格以得出合理结论；不污名化。

（三）数据伦理委员会的运作机制

在不违反保密要求和聘任合同条款的前提下，西米德兰兹郡警察局不要求数据伦理委员会成员对所提供的建议负责。尽管如此，数据伦理委员会成员仍应尽其所能，谨慎地提供专业咨询意见。数据伦理委员会成员应独立行事，无包括政治偏见在内的任何偏见。

1.数据伦理委员会人员组成与聘任

数据伦理委员会成员包括数据科学、数据保护和隐私以及法律等领域的学者和从业人员，还包括警务和刑事司法专家。由具备技术或跨学科背景的外部专家组成的数据伦理委员会为原有治理结构提供了有益补充，能够很好地评估拟计划进行的技术解决方案是否必要，与将要应用的特定环境是否相称等。数据伦理委员会成员通常由下列人员组成。

（1）2 名经验丰富的数据科学专家。他们帮助其他成员了解项目分析时采用的数据方法。

数据伦理委员会委员

（2）有经验的人权专家。该成员向其他成员通报人权原则以及相关法律问题，如歧视、偏见、数据保护和隐私权。

（3）在政策执行方面有经验的高级公务员。该成员向其他成员通报公共部门执行政策的实际情况。

（4）4 名当地居民。这些居民不需要任何特定的资格或专长，但他们必须证明自己有助于数据伦理委员会的工作，对歧视、隐私和其他伦理问题具有强烈意识。一些成员也可能因其具备预防犯罪和警务领域的专业知识而受聘。

（5）警察与犯罪事务专员办公室高级代表。该成员告知数据伦理委员会其所代表的警察和犯罪专员对相关问题的态度，且不得干涉数据伦理委员会的独立性和中立原则。

（6）警察局高级代表。该成员应向数据伦理委员会通报业务信息，例如，在实践中收集某些数据的相关信息、警察局的业务优先事项或其他相关信息。

（7）1 名或多名在警务、社会学、犯罪学、伦理学和伦理哲学（或与广义伦理学有关的专业）领域具有专业知识的从业人员。

（8）人权运动团体代表。该成员应在数据隐私和偏见、歧视相关方面具备广博知识。

（9）与预防犯罪和解决社会矛盾相关的组织代表。该成员应了解犯罪预防、警务和伦理问题，无论这些问题是否涉及歧视、隐私、一般人权或其他伦理因素。

为保持决策公正性，数据伦理委员会成员不领取报酬，但可以报销合理必要的费用。

2.数据伦理委员会成员任期与审查

数据伦理委员会成员任期为三年。任期届满成员可以续聘，但通常不超过两个任期。

由于数据伦理委员会工作中涉及的信息、数据具有机密性，相关成员可能需要接受不定期审查，是否需要审查以及审查类型将由西米德兰兹郡警察局决定。

3.会议和记录

数据伦理委员会会议通常每季度举行一次。如委员会成员认为有必要为特定项目提供及时建议时，可以通过委员会主席向警务与犯罪事务专员办公室秘书处建议召开额外专项会议。在这种情况下，警务与犯罪事务专员办公室秘书处将与数据分析实验室进行协商，并向数据伦理委员会确认是否增加一次会议。

数据伦理委员会对所有会议记录、简报文件和建议均予以保存。警务与犯罪事务专员办公室秘书处可以根据数据伦理委员会、警察局长、警察与犯罪事务专员的指示，行使自由裁量权，对记录和文件等进行全部或部分编辑，以维护与商业机密、敏感事项和个人隐私等相关的权益。

4.审议流程

西米德兰兹郡警察局对数据分析实验室开展内部保密管理、数据保护和信息管理治理，包括聘任数据保护官，向独立专家寻求有关法律或数据保护建议，并在数据伦理委员会审议拟议项目前对这些项目进行数据保护影响评估。提交到数据伦理委员会的任何项目提案都应提供明确声明，表明数据分析实验室已收到警察局的建议，且该提案在法律上是合规的。

对于审议项目，数据伦理委员会以协商一致的方式向警察局长、警察与犯罪事务专员提供建议，且审查和建议均具有一定规范。在拟议项目分析的每个阶段，数据伦理委员会都会发布书面建议，解释立场并作出说明。警察局长、警察与犯罪事务专员应当考虑数据伦理委员会提供的建议，但不受数据伦理委员会建议的约束。

如果警察局长、警察与犯罪事务专员不接受数据伦理委员会的建议，应尽快通知数据伦理委员会，并提供不接受理由，破坏合法的保密要求（包括与国家安全有关的事项）或根据公法原则应予以保密的情况除外。

如果警察局长、警察与犯罪事务专员在收到建议后，认为有关问题和方法符合适当的伦理标准，数据伦理委员会将在后续工作中考虑：（1）根据拟议政策、业务战略的分析结果，提出干预措施；（2）评价任何已采取行动的政策、业务战略是否成功地实现了既定目标，并评估由此带来的公共利益或损害。

三、数据伦理委员会示范效应及借鉴

西米德兰兹郡警察局数据伦理委员会将透明的独立建议与规范的审查过程相结合的做法，不仅为具体政策的制定提供了必要的保证和监测，而且有助于确保在警务工作中可靠、负责地使用新兴技术。基于数据伦理委员会在警务数据项目中良好的示范作用，该警察局在内政部的支持下向英国国内其他警察部队和执法机构推广数据伦理委员会的经验做法，并准备与其他有经验的警察部队和执法机构合作，建立一个全国性的数据伦理研究所。

西米德兰兹郡警察局数据伦理委员会的运作机制激发了英国警方对国家数据伦理治理模式的思考。英国《2020-2030 年国家警务数字化战略》指出，要开发新的国家数据伦理治理模型，使该模型成为警务部门进行决策的指南。2021 年11 月，英国内政部国务大臣表示，要在西米德兰兹郡警察局数据伦理委员会的基础上，同数据伦理与创新中心（CDEI）以及内政部合作建立全国通用模式。