国际刑警组织“人工智能警务创新工具指南”

编译/吴杰丽

近年来，人工智能技术（AI）正经历着令人难以置信的跨越式发展，成为一股强大的力量，重塑着社会的诸多方面。警务执法领域也不例外。随着人工智能在警务领域的不断深化应用，警务科技含量和执法规范化水平都得到了提升。一定程度上，“人工智能+警务”模式也缓解了警力不足的难题。

然而，作为一种具有超强潜力的技术资本，人工智能时代的到来也给世界带来了诸多不确定性和威胁。这些潜在的风险要求我们时刻保持最大的警惕性和责任感。尤其是在要求严格和敏感强度高的执法环境中。

鉴于人工智能在警务执法领域应用仍然欠缺充分的指引，并且在道德规范方面不可避免地引发担忧，因此，国际刑警组织（Interpol）和联合国区域间犯罪和司法研究所（UNICRI）在国际刑警组织警察科学大会上共同发布了“负责任的人工智能创新工具指南”。该指南旨在指引执法人员和机构能够以可靠、合法和负责任的方式将人工智能技术应用于警务执法领域。

一、“人工智能创新工具指南”的形成路径

在欧盟的财政支持下，人工智能创新工具指南由区域间犯罪和司法研究所人工智能与机器人中心和国际刑警组织人工智能实验室联合开发。人工智能创新工具指南的形成过程充分体现了包容、协商和迭代的特点，主要由以下四个方面参与完成。

一是由国际刑警组织和区域间犯罪和司法研究所共同成立的核心专家组。该专家组由来自30 多个不同国家的执法部门、学术界、私营部门和民间组织的56 名专家组成。在开发过程中，共召开了6 次在线会议。会上，围绕人工智能在警务执法中的应用问题充分开展了研讨和协商。

二是利益攸关方的参与研讨。在人工智能创新工具指南开发过程中，国际刑警组织和区域间犯罪和司法研究所会同执法领域的代表定期进行协商。此外，又与刑事司法人员、人权保护领域代表以及技术供应商召开特别协商会议。必要时，还与个别领域专家、委员会和组织就专题进行商议。公众参与、信任和执法透明度的理念在“负责任的人工智能创新”概念中发挥着至关重要的作用。为了在开发工具指南中充分体现这些理念，开展了全球民意调查，全面收集公众的意见和反馈，了解公众对于人工智能在执法领域运用的看法，并且在公众特别关注的领域或者薄弱且亟须改进的领域进一步组织磋商。

三是同行审查。国际刑警组织和区域间犯罪和司法研究所组织了全球各地的30 多名具有执法、学术、人力资源、工业、刑事司法、公共部门和国际组织背景的专家就人工智能创新工具指南开展了技术审查。在此过程中，收集反馈信息，并及时将更新的内容融入工具指南中。

四是实际环境中的测试。作为对技术同行审查的补充，15 个不同国家和地方层面的执法机构，在实际执法环境中，对人工智能创新工作指南进行了测试。即使在指南发布的此刻，在实际执法环境中的测试仍然在继续，反馈信息和改进措施不断被指南的未来版本所采纳。

二、“人工智能创新工具指南”的内涵建设

世界各地的国家执法机构陆续开发、获取和使用不同类型的人工智能系统、工具和技术，从而支持越来越广泛的执法工作。无论是应用于图像、文本、语音分析还是风险评估，人工智能都是必不可少的，甚至正在成为警务执法工作的基本操作手段之一。负责任的人工智能在警务执法领域的创新应用，其内涵建设主要围绕三个目标开展：第一，在各方面必须追求道德平衡以及符合法律法规；第二，从开发到应用需要有一套健全的管理机制；第三，必须建立强有力的监管机构，从而确保创新应用时的公平公正和安全稳定。

为了实现内涵建设的三大目标，人工智能创新工具指南设计了七个部分内容，分别是：导论、原则、组织计划、组织准备评估问卷、风险评估问卷、工作手册、技术参考书。

导论部分向执法团队和个人提供了人工智能的概念、负责任的人工智能创新应用含义和解读、人工智能在执法领域应用的基础条件以及重要意义等内容。

作为人工智能创新工作指南的基础性内容，原则部分中阐述了在警务执法领域负责任应用人工智能的指导原则。该原则与警务原则保持一致，确保能够在保护人权和追求道德平衡的同时，开发和使用人工智能系统，从而造福社会。

组织计划部分旨在帮助执法机构了解应该具备哪些要素，以便对人工智能系统的开发、采购以及部署采取负责任的手段和措施。

组织准备评估部分主要是一份自我评估问卷，旨在帮助执法机构对其文化、人员、专业知识和现有流程的批判性审查，确定这些要素在其机构中采用负责任的人工智能的准备情况。这份自我评估问卷将使机构更好地了解自己在向负责任的人工智能发展过程中所处的位置。组织准备评估部分与组织计划部分和原则部分密切相关，旨在支持各机构实施其中包含的建议。

风险评估问卷部分旨在支持执法机构和人员，从负责任人工智能创新角度，认识到人工智能应用过程将会对个人、群体甚至是整个社会，带来潜在威胁和不利影响，以及这些威胁和不利影响发生的可能性。基于这些对于潜在威胁的认知，执法人员和机构能够在人工智能系统设计、开发、采购、部署或使用的每一环节作出负责任的决策，并且建立相应组织、技术和安全保障，必要时采取相应的行动。

工作手册旨在为执法机构实施负责任态度的人工智能创新，以及人工智能整个开发周期作出相应的决策。技术参考部分旨在与工具指南中的其他部分一起使用。它提供了对关键概念和术语以及相关领域的解释，并提供了与执法有关的案例。

这七个部分又可以分为三大类：主要指导文件、实用工具、辅助文件。这些部分的设计旨在通过向执法机构和人员提供丰富的人工智能知识、人工智能应用指导和最佳实践范式，从而实现基于“人权-道德-警务原则”三个维度的负责任人工智能警务执法创新之路。

三、“人工智能创新工具指南”的使用建议

首先，建议警务工作领导者、负责人以及决策者等认真阅读原则、组织计划、组织准备评估问卷等部分内容。其次，建议执法机构在人工智能创新应用之初进行自我评估。通过自我评估，了解机构人工智能警务执法应用的经验和能力水平。再者，由于风险评估是一个反复的过程，因此建议定期完成风险评估问卷。此外，建议认真阅读负责人的人工智能创新行动手册。该手册能够为人工智能警务执法应用过程中的每个不同阶段提供配套资源，从规划到部署，再到使用和监控，以及其他可能涉及的事务。最后需要强调的是，该指南也有助于各国能力建设的提升，帮助各国更好地起草国家层面的人工智能警务执法的管理机制。

国际刑警组织秘书长斯托克表示：“不可否认，人工智能改变了犯罪分子和执法部门的行事规则。然而，我们必须以可靠、合法和负责任的态度，提供清晰、务实，最重要是有效的方式，向新科技时代过渡。”在联合国犯罪和司法研究所与国际刑警组织的伙伴关系框架下，促成了这一关键的创新工具指南，确保执法人员和机构能够在符合法治和道德以及尊重人权的范围内利用好技术。与此同时，人工智能创新工作指南将定期进行更新和修订，以确保执法部门能够紧跟这一领域的快速发展，并且及时应对相关的法律和道德挑战。当然，每个国家势必对其人工智能发展道路保留完全的自主权。