论自主武器的人道主义规制

摘要：“有意义的人类控制”作为自主武器军控的核心概念，对维护国际人道法、明晰自主武器归责路径具有重要意义。它强调人类对自主武器的监管，以保证自主武器使用不违背国际人道法的基本底线，符合康德有关道德责任、人类尊严的法哲学要义。然而，这一概念的基本要素和法律适用路径并不明晰，其使自主武器的实际规制效果大打折扣。为保障自主武器的合理应用，可针对“基本要素孤立化”“监管过于关注自主武器运行流程”等问题引入诺埃尔·夏基提出的区分理论，探索对自主武器“分级分类”监管的可行性，确定联合国《禁止或者限制使用某些可被认为具有过分伤害力或滥杀滥伤作用的常规武器公约》框架下“有意义的人类控制”的法律地位，进而建立以该理念为指导的自主武器“分级分类”监管框架的国际法适用路径。

关键词：有意义的人类控制 自主武器系统 国际人道法 分级分类监管

中图分类号：D99 文献标志码：A

DOI：10.3969/j.issn.2097-0749.2024.06.06

引言

近年来，以人工智能为代表的新兴技术飞速发展，其在为各领域注入科技活力的同时，也给国际社会治理带来潜在障碍。2022 年11 月，以ChatGPT 为代表的生成式人工智能一经推出，就引发社会各界对人工智能规制的极大关注。伴随新一轮人工智能技术的发展，新兴科技向军事领域的持续渗透已成必然，自主武器军事化应用的普及使自主武器系统成为人工智能安全治理领域关注的焦点。自主武器系统（Lethal Auton8v3as/lD2st3/y8qxAI2Rg==omous Weapon System） 是人工智能技术在武器装备中的嵌入式应用，以使人工智能在不同程度代替战斗员操作，加速“OODA回路”（OODA Loop）的循环。人工智能嵌入武器装备的双刃剑特性在带来“精确打击”“精准测算”的同时，也使人类陷入“道德伦理”的现实风险，引发了人们对“未来自主武器战争”的担忧。虽然目前尚未出现具有完全自主性的武器装备，但自主武器的“自主性”这一核心特征带来的伦理争议与问责困境已经使之成为国际军控领域关注的焦点。针对自主武器系统军控的法律规制开始成为国际人道法领域研究的热点问题，在《禁止或者限制使用某些可被认为具有过分伤害力或滥杀滥伤作用的常规武器公约》（Convention on Prohibitions or Restrictionson the Use of Certain Conventional Weapons Which May be Deemed to beExcessirely Injurious or to Have Indiscriminate Effects， 以下简称《常规武器公约》） 的基本框架下，国际社会围绕人道主义保护不断充实自主武器系统的规制思路。2018 年，以《常规武器公约》为平台的政府专家组会议（Group ofGovernmental Experts） 将“有意义的人类控制”（Meaningful Human Control） 列为规制自主武器系统应遵守的基本原则之一，使“有意义的人类控制”理念逐渐成为规制自主武器系统的指导核心。当前，国内外学者对自主武器系统的研究重点已从理论层面向现实规制层面过渡，其不仅关注自主武器的国际法规制难点，还尝试建构以“有意义的人类控制”为核心的规制路径。冷新宇教授认为，“有意义的人类控制”理念能够帮助构建全流程的监管体系，落实个人责任、国家责任不得转移给机器的原则。王玫黎教授等指出，可在《常规武器公约》框架下形成“有意义的人类控制”法律原则，实现对自主性武器实施规制。综合而言，“有意义的人类控制”法律原则的系列研究虽有进展，但更多是理论层面的探讨，关于实际适用方面的研究成果略显单薄。学者乔纳森·克威克（Jonathan Kwik） 表示，由于“有意义的人类控制”缺乏明确定义，使其作为政策或立法的可适用性受到限制。例如，当前“有意义的人类控制”的适用范围与适用程度缺乏明确标准，使其在《常规武器公约》框架下难以奠定基础法律地位进而发挥效用。因此，在“有意义的人类控制”众多的概念定义中厘清其基本要素、明确其适用标准是开展“有意义的人类控制”法律适用性研究的关键。本文在回应“有意义的人类控制”应该如何适用以有效监管自主武器系统、其实际适用是否有助于提升国际人道法对自主武器的规制效果等问题的同时，将探讨“有意义的人类控制”对国际人道法的适用影响、自主武器的责任承担等问题，在明确“有意义的人类控制”具有实际法律适用性后，重点研究其适用的合理路径。

综上，本文尝试将自主武器系统规制中“有意义的人类控制”作为研究基础，考察其基本要素与法律适用性，验证其是否能够成为规制自主武器的有效规则，并给出推动合理应用的相关建议。第一，对“有意义的人类控制”概念进行深度解读。在参考国际有关讨论成果与新进展的同时，结合康德法哲学理论解释“有意义”的基本内涵。第二，确定“有意义的人类控制”的基本要素。“有意义的人类控制”的概念模糊性源自基本要素的不确定性，本部分以国际共识为基础，明确当下“有意义的人类控制”基本要素的“孤立”特性之弊端。在此基础上引用诺埃尔·夏基（Noel Sharkey） 等学者针对自主武器系统规制提出的“分级分类”监管构想，并与“有意义的人类控制”理念相融合以论证该监管方式的可行性。第三，对“有意义的人类控制”的法律适用性展开研究。重点探索其在国际人道法中的实际适用效果，尤其是对国际人道法中区分原则、比例原则等实际适用方面的影响，为“有意义的人类控制”相关的政策讨论提供法律论证基础。第四，论证“有意义的人类控制”得以适用的国际法路径，主要从确定其法律地位、构建以其为指导理念的自主武器系统监管框架两个方面进行构思。

一、“有意义的人类控制”概念解读

“有意义的人类控制”是在自主武器系统的规制探索中取得的重要进展。“有意义的人类控制”最初由英国非政府组织“第36 条”（Article 36）提出，并逐渐成为《常规武器公约》以及各国和国际组织讨论的重要概念。虽然“有意义的人类控制”已处于自主武器系统规制体系的核心地位，但由于国际社会理念、立场的差别使其基本概念并不明确，其基本要素也不清晰。为克服“有意义的人类控制”实际应用的局限，需要对其概念进行再解读。

（一）“有意义的人类控制”得以形成的基本原理

“有意义的人类控制”主要从伦理学角度审视自主武器系统的应用问题。目前，对自主武器系统伦理道德的质疑主要集中在自主武器对人类造成的杀戮结果中：考虑到自主武器系统的适用可能存在巨大的“责任鸿沟”，无法实现战后正义规约的责任溯源。更为关键的是，自主武器系统可能面临违背人类尊严的风险，因为从理论上讲，机器是否可以充当人类的道德代理人，以及自主武器系统适用中面临的算法黑箱如何应对伦理要求等问题并不明确。自主武器系统的适用除了存在上述风险挑战，考虑到其可以提高目标打击精准度等优势，并可以在一定程度上缓和违反人道危机的现实紧迫性，因此，国际法并未禁止自主武器的开发和部署，而是关注自主武器的使用管制与风险管控。国际社会将“预防性禁止”作为自主武器系统规制的主要理念，重点对自主武器系统的研发、部署、扩散等环节增加伦理设计，确保自主武器系统的适用满足国际人道法的要求。在这一理念的指引下，“有意义的人类控制”概念得以形成，为满足自主武器系统适用中的基本伦理要求，将人类对自主武器系统的监管渗透到其运行的全流程甚至包括自主武器系统的设计规划环节。“有意义的人类控制”概念可以拆分为“有意义”和“人类控制”两个内核，把握其内涵的关键在于准确界定这两个内核的价值，康德法哲学可以为理解“有意义的人类控制”概念提供一个理论框架。康德法哲学重视道德责任、人类尊严的法律价值，认为两者是社会价值的重要组成部分。人类与动物的区别就在于人类可以有尊严地对待彼此，并能认识到道德与尊严的重要性。康德认为人性的尊严就是可以道德地行动。由此可以推断出，“有意义的人类控制”中“有意义”需要满足道德责任、人类尊严的基本价值需求，包括人类能够自愿参与相关行动、自愿干预或放弃行动、承认武力对他人的影响并分辨相关行动背后的伦理价值等；“人类控制”则需满足“保护人类尊严”的要求，充分体现“人是目的”这一价值，应使机器受到人类控制，而非机器控制人类甚至掌握生杀大权。笔者亦认为，“有意义的人类控制”中“有意义”的内涵还在于确保人类对自主武器系统管控措施的有效性，因为自主武器系统并非人类道德上的代理人，保证战斗人员对自主武器系统的绝对控制权与监管权才能满足基本伦理的要求。康德法哲学提倡的人类尊严有助于厘清责任承担者在道德价值成熟且行动自由的条件下，承担损害后果的基本逻辑与适用自主武器的归责路径。

（二）“有意义的人类控制”概念的国际探讨

伴随自主武器技术的发展与实际应用，为应对伦理困境，国际社会展开了对“有意义的人类控制”的广泛讨论，各个国家和组织也在试图给予其合理定义。其中主要包括在《常规武器公约》框架中的“有意义的人类控制”概念、红十字国际委员会对“有意义的人类控制”概念的界定，以及美国、中国、英国等主权国家对“有意义的人类控制”的理念与概念的界定。

1.以《常规武器公约》为平台推进“有意义的人类控制”的发展

《常规武器公约》以人道理念为指导，旨在限制具有滥杀滥伤性和过度伤害力的特定武器。目前，《常规武器公约》已成为一个探索如何规制自主武器系统的核心平台，探讨如何解释并适用“有意义的人类控制”。2018 年起，《常规武器公约》框架下的政府专家组会议开展了对“有意义的人类控制”的概念及构成的讨论。2019 年，《常规武器公约》通过了由其政府专家组会议确立的11 项有关自主武器规制的指导原则，并在2020 年、2021 年的会议中对其继续讨论。该指导原则涉及人机互动、国家审查、风险评估、责任承担等具体措施构想，本质上属于对“有意义的人类控制”理论的延伸。2023 年3 月6 日，《常规武器公约》框架下政府专家组召开第二次会议，呼吁制定一项限制自主武器系统的全球禁令。但美国表示，此种禁令既不成熟又过于狭窄，其更倾向于更广泛但不具约束力的“最佳实践”（Best Practice） 来指导人工智能的军事应用，因此，美国将继续坚持“有意义的人类控制”在自主武器领域的适用。

2.红十字国际委员会对“有意义的人类控制”概念的界定

红十字国际委员会对“有意义的人类控制”的定义深受非政府组织“第36条”的影响，并在此基础上进行扩展与明确。非政府组织“第36 条”将“有意义的人类控制”的概念标准概括为以下四个部分：其一，采用可预测且可靠、透明的技术；其二，可提供准确的信息供使用者判断所处情形及可能产生的结果；其三，及时的人类判断与行动；其四，具有一定的问责标准。在此基础上红十字国际委员会进一步提出“有意义的人类控制”的概念：“有意义的人类控制”是指在自主武器执行任务、攻击目标、感知作战环境与作战地理空间和时间等环节保证人类监督自主武器系统，且保证人类在必要时拥有解除自主武器系统运作的能力。由此可知，红十字国际委员会对“有意义的人类控制”的关注点在于保证人类对自主武器作用的全流程监管与控制，其在人类对武器运作状态的感知能力领域提出了更高要求，使得可预测性和可靠性成为“有意义的人类控制”定义中的关键点，但目前人类在自主武器系统运作中的参与程度仍存在争议，其参与方式也并不明晰。

3.主权国家对“有意义的人类控制”理念与概念的界定

2023 年1 月25 日， 美国国防部宣布更新3000.09 号指令（DoD directive3000.09 Autonomy in Weapon Systems），旨在最大限度减少自主和半自主武器系统可能导致意外冲突的故障概率和后果。该指令要求：（1） 自主和半自主武器系统将被设计成允许指挥官与操作人员对武力的使用进行适度人为干预的系统。（2） 授权使用、指导使用或操作自主和半自主武器系统的人员适当地谨慎行事，并遵守战争法、适用条约、武器系统安全规则和适用的“交战规则”。（3）武器系统在现实条件下展示了适当的性能、能力、可靠性、有效性和适用性。（4） 包括AI 功能系统的设计、开发、部署和使用符合美国国防部《人工智能准则：国防部人工智能应用伦理的若干建议》（AI Principles：Recommendations onthe Ethical Use of Artificial Intelligence by the Department of Defense） 和美国国防部《负责任的人工智能战略和实施途径》（Responsible Artificial IntelligenceStrategy and Implementation Pathway）。美国认为控制目标环境与自主武器系统的操作边界对实现自主武器系统的行动目标并保持必要的人类控制水平至为关键，新指令承认人为适度干预对自主武器系统军控的重要性，并明确指出，在自主武器的操作阶段也需引入“有意义的人类控制”的设计理念。2023 年5 月，美国、加拿大、日本、英国等六国向联合国提交《自主武器系统条款草案——基于国际人道法的禁令和其他监管措施》（Draft Articles on Autonomous WeaponSystems—Prohibitions and Other Regulatory Measures on the Basis of InternationalHumanitarian Law），提出了为促进自主武器系统使用符合国际人道法原则的具体措施建议。同月，阿根廷、哥伦比亚、巴勒斯坦、菲律宾等14 国向联合国提交了《关于自主武器系统的第六附加议定书草案》（Draft Protocol onAutonomous Weapon Systems， Protocol VI，以下简称《草案》），呼吁“禁止无法在有意义的人类控制下使用自主武器系统，包括使用无法预测、解释、理解或追踪的武器系统”。《草案》将“有意义的人类控制”作为使用自主武器的必要条件，凸显出其对自主武器规制的重要地位。2023 年2 月21 日，中国发布《全球安全倡议概念文件》（以下简称《文件》），强调大力推动人类安全共同体，关注人工智能等新兴科技领域的国际安全治理。尽管《文件》中没有涉及详细的“有意义的人类控制”理念，但中国“增强对人工智能技术的安全评估和管控能力，确保有关武器系统永远处于人类控制之下，保障人类可随时中止其运行”的立场，依然明确了“有意义的人类控制”的重要地位，以确保人类对自主武器的管控满足法律伦理的要求。

由此可见，在理念层面，诸如美国、英国等军事强国考虑自主武器在精准打击方面的优势时并未禁止自主武器的开发与适用，而是期待通过“有意义的人类控制”的应用达到对自主武器的有效规制，肯定了“有意义的人类控制”在自主武器系统监管中的重要价值，但未严格将其作为自主武器应用的前提条件。相比较，诸如菲律宾、巴勒斯坦等缺乏军事实力的国家虽支持以“有意义的人类控制”作为适用自主武器系统的前置条件，但对“有意义的人类控制”的概念解释十分苛刻，要求其适用的范围更广。综合“有意义的人类控制”在各主权国家中的发展，以及其重要性有日益提升的趋势，“有意义的人类控制”的适用范围也正在向自主武器设计等领域扩展，呈现出全流程的监管态势。

“有意义的人类控制”是在有关自主武器系统规制的探讨中提出的概念，近年来被视为解决自主武器系统违反人道法诸多问题的有效方案，其理念已获得国际社会的广泛认可。“有意义的人类控制”概念的发展侧重强调人类对自主武器的监管，包含对自主武器使用的可预测性、态势感知程度、战争情形控制、人为干预能力等多方面的要求，以保证自主武器使用不违背国际人道法的底线。“有意义的人类控制”概念应旨在回答“有意义”“人类控制”的内涵，跳脱出概念的界定而直接关注其基本要素并不符合法律论证逻辑。参考红十字国际委员会对“有意义的人类控制”概念的描述：“有意义的人类控制”是保证在其运作的多个环节实现人类的有效监督并随时保持人类对自主武器运作的解除权。该描述强调“有意义的人类控制”实际适用的关键在于结合自主武器运作的全流程探讨其参与度与界限。由此，“有意义的人类控制”基本要素的确定需要结合自主武器作用的全流程，主要讨论其参与的程度以及是否应采取针对自主武器系统分类适用的路径。

二、“有意义的人类控制”基本要素分析

在厘定“有意义的人类控制”概念的基础上，进一步归纳“有意义的人类控制”的基本要素对后续研究其法律适用有积极的意义。目前，对“有意义的人类控制”基本要素的分析已建立起一套较为完整的研究方法，即在总结国际现有关于“有意义的人类控制”基本要素观点的基础上，将其基本要素嵌入“自主武器运行全流程模型”中进行“有意义的人类控制”适用方式与适用界限的探讨。但对“有意义的人类控制”的适用方式如果规定得太过详细且过于聚焦武器应用环节，会使其具体细则因细化过甚影响适用的灵活性，进而影响整体适用效果。近年来，有学者提出“区分理念”，尝试在区分自主武器类别以及不同自主情形的基础上分类适用“有意义的人类控制”，类似于“分级分类监管”的法律规制路径，其具有进步意义。笔者认为，对“有意义的人类控制”基本要素的进一步分析不仅应着眼于具体要素的厘清，更应探索有效的适用方式。在目前的研究方法与相关成果基础上，笔者以“分级分类监管”理念为指导，探讨针对“有意义的人类控制”实际适用的可行性。首先对国际主要观点进行总结梳理，概括“有意义的人类控制”基本要素的可能组成和现有缺陷，在确定自主武器运作全流程基础上，引入“有意义的人类控制”并探讨依据“诺埃尔·夏基的区分理论”划定“人类控制”的参与程度与行为界定的“五级”标准的可行性。

（一） 关于“有意义的人类控制”基本要素的国际探讨

英国非政府组织“第36 条”首次提出“有意义的人类控制”后，于2016 年发布了“有意义的人类控制”的四种关键要素：其一，可预测、可靠和透明的技术；其二，可为作战人员提供有关技术、环境和可能的作战方案的准确信息；其三，人类可以有足够的时间进行判断、操作、监管以及必要时刻的干预；其四，建立问责机制。2020年，国际机器人武器控制委员会（International Committee forRobot Arms Control，ICRAC）基于《常规武器公约》提出“有意义的人类控制”的基线标准，认为“有意义的人类控制”的基本要素包括：其一，人类指挥员（或操作员） 必须对目标区域具有全面的了解和态势感知，能够感知和应对自计划攻击后可能出现的任何变化或意外情况；其二，攻击必须包含人类积极的认知参与，保证有足够的时间审议目标的性质、攻击的必要性和适当性，以及攻击可能产生的附带和可能的意外影响；其三，必须有迅速中止或中止攻击的手段等。红十字国际委员会将“有意义的人类控制”的基本要素确定为四个部分，包括对可预测性、可靠性、可控制性以及问责框架的关注。上述三个机构（组织） 有关“有意义的人类控制”基本元素的比较分析表如下：

国际机器人武器控制委员会对“有意义的人类控制”基本要素的概括是对“第36 条”观点的扩充，强调在复杂的战斗情况中人类指挥员（或操作员） 的重要作用，要求战斗人员增强其对战争的态势感知、理解和判断能力，保证不被自主武器所取代，但缺少了对自主武器系统可预测性与可靠性的关注和基本归责框架，过于关注武器应用流程的人类控制。国际机器人武器控制委员会对“有意义的人类控制”的定义基础是相信人类较自主武器而言对战争的可控性更为优越（例如，人类参与控制可避免造成不必要的损失、准确区分平民与战斗员等情形）。目前，这一前提尚属于人类控制自主武器的理想化假设，但其符合基本伦理价值，其表达了在使用自主武器系统时对人类的可预测性、及时操控性的重点关切。相对而言，红十字国际委员会的观点与“第36 条”则较为相似，对“有意义的人类控制”基本元素的概括均包含了四个种类，其关注人类对自主武器系统流程的干预，并设置了问责框架。但两者仍存在区别，例如，红十字国际委员会并未规定自主武器系统技术的透明性。

2020 年，埃克伦德（Eklund） 在一份题为《自主武器系统的有意义的人类控制：根据国际人道法和国际人权法的定义和关键要素》（Meaningful HumanControl of Autonomous Weapon Systems： Definitions and Key Elements in the Lightof International Humanitarian Law and International Human Rights Law ） 的报告中以更广泛的视角对“有意义的人类控制”的关键要素进行归纳。研究最终得出了“有意义的人类控制”的六个关键元素，为进一步发展“有意义的人类控制”的统一概念提供了坚实的基础。由此可见，无论官方观点还是学界研究成果，目前都存在以清单列举“有意义的人类控制”基本要素的形式。但遗憾的是，“有意义的人类控制”基本要素只是“孤立”标准的集合，并不系统化。将“有意义的人类控制”的适用重点聚焦于武器的应用环节，虽然具有较强的实践性和技术性，但不利于充分发挥监管效能。目前，国际社会试图给出“有意义的人类控制”的一个万能公式，包含具体的关键要素并将之运用于所有种类的自主武器系统，但自主武器系统的全流程监管的方式没有充分考虑自主武器系统的自主性、环境影响等因素，并不科学。诺埃尔·夏基指出，对“有意义的人类控制”基本要素的界定与实际应用，应放弃“统一公式”的方法，转而使设计更加精细化，能够采用适当区分的方式实现“有意义的人类控制”。

（二）“诺埃尔·夏基区分理论”对“有意义的人类控制”的适用

诺埃尔·夏基根据自主武器的自主程度差别对“有意义的人类控制”进行分类，用来消除“统一公式”的缺陷。夏基依据武器自主性和人为控制程度将“有意义的人类控制”分为五级监管类别：第一级，负责控制的操作员能够决定是否与目标交战、设置目标并发起攻击。第二级，自主武器的程序系统建议替代目标或给出目标列表时，控制者能够选择要攻击的目标。第三级，程序自动选择目标攻击前要经过控制者的批准。第四级，如果自主武器已经作出选择，目标控制者有足够的时间和能力可以取消针对目标的攻击计划。第五级，自主武器选择目标并在没有人为干预的情况下发起攻击，无须人工参与。以等级划分为基础，学者丹尼尔·阿莫罗索（Daniele Amoroso） 和古列尔摩·坦布瑞尼（GuglielmoTamburrini） 继续提出将一、二等级作为“有意义的人类控制”适用的一般情形，从第三级开始，考虑存在自主武器系统“算法黑箱”以及自动化偏差的情形，三、四、五级只有在例外情况满足的条件下才能被接受。具言之，如果想要适用高于一级和二级的自主武器，需要签署适用相应级别自主武器系统的国际协议或是满足例外情形。例如，可以使用第三级的情形是在公海、沙漠或者以前没有平民或者不太可能有平民的密闭环境中，第四级情形只能专门用于防御的目的，而第五级原则上不可以被接受，因为使用这个级别的自主武器与“有意义的人类控制”的基本理念相悖。丹尼尔和古列尔摩对高级别的自主武器系统使用做了非常有限的例外，指出在人类控制程度较低且使用自主武器系统可能对人类造成损害后果的情况下，需要对自主武器系统的使用进行严格限制。

诺埃尔·夏基提出的区分理论为规制自主武器系统并指导“有意义的人类控制”的适用提供了一种差异化公式。一方面，这一安排相较于对所有自主武器系统适用统一的规制方式更为可行。诸如上述“有意义的人类控制”基本要素的“孤立”清单，虽然具有明确性，但会给国际法的制定造成实质困难，并导致对具有较低自主性的自主武器系统产生不必要的限制。另一方面，“分级分类”的监管模式已成为各领域的常用形式，差异化的“有意义的人类控制”适用方式有助于更好实现国际监管。然而丹尼尔和古列尔摩针对“有意义的人类控制”的实际应用方式是否可行，还需进一步探讨。目前尚不确定自主武器系统的发展速度与未来的发展趋势，考虑伴随自主武器系统技术的进步，其使用在“有意义的人类控制”的控制下可能比人类本身更加符合国际人道法要求的现实，因此，笔者认为，不应在当前对自主武器系统的适用进行“一刀切”的限制，实质上这种制度设计也会因国际军备水平发展的差距难以取得国家间的共识。相反，应结合自主武器系统技术的发展和国际社会的现实要求，以“分级分类框架”为支撑融入“有意义的人类控制”理念，优化其对自主武器系统的实际适用效果。因此，针对“有意义的人类控制”的适用方式还需要结合自主武器系统的发展进行动态调整。目前，诺埃尔·夏基提出的五级监管类别为自主武器系统的分类监管搭建了基本框架，未来应关注“自主武器系统的可预测性、可靠性、透明性”“人类的态势感知、情景控制”“人为干预能力”“责任承担”等要素如何与分类监管框架相融合，以保证在“OODA回路”中实现“人在循环”的要求。对自主武器系统的设计也应关注“有意义的人类控制”的体现，对完全自主的自主武器系统应对其设计与生产予以坚决排斥。

三、“有意义的人类控制”的法律适用性

依据上文对“有意义的人类控制”的关键要素和适用可行性的分析，本部分重点探讨其法律适用性，尤其关注“有意义的人类控制”的适用对国际人道法规制自主武器系统的效果。当前国际人道法对自主武器的监管依据主要有两个：其一，武装冲突的基本原则，例如，比例原则、区分原则、人道原则等。其二，《1949 年8 月12 日日内瓦四公约关于保护国际性武装冲突受难者的附加议定书（第一议定书）》［Protocol（I） Additional to the Geneva Convention of 12 Aug. 1949，and Relating to the Protection of Victims of International Arm91315fad2c40266e3ac5e5a2a808933896330c199492a8fe274c3c6a723b6f0bed Conflicts （API）］ 第36 条“关于管制和禁止性质不加区分并造成过度伤害的武器”规则。第36 条规定，缔约国在研究、发展、装备、使用新武器和新作战方式前负有审查该武器或作战方式是否被议定书或其他国际条约禁止的义务。在上述两类监管中，国际人道法的基本原则关注武器使用的过程与结果，属于事中和事后监管。第36 条审查规则要求缔约国自愿履行对新武器或新作战方式的自主审查，自主审查涵盖武器的研发到实际使用的诸多流程，属于事前评估。理论上，以上两条路径能够构建针对自主武器规制的全流程监管，但就目前的实施现状而言，效果并不显著。一方面，国际人道法基本原则在自主武器的规制方面存在局限，无法有效适用；另一方面，第36 条审查规则给了缔约国武器审查较大自主权。根据条款文义，对新武器的审查由缔约国自行完成，并判断是否违反其他条约或议定书的要求，这一设置将无法检验缔约国是否对新武器（新作战方式） 实施了审查，也无法判断审查结果的客观中立性，进而影响审查条款的实施效果。为破解国际人道法对自主武器监管的困境，应引入“有意义的人类控制”，加强对自主武器的全流程监管，满足区分原则、比例原则的要求。

（一）“有意义的人类控制”与区分原则区分原则

对保护不参加敌对行动的个人意义重大，例如，平民、医务人员和非战斗人员（包括处于受保护地位的伤病员）。区分原则强调通过区分平民和战斗人员以及对军事目标而非民用目标直接行动，来保护平民人口和非军用设施不受损害。在区分原则对自主武器系统军控的适用上，关键是保障自主武器系统在作战过程中对发现目标进行准确区分。但依据当前自主武器系统的技术水平，其感知态势、获取信息主要依靠于C4ISR 系统（C4 代表：命令Command、控制Control、通信 Communication、计算机Computer；I 代表：情报Intelligence；S 代表：监视Surveillance；R代表：侦察Reconnaissance），该系统是现代军队的神经中枢，通过系统中分布的各类传感器、成像设备、通信设备等因素辨识目标，提高精确度。但在真实战争中敌方加以伪装的情况下，自主武器系统是否还可以做到准确辨识，达到甚至超过人类的判断水平，尚不确定。如若出现目标识别错误的情况，归责路径亦不明晰。上述情形均给自主武器系统军控中区分原则的适用带来了阻碍与弊端。

针对上述困境，可通过“有意义的人类控制”加强对自主武器系统使用过程中的人类控制，提高自主武器系统打击的准确度。例如，“态势感知”和“情境控制”作为“有意义的人类控制”的基本要素之一，要求自主武器系统具有感知和规避危险的能力。为符合“有意义的人类控制”的基本要求，自主武器系统需要人类的积极参与，例如，在设计阶段提高自主武器系统评估目标的能力，提高其对战争态势的感知程度。此外，在自主武器系统运行流程中，“有意义的人类控制”的适用涉及某种程度的人为干预和监督，支持对自主武器系统在必要时的人为干预，侧重人类对武器能力、限制和功能的理解以应对自主武器系统可能发生故障的情形，避免造成不加区分的伤害后果。此外，“有意义的人类控制”的适用也理清了自主武器系统的归责路径。“有意义的人类控制”针对自主武器系统的全流程监管不仅包含自主武器系统的实际运行阶段，还包括自主武器系统的设计与研发过程，当存在打击失误的情况还可借助“人类控制”的事实而要求国家或个人承担责任，防止将责任转移至机器，这也符合归责的基本逻辑。

（二）“有意义的人类控制”与比例原则

国际人道法的比例原则起源于欧洲中世纪，其内涵是限制军事行动所造成的不必要伤害，要求军事行动中造成的附带伤害与军事利益成比例，最大限度减少对平民或民用物体等的损害，禁止造成不必要的痛苦。由于比例原则与限制原则类似，均出于人道保护对军事行动损害采取限制以满足比例要求，遂本文不再论述限制原则。在探索比例原则对自主武器系统军控的适用性问题上，核心在于衡量自主武器系统的武装打击是否可以满足比例原则的要求。但事实上，军事利益和附带伤害的衡量并非简单的量化比较，是否可以用计算的方式确定军事利益与附带损害的比例关系尚不明确。由于自主武器系统具有人工智能特性，有关算法会相应提升打击的稳定性和精确度，但考虑自主武器系统还具有“致命性”特征，一旦出现目标打击失误的情况，势必会造成巨大的不必要损失，违反比例原则。可见，传统国际人道法的比例原则已不再满足对自主武器系统规制的要求，其适用性也在逐步削弱，亟需探索优化路径。

由于比例原则主要目的是防止“过度”伤害，侧重于限制武力对平民生命和民用物体的伤害和损害，这就要求自主武器系统提高可预测性与可靠性，“有意义的人类控制”基本要素正在促进自主武器系统此种能力的提升。为满足比例原则的基本要求，目前，战争仍需依靠人类指挥官对攻击的比例和附带损害做出定性、具体的判断，因为战场环境的流动性与多边性常使人工智能很难准确权衡损失与获益，更无法考察人类的心理作用，单独依靠数量的比较更不能达到比例原则的要求。但“有意义的人类控制”基本元素可以对促进自主武器系统识别、感知环境提供指引：例如，在自主武器系统的设计环节，人类对自主武器系统的设计需要符合“有意义的人类控制”理念的基本要求，包括针对自主武器设计促进人为干预的系统、评估目标可靠性的算法、提升传感器强度、提高空间限制和处理数据能力的必要技术等，用于帮助人类识别自主武器系统的攻击是否满足比例原则。在自主武器系统的运行过程中，为符合“有意义的人类控制”“态势感知与环境控制”的基本要素，人类可通过自主武器系统监测战场环境，确保平民不进入战斗、不攻击非军用基础设施。“有意义的人类控制”“保证人为干预”基本要素，还促使人类对自主武器系统的运行可能造成违反比例原则的打击后果进行有效干预与及时终止，以避免过度的伤害与损失。

四、“有意义的人类控制”适用的国际法路径

鉴于“有意义的人类控制”与国际人道法的相互作用有利于自主武器系统的监管，《常规武器公约》框架下的专家小组明确表示支持建立适用于包括防空系统在内的所有武器系统的“有意义的人类控制”全球标准，强调在自主武器系统的整个运行过程中纳入统一的“有意义的人类控制”标准，包括从武器预开发、测试和评估到武器的认证和部署、指挥和控制测试，甚至是事后评估全流程。如果将“有意义的人类控制”标准进行统一，可为国际社会讨论与自主武器系统监管的相关规则提供共同背景支撑，促进以规制自主武器系统为核心的监管条约或附加议定书中法律规制标准的形成。统一“有意义的人类控制”全球标准需要做到对“可预测性”“保证人为干预”等基本要素进行准确界定，提高国际社会对“有意义的人类控制”的认识。此外，以“有意义的人类控制”为中心理念的自主武器系统监管框架应具有合理的灵活性，涵盖目前种类多样、定义不明且使用频繁的自主武器系统，优化对自主武器系统的审查与监管。上述目标的达成需依靠国际法进行，基本路径如下：一方面，将《常规武器公约》作为“有意义的人类控制”发展的重要平台，在《常规武器公约》平台下确立“有意义的人类控制”的法律地位，为促进其适用提供可行渠道。另一方面，在此基础上，建立并完善以“有意义的人类控制”为基本理念的自主武器系统监管框架，此框架应突出“分级分类监管”特质，并完善问责体系，以此监督各缔约国遵守自主武器系统领域的基本监管规则。

（一） 在《常规武器公约》框架下确定“有意义的人类控制”的法律地位

《常规武器公约》作为能够最大程度保障人道考虑和安全利益平衡的国际法工具，是讨论自主武器规制的重要平台。由于《常规武器公约》拥有多元的参与者、深入的研究基础，也是最有可能形成具有针对性的、以适用于自主武器军控制度的场合。“有意义的人类控制”的推广需要《常规武器公约》的支持，亟待在《常规武器公约》框架下确立“有意义的人类控制”的法律地位。实现这一目标，可通过推动自主武器系统附加议定书的达成，为“有意义的人类控制”法律地位的奠定提供空间。有学者在比较法律规则与法律原则异同的同时，结合“有意义的人类控制”的发展现状认为由于其具有“有益模糊性”的特点，应推动其设立为自主武器系统附加议定书的法律原则，以满足“有意义的人类控制”目前具体适用的模糊性。笔者认为，这一观点对“有意义的人类控制”法律地位的确定提供了基本思路，考虑“有意义的人类控制”对自主武器系统规制的重要作用，无论是将其确定为法律规则抑或是法律原则，目的都是为“有意义的人类控制”的实际适用提供法律来源。无论“有意义的人类控制”上升为法律原则是否可行，达成“有意义的人类控制”的国际认可是推动其实际适用的关键。就目前国际社会主流观点来说，《常规武器公约》框架下政府专家组会议已明确认同“有意义的人类控制”的作用与价值，多数主权国家也对“有意义的人类控制”予以认可，因此提高“有意义的人类控制”的法律地位进而成为规制缔约国的法律原则具有可行性。但不可否认，在国际合作趋势日益下行的今天，全球造法的困难日益加剧、多边条约的推进难度逐渐加大，推进《常规武器公约》框架下附加议定书的达成也愈发困难。因此，在新议定书尚未达成前国际社会还应借助《常规武器公约》平台推进各国对自主武器军控的讨论，不断扩充和完善“有意义的人类控制”的内容（例如，多个国家不断丰富“有意义的人类控制”的理念、设计“有意义的人类控制”的具体规则），满足国际人道法比例原则、区分原则等的要求。这一方式可逐步提高“有意义的人类控制”的影响力，确立其国际习惯法地位。

当前，中国积极参与并支持《常规武器公约》框架下政府专家组会议提出的自主武器系统自主武器议定书，但限于我国国内尚无有关法律与政策予以支持，使得推动力明显不足。未来，中国应积极加入国际社会关于自主武器系统规制的探讨，尤其是有关“有意义的人类控制”法律地位的讨论，为我国在自主武器领域的国际博弈赢得先机。

（二） 建立以“有意义的人类控制”为基本理念的自主武器系统监管框架

本文主要研究“有意义的人类控制”的基本要素与适用性，因此，在考察其实际适用路径中着重论证了针对自主武器系统“分级分类”审查与监管的必要性。目前，国际社会针对自主武器系统的监管停留在“有意义的人类控制”对自主武器系统运行全流程的干预，涉及武器的研发、指挥控制等多个领域，并规划了“有意义的人类控制”干预后应该达到的实际效果。但事实上，目前的自主武器系统各个领域并非完全相同，仅在“自主性”程度领域就有区分。因此，针对自主武器系统的监管应在科学分类的基础上进行，建立自主武器系统审查机制。对自主武器系统的“分级分类”是“有意义的人类控制”有效适用的第一步，在此基础上依据自主武器系统等级的划分针对性地适用“有意义的人类控制”，更有利于自主武器系统的清晰监管，也有利于自主武器系统归责路径的明确，从而促进自主武器系统问责体系的建构。具体而言，自主武器系统的监管框架包括自主武器审查机制和自主武器系统问责体系两个主要部分，应重点在自主武器审查机制的建构中引入“分级分类”的监管理念。

1.建立国际与国内两个层级的自主武器审查机制

自主武器系统的研发与部署呈现一种必然的发展趋势，全面禁止自主武器系统的研发逐渐欠缺现实意义与价值。法律审查制度是有效督促自主武器系统的研发、取得和应用符合国际人道法要求的重要机制，在军事需求的驱动下，借助人工智能技术不断提升自主武器的性能将成必然，人类对高标准自主武器的追求与西方某些国家消极的法律审查行为之间的矛盾也会日益加剧。为满足“有意义的人类控制”这一核心理念的要求，建立国内和国际两个层级的自主武器审查机制将成为遵守和履行国际人道法的可行路径。在国际层面，可以以《常规武器公约》为平台确立自主武器系统法律审查机制，包括审查标准、审查机构、审查责任等内容。2006 年红十字国际委员会出台了《新武器、新作战手段和方法法律审查指南》（The International Committee of the Red Cross’ A Guide to LegalReview of New Weapons，Means and Methods of Warfare） 对新武器的审查标准、审查程序等进行规定，却由于缺乏强制性、规则不够细致，以及审查标准也不符合自主武器的发展前景而实施效果不佳，未来自主武器审查的法律责任制度的建构将是破题的关键。在国内层面，西方各国对自主武器的审查并不积极，目前仅有瑞典、美国、挪威、日本、丹麦等少数国家建立了武器合法性的国内审查机制。在此背景下，中国应积极推动《常规武器公约》框架下自主武器审查机制的制定，不断完善国内立法，建立国内立法与国际要求衔接的自主武器审查机制，向国际社会输出中国的自主武器系统军控理念。

但需要注意，无论是国内还是国际审查机制都应纳入“分级分类”的监管理念，在自主武器系统全流程监管的基础上设立自主武器系统的“分级分类”标准，参考自主武器系统的自主性、杀伤性强弱，由低到高进行等级划分，对完全自主的、具有致命杀伤力的武器应完全禁止开发和使用，重点对自主性等级较低的自主武器系统进行规制，使监管定位更加准确。另外，针对不同层级的自主武器需要合理设定“有意义的人类控制”的介入环节与实际要求，使监管路径更加清晰。

2.建构自主武器系统多元化问责系统

“有意义的人类控制”为自主武器系统的归责提供了可行路径，但有关自主武器系统军控的问责体系建构仍需持审慎态度。目前，能够明确的是：自主武器只有在故意的情况下才可以追究相关人员或国家的刑事责任，且需要满足国际刑法的基本理论逻辑。美国对自主武器问责体系的建构也基本停留在理论层面，确定以当事人的主观故意作为问责前提，而对非故意行为只简单提及具有问责可能性，但具体程序与规定并不明确。由于目前各国针对自主武器规制的态度并不统一，依靠国际法建立对自主武器全流程运行的问责制度尚不现实。因此，自主武器系统问责体系构建的基本路径是以完善国内法为出发点，继而促进《常规武器公约》框架下自主武器系统附加议定书的达成。只有以附加议定书中“有意义的人类控制”的适用标准作为指导，才能不断理清自主武器系统的问责路径。另外，自主武器系统的具体责任应包括个人责任与国家责任两个部分。承担国家责任的情形主要包括国家未尽法律审查义务而产生损害后果的情况，以此呼应国家法律审查制度的建立。承担个人责任的认定因素众多，涉及指挥员、战斗员、设计者、生产商等多个主体，个体的主观动机是否为故意，是否造成实际损害等，需要结合自主武器的发展程度细致划分。

五、结语

现代科技不断推动自主武器的发展，自主武器借助算法技术已经能够实现自主选择目标并予以精准打击。自主武器系统的设计理念体现了智能化、算法化的特征，也体现出其各运行阶段的衔接性。由此，自主武器系统的全流程监管方式应运而生，全流程监管强调人类对自主武器的控制，促使“有意义的人类控制”成为自主武器系统军控领域的核心理念，同时也成为未来衡量人工智能军事化应用“合法性”“合理性”的重要指标。“有意义的人类控制”的法律适用，其关键在于明确标准并确立科学有效的监管路径，这些需要国际社会的共同努力。未来，针对自主武器系统的规制，国际社会应转换研究视角：不仅要开展自主武器系统技术的探索，还要着眼于“有意义的人类控制”的实际应用方面，在国际法领域寻找“有意义的人类控制”的适用路径，以及继续优化“有意义的人类控制”在自主武器系统监管领域的适用，以更好地保证自主武器的使用符合国际人道法的基本原则和精神，更好地保障人类尊严。

（责任编辑：李 娟）