美国人工智能军事化的发展态势、风险与应对路径*

孙海泳

【内容提要】 基于传统的技术制胜的军事战略思路以及塑造相对于其他大国的军事优势的需要，美国政府与军方已加快人工智能技术在军事领域的应用。其侧重点主要体现在以下三方面：第一，制定与实施各类人工智能发展规划与方案，为推动军事智能化创造条件；第二，加快推动人工智能军事化应用项目的发展，特别是以人工智能技术提升作战指挥系统的综合效能，推进自主攻击平台的研发与应用；第三，强化与盟国在人工智能军事化领域的合作。上述态势造成三方面风险：第一，加剧基于新兴技术的军备竞赛风险；第二，增加大国间发生冲突甚至战争的可能性，这是因为基于人工智能技术的自主攻击系统的可靠性不足，而且人工智能军事化系统的应用会侵蚀大国间的战略“默契”并降低网络攻击的门槛；第三，可能重构大国间威慑体系并侵蚀国际安全的稳定基础。对于中国而言，面对美国推进人工智能军事化所产生的诸多风险因素，需从强化技术进步等方面应对智能化冲突或战争风险，参与和引导人工智能技术全球治理进程以提升中国的话语权，拓展中美在应对上述风险方面的合作空间。

自21世纪第二个十年以来，随着“大数据”资源的可用性、机器学习方法与计算机处理能力的改善，基于机器学习的狭义人工智能（Narrow AI）获得快速发展。从历史发展趋势和未来战争需求看，人工智能日益成为推动新一轮军事革命的核心驱动力。自2012年以来，特别是特朗普政府与拜登政府执政期间，美国政府与军方显著强化了对人工智能军事化的战略规划、研发与应用进程。在美国人工智能军事化议题领域，相关研究主要集中在以下方面：一是探讨美国人工智能军事化的驱动因素，分析美国人工智能军事化的发展背景、战略溯源以及推进态势，并重点探讨了美国智库在人工智能军事化中的推动作用。①赵超阳等：《美军人工智能战略发展的智库策源研究》，上海：东方出版社，2021年。二是探讨美国人工智能军事化的实施路径，分析美军在推进人工智能军事应用领域所采取的规划、项目等方面的举措，②曾子林：《美军推进人工智能军事应用的举措、挑战及启示》，《国防科技》2020年第4期。探讨在人工智能军事应用领域的过程中，美国国防部和产业界之间的沟通和对话方式，③Larry Lewis, “Resolving the Battle over Artificial Intelligence in War,” RUSI Journal, Vol.164,No.5/6, July/August 2019.分析盟国与美国的人工智能作战系统的互操作性等问题。④Satoru Mori, “US Defense Innovation and Artificial Intelligence,” Asia-Pacific Review, Vol.25, No.2,2018.三是分析美国人工智能军事化面临的挑战，如美国人工智能军事化面临的人才瓶颈、公私合作障碍以及发起人工智能军备竞赛所可能导致的安全困境。⑤李恒阳：《美国人工智战略探析》，《美国研究》2020年第4期。四是探讨美国在自主武器军控等规则领域的战略倾向，如以美国对自主武器的利益关切为切入点，分析美国在自主武器国际军控问题上的立场及其驱动因素，以及美国在参与过程中的角色特征和行为模式。⑥王玫黎、杜陈洁：《美国参与自主性武器国际军控的战略关切及角色定位》，《国际观察》2021年第2期。既有研究成果对理解美国人工智能军事化进程的动因、方式与面临挑战方面提供了富有启发性的见解。但仍有三方面问题值得注意：一是国外学者在研究美国人工智能军事化问题的进程中，倾向于渲染中俄等国在军事智能化领域的进步及“威胁”，并淡化美国推进人工智能军事化的负面影响；二是关注人工智能军事化所产生的诸多风险，但对美国人工智能军事化所造成的安全风险的系统性分析尚显薄弱；三是从中国的视角，针对美国人工智能军事化进程的应对路径的研究仍需加强。鉴此，本文尝试在探讨美国人工智能军事化的驱动因素与发展态势的基础上，分析其对国际安全与战略稳定造成的风险，并探讨中国的应对路径。

一、美国人工智能军事化进程的主要驱动力

人工智能的诸多特征使其对国家安全具有重要影响。美军借助技术优势获得战争胜利或战略优势的历史经验以及美方对其军事技术相对优势的下降趋势的担忧，成为美国加快推进人工智能军事化进程的主要驱动因素。

（一）美军基于技术优势的制胜传统

技术优势一直是美国军事实力和国家竞争力的一个重要支柱。技术优势是美国在第二次世界大战和冷战中获胜的重要支持条件之一，这强化了美国的技术工具主义理念，同时形成并不断强化了美国依托新兴技术与装备优势以塑造军事优势、达成作战目标的传统。美军对技术绝对领先的执著来源于对绝对的、强烈的安全感的追求以及对美利坚民族优越性的执念。为了保持绝对的安全和强大，美国将国防科技作为重要工具和关键支撑，在国防科技发展上始终追求保持绝对领先地位，始终与别国保持绝对的安全距离，不能容忍被接近或超越，并为此不断寻求军事技术的突破。①赵超阳等：《美军人工智能战略发展的智库策源研究》，上海：东方出版社，2021年，第14页。特别是在20世纪70年代之后，美国率先研发了隐形和精确制导武器技术，使其在信息时代的战争，如20世纪90年代初的海湾战争等局部战争中快速获取战场优势。这也进一步强化了美国在军事领域依托技术制胜的战略理念。

在当今的美国，人工智能被誉为继20世纪70年代信息技术发展之后的第三次抵消战略（the Third Offset Strategy）。②Kenneth Payne, “Artificial Intelligence: A Revolution in Strategic Affairs?” Survival, Vol. 60, No. 5,2018, p.7.智能化战争的核心则是以“算法+数据”构建起作战系统的灵魂大脑。人工智能与大数据、云计算、天基信息等新兴技术的加速发展与创造性融合，加快了“智能化作战”能力的形成。③吴明曦：《智能化战争——AI军事畅想》，北京：国防工业出版社，2020年，第62页。从技术层面来看，掌握人工智能武器可具备以下优势：一是自主性优势，即自主系统能够增强甚至取代人类所从事的作战行动；二是速度提升潜力，即人工智能技术可大幅提升武器系统的信息处理效能与反应速度；三是增强人类潜力的特性，即人工智能技术可增强士兵的能力，特别是自主无人系统的广泛运用，凭借其自主交互和联动响应的优势，能够最大限度提升作战系统的整体效能，并使战争的科技含量再次出现质的提升。鉴于人工智能技术存在巨大的军事应用潜力，对美国国防部的决策者而言，在武器和作战概念上保持对战略对手的领先地位的前景，至少在间接层面，将取决于美国在人工智能技术领域保持优势的能力。①Rand Waltzman, etc., “Maintaining the Competitive Advantage in Artificial Intelligence and Machine Learning,” Rand Corporation, 2020, p.31, https://www.rand.org/content/dam/rand/pubs/research_reports/RRA200/RRA200-1/RAND_RRA200-1.pdf.在此背景下，美国政府与军方已将人工智能技术作为增强战力、实现军事目标的重要支持条件，其对人工智能技术的重视，既是对美国技术优势的重视与利用，也是美军技术制胜传统思维的延伸。

（二）针对中俄塑造新的军事优势的现实需要

自本世纪第二个十年以来，美国日益无法维持其在海湾战争结束之初时所具备的军事技术优势。特别是随着经济、科技实力的稳步发展，中国维护国家安全、阻遏美国战略讹诈的能力日益增强。与此同时，仍具有强大军事威慑力的俄国与美国在地缘政治等领域的战略抵牾难以调和。在此形势下，美国政府、军方与战略研究界已将人工智能军事化作为针对中俄塑造新的军事优势的战略依托。新美国安全中心（CNAS）董事会主席、曾任奥巴马政府国防部副部长的米歇尔·弗卢努瓦（Michèle A.Flournoy）认为，在2021年之前的近十年中，美国国防部官员一直认为，大国竞争的回归是对国家安全最重大的挑战。因此，必须采取更富有进取性的措施，以保持美国相对于竞争对手的军事和技术优势，否则美军将在十年内失去这一优势。②Michèle A. Flournoy, “America’s Military Risks Losing Its Edge,” Foreign Affairs, May/June 2021,Vol.100, Iss.3, pp.76-77.在此背景下，中美地缘政治竞争无疑将受到人工智能技术竞争的影响。③James Johnson, “Artificial Intelligence & Future Warfare: Implications for International Security,”Defense & Security Analysis, Vol.35, No.2, 2019, p.147.美军于2014年出台的第三次“抵消战略”的核心就是基于人工智能的“算法战”，旨在通过智能化转型，抵消与中俄等国在装备规模和硬件技术等“显性”特征上日益缩小的差距，拉开与中俄在武器装备的智能化程度等隐性特征方面的代差，以此谋求和维持未来军事优势。④胡利平等：《“算法战”及其在空战领域中的应用》，《国防科技》2020年第1期，第57页。此后，特朗普政府主要将人工智能视为一个重要的地缘政治工具，通过推动人工智能技术发展，塑造与强化美国在对华经济与军事竞争中的优势。其人工智能战略显示了基于“绝对安全观”的技术战略扩张趋向以及威慑与遏制并行的现实主义趋向。⑤阙天舒、张纪腾：《美国人工智能战略新动向及其全球影响》，《外交评论》2020年第3期，第121页。拜登政府延续了这一战略倾向，并进一步将人工智能军事化作为获得新的对华战略优势的依托。

在推进人工智能军事化的过程中，美国政府、军方与战略研究界试图通过渲染中俄在人工智能领域的技术进步和安全“威胁”，以动员国内资源与汇聚政策共识。2017年4月，时任国防部副部长的罗伯特·沃克（Robert Work）宣布，由于竞争对手的能力越来越强，迫切需在国防部的议程中纳入人工智能和机器学习。沃克的言论相当于宣布一场不可避免的人工智能军备竞赛，其中俄罗斯和中国被视为主要对手。①Lucy Suchman, “Algorithmic Warfare and the Reinvention of Accuracy,” Critical Studies on Security,Vol.8, No.2, 2020, p,175.在美国国防部看来，大数据、人工智能和自动化的融合，将使中国军队在2049年成为拥有世界一流战斗力的军队。②Lara Martinho, “China’s Defence Posture: Implications for NATO,” NATO Parliamentary Assembly,September 8, 2021, p.1, https://www.nato-pa.int/download-file?filename=/sites/default/files/2021-09/015%20 DSCFC%2021%20E%20rev%201.%20CHINA%27S%20DEFENCE%20-%20MARTINHO_3.pdf.2020年9月，为获得更多的预算与资源投入，美国人工智能国家安全委员会（NSCAI）副主席鲍勃·沃克（Bob Work）强调，中俄在军事人工智能和自动化方面可能在较小程度上超过美国，因此美国需增拨用于人工智能项目的国防预算，需采取在国防部与学界、私营部门间建立公私合作伙伴关系等措施来提升美国的竞争优势。③Sydney J. Freedberg Jr., “‘We May Be Losing the Race’ for AI With China: Bob Work,” Breaking Defense, September 2, 2020, https://breakingdefense.com/2020/09/we-may-be-losing-the-race-for-ai-withchina-bob-work/.值得注意的是，美国国防部第一位首席软件官尼古拉斯·夏兰（Nicolas Chaillan）于2021年9月辞职，以此抗议因美军的技术革新缓慢导致中国在人工智能等领域“超越”美国。10月初，美国海军陆战队中将、国防部联合人工智能中心（JAIC）主任迈克尔·格伦（Michael Groen）表示，希望以渐进的方式将人工智能应用于军队。④Katrina Manson, “US Has Already Lost AI Fight to China, Says ex-Pentagon Software Chief”,Financial Times, October 10, 2021, https://www.ft.com/content/f939db9a-40af-4bd1-b67d-10492535f8e0.在此背景下，美国政府与军方对失去人工智能技术领先地位的危机感将进一步强化其在人工智能军事化领域的政策动能。

二、美国人工智能军事化的战略重心

从特朗普到拜登政府执政时期，美国政府与军方对人工智能军事化的关注度日益上升。其通过不断完善制度与组织体系，为推进人工智能军事化进程汇集资源；紧盯技术前沿，大力推进项目发展并促进与盟国间的政策与技术合作，以期在未来实施的人工智能作战行动中能够提升联盟体系的协同效能。

（一）构建系统的人工智能军事化的资源与制度支持体系

本世纪第二个十年之初，美国国防部和军方已将人工智能军事应用系统纳入其组织结构。奥巴马政府主要着眼于塑造与人工智能军事化相关的战略理念与基本战略框架。美国国防部于2012年11月发布了名为《武器系统的自主》（Autonomy in Weapons Systems）的指令，该指令确立了政策并分配了责任，以塑造包括无人作战平台在内的武器系统自主功能的开发和应用，从而使得人工智能武器系统有望成为实施危险任务的关键支持力量。①“Unmanned Systems Integrated Roadmap 2017-2042,” U.S. Department of Defense, Defense Daily,August 28, 2018, p.22, https://www.defensedaily.com/wp-content/uploads/post_attachment/206477.pdf.“第三次抵消战略”则试图通过发展自主学习系统、人机协作系统等基于人工智能的作战系统，以形成或强化相对于中俄等国的不对称优势，使美国进一步巩固其在军事技术领域的领先地位。②Daniel Fiott, “America First, Third Offset Second?” The RUSI Journal, Vol.163, No.4, August/September 2018, p.40.

特朗普政府执政后，在经济与科技层面构建与完善人工智能发展规划、方案的过程中，亦加强军用人工智能研发与应用协调机构的建设。国防部所颁布的《2018年国防部人工智能战略》（2018 DoD Artificial Intelligence Strategy）旨在阐明加快应用人工智能能力的方法和途径，并强调了成立于2018年6月的国防部联合人工智能中心的作用。该中心的主要功能是提升交付人工智能技术产品的能力，是执行国防部人工智能战略的核心单位。根据《2019年财年国防授权法案》（NDAA FY2019），美国建立了国家人工智能安全委员会，其主要职责之一即“推进人工智能、机器学习和相关技术,全面解决国家安全和国防需求”。2021年1月1日，《2020年国家人工智能倡议法案》（NAIIA）生效，其包含的《国家人工智能计划》（NAII）旨在确保美国在人工智能研发领域的领导地位，其通过提供一个总体框架，以加强和协调美国所有部门和机构的人工智能研发活动，以加速人工智能研究和应用，并试图以此为人工智能军事化进程积聚技术储备。

拜登政府执政后，在资源投入、公私合作以及军事体系转型等方面进一步推进人工智能军事化进程。首先，美国政府与国会两党进一步推进对人工智能军事化的资金支持与政策协调。2021年7月13日，国防部长劳埃德·奥斯汀（Lloyd J. Austin III）在华盛顿举行的国家安全委员会人工智能全球新兴技术峰会（Artificial Intelligence Global Emerging Technology Summit）上声称，国防部正在开发600多项人工智能项目。人工智能是国防部当年花费1120亿美元进行研究、开发、测试和评估预算（有史以来规模最大）中“最重要的技术重点之一”。①Amy McCullough, “DOD’s Artificial Intelligence Efforts Gain Momentum as US, Allies, and Partners Look to Counter China,” Air Force Magazine, July 13, 2021, https://www.airforcemag.com/dods-artificialintelligence-efforts-gain-momentum-as-us-allies-and-partners-look-to-counter-china/.其次，虽然曾面临谷歌（Google）等企业员工和公众人物的抵制，但推进公私合作以借助美国企业在数字技术领域的技术积累，仍是美国推进人工智能军事化的主要着力点。在此形势下，美国参议院人工智能核心小组共同创始人共和党籍议员罗布·波特曼（Rob Portman）和民主党籍议员马丁·海因里希（Martin Heinrich）于2021年5月宣布两党联立法案——《人工智能能力和透明度法案》（AICT）。法案强调需积极从私营部门、大学和其他来源招聘人员参与国防系统的人工智能技术研发。②“Portman, Heinrich Announce Bipartisan Artificial Intelligence Bills To Boost AI-Ready National Security Personnel, Increase Governmental Transparency,” The US Senate, May 12, 2021 , https://www.portman.senate.gov/newsroom/press-releases/portman-heinrich-announce-bipartisan-artificial-intelligencebills-boost-ai.2021年11 月 15 日，专司促进先进技术军民融合的“美国国防创新部门”（DIU）发布 “负责任的人工智能指南”（RAI）文件，旨在将国防部的人工智能道德原则落实到其商业原型设计和采购工作中。③David Vergun, “Defense Innovation Unit Publishes ‘Responsible AI Guidelines’,” U.S. Department of Defense, Nov. 18, 2021, https://www.defense.gov/News/News-Stories/Article/Article/2847598/defenseinnovation-unit-publishes-responsible-ai-guidelines/.在拜登总统于2021年12月27日签署的《2022财年国防授权法案》（NDAA FY2022）中，要求国防部长修改联合人工智能中心开展的联合共同基金会（Joint Common Foundation）项目，以便利国防部与领先的人工智能公司签订合同（第2部分第227节）。④“Summary of AI Provisions from the National Defense Authorization Act 2022,” The Stanford Institute for Human-Centered AI, https://hai.stanford.edu/summary-ai-provisions-national-defenseauthorization-act-2022.这显示了美国军方正通过制度化举措，促进私营部门的资金与技术等资源助力人工智能军事化步伐。再次，以人工智能推动军事体系的系统性转型。根据《2022财年国防授权法案》的规定，在法案颁布后的180天内，国防部长将确定将人工智能应用纳入国防部平台、流程和操作的目标。每个军事部门和其他相关部门的负责人将制定绩效指标来实现上述目标（第2部分第226节）。⑤Ibid.可以预见的是，随着美国政府与军方对人工智能军事化进程的资源投入、组织协调与制度保障体系的完善，其人工智能军事系统的研发与应用进程将逐渐加速。

（二）加快人工智能军事化项目的应用进程

早在20世纪70年代，美军就在语音识别等项目领域开展军事智能化研究。此后，美军在军事智能化领域的研究与初步应用一直得以延续。目前，美国政府与军方已在情报分析、指挥控制与自主攻击等领域加大对人工智能系统与装备的研发与应用进程。

首先，以人工智能技术增强数据、情报分析与处理能力以及作战人员的信息沟通能力。人工智能技术可用于筛选、识别海量数据并向分析师和决策者提供信息，将确保情报分析、监视与侦察大数据对分析师的价值最大化。①Brendan Cook, “The Future of Artificial Intelligence in ISR Operations,” Air and Space Power Journal, Special Edition, Summer 2021, p.46.美国军方已将人工智能技术作为提升数据与情报分析能力的重要依托。例如，由于美国间谍飞机和卫星每天收集的原始数据远超国防部的分析能力，国防部于2017年4月宣布实施代号为“Maven”的算法战项目，通过与多家公司合作开发图像分析算法，分析从无人机——包括“扫描鹰”（Scan Eagle）等战术无人机平台和MQ-1C“灰鹰”（Gray Eagle）、MQ-9“收割者”（Reaper）等中高空平台——所获取的全动态视频数据，识别具有军事价值的目标。与此同时，美国军方还将人工智能技术作为提升单兵通信与作战能力的重要依托。为此，美国军方已向微软等企业提供研发支持与军购合同。其中，美国陆军于2021年3月26日授予微软一份为期五年的综合视觉增强系统（IVAS）合同，为其生产军用版的全息透镜增强现实眼镜，该合同可再延长5年，最大潜在价值为218.8亿美元。②Sydney J. Freedberg Jr. “IVAS: Microsoft Award by Army Worth Up to $21.9B,” Breaking Defense,March 31, 2021, https://breakingdefense.com/2021/03/ivas-microsoft-award-worth-up-to-21-9b/.该系统借助人工智能技术使得作战人员无需纸质地图，通过护目镜即可规划作战，提升战场沟通效率。

其次，以人工智能技术装备提升作战指挥系统的综合效能。美国国防部已将人工智能在指挥系统的运用作为优先事项。其试图将总参谋部各个功能板块的运作，包括作战规划、情报收集、后勤、通信和决策等环节，都移交给各类智能系统。这些子系统将被集成到一个“系统中的系统”——“联合全域指挥和控制”（JADC2）系统。2021年6月22日，美国国防部宣布了人工智能和数据加速（ADA）计划。其目标是快速推进“联合全域指挥和控制”等军事智能化的概念，通过实验或训练产生基础能力，并最终产生可用于传感器数据的实时融合、自动指挥和自主系统集成的数据和操作平台。①Terri Moon Cronk, “Hicks Announces New Artificial Intelligence Initiative,” U.S. Department of Defense, June 22, 2021, https://www.defense.gov/Explore/News/Article/Article/2667212/hicks-announcesnew-artificial-intelligence-initiative/.美国空军已与洛克希德·马丁（Lockheed Martin）公司和其他国防承包商一起开发这一系统的关键部件。其中一个组成部分是“先进战斗管理系统”（ABMS），该系统旨在为战斗机飞行员提供最新数据，并指导战斗行动。另一个关键组成部分是陆军的“综合空中和导弹防御作战指挥系统”（IBCS），其将雷达系统连接到防空和导弹防御发射装置，并为其提供精确的发射指令。美国空军和多家承包商寻求将上述系统进行整合，从而将传感器、发射装置和部队指挥官连接成一个军事“物联网”。这一系统的主要发展动力是美国的军事战略调整，即在未来的冲突中与享有地理优势的实力接近的对手（俄罗斯和中国）进行竞争；该系统可增强美军在陆、海、空、天各领域的联动能力，有利于提升那些部署在远离本土、驻地分散的美军的战场生存力，因而这一设想对部署在西太平洋的美军尤具吸引力。②Loren Thompson, “The Biggest Military Tech Opportunity Of the Biden Years Isn’t a Weapon, It’s a Network”, Forbes, August 24, 2021, https://www.forbes.com/sites/lorenthompson/2021/08/24/the-biggestmilitary-tech-opportunity-of-the-biden-years-isnt-a-weapon-its-a-network/?sh=15216d20b628.而美国2022财年国防预算中新增的各类技术研发支出已为“联合全域指挥控制”这一新型作战模式进行铺垫。

再次，推进基于人工智能技术支持的自主攻击平台的研发与应用。美国各军种均有已经或即将列装的人工智能武器。一方面，针对虚拟作战空间，美军已推动基于人工智能技术的新一代网络空间作战系统的开发。2017年，国防部高级研究计划局（DARPA）资助了基于人工智能处理芯片的自主网络攻击系统的研发。另一方面，针对物理性作战空间，美军已尝试装备能在无直接人力投入的情况下选择攻击目标并实施致命攻击行动的系统与武器。由于美国国内新冠疫情的扩散导致大量美国军人的战斗能力下降，促使美军已越来越频繁地依赖自主武器系统实施危险的作战行动。值得注意的是，军事飞行员一直是空中力量投射的核心。自动驾驶和人工智能方面的技术进步会导致无人驾驶飞行器（PAVs）的发展。③Arash Heydarian Pashakhanlou, “AI, Autonomy, and Airpower: The End of Pilots?” Defence Studies, Vol.19, No.4, 2019, p.337.在此背景下，未来美国人工智能军事化的应用成果，包括机器人哨兵、战场监视无人机和自主潜艇等装备的研发与应用会显著增长。

（三）强化与盟国在人工智能军事化领域的合作

在美国战略研究界的视野中，人工智能军事化系统的应用对美国及其盟国的军事行动协调带来挑战。这主要是由于并非所有国家都将以相同的速度开发军用人工智能系统，这一状况会阻碍盟国间的任务分担并制约武器系统的互操作性，而且在开发可互操作的人工智能军用系统以及共享支持人工智能系统的数据方面，盟国将面临相关的政治与技术挑战，特别是国家之间往往不愿共享敏感信息。①Erik Lin-Greenberg, “Allies and Artificial Intelligence: Obstacles to Operations and Decision-Making”, Texas National Security Review, Vol.3, Iss.2, 2020, p.62.对此，美国政府与军方已利用其层层嵌套的联盟体系，从核心盟国开始，推动在人工智能军事化领域的协作，并希望与盟国共同构建针对人工智能的数据共享框架，以提高联盟体系内部在智能化作战领域的系统兼容性。

作为最核心的军事同盟，美英澳三国新的“三边安全伙伴关系”（AUKUS）于2021年9月建立。当月15日，拜登声称，AUKUS将汇集三方力量，以保持和扩大三方在军事能力和关键技术方面的优势，如网络、人工智能、量子技术等领域。②“Remarks on the Australia-United Kingdom-United States (AUKUS) Security Agreement With Prime Minister Scott Morrison of Australia and Prime Minister Boris Johnson of the United Kingdom,” Daily Compilation of Presidential Documents, Administration of Joseph R. Biden, Jr, September 15, 2021, p.3.由于AUKUS旨在加强三国间的军事技术交流与合作，人工智能军事应用将是这一军事同盟的合作议题。与此同时，美国与“五眼联盟”（Five Eyes）伙伴国一直保持情报合作。目前的一些情报共享协议允许交换训练和操作人工智能系统所需的敏感数据。在北约（NATO）体系内，美国亦大力推进其与盟国在人工智能军事化领域的合作进程。美国国防部人工智能联合中心负责人于2020年1月表示，美国和北约为共同的价值观大力推广人工智能，以确保盟军跟上数字现代化的步伐并保持互操作性。③Brian W. Everstine, “Closer Collaboration With NATO,” Air Force Magazine, January 15, 2020,https://www.airforcemag.com/dod-ai-leader-wants-closer-collaboration-with-nato/.在美国的推动下，北约已将人工智能军事化作为主要的发展方向。对北约而言，“竞争对手”正在利用新技术来追求增强经济竞争力和军事能力的双重目标；北约面临一场以人工智能为核心的全球技术竞赛。④Edward Hunter Christie, “Artificial Intelligence at NATO: Dynamic Adoption, Responsible Use,”NATO Review, November 24, 2020, https://www.nato.int/docu/review/articles/2020/11/24/artificialintelligence-at-nato-dynamic-adoption-responsible-use/index.html.在此背景下，北约已在实施与人工智能相关的项目，包括人工智能、自动化和机器人的军事应用项目和北约数据科学中心（NATO Data Science Centre）项目。2020 年5月，北约科技组织（STO）在其发布的报告中声称，北约制定新的技术战略的主要影响因素包括日益智能化、互联化、分布式和数字化的技术发展。特别是人工智能等技术领域的进化和革命，定义了北约保持作战和组织有效性所需的技术优势。①“Science & Technology Trends 2020-2040 Exploring the S&T Edge,” NATO Science & Technology Organization, May 2020, p.39, https://www.sto.nato.int/publications/Management%20Reports/2020_TTR_Public_release_final.pdf.2021年10月，北约国防部长会议上正式通过北约人工智能战略（AI Strategy for NATO）。该战略的目标是通过加强人工智能的关键能力和调整政策，加快人工智能的应用，防范来自国家和非国家行为体使用人工智能技术所造成的威胁，并鼓励盟国在人工智能方面的发展保持一致；北约在此领域的努力所创造的战略优势将来自技术伦理方面的领导地位、人工智能技术的迭代应用以及对人工智能系统的灵活性与互操作性等因素的整合效应。②Zoe Stanley-Lockman and Edward Hunter Christie, “An Artificial Intelligence Strategy for NATO,”NATO Review, October 25, 2021, https://www.nato.int/docu/review/articles/2021/10/25/an-artificialintelligence-strategy-for-nato/index.html.

在更大的联盟体系范围内，美国政府与军方不断加强与盟国在人工智能军事化领域的互动与合作。2020年9月15日至16日，美国国防部联合人工智能中心与澳大利亚、加拿大、法国、日本、韩国、英国等13国军方与国防部门举行了首次人工智能防务伙伴关系（AI Partnership for Defense Joint Statement, AI PfD）论坛。该论坛旨在建立合作框架，协调盟国间的人工智能政策，以研发和在国防中应用“负责任”的人工智能，提高盟国军队的互操作性；这显示美国及其盟国的军事力量正从以硬件为中心过渡到以软件、数据为中心，而人工智能军事联盟将使美国及其盟国和伙伴能够利用新兴技术的潜力，以遏制共同的“威胁”。③“JAIC Facilitates First-ever International AI Dialogue for Defense,” U.S. Joint Artificial Intelligence Center，September 16, 2020, https://www.ai.mil/news_09_16_20-jaic_facilitates_first-ever_international_ai_dialogue_for_defense_.html.可以预见的是，随着美国对华“竞争”强度的上升以及中美军事、科技差距的日益缩减，美国在人工智能军事化领域对盟国的合作需求会进一步上升。

三、美国推动人工智能军事化对国际安全造成的风险

尽管美国国防部尚未部署完全自主的武器系统，但基于获取绝对军事优势的强烈动机，未来美军在军事部署与实战中增加对军用人工智能系统的应用以及此类技术的外溢将对国际安全局势造成显著风险。

（一）加剧新型军备竞赛氛围

美国政府财政在资源日益捉襟见肘的背景下，又迫切地期望塑造对中俄新的军事优势，这不仅会激励包括美国盟国在内的主要国家快速部署各类人工智能军事化应用系统，还会导致其“假想敌”采取针对性战略与措施。由此，美国人工智能军事化进程将加剧新型军备竞赛。

在2014年的克里米亚事件发生之后，俄国一直面临美国的全方位打压，面对美俄军事实力差距渐趋扩大以及美国智能武器系统的发展态势，为促进本国智能技术的发展，俄国政府通过完善管理体系、提高协调能力并加强军地合作，促进军事智能技术的发展。在军政高层力推下，俄军智能化武器陆续试验或列装。对俄国而言，加快推动人工智能军事系统的应用可以创造一种更有效、成本更低的战略来与美国进行非对称竞争，而且这一战略思路已延伸到了核武器领域。例如，俄国研制的采用核动力、可配置核武装、具有一定智能化水平的无人潜航器——“海神”（Poseidon）的任务是摧毁基础设施、航母群和其他高价值目标。①Katarzyna Zysk, “Defence Innovation and the 4th Industrial Revolution in Russia,” Journal of Strategic Studies, Vol.44, No.4, 2021, pp.561-562.由此可见，美国推进人工智能军事化进程已导致基于人工智能技术的新型军备竞赛逐渐升温。

不容忽视的是，由于美国试图联合盟国推进人工智能军事化，其军事智能化技术存在向日本等中国周边国家外溢的趋势，可能导致地区安全格局发生变化，并可能导致其他地区性国家加入发展军事智能化系统的军备竞赛，从而恶化地区安全局势。

（二）增加大国间意外冲突与战争风险

美国基于人工智能技术支持的自主武器系统在设计、部署和应用中的缺陷与失误及其对国际政治的影响，将会增加意外冲突和军事对抗升级的风险。

首先，美国研发与应用的自主攻击系统的自动化分析与决策程序，会受到“战争迷雾”的影响，即冲突的快速变化、不可预测性与脆弱的人工智能系统不兼容。机器学习系统通常依赖于非常大的数据集，这在一些军事场景中可能不存在。当军用人工智能系统使用不充分的数据集进行训练或在其设计的狭窄背景之外应用时，此类系统通常是不可靠和脆弱的。在美军急于部署军用人工智能系统的态势下，系统的可靠性不足与对“假想敌”的猜疑、恐惧等因素叠加，会增加发生意外冲突的风险。值得注意的是，美国陆军未来司令部（Army Futures Command）司令约翰·默里（John Murray）于2021年1月下旬表示，由于人类可能无法对抗敌方无人机群，因此控制人工智能的规则可能需要放松。这意味着五角大楼对自动武器的使用规则做出了新的解释。①David Hambling, “Drone Swarms Are Getting Too Fast for Humans to Fight, U.S. General Warns,”Forbes, January 27, 2021, https://www.forbes.com/sites/davidhambling/2021/01/27/drone-swarms-aregetting-too-fast-for-humans-too-fight-us-general-warns/?sh=7ced412372c9.由此可以预见的是，虽然目前美军的自主武器系统仍会受到操作员的远程操控，但随着人工智能军事化系统列装进度的加快，未来美军有可能会将部分“自卫战术”托付给人工智能系统，以利用其快速决策能力，这可能导致战术性失误或事故，并使意外冲突发生的概率与风险不断上升。例如，在美军对中国沿海实施抵近侦察、军事挑衅并导致出现对峙局面的过程中，如果“联合全域指挥和控制”等智能系统出现技术故障，可能会导致美军对战场态势感知产生误判，并引发意外攻击或冲突。

其次，人工智能武器系统的秘密性会侵蚀大国安全关系中的战略“默契”，影响对手的战略判断，从而导致国家间冲突风险。在人工智能辅助下的指挥和控制系统，其决策速度会大大超越传统战争模式，加上自主武器系统的应用，将显著加速战争进程。值得注意的是，“联合全域指挥和控制”等系统所体现的全域联合作战思路，强调多域协同，不仅包括在一般物理空间采取军事行动的能力，而且更加强调在太空、网络空间、电磁频谱、信息环境等方面的认知、行动与控制能力。②陈彩辉：《美军“联合全域作战（JADO）”概念浅析》，《中国电子科学研究院学报》2020年第10期，第921页。这使得在大国关系出现紧张的过程中，一国对他国所造成的威胁的来源、性质与程度的识别与判断更加困难。对此，基辛格认为，军事人工智能系统可能会导致外交失败；人工智能的秘密性和瞬时性意味着，与常规武器或核武器不同的是，国家决策者不能简单地将其作为一种明显的威胁摆到台面上；在战略方面，国家可能在一段时间内难以识别威胁来源，这可能会导致战场上的混乱等不利后果。③George Dvorsky, “Henry Kissinger Warns That AI Will Fundamentally Alter Human Consciousness,”Gizmodo, November 5, 2019, https://gizmodo.com/henry-kissinger-warns-that-ai-will-fundamentallyalter-1839642809.由此，在美国强化人工智能军事化进程的背景下，大国博弈中的不可控因素将会进一步增加，并会对中国周边地区以及更大范围的国际安全局势造成负面影响。

最后，人工智能与网络技术的结合可能进一步降低网络攻击的门槛。美国及其西方盟国的战略倾向显示，具有重要军事意义的进攻性武器和自主武器系统可能将被部署在网络空间。特别是美军已使用计算机病毒、木马程序和逻辑炸弹等智能网络武器，对一些国家的政府机关、军事科研等机构的网络进行情报搜集、破坏等活动。而且随着美国人工智能军事化进程的发展，将有越来越多的物理实体可以成为美军实施网络攻击的对象，这将成为大国间网络安全争议与对抗升级的诱发因素，尤其会对中国的网络安全局势造成更为严峻的挑战。

（三）重构大国间威慑体系并侵蚀大国安全关系的稳定性

在过去几十年中，核大国之间存在的“相互确保摧毁”的状态维持了全球力量的平衡，而人工智能技术的军事化应用则可能会从根本上改变这种“核恐怖平衡”。核战会导致相互毁灭，任何发起先发制人核打击的国家都可能面临自我毁灭，但利用基于人工智能技术支持的自主武器实施出其不意的首次攻击可能无法追踪，因此威慑理论并不适用于自主武器系统。智能化战争的重要特征就是对抗节奏明显加快，制胜机理从以能制胜转变为以快制胜。在此形势下，自主武器攻击可以迅速触发响应并使得冲突迅速升级，这一过程中蕴含着触发核战争的风险。例如，“联合全域指挥和控制”系统可以探测到其认为构成安全风险的敌方行动，因此美国在这一状况下有可能使用飞机、导弹发动全面攻击，使冲突升级，这会杜绝通过谈判解决危机的可能。事实上，根据美国的军事理论，其一直都有可能使用所谓的战术核武器来应对苏联和现在俄罗斯的进攻行动，而人们亦普遍认为俄罗斯的军事理论也包含了类似选项；在此情况下，“联合全域指挥和控制”系统或其他类似系统可能会将敌人的行动误解为准备发射核武器的信号，并命令美国核力量进行先发制人的打击，从而引发新的世界大战。①Michael T. Klare, “Artificial (un)intelligence and the U.S. Military,” Salon, September 11, 2020,https://www.salon.com/2020/09/11/artificial-unintelligence-and-the-us-military_partner/.在此背景下，传统的以核为主的威慑体系正在向“核常兼备威慑体系”转变，这一态势会侵蚀大国安全关系的稳定性。

四、应对美国人工智能军事化的路径选择

美国当下为维护其全球主导地位的战略意图与美国推进人工智能军事化的政策、措施，以及美国军事技术迭代及其战场应用的历史，均显示美国加快推进人工智能军事化的趋势难以改变。对中国而言，需要预研与防范这一趋势所造成的威胁，并从多边和双边两个层面推动针对人工智能军事化的国际合作议程。

（一）强化反智能作战能力以应对基于新兴技术的军事威胁

美国人工智能军事化进程，特别是进攻性智能武器系统的发展，对中国和平发展所需的安全、稳定的国际环境造成诸多不利挑战。对此，中国需在推动军事理论创新的基础上，针对人工智能等新兴技术领域，进一步提升研发与军民融合力度，提升应对智能化作战的技术能力，并加强对敏感数据跨境流动的管控。第一，以军民融合构建应对智能化战争的技术基础。人工智能兴起于民用技术，反人工智能技术亦可借助民用技术得到发展。因此，基于军民融合提升反智能化作战的能力，不仅有利于构建应对智能化战争的技术基础，还可通过技术进步制约美国发动智能化战争的战略倾向。第二，以增强防御性能力为主，提升在军事智能化领域的攻防能力。需要以智能技术为突破，着重提升武器系统的智能化水平，并积极发挥算法在情报分析、辅助决策、智能指挥、精确协同、精准保障等方面的作用。①赵辉：《应对智能化战争的对策思考》，《海军工程大学学报（综合版）》2020年第3期，第34页。由此，在数据积累的基础上，不断提升算力并构建自适应能力更强的平台。第三，进一步加强对国内敏感数据跨境流动的管控。这是由于可用于支持智能作战的数据不但包括军事系统的侦察、监视和情报活动的成果，还包括各类电子商务平台与软件所掌握的地理信息、社会文化信息与社交媒体数据等。日益引发关注的是，在企业内部或通过第三方合作的方式实施的人工智能技术研发和场景应用中，均需常态化、持续性、高速率、低延时的跨境数据流动，这会带来敏感和重要数据出境后的安全风险。②夏玉明、石英村：《人工智能发展与数据安全挑战》，《信息安全与通信保密》2020年第12期，第77页。在此形势下，强化敏感数据的跨境流动管理，对于弱化美军进攻性智能武器的深度学习所依赖的数据基础具有重要意义。

（二）推动针对人工智能军事化的多边技术治理进程

以美国人工智能军事化进程为代表的全球范围内的人工智能军事化趋势反映了新的战略、战术操作挑战与安全风险，特别是在自主系统的部署和人机团队的整合方面，引发了关于人工智能治理和伦理等新问题。基于对自主武器可能引发的安全风险的担忧，自2014年起，《特定常规武器公约》（CCW）的缔约国以及部分非缔约国、政府间国际组织、非政府组织等主体，在该公约框架下组织会议对自主武器进行了讨论。2017年，这一非正式会议转变为政府间专家组会议。美国参与此类活动主要秉持两大目标:一是为美国在该领域形成绝对的竞争优势争取时间和空间；二是呼吁国际社会重视自主武器所带来的安全问题，特别是要防范会对美国安全和霸权地位造成“威胁”的任何主体“滥用”自主武器。①王玫黎、杜陈洁：《美国参与自主性武器国际军控的战略关切及角色定位》，《国际观察》2021年第2期，第133页。其实质是在关注自主武器系统的负面影响的同时，防止形成不利于美国利益最大化的国际规则。美国对待人工智能全球治理的机会主义立场，以及在很大程度上由这一倾向所导致的针对人工智能军事化的规则设置、机制构建等方面的滞后状态，不利于防范未来可能爆发的智能化战争及其升级进程。特别是自主系统在军事行动中的角色及其所存在的局限性，有可能在其造成国际冲突或人道主义灾难之后，成为美军推卸责任的借口。

鉴于这一态势，中国需以参与全球技术治理为契机，提升在人工智能治理领域的话语权，推动人工智能国际规则的创设，以此维护人工智能军事化趋势下的国际安全。具体而言，需秉持构建新一轮技术革命条件下的人类命运共同体的理念，支持与促进国际社会就人工智能问题开展常态化的多边沟通。在此过程中，需继续推动《特定常规武器公约》框架下的关于致命性自主武器的政府专家组会议以及日内瓦裁军谈判会议等多边军控平台对人工智能国际规范的磋商，倡议与引导各国就处理人工智能军事化问题的原则、方式和法律文书达成更多共识，避免采取歧视性措施，防止对和平利用人工智能技术产生阻碍。②李驰江：《人工智能在军事领域的应用及全球治理》，《学术前沿》2021年第10期，第27页。在此基础上，推动建立人工智能技术规范体系和监管框架，对智能武器的设计原则、作战方式、故障控制、风险防范等问题予以规范。

（三）拓展中美在军用人工智能风险管控领域的合作空间

自2017年之后，美国和中国在经济、科技以及地缘政治等领域的冲突与争议加剧，而合作面相对缩减，这对两国而言是一个代价高昂的趋势，因其导致对抗成本上升并放弃了潜在的收益；美国和中国正在进行变革性的权力转移，但权力转移既不排除在安全和经济竞争上的节制，也不排除在双边和全球事务中就共同利益进行合作。③Robert S. Ross, “It’s Not a Cold War: Competition and Cooperation in US–China Relations,” China International Strategy Review, June 2020, p.63.作为核大国，中美两国间的大规模对抗和逐底竞争的代价极其高昂，因此两国在确保斗争的边界、避免无限制的斗争升级和相互毁灭方面存在共同利益，而两国间的合作能力将决定人类能否在应对全球问题方面取得进展。①Suisheng Zhao, “The US–China Rivalry in the Emerging Bipolar World: Hostility, Alignment, and Power Balance,” Journal of Contemporary China, July 2021, p.16.这意味着中美两国在科技、军事等领域的竞争过程中，亦存在不容忽视的合作收益。

实际上，在人工智能技术领域，对技术主导地位的焦虑是美国对自身经济、军事和政治实力的相对衰减以及由此引发的不安全感的体现。在一些美国战略研究人士看来，即使美国在人工智能领域获得领先地位，也并不意味着获得胜利，美国还需要防范可能导致灾难性冲突的大国竞争，由此需要美国与盟国，甚至中国等对手合作。②Elsa B. Kania, “Artificial Intelligence in China’s Revolution in Military Affairs,” Journal of Strategic Studies, Vol.44, Iss.3, May 2021, p.26.值得注意的是，如何在保证安全性的前提下获取与维持绝对竞争优势也是美国政府、军方以及科研人员关注的重要问题。

在此背景下，两国可就人工智能军事化背景下的风险缓解和危机管控问题进行对话与合作。首先，可在两国间的军事与网络安全对话中增加关于人工智能军事化议题的讨论，探索构建相关的风险防范与危机管控措施。在部分美国战略界人士看来，拜登政府有机会通过建立信任措施以促进信息共享，增加国家间在人工智能领域的透明度，此类措施为降低安全风险提供了一个有吸引力的选择，因其侧重于建立信任，而非关注冲突的敏感根源。③Michael C. Horowitz & Lauren Kahn, “How Joe Biden Can Use Confidence-building Measures for Military Uses of AI,” Bulletin of the Atomic Scientists, Vol.77, No.1, 2021, p.34.其次，双方可就避免过度、过快地开发人工智能军事化项目进行沟通，以防止引发并恶化相关的伦理与安全问题。再次，双方可探索就智能化军事系统的运行原则与方式确立准则。美国人工智能国家安全委员会亦认为，美国应明确和公开地确认美国现有的政策，即只有人类才能授权使用核武器，并寻求俄罗斯和中国作出类似的承诺，还需建立国际平台，以与竞争对手讨论人工智能对危机事件的影响，并防止冲突升级等风险。④“2021 Final Report,” U.S. National Security Commission on Artificial Intelligence, March 2021,pp.9-10, https://www.nscai.gov/wp-content/uploads/2021/03/Full-Report-Digital-1.pdf.虽然美方的此类政策宣示与实际行动往往存在差距，但双方在人工智能军事化议题展开沟通，并争取达成阶段性共识，有利于拓展合作面，避免因互信不足而造成的恶性竞争，进而有助于维护地区安全局势与全球战略稳定。