美军《负责任的人工智能战略与实施路径》解析
2023-07-03牛新宇王卫国
王 耀 牛新宇 辜 璐 王卫国
北京航天情报与信息研究所
随着战争形态加速向智能化转变,人工智能作为提升军事优势和作战效能的关键技术,成为推动军事创新和变革发展的重要驱动力,是当今世界军事强国抢占未来智能化战争优势的焦点。在全球数字经济发展的大时代背景下,人工智能在以深度学习技术为代表的第三次浪潮中迅猛发展,自然语言处理、计算机视觉、人机交互等领域取得重要突破,算力基础、算法模型和数据资源水平得到显著提升。人工智能系统正在具备越来越强大的自主学习和推理决策的能力,不仅仅是执行人类编程规则的软件工具。因此,如何构建一个值得信任又负责任的人工智能系统,实现对人工智能应用风险的安全管控,已成为全球共同关注的焦点。
一、《负责任的人工智能战略与实施路径》发布背景
美国政府历来重视人工智能在军事领域的运用和创新,技术研究投入和布局得较早。美国国防高级研究计划局(DARPA)自成立以来在人工智能领域开展了大量的研究和投入,不仅促进了美军人工智能技术创新应用,也影响着全球人工智能技术的发展态势。2018年1月,美国国防部发布《国防战略》,明确将人工智能纳为确保美国打赢未来战争的关键技术领域,随即正式发布《人工智能战略》并宣布设立联合人工智能中心(JAIC),通过一系列行动和措施来增强人工智能交付能力及扩大联合作战应用规模。
此后,美军针对人工智能在军事领域应用的安全伦理问题,陆续开展了有关战略研究和政策部署。2019年10月,美国国防创新委员会率先发布《人工智能原则:国防部人工智能应用伦理的若干建议》,提出未来在战斗和非战斗场景中设计、开发和应用人工智能应遵循“负责、公平、可追踪、可靠、可控”的原则,被美国国防部正式采纳。2021年5月,美国国防部发布了关于实施负责任的人工智能(RAI)备忘录,明确通过实施RAI来增强安全监管和促进创新应用,制定了涵盖RAI治理、作战人员的信任、人工智能产品和采办生命周期、需求验证、RAI生态系统、人工智能人才队伍建设的6项实施原则。2022年6月,美国国防部正式发布《负责任的人工智能战略与实施路径》,基于人工智能应用伦理和RAI实施原则提出可操作化的战略指南,形成适用于人工智能设计、开发、测试、采购、部署和应用全过程的RAI实施方法,将开发人员和用户对人工智能系统的信任提升到适当水平,最大程度地消减人工智能在军事开发和应用中的阻碍,促使人工智能在军事决策和作战运用中更为安全和有效。该战略文件是美军人工智能顶层战略文件体系的重要组成,也是美军打造未来军事智能化竞争优势的重要抓手,充分体现出人工智能在美军新兴数字环境中运用和整合的步伐正在加速。
二、主要内容解析
1. 基本原则
美军将RAI定义为一种设计、开发、部署和使用人工智能能力的动态方法,涵盖伦理指南、测试标准、问责检查、运用指导、人机集成和安全考虑等内容,基于人工智能全生命周期的实施来增强系统安全与运用伦理性。战略文件基于美国防部人工智能伦理原则和RAI备忘录提出6项RAI基本原则,进一步补充阐述有关RAI基本原则的目标、预期结果等内容,详见表1。
表1 RAI基本原则
2. 实施路径
美军强调将RAI融入人工智能产品全生命周期,从管理、文化、组织、技术和治理多个方面体系化地推进行动计划。在实施策略方面,基于“操作敏捷性、可扩展性和优先高效资源分配”的原则,建立了以持续监督为中心的长期优化改进机制,响应“人工智能能力的交付速度要满足国防战略需要”的发展目标。基于RAI基本原则规划6条实施工作主线,按照主线逐一阐明目标、任务内容、主责部门以及实施周期,形成推进RAI实施的综合路线图。
一是在RAI治理方面,完善治理结构和流程,明确指导方针、政策以及激励措施。首先,建立组织能力,增强对人工智能的监督和问责,包括配备专业人员,设立主责RAI岗位,制定RAI度量指标,制定部门专用指标并建立报告机制,完善内部监督体系,建立有关实施情况的沟通渠道,以及更新现有开发与交付的管理框架;其次,提供工具和资源,以支持覆盖整个美国国防部的RAI治理结构,包括通过协调和定期的知识共享,建立报告典型案例机制,创建知识共享的中央存储库,建立项目执行信息报告机制;再次,确保RAI纳入美国国防部的战略规划,包括纳入数据、分析以及人工智能战略,纳入国防规划指南,纳入军种、部门有关战略规划;最后,更新作战能力审查流程,包括探索研究适宜的审查程序,更新或补充相关条令。
二是在作战人员信任方面,建立已整合了实时监控、算法置信度指标和用户反馈的测试、评估、验证和确认(TEVV)框架。首先,建立TEVV生态系统和配套基础设施,发展更为安全可靠的人工智能开发与部署能力,包括增强人工智能测试与评估能力的TEVV框架,开发/采购人工智能测试与评估的工具包,创建一套试验环境以及工具资源库,建立最佳实践和应用要求,迭代更新人机系统集成框架,持续研究新兴领域,制定并发布人工智能安全指南;其次,制定最佳实践,在整个人工智能生命周期中纳入操作人员和系统反馈,确保充分的文档与培训,明确人工智能能力开发人员与使用者的职责,包括对人工智能部署前资源配置的要求,对人工智能可追溯以及可控制的约束,发布关于业务机构职责和权限的指南。
三是在人工智能产品和采办生命周期方面,开发工具、政策、流程、系统以及指南,建立系统工程与风险管理方法。首先,开发有关RAI采办的资源和工具,形成有关公告与合同的标准语言、建立优化采办途径和识别消减风险的最佳实践,包括开发可广泛利用的采办工具包,制定和开发可持续优化采办的方法,建立与采办相关的知识产权保护最佳实践;其次,采用人工智能开发的行业最佳实践,通过开发和应用工具、技术和最佳实践来识别与消减人工智能功能风险,包括持续开发人工智能产品工具集,提供关于如何使用人工智能工具集的详细指导,基于数据卡片发布人工智能数据资产,资助新的资源和工具,发布使用个人信息的人工智能能力开发与设计最佳实践,以及制定在人工智能研究和工程项目早期阶段实施RAI的附加指南。
四是在需求验证方面,在包括联合性能要求等所有适用的人工智能需求中加入RAI。首先,在更新或制定政策和规划时明确职责、权限和资源,将人工智能风险因素整合到国防部联合性能需求流程,包括起草关于需求流程变更的联合需求监督委员会备忘录;其次,启动可定制化流程,以明确约束人工智能程序可测试以及有关操作要求,包括创建涵盖用例、任务域和系统架构的人工智能需求库,将人工智能需求融入并统筹到测试、评估、验证和确认流程,制定有关应用RAI采办资源和合同约定事项的指南。
五是RAI生态系统方面,建立国家和全球RAI生态系统。首先,美国国防部、情报机构与其他政府部门和机构就RAI基本原则和人工智能伦理原则进行协调与合作,包括梳理相关部门在参与首席数字和人工智能官(CDAO)领导的治理体系中是否存在差距,定期与国家情报总监办公室人工智能伦理团队协调,定期与有关联邦机构协调,以及制定立法战略;其次,建立跨行业、学术界和民间社会的沟通与合作,促进RAI的发展、应用和实施,包括向白宫国家人工智能倡议办公室提交RAI领域研究优先清单,确保人工智能咨询委员会有相关代表,探索建立RAI工具开发的融资机会,制定和执行整合跨部门RAI活动的公共事务战略,制定对外发布人工智能能力的指南;最后,促进RAI的国际化参与,在全球范围内推进共同价值观、经验教训、最佳实践和互操作性,包括与盟友和合作伙伴积极寻求有关RAI合作机会,通过美国国防部人工智能国防伙伴关系促进合作,组织国际性交流研讨会议。
六是人工智能人才队伍方面,增强RAI人才规划、招募和能力建设。首先,持续完善开发美国国防部人工智能人才管理框架,以支持实施RAI所需的军事和文职人员的识别、招募、提升和保留,包括建立识别和跟踪人工智能专业知识的机制,基于教育战略中发布的6个原型开展差距分析,制定从事人工智能军事人员的职业发展规划,向相关部门提议从事人工智能文职人员的职业发展规划,启动人力规划流程;其次,将RAI实施课程补充到现有人工智能培训,包括制作并更新标准化课程,将培训课程纳入到部门教育培训计划中,针对不同部门建立相关人工智能岗位的教育培训标准,重新修订有关国防采办人员的培训、教育和经验的相关要求,探索按年度开展人工智能伦理意识培训的需求;最后,通过利益团体/实践团体和专业发展机会建设RAI能力,包括按年度推进“RAI倡导者”计划活动,建立RAI兴趣社区或实践团队,确定其他机构、学术界和产业界开展人工智能伦理培训的资金以及合作机会。
三、主要特点分析
一是建立由CDAO领导的RAI组织机制,采取集中协调、分散执行的运作模式。首先,完善和健全RAI实施的组织机构,构建适应RAI落地实施的组织能力。美国国防部明确由CDAO办公室作为主责部门,负责启动、评估和监督RAI实施任务。CDAO设立于2021年12月,由美国国防部基于数据分析办公室、首席数据官办公室、国防数字服务局以及JAIC多个机构整合成立,是继JAIC之后的新任人工智能领导机构。其次,新设立RAI工作委员会作为常设工作组,代表各个有关部门负责协调和落实RAI实施,同时监督数据、分析和人工智能有关工作。最后,采用自上而下、自下而上的双向结合方式来实现全范围整体推进。在战略层面实现政策和指导的集中统筹,确保自上而下的协调一致和资源共享;在执行层面支持各部门结合自有特点和基础分别实施,确保自下而上的高效执行与整合协作。
二是倡导基于最佳技术实践的能力复用,强调与现有专业能力体系的融合发展。首先,及时跟踪获取人工智能技术的最新研究进展和专业知识。通过项目资助人工智能有关人机集成、安全防御等前沿技术研究,广泛吸纳来自产业界、学术界的技术经验和知识成果,多举措推进国际、国内RAI技术生态建设。其次,强化基于最佳技术实践的能力复用和资源供给。保持与新兴研究迭代一致的策略,针对人工智能相关工具、方法、流程以及典型用例等最佳技术实践不断积淀形成自有专业知识库,涉及到全范围利用的技术资源建立协调开发和定期共享机制,通过能力共享和复用来增强人工智能产品交付能力。最后,强调RAI建设与现有专业能力体系之间的统筹利用。充分考虑人工智能系统与传统软件的差异性和协同性,将RAI整合融入现有技术开发、采办、治理和审查过程,基于数据管理、软件工程、风险管理等成熟体系能力推进RAI实施。
三是将伦理原则转换为可操作化的约束细则,强调系统设计规范和技术验证环节。首先,将伦理原则转换形成可指导实施的约束细则。围绕技术方法、防范措施和风险评估形成具体化的规范和要求,为人工智能在不同场景中设计、开发、部署和使用提供直接指导,使RAI成为人工智能产品全生命过程中不可分割的要素。其次,对人工智能系统提出设计规范要求。明确系统具备可追溯、可分析、可取证和可审计功能,具备可有效启用、停用程序的控制能力,以及对相关数据、培训、用户文档等项目交付物的规范要求。再次,建立人工智能TEVV框架,着重加强人工智能系统能力的试验与鉴定环节,开展检测工具、文档模板、评价指标库以及联合实验环境等一系列基础资源条件建设,通过技术手段实现对人工智能系统的性能、可靠性、意外行为和故障模式的实时监控。最后,完善优化采办流程,在采办环节规范有关合同标准语言、鉴定标准和技术条款,为人工智能系统开发和实施提供更为详尽的参考依据,最大程度地消减系统部署后的应用风险。
四是塑造“以RAI赋能人工智能建设”的文化,重视专业技术培训和人才队伍建设。首先,积极塑造“以RAI赋能人工智能建设”的组织文化,提升全员对于人工智能基础知识、开发方法和技术特点的认知和理解,培养“实施RAI是加速人工智能应用的助推器,而不是障碍”的理念意识。其次,将RAI教育课程纳入现有人工智能教育培训体系,采用标准化和定制化结合方式开展RAI教育培训,针对不同岗位特点设计个性化的培训内容。最后,重视RAI人才队伍的建设和培养,依据美国国防部2020年发布《人工智能教育战略》开展人才差距分析,加快人工智能相关高级专家人才的引进和培养,为从事人工智能工作的军事人员开展职业发展规划设计。
四、结语
负责任的人工智能已成为当前人工智能研究领域的重要主题,美军“RAI战略”围绕负责任的人工智能能力构建阐述了愿景目标、方向路径和行动措施,相关内容具有较强的参考价值和借鉴作用。以下是针对如何加强我军人工智能建设和治理工作提出的4点建议。
一是构建高效的军事人工智能安全治理体系,建立有关评价体系、标准规范、问责流程和安全监管等管理机制,针对新建人工智能系统增强技术评估以及风险分析等过程管控。二是制定军事人工智能应用的安全指南文件,梳理人工智能系统在开发、设计、部署和应用不同的阶段的主要风险特征,围绕功能设计、技术途径、故障排查以及操作流程提出明确约束。三是加强人工智能基础研究和技术攻关,大力扶持深度学习框架、可解释模型、对抗攻击防御算法等核心技术自主研发,建立多学科团队联合创新的协同机制,支持来自组织、企业和个人的广泛参与。四是重视军事人工智能专业人才队伍培养,加强全军对人工智能的技术机理、运用方法和安全伦理的教育培训,引导建立关于人工智能技术特点、缺陷以及局限性的客观认识,加快培养一批精通军事人工智能开发、设计、应用和评价的专家人才。