美《国家人工智能研究与发展战略计划》主要特点及启示

■文/李东格 高月（中国电子信息产业发展研究院）

2023年5月23日，美国白宫科技政策办公室发布2023年更新版《国家人工智能研究与发展战略计划》（以下简称《计划》），该计划遵循2016年和2019年发布的国家人工智能研发战略计划，增加了第九项战略，提出人工智能研究国际合作的原则和协调方法。新版《计划》指出了人工智能领域的诸多安全挑战，明确了人工智能研发的优先事项和目标，协调和集中联邦研发投资，以确保美国人工智能系统研发继续处于领先地位。目前，ChatGPT等人工智能新技术新应用冲击着全球，引发新一代人工智能变革，我国人工智能发展与发达国家差距将进一步拉大，新版《计划》对我国新时期人工智能发展规划具有较好的借鉴意义。

一、新版《计划》重点内容

战略1：对基础和负责任的人工智能研究进行长期投资。优先投资下一代人工智能，推动负责任的人工智能创新，为公共利益服务，保持美国人工智能的世界领先地位。主要任务包括：提高感知、表达、学习和推理等基础人工智能能力；提升人工智能的易用性和可靠性；预测和管理生成式人工智能相关的风险。

战略2：开发有效的人工智能协作方法。增进对如何创建有效补充和增强人类能力的人工智能系统的理解，解决多学科研究的需求，以实现有效的人工智能合作。主要任务包括：发展人类-人工智能团队科学；寻求改进的绩效模型和衡量标准；培养对人工智能交互的信任；开发人工智能交互协作的新范式。

战略3：理解和解决人工智能的伦理、法律和社会影响。制定减轻人工智能带来的伦理、合法和社会风险的方法，以确保人工智能系统反映美国的价值观并促进公平。主要任务包括：对基础研究进行投资，通过社会技术系统设计提升社会核心价值观；理解和减轻人工智能的社会伦理风险；利用人工智能解决伦理、法律和社会问题。

战略4：确保人工智能系统的安全保障。深入了解如何设计值得信赖、可靠和安全的人工智能系统。主要任务包括：研究提高人工智能系统的功能性和准确性的测试及验证能力；保护人工智能系统免受网络安全和数据漏洞的影响。

战略5：为人工智能培训和测试开发共享的公共数据集和环境。开发并允许访问高质量的数据集和环境，以及测试和培训资源，利用最佳数据和工具进行人工智能研究，提升更具创新性和公平性的潜力。主要任务包括：开发和制作可访问的数据集；开发可共享大规模专业化高级计算和硬件资源；开发开放源码软件库和工具包，保证软件工具开发、维护和管理的可持续性。

战略6：通过标准和基准衡量和评估人工智能系统。根据政府的人工智能权利法案和人工智能风险管理框架蓝图，开发广泛的人工智能评估技术。主要任务包括：制定广泛的人工智能标准；建立人工智能技术基准；增加人工智能试验平台的可用性；鼓励人工智能社会团体参与标准制定；制定人工智能系统审计和监测标准。

战略7：更好地了解国家人工智能研发人员的需求。改善研发人员发展的机会，从战略上培养美国的人工智能劳动力。主要任务包括：探讨多样化和多学科专业知识的影响，制定各级人工智能教材的开发策略，将伦理、法律和社会影响纳入人工智能教育和培训，提升对人工智能及相关工作局限性和可能性的理解能力；有效评估人工智能劳动力，吸引全球优秀的人才，提升人工智能高等人才培养能力。

战略8：扩大公私伙伴关系，加快人工智能的发展。积极开展与学术界、工业界、国际合作伙伴及其他非联邦实体之间的合作，对负责任的人工智能研发的持续投资，提升研发成果转化能力。主要任务包括：增强公私伙伴关系协同效应，有效推进科学和工程创新；改进、扩大和建立研发伙伴关系的机制，创建新形式的公私伙伴关系。

战略9：建立人工智能研究国际合作的原则和协调方法。优先考虑人工智能研发方面的国际合作，战略性国际伙伴关系将有助于支持负责任的人工智能研发进展，以及人工智能国际准则和标准的制定和实施。主要任务包括：培养开发和使用值得信赖的人工智能的全球文化，支持全球人工智能系统、标准和框架的开发；促进国际思想和专业知识交流，促进人工智能造福世界各国人民。

二、新版《计划》主要特点

新版《计划》明确人工智能发展优先事项，引导联邦政府战略投资方向。一是建立负责任的人工智能系统研发。新版《计划》指出，人们越来越关注人工智能的伦理、法律和社会影响，联邦政府必须将人民和社区置于中心，优先投资于负责任人工智能的研发，为公共利益服务，保护人民的权利和安全，促进民主价值观。二是开发有效的人工智能协作方法。新版《计划》指出，随着人工智能在整个社会的应用越来越普遍，人类与人工智能协作的有效方法已成为越来越重要的优先事项，人机协作可以发挥各自的优势提升生产效率，并降低风险。三是优化人工智能领域国际合作。新版《计划》指出，优先考虑人工智能研发方面的国际合作，以应对全球挑战，如环境可持续性、医疗保健和制造业等方面的挑战，同时有助于人工智能创新的发展以及人工智能国际标准的制定和实施。

新版《计划》兼顾人工智能发展机遇与安全挑战，提升人工智能易用性和可靠性。一方面，新版《计划》积极谋划人工智能发展新策略，加快推动人工智能领域技术的全面突破。一是持续推进人工智能基础研究，如挖掘大量可用数据用于机器学习和知识发现，提高人工智能的感知和行动能力。二是共享公共数据集和环境，创建新研究计算基础设施，扩大访问范围，以满足人工智能应用的各种需求。三是扩展多模式合作的项目，促进联邦资助机构、学术界以及私营部门能够更有效地相互合作，实现人工智能领域技术突破。另一方面，新版《计划》加大战略投资，促进负责任的人工智能创新，应对发展过程中出现的各种安全挑战。一是设计与主流价值观相一致的人工智能系统，支持安全、公平和负责任的人工智能系统的开发，解决人工智能法律和社会影响。二是构建安全人工智能系统，提高系统抵御输入数据操纵、模型反演和其他形式的对抗性攻击的能力。三是制定人工智能系统审计和监控标准，识别和减轻准确性、可靠性等技术风险和偏见、隐私社会技术风险。

新版《计划》勾画人工智能国际合作新路线，打造以美为中心的人工智能研发生态系统。一是加强可信人工智能研发和部署方面的国际合作。与志同道合的国际伙伴开展多形式合作，探索可信人工智能研发和创新的方法，实现共同价值观和社会优先事项；继续参与和领导国际组织和论坛，表达对研发合作的意愿，明确人工智能研发、创新的合作方式，建立公众信任和信心。二是支持全球人工智能系统、标准和框架的开发。制定并建立适当严格的数据共享、数据隐私和知识产权保护标准、政策和程序，满足各国系统之间的互操作性，确保数据共享和传输安全可靠，以保护数据、隐私和国家安全。三是促进国际人工智能专业知识交流。开展更广泛的双边和多边合作，缩短伙伴关系之间人工智能专业知识鸿沟；制定人工智能人才交流计划，促进美国人工智能研究人员之间的长期合作关系。四是推动人工智能造福全世界。利用双边和多边伙伴关系，限制竞争对手和敌对国家获取先进的人工智能工具及相关技术，遏制滥用及恶意使用的行为。借助人工智能发展领导地位，建立标准化的可信人工智能基础设施，造福全世界。

三、几点启示

加强顶层战略部署，加快推动人工智能技术全面突破。近年来我国相关部门同样高度重视人工智能发展，顶层设计逐步完善，但随着人工智能新技术新应用的涌现，凸显我国与发达国家的技术还有一定的差距，需加强顶层战略部署，尽快完成技术突破。一是充分发挥国家政府统筹协调作用，设置人工智能发展优先事项，明确发展目标，加快推进战略部署任务进度。二是设计人工智能战略性投资，对人工智能基础研究、关键共性技术攻关、成果转移转化、基地平台建设、创新应用示范等提供支持。三是加快人工智能高端人才培养战略布局，引导人工智能科研机构和龙头企业发挥“头雁效应”，支持和培养具有发展潜力的人工智能领军人才，尤其是青少年优秀人才培养。

统筹安全与发展，稳步推动人工智能新发展格局。目前我国已出台了《新一代人工智能治理原则——发展负责任的人工智能》《新一代人工智能伦理规范》等政策文件，稳步推动人工智能安全发展，然而ChatGPT等人工智能新技术新应用发展的不确定性带来新挑战，需加强前瞻预防与约束引导，保障人工智能安全、可靠发展。一是完善人工智能安全审查评估机制，严格把控人工智能新技术新应用的引进，对已引进和使用的人工智能系统进行定期监控和适当的审计，识别和减轻人工智能安全风险。二是加强人工智能研发“设计安全”，确保从初始设计和数据模型构建到验证、部署、运行和监测的全过程安全，避免投喂数据操纵、信息偏见、隐私泄露等安全风险。三是制定广泛的人工智能标准，引导学术界、工业界和公众积极参与标准制定，实现人工智能系统安全透明，解决不公平、不平等的问题。

加强国际交流，全方位推动人工智能开放合作新发展路线。我国在人工智能国际合作方面做出了许多努力，人工智能已成为“一带一路”国际合作的重要主题，在国际人工智能开源社区的贡献度方面仅次于美国，但“技术封锁”“小院高墙”等现象依然存在，严重阻碍我国人工智能发展，急需发展国际合作新路线谋求技术新突破。一是加强双边和多边合作交流，积极探讨人工智能技术优势和瓶颈，达成合作共赢共识，共同实现人工智能关键技术攻关。二是积极与发达国家建立友好合作，通过文化、思想等方面的交流，减少国家之间分歧和摩擦，打破技术壁垒，共同实现人工智能造福全球。三是支持企业参与或主导制定人工智能国际标准，助力我国人工智能产品海外推广，有效提升我国人工智能领域的公信力。