2022 年人工智能领域国家安全风险评估及对策

2022-11-14王楚

中国管理信息化 2022年9期

王楚

（国家计算机网络与信息安全管理中心河北分中心，石家庄 050000）

0 引言

近年来，人工智能由于应用前景广、战略价值高，已成为大国科技竞争的重点热门前沿领域。人工智能领域的竞争已经从市场布局、技术革新发展到领导地位和国际标准制定的层面。随着我国人工智能研发投入不断加大和创新不断增强，西方发达国家的担忧情绪加剧，抹黑和围堵我国人工智能产业的行径不断，我国人工智能产业发展所面临的国际竞争环境越发严峻，使我国科技产业安全甚至国家安全存在潜在风险。因此，评估人工智能未来在国家安全方面存在的风险点，对潜在风险进行预判和提前应对，对人工智能行业良性发展至关重要，对我国国家网络安全发展也具有重大意义。

1 2021 年主要国家（地区）人工智能发展特点

1.1 加强顶层设计，持续出台推动人工智能发展的战略规划和实施方案

2021 年，美国、英国、欧盟等国家（地区）强化人工智能发展战略迭代，围绕核心技术、财政支持、人才培养、伦理规范等，密集出台相关战略规划、政策文件，为人工智能技术发展提供政策保障，力图在新一轮科技竞争中掌握主导权。2021 年8 月，美国国土安全部公布《人工智能与机器学习战略计划》，开展人工智能领域的研究、开发、测试和评估活动，以满足该部的任务需求，并向利益攸关方提供人工智能发展及机遇和风险方面的咨询。2021 年9 月，美国商务部、国家人工智能倡议办公室和白宫科技政策办公室组建一个面向总统和联邦机构人员提供人工智能相关建议的国家人工智能咨询委员会（NAIAC）。同月，英国文化媒体和体育部（DCMS）制定了一项十年战略，旨在使该国成为人工智能领域的全球超级大国。2021 年10 月，欧洲议会投票支持全面禁止执法机构使用人工智能和面部识别系统进行大规模公共监控。2021 年11 月，法国政府公布了法国2030 第二阶段的战略计划——到2025 年，将在人工智能上投资22 亿欧元，重点用于人才培养，旨在解决人工智能领域的人才挑战，让法国成为国际舞台上的“人工智能冠军”。一系列举措表明人工智能对科技、产业和社会变革的巨大影响正得到更多国家的认同。

1.2 推动落地转化，加速推进人工智能技术产业化步伐和军事化进程

2021 年4 月，英国国防部国防科学技术实验室（Dstl）计划在纽卡斯尔国家数据创新中心（NICD）建立人工智能研究团队，希冀利用该地区的AI 技术提高英国在人工智能和数据科学领域的能力。2021 年7 月，美国国防部计划向作战司令部派出数据和人工智能专家团队，以加快推进人工智能相关应用。美国空军推出新的“数据与人工智能计划”以支持美国国防部范围更广的行动。2021 年8 月，美国陆军未来司令部发布广泛的机构公告（BAA），概述了未来五年它感兴趣的11 个人工智能研究领域，重点是数据分析、自治系统、安全和决策协助。2021 年10 月，美国空军研究实验室（AFRL）与英国国防科技实验室（Dstl）首次展示了两国军队合作部署机器学习算法的能力。

1.3 深化国际合作，频繁推动人工智能领域建立创新伙伴关系和发展同盟

2021 年，世界主要国家和地区为了抢占发展先机，加大了在人工智能领域的国际合作和结盟。2021 年3月，印美科技论坛（IUSSTF）发起了美印人工智能（USIAI）倡议，专注于在两国优先考虑的关键领域开展AI 合作。USIAI 倡议将作为讨论双边AI 研发合作的机遇、挑战和障碍的平台，促进AI 创新，帮助分享发展AI劳动力的想法，并推荐促进伙伴关系的模式和机制。2021 年7 月，新加坡和日本签署关于数字经济、人工智能、网络安全和信息通信技术的合作备忘录。同月，印度国家金融管理研究所（AJNIFM）与微软建立了战略合作伙伴关系，以建立人工智能和新兴技术卓越中心。该合作旨在探索云、人工智能和新兴技术在改变和塑造印度公共财政管理未来方面的作用。2021 年10 月，北大西洋公约组织（NATO）正式通过北约首项人工智能战略。

2 2022 年人工智能领域国家安全总体态势

2.1 人工智能全球领导地位之争将更加激烈

2021 年1 月，美国制定国家人工智能战略，作为美国年度授权法案的一部分。2021 年3 月，美国人工智能国家安全委员会发布研究报告，就美国如何在人工智能激烈竞争的时代赢得竞争，维持全球领导地位等展开了一系列论述，报告称，美国必须改变当前形势，否则中国就会拥有未来十年内超越美国成为人工智能全球领导者的力量、人才和雄心。2021 年6 月，澳大利亚政府发布了《澳大利亚的人工智能行动计划》，为澳大利亚制定了一个愿景，即成为开发和采用可信、安全和负责任的人工智能全球领导者。同月，北约成员国商定启动名为“北大西洋国防创新加速器”（DIANA）的新计划，目的是加快大西洋两岸在人工智能等关键技术上的合作，挑战中国在人工智能领域的领先地位。2021 年9 月，英国政府制定了一项十年战略，旨在使该国成为人工智能领域的全球超级大国。未来，西方发达国家争夺全球人工智能领导地位的情况会愈演愈烈，皆会将中国视为最主要的竞争对手之一。

2.2 以美国为主导的人工智能军备竞赛将愈演愈烈

以美国为首的西方发达国家持续深化人工智能在情报收集和分析、后勤保障、网络空间作战、指挥和控制等方面的作用，越来越多地将人工智能集成到各种军事应用中以寻求作战优势，军事智能领域面临越来越激烈的国际竞争。拜登政府对人工智能的重视程度，与特朗普政府相比有增无减，尤其是着力推进人工智能在军事领域的应用。2021 年7 月，作为人工智能和数据加速（ADA）计划的一部分，美国国防部向作战司令部派出数据和人工智能专家团队，以加快推进人工智能相关应用。ADA 计划旨在于真实的作战场景中测试人工智能算法，发现算法应用的潜在障碍。此外，美国军方已把中国视为“步调挑战”，在华盛顿的一次数字峰会上，美国国防部长奥斯汀称：“在人工智能以及其他很多领域，我们明白，中国是我们的步调挑战。”这意味着，美国的军力发展步调以中国军力的发展节奏为衡量标准，美国正加速推进人工智能军事化步伐，并对未来人工智能战争预做准备。五角大楼宣称，为了有效对抗不断崛起的中国，美国军方展开冲刺，随着中国在人工智能领域不断逼近，整场竞赛远未结束。

2.3 抹黑我国人工智能产业发展的情况将更加频繁

澳大利亚战略与政策研究所（ASPI）2021 年5 月5日发表《中国在非洲的人工智能部署对安全和主权构成威胁》一文，称人工智能在整个非洲大陆的大规模部署，正使中国企业获得竞争优势。中国在识别其人口中的非白人面孔方面已经很成熟了，华为的人工智能系统可以持续收集非洲黑人的面部数据和人、车辆在城市中的运动数据。这些数据项目可能意味着非洲在制定政策方面持续依赖中国和中国的技术。英国广播公司（BBC）2021 年5 月称，一套使用人工智能和面部识别技术来揭示情绪状态的摄像系统已经在新疆维吾尔人身上进行了测试，一位软件工程师声称已经在新疆的警察局安装了这种系统。美国研究机构IPVM 声称，一些公司提交的专利申请中发现的证据表明，面部识别产品是专门为识别维吾尔族人而设计的，肆意歪曲事实，抹黑中国。华为、海康威视等科技公司均被指生产过相关产品。未来，为了围堵我国在人工智能领域的发展，美欧等西方国家将进一步借助人工智能炒作“中国数字威权”，试图阻碍我国人工智能产业正常发展。

3 2022 年人工智能领域国家安全主要风险点

3.1 需警惕美国和西方主导人工智能技术和治理规则制定的国际话语权，孤立、打压中国

美国将其盟友和伙伴整合在统一的人工智能技术使用准则和政策框架下，由此形成以美国为首的技术生态圈。美国和欧盟人工智能监管指南和白皮书的出台，意味着人工智能政策已从伦理转向监管，美欧意在立法和监管上谋求全球领导地位。2021 年7 月，美国商务部长雷蒙多发表声明称，人工智能相关的规则应该以与美国自由、开放等理念一致为出发点，美方不能让中方制定AI 规则。此外，美国必须与盟友团结合作，才能对抗中国的“威胁”。美国国防部长奥斯汀也称，中国正在制订针对“监控、网络攻击和自动武器”等的长期AI 发展计划，美国应对此进行回应。未来，如果美国无法主导人工智能领域，其极有可能通过各种各样的限制和遏制手段，阻挡我国人工智能产业进入国际市场，并将阻止我国参与制定人工智能技术国际标准和规则。我国在人工智能领域的联合创新和国际合作或将面临更高的壁垒和障碍，需谨慎应对。

3.2 为维护人工智能的技术领先地位，美国恐会继续打压我国科技企业

《中国人工智能发展报告（2020）》数据显示，中国人工智能专利申请已经超过了美国成为世界第一，约占全球申请量的74.7%，是美国申请量的8.2 倍。同时，在美国斯坦福大学的报告中可以看到，2020 年学术杂志刊登的AI 相关论文引用次数情况，中国首次超越美国，份额为20.7%。我国人工智能产业飞速发展，令不少美国鹰派人物非常不安，他们主张在必要时机，应动用一切手段，不惜任何代价，打压我国的人工智能技术，因为我国在人工智能领域的每一次技术突破，都会严重威胁美国在全球的科技地位以及相关产业的利益。2021 年4 月8 日，美国商务部将七个中国超级计算实体添加到“实体清单”中，包括天津飞腾信息技术、申威（上海高性能集成电路设计中心）、Sunway Microelectronics、国家超级计算济南中心、国家超级计算深圳中心、国家超级计算无锡中心以及国家超级计算郑州中心。未来，恐怕美国针对我国人工智能等科技企业的打压仍将继续。

3.3 人工智能产业人才竞争将加剧，美国恐进一步对我国科技人才进行限制

2021 年7 月，美国以违反第10043 号总统令为由拒绝我国500 多名赴美留学生的签证。第10043 号总统令是特朗普执政时签署的，旨在对中国理工科学生赴美留学做出限制。据了解，此次被拒签的学生都是赴美国攻读硕士或博士学位的研究生，所学专业集中在电子工程、计算机、材料科学等专业性较强，并且涉及国防科技领域的理工科专业。很明显，美国无端拒签中国留学生，就是要对我国理工科专业方面的人才进行限制，压制中国科技的发展势头，维护美国的优势地位。美国国家人工智能安全委员在最终报告中也提出了以人工智能为核心的数字人才竞争制胜战略，提出了强化政治审查机制，特别是在出口管制和利益冲突披露等方面将收紧政策。未来，美国恐将继续搭建科研高墙，以维护国家安全的名义打击限制中国理工科留学生及学者。