总体国家安全观视角下的人工智能与国家安全

李峥

内容提要 近年来，人工智能技术的迅速发展引起国内外广泛关注。作为一项革命性新技术，人工智能在政治、军事、经济、社会等各方面均有巨大应用潜力，对国家安全而言，既蕴含着机遇，也存在风险，其中一些潜在风险已开始有所显现。这些风险的存在使得各国需要结合本国情况对人工智能开展治理，规范其发展方向，确定应对重点。总体国家安全观作为我国新时代国家安全工作的统领性思想，应当成为我国处理好人工智能与国家安全关系的理论基础，指导我国走一条有中国特色的人工智能发展道路。

关键词 总体国家安全观；人工智能；国家安全

DOI： 10.19422/j.cnki.ddsj.2018.10.004

2006年以来，人工智能技术进入第三轮“飞跃期”，部分试验性技术进入快速应用发展阶段，给经济和社会带来越来越直接的影响。人工智能不仅是新的产业增长点，也对各国政治、军事、社会带来巨大影响，需要各国政府引导并加以应对。党的十八大以来，以习近平同志为核心的党中央提出了总体国家安全观，成为解决国家安全问题的指导性理论，对自身如何看待人工智能带来的风险与挑战提供了思想指引。新形势下，我国应根据国情特点应对人工智能对国家安全带来的机遇与挑战，推动人工智能技术和产业健康发展。

人工智能技术

在国家安全领域的应用

人工智能是计算机科学的一个分支，用以泛指让机器实现智能行为的一系列技术。这些技术包括机器视觉和听觉、自然语言处理、人工神经网络、机器学习、认知与推理、博弈论、机器人学等。人工智能发端于20世纪50年代，与现代计算机技术几乎同步出现。20世纪50年代至七八十年代，人工智能先后出现过两轮“技术飞跃”，出现了一些革命性的理念和算法。[1]2006年，加拿大学者提出了革命性的深度学习训练方法，让人工智能得以融入新一轮信息科技浪潮。[2]2010年至今，人工智能进入第三轮“飞跃期”，在机器翻译、无人驾驶、图像识别、博弈对抗等应用领域接近或超越了人类的水平。

人工智能的终极目的是让机器实现类似人类的感知、认知、推理、记忆、学习、抉择、交流、反应能力，能够自主完成使用者所交付的任务，或对外界变化做出智能反应。从人工智能过往的发展历史看，数据、计算能力、辅助训练、算法是支撑该技术发展的四大支柱。数据的丰富能够提升人工智能的学习能力；计算能力的强化能加快其反应速度；辅助训练使其抉择更为精确；算法进步则使人工智能发生“迭代”[3]，能够实现前所未有的功能。在可预见的将来，数据、计算能力和辅助训练仍将进一步推进人工智能的发展，使其实现更广泛的功能。

人工智能对社会的影响主要体现在其“赋能”[4]功能，即通过机器增强人类应对复杂环境及繁琐任务的能力，帮助人类承担危险、繁重、重复的工作。这种能力既拥有商业潜力，也可应用于国家安全领域。从当前发展态势看，人工智能在国家安全领域的应用主要体现在以下方面。

第一，军事领域。人工智能可与现有武器装备和指挥体系结合，提升军队的作战能力。例如，人工智能可用于辅助枪炮瞄准、锁定、击发过程，提高打击精度和作战反应速度。俄罗斯、美国也开始研发完全由人工智能控制的自主性武器，在无人干预的情况下实施火力打击。人工智能也可协助参谋人员分析处理来自多种渠道的海量信息，运用其运算处理优势在短时间内完成分析任务，提供即时、全面的战场情报，使指挥和作战人员可以完整把握战场实况。2017年，美国国防部启动名为“马文”（Maven）的人工智能项目，该项目将利用人工智能辅助无人机识别目标，从而实现无人机远程精准打击。[5]一旦该项目付诸实践，将成为人工智能介入真实战场的首个案例。

第二，经济领域。人工智能可提升政府对经济社会的把控能力，通过早期预警预防系统性风险。经济社会瞬息万变，监管部门与市场参与主体的信息不对称和监管部门不能正确处置苗头性风险容易导致系统性风险放大、传导甚至失控。人工智能可协助政府监控微观经济行为，预先判断政府的调控措施是否有效，是否会带来预期之外的影响。在经过深度学习后，成熟的人工智能能够为政府调控经济社会提供多个选项，帮助政府选择最优路径及应对外部金融冲击的最优方案。[6]

第三，社会领域。人工智能将帮助政府变得更加智能、全能和超能，辅助政府日常社会管理，提升公共服务效率，增强社会安全。基于人工智能技术，政府能够预先发现、解决问题，并且在意外发生后的最短时间内设计出行之有效的解决方案。运用先进的人工智能技术，政府可准确预测城市交通情况，在发生严重拥堵前施加干预。人工智能也可用于犯罪预防和处置，提升城市治安水平。这些应用将使政府更加“自动化”，可在最短时间内做出正确决策。美国一些地方政府已经开始运用人工智能监测食品安全和预防犯罪。如拉斯维加斯卫生署运用一个软件监测社交媒体，可在早期发现食品安全危机。[7]英国杜伦郡警方启用一套犯罪预测系统，用来分析刑满释放人员和犯罪嫌疑人的犯罪行为，辨别其社会危险性。德勤会计师事务所（Deloitte & Touche）发布报告称，政府一直希望变得更“聪明”，人工智能技术就是实现这一目标最便捷的途径。[8]

第四，网络领域。人工智能在网络安防领域已经有部分应用成功的实践，可有效降低发生大规模网络灾难的风险。其效果主要体现在提升漏洞挖掘效率、迅速应对分布式拒绝服务攻击[9]和主动识别具有恶意的网站和邮件。利用人工智能技术，网络安全维护者可布设更为广泛的网络防线，在早期发现网络异常情况，并通过历史比对判断其性质。

人工智能发展

对国家安全带来的挑战

人工智能对国家安全带来的挑战主要体现在三个层面：一是技术滥用风险。作为一项技术，人工智能并不能甄别、判断使用者的身份和意图，这使得该技术也可能被犯罪分子、网络黑客或恐怖分子使用。这些惡意行为将危及民众的生命和财产安全。二是技术竞争风险。人工智能存在着技术水平优劣的差异，先进技术对落后技术具有显著优势，甚至可能在战场或产业竞争中产生决定性作用。因此，各国都不希望本国在人工智能的国际竞赛中居于下风。人工智能技术发展所依托的数据、算法、人才成为各国国力竞争的新焦点，并随之引发出一系列国际政治问题。三是对民众生活方式和劳动方式的挑战。人工智能在个别领域达到了“超越人类”的能力，但其整体发展仍处于雏形阶段，无法实时应对复杂的环境。然而，随着算法的演进，人工智能的进步不但不会停止或倒退，反而可能在越来越多的领域起到替代人类的角色。一旦“强人工智能”出现，将对人类社会带来革命性影响。届时，民众生活和劳动所依赖的法律、道德和伦理体系都会受到巨大冲击。[10]

上述三个层面的安全挑战存在着递进关系，即随着人工智能技术愈发先进，其带来的主要威胁将从一国内部上升到国家间关系，最后上升到对整个人类社会的挑战。当前，人工智能带来的安全挑战主要体现在第一个层面。人工智能让电脑生成逼真视频和音频内容变得越来越容易，人们可以在网络视频、网络通信工具上仿冒他人，甚至仿冒政治领导人等知名人物。此类伪造音视频通过互联网和社交媒体快速传播，对社会和经济秩序带来冲击。

人工智能控制的交易程序、交易产品也容易成为引发金融市场闪崩的罪魁祸首。[11]2012年，美国“骑士资本”就因其高频交易程序发生故障导致超过四亿美元的亏损，并造成美国股市大幅波动。[12]随着人工智能在军事、安全领域的应用，其带来的风险也开始向国家间层面扩展。一方面，人工智能与武器系统结合产生的自主性武器对现有战争规则和军事行为准则带来挑战。自主性武器可能发生错判或误判，可能在两军军事对峙时制造危机，这种风险并未在传统军事规则中有所体现。另一方面，西方国家也意识到人工智能的战略重要性，开始积极围绕该技术保护本国科技产业和科技资源，推行科技保护主义政策。例如，美国推动改革“外国投资委员会”，重点审查他国对美国人工智能、大数据等“专有技术”的并购和转让。[13]这种做法对他国经济安全和产业安全带来负面冲击。

监管和规则滞后于技术发展是人工智能带来安全问题的主要原因。与其他由人类操控的技术不同，人工智能在一定程度上拥有自主的反应和行动能力，这让如何认定人工智能的责任存在困难。作为一项具有革命性潜力的技术，政府需要在促进技术发展与规制技术安全中找到平衡，借助法律、伦理等约束性手段抑制人工智能“作恶”的苗头。由于技术的全球化，一国也可能遭遇他国人工智能恶意行为的伤害。试图用人工智能“作恶”的技术人员将不断寻找各国监管制度的空白，从不同国家的监管差异上套利。因此，只有国际社会在人工智能治理上达成普遍共识，才能真正管控该技术带来的威胁。目前，国际组织已开始关注人工智能的安全问题。2018年4月，联合国“致命性自主武器系统问题政府专家组”在日内瓦召开会议，讨论人工智能的武器化问题。80余国官员及专家参与讨论，各主要国家借此会议表达了本国对该议题的基本立场。[14]

从总体国家安全观

看人工智能

对中国国家安全的意义

人工智能对于国家安全来说是一把“双刃剑”，是中国保证国家安全、推进国家治理体系和治理能力现代化所面临的新问题。人工智能影响范围广泛，需要以一种综合、系统、全面、辨证、发展的安全理论框架才能够正确把握人工智能带来的机遇与挑战。2015年以来，美国、英国、日本、欧盟等西方国家均提出了关于发展人工智能技术、应对安全挑战的战略文件，各国结合自身国情特点提出了本国的发展重点和主要安全关切。中国也需要从本国实际情况出发，结合自身具有纲领性的国家安全理念处理人工智能与国家安全的关系。

2014年4月，中共中央总书记、中央国家安全委员会主席习近平在主持召开中央国家安全委员会首次会议时提出了“总体国家安全观”，具体阐释了该理念的内涵与外延。[15]坚持总体国家安全观，是习近平新时代中国特色社会主义思想的重要内容，是指导新时代国家安全工作的强大思想武器。“总体国家安全观”所提出的11种安全正好能够涵盖人工智能对我国带来的诸多机遇和挑战，其强调统筹发展和安全，增强忧患意识的原则也与人工智能的“双刃剑”特质相吻合。结合“总体国家安全观”的内容和理论体系，我国处理人工智能与国家安全关系时需要把握以下几点。

第一，以维护政治安全为根本，着力应对人工智能所带来的突出性安全挑战。总体国家安全观以政治安全为根本，其核心要义在于坚持党对国家安全工作的绝对领导。习近平总书记指出，“我们治国理政的本根，就是中国共产党领导和社会主义制度……推进国家治理体系和治理能力现代化，绝不是西方化、资本主义化”[16]。坚持以政治安全为根本意味着我国在发展人工智能产业时不能走西方自由放任的道路，中国共产党的相关负责机构应当成为引领我国人工智能治理的支柱力量。人工智能的产业发展和技术应用不能违背党的各项大政方针，不能被用于破坏社会主义制度和党的领导。在这一前提基础下，我国应着力发展人工智能对党的执政能力、国家治理能力现代化的“赋能”作用，充分运用先进人工智能技术提升各级党和政府的管理能力、应急能力，让党和政府在应用人工智能上走到全社会的最前列。

第二，以人民安全為宗旨，权衡人工智能的经济机遇与社会冲击。人民安全高于一切，是总体国家安全观的精髓所在，体现了党的性质宗旨和唯物史观。人民安全是国家安全的基石和归宿，人民安全感越强，国家安全就越有依靠，人民安全感和归属感越弱，国家安全就越脆弱。[17]人民安全理念要求我国在发展应用新科技时需要照顾、考虑广大人民群众的获得感和感受，新技术不应成为破坏社会稳定、扩大贫富差距的推动力。像以往的先进技术一样，人工智能技术也有着较高的门槛，技术精英和数字经济企业是人工智能技术的主要获益者，但人工智能带来的就业替代却会影响一些劳动者的生计。以人民安全为宗旨要求我国政府应重视人工智能对社会和人民发展机会的潜在负面效应，预先采取措施加以应对。政府应避免人工智能强化互联网企业的垄断地位，提高关于人工智能的公共教育投入，加强全社会使用、适应人工智能的能力，限制人工智能在对社会具有破坏性领域的应用。

第三，以经济安全为基础，促进人工智能在经济治理体系中的应用。经济安全不仅涉及经济的各个方面，也与其他领域的国家安全交织。维护经济安全，核心是坚持社会主义基本经济制度不动摇，不断完善社会主义市场经济体制，提高经济实力、竞争力和抵御内外冲击的能力。[18]人工智能作为一项“赋能”技术，能够在完善经济体制、抵御内外风险上发挥显著作用。例如，人工智能能够增强政府的宏观和微观调控效果，降低政府调控失误的风险。人工智能也可用于市场监管、风险排查、打击经济犯罪等经济社会治理领域，提升政府管控市场秩序的能力。上述“赋能”效果需要中国加强对经济社会的统计和监控，获得更多真实、准确、及时、有效的数据。运用人工智能提升经济社会治理能力是一项系统性工程，也是中国经济社会治理现代化的重要方向之一。

第四，以军事安全为保障，运用人工智能推动军事变革。军事安全是中国各项安全的重要保障。我国军事实力建设的基本目标是建立一支听党指挥、能打胜仗、作风优良的世界一流军队。[19]当今世界并不太平，我国维护主权和领土完整面临着严峻的外部挑战。美国等西方军事大国运用人工智能技术开发自主性武器、人工智能作战系统对中国国家安全带来了新的安全挑战，或将扩大中国与西方国家的军事力量差距。军事竞争不进则退。西方将人工智能运用于军事安全领域违背了该技术的设计初衷，也使得其他国家必须有所回应。中国应从本国安全利益出发，积极探索人工智能在军事领域的应用和创新，借助该技术提升中国军事实力，推动基于该技术的军事变革，满足未来战场需求。

第五，以共同安全为目标，推进人工智能治理的国际合作。习近平总书记提出“人类命运共同体”理论，倡导建设持久和平、共同繁荣的和谐世界。[20]“人类命运共同体”理念孕育于全球化深入发展、非传统安全风险突出、国际治理体系亟待改革的大背景下，提出了解决国与国之间利益冲突、各国共同应对全球性安全挑战的路径。人工智能所带来的多数安全挑战具有全球性特征，技术滥用和监管失控的风险将通过互联网在全球范围内广泛传导。在这些挑战面前，世界各国也是“命运共同体”，存在着一荣俱荣、一损俱损的关系。因此，各国需要在人工智能领域一些根本性、原则性的规则和伦理上达成共识，对该技术衍生出的犯罪行为持统一态度。中国作为维护全球共同安全的重要力量，应积极参与人工智能治理领域的国际合作，推动美国、俄罗斯等主要大国在该领域协调立场，充分顾及发展中国家的利益和诉求，推动人类社会共同应对人工智能所带来的颠覆性挑战。

（作者系中国现代国际关系研究院美国研究所副研究员，军事安全研究室主任）

（责任编辑：徐海娜）

[1] The History of Artificial Intelligence，http：//sitn.hms.harvard.edu/flash/2017/history-artificial-intelligence/.

[2] How U of T's "godfather" of deep learning is reimagining AI，https：//www.utoronto.ca/news/how-u-t-s-godfather-deep-learning-reimagining-ai.

[3] 迭代是重复反馈过程的活动，其目的通常是为了逼近所需目标或结果。每一次对过程的重复称为一次“迭代”，而每一次迭代得到的结果会作为下一次迭代的初始值。

[4] “赋能”顾名思义，就是为谁或某个主体赋予某种能力和能量。它最早是积极心理学中的一个名词，旨在通过言行、态度、环境的改变给予他人正能量。后来被广泛应用于商业和管理学。

[5] Project Maven Industry Day Pursues Artificial Intelligence for DoD Challenges，https：//www.defense.gov/News/Article/Article/1356172/project-maven-industry-day-pursues-artificial-intelligence-for-dod-challenges/.

[6] Artificial intelligence and machine learning in financial services，http：//www.fsb.org/wp-content/uploads/P011117.pdf.

[7] Artificial Intelligence： The Next Big Thing in Government，http：//www.governing.com/columns/tech-talk/gov-artificial-intelligence-government-technology.html.

[8] AI-augmented government ，https：//www2.deloitte.com/content/dam/Deloitte/uk/Documents/public-sector/deloitte-uk-dup-AI-in-government.pdf.

[9] 分布式拒绝服务（DDoS：Distributed Denial of Service）攻击指借助于客户/服务器技术，将多个计算机联合起来作为攻击平台，对一个或多个目标发动DDoS攻击，从而成倍地提高拒绝服务攻击的威力。

[10] Understanding Artificial General Intelligence — An Interview With Hiroshi Yamakawa，https：//futureoflife.org/2017/10/23/understanding-agi-an-interview-with-hiroshi-yamakawa/？cn-reloaded=1.

[11] AI does not have enough experience to handle the next market crash，https：//qz.com/1151664/ai-does-not-have-enough-experience-to-handle-the-next-market-crash/.

[12] Knight Shows How to Lose $440 Million in 30 Minutes，https：//www.bloomberg.com/news/articles/2012-08-02/knight-shows-how-to-lose-440-million-in-30-minutes.

[13] CFIUS Reform： What's Next？，https：//www.steptoe.com/en/news-publications/cfius-reform-whats-next.html.

[14] Lethal Autonomous Weapons Systems at the First and Second U.N. GGE Meetings，https：//www.lawfareblog.com/lethal-autonomous-weapons-systems-first-and-second-un-gge-meetings.

[15] 習近平：《坚持总体国家安全观走中国特色国家安全道路》，http：//cpc.people.com.cn/n/2014/0416/c64094-24900492.html。

[16] 中共中央党史和文献研究院编：《习近平关于总体国家安全观论述摘编》，北京：中央文献出版社，2018年4月第1版，第24页。

[17] 《总体国家安全观干部读本》编委会：《总体国家安全观干部读本》，北京：人民出版社，2016年4月第1版，第57页。

[18] 同[17]，第105页。

[19] 《建设一支听党指挥能打胜仗作风优良的人民军队》，http：//www.81.cn/jwgz/2017-11/29/content_7847460.htm。

[20] 《共同构建人类命运共同体——在联合国日内瓦总部的演讲》，http：//world.people.com.cn/n1/2018/0119/c416882-29775965.html。