人工智能时代的网络安全治理机制变革

张 涛

(郑州大学 政治与公共管理学院， 河南 郑州 450001)

1 问题的提出

作为依托于网络架构的数字智能技术，随着人工智能在各行各业的渗透和应用，网络空间安全治理迎来了无限机遇，同时也面临诸多风险挑战[1]。近年来，各国政府纷纷对人工智能进行战略布局和政策部署，积极推动人工智能在治理领域的普及应用。美国、英国等国家加大人工智能战略布局力度，成立专门机构统筹推进人工智能战略实施，并通过与私营机构和科研单位联合，加速实现人工智能与国家治理资源的有效整合，为国家安全和发展增效赋能。人工智能本身为网络数字技术，其依托于网络空间，同时又服务于网络空间的建设。网络安全治理研究的内容既包含网络自身的生态系统安全，也包含网络技术对现实社会中的公共安全生态系统的治理作用。本文侧重人工智能对网络安全治理赋能的机制研究。随着人工智能、物联网和大数据等新兴网络技术在国家安全和社会治理中的快速普及，公共安全威胁来源正日益从传统的社会安全向网络空间转移，公共安全与网络安全的联系更加紧密。人工智能技术的应用普及给国家网络安全治理带了前所未有的机遇，同时也需警惕人工智能技术滥用和非法使用对国家安全和社会安全的危害。

以往关于人工智能与国家治理的关系研究主要涉及人工智能本身的网络技术安全和人工智能在公共安全领域的政策解读等，很少有研究从治理机制视角探讨人工智能对网络安全的影响。徐辉认为，人工智能通过提升网格化管理水平实现了社会治理的“协同共治”和“人机共治”[2]。彭祯方等认为，人工智能通过全面的数据采集和算法模型能够对政府公共网站的用户行为、访问记录以及时空信息等数据进行全方位分析，并能够动态检测用户操作状态，实现对恶意行为的精准定位和实时预警[3]。人工智能还可以实现对计算机网络的智能化管理，使政府数据存储更加安全可靠，进而为部门间的信息交换创造良好的网络环境[4]。Singh认为，人工智能和区块链技术的融合正在彻底改变智慧城市网络架构，以构建可持续的城市公共安全生态系统[5]。

人工智能如何影响网络安全治理、如何变革网络安全治理机制和治理效能，是目前亟待研究的现实问题。随着公共安全问题的网络属性不断增强，人工智能与网络安全治理问题的结合，将成为未来网络安全治理研究的重点和难点。目前，人工智能在网络安全领域的应用还处在测试和迭代的螺旋式发展阶段。研究人工智能对网络安全治理的作用机制以及对治理带来的公共风险进行辨识，对于今后利用人工智能技术保障公共安全和社会稳定、推动国家治理体系和治理能力现代化，具有重要的理论意义和现实研究价值。

2 人工智能推动网络安全治理机制的变革

人工智能是未来网络安全治理的重要工具。人工智能在不断变化的威胁环境中的作用,对未来安全治理至关重要，这反映了人工智能在信息时代通过智能学习所产生的更广泛的影响[6]。网络安全的治理机制主要涉及事前威胁认知、事中安全防御、事后信息控制等。人工智能通过对网络安全认知机制、防御机制和控制机制等的变革和完善，能够有效提升政府的网络安全治理能力。

2.1 认知机制：人工智能推动网络安全威胁的自主认知机制变革

2.1.1 自主感知机制变革

认知机制变革的前提是感知机制的变化，只有感知能力提升，才有可能提升对网络安全威胁的认知水平。人工智能在网络安全领域的首要作用就是自主感知。数字化时代，仅仅依靠传统的人工情报很难快速实现对外来威胁的感知。在2018年世界人工智能大会人工智能安全高端对话分论坛中，腾讯公司发布的《人工智能赋能网络空间安全：模式与实践》报告指出，网络安全威胁已经全面泛化和渗透，如何利用好人工智能技术防范各种未知网络威胁，是各国政府提升网络安全治理能力的关键。Gartner公司将网络安全治理过程分为感知、防御、检测、响应四个维度，其中感知维度被放在了安全治理的首要位置。传统意义上，政府对网络安全威胁的判断往往是从感知安全威胁的动向开始，主要是基于经验知识的分析，并针对威胁形态做出一系列决策。人工智能时代，威胁感知能力通过机器自动化和机器学习技术得到了成倍提高。通过人工智能技术，人类对威胁识别的自动化作为交互式人机分析工作流程的一部分，能够对批量收集的数据进行快速过滤、标记和分类，显著减少了人工操作员处理大量数据所需的时间，大大提升了政府对网络安全威胁的推理能力和预测水平，提升了感知的自主化水平，从而显著提升了对外来威胁的防御水平。

2.1.2 自主认知机制变革

对风险和威胁的认知是网络安全治理的关键问题，是感知之后的重要阶段。人工智能是提升网络安全威胁认知水平的重要手段，能对感知信息进行自主分析，是对网络安全威胁感知能力的进一步提升。只有实现从感知能力到认知水平的提升，才能更好地应对网络安全威胁。人工智能自主认知外来风险的机制是以海量数据输入和算法为支撑，自主感知外在环境，然后通过环境数据的聚类和算法分析，做出最优的认知决策。只有快速认知和识别威胁类型和具体位置，才能为后续快速执行和辅助决策、为系统实现网络安全防御，打下坚实基础。2020年英国防务智库发布的《人工智能与国家安全》报告中提到，基于人工智能的防御软件可以主动地对网络中最易受攻击的目标进行优先级排序，反复适应目标环境，并通过一系列自主决策进行自我传播，从而有效消除潜在公共威胁。例如，在公共卫生安全领域，利用人工智能建立的“新冠肺炎疫情预测模型”能够精准地分析和预测地区疫情变化，为政府和医生提供科学的防疫治理方案[7]。对威胁信号的自主认知和学习应对，是人工智能提高网络安全防御能力的先决要素，对于未来的网络安全治理具有极其重要的意义。

2.2 防御机制：人工智能推动网络安全威胁防御机制的变革

2.2.1 自主防御机制变革

人工智能拥有自我进化和学习机制，通过对数据的深度学习，不断进行自我完善，不断提高对威胁的自主防控能力。人工智能在情报领域的发展应用带来了一场史无前例的“情报革命”。政府并不缺乏公共安全方面的数据，缺乏的是快速、自主分析数据信息并进行自动化防御的核心能力。对比传统的数据信息处理模式，人工智能在海量数据挖掘和动态分析方面具有绝对的优势。生物识别技术和深度机器学习能够对所收集到的图像进行高速分析处理，高质量地实现图像自动识别和目标提取，从而全方位感知外来威胁。

基于人工智能系统的“智能动态防御”技术，可以实现防御手段的实时自主修正和防御策略的灵活机动改变，弥补了政府传统网络防御模式对网络漏洞被动防护的技术缺陷，建立起了动态环境下破坏外来攻击进程和阻断攻击路径的机制。美国国防部已开始在国家安全体系中运用人工智能技术进行自主防御和主动打击网络恐怖主义，防范公共安全威胁[8]。同时，人工智能可以生成新的干扰和通信手段，预设欺骗性的网络防御信号来迷惑对手。例如，网络安全事件发生时，人工智能的机器学习可以通过反向数据模拟来诱导攻击者，以保护更有价值的政府公共数据资产，并避免系统遭受致命攻击。基于人工智能的网络防御将成为未来提升政府网络安全治理能力的关键抓手。目前，世界各国政府都在积极部署人工智能战略，试图抢占国家网络安全防御制高点。

2.2.2 协同防御机制变革

人工智能给国家网络空间安全治理提供了新的思路。人工智能系统巧妙地将人类的创造性和灵活性与机器的逻辑性和稳定性相结合，实现了优势互补。人工智能在提升网络安全协同治理水平方面主要分为两个维度。

第一，人工智能在公共安全领域的应用能够推动跨部门、跨地域、跨领域的数据共享和业务联动，推动治理模式的扁平化和高效化。人工智能对威胁的全维感知能够提升各部门之间对数据整合和协同的现实需求，推动网络安全防御的协同治理。人工智能对网络安全防御能力的提升是以数据和算法为基础的，因此，为了实现对网络安全威胁的全维感知和精确预判，数据的整合和协同至关重要。人工智能在网络安全领域的应用提升了网络化管理能力，推动了“共治群体”的壮大。

第二，人工智能的系统性和复杂性将促进国际社会的治理协同。人工智能从技术研发、设备部署到运行维护，是一项庞大的系统工程，需要各个环节在技术和标准领域的协同支持。由于人工智能涉及物联网、云计算、数据挖掘、智能算法等多种数字化技术，涉及即时感知、科学决策、智能监管、数据分析、机器学习和精准算法等各项技术资源，治理要素广泛分布于网络巨头、科研机构、政府部门和用户群体之中。因此，网络安全治理更加需要跨领域、跨国界、跨部门的资源整合和协同应对，以扩展治理体系的延展面。

2.3 控制机制：人工智能推动网络信息安全控制机制变革

2.3.1 网络舆论引导机制的变革

人工智能时代，算法已经成为新的网络信息权力来源[9]。算法与政治的结合已经形成一种全新的政治形态，即“算法政治”[10]。掌握最前沿的算法就意味着掌握了网络信息的优先主导权。在人工智能背景下，基于深度学习的情感预算和自然语言处理技术的超前发展，给国家意识形态治理带来了新的机遇和挑战。首先，人工智能有助于政府建立公共安全治理“智能”整合机制，对信息收集、处理和分发等过程进行算法整合，能够有效提升信息传播和控制的效果[11]。网络信息通过算法推荐，能够根据个人的偏好被精准推送至特定的受众人群。其次，人工智能有助于政府建立对政治议程和走向的引导机制。基于人工智能的算法技术，最终解决的是“知识发现”问题，是对信息的智能挖掘和处理。建立针对个人价值取向、政治观点、行为动向等在内的诸多数据观测点，通过数据训练建立行动与思想的某种关联，利用人工智能就有可能预测和掌控意识形态流向，从而强化对网络舆论的引导和控制[12]。但由于人工智能是基于给定的数据信息进行运算和学习，数据资源的真实性和完整性往往无法得到全方位保障，“算法偏见”难以避免。算法本身并不会说谎，但是数据资源收集必定渗透着算法使用者的主观价值。在国家层面，“算法偏见”可能会导致政府在信息获取和决策执行环节的偏差，从而引发社会舆论动荡。

2.3.2 网络信息甄别机制的变革

首先，人工智能的应用可以有效降低网络舆情的传播效率。尽管技术日新月异，但是目前没有任何技术能够完全解决虚假信息传播对国家政治安全的影响。人工智能通过算法和自主学习不断形成对虚假信息的甄别和剔除机制，能够有效剔除虚假舆论和不良信息。甄别和控制网络虚假信息是国家意识形态建设领域的重要议题，不仅关乎国家信息安全，更影响社会政治稳定。传统的网络虚假信息甄别主要是采用人工手段对网络信息进行人为辨别和剔除，烦琐耗时是其主要劣势。在2016年美国大选期间，借助人工智能技术，推特软件通过对大量虚假信息和真实信息的识别和分析对比，发现了两者传播模式的差异，进而找到了更快发现虚假信息的技术路径[13]。

其次，人工智能抵御虚假信息的另一重要优势，就是其建立的快速舆情反馈机制。面对紧急突发事件和重大政治新闻，人工智能凭借天然的技术优势可以快速自动生成对应新闻，并在第一时间进行报道，自主快速占据主流舆论制高点，从而有效降低后续虚假信息的生存空间[14]。人工智能对虚假信息的技术甄别正处于发展阶段，未来人工智能在甄别虚假信息和防范意识形态渗透等方面具有广阔的治理应用和发展前景。

3 人工智能在网络安全治理中的风险识别

人工智能是一把“双刃剑”。对于网络安全治理，人工智能可以为政府筑起网络安全治理的有效屏障，抵御各类网络风险，提升国家治理能力。同时，由于人工智能主体多元、技术复杂、相关制度法规滞后以及政府对人工智能安全风险管控能力不足等，人工智能过度使用和违规使用问题突出。

3.1 管控风险：人工智能主体多元化弱化政府网络安全管控能力

人工智能将推动国家产生更加包容和多层次的治理需求，增加世界的复合化，包括权力的去中心化和行为主体的多元化[15]。人工智能时代，数据即代表着竞争力，算法即是权力。掌握数据和算法的主体既有国家行为体，也有个人、企业团体、社会组织等非国家行为体。人工智能在技术层面的风险主要是“技术依赖”风险。

在国际层面，由于人工智能技术最初是基于商业用途研发的，因此,其核心技术也主要掌握在国际商业巨头手中。目前，全球最核心的人工智能技术成果主要来自谷歌、微软、IBM、亚马逊等互联网巨头，这些互联网巨头通过不断兼并其他企业壮大规模。目前，由于人工智能的国家安全应用层次不断扩展，政府在一定程度上也需要与互联网巨头进行合作。此外，许多商用人工智能程序必须经过重大修改后才能为政府服务，但一些人工智能企业出于商业机密或其他原因,不愿意与政府合作。未来，跨国公司将利用资本优势和技术优势，掌握更多关于人工智能的前沿技术和标准规则。这意味着互联网巨头在人工智能领域拥有举足轻重的话语权力和技术权威，这有可能会侵蚀国家的传统管理优势。算法、智能芯片和数据资源等，是人工智能运转的重要基础。目前，芯片的核心技术主要掌握在国外企业手中，网络数据的获取则更加依赖互联网巨头掌握的用户数据、企业数据以及公共机构的数据等。算法则更是集中在人工智能巨头手中。人工智能技术一旦被私营集团和不法分子利用进行网络恐怖主义等极端活动，将会给国家和社会造成不可估量的损失。

在国内层面，政府并不是人工智能与网络安全技术和规则的唯一控制主体。国家行为体主要进行的是顶层设计和法治监管，人工智能技术和标准的制定权主要掌握在互联网企业、行业协会和私营团体手中。这意味着，对人工智能应用于网络安全的全方位管控需要多元化主体协同参与。目前，由于协同机制和法规等不够完善，多元化主体的存在反而弱化了政府的网络安全管控能力。人工智能目前广泛用于网络安全防御和犯罪侦查等领域，但是不法分子同样可以利用人工智能的机器学习优势改进攻击方法和策略。人工智能能够每秒做出成千上万个复杂的决策，如果被不法分子利用，也有可能成为公共安全和社会稳定的祸患[16]。未来，人工智能在网络安全治理领域的运用，需要建立公共机构和私营部门之间的资源统筹、部门协作、信息共享等合作机制，同时应不断加强行业自律，引导企业制定人工智能伦理规则和内部审查机制，实现自我监管和外部规制力量的有效整合。

3.2 政治风险：人工智能技术鸿沟使意识形态安全面临严峻挑战

人工智能对国家政治安全的影响主要有两点:一是政府在决策系统中的智能算法和数据分析技术水平，将影响政府的整体决策质量；二是个别技术强国可能通过算法和大数据有针对性地对他国进行舆论和政治事务的干扰，影响他国政治稳定。人工智能是一把“双刃剑”，它既可以用来识别和筛选虚假信息，也可以成为意识形态渗透的工具。在新闻和知识生产、传播的过程中，人工智能算法和学习能力的差异，将造成国家间意识形态互动的结构失衡。在人工智能时代，虚假信息传播将更远、更快、更深、更广，特别是在政治新闻领域，将加剧全球信息安全风险。

在政治领域，人工智能可能成为加强意识形态渗透的工具。传统媒介时代，记者和传媒机构是信息发布的“把关人”，民众所认知的信息环境是一种被信息媒体处理和筛选后的“拟态环境”。智能算法引入传媒领域后，信息传播模式发生了巨大变化，信息可以通过算法推荐被智能分析和精准传播，“信息投喂”更加符合用户的思想和行为偏好。控制全球网络传媒和社交传媒的个别国家，则可能利用算法技术实现对受众群体的思想引导和干预，甚至会带来不同群体的认知偏执和思想极化，以致动摇主流意识形态的认同建构。未来，人工智能或可导致国家间产生诸如“算法战”和“意识战”等新型大国政府战略对抗模式。人工智能可以通过算法将含有欺骗性和隐蔽性的内容“子弹”通过个性化的“靶向”推送，对受众人群进行密集型的信息“轰炸”，从而成为影响他国国内舆论、甚至是分裂社会的“超级武器”。因此，必须警惕他国利用人工智能对我国社会舆论和政治事务的干扰和破坏行为。

3.3 隐私风险：人工智能的过度使用加剧个人隐私安全风险

人工智能应用的初衷是服务人类社会，服务国家治理和国家安全。但如今，人工智能的滥用和违规使用问题频繁发生，增加了网络安全风险。在数字信息时代，用户的信息类别可以分为两种：一种是身份信息，例如登录密码、指纹、虹膜和用户名等信息；另一种是内容信息，如引擎搜索、网购、娱乐消费等信息。人工智能通过信息识别和超级算法不断地获取用户的个人资料和行为偏好，通过算法分析有可能会勾勒出用户的思想和行为动向，构成对用户隐私甚至是人身安全的侵犯[17]。目前，视频监控系统普遍嵌入了人工智能技术，通过智能分析比对监控视频、音频和图片等，公安机关能够快速识别和发现违法犯罪行为，高效维护社会治安。但是，人工智能监控设备的成本越来越低，如果被不法分子违规使用，则有可能会盗用公民的隐私数据以牟取暴利，危害公民隐私安全和人身安全。同时，一些大型企业和机构利用人工智能算法，通过捆绑服务和针对性的定位营销等手段，对用户信息进行恶意识别和身份定位，损害用户隐私权益。

2021年7月，因“滴滴出行”App存在违法违规收集个人信息的行为，中国网信办要求全网应用商店下架“滴滴出行”App，并要求其全面整改，彻底完善用户信息的安全合规使用规则[18]。隐私权是公民享有的合法信息权利，未经本人允许，任何机构和个人不得违规使用、披露和公开他人的隐私信息。滴滴公司利用人工智能和大数据分析技术，通过用户出行数据，能够轻而易举地掌握用户的行为动向。机构或企业如果不能妥善保管和合理使用用户信息，用户隐私权益将会受到侵害。

4 结语

人工智能的发展不仅是国家经济转型和产业发展的重要推手，更是维护国家安全和提升社会治理能力的重要抓手。人工智能本质上是依托于网络架构的数字技术，国家在人工智能领域的战略布局说明人工智能对公共安全的重要战略意义。面对人工智能带来的机遇与挑战，完善人工智能战略布局是管控人工智能风险，更好地利用其服务国家安全治理与发展建设的关键一步。近年来，我国在人工智能领域积极进行战略布局。但与美国等西方发达国家相比，我国人工智能战略布局仍较为松散，可操作性和协同性较弱。同时,人工智能产学研方面的协同整合能力还不足。未来，我国人工智能战略布局需要解决人才、资金、体制和产业链之间的协调配合问题，以形成发展合力[19]。在公共安全领域，要加快人工智能与国家安全、城市安全、社会安全等治理要素的有机整合，扩展人工智能战略布局。在体制机制、机构设置、产学研合作、人才培养等领域加快综合布局，进一步扩展人工智能在公共安全治理中的应用。针对人工智能滥用的问题，需要完善相关法律法规、健全体制机制，同时加强人工智能使用效果和结果的评估体系建设，消除人工智能安全隐患，推动人工智能在公共安全治理领域的可持续发展。