人工智能与国家安全

李建伟 张书晋

ChatGPT可能被用于伪造虚假信息、攻击社交系统

毫无疑问，ChatGPT作为一项互联网领域的重大创新，开启了人工智能的一个新阶段。在世界百年未有之大变局和中华民族伟大复兴战略全局下，如何应对ChatGPT对于我国数据安全、科技安全、文化安全、经济安全乃至意识形态安全产生的影响，以维护和保障相关领域我国的主权、安全和发展利益，是一项需要引起高度重视的新课题。

守土有责：ChatGPT的应用需要规避哪些安全风险

一是數据安全风险。ChatGPT作为自然语言处理模型，需要大量的数据资源作为其训练基础，同时在后续的交互中依然需要持续输入数据才能保持系统的更新与数据的准确性。因此，ChatGPT的运作基础在于全球海量数据，汇集如此之多的数据交由可自主学习的人工智能系统汇总、分析与处理，这其中存在的数据安全风险不言而喻。

ChatGPT因其具有的自然语言生成与理解能力，可能被用于伪造虚假信息、攻击社交系统方面，同时还可能被攻击者利用来生成相应的攻击代码、恶意软件代码、垃圾邮件等，黑客利用AI发起数据攻击的可能性大幅提升。此外，用户在使用ChatGPT的输入端口提出问题时，该问题首先会被传输到美国的OpenAI公司，随后ChatGPT才会给出相应的回答，因而在所提问题中有关国家安全、经济运行、社会稳定、公共健康与安全的重要数据会被传输到境外公司，由此造成国家安全风险。同时，ChatGPT数据库中存在着大量未经用户知情同意的个人隐私数据，容易对用户的个人信息、隐私安全造成威胁。

因此，使用ChatGPT蕴含着高度的数据安全风险。当ChatGPT被有关国家、机构恶意收集敏感信息与传播不安全内容时，对我国国家安全将构成影响。

二是科技安全风险。众所周知，科技革命会带来进一步的产业革命。ChatGPT所用的“大型语言模型”训练将在未来形成产业链的重塑，全球海量数据输入ChatGPT中，直接导致各类商业组织、个人用户对其依赖性越来越强，这好比芯片、操作系统是ICT（信息通信技术）生态的底层核心，如此重要的“卡脖子”技术对国家安全的重要性不言自明。尽管各国都在寻求利用AI模型获得经济、军事和国家安全优势，然而目前相关内容的主要参与者还是美国公司。当ChatGPT促进网络攻防技术升维，AI对抗、AI网络攻击日后将会成为主流，来自科技安全领域的挑战刻不容缓，已成为摆在我们面前亟须解决的问题。

三是文化安全风险。如前文所述，ChatGPT是通过开放数据与用户不断输入数据来强化学习能力、完善数据系统的，这就意味着ChatGPT很容易面临输入信息错误而得出错误答案的情况，也就是“文化污染”问题。有网友用政治倾向（Political Compass测试题：涉及经济、社会、文化、政治、宗教、情感等领域六十多道题，测试者需要对每道题进行回复，在“强烈赞同”“赞同”“不赞同”“强烈不赞同”四个选项中选择一项，通过叠加得分，测出自己的政治立场和价值取向）对ChatGPT展开提问，ChatGPT表现出了非中立的文化倾向。由此可见，ChatGPT在文化领域也并非完全中立，当ChatGPT以自身文化立场对用户的提问作出回答时，可能造成互联网大范围的知识体系及意识攻击隐患。而意识攻击具有深度隐藏、潜移默化的特点，一旦被别有用心的机构利用，将会对有关国家的文化安全造成潜移默化的影响。

四是经济安全风险。ChatGPT从技术原理来看，属于AIGC（人工智能生成内容）的新型商业化应用方式，是一种基于大型预训练模型等人工智能技术，可通过已有数据寻找规律，并通过适当的泛化能力生成相关内容的AI赋能技术。除目前以ChatGPT为代表的文本生成式，还包括代码、图像、音视频等类别，为工业、医疗、教育、金融、商业、文化传媒等多领域带来了颠覆性创新。因此，掌握AIGC技术，已成为新时代维护我国经济安全的重要路径。

把数据变成生产力，是当今科技革命发生的根本变化。我国有一定的数据优势，近年来正在AI领域努力赶超发达国家，在此基础上如何发展AI技术、借助这轮科技革命的“东风”，成为应对我国经济安全风险的重点。

五是意识形态安全风险。美国新闻可信度评估与研究机构News Guards研究人员经过测试认为，ChatGPT存在阴谋论和误导性叙述的问题。他们发现它能在几秒钟内改编信息，产生大量令人信服却无信源的内容。需要引起重视的是，目前还没有办法可以有效解决这一问题，这或将导致ChatGPT成为传播包括政治谣言在内的网络谣言工具。

当前ChatGPT在回答一些涉及意识形态领域的问题时，带有鲜明的政治立场。科技无国界，然而科技的拥有者、操纵者有国籍，他们不仅坚定维护所在国的利益，甚至可能不惜为此诋毁敌对国家。美国OpenAI首席执行官Sam Altman在国家AI安全委员会（NSCAI）2021年全球新兴技术峰会期间表示：“将有多种全球努力来构建这些强大的人工智能系统，而在世界上获得我们想要的结果的最佳方式，即与自由民主制度相一致的AI，将需要我们和我们的盟友首先构建它们。”因此，ChatGPT可能对我国意识形态安全构成负面影响。

提前布局：ChatGPT技术场景下维护国家安全的发力点

为应对当前ChatGPT所可能引发的风险，我们当积极制定相应对策：

一是加快科技创新、突破核心技术。人工智能的发展建立在科技创新尤其是核心技术突破上，我国百度、腾讯等互联网企业在此方面具有发展潜力，有望打破ChatGPT在此方面的垄断。阿里巴巴、京东等中国企业也表示正在或计划研发类似产品。未来的时代是AI的时代，面对AI对AI的战略格局，我们必须掌握核心技术，不能将AI领域的话语权拱手让给他国。

二是加强数据合规、维护数据安全，尽快建立健全数据合规体系。首先，要关注从互联网收集的海量数据是否合规，ChatGPT作为一种商业产品，如果其从具有禁止第三方爬取数据条款的网站收集数据，可能违反相关规定，使用海量原始数据可能违反“最小数据”原则。其次，要注意数据处理合规，ChatGPT使用的训练数据可能含有个人隐私数据，输出的数据也可能涉及敏感信息，在数据上要保护其不被滥用或泄露。再次，要注意数据的完整性与准确性，确保其输入学习的内容是正确的。最后，要注意训练数据储存的安全性，防止数据被黑客攻击和窃取。

三是维护国家安全、健全相关立法。随着人工智能领域的大力发展，有关推动数据保护、隐私保护的法律法规应当进一步完善，以确保具体社会问题出现时，可以有明确的政策与法律法规可以依循参考。欧盟已经在考虑设立规章制度规范ChatGPT的使用，确保向用户提供高质量、有价值的信息和数据，我国应尽快将“人工智能法”提上立法清单，以应对日渐复杂的人工智能发展现状。

我国应尽快将“人工智能法”提上立法清单，以应对日渐复杂的人工智能发展现状。

四是适应社会发展、提升监管水平。ChatGPT技术的使用和开发必须符合监管的要求，应尽快健全监管备案和审批管理的相关法律法规。ChatGPT如果要进入中国，必须遵守相关监管手续要求：包括增值电信业务许可、算法备案、网络安全等级保护备案与测评等。

总之，AI技术的发展正在影响世界各国的安全格局。我国必须抓住机遇、突破核心技术、建立自己的大模型项目，以应对当前AI新发展格局下的新挑战，维护与保障我国相关领域的国家主权、安全与发展利益。

（作者单位：上海社会科学院法学研究所）