ChatGPT对军事安全的挑战与应对策略

中国电子科技集团首席科学家 周中元

ChatGPT 采用的生成式方法以及在人机对话中展现的惊人效果，引发了AIGC（利用人工智能技术来生成内容）产业链的重点关注，例如，Bing 借助ChatGPT提升搜索效果，对常年在搜索领域遥遥领先的Google 带来了巨大冲击，数字媒体公司BuzzFeed 将依靠ChatGPT 来加强部分内容创作，微软宣布将ChatGPT 整合进Office。同时，ChatGPT 也引起了军事智能领域的重视，本章重点评估其给军事安全带来的挑战，并分析可采取的应对策略。

ChatGPT给军事安全带来的挑战

目前ChatGPT 的核心技术完全掌握在美国的OpenAI 手中，尚没有其他公司能够复现，根据ChatGPT 展现的技术能力，其在军事方面的助力可能覆盖信息搜索、情报侦察、认知域作战、网络攻防和产业基础等多个维度，从这些维度出发，分析外军应用ChatGPT 可能达成的能力以及对我国军事安全带来的挑战。

信息搜索

ChatGPT 军事应用提高了关键信息获取能力、态势认知效率与我军形成落差。通过ChatGPT模型与搜索引擎的结合，使用传统搜索引擎的技术方案，弥补了ChatGPT 知识难以更新的劣势；采用ChatGPT 的交互形式，颠覆了现有的基于“文本框+网页链接”的交互方式和内容获取方式，用户可直接获取模型归纳好的答案。如图1(a)所示，对模型提问各国高超声速武器发展情况，模型直接提供了归纳好的结果，节约了信息阅读理解和整理的时间，并且能够通过追问、引导式对话方式，让搜索引擎更充分理解用户意图，逐步聚焦用户关注，从而使搜索结果更满足用户快速获取关键信息的需求。

情报侦察

ChatGPT 军事应用模型提供者掌握交互信息，加大了我军高价值情报泄露的风险。ChatGPT中隐含大量开源情报，通过对ChatGPT 进行诱导式提问，有望从模型中萃取出高价值信息。相应地，因为用户在使用ChatGPT 应用时需要与之进行对话，对话过程也是不断向ChatGPT 输入信息的过程，用户输入的对话信息越多，收集到用户的各种特征越多，就越容易被人工智能进行画像，如性别、年龄和地域等自然特征，兴趣爱好、品牌偏好和产品偏好等兴趣特征，以及婚姻情况和社交情况等社会特征等。ChatGPT 模型的提供者可以从用户交互记录中提取用户的自然属性、社会属性、兴趣偏好和意识形态等各种特征，生成用户画像，当用户是军事领域人员时，通过对话诱导和黑客技术等方式获取用户保存在自己设备上的涉密信息，可实现情报收集。

认知域作战

ChatGPT 军事应用辅助生成言论对我民众发起倾向性认知塑造。美国休斯敦大学法律中心助理教授尼古拉斯·古根伯格等指出，类似ChatGPT 这样的人工智能能够针对任何事产生无限的、近乎免费的“观点”。这些观点将影响网络上的各类活动，网络用户无法知晓在网络上与之交流的是否为真实人类。清华大学计算机科学与技术系黄民烈教授表示“ChatGPT 已经超出了80%甚至90%人的对话能力”。所以，ChatGPT 及类似的人工智能与之前的网络水军机器人不同之处在于，它们无需发送那种几乎相同的复制、粘贴的观点，但可以模仿人类，针对各种主题产生无限的具有连贯性和细微差别的个性化内容，而且它们不仅会主动发帖，还会对其他用户的帖子做出回应，并展开长期对话。因此，基于ChatGPT 的社交机器人在被灌输了人设、立场和倾向后，能够隐身互联网中，成为认知塑造工具，比传统网络水军更具影响力、隐蔽性，掌握此项能力的一方将占据认知域作战的优势地位。下面以美国击落中国民用气球、新冠起源为例说明。如图1(c)所示，当询问ChatGPT“中国的民用气球飘到美国时，美国可不可以将其击落？”，其回答“可以”；当询问“美国的民用气球飘到中国时，中国能否将其击落？”，其回答变成了“不可以”。如图1(d)所示，当询问新冠病毒是否起源于日本或美国，其回答“不是”；但将询问对象换成中国后，ChatGPT 却给出了肯定的答复。GPT-4.0 实现了图文多模态能力，甚至结合OpenAI 在图像和音频生成方面的成果，在认知域作战上的影响力会进一步提升。

网络攻防

ChatGPT 军事应用丰富了新样式、新手段，我军将面临高强度、高密度的网络攻击。清华大学新闻学院教授、新媒体研究中心主任沈阳认为，ChatGPT 是2022 年一项重大技术突破，这种突破是渗透性、普适性的技术，它实现了文理交叉，不仅能说话，而且会编码。安全公司Check Point Research警告称，ChatGPT 生成代码提高工作效率的能力也给黑客打开了新世界的大门，让他们能够更为便捷地设计、编写和执行恶意代码。黑莓公司发布的一份报告调查了英国500 名IT 行业从业者对ChatGPT的看法，发现76%的人认为，外国已经在针对其他国家的网络战争中使用ChatGPT，48%的人认为，2023 年将会出现有人恶意使用ChatGPT 进行“成功”的网络攻击。黑客能够借助ChatGPT 的自然语言和代码生成能力，快速设计和开发恶意代码，制作网络钓鱼电子邮件，其工作效率提升将改变网络攻防的强度和密度。

辅助决策

ChatGPT 军事应用可构造指挥控制（指控）领域一体化大模型，外军作战决策效率将大幅提升。基于Transformer 的基础大模型不仅可以生成内容，还可以扩展到态势预测和行动控制等领域应用。2022年DeepMind推出的“通才（Gato）”就是基于统一Transformer 架构的智能体，可执行600 多种任务，包括操作真实机器人手臂叠块、玩游戏机等复杂任务。可以预见，构建指控领域一体化大模型，有望赋能态势认知、决策制定和行动控制等指挥任务。

产业基础

ChatGPT 军事应用可实现代码自动生成、修正与解答，使得外军智能化研发提速。在代码生成方面，能够根据自然语言描述自动生成具有指定功能的Java、Python、C 和C++ 等多语种代码，如图1(b)所示，ChatGPT 能够按照指定编程语言和功能要求生成代码，开发者可以直接使用或基于生成的代码修改，避免简单重复工作；在代码修正方面，可对常见语法和逻辑错误提出修改建议，提升了调试效率；在问题解答方面，可对遇到的问题提供解决思路，可应用于方案设计或技术研发。在人类的军事史上，经历过强调能量的焦耳战和信息赋能的比特战，目前看来，未来极有可能进入以人工智能为战斗力衡量标准的智能战。ChatGPT 引发人们对于人工智能已经出现奇点的讨论，一旦出现以ChatGPT 或类似程序广泛应用为标志的网络战向智能化升级，人类战争维度也将进入新阶段。

军事安全领域应对策略

目前国内百度、字节跳动和网易等公司已有相关技术积累和布局，但从技术能力上，国内专家判断落后ChatGPT 约2～3 年。军工领域方面，虽然相关企业在自然语言处理技术方面有所积累，但相关模型和功能与业界相比差距较大。目前我国面临着多个方向的外部威胁，东海问题、台海问题、南海问题和中印边境问题都有可能引来美国的介入和捣乱。在和平时期，美国很有可能通过对华认知战、网络攻防战，影响我国的正常决策和行动。在战时，除了对我国合理、合法的军事行动进行抹黑外，还有可能通过制造大量的假信息，试图对我国的正常军事行动产生破坏和干扰。在存在技术代差的情况下，如何应对上述挑战是守卫国家军事安全的关键。

加强反生成式AI 技术研究，破除、营造“战场迷雾”

针对ChatGPT 及类似模型生成的文本、图像和音视频等数据，研究机器生成内容检测方法，形成类似于DetectGPT（用于检测AI生成文本的GPT）的内容检测能力，用AI 来反AI 以破除敌方对我方的“战场迷雾”。同时，研究伪数据生成方法，通过与敌方AI交流，对其灌输大量干扰性、欺骗性信息，营造的“战场迷雾”达到一定数据规模时，能够实现为敌方AI“降智”的效果。

加强网络信息安全防御体系，提高网络防御响应能力

针对ChatGPT 及类似模型可能带来的高强度、高密度网络攻击，研究基于人工智能大数据分析的网络防御技术，提高网络攻击监测、处置等响应能力。一方面，可以使用硬件虚化、主成分分析和间隔采样，提高安全信息防御体系中数据采集、存储、传输和交互的速度以及数据有效性，提高系统的灵活性和反应速度，提升网络入侵者有所行动后防御体系的响应速度。另一方面，对网络入侵行为进行分类统计，筛选出不同类型及其典型案例，提取具有较高普适性的特征来识别网络入侵行为，在具备很好响应速度的同时，确保监控到入侵行为。结合监测模块和响应模块，在监测到网络入侵的同时，快速定位病毒，根据病毒的危害程度给予用户更多的信息，进而能够根据现实情况适当地采取进一步措施，降低损失。

加强军事智能辅助决策系统建设，提升战场决策效率

军事决策不仅考虑要素多，还需进行充分评估和大量计算，涉及复杂的专业知识以及严密的逻辑推理。目前ChatGPT 及类似模型在专业性及推理方面还有明显不足，在辅助决策方面尚难以快速形成显著优势，我军应以军事需求为牵引，通过“先进技术+军事思维”联合打造专业、严谨、准确且高效的军事智能辅助决策系统，收集各级各类人员反馈意见，持续完善系统功能，提升系统先进性、实用性和稳定性。

加强军事数据资源建设，夯实军事智能基础

海量训练数据是ChatGPT 强大能力的底座之一，为了更好地加快军事智能化进程，应加快构建和完善军事专业数据资源，包括武器装备、战场环境、战法规则、编制体制、作战力量和情报信息等作战业务数据，以及标注数据、算法代码和智能模型等研发数据，对各类数据进行标准化管理，便于军事智能研发以及各类业务调用，为指挥员和AI 辅助决策提供信息支撑，为军事智能研发提供相关成果支撑。

随着人工智能技术的不断突破，逐步引起了各国的重视，并进入国家战略规划。自然语言处理技术作为其中的重要分支，受限于其抽象性、歧义性等特征，研究难度极高；但ChatGPT 问世以后，让大众看到了真正实现自然语言处理最终目标的希望，也就是让机器能够理解人类语言，用自然语言的方式与人类交流。本文简要总结了自然语言处理技术发展历程，追溯GPT 家族模型发展历程，了解其网络结构设计特点，并重点解析了ChatGPT 训练过程，这是其取得闪耀能力的关键。与传统大规模预训练语言模型、聊天机器人和任务定制模型等典型技术成果对比，评估了ChatGPT 的优势，从算力、算法和算据3 方面总结其劣势。根据ChatGPT 具备的智能化能力，结合其自然流畅、多轮交互和泛化能力强的优势以及知识难以更新、专业领域能力欠缺等劣势，从军事应用场景出发，评估其对军事安全带来的挑战。最后，本文提出加强反生成式AI 技术研究、加强网络信息安全防御体系、加强军事智能辅助决策系统建设以及加强军事数据资源建设的应对策略。ChatGPT 和GPT-4.0 的下一阶段甚至可能会朝向虚拟人的方向继续发展，目前我们面对的是新一轮的军事革命，军事安全面临严峻挑战，唯有加快军事智能发展步伐，才能在未来战争中制衡对手、战胜对手。