人工智能在网络安全领域的辅助应用和挑战

2020-12-30

网络安全和信息化 2020年8期

编者按：本文主要从人工智能在网络安全领域的应用及所面临的挑战展开，阐述我们该如何利用人工智能、机器学习及深度感知等方法提升应对网络安全威胁的能力，从而更全面高效地建设我国的信息安全保障机制。

在2010年后，一系列基于大数据、高性能GPU和高速网络的深度学习方法被研究完善，基于人工智能的场景应用得到了广泛关注，网络安全就是其中之一。

最初，网络安全和人工智能被认为是两个独立的实体，而随着时间的推移，这两个领域变得越来越紧密。为了混淆身份验证系统，入侵的手段越来越隐蔽且复杂化。CAPTCHA与人工智能在安全性方面的博弈是一个很好的例子：在CAPTCHA中，用户将键入扭曲（底噪）或顺序颠倒模糊的字母或数字，便可轻易过滤掉恶意行为，但到了2014年，人工智能在解决这类问题时的效率已经远超人类。

结合近两年的研究表明，将人工智能整合入企业的网络安全体系中，可在大幅降低企业全球化后所面临的日益增长的网络安全威胁。

网络安全态势综述和发展趋势

根据IDG CSO的统计，预计2021年，各国在网络安全上的投入预算将达到6万亿美元，在对已知的“严重”等级以上的网络安全事件进行筛选后发现，导致网络安全事件发生的最薄弱的环节并不是软硬件的缺失，而是人为因素，这其中包括疏忽、误操作、响应迟缓以及决策错误等。

在现有的网络安全理念的框架下，多样化的威胁开始迅速涌现，现有的响应机制必须满足不断变化的威胁形势的需求，这让传统的应对手段显得老态龙钟。

现今，我们所面临的网络安全威胁已日趋组织化、专业化和隐蔽化，部署更加智能的网络安全软件是网络安全防御发展的趋势。安全信息和事件管理软件提供安全事件分析以及各种信息的存储和关联，包括日志数据、威胁向量和用户行为等结构化的威胁情报分析。近年来，人工智能逐渐取代人工手段，成为网络空间中各类情报大数据获取的主要来源。

人工智能在网络安全领域的辅助应用

为了增强现有的网络安全系统和实践，可以在以下三个方面应用人工智能。

第一个方面是“预防和保护”。一段时间以来，研究人员一直专注于人工智能阻止网络入侵者的潜力。2014年在美国开始举办的首届DARPA网络挑战赛由专业黑客和信息安全研究人员参加，通过利用基于人工智能的漏洞检测系统找出安全漏洞并实时开发和部署解决方案。尽管仍处于初期，但网络安全的未来可能会受益于更多使用人工智能的预防和保护系统，这些系统使用先进的机器学习技术来强化防御，还可以使人们灵活的与算法决策交互。

其次是“检测”。传统的网络安全预警机制依赖专业人员使用固有特征的威胁样本的分析软件来检测网络中存在的异常，以及利用已知的攻击方式对漏洞进行识别。一旦发现匹配的威胁特征时，分析软件会向安全团队发出警报。笔者将这种工作模式归类为基于定量风险的分析模式，这其中包括已知和未知的风险。优点和不足都显而易见：不足集中表现在缺乏对未来网络安全趋势的预测和可持续性追踪上，对于网络威胁的预警只能是发生在事中或者事后，无法做到全过程可溯。造成这种情况的原因与前面提到的基于固有特征的定量风险管理模式是分不开了的。

在网络威胁不断变化的情况下，准确地筛选网络中的异常行为，对人类来说是一项极其庞大的工作。由于入侵行为（通常是数据盗窃）是长期的，因此网络上也存在一些恶意软件程序，并且看起来是无害的，我们称之为高级持续性威胁（APT）。它们经过精心设计，可以被网络安全程序和分析软件所忽略，绕过前端蜜罐，自动识别高价值信息，并可以长期潜伏在目标网络中，且无论目标库中的威胁特征码如何更新，始终可将自身置于“高度受信”的名单内。

面对APT，最好的方法就是引入“预测分析”和“认知计算”。作为人工智能的重要组成，“预测分析”也可以被称为“机器学习”，实际上它具备了比人类更好地识别模式。通过分析各种已发生的攻击，即使它与先前已知的特征不匹配，人工智能也具备对可能的攻击具有“直觉”或预测的能力。

而“认知计算”则是人工智能模型通过模仿人脑动作，在系统输入的大数据中，将网络安全威胁事件筛查出来。它可以学习并获得识别威胁的能力，构建基于态势的网络安全模型，“认知计算”可使用结构化和非结构化数据作为输入，在异构数据的基础上提供类似于人为洞察力的人机协作关系。之后，它可以提供人类可能从未想出的见解或提出独特的解决方案，我们称之为输出，从而增强了网络安全专业人员的能力，并且其速度远远超过了人类。

最后一个方面是“响应”。人工智能可以帮助优先考虑需要关注的风险领域并自动化地执行任务，从而减轻网络安全分析师的工作量，将人员的工作重心转移到更高价值的活动上。人工智能还可以基于共享的知识和学习，促进对外部或内部攻击的智能响应。

例如，今天我们拥有部署半自动、智能诱饵或蜜罐的技术，这些诱饵创建了要渗透的网络环境，以使攻击者认为他们在预期的入侵路径上，然后使用欺骗手段来识别罪魁祸首。具有人工智能功能的响应系统可以动态隔离网络，以将有价值的资产隔离在安全的“地方”，或使攻击者远离漏洞或有价值的数据。

人工智能的引入为专业人员提供了所需要的威胁分类关联信息，从而可以更快、更明智地制定决策，同时借助网络安全分析软件提供的数据（预测分析），以及上下文数据实时更新网络安全知识集，再加上先前确定的见解（认知计算），人工智能可以比任何人更快、更准确地关联所有数据。

人工智能在网络安全应用中所面临挑战

我们看到了人工智能在网络安全应用方面的无限前景，但同时人工智能也面临着来自多维度的威胁，这其中包括深度学习框架中的软件漏洞、对抗机器学习的恶意干扰元素的生成以及训练数据的污染等。这些威胁可能导致人工智能所驱动的应用系统出现逻辑混淆，形成偏差或者误判，甚至导致系统崩溃或被恶意劫持，从而使得人工智能变成威胁信息安全和网络安全的攻击工具。

恶意使用人工智能技术足以控制一个小型企业网络。Fortinet公司在其发布的2019年《威胁态势预测：网络犯罪五大趋势》中指出，未来人工智能技术将被大量应用在蜂巢网络和机器人集群中，利用自我学习感知的能力以前所未有的精度自主攻击脆弱系统和网络。与传统僵尸的网络不同，利用人工智能技术构建的网络和集群内部是能相互通信和交流的，并根据共享的本地情报采取对应的行动。被感染设备也将变得更加智能，这里的设备不仅仅包括计算机设备，更包括大量采用ARM或者MIPS指令集的路由器，这些设备无需等待人类控制者发出指令就能自主执行命令，同时对多个目标发起攻击，并通过对抗学习，极大地延迟被攻击目标自我响应程度。这一系列实例说明，智能IoT设备在应对规模化、智能化的主动攻击方面系统表现出的脆弱性。

网络安全研究人员曾成功操控了那些由亚马逊、苹果公司和谷歌开发的人工智能系统，以进行拨号电话和浏览论坛留言等操作，并且无需借助任何自动化运行脚本。众所周知，各类移动设备平台的语音助手也许是我们所接触到和使用最广泛的人工智能辅助程序，目前诸多APT都已瞄准了上述人工智能平台，企图操控用户安装在设备中的金融程序或通讯软件，以窃取相关数据或实施盗窃。实际上，根据网络安全公司Webroot的一项调查，在美国和日本，超过90%的网络安全专业人员都表示，入侵者对其所使用的人工智能系统十分感兴趣，尤其是涉及到商业决策和客户关系管理的后端人工智能系统。