人工智能网络未来的挑战

孙友添

据国外媒体报道，到2021年，全球AI网络安全工作市场将见证350万个未填补的网络安全工作。此外，到2025年，市场规模预计将达到305亿美元。

Synack最近的一份报告声称，将网络安全人才和支持AI的技术相结合，可以使攻击面有效覆盖范围提高到传统方法的20倍。

当今互联网上最有趣的2个主题是人工智能和网络安全。

人工智能的挑战：网络安全行业的观点

消费者技术协会最近进行的一项调查将AI的优秀应用程序确定为网络安全，所有AI应用程序中有44 %用于检测和阻止安全入侵。

另一方面，网络犯罪分子越来越多地以创新方式将AI用作数字弹药，它会产生强大的安全威胁，导致对网络安全专家的需求增加。以下是威胁方面的三大担忧：

1.网络安全威胁增加

2019年，《华尔街日报》报道称，一群网络犯罪分子向一家英国能源公司的首席执行官索要22万欧元，他们使用AI模仿了CEO的声音，AI为网络犯罪分子提供了额外的优势，可以绕过组织中的安全盲点。

2.网络安全攻击和数据泄露的数量和复杂性不断提高

瓦罗尼斯进行的一项研究将事情变成了现实：基于AI的技术可以实现任务自动化，保护攻击者的身份，在企业欺诈中产生下一个前沿领域，并以几乎闻所未闻的速度和规模完善恶意服务。

3.更加依赖人工智能技术

实际上，以AI为主导的技术可以双向摇摆。视情况而定，有利于组织还是有利于网络犯罪分子，组织可以通过使用新兴技术和AI主导的软件来增强其安全性。

具有讽刺意味的是，攻击者可以通过临时使用相同的技术来克服这些安全控制措施并处理日常任务，从而带来更加复杂和相互关联的风险。思科在2018年报告说，他们“代表客户阻止了7万亿次威胁，或每天阻止200亿次威胁。”当前，似乎我们陷入了脆弱的境地。

人工智能如何为网络安全流程做出贡献

尽管构成了严重的威胁，但AI增强并补充了网络安全优秀实践的未来。这是网络安全领域中“AI优势”的缩影：

减少了对威胁的响应时间并降低了防范违规的成本

Synack声称“使用AI将评估漏洞可破解性的时间缩短了 73 %。”此外，凯捷研究的其他数据显示，“四分之三的高管认为，网络安全中的AI可以加快漏洞响应速度，包括检测和补救。大约有64 %的人表示，这也降低了检测和响应的成本。”专家Kayne McGladrey提出的AI解释了这些数字可能意味着什么。她说：“AI的毅力可以缩短发现时间，不需要假期，喝咖啡或睡觉。而且与第1层安全运营中心的分析师所不同的是，他们无休止地读取日志文件和警报。

轻松执行多任务

AI就像一个超级大国组织，可以通过多种方式使用或审查用户行为，查找模式以及在安全网络中查找违规行为。

增强的动态安全实践

将AI与人工相结合可以帮助公司更快地发现和关闭关键漏洞，速度提高40 %。此外，这使公司可以将精力集中在创建安全的“阻塞点”上，而不用花费数百万美元来保护整个工作环境。最后，通过使用AI来提高安全性，公司可以有更大的回报并很大程度地降低风险，当今公司越来越关注这一点。

最小化安全责任，获得高质量结果

人工智能通常被描述为智能，这是正确的。这项功能强大的技术可在许多应用领域中帮助组织突出重复发生的事件并消除损害。

网络安全中AI的前三大影响用例

1.梳理大量安全数据并自动执行日常任务

网络安全中较大的担忧之一是组织每天必须处理的数据量庞大。这可能是Gmail选择AI路由来每天阻止Seedcamp的CTO额外发送1亿条垃圾邮件的原因之一，David Mytton关于AI如何破坏网络安全领域的解释已刻不容缓。

2.减少错误的安全警报并捕获异常事件

AI智能与威胁智能相结合，可以检测并解决新的安全问题，与传统的防病毒软件相比，威胁检测率为95 %，而传统的防病毒软件的检测率仅为90 %，这也意味着恶意样本的10 %被错过了。”

同样，Foley&Lardner LLP的合伙人Michael Overly谈到了以对时间敏感的方式解决这些遗漏威胁的好处，他说：“希望这些系统能够很大程度地减少错误警报和无关紧要的问题，只剩下很少的‘真实威胁可以审查和解决。”

3.通过提供预测功能和提高效率来增强安全性

在阻止安全漏洞方面，AI具备创新性和最有效的应用之一是使用生物特征认证。苹果公司使用这种方法，通常称为“面部识别”。强大的人脸ID技术结合了内置的红外传感器和神经引擎来识别用户。如果可以相信苹果的说法（只有百万分之一的机会欺骗AI打开另一张面孔的设备），那么好处是巨大的。

70 %的安全专业人员表示，除了提供附加的安全层外，AI还使团队更高效，并且消除了多达55 %的员工手动任务。通过附加的安全层，并帮助团队将精力集中在解决更重要的任务上，人工智能还为生产力提供了动力。

人工智能安全的主要观点和未来趋势

训练AI驱动的系统来保护我们

关于AI如何全天候工作确保企业安全的问题，我们已经谈了很多，但是技术本身的安全性和培训又如何呢？专家和企业需要将其策略重新集中在培训AI-ML模型上，很大程度地發挥这些系统的价值。

AI是数字军备竞赛中闪亮的新武器

从提高安全防御能力到网络安全流程的超自动化部分，人工智能将在防止网络攻击中发挥越来越重要的作用。凯捷最近报告说，“人工智能的采用将激增，63 %的组织计划在2020年之前采用人工智能”。

人工智能作为一种防御能力

人工智能是一种可用于防御和攻击组织的数字防御技术。网络安全专家需要一个小时的时间来主动识别攻击（例如：垃圾电子邮件尝试，禁用关键基础设施等）并防御攻击。

人工智能的局限性和可能的解决方案

专家赞成由人类而非AI验证的发现

根据White Hat Security的研究，“60 %的安全专业人员对人类验证的网络威胁发现比对AI产生的发现更有信心。”显然，当前的网络安全环境至少已将平衡权转移到了人的能力上。利用AI的技术实力来增强人才，可能是可靠的前进之路。

建立AI系统需要大量的资产和资源，例如内存、准确的数据集和计算能力，这是一项昂贵且费时的工作。

展望未来，从整体角度看企业如何解决这些限制：

第一步是让公司投资于拥有经验丰富的专业人员的经验丰富的网络安全公司；测试系统并审核您的硬件和软件，以发现并主动修复安全漏洞；安装并不断更新防火墙和其他恶意软件扫描程序，以确保系统安全；查看最新的网络威胁和安全协议以区分风险优先级并制定有效的策略。

人工智能驱动的观点

专家们对AI在网络安全中的普遍性和相关性有何看法？让我们来看看《福布斯》中收集的一些专家意见。

首先使用该技术的人会做主

萨米莱恩在1563技术战略总监说：“我们将会看到威胁者使用deepfakes作为一种策略，对企业的网络攻击，类似于网络钓鱼攻击，它们可能对毫无戒心的员工造成严重破坏。这意味着组织将需要使验证技术保持最新，攻击和检测工具的发展将是相同的。因此，谁先使用这项技术将是一场竞赛。”

Deepfakes即服务的兴起

Forcepoint创新总监Audra Simons提出了一个有趣的观点：“随着技术发展假货的真实性和潜力不断增加，我们希望其在2020年对我们生活的各个方面产生显著影响。我们将会看到Deepfakes-As-A-Service在2020年脱颖而出，原因是出于娱乐和恶意原因，Deepfakes被广泛采用。”

在防御性网络安全游戏中，防御性方面的工作被削减了

Darktrace战略威胁总监Marcus Fowler解释了AI对抗AI的方式：“随着2020年以AI为动力的网络攻击的兴起，更完善的防御措施和对开源AI工具的访问已到位，激励对手加强攻击。人工智能不仅可以使恶意软件在企业内部秘密移动，而无需人工操作，还将以其他恶意方式使用人工智能，包括确定目标，进行侦察和扩大攻击范围。安全专家认识到，防御性AI是唯一能够抵抗攻击性AI攻击的力量，而且必须通过匹配或超越攻击者的创新速度来进行战斗。”

虚假信息和假新闻的出现

Radware的安全研究员Pascal Geenens谈到：“虚假信息和虚假新闻可能在公共和私营部门中肆虐，并且越来越多地被用作武器。2020年，深度学习算法可以带来伪造但看似逼真的图像和视频，AI的这种应用将成为大规模信息传播活动的催化剂。”

数字化对AI和网络安全的影响

Nok Nok Labs总裁兼首席执行官Phil Dunkelberger总结了数字化的增长将如何影响组织、网络犯罪分子、政府和整个世界：“随着2020年数字化的继续，数据将比以往任何时候都更有价值。以前对于日常消费者而言似乎微不足道的信息将对整个领域的利益相关者和黑客具有重大价值。对手或现实生活中的“数据赏金猎人”将寻找新的利用方式，政府将寻求更好的方式来访问，企业将采取更强的安全措施来保护它，最终用户将要求更好的隐私权来保护其个人安全信息。此外，随着AI和机器学习的兴起，将影响决策方式，自动驾驶汽车在何处或如何移动的关键数据。而且，越来越多的东西将成为主流，越来越多的威胁者希望获得信息。”

网络安全的第一道和最后一道防线

无论采用哪种方式进行这些都是一项需要学习的关键技术，人工智能还没有准備好在不久的将来单飞，企业和专家都更乐于采用“中间立场”方法。人工智能可用作增强人类智能的智能工具。并帮助组织在网络安全威胁不断扩大的世界中保持竞争力和安全性。

简而言之，人工智能的优势远远超过了局限性，并提供了一种有希望的安全方法。