安全AI将成未来网络安全问题新解法

■ 赛迪智库 张博卿

比如，无人驾驶车要通过识别交通信号标志来决定是通行还是停止，而攻击者可以生成一个欺骗通行标志的对抗样本，在行人眼里是禁止通行，但AI系统会识别成允许通行，这足以造成灾难性的后果，其原理就是通过打造精确的攻击样本欺骗分类器。

事实上，现在已经出现了数据投毒、对抗式生成网络伪造人脸识别等攻击手段，在大量的AI技术落地之前，安全AI需要引起足够的重视才能从源头上防范更多的风险，在这个背景下，阿里安全提出“安全AI”的理念。所谓安全AI，是指安全场景中进化出的AI，拥有更强、更多元化的能力；与当前通用AI的理念不同，阿里安全更注重在业务安全领域垂直纵深的技术积淀，开发出适应更多安全场景的新一代AI，让传统的安全问题找到新的AI解法。

未来趋势之下，AI仍将迅猛发展，在更多商业、工业和生活场景中落地。安全AI的核心理念就是让不可能变为可能，能极大解放人力，也将成为未来网络安全问题的新解法。