人工智能技术在安全领域的应用与风险

康 杰

1 概述

1.1 人工智能的安全问题

2017 年，一家来自美国的信息安全公司IOActive 测试了市面上10 余款机器人，并在这些机器人身上检测出了近60 处安全漏洞。这家公司指出，网络黑客可能利用这些漏洞发起攻击，通过机器人搭载的麦克风和摄像头窃取用户的个人隐私，而在商用和军用领域，这些漏洞很可能导致商业机密泄漏、国家安全受到影响。除了信息泄露的风险，黑客还可以通过后门，开展勒索性质的攻击，对于工业机器人，可操纵其“罢工”并索要赎金，否则就会极大地影响工厂的生产进度，带来无法估量的损失；对于家庭机器人，可将非法获取到的视频、音频资料在网络上售卖并谋取利益，或将资料收集整理，对家庭用户进行勒索。由此可见，随着机器人等人工智能硬件的发展和推广，其安全问题不容忽视，“解铃还须系铃人”，人工智能技术本身在安全领域就有着非常重要的作用，而在未来，随着人工智能安全愈发引起人们的重视，以计算机视觉、物联网和大数据分析为代表的人工智能技术将在安全防卫领域大有可为。

1.2 人工智能的发展历程

人工智能发展到今天，经历了几十年的历程，其进步不是一帆风顺，而是在曲折中前进，呈现阶段性的高潮和低谷。1936 年，“人工智能之父”图灵第一次提出了一种“能够代人类、实现各种数学计算和逻辑推理的计算装置”，这种概念机器就是“图灵机”，这一理念被图灵记录在他的《计算机与智能》一书当中。1956 年，第一场专注于人工智能的研讨会在在美国达特茅斯召开，这一事件被认为是人工智能学科的诞生，随即便是十几年的人工智能发展黄金期。但进入20 世纪70 年代，人工智能的发展第一次遇到了瓶颈，其发展的停滞、前途的渺茫导致各国政府和资本市场的资金投入大大减少，人工智能达到“胎死腹中”的边缘。80 年代的到来使得人工智能的发展出现了转机，此时出现了专家系统，即给计算机提供某一领域的知识和经验，使其能够依据这些知识和经验推演出逻辑规则，从而在该领域解决问题或提供咨询的程序。专家系统的出现，重新给人工智能灌注了新的血液。

进入21 世纪，在互联网方兴未艾、物联网蓬勃发展的背景下，人工智能的发展更是有了源源不断的推动力。深度学习和人工神经网络研究领域突破性研究，使得人工智能的发展大有可期了。而智能机器人、智能家居的普及，让人们看到了人工智能从实验室研究走向造福大众的曙光[1]。

2 人工智能在安全领域相关技术介绍

2.1 计算机视觉

2.1.1 图像处理

图像处理技术是指将质量较低的图片，通过压缩编码、图像增强、图像变换等方式，处理成质量较高的图片的手段，高质量图片可以进一步通过计算机进行渲染、精修。图像处理技术大多依赖于数学算法，目前，高级图像处理算法可实现书画作品修复、老照片色彩修复等功能[2]。

2.1.2 模式识别

模式识别是一种典型的计算机数学，其目的是产生能让计算机“理解”的图像数据，这就需要对图像信息进行预处理。处理图像的过程，就是利用模式识别算法，建立起图像的数学模型，并识别出图像的数据类型和特征值，产生可以供计算机识别出图像特征的图片信息。

2.2 物联网

2.2.1 定义

互联网自诞生以来，已经发展了几十年，其诞生最初的愿景是将世界上的计算机用户连接起来。近年来，物联网的诞生，使得“连接”这一概念，从用户层面发展到了物品层面。物联网，其核心就是“物物相息”，终端设备之间通过一定的通信协议，采用无线通信技术，物品之间可以做到联网，并通过信息交换和处理实现对物品的在线管理。

2.2.2 三大关键技术

传感器、嵌入式系统和RFID 共同组成了物联网的三大关键技术。传感器的主要原理是将位置、温度、长度等物理量转化为模拟信号，再通过“数-模”转换模块将模拟信号转换为数字信号进行输出，实现物理量的测量和处理。RFID 标签，即无线射频识别技术，通常位于物联网的终端物品上，可以代表物品的身份信息和物料信息，通过射频识别技术来提高物品的识别效率，进而提高物流和管理效率。嵌入式系统是指完全内嵌在受控系统内部、为执行特定程序或任务而设计的计算机系统。其特点是尺寸小、成本低、可大批量生产，通常用来执行有预先设计和特定要求的任务，与互联网的“软件”概念不同，嵌入式系统通常被称为“固件”。

2.3 大数据分析

2.3.1 大数据分析概述

大数据是指在一定时间范围内，无法用常规软件进行运算、分析和管理的数据集合。现如今，大数据的分析手段越来越受到业界和学术界的关注，其原因在于海量数据背后隐藏的潜在价值。随之而来的是数据分析的研究成果层出不穷：大规模并行处理数据库、分布式数据库、云计算技术、数据挖掘技术、可拓展存储技术等都是大数据分析领域的新兴技术。而大数据分析在灾区应急救援、医疗诊断、行业分析、股票市场等领域也有着广泛的应用。

2.3.2 主要特点及难点

大数据的特点明显，主要包括：体量庞大、采集存储难度高、种类繁多、价值密度低、产生速度快等。由此产生的难点与挑战，主要包括数据噪音多而带来的数据质量下降，数据总量上升导致的质量下降等。

大数据分析在生产、生活中的应用价值正在不断凸显，而业界针对以上难点已经有所突破，相信大数据分析的未来值得期待[4]。

3 人工智能技术在安全领域的应用

本文中，关于人工智能技术在安全领域的应用，主要介绍计算机视觉在汽车辅助驾驶和智能安防领域的应用。

3.1 计算机视觉在行车驾驶的运用

计算机视觉可以降低汽车行驶时的安全隐患，主要应用场景为智能检测系统。智能检测系统通过传感器监测车身与周围车辆和物体之间的距离，以及车身的偏转角度，并在监测到某项数据在“行车危险区间”内及时发出警报，提醒司机，甚至可在驾驶员来不及处理危险的时候，主动代替驾驶员紧急制动，或做出其他应急处理。智能检测系统还可以监测驾驶员的驾驶状态，若其发现驾驶员表现出某些异常行为，例如：监测到驾驶员频繁地打呵欠，智能检测系统就会判断驾驶员存在疲劳驾驶。计算机视觉的强大功能，使其在行车驾驶安全中发挥重要作用[5]。

3.2 计算机视觉在智能安防方面的应用

目前，智能安防系统主要分为使用摄像头的视频监控系统，和红外传感报警系统。

摄像头是智能监控管理系统的“眼睛”，可以将记录的图像以数据的形式传输给拥有强大计算能力的计算机，经过对图像信息的分析处理，得出安防等级，进而判断是否需要采取相关措施。随着人脸识别技术的成熟，智能安防系统可增加“身份识别”功能，以小区安防为例，物业将业主的人脸信息汇总，当摄像头监测到陌生的人脸出现在可疑地段时，就发出警报信号，但业主的人脸信息同样存在泄露的风险。1984 年，第一栋智能大楼的诞生在欧美国家引发了一场“智能大楼狂潮”。近年来，在中国，随着国民安全意识的提高，智能安防系统也被大规模应用于小区住宅的监控管理[6]。

4 人工智能技术在安全领域的风险及防范措施

4.1 物联网安全

预计到2020 年，物联网设备的数量将达到300亿。然而，物联网的普及带来了严重的安全问题，其中针对物联网系统的攻击尤为致命。2016 年，针对摄像头、路由器和打印机的Dos 攻击在20 小时内迅速蔓延，最终导致30 万人感染。此次攻击影响了华为和思科等顶级供应商生产的物联网设备。另一个重要问题是用户隐私的泄露，家用电器附带的摄像头和传感器可以监视用户并泄露个人数据。面对物联网安全隐患，主要有两种解决途径：身份验证和隐私加密。建立身份认证模型可以提高物联网设备的接入控制能力；而在数据传输过程中实现匿名化，可将用户的敏感信息保护起来，防止数据泄露[7]。

4.2 大数据安全

大数据具有体量大、种类繁多、产生速度快等特点，而大数据存储、传输、处理存在着极大的信息安全隐患。体量大致使安防工具难以针对关键节点进行有效防护，分布式存储又增加了数据泄露的风险，因此，对大数据安全的研究已经成为了人工智能领域的重点关注问题。针对大数据安全的举措，主要包括：完善基于大数据的网络攻击追踪技术；增强大数据中心安全防护技术，同时完善云服务的网络安全架构和安全测评体系；大数据存在分布式存储、共享数据等特点，加大研发数据管理系统、数据融合技术和数据可视化技术。总之，确保数据安全性，是大数据分析广泛应用的基础[8]。

5 结论

人工智能历经了几十年的发展历程，从高潮到低谷又到如今的蓬勃发展，其螺旋式上升的轨迹正式计算机科学诞生以来的发展缩影。近年来，计算机视觉、物联网和大数据分析的成熟，使得人工智能在安全领域的价值愈发重要。计算机视觉主要包括图像处理和模式识别技术，旨在将摄像头赋予“智力”，在安全领域的应用价值主要包括安全驾驶和智能安防两大领域。物联网由传感器网络、嵌入式系统和RFID 标签组成，身份验证系统和隐私加密系统是而物联网安全的有效解决途径。大数据虽然价值密度较低，但仍是企业和国家信息安全的核心。