人工智能的公共安全问题与对策

丁晴

摘 要：人工智能经历了推理、知识工程和数据挖掘三个时代，其五大核心技术是计算机视觉、机器学习、自然语言处理、机器人和语音识别。人工智能在公共安全领域存在安全漏洞难以控制、滥用监控侵犯隐私、恶意识别价格歧视、虚拟社会任性妄为等问题。论文提出的对策是创新技术防范风险、以人为本保护隐私、立德树人算法公正、健全法制加强监管。

关键词：人工智能；公共安全；大数据

中图分类号：DF622 文献标识码：A

Abstract： Artificial intelligence has gone through three ages： reasoning， knowledge engineering and data mining. Its five core technologies are computer vision， machine learning， natural language processing， robot and speech recognition. In the field of public security， artificial intelligence has many problems， such as security loopholes difficult to control， abuse of surveillance and invasion of privacy， malicious identification and price discrimination， willful behavior in virtual society. The countermeasures proposed in this paper are： innovative technology to guard against risks， people oriented and protect privacy， enhance morality cultivate talents and algorithm justice， improve the legal system and strengthen supervision.

Key words： artificial intelligence； public security； big data

1 引言

當前，人工智能技术蓬勃发展，推动了我国经济、安防、教育、医疗、电商零售等领域的应用和创新。2017年7月，国务院发布了《新一代人工智能发展规划》（国发〔2017〕35号），文中指出“在大力发展人工智能的同时，必须高度重视可能带来的安全风险挑战，要加强前瞻预防和约束引导，最大限度地降低风险，确保人工智能安全、可靠和可控发展”。

人工智能是一把双刃剑，它提高了生产率、降低了劳动成本，但也冲击劳动力市场、造成大量工人失业。在一些科幻影视作品中，机器人在智力、体力等方面都远超人类，将来还有可能取代人类的地球统治地位。近几年来，随着人工智能的普及应用，网络违法和数字违法也跟着变得高端起来。一些不法分子利用网络、大数据、人工智能等技术从事违法犯罪活动。因此，人工智能的发展在带来人类社会福祉的同时，也带来了诸多公共安全问题。

2 人工智能概述

人工智能并不是指人的智能，而是指制造出能像人一样进行学习、思考和劳动的机器的一门科学技术。人工智能是将人的智能赋予机器，目的是使机器智能化，使它可以像人一样进行自主地学习、思维和判断等活动，使其可以代替人进行劳动、生产和工作，从而可以极大地解放人类[1]。人工智能技术自从诞生以来，理论研究和技术产品日益成熟，应用领域也在不断延伸。

2.1 人工智能的发展历史和应用领域

迄今为止，人工智能的发展历史经历了推理、知识工程和数据挖掘三个时代[2]。1950年到1969年是人工智能的“推理时代”，著名的英国数学家图灵在1950年10月发表了论文“机器能思考吗”，标志着人工智能的诞生。1970年到1999年是人工智能的“知识工程时代”，“知识库+推理机”组合的专家系统得到大量开发，但此时的专家系统只是一台执行知识库的工具而已，无法达到真正的智能水平。2000年至今是人工智能的“数据挖掘时代”，由于机器学习算法的产生，特别是深度学习技术和大数据分析技术的应用，计算机处理数据的速度和水平有了大幅度提高，著名的AlphaGo机器人击败全球60多位围棋大师的例子就是人工智能应用的一个成功案例。

人工智能是现代科技的发展方向，目前已应用在七大领域。第一个是个人助理领域，例如智能手机语音输入、家庭陪护机器人等；第二个是安防领域，例如安保机器人、智能监控、智能报警器等；第三个是自驾领域，例如智能汽车、智能导航仪等；第四个是医疗健康领域，例如健康监测诊断设备、智能医疗设备等；第五个是电商零售领域，例如仓储物流信息、智能导购等；第六个是金融领域，例如金融监管、投资顾问、客服机器人等；第七个是教育领域，例如考试测评、个性化辅导、儿童游戏陪伴等。

2.2 人工智能的五大核心技术

人工智能是计算机应用技术的一个分支，与数学、语言学、云计算、大数据、互联网、机器学习等技术密切相关，其五大核心技术是计算机视觉、机器学习、自然语言处理、机器人和语音识别[3]。

计算机视觉是指计算机能够从图像中识别出人、物体、环境和运动的能力，它读取图像并产生一系列的数据，把图像分析任务分解为便于处理的小任务块，然后进行快速识别。例如，计算机视觉可以从图像中检测到人体或物体的轮廓、运动，并用分类技术确定特征，然后判别是否为一类已知的物体。例如，医疗成像可用于疾病诊断和治疗，人脸识别用来识别图像中人物是否为正在通辑的犯罪嫌疑人等。

机器学习是指计算机无须按照现有程序执行，而是仅依靠数据来提升自身能力的一种技术。机器学习的核心是从数据中主动发现模式，并用于预测。例如，机器学习系统读取一批银行卡转账的时间、地点、金额、付款人、收款人、取款速度、是否正当转账等数据，然后通过自主学习产生判别转账是否正当的模型，从而可判别新的转账是否为诈骗引起的转账。提供给机器学习的数据量越大，判别和预测的准确性就越高。除了棋牌对弈、欺诈判别外，机器学习还可用于智能销售预测、矿藏勘探预测、公共卫生预警等。

自然语言处理是指计算机拥有人类般的语言和文字处理能力，能够从语言和文字中提取語义、解读含义。自然语言处理系统并不清楚人类处理语言和文字的方式，但它可以建立语言文字模型来预测语义表达的概率分布，并用多种复杂的手段快速提取语义。例如，垃圾邮件与正常邮件一样是由文字、图像、附件组成，但自然语言处理系统能够生成邮件分类方法和筛选标准，可识别出哪些邮件是垃圾邮件。

机器人是自动执行任务的机器装置，它既可以接受人的指挥，也可以独立主动运行，还可以根据已预先制定的原则纲领行动[4]。机器人的任务就是协助人类工作，特别是在生产行业、建筑行业、军事领域、消防领域等危险的工作环境，机器人大有用处。机器人能够进行精确的运动或制动，能够在各种特殊的环境执行不同的任务，有能力从事人类无法完成的工作。例如，无人侦查机、消防机器人等。

语音识别技术是指将输入的语音信号转化为对应的文字或命令的技术[5]。语音识别关注的是自动、准确、快速地转化人类语音为可用信息，它能处理一系列复杂的问题，包括不同口音、背景噪声、省略语句等问题，例如，“实施”和“石狮”听起来是一样的，但语义不同。得益于目前已拥有的高性能CPU处理速度，语音识别速度已能跟上正常的语音速度。语音识别的应用有同声翻译、语音导航、声控家电、机动车违法鸣号的记录与抓拍等。

3 人工智能的公共安全问题

2017年3月，著名物理学家霍金在接受英国《泰晤士报》采访时说“未来可能会出现取自人类基因并改良的人工智能新物种，那时人类将被淘汰。人类需要控制人工智能技术，防止它未来可能对人类生存带来威胁。”霍金的担忧似乎还十分遥远，但目前确实存在人工智能的公共安全问题。

3.1 安全漏洞、难以控制

正如“漏洞亡羊”“野马脱缰”，如果人工智能存在安全漏洞，那么就可能引起损失或灾难，甚至会像脱缰的野马一样难以控制。近年来，一些不法分子利用网络、大数据、人工智能等技术从事违法犯罪活动的现象时有发生，还有一些怀有恶意的黑客制作病毒软件、利用网络传播、破坏电脑系统、敲诈勒索钱财。电信诈骗就是一种通过电话或网络实施诈骗的违法行为。电信诈骗分子需要编造虚假信息，才能诱骗受害人给他汇款转账。一旦电信诈骗分子掌握人工智能的安全漏洞，就会省去编造和诱骗的环节，直接获取受害人账户密码，然后利用ATM机或网上银行非法转账，危害更大。

无人驾驶汽车也被称为轮式移动机器人，是一种新型的智能汽车。它通过安装在车辆内的智能操控系统与感应设备来获取路况信息，并用以控制车辆姿态，可以实现全自动的安全行驶[6]。目前，无人驾驶汽车正从实验室走向商业化，一旦车内智能操控系统被黑客利用，这辆智能汽车就真的变成了“脱缰野马”，对道路上的行人和车辆内的乘客生命安全都会构成威协。

3.2 滥用监控、侵犯隐私

无论是国内还是国外，视频监控系统都被国家安全部门用于公共安全防范。当前，城镇街面和公共场所普遍安装了视频监控系统，这为公安机关发现违法、侦破案件和震慑犯罪发挥了积极作用。但随着监控设备的价格下降，公民个人和公司随意安装监控探头的现象很常见。如果监控设备被滥用或盗用，则会成为侵害公民隐私的工具。例如，某公司总经理在女厕所安装针孔摄像头，对女员工上厕所的过程进行偷窥；某男性房东在出租屋的卫生间安装监控探头，长期偷拍女房客洗澡。

随着智能手机的普及，出现了视频监控全球共享和实时直播的App软件。很多公民在不知不觉中自己出入医院、银行或电影院等行为被全球直播。一些居民出于防盗目的，在家庭室内安装联网的视频监控设备，却不更改初始密码或设置弱密码；由于摄录的视频文件会自动保存在互联网上的云端服务器中，所以一旦有黑客盗取其账号，则居民在室内的说话语音、行为视频等隐私就会被其窃取。

3.3 恶意识别、价格歧视

人工智能时代的到来，给人们的生活和消费带来了不少惊喜，但也出现了“捆绑服务”“差别定价”“大数据杀熟”等敏感字眼。电子商务的经营者利用人工智能和大数据技术，能够根据消费者的常购物品、常去场所等数据分析出消费者的兴趣爱好、付款习惯、是否为病人或孕妇等信息。如果经营者识别出消费者是一个对付款不加思索的“傻冒”、或是一个不得不乘坐出租车或网约车的病人或孕妇，就会生成高于正常价格的消费清单，这样就构成了价格歧视。

人工智能和大数据如果被经营者不当使用，将严重损害消费者权益，而消费者浑然不知。相对于传统的经营模式，人工智能和大数据环境下的价格歧视表现为经营范围更宽泛、价格歧视更隐蔽、市场划分更精准等特征[7]。这种电子商务采用恶意识别、价格歧视经营方式的本质，就是经营者实施商业欺诈的行为、就是违反《消费者权益保护法》的行为。

3.4 虚拟社会、任性妄为

虚拟社会是在互联网基础上产生的虚拟空间，网络用户在虚拟认识、虚拟实践和虚拟交往基础上形成的各种虚拟的人化场域[8]。我国是全球网民数量最多的国家，沉迷于网络聊天、虚拟游戏的网民数量十分庞大。绝大多数网民是爱国守法的，但总有少数不良网民嗜好在互联网上造谣诽谤、寻衅滋事，冲击公众道德底线，扰乱现实社会正常秩序。

2014年4月，秦志晖（网名“秦火火”）的网络诽谤和网络寻衅滋事案在北京市朝阳区人民法院宣判。秦志晖被判处诽谤罪有期徒刑二年、寻衅滋事罪有期徒刑一年零六个月，合并执行有期徒刑三年[9]。互联网和人工智能构建的虚拟社会本质上是现实社会的延续和拓展，在虚拟社会里任性妄为的行为一旦触犯法律，必将受到追究。