人工智能安全问题及其解决思路

闫 翔

（西北大学信息科学与技术学院，陕西 西安 710000）

在二十世纪，人工智能技术有着质的飞越，取得了突破性的进展。而近年来人工智能技术在仍旧在不断的前进着，而应用人工智能应用的行业也随着人工智能的问世以及发展在不断的增多，比如军事行业、服务行业、驾驶行业等，而随着人工智能在这些行业的应用，各种各样的安全问题也不断的出现并增加，这对人工智能的发展有着重要的阻碍作用，甚至影响了人工智能前进的步伐。同样随着人工智能算法和应用场景的不断完善，加之人工智能训练水平的提升，人们已经享受到人工智能带来的种种便利，减轻了人类重复性的工作，人工智能已有大规模替代人类劳动的趋势。若对人工智能的发展不加以控制，势必会带来无法想象的安全问题。

1 人工智能安全问题的重要意义

人工智能，不难理解，其含义就是人工与智能的结合体，人工就是人力所制造、所创造的。而智能就是靠先进的技术比如计算机等这些技术来与人工相结合。人工智能一定意义上讲它是计算机的一个分支，而人工智能所应用的领域也特别的广泛，比如机器人的研究、图像和人物的识别、语言的识别等。人工智能从问世走到现在，所面临的问题也是很多的，其中人工智能的安全问题就是很重要的问题之一[1]。首先，人类应用人工智能是否是一直的，也就是人们平时所担心的人工智能是否会超过人类在这个社会上的主体地位这个问题。人工智能应用的出发点是为人类所应用，使用的过程必须受到人类的控制，必须防止其野蛮发展，更不能被别有用心的人利用。这是保障人工智能安全问题很重要的一个方面。其次，如果不处理好人工智能的安全问题，人工智能有可能会对人类或者领域产生危害，影响人类以及相关领域的发展。最后，人工智能的安全问题也影响着人工智能本身的发展，安全问题，从始至终都是各行各业必须重视的问题之一，而人工智能行业的发展也离不开人工智能安全问题的妥善处理。

2 人工智能安全问题的现状

2.1 人工智能网络安全问题

众所周知，很多行业在应用人工智能这项技术以及相关的知识的时候都是依附于计算机网络来进行的，而计算机网络这个行业是错综复杂的，很多计算机网络的安全问题也是目前我国面临的很严重的问题之一，相应的人工智能的网络安全问题也是还存在问题的，比如机器人在为人类服务的过程中，操作系统可能遭到黑客的控制，机器人的管理权限被黑客拿到，使机器人任由黑客摆布；亦或突然源代码遭受到攻击，人工智能的信息基本通过网络进行传输，在此过程中，信息有可能遇到黑客的篡改和控制，这就会导致机器人产生违背主人命令的行为，会有给主人造成安全问题的可能性[2]。不仅如此，在人工智能的发展过程中，大量的人工智能训练师需要对现有的人类大数据进行分析和统计，如何防止信息的泄漏和保护个人信息的隐私也是人工智能领域需要关注的问题。

2.2 人工智能应用范围限定的问题

对一些发展不成熟、会有引起安全问题的可能性的领域以及技术的应用范围给出一定的限定，这是保障人类与社会和谐发展的一种手段，也是不能或缺的一个步骤。目前，人工智能的发展也是如此的，这也是人工智能目前安全问题所面临的问题之一[3]。目前各行各业都有人工智能的应用，比如无人驾驶、各类机器人等，很多行业都会看到人工智能的存在，小到购物APP中的客服机器人，大到国际比赛中机器人的应用，在许多危险的领域，如核电、爆破等危及人类生命安全的场景，发挥了至关重要的作用。这些领域的应用如果应用的成功那没什么问题，一旦出现问题就会产生很严重的安全性问题。对于人工智能应用的范围，目前并没有给出明确的界定，也没有明确的法律依据，这就需要相关组织和机构，尽快对人工智能的适用场景进行梳理，加快人工智能标准和法律的建设步伐，防止一些不法分子，利用法律漏洞将人工智能运用到非法的范围中，造成全人类不可估量的损失。

2.3 人工智能本身的安全标准

人工智能的产生以及应用的本身目的并不是为了赶超人类或者达到人类的智力水平，它本身存在的价值是服务于人类，可以成为人类生活的更好的一种工具，人类需要对其有着一定的控制的能力。但是近几年来，很多人工智能的存在是为了与人类的智力水平以及人类为标准，忽略了部分人类伦理的问题，甚至涉及到部分人权问题，这就偏离了人工智能本身存在的目的，而这种的偏离会产生一定的安全问题，从而影响人工智能的发展。所以人们应对机器人的道德和行为判断力进行判定，确保其在人类的道德伦理范围中，避免人工智能产物做出危害人类安全的行为。人类必须对人工智能的行为进行严格的监管，也要大力发展人工智能自身的伦理监督机制，使其为人类所用。

3 解决人工智能安全问题的措施

人工智能还处在高速发展期，各方面还未完全成熟，人工智能的安全性问题成为了其发展道路上的绊脚石。解决人工智能安全问题对人工智能的发展有着很重要的作用，我们可以采取一定的措施来防止人工智能安全问题的产生。既对人工智能的安全隐患进行排除，又对人工智能的运行进行管理和监督。

首先，网络安全已成为人工智能安全的首要拦路虎，解决好网络安全的问题，让人工智能的研发工作、实验工作已经实施的工作可以在一个安全、稳定的网络环境中来进行。网络安全讲求人、物、策略的三合一，不仅要做好物理层面网络安全的防护，还需要加强对网络管理、维护人员队伍的管理，还要对网络的管理策略进行可持续的优化。定期对网络安全进行隐患排查和漏洞修补，加强网络安全常规化的管理，通过建立完整的网络安全制度，并建立人工智能网络安全体系等这些措施来完成。善于运用各类的技术手段，从硬件防火墙、IPS、IDS等进行网络安全的加固，通过各类网管和EDR等软件加强系统补丁、漏洞的管理，定期对端口策略、底层防御策略进行调整，对网络安全进行闭环式的持续性优化。

其次，人工智能是很专门的一个问题，各个领域都有研究人工智能的权利也有应用人工智能的权利。但相关人员要研究人工智能的时候一定要向相关部门进行报告，取得必要的证明以及许可，确保这项工作的安全性，然后在进行相应的工作。人工智能的应用和发展必须遵循社会发展的规律，以维护社会公共安全和稳定为先决条件，避免因此而产生不良影响。人工智能因为运算速度、运算能力和标准化程度优于人类，在围棋、象棋等体育竞技类项目中能力能超出人类，可以帮助人类运动成绩的提升，但同时也要防止其运用到竞技类的作弊过程中，有碍比赛的公平和公正。

最后，人工智能安全评估与管理工作，这也是保障人工智能安全问题很重要的工作之一。近几年来，人工智能的发展在不断的进步，因此，评估人工智能安全也是对将来可能产生危害及这种危害的程度的一种预测，相关的研究要不断的加强这种评估的技术，并严谨的完成评估的工作[4]。尤其要加强人工智能算法和程序的测试，确保其在应用过程中不会对人类的人身安全产生影响。根据安全的测试数据，构建人工智能产品的评估模型和模拟机制，通过概率统计学对可能发生的危险行为进行预测并做好相关危害发生时的应急预案。加快人工智能训练师和维护人员的队伍建设，从源头和使用过程中对人工智能的安全进行管理和监督，最大程度的降低危害事故的发生。针对人工智能公共安全领域的事故要做到零容忍，做到对信息处理和智能化全过程的安全督察。人工智能行业协会需统筹各地和各企业之间行业标准的建立，真正做到人工智能安全标准的统一，让整个行业有据可依、依标办事。

4 结束语

人工智能的应用是目前我国各行业各发展的一个大形势，而同样的，人工智能的发展也是目前我国智能化发展的一个前提，因此人工智能的发展对我国有着很重要的作用。而人工智能安全问题作为人工智能发展重要的问题之一是不能忽略的一个问题，因此认识到人工智能所面临的安全问题并将这些问题研究出良好的对策可以对我国人工智能的发展有着很重要的作用。