人工智能技术的风险问题及应对措施

摘 要：随着社会经济的快速发展，科学技术的不断进步，人工智能逐渐融入人们的生活，给人们的生活带来了前所未有的改变，甚至越来越多专家学者开始担忧，人工智能发展可能会变为人类的强大竞争者。因此，准确识别人工智能技术存在的风险问题显得尤为关键。基于此，本文首先阐述了人工智能的概念，然后分析人工智能技术的风险问题，最后提出应对人工智能技术风险的措施。

关键词：人工智能技术;风险;应对措施

中图分类号：TP18 文献标识码：A 文章编号：1003-5168（2020）13-0008-03

Risk Problems and Countermeasures of Artificial Intelligence Technology

HE Lan

（Henan University，Kaifeng Henan 475000）

Abstract： With the rapid development of social economy and the continuous progress of science and technology， artificial intelligence gradually integrates into people's life， bringing unprecedented changes to people's life. Even more and more experts and scholars begin to worry that the development of artificial intelligence may become a powerful competitor of human beings. Therefore， it is very important to accurately identify the risks of AI technology. Based on this， this paper first described the concept of artificial intelligence， then analyzed the risk of artificial intelligence technology， and finally put forward measures to deal with the risk of artificial intelligence technology.

Keywords： artificial intelligence technology;risk;countermeasures

人工智能是人類社会发展到一定阶段的产物，于人类发展而言，其产生、应用及发展意义重大。从社会角度讲，人工智能可以最大限度地提高生产力和经济效益;从生活角度讲，人工智能有利于增加生活的便捷性，提高生活品质。虽然人工智能的产生对人类社会发展具有巨大的促进作用，但我们仍要以一种谨慎的态度来看待人工智能的地位和作用，要正确认识其存在的风险问题，有效降低风险、控制风险、应对风险，这样才能充分发挥人工智能技术的优势和作用。

1 人工智能的概念

人工智能是计算机科学的一个分支，其企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器[1]。从语义学角度来讲，可将人工智能分为2部分，即“人工”和“智能”。其中，人工是科学和工程的一种产物，是由人制造出来的;而智能则是人的智力能力，如人类认知、记忆、思考等。总的来讲，智能是一种心智能力，与神经机制和认知活动息息相关。因此，笔者认为，可将人工智能定义为，可以帮助或替代人类思维的一种工具，而其主要通过计算机程序的形式呈现，可在数据中心独立存在，或以机器人等形式体现。此外，在特定环境下，人工智能还具备有目的地获取及应用知识、技能的能力。

2 人工智能技术的风险问题

2.1 人工智能技术自身发展的局限

人工智能发展过程中，会给人类带来诸多挑战和风险，如其作为服务于人类的技术工具时产生的风险，主要是由其自身局限造成的，即人工智能技术发展还不甚完善，并未实现真正意义上的“智能”，也可以认为，人工智能还处于“弱”人工智能阶段。就目前来讲，对于人工智能技术的研究，多集中于机器情感研究，在情感模拟中，人工智能机器是以主体意志对象化客体的形式体现，是人类程序的结果，这种情况下，还无法达到计算程序的预期研究效果。例如，“阿尔法狗”，目前只能作为围棋核心技术，在其他领域应用较少，且无法达到超乎人类的目的[2]。

由此可见，在技术层面上，现阶段的人工智能技术仍存在很大的局限，并未真正实现人工智能的自我意识和超强学习能力，也就是说，现阶段并未达到“强人工智能”阶段。仅针对目前研究水平，往往会出现人工智能技术操作失控等情况，在应对方案实施过程中同样存有一定问题，若操作失误，必定会造成严重损失。

2.2 人工智能伦理评估标准模糊

人工智能作为一种新兴技术，在早期研究中，对人工智能伦理规则的构建存在很大缺陷，甚至存在空白。虽然早期很多学者专家对其应用过程中潜在的风险进行了假设，但在实际应用中与假设仍存在诸多出入与不同。例如，“大道”是我国古代传统的技术伦理规范，其存在的意义在于保证技术进步合乎社会伦理规则，从而保证技术进步的正确性。然而，随着科学技术不断进步，两者往往会出现失衡的现象，如人工智能技术发展过快，已经远远超越了人类给其构建的伦理评价标准，从而产生失衡现象。目前，人工智能伦理评估标准还很模糊，若没有伦理规范的约束，后期将产生更多的风险。

当前，人工智能道德伦理标准的嵌入主要有两种不同的进路，即自上而下和自下而上。“自上而下”是指对已经确定了的伦理原则进行复杂编码，随后在人工智能系统内植入编码的过程。而“自下而上”是指无须将任何道德规则或哲学嵌入智能机器，仅需要通过观察及分析实际情景中大量的人类行为数据，便可做出道德决策。但从现实来讲，目前，每种道德规则在人工智能中的嵌入均存在不足，这种不足主要源于人类自身道德哲学内在的矛盾与冲突，而这种不足，必将进一步加剧人工智能伦理评估的模糊性，从而引发更大的风险[3]。

2.3 人工智能应用过程监管的失范

若技术发展监管力度不足，人工智能在发展过程中就可能出现各种异化，甚至产生技术泛滥，从而带来更为严重的后果。目前，我们应该考虑的并不是人工智能是否需要监管，而是如何监管、监管什么等。本文提到的人工智能应用过程监管的失范是指人工智能在使用过程中缺乏科学、有效的约束。就当前发展形势来讲，利用法律监管技术，还存在大量真空地带，究其根本原因在于目前技术立法滞后于技术自身发展。作为一种新兴技术，人工智能监管方面的法律体系尚未完善。因人工智能技术所产生的环境问题、伦理问题或人权问题等，仍无法得到较好的处理。而真正发挥监管作用的仅仅是法律之外的部分柔性、隐形监管，如技术人员的自身素养，如责任心等，或公众的社会舆论等。这些监管不具备强制性，在实际应用中往往略显力不从心，监管效果也较差。

3 应对人工智能技术风险的措施

3.1 增强技术源头的风险防控

从技术一般性特征来讲，人工智能作为一种新兴技术，其具有“双刃剑”的属性，因此，可在技术层面加大风险应对力度，做好防控工作，从而抑制不利的一面，扩大有利的一面。

第一，从开发设计源头加大控制力度，如元程序设计。设计是按照一定价值取向从不完美实现完美的一个过程。在人工智能程序设计过程中，首先要解决的问题是如何选定价值标准，要求在實现技术完美的同时，做到不以破坏和牺牲人类既有权益为代价，就如同我国的可持续发展战略，要严格遵循人类的道德法律，不得凌驾于法律之上。

第二，做好传统计算机监管程序的升级，即通过人工智能进行人工智能监管。人工智能是一个极为复杂的巨系统，具备自身学习能力。在传统计算机管理系统内，即便是最优秀的管理程序，也不能对其进行完全掌控。基于此，在人工智能风险防控中，可通过升级传统计算机管理程序，让其变得更加智能化，从而实现监管人工智能。例如：IBM公司对人工智能技术风险防控的尝试[4]。

3.2 增加技术全过程伦理嵌入

伦理道德标准是机器自动化程度不断提升过程中绕不开的一个话题，机器自由化程度越高，越需要道德标准的约束。因此，本文提出增强技术全过程的伦理道德嵌入，即将伦理道德嵌入技术设计、发展和应用的各个环节[5]。从可操作性来讲，人工智能全过程伦理道德嵌入是可以实现的，即便是在弱人工智能阶段也是具有可行性的。从本质上看，人工智能属于一种求解能力的计算机算法，可按照特定的伦理依据，以一种约束求解能力的计算法则将人类道德完全嵌入，并将其作为人工智能的行为准则，这样人工智能机器所作出的价值判断便能与人类道德相符。此外，作为一种计算法则的道德指令输入，在具体问题分析与判断中，人工智能机器往往更具客观性和理性，能够主动过滤掉人类主观思想上存在的干扰因素，进而提高人工智能的安全性。

3.3 明确人工智能的技术评价标准

于人类生存与发展而言，人工智能必定会带来巨大影响，很多人甚至会对其带来的负面效应有所担忧，但与此同时，还未设置明确的人工智能技术评价标准。因此，笔者认为，应从如何正确认识人工智能、如何完善人工智能安全评估等方面，进一步明确人工智能评价标准。

首先，要对人工智能及其技术异化有一个正确的认知。从本质来讲，计算求解能力便是人工智能，是将人的部分神经生理智能赋予机器，通过机器模拟等模式，来解决特定的事项或问题。然而，在现实应用中，往往会产生使用异常的情况，这是技术领域不可避免的问题。与其他技术相比，人工智能是一种高新技术，但其所带来的风险在本质上和其他技术基本相同。在人工智能技术异化问题处理中，我们需要进一步强调主体的人文价值选择，通过人文要素，如个人修养、伦理道德等，利用人控制人工智能技术。其次，要进行人工智能安全评价，以安全评价来达到技术发展，并健康、持续地为人类提供服务。要求通过完善立法，进一步健全安全评价体系，从而在宏观层面弥补当前人工智能技术在安全方面的法律空白，利用法律法规、政策等对人工智能技术的安全性进行准确评价[6]。

4 结语

人工智能逐渐进入人类生活，一方面给其生活带来了便利，一方面也给人类生存带来了挑战，有人预言，快速发展的人工智能将一步步取代人类。为了应对人工智能发展所带来的风险，需要从技术本质出发，对技术理性和价值理性进行双重约束，在发挥技术优势作用的同时，明确人工智能技术评价标准，加大对人工智能的监管力度，保证人工智能技术更好地为人类、为社会服务。

参考文献：

[1]钱韫竹，魏家鹏.人工智能在现代网络技术中的应用[J].计算机科学与应用，2019（4）：787-789.

[2]许根宏.人工智能传播规制基础：伦理依据与伦理主体的确立[J].学术界，2018（12）：93-103.

[3]张梓堃.人工智能的历史与发展[J].数字通信世界，2018（11）：149-150.

[4]付皓，卢燕青，桂烜，等.人工智能的发展与应用简述[J].广东通信技术，2018（12）：49-52.

[5]刘红波，林彬.中国人工智能发展的价值取向、议题建构与路径选择：基于政策文本的量化研究[J].电子政务，2018（11）：47-58.

[6]范敏，管琳.人工智能技术在互联网金融中的应用及安全风险探析[J].山东农业工程学院学报，2018（3）：56-59.

收稿日期：2020-04-10

作者简介：何澜（1999—），女，本科，研究方向：计算机科学与技术。