人工智能时代的社会风险思考

刘自英

摘  要： 人工智能作为当今最具前瞻性的高新科学技术，发展遍及社会生活的各个领域，同时也受到社会各界的关注。人工智能为我们的生活提供极大的便捷，人类似乎渴求一个全人工智能时代的到来，准备投入其怀抱。但科学技术的发展从来都是一把双刃剑，我们在享受其便利的同时也应该着眼于人工智能所引发的诸多社会风险，并且考量与分析其可能存在的潜在新风险。人工智能引发的社会风险无外乎可以从人工智能的制造与应用方面来考虑，分析其带来的社会风险，并从相应方面提出规避风险的可能路径。

关键词 ：人工智能;社会风险;风险规避;可能路径

一、 人工智能

人工智能简称AI，从科学的角度来看，人工智能是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术应用系统的一门科学。[1]1956年美国的达特茅斯会议中约翰·麦卡锡首次提出了 “人工智能”這个术语，标志着“人工智能”概念的诞生，在此后人工智能浪潮不断发展。从“机器学习”到“深度学习”技术鸿沟的跨越，人工智能在一段时间内获得长足性和突破性的发展。人工智能在影响着这个时代，也在改变着这个时代。人工智能在数据挖掘、计算机视觉、专家系统等方面的发展，为企业带来了经济效益，为大众带来了舒适的生活，为国家带来科技的革新，深刻的影响着人类社会的发展。然而，我们享受着人工智能的便捷也不能忽视其带来的负面影响。人工智能对人类主体地位的冲击，对社会伦理的挑战等诸多风险都是我们必须要思考和解决的问题。

二、 人工智能时代的社会风险思考的必要性

在现阶段下的人工智能给我们生活带来了便捷，其负面影响是不可忽视的。研发不透明的黑箱操作，算法主观性带来的伦理问题，一些行业失业等问题，从现实意义上，我们必须对其产生的社会风险加以分析并提出应对措施。在人工智能发展过程中，人工智能是否超过人类智力即奇点是否会出现，一直是学界谈论的热点。奇点是否会出现？奇点出现后的人类社会又会面临什么样的风险，人工智能技术发展可能性决定了我们必须去思考其潜在的风险。所以无论从人工智能的现实性还是可能性来看，关于人工智能时代的社会风险思考都有其必要性。

一、人工智能时代社会风险思考的现实性

人工智能研发是不透明的，人工智能的研发“虚拟化”和研发过程的“黑箱效应”环境，很容易脱离监管而引发失控。同时由于人工智技术研发的特点，研发过程的隐秘性与技术的保密性极易诱发垄断现象。若掌握了人工智能技术核心优势，垄断阴云是极易可能出现的。人工智能技术垄断的阴云一方面会带来技术人才的断层，同时也会加大数字鸿沟。而人工智能技术存在的算法主观性与算法偏差更是诱发社会风险的重要来源。比如谷歌推出的机器人误把两名黑人标注为“大猩猩”，微软公司推出的聊天机器人，在发布24小时内，就成为一个集反犹太人、性别歧视、种族歧视于一身的“不良少女”。[2]在现目前的发展阶段来说，人工智能已经逐步取代大量依靠人力的工作，在一些行业已经实现了自动化，同时人工智能也进军了服务行业。在服务行业，国内的无人酒店与无人超市也已出现，海底捞机器人全程送菜服务。繁重或者危险及简单重复的工作由机器人所替代，纵然人工智能的操控离不开人，但从管理与操控的工作要求来看，劳动力需求量并不高。这一大批依靠劳力的工作者将何去何从？从现实意义上，我们都必须对其产生的社会风险加以深度思考与分析并提出可行的应对措施，促进人工智能健康有序的发展。

二、人工智能时代社会风险思考的可能性

从现实层面上，人工智能已经带来的问题我们必须去面对，与此同时随着人工智能的继续发展，我们也不得不去思考其潜在的风险。其潜在风险的思考主要在于对奇点的预判。美国未来学家、人工智能先驱雷·库兹韦尔在《奇点临近》一书中大胆预言，21世纪50年代左右，奇点会来临，人工智能将超越人类智力。1983年数学家弗诺·文奇，他认为奇点来临后，世界的发展将会脱离人类世界的掌控。人工智能超越人类智力这一天是否会到来，人类又会面临什么样的风险？尽管诸如此类的问题我们没法预判。但是从人工智能的发展来看，人工智能对人类思维的模拟只会走向更精细化、更精密化。对人类社会的发展来说是机遇与挑战并存。而那就意味着我们对人工智能社会风险的研究必须引起重视，必须深入。

对于人工智能的风险研究我们既要解决好当下的风险，又要有防范未来风险的正确进路。

三、 人工智能时代的社会风险思考的重要性

人工智能时代的社会风险思考是从人工智能的现实性与可能性，实践性与理论性层面出发，对其社会风险进行剖析与研究。通过对风险的思考，提出解决风险的治理措施。在理论意义上，丰富了人工智能社会风险研究的内容，在实践层面上，促进人工智能的有序发展，造福人类。人文社会科学研究本来就应该超越自然科学的发展，哲学的预见性，在社会风险还未转变成社会危机时，我们就应该做好充分的相关准备。

四、 人工智能时代的社会风险分析

关于人工智能时代的社会风险研究视角是丰富的。社会风险治理专家唐钧从技术、社会、治理三个视角分析所产生的社会风险并提出应对措施。马长山在分析人工智能的本质上结合法律的视角，提出人工智能引发的五个风险--伦理、极化、异化、规则、责任风险，并从法律层面给出详细的应对措施。也有学者从风险的危害程度视角做出研究。吴汉东则是从人工智能社会风险的特征提出人工智能时代的冷思考，宏观提出人工智能存在的四个问题---法律、伦理、社会、监管。

结合以上研究成果，人工智能时代社会风险可以从两个方面来分析，无外乎在于两个关键点，一为制造方面，二为应用方面。从制造方面来看，一是技术的不完善带来风险，如日本曾经发生过工业机器人在生产过程中将工人放入冲压机之下碾死的惨痛事例。技术制造本身的缺陷而导致风险的产生。二是研发人员的主观性造成的风险，也就是人工智能算法主观性和算法偏差，由于在制造过程中，研发人员的主动裁量权很大。研发人员可能存在种族歧视、性别偏见、宗教偏好、极端价值观等主观偏差，代入研发后算法将出现失误，导致预测不准确、甚至决策不公正等社会问题。同时研发人员的道德伦理底线原则无法兜底，研发人员可能研发出杀人武器甚至反社会反人类的人工智能，进而引发社会伦理和社会安全问题。三是研发技术的垄断，而造成的数字鸿沟，两端极化的的风险。从应用方面来看，社会风险则会涉及到更多的方面，人的主体地位的冲击、社会安全、伦理的风险等等。人工智能的社会风险可以从制造端和应用方面分析，二者也是没法割裂的。综合制造方面和应用方面的分析，人工智能时代的社会风险可以分为社会主体的缺失、社会安全、社会伦理、进而引发社会治理的困境。