从法理学角度探讨人工智能算法危机

陈欣欣

沈阳工业大学文法学院，辽宁 沈阳 110870

人工智能算法以迅雷不及掩耳之势进入到人们的生活中，在不知不觉中，已经成了我们生活中难以离开的“必需品”。随着大数据、互联网、云计算等技术的发展，人工智能算法在社会中的运用越来越普遍，与人们的生活愈加密不可分。但是人工智能算法在给我们带来便利的同时，也存在一定的自身局限性，对个人及社会的发展产生一定的不利影响。本文将着重对人工智能算法的局限性及其可能产生的对个人的不利影响和社会危机进行法理学上的探讨。

一、人工智能算法自身局限性

人工智能算法自身的局限性是指由人工智能算法技术特性，或者说其内在运行逻辑而先天具有的局限性。它客观存在，并不以人的意志为转移。本文主要从算法的“机器性”及导向偏见性两个方面阐述人工智能算法的自身局限。

（一）人工智能算法的“机器性”

“人工智能”这个词汇的出现可以追溯到20世纪50年代，将“让机器达到这样的行为，即与人类做同样的行为”称为人工智能。依据人工智能的发展程度，可以将之分为弱人工智能和强人工智能两个不同的阶段。在弱人工智能阶段，人工智能更多地作为一种工具，尽管被称为“与人类做同样的行为”，但其并没有自主学习能力，只是机械化地执行人类输入的指令。而在假设中的强人工智能阶段，现存的人工智能技术尚未能够达到机器如人的程度。总体而言，现在的人工智能技术虽然能够在一定程度上进行自主的机器学习，但仍处于弱人工智能阶段。

人工智能算法是当代人工智能技术在传统算法上的应用，具有人工智能传统算法的固有特征。人工智能算法在运行中以大数据为基础，以其内在的嵌入算法为手段进行结果输出。从现阶段来看，人工智能算法的运用还在相对基础的机器学习阶段，尽管已被称为“智能”，但究其根本，仍然无法脱离人的管理和运用，算力的介入程度尚不足以改变人力控制的基本格局。尽管伴随着技术的发展，人工智能算法因其“智能性”与传统算法具有了相当大的区别。人工智能算法已进入深度机器学习阶段，可以在一定程度上进行自主的机器学习，但就目前的人工智能技术而言，仍是更偏向于其作为算法工具的方面，难以实现脱离人力的控制，更难以进化出人的自由意志和情感。

（二）人工智能算法导向偏见性

人工智能算法产生的结果是具有一定的导向性的。当人工智能算法计算出各种个人将来可能的行为或者习惯，基于对于大数据的依赖或者信任，就会给人们一种应该是这样做的印象，变相地引导数据权主体将来的行为。即便数据是客观的，但数据产生的信息也是具有导向性的。这样的导向偏见性削弱了人们“哪怕遇见反对，也能贯彻自己意志的机会”。[1]

另外，笔者认为，人性是复杂的、是带有感性的，并非能够借助纯粹的、冰冷的数据能够简单地衡量。人或许不会时刻表示出善意，或许借助冰冷的人工智能算法去推断人的行为会得出冷漠的结果，但那只是人在平常状态下表现出的一个侧面，并非全部人性的反映。

人工智能算法的导向偏见还表现在会产生劣势累积。上一轮算法的运算结果会成为新一轮算法运算的起始数据，一旦算法数据信息主体在某一方面具有“污名化”[2]的相关信息，就会在后续的人工智能运算中不断地重复计入，致使数据权主体在某一方面的行为可能影响到并不应当受到影响的社会生活中的其他方方面面，不断地放大已有的社会偏见。

二、人工智能算法对人的不利影响

从法理学的角度出发，人工智能算法改变了传统社会中人们的行为方式、选择方式甚至是思维方式等，直接对个人权利和意志自由产生影响，可能对个人的权利和意志自由造成侵犯。本文从个人权利和意志自由两个方面探讨人工智能算法可能产生的危机。

（一）侵犯个人权利

1．人工智能算法对用户行为的助推。正如在超市中，一些特价商品等会放在显眼的位置，使进入超市的人们能够在进入购物区域的时候，以最方便的姿态看到，从而增加顾客选购的几率。人工智能算法亦有同样的工作机理，平台对用户进行个性化的广告定制，将依据人工智能算法不断演算而来的个人偏好作为“二次售卖”的标的，将之出售给商家进行广告的投放从而营利。

2．人工智能算法运用，相当于为原本平等的法律主体一方加上了更多的信息资源等便利，这无疑会对法律关系中的另一方的平等权造成侵犯。在传统法治环境中，人与人之间交流的基础是平等关系。人工智能算法的运用在事实上产生了一种算法权力，这种算法权力的产生会造成传统法治环境中原本平等的法律关系在事实上具有不平等性。

3．人工智能算法算力的基础是大数据，对于大数据的收集、整理和结果运用都可能对个人的隐私权造成侵犯。人工智能算法建立在大数据运算的基础之上，不可避免地要对个人的信息进行收集。算法数据权主体的一些基本信息，包括各种有意的行为，甚至无意的习惯，都可能会被算法吸收，加入计算的行列。这种人工智能算法的运用，致使原本暴露在社会中的无意义的行为，经过数据分析和规律总结，定性人在过去、现在、未来的行为和习惯，进一步侵犯人的隐私权。

（二）侵犯个人意志自由

人工智能算法的广泛运用会产生对个人意志自由的侵犯。人工智能算法会通过各种方式对人的意志自由进行说服，从而达到更大盈利的目的；会使人受困于信息茧房，侵犯个人获取信息的通道，进而侵犯个人的意志自由，甚至使人的身心健康受到不良影响；会弱化人的思考能力，使人的个人意志的独立性受到侵害。

1．人工智能算法对人的说服。通过对使用者行为的方式、习惯等不断地推演计算，以奖赏或者惩罚或者其他方式对人的行为进行规训，确保用户行为能够更加符合自身利益。例如，在有的购物平台，会在用户长期不购买商品的时候给予红包或者优惠券等，促使用户进行购物；会对退货率高的用户，提高运费险的购买费用等，从而对用户的行为进行规训，达到更佳的营利目的。

2．强大的计算和信息推送功能，给人们带来方便的同时，也使人受困于信息茧房，对人的身心健康产生不良影响。一旦用户搜索过某种信息，就不断为其推送相关信息。现在诸多短视频平台、购物平台、社交平台等，为了提高效率、达到为了更有效营利以及服务用户等目的，都会运用算法精准推送。用户搜索过的信息、浏览过的广告等都会成为人工智能运算的素材，会在接下来的用户使用中不断推送。在有些情况下，即便用户搜索过的是不良信息，甚至违法信息，大数据也并不就此做出识别，继续为用户提供相关信息。或许人们去搜索某种信息只是出于猎奇心理，或者只是为了了解某方面的东西，但人工智能算法并没有价值导向，只会在历史上出现过关键词的情况下，不断地继续推送相关信息，即便是具有不良引导性的甚至是违法的信息。在诸如此类的情况下，人工智能算法对个人意志自由的侵犯极有可能引导个人身心朝着不良方向发展。

3．人工智能算法对于个人意志自由的侵犯还表现在过度依赖算法，会弱化人深入思考的能力。在传统生活中，我们通过观察、思考、逻辑推理等进行的社会活动，在人工智能算法的干预之下，不再需要进行深入的思考便能得出甚至是更优质的结论，这无疑会降低人与人之间沟通的意愿，弱化社会沟通，减少人们深入思考的机会，侵犯人们的意志自由。

三、人工智能算法的社会危机

我国人口众多，拥有丰厚的数据资源。大量的数据可以被数据使用者轻易地获取、收集、运用。这无疑促进我国人工智能算法的前沿发展，进而也可能产生一系列的由人工智能算法引发的与我国国情相关的社会危机。本文从人工智能算法对社会正义观的影响和人的主体性地位两个方面进行讨论。

（一）对传统正义观提出挑战

社会的存在和发展需要有“正义”的存在。我们在长期的社会生活中经过不断的价值取舍，最终形成了我们当下的正义观。社会追求利益最大化，又用平等、公平、诚信等原则去调整社会关系，才得以促进社会和谐有序的发展。这种和谐有序的发展建立在“你的权利止于我的鼻尖”的基础之上，建立在人与人之间是平等的主体地位之上，并不以某种非正当观点持有人数的多寡而改变。

人工智能算法归根究底仍然是一种人创之物，一种没有善恶价值观的机器。它只能按照程序设定的目标进行计算，并导出由之而产生的结果。这样的结果并没有接受现实中社会价值观的检验，只是由讲求效率和利益的算法推算而来。但其作为结果产出，必然又会形成价值导向。即一种观点，即便并非完全符合传统正义观，但在基于大数据的人工智能算法结果之下，很容易造成“大家都一样”的假象，形成群组正义观，产生“少数服从多数”“法不责众”的现象，对传统正义观形成侵犯。尽管时代发展可能产生价值观甚至正义观的改变等，但人工智能算法即便是建立在大数据的基础之上，就整个社会整体而言，也很难说是涵盖了整个社会大部分人的观点，遑论足以改变社会价值取向的整个社会的观点；而且，涵盖的人数多，也不能代表其正当性。

（二）对人的主体地位提出挑战

人工智能算法不断地发展进步，其机器学习算法越来越深入，已经存在算法能够“脱离”算法设计师的操控，能够进行自我学习和自我完善，这使得人工智能算法具有一定的自主性。而人工智能算法将人的行为、习惯等作为数据进行计算，又为现实生活中的人披上了一层算法的外衣，具有了特定的算法身份，人在算法中不是目的，也不是手段，只是数据。

1．人工智能算法出现使人客体化。现代社会是以人的主体性为基础构建起来的社会。“是一个强调个人主义、理性主义和人道主义的社会，它要求在人的生活领域全面贯彻个人主义、理性主义和人道主义等基本原则。”[3]但人工智能算法的工作机理是将人视为可计算的客体，在人工智能算法的视角之下，人的所有行为习惯都只是一系列可以计算并从中得出结论的数字。这在事实上以人工智能算法为基础构建了一种不同于人的现实身份的算法身份，依据数据权主体的行为和习惯推演而来，以人工智能算法运算目的为导向，重新在算法中定义人的身份地位。在人工智能算法的框架中，人既不是消费者也不是员工，人的价值在于生产数据和累积行为剩余。[4]

2．人工智能的有限自主性。人工智能算法的“智能性”使其具有且不断地更加具有人的属性。正如笛卡尔所说“人是一棵会思考的芦苇”，思维能力是人区别于他物而具有主体性的重要原因，人工智能算法的机器学习不断深化，愈来愈趋近于人类，这无疑对人的主体性提出了挑战。现在已经存在深度机器学习算法，能够脱离算法设计师的操控，在原始数据的基础上，不断地进行自我完善和自我升级，越来越符合“思考”的定义，越来越具有人的特性。

人工智能算法在我们现在的社会中已经不可或缺。它大大地便利了我们的生活，使我们在学习、工作、生活中的效率大大提升。社会生活发展到现在，重视算法并有效利用算法，是提高生产力水平的重要手段。但是，我们也不得不注意随着新兴技术的产生而出现的一系列危机，我们要随着新技术的出现和生产力的提高而不断变化我们的生产关系和上层建筑，但这必须建立在基于社会实践和历史经验等的不断反思和探讨之上。