“人工智能”产品非难可能及归责进路

文/蔡欣（上海大学）

20世纪70年代起，人们就一度对涉人工智能的研究充满热情，但随着人工智能本身未能真正“进入寻常百姓家”，这种热情被漫长的挫败感冲淡。而如今人工智能技术热潮的再度兴起，激励政策的陆续颁布，科技水平的不断进步等使得人们再次燃起了对人工智能的热情。然而，事物的发展总是呈波浪式前进，随着各种人工智能产品如雨后春笋般面世并宣布量产，其致人伤亡的情形也接踵而来。一时间人们对于人工智能又产生极大的忧虑，有人表示人工智能可能导致就业难题，有人担忧人工智能会否失控，也有人大声疾呼人工智能将取代人类，必须停止与人工智能有关的一切事物普及……

为了保障市场经济秩序稳定，为了不阻碍人工智能健康发展，就必须对人工智能的性质进行明确的界定。人工智能到底能否具有独立人格，进而能独立承担责任？如若不能，又将如何应对？如要追究自然人责任，对市场经济主体提出了何种程度的要求？这都是在人工智能时代不可回避的问题。

一、人工智能致害之现状

得益于国家《新一代人工智能发展规划》的政策信号，加之对人工智能产品暂无统一的国家标准或行业标准，在发展人工智能的伊始，形势一片大好。然而，物极必反，人工智能造成损害结果的一系列案例浮出水面，令人不禁唏嘘人工智能也并不像想象般十全十美，并非不会出现任何纰漏。

小到备受争议的ATM机、无人机，大到自动驾驶汽车，在人工智能商业化的同时，除却自身出现轻微瑕疵，不排除出现由于人工智能自身存在缺陷或后期监管不力甚至是使用不当而严重危害社会的情形。参考自动驾驶汽车，2016年5月，美国一辆自动驾驶汽车在公路上行驶时发生车祸，车主当场死亡。经调查后结合大量证据得知，事故是由于该车的自动驾驶系统Autopilot对相近颜色的分辨能力低下。这对于驾驶避障系统来说是一个巨大的缺陷，设计研发者却没有对缺陷产品召回以避免不必要的财产损失或人员伤亡，甚至没有做出警示，间接导致了悲剧的发生。其后，北京陆续出现了不同损害程度的自动驾驶汽车交通事故。此类事故不胜枚举，笔者在此不再一一赘述。

二、人工智能性质之界分

人 工 智 能（Artificial Intelligence），简称AI，得名意在表明其不同于人类自然智慧的人工智慧。迄今为之，科学家们也给它撰写过不同的定义，甚至用各种思想实验如著名的图灵测试、中文房间理论等验证这种人工智能存在与否。不可否认，人工智能能否独立承担责任对各经济主体有至关重要的影响，直接关系到个经济主体是否还需要对人工智能承担全部或部分责任。

（一）人工智能独立人格之否定

人工智能可以划分为普通人工智能、弱人工智能及强人工智能，其划分标准是其是否能自主学习、自主思考。基于对人工智能可能“类人”或者“超人”的担忧，部分学者提出应当赋予强人工智能以独立人格的观点，并针对该问题相继提出了：机器工具说、法人人格说、有限人格说及电子人格说。

笔者认为，上述学说均有其合理性，但是，人工智能尚不能承担独立人格或有限人格所对应的责任。首先，人工智能即便“类人”“超人”，但始终“非人”。人们热衷于将人工智能的人格确立下来，其目的还是要为人工智能致害找一个“责任人”。显然，若将责任完全或部分归咎于人工智能，就会让某些真正应当被问责的责任人甚至是犯罪人成为漏网之鱼，进而于社会安宁、市场经济秩序稳定都有害而无益；其次，人工智能的独立人格会造成伦理困境，同时其应当具有何种权利，承担何种义务，对其追究的民事责任如何赔偿损失，人工智能作为物无法拥有自己的财产；再次，当人工智能造成的损害已然需要刑法介入时，即便其具有独立人格，能够独立承担刑事责任，对其处以刑罚也难以奏效，人工智能所遭受的非难也不会起到引导作用与预防作用。

人工智能的独立人格不仅不会解决当下所面临的困境，反而于经济秩序无益，于社会稳定有害，于司法公正也将有失。因此，人工智能的独立人格笔者坚决不予承认。

（二）人工智能产品性质之重申

早年科幻大片渲染下给民众带来的“机器人终将统治人类”的不安，佐以著名物理学家斯蒂芬·霍金（Stephen Hawking）在BBC专访中就曾发表“人工智能技术可能会带来‘人类的末日’”的预言并在公开信中发出警示。即便如此，笔者想要说明的是，无论人工智能强弱，其行为的本源仍然是自然人。人工智能始终都偏向“人工性”。无论将人工智能的前景描绘得如何天花乱坠，实际上它也不具有类人的情感与动机，不具有人的辨控能力，不具有是非观，其为或不为某一行为的唯一依据就是事先设定的程序，并且通常受范围限制。简单来说，医疗用途的机器人无论如何也不会驾驶汽车，并在不妨碍自身驾驶的情形下看到急需救助的行人选择停车进行救助。诚然，笔者坚持我们仍处于并将长期处于弱人工智能时代。当前的人工智能产品均由人类创造并为人类所利用，属于弱人工智能产物，即其“看起来像是智能的，但并不真正拥有智能，也不会有自主意识”。

以此为鉴，反观当前引发对人工智能之刑法应对及立场思考的人工智能致损现象，笔者发现，所谓“人工智能”的本质乃是无形程序与有形产品的结合。既仍属于产品范畴，但又区别于传统意义上的产品。然而，无论其具有何等特殊性，它仍然是从属于人工之下的产物，是基于人的创造及预先设定而产生一定行为的产品，其具有的学习能力也有赖于大数据与算法加持，由多种元素结合而成，对人有天然的依赖性，因而，与其因日日担忧真正的强人工智能时代何时到来而形同惊弓之鸟，毋宁脚踏实地，击破神化人工智能的臆想，接受人工智能产品的发展存在可认知的技术风险，承认人工智能的产品属性，以期对其进行剖析并寻求相应的规制路径。

三、人工智能致害之规制

人工智能造成损害对企业、生产者或者是消费者、使用者均存在负面影响。在其致害现象初显之时，就应当意识到其面临的困境，并寻求应对之路。

（一）提高人工智能准入门槛

人工智能产品由于程序系统的介入，一定程度上将改变其所依附的传统产品的安全标准。2021年，由工业和信息化部提出、全国汽车标准化技术委员会归口的GB/T 40429-2021《汽车驾驶自动化分级》推荐性国家标准经批准发布，并将于2022年3月1日起实施。该标准规定了汽车驾驶自动化分级遵循的原则、分级要素、各级别定义和技术要求框架，旨在解决我国汽车驾驶自动化分级的规范性问题。

针对人工智能缺陷致害的情形，从源头上来说存在着因人工智能作为新兴产业的红利，因产品较新而缺失严格准入机制，导致其质量良莠不齐，也无从区分其是否符合应有的安全标准。因此，提高人工智能准入门槛，要求从事人工智能研发、生产工作的企业具有相应的硬件基础，相关人员具有相应的专业知识及技能至关重要，部分特殊领域的产品如医疗行业的人工智能产品的使用者甚至也应当经过相应的操作培训。如是，在保护企业商誉、市场秩序、公民人身权利甚至是公共安全的同时，也有利于严控工业机器人高端产业低端化和低端产品产能过剩。

（二）明确人工智能责任指向

既然明确了人工智能的产品属性，那么自然要锁定人工智能背后的自然人，并明晰何种人应当对人工智能产品造成的损害结果承担责任。目前，学界对人工智能产品的研发者作为除生产者、销售者及过失使用者这类传统责任主体外的重要责任主体已达成一致。

相较于传统生产者，人工智能产品的真正家长实际上是以传统产品作为载体的人工智能系统的制造者。研发者由于具有高于生产者的专业知识，对人工智能系统的各个细节、程序用途及运转处于主要控制地位，因此也应承担确保产品符合国家标准、行业安全标准的产品质量责任和产品安全责任；同时，在人工智能进入流通使用环节后仍负有监管责任。以自动驾驶汽车为例，作为自动驾驶汽车的实际操纵人员，系统研发者理应负有确保其研发的自动驾驶汽车“能够严格遵循相关交通管理法规”的责任，同样对于自动驾驶汽车能否对周围紧急情况及时感知并做出相应判断的情形。生产者仍然要遵守其确保产品符合研发者要求，保证有形载体的质量能阻隔相关因素干扰系统运转，同时也应符合国家标准、行业标准等相关安全标准。另外，销售者作为与消费者/使用者最为密切的接触者，负有如实陈述产品性能、用途的义务，不可作夸大的虚假宣传，例如：将明知仅具有辅助驾驶功能的自动驾驶汽车以“可实现无人驾驶”“解放双手”的方式进行宣传，进而使使用者产生信赖，以至于紧急情况发生时未能及时进行处理，导致使用者重伤或死亡的严重后果。在人工智能产品的范畴下，使用者的注意义务理应相对降低，但不意味着必然免除。当使用者存在不当使用的情形致人损害甚至是恶意利用人工智能产品造成他人损害时，其对损害结果仍然需要承担相应责任，在恶意利用的情形下如若同时具有刑事违法性、应受刑罚处罚性及社会危害性，则使用者也有可能遭受到刑法的非难。

（三）肯定公法介入之应然性

私法如民法、商法等通常调整的是平等主体间的社会关系，在人工智能造成普通损害如轻微伤或小额财产损失时，通过私法主张民事赔偿责任并无不妥。但是，当人工智能造成的损害结果不能仅以民事责任进行包容，公法如刑法就应当介入。又如日本知名法学研究者西原春夫曾作出的关于刑法中如何将行为的社会危害性演变为刑事立法的逻辑推演，对于社会危害性不大的行为，人们也不会产生恐惧心理，寻求公权力保护的欲望相对就较弱一些。刑法作为保障法，当人工智能产品严重侵害刑法所保护的客体，具有相当的社会危害性时，刑法的介入不仅符合公法价值，同样也是实现社会价值的必然要求。同时，刑法也可以通过行政前置化的方式将判断标准归于静态行政规范。通过刑法的威慑功能，以期达到预防犯罪的效果，同时也对社会公众、各类经济主体的行为提出指引：在乘时代之风扶摇而上的同时，在心中设起红线，知晓可为与不可为，勿以恶小而为之；明晰自身义务，如实告知，正确警示；履行监管责任，不因成本效益问题导致应为而不为的不作为情形。

四、结语

我们正在经历第四次科技革命，在人工智能时代不可避免到来之时，对于其造成的损害既不能视而不见，也不能“一刀切”地直接对新兴事物全盘否定。人工智能仍具有产品性质，其虽前途光明，但对其妥善规制也道阻且长。不可讳言，人工智能产品只有得以有效的规制，才能更为从容地应用到各个领域，使各责任主体各司其职，扩大受众范围，为科技、经济发展奠定基础。