也谈强人工智能法律问题

姚天冲，周自达

（东北大学文法学院,辽宁沈阳110000）

一、智能机器人问题提出

在2019年1月，习近平总书记在十九届中央政治局第九次会议上强调，加快人工智能发展是中国赢得世界科技竞争主导权的重要战略抓手，是推动中国科技跨越式发展、产业优化升级、生产力整体跃升的重要战略资源。［1］同年的3月份，李克强总理在政府工作报告中也强调，要深化大数据、人工智能等方面研发应用，培育新一代新兴数字产业经济。这些都说明新一届领导人特别重视中国人工智能技术的研究和发展。

人工智能作为一项新技术，正在改变着社会政治、经济、文化等诸多方面，同时也深深影响着法律规范的制定和实施。法律规范作为一种纠纷解决机制需要及时规制和解决人工智能发展过程中出现的问题。

在国际上，人工智能发展势头也很强劲。一些全球科技公司都在抢占人工智能领域的新高地。微软科技巨头公司已经制造出能够自由创作诗歌的智能机，那么法律对于智能体的知识产权如何保护需要深入探究。人类最聪明的围棋高手也败在智能机器人手里。人工智能在深度学习、大数据、5G技术的支撑下得到了极大发展，人工智能技术已经逐渐应用到社会生活中，不断智能化、自主化的许多智能机器慢慢走进人们的视野。

在国内，上海智能机器清洁工在漆黑的夜晚清扫着上海的大街小巷，武汉作为首个中国城市以军运会为契机推动自主驾驶公交车在全市范围内运营。除此之外，智能机器人服务员、保姆、律师也在研发当中。这说明智能机器已经应用到商业领域和日常生活中，这需要调整社会方方面面的法律规范，需要提前对人工智能问题进行规制。但是现有的以人类为中心主义的法律制度，很难去调整和约束人工智能机器行为。法律规范在面对人工智能犯罪和侵权问题时出现两难的困境，因此，继续去深入研究人工智能相关理论依据、主体资格和权责归属尤为重要。

二、智能机器人知情意研究

在谈智能机器人的相关法律问题之前，首先我们要谈一些更为基础的概念，这对智能机器人能否作为法律主体、承担法律责任至关重要。在科学技术的进步下，智能机器人是否具备理性思维，智能机器人也是否具备感性意识，以及智能机器人是否具有自由意志等。［2］而这些都是在人工智能不断智能化、自主化到强人工智能阶段前提下探讨的难题。

（一）智能机器人理性思维思考

人们习惯把理性思维和感性意识作为人类特有的能力，动物正是缺乏思维和意识才比人低下。那么，要考虑智能机器人是否具有理性思维能力，回答这个问题需要了解人工智能发展过程中争议的问题。［3］

“图灵测试”①正是解决智能机器是否具备思维，甚至是否具备意识而设计的一个实验。图灵认为智能机器除了不具备人类一样的活外观，如果功能和行为与人类无法区分，那么智能机器就具有思维。但是塞尔不认同这个观点，他提出“中文屋”②的思想实验反驳图灵。这个思想实验是假设塞尔像智能机器一样不懂中文，若有其他可操作的形式符号作为媒介，那么屋子里的赛尔能认识中文吗？赛尔认为机器只能根据程序设定做翻译，不具有自主性的思维判断，不算有思维。

智能机器人是否应该赋予法律主体资格这一问题至今日都争议不断，但智能机器能够理解编程语言，那么通过编程语言的转换也可以理解其他语言。如果智能机器人足够的智能和先进，它也有可能懂得人类语言背后的理性思维。但是理性思维是一种抽象之美，对于人来说，人类超越或升华了感性意识而具有了理性思维，那么智能机器人的一种完美程序编辑出来的理性或者程序思维与人类的理性思维有多大区别，这种区别对于机器人享有人格有无致命影响。

（二）智能机器人感性意识思考

如果说理性的思维可以通过计算机编程可编辑，那么情感、知觉是计算机无法编辑的。机器人除了模拟人的身体部分动作外，内心的情感无法通过程序设计。因为情感是人类表达喜怒哀乐的生理机制，这些机制是无法量化为计算机的编程语言的。即使机器人越来越智能，那么机器人在智力能力上会超越人类，也可能使机器人更具有理性思维，但是机器人不会懂得对与错的根源、是与非的界限、善与恶的分殊。就像机器人永远不懂得什么是幸福一样。这也引发出更大质疑，智能机器人是否有道德意识。智能机器只会自主地依据合理的指令作出行动，但无法自省地作出情感意义上符合道德的行动。

在2013年，具有多层神经网络和“内分泌系统”的能够感知人类情感变化或外部环境的智能机器人“胡椒”一上市就一售而空。［4］笔者认为，这种感知仅仅是计算机程序设计的结果。貌似一个乞丐受尽了人世间的冷暖，他为了生存向施舍给他金钱的人说谢谢或露出微笑一样。在满是编程语言的机器人眼里，向人类表现出来的情感式语言或动作在他们那里也仅是多加的一串代码。正如疗养院引进的陪伴儿童、老年人的智能机器人，在机器的思维表达里开发者设计了一些温馨的情感式的话语，这不代表智能机器具有情感意识，真的会体会到快乐、悲伤。而这种不断类人的感性设计，又会模糊人类与智能机器的差距，我们会怀疑智能机器人在不断智能化、类人化的过程中他们已经具备了感性意识。如果这种感性的智能化是机器深度学习和自主学习的结果，我们会更加怀疑机器人具有情感意识。

如果这种感性的智能化是人类编程设计的，那么机器的编程开发者又可以去量化这种结果，人类就会知道智能机器的感性意识仍然只是设计出来的感性。但大数据和自主学习推动下的智能机器人感性过程的模拟学习，已经超出了人类编辑开发者的掌控之外，人类对智能机器人的担忧和戒备是无法避免的，甚至与日俱增。

（三）智能机器人自由意志思考

如果强人工智能机器人通过了图灵测试，我们或许会承认机器人也有思维，但是有思维的机器人有自由意志吗？我们探讨了机器人有没有理性，那么我们也要探讨机器人有没有自由意志。因为自由意志对法律规范至关重要，民法的缔约能力，要求智能机器人在签订合同时要有独立的意思自由。刑法在探讨犯罪行为、犯罪目的、动机时也要考虑犯罪主体的自由意志。

自然人有了自由意志能做出符合法律和道德的事，除非有人用自由意志去报复社会。机器人有了自由意志或许做的事情也符合人类的道德，这是程序设计的结果，但是对于没有感性意识的机器人来说这种道德不是机器人的道德，而是人类的道德。只有在机器人的世界里我们才需要区分有没有道德意识，道德意识在某种程度上代表着能够区别善恶，而人类的自由意志中理性的思维意志和感性的道德意识比较迷糊。

或许我们更深地怀疑机器具有意志，这种意志是否是自由的。人类的自由意志也不是绝对的自由，我们的意志受到客观环境、教育程度的制约，但我们通过学习知识、积累经验使自己比前人更加聪明，这也是我们的意志不断自由化的源泉。机器人也一样，其意志也受到开发者编程的限制。或许正是人类这种近乎自由的意志发展出了人类的情感和道德，这种感性意识在面对复杂问题时又陷入沉思，例如我们来自哪里，我们要去哪里的问题，这使得人类需要摆脱感性意识去追求理性思维。如果机器人通过迭代学习能力不断加强，有了自主性意识，突破了开发者编程代码的限制，自主编辑了更加自由不受开发者制约的意志，那么智能机器人世界里或许也有了感性和道德意识。他们也因叶落知悲秋而惆怅，人类生离死别而难过。

四、智能机器人名权责探讨

如果智能机器有感性意识和理性思维，同时也具备签合同的自由意志，那么法律或许对于智能机器的拘束与人类没有多大区别。但是我们需要探讨智能机器仅具有思维，可能具有感性意识的情况下在多大程度上享有法定权利、承担法定责任，这又对智能机器法律行为的客体有多大影响，对社会产生哪些影响。这些都是需要仔细探究的，但这一切的一切都以智能机器通过“图灵测试”具有类似于人的思维为前提。

智能机器通过了“图灵测试”，那么说明机器也具有思维的。［5］简单来说，如果没有思维，智能机器不会将中文汉字转变成编程语言的。这种思维像人类的理性思维，如果人类谈到理性思维概念时能够剥离其中的感性意识，在现实中这是做不到的。但是在智能机器人那里这是天然分开的。人类也想让智能机器人的感性意识和理性思维纠缠在一起，这样制造出来的智能机器人更像人了。但是智能机器人在现有的条件下无法拥有像人类一样的喜怒哀乐的感性意识。那么在具有类人的思维前提下，智能机器将在社会应用中发挥多大价值，或许这种有思维的机器人在法律约束下会发挥更大价值。

（一）智能机器人的意思表示能力探讨

法律其实是一个动态演变过程，自然人从成为法律主体到享受权利、履行义务再到最后可能的承担责任是一个连续的过程。对于有思维的智能机器来说，那么法律赋予其法律主体资格，不论这种主体资格是电子人格、拟制人格还是有限人格，［6］这对机器来说也是否享有权利、履行义务或承担责任。这说明智能机器已经进入法律的调整范围之内，起码智能机器所从事的法律行为会受到法律的调整。

在严格的理性思维下，我们探讨智能机器人法律主体资格是有必要的，因为智能机器人具有理性思维是可能的，这也使得智能机器可以缔约或作出意思表示的能力。如果智能机器人在拥有理性思维而不具备感性意识的情况下签订合同，或许我们将订立合同的过程剥离成两个要件，意思能力要件、表示能力要件。对于表示能力来说，我们无法在外貌上将智能机器人制造得和人类一样逼真，让和智能机器人订立合同的法律主体以为自己就是和自然人订立合同，但是法律赋予智能机器以拟制人格或主体资格，那么在签订合同的过程中，我们很难去知悉智能机器人表示能力具有瑕疵或者说智能机器的表示不是其理性思考下的表示。在这意义上，智能机器人的表示就是理性思维之下的表示。

同时我们要确信智能机器人的表示是真实的，因为程序设计比人类语言更精确，人类的表示可能存在虚假的情况，但是智能机器思维的单一性决定他不会存在像人类一样的欺诈、撒谎行为，除非智能机器存在程序错误。那么对于意思能力，我们很难去界定没有感性意识的思维过程中智能机器能够懂得签订合同的意图，签订合同意味着受法律规范的约束，而每一个法律行为都是一个动态的连续过程，意思能力中蕴含着承担法律的后果。法律责任作为一种惩罚，让没有喜怒哀乐的智能机器去理解意思能力背后的惩罚是难以置信的。因此需要假设智能机器通过深度学习和自主学习可能具有感性意识，那么这使得智能机器人多大程度上理解法律责任的涵义又是很难界定的，这使得法律上仅有理性思维的智能机器订立合同显得特别困难，我们期望于智能机器能够获得感性意识。

（二）智能机器人的权利和责任探讨

对于有理性思维的智能机器人，法定的权利和义务对于他们来说又意味着什么。法律上的权利意味着一种自由，智能机器人能够享受自由吗？从一些具体的权利规定需要去具体探究这些问题。法律拟制主体的法人享有名称权、荣誉权、名誉权，智能机器人在成为法律拟制主体下也应该具有这些权利，那么其他财产权和人身权智能机器享有吗？说到身体权，我们好像听到的是自然人只有此权利，那么智能机器人享有身体权吗？智能机器的身体可以被破坏吗？这种破坏算是对工具的破坏，还是对具有主体资格的电子人、代理人的破坏。那么破坏者多大程度上承担法律责任。

如果从理性思维角度出发，智能机器也具有部分理性意识，但这种破坏不会使智能机器感受到疼痛，因为智能机器没有感性意识。但是人不能总是以自己为中心主义，我们需要考虑智能机器的现实价值。那么智能机器可以享有人格权吗？如果享有人格权，那么智能机器可以自由、健康而有尊严地、长久地存在吗？我们到现在依然不认为智能机器人具有感性意识，所以我们不会去认为智能机器人可以自由、健康而有尊严地活着，在法律规范中“活”着更像是具有生命力的人类才适用。那么这种自由、健康而有尊严的存在，会使得智能机器人也需要生活在干净舒适的环境里，因为生活在脏乱差的环境会损害智能机器的尊严。

如果智能机器有自由，那么我们也不能去剥夺智能机器的运行，我们不能任意地破坏他们，因为他们有自由运行权利，也就是有权像人一样自由地“活着”。还有，智能机器人具有健康权吗？我们对智能机器的系统需要保护，他们的运行机能也需要保护，这是不可想象的。许多权利都是以人类的视角规定的，所以我们会认为智能机器享有人所拥有的权利真的不可思议。但是智能机器作为有理性思维的智能体，他们需要权利来保护自己，或许这些权利不需要叫健康权、生命权，但可以叫完整权、运行权。

此外，智能机器仅有理性思维下需要承担责任也是值得考虑的，更糟糕的是，我们无法确定智能机器自主学习、深度学习之后是否具有感性意识，如果我们测试智能机器的感性意识的设备缺乏准确性，可能导致智能机器在有感性意识下实施的违法行为，我们却在法律上不能追究智能机器的责任，这是人类的悲哀。因为人类作为地球上最聪明最有能力的群体，对于智能机器的违法行为没有规制手段予以处罚。即使人类在可控前提下发展人工智能技术，那么没有感性意识的智能机器又能承担多大责任。不论是民法和刑法责任，人身罚的惩罚对于智能机器没有任何意义。［7］智能机器不会承担了像监禁一样的人身罚之后改过自新。对于金钱罚来说，还是无法避免人身罚一样的效果，智能机器也还不会向人类一样夺利。这些分析说明让智能机器人承担责任是不可行的。法律制度需要引进责任保险、责任基金以及其他制度来化解智能时代到来所产生的两难风险。法律作为解决社会纠纷的手段，也需要迎难而上、主动出击去解决现实问题。

四、结语

在现有阶段，像《黑客帝国》电影一样的机器人反人类的场景不会到来，但是强人工智能对法律的冲击无疑是巨大的。通过法律拟制智能机器人的法律主体地位，不论是电子主体资格、有限主体资格、代理人主体资格，然后对智能机器产生的社会纠纷囊括在现有的法律体系中。

从现有的法律责任制度来看，法律规范无法让智能机器承担相应的责任，因为没有感性意识的智能机器不具有可谴责性。因此通过法律拟制解决智能机器的主体资格之后，急切需要的是通过责任保险、风险基金、公平承担等法律制度的建立去化解强人工智能时代到来时，人工智能对社会秩序和法律规范带来的严重冲击。法律作为解决纠纷的主要机制之一，要有前瞻性地考虑人工智能发展过程中所发生的复杂问题。只有这样，人类的未来才会可期待。

注释：

①图灵测试（The Turing test）：由图灵发明，指测试者与被测试者隔开的情况下，通过一些装置向被测试者随意提问。进行多次测试后，如果机器让平均每个参与者做出超过30%的误判，那么这台机器就通过了测试，并被认为具有人类智能。

②中文屋（Chinese room）：又称作华语房间，是由美国哲学家约翰•赛尔（John Searle）在1980年设计的一个思维试验以推翻强人工智能提出的过强主张：只要计算机拥有了适当的程序，理论上就可以说计算机拥有它的认知状态以及可以像人一样地进行理解活动。