欧盟率先提出人工智能立法动议

胡裕岭

人工智能或将在欧盟获得首个法律身份

据路透社报道，欧盟委员会法律事务委员会于2016年5月31日提交一项动议，要求欧盟委员会把正在不断增长的最先进的自动化机器“工人”的身份定位为“电子人（electronic persons）”，并赋予这些机器人依法享有著作权、劳动权等“特定的权利与义务”。该动议也建议，为智能自动化机器人设立一个登记册，以便为这些机器人开设涵盖法律责任（包括依法缴税、享有现金交易权、领取养老金等）的资金账户。如果此项法律动议通过，欧盟将成为首个通过立法赋予人工智能法律身份的地区。

法律作为上层建筑的一部分，由一定的社会经济基础所决定，是对社会现实需求的回应。欧盟对此次人工智能的立法动议绝非是一时兴起。据欧盟2015年的一项调查报告显示，截止到2012年欧盟成员国每七个家庭中就有至少一户在使用机器人，工厂中使用的自动化机器人更是不计其数。实际上，早在2014年自动化与机电一体化国际贸易博览会开幕式上，欧盟委员会副主席、数字和电信政策专员内莉·克勒斯就宣布，欧盟委员会将启动“火花”（SPARC）计划：到2020年，将投入28亿欧元用于研发民用机器人。欧盟委员会称，这是目前全球最大的民用机器人研发计划，涉及机器人在制造业、农业、医疗、交通运输、安全等各领域的应用。

人工智能应用研究计划的优势是显而易见的。特别是在欧洲日益严重的老龄化社会，广泛使用高级机器人可以大幅降低人力成本、改善工作条件、提高工业水平和生产效能，从而大大提升经济竞争力。欧洲机器人协会秘书长尤维·赫斯博士在媒体采访时表示，目前全球机器人年均工业产值为220亿欧元，预计到2020年可达500亿欧元至620亿欧元之间。高级机器人的工业产值将会超出“我们的想象”，其应用可以大力提高欧洲的工业竞争力，促进农业和服务业的快速发展。欧盟委员会还认为，机器人的潜力远不止于生产制造，其还可以协助医院护士，检修危险的核电站以及从事乏味的农业作业，自动汽车和无人机等都属于机器人。

经济推动下庞大机器人群体的产生，必然会带来一系列的主体认知和社会责任问题。由此看来，欧盟率先提出人工智能立法动议就不足为奇了。而人工智能的发展不局限于欧洲，事实上，其他科技发达国家和地区也正在制定和实施人工智能发展计划。如日本制定了机器人技术长期发展战略，将机器人产业作为“新产业发展战略”中七大重点扶持的产业之一，仅在类人机器人领域，就计划10年共投资3.5亿美元；韩国制定了“智能机器人基本计划”，2012年10月发布了“机器人未来战略展望2022”，将政策焦点放在了扩大韩国机器人产业并支持国内机器人企业进军海外市场等方面。

对人工智能立法的担忧多于期待

法律是维护社会秩序的一道屏障，而且往往是最后一道屏障。当现有法律不足以调和新事物发展对现有秩序所带来的冲突的时候，我们就必须对其作出相应的调整和完善。然而，不同于以往的新立法，多数民众甚至是法学家对人工智能立法的担忧要远远多于期待。因为人工智能不但是人类社会发展的一块新领域，而且将会挑战传统法律准则，甚至这些挑战可能是颠覆性的。

首先，人工智能“工人”群体正在形成：一方面对现有劳动者的权利带来冲击，另一方面部分群体对人工智能劳动性权利要求的呼声愈发强烈。这些机器人真的可以取代人类“工人”吗？今年3月，著名智能机械制造厂商特斯拉工厂被媒体曝光。整个工厂只有150个机器人完成从冲压生产线、车身中心、烤漆中心与组装中心这四大制造环节，车间中很少见到人类的影子。根据欧盟委员会2015年6月的一份调查报告显示：70%的被调查者认为机器人夺走了人们的就业机会。而这些机械“工人”可以无休止地为工厂主提供劳动力吗？答案是否定的。赋予人工智能“工人”劳动权利，成为此次欧盟人工智能立法动议的主要内容。

其次，人工智能正在超越人类思维，直接威胁“自然人”这一基本的法律关系主体地位。就在今年3月9日的围棋大战中，谷歌围棋机器人“阿尔法狗”（AlphaGO）经过三个小时打败了韩国选手李世石，震惊了整个人类社会。令人感到震惊的不止是胜败本身，还在于这个围棋机器人被制造者赋予了新的能力——“学习”。它会首先进行快速判断，进而深度模仿类似人类行为的做法，而后不断总结经验，并作为自己行为的评估依据。这意味着机器人已经不再局限于传统计算机超级计算、资料检索和模拟判断的能力，而是拥有近似于人类思维模式的自我学习、自我总结能力，甚至是“创造力”。人工智能已由“执行指令”走向了“智能”时代。

最后，人工智能行为带来的法律责任将难以解决。人工智能的安全隐患时有发生。今年5月，在当前最热门的“无人驾驶”技术探索中，曝出一辆处于自动驾驶模式（Autopilot）的特斯拉Model S发生车祸，与一辆卡车相撞，导致司机Joshua Brown当场死亡。这看似一场简单的车祸，究竟是驾驶人的不当操作，还是开发者的技术漏洞，抑或是生产者的安全责任？甚至可能是人工智能“故意”为之？事件背后的法律责任在现有的科学技术和法律框架下恐怕难以快速解决。

总而言之，随着人工智能学习能力的完善，其自主性将越来越高，制造者对其控制力将不断弱化，此类客体存在或将超出“产品”的概念，超过《产品质量法》的范畴，甚至打破《民法》《刑法》等基本法律的规范。对这种可能威胁到人类社会秩序甚至生存权的人造产品，我们将如何应对呢？

对人工智能立法的未来展望

任何新事物的产生都有其赖以生存的社会经济条件，在其社会经济条件未消失之前，这些事物就必然存在。人工智能作为人类文明发展的新发明、新事物，有其存在的客观基础，并不会随人的主观意识的改变而随意改变。而事物是一分为二的，新事物的产生发展在带来巨大利益的同时，必然带来一定的安全威胁。不可否认的是，此前有关人工智能的一些大胆的预言正在变成现实，但担忧机器人将终结人类还为时尚早。我们应当思考的不是消灭客观危险，而是该如何面对这些潜在的威胁和挑战。通过制定一定的规则、法律来预防规避风险，引导事物健康发展。

一方面，我们应当直面人工智能发展的法律障碍。人工智能已经不是简单的机械工具，这对以前由法人承担责任的规定是一个挑战。万一人工智能出现了超越原设计方案的“越轨行为”，该由其制造者、管理者还是使用者，甚至是人工智能自身来承担责任呢？因此，我们首先应当解决的是人工智能制造者、管理者以及使用者的责任问题。如何保证人工智能的生产质量，降低其生产的产品风险；如何将人工智能更好地融入工作场所，保证其依照原定计划发挥职能；如何限制人工职能的使用形式和内容，规避其使用风险，是当前我们在探索人工智能技术与扩大人工智能应用过程中所必须思考的。

另一方面，我们应当从法律上正视人工智能这一新型群体的存在。所谓法律上的认识，就是审视人工智能自身存在的权利和义务。既然人工智能能够作为一个群体存在，有自身特定的社会角色，甚至能够创造性的“独立思考”（这也是人类正在积极探索赋予人工智能的能力），那么，我们就应当去思考人工智能究竟有没有法律意义上的“主观能动性”。此前，有消息称，日本也正在准备立法保障人工智能的著作权。日本法学家认为，人工智能毕竟作为一个创作个体，其著作权如果不能得到保障，将可能会助长抄袭之风的盛行。此次欧盟在对人工智能立法提案的过程中，更是提出要赋予人工智能劳动权，以及现金交易权、领取养老金的权利等等。就当前人工智能技术而言，对此已有些“操之过急”，但未来的趋势已从近来偶发的“事故”中初露端倪。如果将来的答案是肯定的，也就意味着人工智能将拥有极大的自由和权利，也就难免不会走向犯罪，给人类造成伤害。我们就要思考另外一类问题，如人工智能故意盗窃、诈骗，甚至是伤害到人类，我们的法律该如何调整？

法律具有滞后性，但对法律问题的思考应当具备前瞻性思维。随着人工智能的不断发展，人类也许会进一步看清人工智能的发展轨迹，最终制定出有利于人类和人工智能健康发展的法律体系。

编辑：黄灵 yeshzhwu@foxmail.com

社会治理的核心是调和利益冲突，社会治理的基本方式是法治。当前飞速发展的人工智能技术在为人类创造巨大生产力的同时，也给现有的生产方式带来一系列潜在的冲突和挑战。有科学家甚至宣称人工智能的发展将威胁人类生存，终结时代。那么，我们应当如何看待人工智能的法律地位，其行为引起的法律责任又当由谁来承担，如何承担？对此，欧盟正在探讨一项人工智能法案，无论其通过与否，已然掀起了人类立法的新篇章。