人工智能法律监管的域外实践

胡洁人 施子涵

当前，人工智能成为新一轮科技革命的重要方向。人工智能产业的发展对于全球智能制造的产业升级、探索新的经济增长引擎有着积极的作用。与此同时，人工智能的高速发展也为个人隐私保护、网络安全、知识产权保护等带来了新的挑战。世界各国、各地区已意识到了上述问题，并已经就人工智能的法律监管开展了有益探索。本文将介绍欧盟、日本对人工智能的法律监管实践，为我国人工智能的监管与规制提供可供参考的域外经验。

欧盟：采用分类分级的风险规制路径

作为人工智能发展的先进地区，欧洲对于人工智能的法律规制起步较早。2016年5月，欧盟议会法律事务委员会发布了《就机器人民事法律规则向欧盟委员会提出立法建议的报告草案》。2017年2月16日，欧盟议会法律事务委员会通过了全球首个“关于制定机器人民事法律规制的决议”。在决议中，欧盟法律事务委员会从长计议，提出了关于人工智能法律地位的规划。欧盟法律事务委员会分析了人工智能的特征，认为人工智能具备通过交换数据获得自主性的能力、在交互中不断学习的能力以及根据环境调整自己行为的能力。对于部分人工智能已经发展出了某些自主和认知能力的情况，欧盟考虑到之后人工智能可能涉及的责任分配问题，提议对高级的人工智能建立登记准入制度，同时赋予其电子人格以促进这类人工智能的登记。近年来，欧盟法律事务委员会对于人工智能可能带来的风险类型作出划分。2021年4月12日，欧盟委员会在其《人工智能法案》提案中进一步细化了人工智能准入标准，将人工智能系统分成四个风险级别，分别是不可接受的风险、高风险、有限风险和极低风险，每个风险类别都有相应的应用场景和监管措施，具体分类情形如下：

首先是不可接受的风险级别。其具体应用场景包括采用潜意识技术或有目的的操纵或欺骗技术明显损害或实质性扭曲人的行为和能力的系统、利用个人或社会群体的弱点或已知的人格特征或社会经济状况用于损害或实质性扭曲该人或该群体的系统、利用人的社会行为或人格特征进行社会评分并对个人造成有害后果或歧视性待遇的系统、在公众场所的“实时”远程生物识别系统等。上述系统在《人工智能法案》的监管下是被完全禁止的。

人工智能成为新一轮科技革命的重要方向

其次是高风险级别。其具体应用场景包括：（1）在欧盟统一立法规制范围内作为产品的安全组件或本身属于产品且其需要第三方符合性评估机构开展评估的AI系统；（2）涉及生物识别和分类、可能威胁人的生命和健康的关键基础设施、可能决定人的受教育机会或职业培训、就业、员工管理和获得自营职业、获得和享受基本的私人和公共服务、可能影响人的基本权利的执法活动、移民、庇护和边境控制管理、司法和民主程序等领域，且符合分级标准的独立人工智能系统。针对上述高风险AI系统，欧盟《人工智能法案》允许相关主体在履行事前评估等义务后投放市场或投入使用，并进行事中、事后的持续监测。

再次是有限风险级别。与人类互动的系统、情绪识别系统、生物特征分类系统、生成或操纵内容系统均被归为有限风险级别的人工智能系统。针对上述系统，欧盟《人工智能法案》虽然不要求相应主体履行事前评估等义务，但其仍需遵循相应的透明度义务。

最后是极低风险级别。极低风险级别的人工智能系统包括允许自由使用人工智能电子游戏、垃圾邮件过滤器等，由于上述系统在客观上风险极低，故欧盟《人工智能法案》允许相应主体依据自由意志部署和使用。

日本：宽松模式吸引开发者

近年来，世界各国、各地区的人工智能开发机构或公司已在或将赴日本开设据点，其中既有专注于人工智能底层技术的研究机构或公司，也有聚焦生成式人工智能（AI绘画等）、医疗人工智能（CAD、辅助诊疗）等特定领域的初创公司。之所以日本会受到人工智能开发者的青睐，成为开发者们的出海目的地，是因为其采取了开放包容的人工智能监管模式，日本也因此被世界各国、各地区的人工智能开发者视为“天堂”。

宏观而言，首先，日本目前并无一部专门规制人工智能的法律，只有在特定的应用场域下，如人工智能的开发、学习、训练、生成、创作、运用，相关法律中的条文才能够被适用，这些条文零散分布于日本的著作权法、个人信息保护法、医生法、律师法等法律之中。其次，由于上述这些条文内容繁杂，且原则性规定较多、实用性较弱，所以日本各政府部门多结合自身主管领域的特定应用场域，自行制定了一些政策性文件、指导性文件。由于此类文件制定主体不一，因此观点也各异，有些是从人工智能开发者的立场出发，有些则是站在人工智能使用者的角度进行考量。

日本在2018年讨论修改著作权法时，立法者在保护著作权人权利与鼓励人工智能产业发展中，选择了促进人工智能产业发展。

微观来看，日本对于数据保护领域、特定身份职业资质领域中人工智能的监管，与世界各国的差异并不大，并无足以使其成为开发者天堂的特别之处。但是在知识产权领域，尤其是著作权保护领域，日本对于人工智能的监管则与众不同。

需要说明的是，人工智能从其被开发到投入应用大体可以被分为两个阶段：第一阶段为学习、训练阶段，也被称为开发阶段；第二阶段为生成、创作阶段，也被称为应用阶段。在第二阶段中，日本也没有给予人工智能开发者、使用者特殊豁免，著作权侵权的认定思路以及惩罚措施与其他国家也并无区别。其监管的特殊之处，主要集中在人工智能的开发阶段。

根据日本著作权法的规定，在人工智能的开发、学习、训练过程中使用作品的，无需取得著作权人的同意。也就是说，用于人工智能进行机器学习、深度学习的材料，即便是具有著作权的作品，如文字作品、美术作品等，无论该种机器学习、深度学习是否以营利为目的，就算相关主体未取得著作权人的同意，也不会侵犯相关作品权利人的著作权。之所以日本采取如此程度的宽松监管，主要是因为其在2018年讨论修改著作权法时，立法者在保护著作权人权利与鼓励人工智能产业发展中，选择了促进人工智能产业发展，意图引领人工智能产业蓬勃发展，故而采取了該种立法模式。

虽然日本业界对立法所存在的著作权人权利保护不周问题也提出了质疑，但目前日本政府并无调整监管思路的意思或行动，反而有意继续维持发达国家中相对宽松的人工智能开发、学习监管环境，坚持以开放包容的人工智能监管模式欢迎海外人工智能开发者的到来。

（胡洁人，浙江大学城市学院法学院特聘研究员、博士生导师；施子涵，同济大学法学院硕士研究生）

编辑：薛华    icexue0321@163.com