既要人工智能高效发展还要符合伦理，该怎么做？

曹建峰

近年来，人工智能技术发展取得了极大的进步，在一些领域甚至超越了人类自身的认知能力。人工智能也从一个纯粹的技术领域一跃成为社会各界共同关注的话题。各国纷纷出台人工智能战略，加强顶层设计，人工智能由此成为国际竞争的新焦点。人工智能的跨学科研究迅速兴起，尤其是国内的法学界出现了人工智能法律研究的热潮，但却没有学者尝试从法律上对人工智能的概念进行界定，导致各种研究颇具自说自话的色彩，缺乏统一的认知基础。此外，社会公众由于对人工智能技术缺乏足够的了解，生发了人工智能取代人类工作、超级智能威胁人类生存等担忧。

那么，人工智能法律能否成为一门显学？现在又有哪些新的问题需要研究和应对？对此，微软总法律顾问BradSmith曾有精辟论述。他写道，未来会产生所谓的「人工智能法律」这一全新的法律领域吗？今天，人工智能法律和1998年的时候隐私法刚兴起时的境况差不多。一些既有的法律已经适用于人工智能，尤其是侵权法和隐私法。在一些特定的领域比如自动驾驶汽车等，开始出现新的监管。但是，人工智能法律尚未作为一个独立的领域存在。到2038年的时候，我敢肯定这一状况将有所改变。那时候，不仅有从事人工智能法律的执业律师，而且这些律师和其他所有律师都将依赖人工智能来辅助其执业。因此，真正的问题不是是否会出现人工智能法律，而是其如何出现，以及在什么期限内出现。

人工智能法律问题的三个层面

这一预测在某种程度上可以给当前的人工智能法律研究背书，即学者的研究并非镜花水月，空中楼阁，而是服务于未来将可能产生的一个全新的法律领域。综观目前的人工智能法律研究，主要存在法律人格、正义与平等、安全与认证、隐私与权力、责任、知识产权归属、竞争与消费者保护、人工智能产品监管、自主武器等九个主题，这些主题可被抽象为三个层面。

其一，权利的挑战。在以机器学习为代表的现代人工智能系统出现之前，人类是这个星球上唯一具有行为能力的主体，国家和公司作为法律上拟制的人，其自身不具有行为能力，需要由人类主体来代表。人工智能，作为通过一个评估过程自主作出选择的非自然实体（即机器），开始表现出像人一样的行为能力，例如达成交易、批准贷款、驾驶汽车、创作内容，等等。因此其一方面带来主体地位的挑战，另一方面带来创造成果归属和保护的挑战。其二，责任的挑战。以自动驾驶为例，其自主性和不可预测性斩断了人类与事故之间的因果关系。其三，伦理的挑战。体现为两个方面：一是技术应用的边界问题，例如将人工智能应用于人类增强或者武器和战争的限度在哪里;二是技术发展可能改变人类伦理，依然以自动驾驶汽车为例，随着自动驾驶系统的安全性能不断提高，当其显著超越人类驾驶水平之时，是否有必要重新考虑人类驾驶汽车活动的道德性。

人工智能治理的三点认知

在计算机与信息技术的发展史上，网络法经历了三次重大转变，每个阶段都有其特殊的问题并产生了相应的法律规制。第一阶段的关注焦点是计算机，各国围绕计算机的安全、犯罪、欺诈、滥用等问题制定了一系列法律，这个阶段的典型立法包括美国1984年的《计算机欺诈与滥用法案》等。互联网兴起之后，网络法发展到第二阶段，信息大爆炸趋势下，信息成为关注焦点，法律规制围绕信息的隐私、保护、传播、滥用等问题展开，这个阶段的立法包括欧盟1995年的《个人数据保护指令》、美国1996年的《通信规范法》等。当前，网络法已经发展到了第三阶段，作为关注焦点的数据和人工智能算法带来新的问题，预计将出现一系列人工智能法律，例如欧盟的GDPR已经针对人工智能应用进行了制度安排，欧盟议会发布的《算法责任与透明治理框架》则在考虑建立算法治理框架。就人工智能治理而言，本文提出三点认知。

其一，数据保护方面，明确企业间数据获取与利用的基本规则，加强对企业数据资产及其合法利益的保护。人工智能的发展应用离不开数据，数据已经成为「新石油」，只有加强保护企业数据权益，才能为人工智能创新发展提供坚实的基础。我国法院在诸多涉及数据获取与利用的不正当竞争案件中认为，企业对其投入劳动采集、加工、整理、生成的数据享有财产性权益，典型的案件包括阳光诉霸才、大众点评诉爱帮网、钢联诉纵横/拓迪、大众点评诉百度、微博诉脉脉、酷米客诉车来了、淘宝诉美景、同花顺公司诉灯塔公司等。其实早在InternationalNewsService诉AssociatedPress一案中，美國最高法院就认为，信息、设计等无形物可以因劳动、金钱等投入而产生一种“准财产权”（quasi-propertyright），从而可以基于反不正当竞争法禁止他人不当盗用。

根据国内外相关司法判例，不当获取与利用数据主要有两种方式：一是未经许可或超出许可，采取侵入的方式获取非公开数据，通常表现为侵入服务器、破解或规避技术措施或者使用他人ID、密码等;二是采取爬虫等手段复制、抓取数据，一般针对公开数据。根据前述判例，法院在认定这些行为的不正当性时一般采取两个测试标准：一是实质替代标准，即将获取的数据用于足以产生替代效果的竞争性产品、服务，此标准主要体现在大众点评系列案件中。二是正当商业利益标准，其出发点是企业对其投入劳动搜集、获取、加工、整理、生成的数据和数据产品享有竞争法上的财产性利益，他人未经授权予以利用具有不正当性。例如，在奋韩网诉58同城案中，法院认定58同城网站伪装个人名义在网站上发布复制于奋韩网的侵权信息，未付出相应劳动即将他人成果据为己有，其行为掠夺了奋韩网流量、影响经营利益，严重损害了韩华公司的合法权益，违背诚实信用原则及公认的商业道德，构成不正当竞争。

其二，人工智能治理方面，考虑采取包容审慎、灵活有弹性的规制方式。一方面，需要为自动驾驶汽车等人工智能新事物革除既有的监管法律政策障碍，例如关于驾驶人的法律要求、高速公路测试限制等，避免过时的法律要求阻碍人工智能创新发展。因为随着人工智能技术持续渗透到各行各业，带来新的产品和服务，未来新事物与旧制度的冲突会越来越多，呼吁监管法律政策的革新和创新。另一方面，由于技术以及商业模式快速发展和迭代，草率的立法不可能期待会产生正面的效果，而且成文或专门的立法恐难跟上技术步伐，故应避免严格、细致的法律要求，而是可以采取事后监管、追责或者通过出台标准、行业公约、伦理框架、最佳实践、技术指南等“软法”性质的规范来调整人工智能的发展应用，支持行业自律。这意味着敏捷灵活的政策路径，例如中国国家新一代人工智能治理专业委员会6月17日发布的《新一代人工智能治理原则——发展负责任的人工智能》也提出了敏捷治理的原则。