关于我国人工智能法律与伦理若干问题的思考

【摘要】    人工智能作为当今社会人类活动的重要赋能技术，正在深刻的改变世界。围绕人工智能的开发与应用，其所引发的伦理风险和法律问题愈发凸显。本文重点梳理了人工智能的法律与伦理面临的若干问题，总结了国内外发展现状，并从有序推动人工智能立法、完善人工智能监管评估、推动人工智能伦理法律综合治理等方面提出了建议。

【关键词】    人工智能    法律    伦理

引言：

人工智能技术近十年获得高速发展和广泛的应用，正在深刻改变人类社会的生产和生活方式，为社会和经济发展提供了新的技术手段和途径;另一方面，人工智能在技术转化和应用时，对社会治理、国防和国家安全等领域产生巨大的冲击，在法律与伦理方面带来了诸多风险和挑战。

当前，世界主要国家都将人工智能的法律伦理问题作为重点内容，逐步加大对其的前瞻探索和研究。本文从人工智能法律和伦理的范畴出发，梳理了当前人工智能法律伦理发展面临的挑战，总结了国内外人工智能法律倫理发展的现状与趋势，最后提出了未来发展的几点思考与建议。

一、人工智能法律与伦理涉及的若干问题

（一）人工智能的伦理问题

人工智能不同的发展阶段所引发的伦理问题有所不同。在当前强人工智能逐步发展的趋势下，从伦理安全的角度，近期需要应对人工智能在算法歧视、人工智能技术滥用等风险，远期需要防范其可能产生超级智能而带来的不可控性以及对人类主体性的冲击。

1.算法歧视

算法是人工智能实现各种功能的核心，也是将各类技术结合、运用和创新的关键，但算法也包含着可能的安全风险和隐患。特别是人工智能算法存在着有别于传统软件程序的逻辑性、关联性，在输出上可能会给用户带来不透明和难以解释。同时算法依赖大量训练或真实的数据，当数据的搜集、整理不够全面、公正和客观时，就会产生冲击道德伦理的输出结果，从而形成基于宗教信仰、经济状况、外貌等形式的算法歧视广泛存在。

2. 技术滥用

政府部门、公司、个人等主体在使用人工智能技术过程中，由于技术无限制的使用以及管理缺失，如果不能公平、正当守法使用隐私数据，或者在过程中缺乏有效的管理机制，将引发威胁人们隐私保护的风险事件。另一方面，全球的信息技术商业巨头，在竞争中逐渐形成了资本、人才和技术的优势和壁垒，并通过这种优势的“滥用”，一定程度上造成数据垄断，影响了人工智能技术的拓展应用和数据的广泛共享。

3. 冲击人类主体性

随着人工智能快速发展，特别是具有一定自主性的强人工智能发展，人工智能技术冲击人类主体性的可能，已不再是遥远的科幻想象。

在2017全球移动互联网大会，霍金发表演讲时指出：“人类需警惕人工智能发展的威胁。因为人工智能一旦脱离束缚，以不断加速的状态重新设计自身，人类由于受到漫长的生物进化限制，将无法与之竞争。[1]” 2018年7月，在国际人工智能联合会议上，包括马斯克、谷歌DeepMind三位创始人在内的超过2000名AI学者、企业家共同签署《致命性自主武器宣言》，宣誓不参与致命性自主武器系统的开发、研制工作。

（二）人工智能的法律问题

1.人格权保护

当前具有模仿人类行为、说话等行为的人工智能产品，在研发时预先植入了人类的声音、动作、表情和形体等方面的功能。而这些预设功能，往往来自于他人的真实声音、肖像和肢体动作，如果未经他人允许而擅自采集上述活动并加以使用，就可能构成了对他人人格权的侵害。此外，日常生活中经常使用的声纹、指纹以及人脸识别技术，在对用户数据采集的同时，也可能对声音、肖像等造成侵权风险。

2.知识产权保护

很多人工智能技术经过前期数据训练与学习，已经能够音乐、绘画、写作等方面具有一定的创作能力，由这些能力所形成的作品将给知识产权保护带来新的课题。例如，2020 年是世界著名音乐家贝多芬诞辰 250 周年，一个由科研人员和音乐家组成的团队利用人工智能续写了贝多芬生前未完成的《第十交响曲》[2]。该作品的著作权是归属于人工智能软件的开发者还是所有者，甚至是人工智能本身，存在着很多争议。

3. 数据财产保护

人工智能框架和算法需要海量数据加以支撑，这也对数据保护提出了新的挑战。人工智能的数据往往来自于人类真实的行为和活动，在收集、存储和利用的过程当中，如何确保数据不被泄露和合规使用，不同于以往存储于信息系统的数据保护，具有很多现实的问题需要研究。此外，当数据量达到一定程度时，其产生的质变将可能涉及国家安全。例如，大量的用户个人信息、交易数据、信用数据等，对国家的金融稳定与安全提供具有重要的参考价值，也需要相应的法律制度予以保护。

二、国内外人工智能法律伦理发展概况

（一）国外人工智能伦理发展情况

1.美国

2018年9月，美国众议院监督和政府改革小组委员会发布《机器崛起：人工智能及对美国政策不断增长的影响》白皮书，从失业、隐私、偏见和恶意使用4个领域提出了具体建议，包括：改善美国工人的教育、培训和再培训，使其在人工智能驱动的经济中更具竞争力;使用人工智能系统做出相应决策时应确保支持这些系统的算法是可审计和可检查的;研究如何识别人工智能系统中的偏见，以及如何通过技术更好地消除偏见和如何解释偏见。2019年2月11日，美国总统特朗普签署行政令，启动“美国人工智能倡议”，该倡议的五大重点之一便是制定与伦理有关联的人工智能治理标准。

2.欧盟

2018年4月8日，欧盟委员会发布《可信赖AI的伦理准则》。《可信赖AI的伦理准则》提出了“可信赖人工智能”的两个重要组成、四项伦理准则和7个关键条件：两个重要组成包括尊重人权、法律和核心价值观，应确保技术的安全可靠，避免造成因技术不足而造成无意的伤害;四项伦理准则包括尊重人自主性、预防伤害、公平性和可解释性。七个关键条件包括人的能动性和监督能力、安全性、隐私数据管理、透明度、包容性、社会福祉、问责机制，以确保人工智能足够安全可靠。

（二）国外人工智能法律布局

目前，国外人工智能进入到立法阶段的重点领域是自动驾驶。

1.美国

2013年5月，美国就出台了《关于自动驾驶汽车法规的意见》，明确规定自动驾驶汽车容许在美国发展和测试，在2017年7月，美国众议院再次出台了《自动驾驶法案》。除了国家层面，美国的许多州也对自动驾驶汽车测试、上路行驶纷纷立法，如内华达州、佛罗里达州、加利福尼亚州等。

2.欧盟

在欧洲的大部分国家早在2014年已经对自动驾驶汽车制定和出台了相关的交通管理法规，英国也与2015年1月出台相关政策，容许自动驾驶汽车上路测试。测试过程中，自动驾驶汽车必须配有专业的驾驶员，遇到突发情况需要驾驶员及时操纵汽车予以应对。随后，瑞典、德国等国家也就自動驾驶汽车的路面测试和上路要求做出了类似于英国的规定，无人驾驶技术可谓稳步的在欧洲推进。

（三）我国人工智能法律与伦理发展情况

我国非常重视人工智能技术发展以及带来的伦理法律问题，强调在大力发展人工智能的同时，必须高度重视可能带来的安全风险挑战。 2017年颁布的《新一代人工智能发展规划》明确指出，“强化数据安全与隐私保护，为人工智能研发和广泛应用提供海量数据支撑”以及“促进人工智能行业和企业自律，切实加强管理，加大对数据滥用、侵犯个人隐私、违背道德伦理等行为的惩戒力度” [3]。中国人工智能产业发展联盟制定了《人工智能行业自律公约》，至2020年7月，已有50家单位签署[4]。在强人工智能方面，相对欧美，我国在政策层面更专注于强人工智能可行性技术路线的探索研究，但针对强人工智能安全与健康发展的远期布局，还需从技术、伦理等方面做更前瞻的统筹安排。

三、几点思考

科学成果能否造福于人类，除了技术本身的不断进步之外，还需要充分尊重人类社会的伦理道德和法律边界。因此，在充分肯定人工智能对解放人类生产力所带来的重大便利的同时，必须高度重视人工智能技术所带来的伦理安全风险和法律空白，为未来的人工智能技术构建合理、完整的伦理框架，提供行之有效的伦理指南和法律依据。

（一）持续推动人工智能各领域立法

我国人工智能立法已进入深入推进阶段，个人信息保护、数据安全等方面已经有了相应的法律法规。需要进一步根据人工智能新业态新模式的发展，加快对现有法规的调整、修订和完善。地方、行业与国家在不同层面分别发挥立法支撑作用，在比较成熟的人工智能行业可以先行推出行业标准，地方出台符合本地实际的正常规定，最后在国家层面及时总结地方和行业实践经验，推动相关领域立法。

（二）完善人工智能的监管与评估

加强有关人工智能伦理与法律的理论研究，探索监管评估具体措施。对于事关人类整体安全和人民生命安全的人工智能高端综合应用系统与平台（如机器学习平台、大型数据平台等）、核心技术和软硬件（如先进机器学习、鲁棒模式识别、低功耗智能计算芯片），完善涉及伦理规则和法律合规的监管。谨慎开展、重点关注具有自我复制或自我改进能力的自主性人工智能的安全问题，持续评估可能出现的失控性风险。

（三）推动人工智能伦理法律的综合治理

构建算法模型安全、数据安全与隐私保护、基础设施安全、产品和应用安全、测试评估安全等人工智能安全标准体系与评估规范。加强顶层设计，将人工智能法律伦理层面工作与人工智能开发应用统筹推进，加强各部门、各地区、跨行业的协同合作，健全相应的工作联动机制和协调程序。建立人工智能的伦理道德规范标准，发挥中国引领作用，积极参与国际法律政策制定。

作者单位：焦阳    信息工程大学洛阳校区

参  考  文  献

[1] 人工智能：颠覆性创新还是文明终结者？.新华社. http：//opinion.people.com.cn/GB/n1/2017/0829/c1003-29501377.html.2017

[2] 人工智能续写贝多芬生前未完成的《第十交响曲》.CSDN社区. https：//blog.csdn.net/HyperAI/article/details/103573167

[3]国发〔2017〕35号，《国务院关于印发新一代人工智能发展规划的通知》

[4] 《人工智能行业自律公约》. 中国人工智能产业发展联盟. http：//aiiaorg.cn/uploadfile/2019/0808/20190808053719487.pdf