中美欧人工智能监管治理比较
2024-08-14吴洁
提 要：人工智能技术实现突破，正在重塑生产生活模式，引发广泛关注。中国工程院院士张亚勤称，人工智能已经成为当今时代最具变革性的技术力量。人工智能是一把双刃剑，一方面带来发展机遇，另一方面，它也带来一些新风险。如国际劳工组织的研究报告指出，在高收入国家总就业岗位中，有5.5%可能会受到智能化、自动化技术的冲击。人工智能还可能通过制造虚假信息用于欺诈犯罪等，由此给各国政治生态和社会稳定带来较大风险。主要国家出于对自身安全发展和争夺国际治理话语权的双重需要，加快了完善人工智能治理的步伐。本文对主要经济体的监管取向和实践探索进行了梳理比较，希望对我国进一步完善人工智能监管提供启示和参考。
关键词：人工智能；监管治理；比较；启示
一、人工智能监管治理的一般特点
从主要国家目前的立法实践和出台的国际治理文件来看，人工智能监管一般设定以下目标。
一是安全性。确保人工智能应用程序以安全、可靠和稳健的方式运作。基于现有的人工智能风险管理条例，构建并实施政府可控的人工智能安全框架，结合产业发展与形势变化，有针对性地不断完善人工智能安全框架。
二是法治性。围绕人工智能建立一套针对其技术架构特点的法律和监管体系，确保人工智能应用程序在法律许可的范围内运作。法律制定需要根据相关方在管理人工智能过程中的不同角色，来划分相应的监管职责，通过分工协作的方式共同遏制、打击利用新技术欺骗欺诈公众的行为。
三是透明性。对人工智能内容提出标注要求，通过标签水印或其他标识方式，保障公众的知情权，告知人们某个视频或音频文件是由人工智能模型生成的，而非人类创作，以此保护公众免受“被篡改的内容”和“深度伪造的内容”的影响。
四是公平性。确保人人平等享有运用人工智能的机会和权利。积极推动公共机构和商业组织的广泛合作，将人工智能作为一种有效的工具，在许可的范围内允许各行业参与享受成果并推陈出新。
五是可救济性。确保人们有明确的途径对人工智能产生的不正常后果或提出争议或寻求补救机构，以此来约束人工智能，使其规范发展。
二、中美欧人工智能监管治理实践和比较
（一）中美欧人工智能监管实践概述
1.中国的人工智能监管治理
中国关于人工智能的监管治理方式，展现出鼓励创新发展与安全监管并行的态度，符合中国一贯倡导的以人为本、智能向善、注重发展、保障安全等理念，确保人工智能始终朝着有利于人类文明进步的方向发展。
一方面，中国高度重视有关人工智能的国内立法工作，中央和地方出台系列法律或条例对人工智能发展进行规范、鼓励的同时，前瞻性防范风险隐患。2016年，国家互联网信息办公室就牵头制定了《中华人民共和国网络安全法》，2017年11月在全国人大常委会上获得通过，要求人工智能用户提供真实身份信息；2021年通过的《互联网信息法务算法推荐管理规定》首次明确提出了平台企业要承担算法安全的主体责任，并赋予了用户选择退出权和删除数据标签权两个重要权利；2022年8月通过《深圳经济特区人工智能产业促进条例》，标志着中国人工智能产业有了专项立法，其主要立法目的是破解人工智能产业实践落地难等问题；2023年4月，国家网信办就《生成式人工智能服务管理办法（征求意见稿）》公开征求意见。
另一方面，中国也积极参与人工智能全球治理，在这一新兴领域宣传中国治理理念、贡献中国治理方案。
2021年12月，中方发布并向联合国提交了《关于规范人工智能军事应用的立场文件》，呼吁各方遵守国家或地区人工智能伦理道德准则。
2023年10月，中国提出《关于加强人工智能伦理治理的立场文件》，在第三届“一带一路”国际合作高峰论坛上发布《全球人工智能治理倡议》，积极倡导“以人为本”和“智能向善”的理念，主张增进各国对人工智能伦理问题的理解，确保人工智能的安全性、可靠性、可控性、公平性，更好赋能全球可持续发展，增进全人类共同福祉。该文件在监管、研发、使用、国际合作等方面提出了具体设想和建议。
2023年11月，在首届全球人工智能安全峰会上，中国与其他与会国达成了《布莱奇利宣言》，表达了对未来强大人工智能模型可能威胁人类生存的关注，以及对当前人工智能增强有害或偏见信息现象和趋势的担忧，希望通过全球联合努力来了解和集体管控潜在风险，以安全、负责任的“协同共治”方式开发和部署人工智能。
2024年5月，在2023年4月《中法联合声明》基础上，中法两国元首在人工智能方面达成多项共识。
未来几年，预计中国政府将继续推动人工智能技术的发展规范和国际合作，人工智能法规的覆盖范围可能会进一步扩大，具体内容条款也将更具操作性。
2.美国的人工智能监管治理
美国的人工智能法规是在州而不是联邦层面执行的，并且因部门、行业和应用而异，因此遵循部门、分散和垂直的方法。总体来看，美国强调审慎监管以促进创新发展，虽然注意到人工智能发展可能带来较大风险，但因为其是新兴领域而且是关键的国际竞争领域，美国还是采取了包容监管的态度，尽可能不对人工智能技术进步和相关产业发展形成制约。
一是强调在规范的前提下促进发展，确立了在此领域建立国际领导地位的目标。2016 年10月出台的《白宫为人工智能的未来做好准备的报告》，详尽阐述了人工智能发展带来的若干政策机遇，提出在鼓励创新和保护公众利益的原则下展开监控。同年5月发布《美国国家人工智能研究战略计划》，旨在通过政府投资深化对人工智能的认识和研究，确保美国在人工智能领域的领导地位。 2019年2月，美国时任总统特朗普签署行政令《维护美国人工智能领导地位的行政命令》，就美国联邦政府层面人工智能的研究、推广和培训作出全面部署，以确保美国在人工智能研发及相关领域的全球领先优势。 2021年1月颁布了《2020年国家人工智能倡议法案》，成立了国家人工智能计划办公室，负责监督和实施美国国家人工智能战略，并成为美国政府在人工智能研究和决策过程中与私营部门、学术界进行协调的中心枢纽。
二是在重点领域作出部署，以确保其在关键领域的治理安全和发展领先优势。2018年8月，美国发布《2019国防授权法案》，并在国防部成立国家人工智能安全委员会（NSCAI）。该机构聚合美国在各领域最顶尖级人才，主要研究将最先进的人工智能与军事科技相关联，以确保美国技术优势。
三是强化人工智能的安全治理，以免因损害民众利益而影响人工智能的可持续发展。2022年10月，白宫发布了《人工智能权利法案蓝图：让自动化系统为美国人民服务》，旨在指导自动化系统的设计、开发和部署，保护美国公民权利。该文件虽无法律约束力，但此发布可被视为国家声明，为联邦层面的立法设定了总体框架。2023年2月，美国总统拜登签署了《关于通过联邦政府进一步促进种族平等和支持服务不足社区的行政命令》，“指示联邦机构在设计和使用包括人工智能在内的新技术时要消除偏见，以保护公众免受算法歧视”。2023年10月，拜登总统公布行政令，计划对人工智能行业进行规范和管控，以确保美国在把握人工智能的前景和管理其风险方面处于领先地位。这是白宫首次发布此类行政令。该行政令系人工智能企业同拜登政府达成的自愿承诺协议，包含建立人工智能安全的新标准，保护美国民众的隐私，促进公平和公民权利，维护消费者、病患和学生的权益，支持劳动者，促进创新和竞争，提升美国在海外的领导力，以及确保美国政府负责任且有效地使用人工智能等8个目标。美国也在不断探索和形成自己的人工智能治理政策，其人工智能治理政策的核心是以行业自律为主要手段，以技术的发展应用为重点，逐步向加强监管靠拢。
四是强化对全球人工智能的参与，确立在此领域的国际领导地位。2022年4月，美国、加拿大、日本、韩国、菲律宾、新加坡与中国的台湾地区共同发布全球跨境隐私规则声明（Global Cross-Border Privacy Rules Declaration），正式对外宣告成立全球跨境隐私规则（CBPR）论坛。美国联手全球约60个国家和地区签署了《未来互联网宣言》，宣称代表了各签署方对推动建设全球互联网和数字技术积极愿景的政治承诺，促进“开放和自由”的互联网，以应对“数字威权主义”给全球互联网带来的威胁和挑战。2022年3月，美国成立了隶属于国务院的网络空间和数字政策局。2023年4月，美国网络和数字政策无任所大使菲克宣布，网络空间和数字政策局有望在2024年底之前，在所有美国驻外大使馆中设置一名网络和数字政策专职官员，以加强数字政策的专业性和协调能力，确保美国对外数字政策的协调一致。2023年9 月，曾担任首任美国驻日内瓦联合国人权理事会大使、人权观察组织全球事务总监的艾琳·C·多纳霍被任命为美国国务院网络空间和数字政策局数字自由问题特使兼协调员，以进一步强化“数字自由和基于价值观的技术治理工作”。这显示出美国未来将同时加强数字技术和产业、数字自由的政策统筹，继续推动建立以美国价值观和利益为主导的全球数字治理秩序。2024年2月，美国众议院议长迈克·约翰逊和民主党领袖哈基姆·杰弗里斯宣布，两党组建一个由24人构成的特别工作组，探讨通过立法来解决人们对人工智能的担忧。特别工作组将编写一份综合报告，详细说明保护消费者、促进人工智能领域持续投资和创新所需的监管标准以及国会行动。2024年3月，由美国牵头在联大通过了《抓住安全、可靠和值得信赖的人工智能系统带来的机遇，促进可持续发展》决议，这是在联合国大会上磋商达成的关乎人工智能的首个独立决议，为人工智能治理确立了一个凝聚全球共识的方法，具有里程碑意义。
3.欧盟的人工智能监管治理
欧盟的既定目标是，发展以人为中心的值得信赖的人工智能，其对人工智能监管的风格趋向强硬，致力于利用法律最大限度地减少因广泛使用人工智能产生的相关风险，期望在人工智能领域继续发挥全球规则制定引领者的作用。
第一，欧盟为探索人工智能治理提供“硬法” 支持，旨在促进创新发展和安全相平衡，并瞄准设定一个全球标准。2016年欧盟通过《通用数据保护条例》，2018年生效，此条例对欧盟各成员国具有直接适用的效力，无需成员国再自行转化为国内法。欧盟委员会于2021年4月提出《人工智能法案》的谈判授权草案，将严格禁止“对人类安全造成不可接受风险的人工智能系统”，该草案还要求人工智能公司对其算法保持人为控制，提供技术文件，并为 “高风险”应用建立风险管理系统。2023年6月，欧洲议会高票通过了《人工智能法案》谈判授权草案，推动该法案进入立法程序的最后阶段。2024年5月21日，欧盟理事会批准了《人工智能法案》，这是世界上首次尝试以全面的、基于伦理的方式监管这项快速发展的技术。《人工智能法案》的通过对于欧盟来说是一个重要的里程碑，这也是全球范围内的首部人工智能法律，它为全世界关于人工智能监管治理绘制了一幅开创性蓝图，也为人工智能促进经济发展创造了更多安全机会。欧盟的目标是，在2026年内全面施行《人工智能法案》。不过，风险级别最高的“禁止”条款预计率先于2024年底启动适用。该法案将人工智能系统分成四个风险级别，分别是不可接受的风险、高风险、有限风险和极低风险，每个风险类别都有相应的应用场景和监管措施，具体分类情形如表1所示。
此法案有三点备受关注，分别是：（1）生物识别监控技术。协议规定了各国政府只能在公共场所使用实时生物识别监控，防止恐怖袭击等可预见的威胁公共安全的事件以及搜索犯罪嫌疑人等。文件还规定，禁止有目的地操纵技术，利用分类系统来推断用户种族、宗教信仰等个人信息。事实上，欧洲议会希望全面禁止生物识别监控技术。（2）透明度要求。通用人工智能系统及其所基于的通用人工智能模型必须满足一定的透明度要求，包括遵守欧盟版权法和发布用于训练的内容的详细摘要。更强大的GPAI模型可能会带来系统性风险，将面临额外的要求。专家表示，目前唯一能自动达到这一门槛的模型只有人工智能公司OpenAI的GPT-4。（3）支持创新和中小企业的措施。必须在国家层面建立监管沙盒和真实世界测试，并向中小企业和初创企业开放，以便在创新性人工智能投放市场之前对其进行开发和训练。
第二，欧盟加强并扩展与各发达国家间的合作，将签署政府间框架协议作为推动数字合作的重要方式，促使全球人工智能监管标准向欧盟标准靠拢。如：2022年5月，欧盟与日本启动数字伙伴关系，以推进双方在5G、人工智能、开放创新、绿色数字基础设施、数字化转型等广泛数字议题上的合作。2023年2月，欧盟与新加坡宣布建立数字伙伴关系，旨在通过加强数字市场和政策框架的连通性和互操作性，推动数字领域全方位合作。欧盟和新西兰于2023年7月签署自由贸易协定，其中，数字贸易章节相比于欧盟此前达成的双边协定内容明显拓展，纳入跨境数据流动及个人数据和隐私保护条款，将保护个人数据和隐私视为基本权利。此外，欧盟和各发达国家均持续扩展合作平台，如美、英、澳、加、日五国成立新全球电信联盟，加强在电信供应链多样化、开放网络架构等领域的合作。
（二）中美欧人工智能监管比较
总体来看，中美欧等主要经济体对人工智能领域都高度重视，大力助推其快速稳定发展。但与中国和美国的人工智能法规相比，欧盟在人工智能领域考虑风险方面更多，对待人工智能合规要求最高。美国监管主要依赖于企业自我风险评估监测和现有立法，主要目的是为了鼓励科技自由发展，从而着力保持自身在全球科技创新中的领导地位。中国政府对待人工智能，坚持鼓励创新发展与安全监管并行的折衷态度，符合中国一贯倡导的以人为本、智能向善、注重发展、保障安全等理念，通过一系列的举措规制人工智能有序发展（如表2所示）。
三、对中国的政策启示
人工智能作为战略新兴领域，其发展受到技术、产业、政策、文化、价值理念等诸多因素影响，目前还有众多不可确知的因素，但可以确定的是，提升发展水平和国际竞争力与保障安全同样重要，因为其对产业和经济活动的塑造会影响到国际竞争的根本。中国进一步改善人工智能治理，既要考虑到人口众多、发展不平衡的特殊国情，又要考虑到人工智能激烈竞争的国际形势，在强化权益保护和安全监管的同时，还应坚持谨慎包容的监管基调，为人工智能领域发展营造宽松环境。
一是参考欧盟《人工智能法案》的风险分类分级管理措施，完善中国的人工智能法规。当前中国区域、城乡发展不平衡，不同群体人口文化水平存在差异，对于人工智能的认知和使用能力差距较大，社会对于风险的容忍度较低，在监管方面应当重视风险防控，但应借鉴欧盟经验提升防控措施的精准性、透明性和稳定性，尽量避免对人工智能发展造成不利影响。从激励产业发展和有力参与国际竞争以及争夺国际话语权来看，中国可适当调整针对人工智能的立法规制节奏，避免过度超前规制。
二是在加强中央统一指导的前提下发挥好地方监管主体的作用，使监管政策更具针对性、有效性。可以借鉴美国联邦指导、立法规范和地方政府负责的治理经验，加强中央的统一指导，并调动地方政府的积极性，允许地方根据当地实际情况探索人工智能发展与安全治理之间的平衡，推进宽松监管但实时监控，激发地方政府和企业的积极性，在加快人工智能安全、公开、公平发展的同时，做好系统性风险防控。
三是选择具备条件的地区设立试点先行探索，为全国范围内人工智能发展与治理探路。选择产业基础好、监管能力强的地区或城市设置人工智能发展试点，加大中央授权力度，加快数智技术产业发展和规则探索，以更好地统筹发展与安全为目标推进人工智能制度政策创新与监管压力测试，为全国人工智能快速健康发展摸索经验。
四是通过多双边、诸边和区域等多渠道参与规则制定，在人工智能全球治理方面积极贡献中国方案。积极参与WTO相关议题讨论和国际规则制定，依托“一带一路”倡议、上合组织、全球南方等合作机制加强沟通磋商，牵头建立人工智能国际标准框架，在人工智能国际标准制定方面发挥更大作用。
参考文献
[1]沈愷，童潇潇，吴听，张芳宁.探索人工智能新前沿： 中国经济再迎 6000亿美元机遇.麦肯锡，2022.07.
[2]全球人工智能治理倡议.中华人民共和国外交部网站，2023.10.
[3]生成式人工智能服务管理暂行办法.中华人民共和国中央人民政府网站，2023.07.
[4]关于欧洲议会和理事会制定人工智能统一规则（《人工智能法》）并修订某些欧盟立法法案的提案（com（2021）206最终版）.欧盟委员会，2021.
[5]人工智能权利法案蓝图：让自动化系统为美国人民服务.白宫，2022.
（作者单位为国务院发展研究中心信息网）
