两条路径：欧美的规制实践

辛嘉

“脸书”发起“深度伪造检测挑战赛”

欧盟和美国对于利用“深度伪造”实施的犯罪行为，有着相近的定义，即伪造不实信息，并试图操纵这种信息以获得经济、政治利益或造成损害。在规制方面，欧美都将“深度伪造”视同于不实信息，并拟定相应的法律政策。

欧盟的规制实践

在欧盟的规制实践中，尚未出台专门针对“深度伪造”的立法及其他规制标准。通过梳理欧盟的规制实践可以发现，其主要是从两个方面将“深度伪造”纳入规制框架。一是纳入已有的有关不实信息的规制框架;二是纳入有关AI的规制框架。这意味着与不实信息和AI相关的规制标准、规制措施都适用于“深度伪造”。

2018年6月，歐盟理事会通过了《欧盟不实信息实践准则》，该准则的附件列出了应对不实信息的最佳做法。

一是积极推动行业自我规制。欧盟委员会要求网络平台或社交媒体必须依照《欧盟不实信息实践准则》兑现相关承诺，除了要求“脸书”等网络科技公司必须到欧洲议会接受听证外，欧盟执行委员会与欧洲议会还明确表示，如果自我规制效果不佳，将会考虑立法介入。

二是要求不同利害关系人进行合作，并建立评估审核机制。《欧盟不实信息实践准则》遵循“多方利害关系人程序”，原因在于不实信息的传播有多种因素，且受到信息生态系统中广泛参与者的促进和影响，因此所有利害关系人都可以在消除不实信息传播方面发挥作用。

三是赋权消费者，提升公民的媒体识读素养。欧盟认为，让民众了解媒体和信息，进而判定及运用信息，是防范不实信息的根本之道。因此，《欧盟不实信息实践准则》要求网络巨头公司为用户提供工具，帮助用户发现不同的新闻来源和不同的观点，同时辨别不实信息，以提升社会公众的媒体识读能力，让其可以主动选择内容及参与制作。

2019年4月，欧盟执行委员会AI高级专家工作组（High-Level Expert Group on AI）提出了《可信赖AI伦理指引》，设立AI规制框架，以使AI具备可信赖性。该指引指出，“可信赖性AI”应当具备三个关键特征：一是合法性，应当遵循所有适用于AI的法规;二是伦理性，确保符合伦理原则与价值;三是“鲁棒性”（robust），从技术与社会层面避免AI于无意间造成伤害。

《可信赖AI伦理指引》对于“深度伪造”也适用。该伦理指引涵盖了AI的全生命周期，包括“数据管理”“算法开发”以及“商业运用”。

例如，《可信赖AI伦理指引》对“隐私和数据管理”提出的要求是：必须尊重隐私并遵循适当的数据管理机制，大众应可完全控制自己的个人数据，且相关应用不会对大众造成伤害或歧视;另外，在管理上必须预防他人对数据的盗取。

在检视“深度伪造”的合法性时，必须提出下列问题：一是所取得的脸部影像以及所建立的影像数据库是否经过当事人的同意;二是是否建立适当的个人数据控制机制;三是在脸部数据的利用上是否符合个人数据保护规范之要求;四是是否落实数据保护措施。

美国的规制实践

与欧盟相比，美国对“深度伪造”技术的约束，态度更为积极、明确，在应对措施上也更为细致，不仅在联邦层面有专门立法的趋势，而且一些州已经走在了前面，通过法律对“深度伪造”予以规制。此外，美国一些网络巨头公司也通过自我规制积极应对“深度伪造”。

自2018年以来，“深度伪造”技术引起美国国会两党议员的高度关注，他们先后提交了各有侧重的法案，包括《恶意深度伪造禁止法案》《深度伪造问责法案》和《2019年深度伪造报告法案》。从这些法案的内容可以管窥美国联邦层面对“深度伪造”的规制方向。

以《深度伪造问责法案》为例，可以对美国联邦层面的规制实践进行概述。2019年6月12日，美国民主党与共和党共同向国会提交《深度伪造问责法案》，提出“先进技术虚假个人记录”的定义，对不同类型的虚假记录提出了法律要求，主要包括以下内容：

一是标识“数字水印”。任何含有移动视觉元素的虚假个人记录，都应当嵌入“数字水印”，明确标识该记录含有虚拟的视听元素;二是视听信息披露。任何包含音频和视觉元素的虚假个人记录，都应当包括以下内容：①不少于1条表达清晰的口头陈述，明确该记录的影像及声音经过修改，并简要描述修改程度。②在视频播放过程中，必须在底部标识清晰可见的文字陈述，表明影像及声音经过修改，并简要描述修改程度;三是视觉信息披露。任何仅包含视觉元素的虚假个人记录，都应当在视觉元素的整个持续时间内，在影像底部以清晰易读的文字表明该影像经过修改，并简要描述修改程度;四是音频信息披露。任何仅包含音频元素的虚假个人记录，都应当在开端以口头表述的方式明确表明包含经过修改的音频元素，并简要描述修改程度。如果该记录的时长超过两分钟，则每间隔两分钟需要以口头陈述的方式明确表明该记录经过修改，并简要描述修改程度。

根据《深度伪造问责法案》，违反规定须承担刑事责任或行政责任。

与联邦层面相比，美国的很多州对于“深度伪造”的规制明显走在前面。目前已经有一些州通过了正式法律，对“深度伪造”进行规制，比较有代表性的州包括加利福尼亚、弗吉尼亚和得克萨斯。

以加利福尼亚州为例，该州的《选举中欺骗性音频或视觉媒体法案》规定，禁止任何个人、委员会或其他组织在选举前60日内，故意创建或散布任何意图损害候选人声誉或误导选民的、实质上具有欺骗性的音频或视频。为了避免对公民的表达自由造成限制，该法案规定了例外情形：①广播电台或电视台、有线电视或卫星电视运营商、节目程序员或制片人，可播放实质上具有欺骗性的音频或视频;②可播放讽刺或戏仿的实质上具有欺骗性的音频或视频;等等。

面对立法者的积极作为，美国社会各界给予的回应却并不一致。一些理论界的学者认为，当立法者在考虑是否需要从刑事、民事及行政角度给“深度伪造”的受害者提供法律救济时，也应当思考“深度伪造”的实施者以及“深度伪造”物是否应受言论自由的保护。

产业界的部分人认为，现有的立法在不同程度上加重了网络服务提供商的法律责任，如要求网络平台对深度伪造视频进行事实审核或事后删除，这已经明显违反了《通信规范法》第230节赋予网络平台的“豁免权”。而且现有法案还存在诸多有待厘清的难题，如“深度伪造”与模仿、娱乐之间如何区分。

为了避免政府过多介入，美国一些网络科技公司进行自我规制，探索解决“深度伪造”问题的办法。

2019年9月，“脸书”投入1000万美元，与康奈尔大学技术学院、麻省理工学院、英国牛津大学等高校共同发起“深度伪造检测挑战赛”。“脸书”委托研究人员开发具备高度真实性的“深度伪造”视频，作为测试检测工具的数据集。“脸书”希望通过该项目，一方面可以征集识别“深度伪造”的最佳检测工具，另一方面也希望引起社会公众对“深度伪造”问题的关注。该项目获得了学术界的广泛支持。

借鉴意义

有的国家和地区专门针对“深度伪造”立法予以规制，有的则将其涵盖在不实信息或虚假新闻的规制空间内。不管是采取哪种模式，其目的都是为了最大限度地降低“深度伪造”技术对个人、社会及国家带来的危害。

各国（地区）因应“深度伪造”的策略虽有不同，但也存在一些共性，这些经验值得关注。一是通过立法对“深度伪造”进行规制，明确相关的权利义务及法律责任。二是赋予个人寻求法律救济的权利，允许个人在遭受损害后向法院提起诉讼。三是加强网络平台的“看门人”责任，强化行业自我规制，要求网络平台积极履行监管义务。四是鼓励公私合作，加强技术研发，利用技术“规制”技术。

编辑：姚志刚 winter-yao@163.com