滥用人工智能深度伪造技术的刑法评价进路

赵小涵

（中国政法大学刑事司法学院 北京 100088）

2017年12月，名为“deepfake”的用户利用深度伪造技术将好莱坞演员的脸换在不雅视频中，引起舆论热议。类似深度伪造技术的滥用带来了诸多法律风险：伪造普通人的视频会给他人造成名誉损害，伪造政治人物的视频传播虚假言论会引发社会动荡。此外，经过“深度伪造”技术处理的视频、声音成为具有高度欺骗性的影音资料，使人们不仅陷入“耳听为虚”的窘境，更陷入“眼见不为实”的认知混乱[1]，为冒充他人的诈骗提供可乘之机。在人工智能技术引发巨大变革的时代，面对深度伪造技术带来的诸多法律风险，刑法应当采取何种进路对深度伪造技术的滥用进行规制？本文讨论滥用此技术的社会危害性与刑法制裁思路，指出当前刑法制裁思路缺憾之处，最后针对此问题提出具体解决进路。

一、人工智能时代下深度伪造技术的异化

与其他网络违法犯罪相同，深度伪造技术具有不可避免的网络异化性。受网络虚拟性、开放性等因素的影响，公众还未真正享受到此技术带来的红利时，而低门槛化、便捷化、危害后果的倍增效应使之“异化”成为一种新型犯罪工具。

（一）深度伪造技术使用门槛异化

随着科学技术的发展，人类在用工具替代双手的探索达到顶峰之后转而探索工具替代人类大脑的产物——人工智能技术[2]。深度伪造是人工智能算法在神经网络识别和视听数据生成转化中的处理技术，作为人工智能技术之一，该技术可以把现存的图片、视频、音频置换到任何影像上，合成新的影音图像，“换脸”是该技术最为广泛的应用。起先由于深度伪造技术要求过高的专业能力与应用技术，仅仅只能在代码高手的圈子里使用，极高的技术壁垒使这一技术的流通受到了限制，真正能够使用该深度伪造技术的人少之又少。随着人工智能不断发展，在国内，“ZAO”这一换脸软件的诞生使得深度伪造技术走下科技壁垒的神坛。该软件基于深度伪造技术，下载这一软件的用户仅仅需要在软件的应用程序中完成注册流程，上传符合该软件要求的清晰人像照片，就能随心所欲地将目标影像中明星的脸与自己的脸置换。随后，一系列依托深度伪造技术的应用软件不断涌现，此类智能应用程序引领了全民皆可换脸的时代，将这一技术的应用门槛降至最低。殊不知深度伪造技术使用门槛的异化使得该技术在娱乐属性得到充分发挥的同时，也成为了人工智能时代的新型犯罪工具。

（二）深度伪造技术使用目的异化

起先，深度伪造技术多应用于电影后期制作，在紧急情况下，可以将影视里需要替换的角色换脸，这一技术使得本来极为繁杂、需要消耗大量时间与精力的技术工程变得方便快捷，推动了电影行业的发展。随着智能技术的发展呈现出加速迭代的特征[3]，该技术的使用目的逐渐呈现出“异化”之趋势。随着技术门槛降低，深度伪造使用目的也在随之异化。艾玛·沃特森、斯嘉丽·约翰逊、“神奇女侠”盖尔·加朵等一大波欧美女性的脸被换在了不雅视频中，之后国外一国政治人物在深度伪造技术的加工下进行了虚拟的“互相攻讦”，还“说”了从未说出的攻击性语言。在我国，深度伪造技术第一次制造波澜发生在两位女演员身上，有一名为“换脸哥”的用户将《射雕英雄传》中某女演员饰演的黄蓉换成了另一位女演员的脸，并把处理过的视频发布，获得了广泛的舆论关注。部分网站上兜售的明星不雅视频使众多女性成为深度伪造技术的受害者。这些合成视频被用来侵犯被害人的名誉权、肖像权等基本权利，更有甚者，还利用这些合成视频来骚扰、侮辱、勒索被害人，给被害人带来二次伤害。

二、滥用深度伪造技术的社会危害性与制裁思路

（一）滥用深度伪造技术的社会危害性

滥用深度伪造技术的社会危害性如下：一是深度伪造技术的滥用可能造成对于隐私权的侵害。依托深度伪造技术的换脸应用需要对注册用户的面部生物信息进行采集，如果不合理地收集甚至滥用、泄露该信息，将侵犯公民的隐私权。二是深度伪造技术的“不雅使用”可能造成对于名誉权的损害。在人工智能时代深度伪造技术飞速发展的裹挟之下，任何人都是潜在的受害者。三是深度伪造技术的滥用可能会造成对于公民财产权的侵害。首先，该技术是对“人脸识别”支付领域的巨大挑战，通过该技术可以合成被害人配合人脸识别做出系统规定表情的动态视频，使得应用程序错认身份，最终造成他人的财产损失。其次，这一技术还可以被用来通过语音或者视频电话冒充他人实施诈骗，成为勒索他人财物的犯罪工具，加剧诈骗犯罪的风险。四是深度伪造技术的滥用可能对公共秩序造成损害。很多权威信息会通过网络以视频形式发布，若是利用该技术合成权威人士的虚假视频在网上流传，冒用他人的身份发布重大虚假信息可能会造成社会秩序混乱。

（二）现行刑法对于滥用深度伪造技术的制裁思路

1.对于深度伪造技术使用者的刑法规制

使用深度伪造技术可能构成以下罪名：一是侮辱罪。使用深度伪造技术合成的虚假照片或者视频在网络传播过程中损害他人名誉，情节严重的，构成侮辱罪。根据相关司法解释，若该信息被点击、浏览次数实际超过5000次，被转发次数超过500次，或者该信息造成被害人或其近亲属精神失常、自残等严重后果，属情节严重，认定其构成侮辱罪。二是诈骗罪。通过电话或视频电话冒充他人的诈骗，抑或通过深度伪造技术通过支付系统人脸识别骗取他人财产的行为，可能构成诈骗罪。三是传播淫秽物品罪、传播淫秽物品牟利罪。利用深度伪造技术将明星的脸替换到不雅图片或者视频上，将此图片或者视频通过互联网大量传播达到300至600人次以上或者造成恶劣社会影响的，属情节严重，定传播淫秽物品罪。四是战时造谣惑众罪。如果滥用深度伪造技术合成虚假视频在战时造谣惑众、动摇军心的，以战时造谣惑众罪论处。

2.对于提供深度伪造技术网络平台的刑法规制

提供深度伪造技术的网络平台可能构成以下罪名：一是侵犯公民个人信息罪。提供深度伪造技术的网络平台方非法向他人出售或者提供用户的面部信息，情节严重的，构成侵犯公民个人信息罪。二是拒不履行网络信息管理义务罪。一般而言，网络平台服务者的中立帮助行为不承担刑事责任，如果网络平台服务提供者有能力履行而拒不履行法律规定的或者网络管理部门责令的相关事后删除等义务，情节严重或者后果严重的，以拒不履行网络信息管理义务罪追究其刑事责任。三是帮助信息网络犯罪活动罪。网络平台方明知他人利用深度伪造技术犯罪仍为其提供特定帮助的行为，可能构成帮助信息网络犯罪活动罪。

三、滥用深度伪造技术的实质与刑法现实困境

（一）滥用深度伪造技术的实质：盗用个人生物识别信息

生物识别信息包括身体特征和行为特征两类：身体特征包括指纹、静脉、掌型、视网膜、虹膜、人体气味、脸型、血管、DNA、骨骼等，行为特征包括签名、语音、行走步态等，生物识别技术是通过人类生物特征进行身份认证的一种技术，人脸识别属于生物识别技术中的一种。在人工智能时代背景下，个人生物识别信息非常容易被人工智能犯罪活动所利用。使用深度伪造技术合成换脸视频是盗用个人生物识别信息的行为，通过技术手段盗用他人的生物识别信息。基于个人生物识别信息具有个人数据的唯一性、程序识别性、可复制性、损害的不可逆性及信息的关联性等特征。在大数据背景下，个人生物识别信息的广泛应用会带来严重的生物信息安全风险，需要立法进行全方位规制[4]。

（二）刑法评价的现实困境：难以全方位保护个人生物识别信息

1.现状：刑法评价体系依附于下游犯罪

现有的刑法制裁体系更多是对盗用个人生物识别信息的下游犯罪进行规制，来达到对公民身份进行间接保护的目的。例如，利用深度伪造技术换脸合成虚假视频，对于严重损害他人名誉的行为定侮辱、诽谤罪，利用深度伪造技术制作假冒他人的语音视频诈骗钱财定诈骗罪等，均从下游犯罪的角度进行规制，并没有对盗用个人生物识别信息这一独立的法益侵害行为进行刑法上的规制，并且这些相应的下游犯罪都存在较高的入罪门槛，认定其构成侮辱罪需要该信息被点击、浏览次数实际超过5000次，被转发次数超过500次，或者该信息造成被害人或其近亲属精神失常、自残、自杀等严重后果，诈骗罪需要达到较高的入罪金额，如果仅仅依赖于刑法对于深度伪造行为触犯的下游犯罪进行规制，将导致对其刑法评价依赖于对其后续行为的刑法制裁，即深度伪造行为本身的社会危害性。

2.缺憾：盗用个人生物识别信息行为的刑法规制缺位

纵观我国刑法中与盗用个人生物识别信息行为最接近的犯罪有盗用身份证件罪、招摇撞骗罪、冒名顶替罪、侵犯公民个人信息罪等。盗用身份证件罪的对象为身份证件，生物识别信息不在此罪打击范围之内。招摇撞骗罪、冒名顶替罪虽然同为假冒他人的身份，但构成要件与深度伪造中盗用个人生物识别信息相去甚远，不能将此行为纳入刑法规制的范围中。对于滥用深度伪造技术的犯罪链上游行为可以采用侵犯公民信息罪进行制裁，但鉴于此罪的构成要件，刑法只能对不法收集、不法提供或出售个人信息进行制裁。然而，使用深度伪造技术合成虚假视频只需要收集到被害人的照片即可，在这个信息爆炸的时代，明星、著名公众人物或者政治人物的照片通过互联网正常收集的途径几乎唾手可得，只要关注到被害人的社交账号，获取普通人的照片轻而易举，大部分深度伪造素材都不需要通过非法路径获取。不能将合法收集却不法盗用个人生物识别信息的行为纳入犯罪圈中，意味着对于深度伪造行为的法律评价与规制存在空白地带。

四、人工智能时代的跟进：深度伪造技术的刑法回应

以“最低限度”的原则搜集个人信息，以“最严厉”的原则保护个人信息，才能真正使得人工智能换脸技术向安全、可靠、可控的方向发展[5]。笔者认为，在合理平衡技术发展与生物识别信息保护的情况下，刑法介入的思路是：完善侵犯公民个人信息罪的犯罪构成，实现盗用个人生物识别信息的行为入罪化。

（一）个人生物识别信息保护视角下刑法介入之必要性

有学者认为，考虑到合宪性调控、刑法的比例性原则、算法学习的显著技术弊端以及数据共享的新型模式等现实因素，真正值得入罪化的深度伪造行为只有两种：首先，深度伪造技术制造的这一虚假信息本身就应当被刑法所规制，是刑法法益评价的危害对象。其次，这一深度伪造行为使得网络抽象心理恐惧向现实社会延伸，导致公民人身、财产权利受到严重侵害或者致使社会秩序发生重大混乱[6]。笔者不反对限缩滥用深度伪造行为的打击范围，关键在于如何合理划分罪与非罪的边界，从法益保护实际需要来看，当前亟需将盗用公民个人生物识别信息的行为纳入刑法打击半径。近年来，我国刑法在不断实现“公民个人信息”保护罪名体系精密化的同时，不断赋予“公民个人信息”新的内涵和外延，不断扩张侵犯公民个人信息罪的打击半径[7]。在虚拟网络空间，面部等生物识别信息成为人们在互联网时代的第二张通行身份证，深度伪造技术通过照片或者视频即可对面部信息进行盗用，在特殊虚拟身份识别场合，其法益危害性程度足以与盗用身份证件相匹敌，甚至可以将生物识别信息看作现实中身份证件在网络时代的分化。从公民个人生物识别信息的角度来说，现有刑法体系能够制裁不法获取公民信息的行为，但是缺乏对合理获取但不法盗用公民生物识别行为的打击，没有全方位的保护公民的个人信息。此时存在立法干预的必要性，有利于在抽象心理恐惧未延申至现实世界中造成重大损害之前，从源头治理此类犯罪行为。

（二）理想路径：完善侵犯公民个人信息罪的犯罪构成

有学者认为，应当改造招摇撞骗罪的构成要件，将盗用公民个人生物识别信息的行为放在这一罪名中予以规制[8]。笔者不赞同这一观点。从法益保护的角度出发，招摇撞骗罪保护的法益在于国家机关的纯洁性不受侵害，与保护公民个人生物识别信息不被盗用的法益相去甚远。我国刑法中与盗用公民个人生物识别信息最接近的犯罪有盗用身份证件罪、侵犯公民个人信息罪、招摇撞骗罪、冒名顶替罪。从保护法益的角度来考察，盗用身份证件罪的立法本意是维护社会公共信用,侵犯公民个人信息罪强调对于公民个人信息权的保护，招摇撞骗罪为了维护国家机关的纯洁性不受侵害，冒名顶替罪维护的法益则是社会管理秩序。对生物识别信息的保护属于对公民的个人信息的保护，修改侵犯公民个人信息罪的构成要件，将盗用个人生物识别信息的行为纳入侵犯公民个人信息罪的犯罪构成，符合法益保护的一致性。因此，笔者认为，可以对我国刑法的侵犯公民个人信息罪进行修改完善，增设“盗用公民个人生物识别信息，造成严重后果的”类似条款，从而将盗用个人生物识别信息的行为纳入侵犯公民个人信息罪的犯罪构成。