哔哩哔哩平台换脸视频乱象及治理之策

黄子妍 吴天艺 董安淇

随着人工智能技术的不断进步，深度伪造作为一种尖端技术产物，已经开始在个人、社会乃至国家等层面产生深远影响。其中，“换脸”视频作为深度伪造技术的典型应用，不仅具有极高的技术吸引力，更在实际应用中引发了广泛的社会关注。现基于哔哩哔哩平台这一具有代表性的网络平台，深入探讨“换脸”视频出现的成因，并对深度伪造技术的实际应用进行全面反思，旨在为防范网络虚假信息的扩散提供针对性建议，以期在享受技术红利的同时，维护网络空间的安全。

新一轮技术革命浪潮下，人工智能技术迎来蓬勃发展的新阶段，展现出深度学习、跨界融合、人机协同、群智开放和自主操控等鲜明特征。人工智能技术的运用对全球经济发展、社会进步和全球治理产生了深远而重大的影响。科技无疑已成为推动世界发展的第一生产力，但同时它也是一把双刃剑，在带来无尽机遇的同时，也带来了诸多挑战。作为人工智能在深度学习领域的一个分支，深度伪造技术近年来发展迅猛，其中最为人们所熟知的表现形式即“换脸”视频。这些视频不仅影响了个人隐私和安全，更在一定程度上对社会秩序和国家安全造成了冲击。本文旨在全面解析深度伪造技术的产生背景和发展现状，并以哔哩哔哩平台上的“换脸”视频为例，深入探讨其潜在危害。下文将分析这些危害产生的根源，并提出一系列具有针对性的建议和措施，以期在推动人工智能技术进步的同时，有效防范和应对由此产生的各种风险和问题。希望本文的阐述能够为构建健康、安全的网络环境提供有益的参考和启示。

深度伪造技术概述

深度伪造技术的兴起

“深度伪造”一词源于英文“Deepfake”，是由“Deep learning”（深度学习）和“Fake”（伪造）两个词汇组合而成的。其起源可以追溯到美国社交新闻媒体红迪网（reddit）上一段引起轰动的视频。这段视频由一位名为“deepfakes”的用户发布，尽管该视频因举报而被下架，但该用户随后公开了制作该视频的算法，使得深度伪造视频的制作变得相对简单。

随着技术的不断进步，越来越多的深度伪造方法和应用程序涌现出来，如国外的FaceApp、FakeApp、FaceToFace、DeepFaceLab，以及国内曾出现过的ZAO、蚂蚁呀嘿等换脸软件（目前这些软件均已下架）。这些工具的应用不局限于视频制作，还扩展到了图像、音频制作等领域，对娱乐、教育等多个领域产生了广泛影响。

深度伪造技术的应用

深度伪造技术作为一种基于深度学习的工具，其本质上并不具备善恶属性。从狭义上说，该技术主要是指通过深度学习进行人像合成的视频技术，其中最为人们所熟知的就是AI“换脸”技术。而从更广义的角度来看，深度伪造技术可利用机器的深度学习，实现音频、图像、文本和视频的篡改、伪造和自动生成，不仅在医学成像、历史影像复原和影视剧制作等领域有所应用，还对社会的方方面面产生了深远的影响。

在众多深度伪造技术的应用中，“换脸”视频无疑是最为典型且常见的一种。在国内，虽然曾经涌现出的一些“换脸”视频平台如今已经下架，但“换脸”视频仍然大量存在于抖音、快手、哔哩哔哩等平台上。特别是哔哩哔哩平台，作为一个多元文化社区，该平台聚集了大量的当代年轻人，这些年轻人往往热衷于追求新兴技术。同时，哔哩哔哩平台独特的鬼畜文化也进一步推动了“换脸”视频在该平台的流行。然而，“换脸”视频的广泛传播也带来了一系列不容忽视的问题。

哔哩哔哩平台“换脸”视频的特点及危害

哔哩哔哩平台“换脸”视频的特点

1.高度真实

深度伪造技术为哔哩哔哩等平台上的“换脸”视频提供了强大的技术支持。这些视频的制作需要采集大量的人脸样本，通过对人物面部肌肉和微表情的精细算法分析，达到极其逼真的换脸效果，以至于用户仅凭肉眼难以分辨真伪。展望未来，随着技术的不断进步，基于眨眼频率、声音、微表情、文本等多模态特征融合的假视频制作技术将成为一个新的发展趋势。这意味着随着多模态特征融合技术的广泛应用，普通公众辨别深度伪造作品的难度将进一步加大。

2.制作简单

虽然深度伪造技术的原理相当复杂，但随着网络的迅猛发展，软件公司能够相对容易地获取大量的人脸信息用于技术训练。这得益于机器学习算法的进步、易于訪问的数据库的增加以及开放源代码的普及，即使是没有深度学习算法专业知识的个人或团体，也能轻易地利用这三者制作“换脸”视频。在此背景下，为了追逐商业利益，软件公司纷纷根据用户需求开发出各种“换脸”功能。这些功能通过简单的操作界面即可使用，使得普通用户能够轻松地对视频中的人物进行“换脸”操作，从而制作出大量“换脸”视频。

3.传播广泛

互联网的迅猛发展使得哔哩哔哩平台拥有庞大的用户基础，自媒体时代，每个人都能轻松通过平台创作、发布和传播视频。在这样的环境下，“UP主”们利用深度伪造技术制作的“换脸”视频一旦通过平台的审核，便能在哔哩哔哩平台上发布并得到广泛传播。通过观众的点赞、转发、收藏和投币等操作，这些视频的影响力得以进一步扩大，吸引了更多的观众参与互动。

哔哩哔哩平台“换脸”视频的危害

1.侵犯个人隐私

在哔哩哔哩平台上流传的“换脸”视频中，所涉及的被“换脸”对象涵盖了明星、网红以及普通民众。这些视频侵犯了当事人的肖像权。尤其是当“换脸”视频被用于恶搞或讽刺时，会对当事人的名誉权造成损害。更为严重的是，若这些视频被不法分子用于敲诈勒索等，将会对公民的财产和人身安全构成严重威胁。

2.扰乱社会秩序

涉及公众人物的“换脸”视频一旦广泛传播，将对社会信任体系产生深远影响，导致公众对媒体的公信力产生质疑。在学术领域，这种现象被视为对信息传播真实性和可靠性的挑战。若不法分子利用“换脸”视频散布谣言，操控公众意识，将加剧公众对媒体平台上信息真伪的怀疑，进而影响社会的稳定。

哔哩哔哩平台“换脸”视频的管理缺陷

与深度伪造技术应用相关的法律缺失

我国尚未颁布专门的法律条文对深度伪造技术的应用进行直接规范，这间接导致了哔哩哔哩平台上“换脸”视频的泛滥。尽管2019年5月28日国家互联网信息办公室发布的《数据安全管理办法（征求意见稿）》中第三章第二十四条规定了网络运营者在利用技术自动合成信息时应标明“合成”字样，并禁止以谋取利益或损害他人利益为目的的合成行为，但与深度伪造技术和“换脸”视频相关的法律法规体系仍不完整，缺乏全面且深入的规范标准，这导致哔哩哔哩平台在管理用户行为时缺乏明确的法律依据和审核标准。

平台与创作者责任界限模糊不清

由于“换脸”视频上传者的责任界定不明确，因此难以确定谁应对“换脸”视频的制作和传播负责。这种模糊的责任划分可能会使制作者误解其行为的合法性，同时也让平台难以制定明确的审核和處置标准。哔哩哔哩平台作为大型视频平台，每天都有大量视频上传，其中混杂着利用深度伪造技术制作的“换脸”视频。目前，哔哩哔哩平台仅在部分“换脸”视频下方设置“该内容疑似使用AI技术合成，请谨慎甄别”的提醒，缺乏统一标准。这种不明确导致平台难以有效审核和过滤“换脸”视频，进而会影响用户对平台和创作者的信任。

产生危害后补救措施不完善

如果深度伪造视频广泛传播并造成危害，哔哩哔哩平台现行的处理策略显然存在若干不足。首先，哔哩哔哩平台没有及时处理违规视频，导致这些视频在平台上的存续时间过长，扩散范围过大，加剧了对用户的潜在伤害。其次，哔哩哔哩平台在面对深度伪造视频所引发的个人隐私侵害、名誉受损以及虚假信息传播等问题时，缺乏明确有效的信息恢复机制。尽管平台保持中立立场，但在协助受害者迅速删除、修正或反驳虚假内容方面，其反应不够迅速，这无疑增加了受害者的困扰和损失。

哔哩哔哩平台“换脸”视频的规制建议

制定针对深度伪造视频的规范

哔哩哔哩平台作为一个汇聚大量用户生成内容的视频平台，对深度伪造技术的应用和管理承担着重要的责任。为了确保用户、社会和国家的利益不受损害，哔哩哔哩平台必须与政府、法律机构以及其他相关方展开紧密合作，共同制定全面且明确的深度伪造技术应用规范。

首先，明确深度伪造技术的使用行为至关重要，包括但不限于定义冒充他人、传播虚假信息、侮辱他人等违规行为，确保制作者和平台都能清晰地了解哪些行为是不被允许的。

其次，为了增强用户对深度伪造视频的辨识能力，应明确标识和水印要求。所有使用深度伪造技术制作的视频都必须在画面上显著标注“深度伪造”或类似字样，以提醒用户注意视频内容的真实性。

最后，建立完善的用户举报和申诉机制也是必不可少的。这一机制应着眼于处理深度伪造相关的违规视频和制作者，确保违规内容能够被及时发现并得到妥善处理。同时，提供申诉通道，为被误判的制作者提供申辩的机会。

总之，哔哩哔哩平台应积极与政府、法律机构以及其他相关方合作，共同制定明确的深度伪造技术应用规范。这不仅有助于保护用户、社会和国家的利益，还能促进深度伪造技术的健康发展，为社会带来更多积极的影响。

明确平台监管的职责和创作者使用的程度

在深度伪造视频的管理方面，需要构建一个全面且明确的责任体系。这一体系旨在明确创作者在创作和上传深度伪造视频时需要承担的法律责任，并建立健全审核机制，从而保障用户的权益和社区的信誉。

首先，哔哩哔哩平台作为视频分享平台，其首要责任是确保平台上的内容不违背社会公序良俗，不侵犯他人权益，且不会对社会的安全稳定造成威胁。为实现这一目标，哔哩哔哩平台需要制定并执行严格的审核标准，投入足够的人力资源和技术支持，以构建高效、准确的审核机制。这不仅可以确保上传的“换脸”视频内容合规，也能及时识别和处理违规内容，避免其对社会造成不良影响。

其次，创作者需要明确使用深度伪造技术的伦理和法律边界。创作者应避免利用该技术进行虚假陈述、人身攻击或其他恶意行为。特别是在涉及政治、宗教等的敏感领域，应明确禁止深度伪造技术的使用，以防止其被滥用，进而影响社会稳定。

最后，为了加强创作者和用户对深度伪造技术合规使用的认知，哔哩哔哩平台还应加强对相关法律法规的宣传。具体可以通过发布指导手册、组织线上培训或开展相关研讨会等形式，帮助创作者和用户更好地了解和掌握深度伪造技术的合法使用方式。

综上所述，明确哔哩哔哩平台的监管职责和创作者在使用深度伪造技术时的行为准则，是确保深度伪造视频合规传播和良性发展的关键。这不仅有助于保护用户权益，维护社会公共利益，还能推动深度伪造技术在积极、合法的轨道上持续发展和创新。

加强公众对深度伪造视频的认知

公众对深度伪造技术的认知程度对其理解和判断具有决定性的影响。利用深度伪造技术能够制作出高度逼真的内容，使公众误认为视频内容是真实的。因此，加强公众对深度伪造技术的认知至关重要。

首先，公众需要了解深度伪造技术的基本原理和应用范围。这种技术的应用不仅仅局限于“换脸”视频，还涉及电影特效制作、医学诊断等多个领域。通过了解深度伪造技术多样化的应用方式，公众可以更加全面地认识深度伪造技术，而非将其简单地视为只有负面影响的技术。

其次，公众还需要对深度伪造视频的潜在风险和危害有清晰的认识。这种技术可能会被恶意利用，用于制作虚假信息，进行网络诈骗，破坏社会稳定。了解这些风险可以帮助公众提高警惕，以免成为深度伪造技术的受害者。

为了加强公众对深度伪造技术的认知，需要加强教育和宣传工作。通过广泛传播相关知识和信息，帮助公众形成正确的认知和态度，确保他们能够理性应对深度伪造技术。同时，还需要鼓励公众积极参与讨论和交流，分享对深度伪造技术的看法和体验，共同推动社会对这一技术的正确理解和应用。

综上所述，加强公众对深度伪造技术的认知是确保社会公众理性应对这种技术的关键。通过加强教育和宣传，公众可以形成正确的认知和态度，避免受到深度伪造技术的负面影响，并充分发挥深度伪造技术在各个领域的积极作用。

作为人工智能时代的产物，深度伪造技术在网络中的影响力日益提升。然而，这种技术也对个人、社会和国家造成了一定的潜在危害。“换脸”视频作为深度伪造技术的典型应用，其在哔哩哔哩平台等拥有大量用户生成内容的平台上的广泛传播引发了一系列问题。针对这一现象，应通过制定规范、明确职责、加强公众认知等多种措施，实现深度伪造技术的正向使用，为人类社会带来积极的影响。这需要政府、视频平台、创作者和公众共同努力，以确保深度伪造技术在为社会服务的同时，不损害个人、社会和国家的利益。

本文系江苏省南师大大学生创新创业训练计划项目（社科类）“深度伪造的伦理问题及其规制研究——以B站换脸视频为例”（编号：473）的阶段性研究成果。

（作者单位：南京师范大学）