“AI换脸术”的价值、风险与发展方向

摘要：智媒体时代，人工智能技术、海量数据的获取、超级计算软件的应用为“AI换脸术”的进一步发展提供了契机，“AI换脸术”是对人脸识别系统的升级，随着该项技术的更新迭代，由此引发的社会问题必须予以提前预判并加以控制。基于此，文章阐述“AI换脸术”在影视、新闻、广告及娱乐等领域的应用价值，并深入分析其面临的大众社会身份的解构、伦理道德边界的冲击、侵权违法现象的加剧、相关软件发展的混乱等风险，并提出提升大众技术素养、推动政策法律实施、创新多元化应用方向、加强反侦察技术应用等策略，以期对“AI换脸术”的价值回归有所助益。

关键词：“AI换脸术” 人工智能 法律 伦理道德 智媒体

从最初的2G移动传播技术到如今5G移动传播技术的普及，从最初的算法推荐到如今的人工智能应用，媒介环境从新媒体、融媒体、全媒体时代一路走来，进入一个技术更加智能成熟的智媒体时代。智媒体时代下的AI人工智能技术不断升级，并广泛应用于计算机、经济、政治领域，以及各行业的控制系统、仿真系统中，其中以仿真系统为基础的“AI换脸术”一经问世便成为影视行业、短视频行业的“新宠”，迅速掀起“AI换脸”热潮。智能技术的生产与应用造福了许多行业，“AI换脸术”的广泛应用也彰显出一定价值，使部分行业与用户享受到技术所带来的红利与欢乐。现阶段，在挖掘“AI换脸术”发展价值的同时，需要思考技术背后蕴藏的风险，“AI换脸术”的隐忧亟待探讨和解决。

一、“AI换脸术”的价值体现

“AI换脸术”（Artificial intelligence powered face swapping technology）又称“深度伪造技术”（Deep fake），是指机器或系统通过深度学习（Deep learning）与伪造（Fake），结合虚拟现实技术、视觉合成技术能够在图像、视频及虚拟场景中实施人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等一系列操作的技术。随着“AI换脸术”的技术公开和应用下沉，“ZAO”“Deepfakes Web”及“Face Swap Live”等以“AI换脸术”为核心的软件逐渐增多，“AI换脸术”从服务行业转向服务大众，应用范围更加广泛。

1.提升影视制作质量。“AI换脸术”的出现促使影视行业发生了一场前所未有的产业变革，在重构演员角色、后期特效等方面具有深刻影响。一直以来，影视行业对于特效和演员换脸的需求从未减少，尤其是《阿凡达》《复仇者联盟》等对演员妆造、形象有特殊需求的特效影视。影视换脸经历传统实物化妆换脸、数字图像换脸、三维动作捕捉术换脸三个阶段后，发展至如今的“AI换脸术”。相较于以往的影视换脸方式，“AI换脸术”实现了高效率、高逼真度、超自然和低成本换脸，一方面显著提升影视创制生态的整体质量，帮助影视演员实现跨时空、跨物种及跨年龄的完美演绎；另一方面拯救大批因个别演员违规而被迫下架的影视剧，如热播影视《狂飙》《甄嬛传》等均在上线后及时通过“AI换脸术”完成演员替换。

2.唤醒广告营销市场。企业广告营销与技术发展息息相关，“AI换脸术”的应用能够唤醒广告营销市场，利用“AI换脸术”可以进行创意营销，创设多元式、沉浸式的营销环境，使用户在立体可感的环境中感受服务和产品。用户可以将个人肖像通过“AI换脸术”转移到所需要的产品、服务和场景中，如服饰、妆造、发型、艺术照等生活类服务，以及直播、游戏、旅游等场景类服务，获得身临其境的代入感，从而为产品和服务打开新的营销通道。例如，2022年三八妇女节，传统家电企业美的利用“AI换脸术”策划了一场“美的AI换新剧场”活动，通过生成女性职业影集成功完成别具一格的品牌营销。

3.扩大新闻传播范围。技术因素在新闻生态及格局的改变中发挥着至关重要的作用，智媒体时代新闻传播面临信息爆炸、受众注意力缺失等现状，“AI换脸术”的应用能够创新新闻生产传播方式，扩大新闻传播范围。其一，“AI换脸术”能够在技术层面为新闻生产提供多元创意和便捷通道，如北京冬奥会央视虚拟手语主持人的五官形象借助“AI换脸术”得以塑造完成，其面部表情和动作神态成为当时科技的一大亮点。其二，“AI换脸术”能够增强用户与媒体之间的互动，用户可以通过进入新闻场景、模拟主持人播报等方式直观感受新闻现场、参与新闻活动，如在中国人民解放军建军90周年之际，人民日报客户端推出《快看呐！这是我的军装照》活动，用户可以通过“AI换脸术”获得个人军装照，此活动最终浏览量超过10亿次，实现了以互动方式扩大新闻传播范围。

4.带动数字娱乐发展。随着“AI换脸术”的技术愈发成熟和便捷，很多社交平台开始借助“AI换脸术”进行特效创新，吸引用户参与。“ZAO”作为国内较早利用“AI换脸术”将用户肖像替代影视明星视频的APP，上线初期便吸引大量用户参与且深受大众喜爱，短时间内登顶应用商店的下载榜首。现阶段，抖音、快手等社交类短视频平台中也有帮助用户换装变脸的特效，其借助“AI换脸术”通过选取用户全脸或五官局部特征实现换脸。例如，抖音的“超级变脸”特效能够帮助用户看到自身不同年龄段的模样，同时“国风照”“影视照”特效也备受用户喜爱。总之，“AI换脸术”使大众获得即时性的娱乐感官体验，可带动数字娱乐发展。

二、“AI换脸术”存在的风险

在发展过程中，“AI换脸术”的技术成本不断降低，社交媒体平台对初级“AI换脸术”的应用进一步助推了该项技术的普及和传播，使得“AI换脸术”应用价值凸显。“AI换脸术”能够实现一键生成、快速成型，意味着该技术已经能够脱离编码被自由运用于更广泛的领域，但是当前“AI换脸术”的应用更多集中在娱乐领域，技术进步与社会实践明显失衡，导致“AI换脸术”的市场化过程如同“被打开的潘多拉魔盒”，由此引发的社会问题不容忽视。

1.大众社会身份的解构。肖像既是大众在社会交往中用于区分、辨识身份的基础，也是大众建构社会身份的第一要素。“AI换脸术”的应用打破了社会大众明确彼此身份的界限，既是对大众肖像、身体、声音及意识的剥离，也是对大众社会身份的解构。“AI换脸术”的使用界限不明及泛娱乐化趋势会导致越来越多的“非本体肖像”充斥在互联网平台，在媒介化程度不断加深的当下，身份和肖像虚实难辨。一方面，会造成社会身份的混乱，打乱社会原有的社交秩序；另一方面，会引发大众对自我身份认知的模糊性。

2.伦理道德边界的冲击。“AI换脸术”的出现是对媒介伦理和社会道德的一次冲击。由于“AI换脸术”对人面部特征、表情、动作甚至面部光感的模仿越来越逼真，换脸之后的图片和视频足以达到以假乱真的境界，应用于影视短视频及新闻传播领域，致使虚假内容不断攀升，“有图有真相”的时代就此终结。例如，在美国竞选期间，有人利用“AI换脸术”仿制奥巴马演讲视频，制造的虚假政治新闻挑战着媒介权威。此外，有网友借助“AI换脸术”将已故亲人照片制作成视频，并与其进行隔空的视频对话，纵使技术“温情”的一面得以被展示，但背后的伦理道德问题始终争论不休。

3.侵权违法现象的加剧。“AI换脸术”作为智媒体时代的一项新技术，在为部分行业提供便利和新发展方向的同时，伴随着法律问题和侵权纠纷。当前，由于“AI换脸术”的技术日益成熟，一键换脸的便捷性与对原肖像的极高还原度，使得只需拥有一张肖像照未经本人同意便可以随意使用，许多明星被换脸至多种场合并广泛传播，引起大众误解，严重侵犯他人的肖像权和知识产权。甚至部分不法分子利用“AI换脸术”批量生产不雅照片及视频，以此来吸引流量获取收益，不仅侵犯他人的肖像权和名誉权，也对社会发展造成严重负面影响。此外，部分人利用“AI换脸术”伪造视频进行盗刷和诈骗等违法活动，严重损害他人经济利益。

4.相关软件发展的混乱。曾经红极一时的换脸APP“ZAO”通过“完全免费、不可撤销、永久使用用户肖像”等隐藏的不平等条例对用户的肖像和权利进行过度索取和免责使用，被相关部门约谈后几乎在一夜之间就销声匿迹，因“蚂蚁呀嘿”特效爆红的换脸APP“Avatarify”在中国区上架一周就被下架。但是，除了“ZAO”“Avatarify”等知名换脸APP能够被及时监控和发现之外，微信平台和各大应用商店还有大量“AI换脸”小程序和APP，这类软件很容易脱离监管范畴，且软件内的很多功能和特效使用均需要收费。一方面，收费标准的合理性和规范性得不到保障；另一方面，无形中加大了用户生物识别信息及隐私泄露的风险。

三、“AI换脸术”的发展方向

2020年全国信息安全标准化技术委员会等机构发布《人脸识别应用公众调研报告》（以下简称《报告》），《报告》显示超过90%的受访人群接触并使用人脸识别系统，60%的受访人群对人脸识别类技术表示担忧，30%受访人群表示因人脸信息泄露自身权利遭到侵害。因此，只有引导大众理性看待技术发展，将“AI换脸术”的应用控制在合理领域，才能够持续正向地发挥“AI换脸术”的价值。

1.提升大众技术素养。“AI换脸术”将大众带入一个“狂欢世界”，但对于部分人而言狂欢是以生物信息和隐私泄露为代价的，甚至还需要承担侵害他人肖像权、名誉权的责任。智媒体时代，培养大众媒介素养是根本，但提升大众技术素养才是关键。一方面，大众应当增强自身理解技术的能力，即主动了解“AI换脸术”的技术原理，正确认识“AI换脸术”的价值所在，实现从技术狂欢到技术理性的转变。另一方面，大众应当增强自身技术使用能力，尤其要在伦理道德范畴之内使用技术，从而有效降低有意或无意引发的侵权风险。

此外，当前以“AI换脸术”为支撑的各类APP和小程序，很容易便能获取到用户的个人信息，尤其是对于频繁使用真人肖像进行换脸操作的用户，这些软件的留痕和追踪能力较强，用户综合信息在软件上的安全系数极低。因此，大众技术素养的提升还需体现在对个人信息的保护方面，其一，大众在进行“AI换脸”前应认真阅读相关软件设置的使用条例，在了解清楚使用规则后再使用。其二，针对不了解的“AI换脸术”软件或是非正规渠道的“AI换脸”软件，在不清楚是否存在安全隐患的情况下，大众应当审慎处理，拒绝授权个人信息。其三，为了防止“AI换脸”软件对个人隐私和生物信息的泄露和滥用，大众需要有意识地留存使用痕迹，保留相关证据，以备举报、维权等不时之需。

2.推动政策法律实施。鉴于一些“AI换脸术”的应用已严重影响社会秩序，部分甚至已触碰法律红线，若继续放任“AI换脸术”肆意升级及与其相关产业的野蛮生长，必将导致风险日益增长，甚至走向无法预料和无法控制的境地。因此，推动相关政策和法律的实施是防止“AI换脸术”风险升级的有效方式，能够打破一直以来的“技术中立”僵局，引导“AI换脸术”和与其相关软件朝着更加高效、安全的方向发展。

其一，法律应明确与“AI换脸术”相关的人身权利，如隐私权、肖像权、知识产权及表演者权等，并完善侵权表现、维权途径及惩戒措施，将“AI换脸术”引起的风险纳入法律监管体系中。其二，相关部门应出台相应政策，结合“AI算法”的安全评估制度，彻查“AI换脸术”软件市场，及时处理和下架违反市场规则、技术规则及伦理道德的软件，规范“AI换脸”软件市场发展。其三，从技术本身着手，陈列出严禁“AI换脸术”涉足的领域和从事的活动，并要求通过“AI换脸术”制作的图片和视频中必须有“AI换脸”的痕迹，以加水印的方式来帮助大众识别真伪。

3.创新多元化应用方向。“AI换脸术”在多个领域已显现出技术优势，但过分偏向于商业领域会导致“AI换脸术”只追求经济效益而忽略社会效益，技术的逐利性过强也会无形之中引起技术无视伦理道德或是通过弥补技术漏洞来规避政策的现象。创新“AI换脸术”多元化应用方向，既能够让该技术在更多领域发挥价值，引导“AI换脸术”为社会服务，也能够通过正规方式保障技术的经济效益，反哺“AI换脸术”升级。

“AI换脸术”除了在影视、娱乐及广告营销等领域深入发展，还应当在社会公益领域不断深耕，促进社会问题的有效解决。例如，“AI换脸术”可以借助面部识别和照片识别功能，修复老旧照片；通过还原文物资料和历史人物，辅助历史文化研究。再如，“AI换脸术”可以深入公安系统，帮助警务人员还原与案件相关的人员样貌，尤其是针对幼年走失的儿童，“AI换脸术”可以结合走失儿童亲属的样貌特征，结合“AI算法”测算出走失儿童不同年龄段的样貌，提高公安寻人效率及准确率。

4.加强反侦察技术应用。面对“AI换脸术”滥用、监管幅度大及治理难度大等问题，单纯依靠政策和法律手段进行人为干预的效果不甚理想，治理速度远不及“AI换脸”违法图片、视频的生产速度。因此，需要借助技术力量来制衡技术发展，减少对“AI换脸术”的滥用。2023年1月10日，国家互联网信息办公室、工业和信息化部、公安部联合发布的《互联网信息服务深度合成管理规定》正式实施，其中有关“AI换脸术”显著标识中规定“任何组织和个人不得采用技术手段删除、篡改、隐匿相关标识”，这就需要进一步加强AI技术与区块链技术的综合应用，在技术层面为“AI换脸”作品标识“不可篡改”“不可伪造”加码。

加强反侦察技术的应用还需要研发与“AI换脸术”相对的“反换脸”检测技术，如美国英特尔公司在2022年11月推出一款名为“Fake Catcher（虚假捕猎者）”的软件，主要用来检测和处理“AI换脸”视频，该软件的精准率高达96%，有效遏制了“AI换脸术”的滥用。但是，“反换脸”检测技术容易“一刀切”，对于部分正常需要“AI换脸术”支撑的内容显失公平，还需要持续技术升级以开发分领域、分场景和分对象的个性化治理软件，同时结合人工审查和申诉环节，保障“AI换脸术”在合理范围内发展。

作者单位 韩国世宗大学

参考文献

[1]杨丛逊.人工智能时代AI换脸技术对新闻领域的影响[J].传播力研究，2020（01）.

[2]万旭琪.AI换脸视频中的身份解构、伦理争议与法律风险探究——以“ZAO”App为例[J].东南传播，2020（03）.

【编辑：朱垚颖】