AI双刃剑 一夜爆红的ZAO到底伤了谁

“—夜走红，一天沦陷”一—顶着A咣环的换脸软件ZAO凭借极高的关注度及争议成为近似现象级的存在，从追捧到唾弃，ZAO换脸的同时让人们看到了AI这把双刃剑的威力，当人们在换脸事件中逐渐恢复理智后，让我们一同重新审视下这场AI换脸风暴！

从爆红到全民声讨

“在未来，每个人都有15分钟出名的机会。”一一移动互联加上社交软件的普及-令出名变得更加简单-当一款名为ZAO的软件在半夜刷爆朋友圈时，大多数人无非感叹该软件推广时机抓得好，乍看上去，AI换脸、简单易用、社交属性……种种亮点让ZAO有了爆红的基础，尤其是背靠陌陌这个金主加社交达人，让“只要在APP中上传一张照片，你想变成哪个明星，就能变成哪个明星。”愿望实现的ZAO仅仅用了几个小时就在8月31日苹果商店的下载量飙升到了免费App下载榜的138位、娱乐App第13位。

一夜之间，朋友圉也被无数换脸视频“攻占”，仿佛整个世界都在Cosplay.朋友圈的“传染”让不少人在第二天清晨刷朋友圈后开始疯狂打探并下载这款软件，如此热潮下，拿下微博/百度热搜丝毫不意外了，“服务器忙”一度成为ZAO的代名词。

可让人意外的是这款软件被外媒争相报道、有望成为现象级产品时，9月1日下午，ZAO在官方微博回应称，会对相关问题进行修改，需要一点时间。同日，Zao被微信屏蔽分享链接，提示理由为“网页存在安全风险，被多人投诉。”

从刷屏到质疑，不超过24小时，从朋友圈爆红到被微信封杀，ZAO也只度过了短暂的三天时间。人生的大起大落放在软件上似乎同样适用-少见的表现更进一步激起了，人们的好奇心，也让越来越多的目光聚集在了ZAO身上。

争议巨大的用户协议

娱乐、社交、新鲜感……不少人对ZAO的认知源于换脸，为自己换上明星脸或为名人恶搞换脸，在不少人眼里是件有趣的事儿，无论是用自己的脸制作网络热门表情包还是用你和朋友的脸一起飙戏，ZAO的确满足了人们的娱乐和社交需求，可在网民隐私意识日益提升的今天，越来越多网友开始对ZAO的潜在风险提出疑问。

根据ZAO用户协议内容中的必要授权协议：用户上传发布内容后，意味着同意授予ZAO及其矣联公司以及ZAO用户在“全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利”，“包括但不限于可以对用户内容进行全部或部分的修改与编辑（如将短视频中的人脸或者声音换成另一个人的人脸或者声音等）以及对修改前后的用户内容进行信息网络传播以及《著作权法》规定的由著作权人享有的全部著作财产权利及邻接权利”。

该项条款包括但不限于：人脸照片、图片、视频资料等肖像资料中所含的用户或肖像权利人的肖像权，以及利用技术对其肖像进行形式改动。

微博上有网友担忧，“非法”收集面部信息”“万一哪天被黑客把数据库给拿走了，你的支付宝分分钟可以被盗刷-你们自己看着吧。”虽然从一开始就有法律界的人士表示，ZA0的技术中立很难成立，这样的用户协议并不靠谱，可类似“在你拿ZAO换脸时，可能已成为情色片主角了”的担忧足以让用户谈ZAO色变，从争相体验到全民批判也就一点不奇怪了。

用户安全与侵权

利用ZAO进行“换脸”，首先需要用手机号动态验证码进行验证登录。用户如果想要下载或分享换脸视频，则需要进行验证确认所使用的照片的确是用户本人，而验证的方式则是在摄像头前进行眨眼、扭头、张嘴等指示动作。用户面部识别信息被ZAO以验证的本人的形式获取，虽然ZAO一直声明不会擅自使用、泄露用户隐私，可问题是网络时代谁能保证数据库、服务器绝对的安全？在刷脸应用越来越火的今天，面部识别信息本身就是极为敏感的存在，ZAO最初“免责”式的用户协议-显然会加剧用户对自身隐私安全的担心。

除自身隐私安全外，ZAO极为出色的易用性，让技术小白也能一键玩转明星换脸，软件本身内置可供选择的影视剧片段中，有包括《延禧攻略》、《长安十二时辰》、《还珠格格》在内的多部热门国内电视剧，也有石原里美、莱昂纳多，迪卡普里奥等国外明星的影视剧片段，还有大量热门的综艺片段，或许本身是想要给用户带来更多趣味性，可换脸过程中，明星、影视剧本身的肖像权、著作权、知识产权又会产生一连串问题。上面矣于用户自身隐私及侵权的担心并非仅存在于猜想，在ZAO引发全民争议的同时，“不雅视频将女明星换脸成主角售卖：涉多重违法，电商称零容忍”的新闻让人们担心成为现实，当不雅视频主角加上了明星脸后，AI换脸工具轻而易举地成为“帮凶”。

AI换脸并非新鲜事儿

AI换脸并非新鲜事儿，早在2017年底，国外一位ID为“deepfakes”的网友，他发布了一种让用户可以使用机器学习技术来将视频换脸，只是当时还处于初级阶段-普通用户根本没办法通过这些资料来自己动手DIY，直到简单版的FakeApp出现，把复杂的AI换脸变成了简单，让普通用户也能轻松将视频中的人物换脸。

FakeApp采用了deepfake技术，并将其软件化简单化，能将视频A里的人脸通过机器学习技术然后套用到视频B中，而且通过深度学习后的换脸效果逼真，几乎可以达到以假乱真的程度。国外的投机者显然也不笨，FakeApp很快就被运用到色情网站视频或报复色情内容，也可能被用于制作假新闻和恶意恶作剧。于是， FakeApp很快就被封杀了。更早一些的1997年-为了弥补一些配音电影唇音不同步的缺陷-国外进行了一项“视频重写”的研究项目，这项技术使视频中的人物嘴唇自动与音频系统同步，所以即使原视频图像中的人没有张过嘴，通过“视频重写“也可以使这个人按照被匹配的音频”口若悬河”，这项技术可用于电影配音、电视会议、电影特效中。

ZAO的出现，核心应用并未有多大变化，不过其易用性的确非常不错，用户注册成功后，正产情况下只需几秒就能制作完成一段变脸视频，再配上社交功能，其崛起速度显然非FakeApp可比的。然而，除了個人隐私的泄露与侵权问题外，涉及资金安全的刷脸支付，同样是ZAO引发的新问题。

宣称自己很安全的刷脸支付

既然视频都能用ZAO换脸了，那ZAO能骗过刷脸支付验证吗？蚂蚁金服称：“刷脸支付”采用的是3D人脸识别技术，在进行人脸识别前，也会通过软硬件结合的方式进行检测，来判断采集到的人脸是否是照片、视频或者软件模拟生成的，以避免人脸伪造带来的冒用情况。

以支付宝为例，在进行人脸识别后，部分用户还需要输入与账号绑定的手机号进行校验，进一步提高安全性。即便出现账户被冒用的极小概率事件，大家也不必惊慌，支付宝也会通过保险公司进行全额赔付。

微信方面也回应媒体称，换脸从技术上完全不会影响刷脸支付的安全性。而银行方面以刷脸取款为例，采用红外活体检测技术、生物识别技术等-可抵御照片、换脸视频、翻拍、3D头套等面具攻击。金融系统似乎对AI换脸有着足够的防备体系-可对于AI在生物识别领域设的局，普通大众能防备吗？

能模仿任何声音的AI

ZAO换脸引发了人们对AI替换、生物识别特征的讨论，除针对面部识别特征的换脸应用外，声音识别与音调模仿，同样是AI应用令人担忧的存在。据华尔街日报报道，今年3月，犯罪分子通过商业化的人工智能语音生成软件，成功模仿并冒充一家英国能源公司的德国母公司CEO，来欺骗其多位同事和合作伙伴，一天内多次诈骗并转移资金，使得该公司损失220，000欧元（约合173万元人民币）。类似的语音欺诈的新案例并不少见，犯罪分子使用人工智能技术来自动化网络攻击并诈骗，获取钱财，相信不少人都接到过类似的欺诈电话。随着技术的更迭-新的AI技术可以模仿任何声音， Siri.Alexa，Microsoft的Cortana和GoogleAssistant等人工智能（AI）个人助理都使用文本转语音软件来为用户创建更便利的界面，可当他们本身就有个人助力的属性-模仿用户的声音声调同他人交流，恐怕很容易踩过界。

以百度Deep Voice为例，当时的第一代产品，一个系统只能学习一个人的声音，而且需要用几小时音频进行训练。随后的第二三代模型就将所需的训练数据降到了半小时，一个系统还能模仿数千人的声音。当声音和容貌模仿都变得容易时，由AI打造的另一个你同你的亲友聊天、同事办公甚至借钱、购物时，会是怎样一种情况呢？

Al社交的试水

任何新兴技术的出现和应用，都存在一定风险，我们没必要将这些潜在的风险放大或妖魔化，能够模仿人们的语音、容貌，从技术角度看-这些应用本身是AI技术进步的表现，换脸并不能让AI拥有自己的容貌-但在海量面部识别数据的前提下，AI形成自己独一无二的面部形象早已不难-而随着AI对人类声音、音调的模仿，AI显然能越来越像人。ZAO的火爆离不开社交，而AI换脸的延伸，足以成为AI社交的试水。陌陌用ZAO再度切入熟人社交领域，借助微信、QQ等社交渠道，意味着ZAO的公域流量始终掌握在别人手里，可问题是ZAO如果再进一步，何尝不能直接以AI的身份完成同用户的交互呢？

从目前来看，AI直接进入社交领域恐怕还言之过早，以大量顶着AI光环的幼教机器人和智能音箱为例，其虚拟人物在交互上依旧有些呆滞，更同科幻电影中的虚拟AI人物相去甚远，而随着AR＼VR等技术应用的成熟，虚拟AI交互进入大众生活并不太远。

掘金个人数据需谨慎

深挖ZAO的公司股权会发现，陌陌是其背后的金主，在人們感叹站在巨人肩膀上离成功更近时，有多少人注意到陌陌在ZAO以前还孵化了是他、瞧瞧、Cue、赫兹、MEET等五款社交产品，只不过ZAO成了最火的那一款。

社交代表流量-流量对互联网科技企业而言意味着营收、红利，可在挖掘用户流量的过程中-个人隐私数据收集必须有底线，“掘金”个人数据不能为所欲为。ZAO是一款可将用户自拍替换进影视剧片段的“换脸”应用，用户想实现这样的功能，就要上传自己的照片，这本来无可厚非，让ZAO饱受诟病的是其实际功能设计和用户协议条款。

从功能上来说，用户无法直接删除自己此前上传的图片，只能以新上传的照片来替代，同时无法自行操作注销IDo这就违反了《个人信息安全规范》中的主体参与原则，即必须向“个人信息主体提供能够访问更正、删除其个人信息，以及撤回同意、注销账户等方法”。引发市场全面反弹后，ZAO修改了用户协议，但从ZAO事件可以看出，对于个人数据的应用，不仅需要行业和企业的自律，更需要监管部门的高效监管。

Al监管正当时

ZAO引发大众激烈讨论的同时，工信部约谈其实际控制人北京陌陌科技有限公司，要求其严格按照国家法律法规以及相矣主管部门要求，组织开展自查整改，规范协议条款，强化网络数据和用户个人信息安全保护。而在国新办18日举行的新闻发布会上，国家互联网信息办公室副主任刘烈宏对AI换脸技术软件ZAO涉嫌侵犯个人隐私及霸王条款一事做出回应。

新技术、新应用带来了发展的机遇，同时也给网络安全带来了风险和挑战，作为管理部门，国家网信办积极支持新技术、新应用发展，同时也采取必要措施防范随之带来的风险。

写在最后：

别轻易玩生物识别信息

人工智能时代，大量公民的面部特征、身份信息、健康状况、年龄特征、流动特点等数据，从中可以分析出很多重要信息，点点滴滴的个人隐私汇集起来就是国家信息安全。无论对个人还是国家，生物识别信息都不应轻易采集和使用的，新的科技技术的确能够激发人们的好奇心，但管住自己的好奇心也相当重要。