连AI都学会诈骗了

Holly

你可能已经对一些社交网络上常见的骗局见怪不怪了，无论是早些年泛滥的短信诈骗，抑或是电话里冒充公检法工作人员的诈骗等。随着骗术的不断曝光，受骗的人逐渐减少。但骗子们也没闲着，既然AI（人工智能）技术已经在不同领域蓬勃发展，何不搭上这趟顺风车，对行骗方式进行一场“自动化改造”呢？

你的声音可以被AI伪造

半年前，广东警方捣毁了一个利用交友App进行诈骗的“公司”。该团伙制作了多款交友软件，并设计出AI机器人假装与目标用户“谈恋爱”骗取信任，再引诱其坠入事先安排好的“消费陷阱”。听起来是不是有点儿悲凉？过去，无论如何，骗你的还是真人;现在，聊了十天半个月，你臆想中的“白月光”不过是个AI罢了。

类似的骗局不只出现在交友App中，据人民网报道，微信语音成了又一个被AI诈骗入侵的领域。有位姓赵的女士收到父亲的语音留言，称自己买菜没带钱，让她转200元过去。长了个心眼儿的赵女士问了一句：“爸，是你吗？”在收到对方肯定的语音答复后便将钱转了过去。谁料，虽然语音里的确是父亲的声音，但那段语音并不是来自父亲本人……

如今的技术已经发展到完全可以通过算法来生成人的全套语音，包括生气、开心时的语气都能模仿得惟妙惟肖，让人难辨真假。

其实，早在2016年，谷歌的人工智能实验室就开发出了一种声音合成技术，并于2017年成立了Lyrebird公司。在公司的网站上，你能听到官方合成版的奥巴马和特朗普的声音，几乎和真的没有什么分别。试想一下，这项技术如果被诈骗团伙掌握，他们完全可以通过给你拨打骚扰电话，提取你的声音信息进行合成，从而制作出属于你的音频信息，再利用这一信息冒充你，对你的亲朋好友实施诈骗。

声音靠不住，那可以靠脸吗

答案是：脸可能也靠不住。

如今，AI已经发展到可以给人换脸的程度了。别误会，不是要给你整容，但它的确掌握了某种“移花接木”的能力，比如把A的脸换到B的身体上。

电影《神奇女侠》的扮演者盖尔·加朵的脸曾被一名网友替换到了某电影的女主角身上，第一眼看上去竟毫无违和感，似乎这部电影本来就是她出演的。同样遭此恶搞的还有比她更知名的女星，如安妮·海瑟薇、艾玛·沃特森等。

当然了，这一技术的初衷并不是傳播这些短片，而是为了完善某些影视作品，例如让保罗·沃克回归《速度与激情7》，让斯坦·李老爷子继续出现在漫威系列电影中。但这一技术显然在朝着失控的方向发展。

这位制作女星换脸电影的程序员，不仅免费发布了他所谓的“成果”，还将制作视频的教程“无私”地分享了出来。教程公布没多久，就被改造成一款人人都能使用的App，开发者表示，这是一款“普通人可以突破技术壁垒去使用人工智能技术”的程序。

被恶搞的不仅是上述知名女星，连奥巴马和特朗普这些国家元首级的人物都未能幸免。马丁·路德·金和奥巴马实现了某种跨时空互换，尼古拉斯·凯奇的脸被换成了特朗普的……

之后，虽然很多平台都对这项技术颁布了禁令，但未能阻止此类视频的制作和传播。就像是打开了潘多拉魔盒一样，人们在短暂的恶搞发笑之后陷入某种恐慌之中。令人担忧的是，起初遭殃的只是一些明星、政要，但如今，这一趋势正一点点向普通人蔓延。

眼见未必为实，有视频不等于有真相

印度有一个名叫Rana Ayyub的记者，因为揭露了政府官员的黑幕，被不法分子利用这项技术将她的脸和其他人互换，并制作成了非法短视频在网上传播。令人心寒的是，不少人信以为真，甚至连她的家人也陷入困惑。在巨大的压力下，她一度抑郁，甚至住进医院。无独有偶，美国一位家庭主妇在得知自己的脸被换到一名声誉不佳的女演员身上后，每天活在恐惧之中。

以上事件无不指向一个残酷的现实：在文字、语音、图像可以被任意篡改的今天，我们连视频的真实性都一并失去了。试想一下，如果这项技术继续不受控制地发展下去，总有一天，你会连自己最亲近的人都无法信任。现在，家人问你借钱，你尚可通过视频通话的方式确认他们的真实身份，那倘若未来骗子将他们的脸合成出来，你要如何辨别？甚至一些原先要求提供照片的地方，比如贷款，都可以通过获取你的照片来冒充你，你却有口无凭。

我如何知道“你就是你”？我又该如何证明“我不是我”？这个看似荒诞实则十分日常的问题，在人类面对各种以假乱真的AI时变得分外紧迫。试想一下，某一天，当你打开社交软件，需要时刻提防周围熟识的人是不是假的时，光想一想，都不禁悲从中来。

被代码撕开的人性遮羞布

AI技术的不当运用可能引发的不只是诈骗、诬陷、报复、勒索那么简单，它所掀起的信任危机，将会把每一个个体都卷入其中。

过去对电信诈骗不堪其扰的人，未来在AI诈骗面前可能无处可逃。更可怕的地方在于，一旦AI技术被不当利用且与社交媒体结合，还可能造成假新闻泛滥。如果有不法分子控制了新闻机构的网站或账户，发布一些不实消息，则可能造成更大范围的恐慌。

这可能正是法国哲学家鲍德里亚形容的后现代社会的典型特征之一：曾经被当作“原初”的“真”已经失去，人类社会进入复制时代，一切都在复制和再生产，一切都是“虚假”的，而“虚假”的已经变成真的。

技术的问题，可能最终还得通过技术来攻克。为了规避AI技术存在的潜在风险，欧美的国家安全机构已经致力研发一些“反AI”工具，力图以AI攻克AI。美国国防部高级研究计划局已找到一些突破口，研究人员发现，通过观察眼睛的状态，比如是否眨眼，可以检测出哪张是AI合成的脸，哪张是真实的脸。

虽然如此，AI和反AI的角力大概会一直持续下去，各位研究人员应当铭记：技术本身无罪，但运用技术的人应该善良。