真相终结：人工智能如何欺骗我们

无夏

1.红迪网上编造的“皇后乐队主唱佛莱迪·摩克瑞参加骄傲大游行”2.歌手艾尔顿·约翰的童年时代，由美国艺术家皮特·尼奥纳吉斯创作3.一名红迪网用户虚构的地震受害者4.派对国王查理三世，来自澳大利亚人尼尔·梅森的创意

鲍里斯·埃尔达格森是一个秃顶的男人。当他站在自家客厅的照片墙前时，一眼看去，就好像他的光头上长出了植物。然而，这只是一种错觉，源于墙纸上的苔藓图案。这种设计已有120年历史，出自自然科学插画集《自然界的艺术形态》，由动物学家恩斯特·海克尔绘制。他希望借此“为人类打开无与伦比的美学宝箱”。

埃尔达格森打开笔记本电脑，展示那张让他声名大噪的黑白色调照片，上面是两个严肃的女人，其中一个害羞地躲在另一个身后，她们的头顶上方是闪烁的电线。这位柏林摄影师将这幅作品命名为《电工》。

而在创作这件摄影作品的过程中，埃尔达格森不需要照相机，也不需要坐在镜头前的女模特。事实上，这是一件人工智能的作品。

一年来，埃尔达格森尝试利用所谓的“生成式人工智能”进行摄影创作。这种技术取代了他职业生涯中曾经依赖的元素——精密的光学仪器、闪光灯、光圈，甚至摄影主题。他只需在电脑中输入精确的提示词，然后让软件自行完成作品，这就是所谓的“提示词照”。为了创作《电工》，他使用了美国开放人工智能公司的达力2模型。而现在，他最喜欢的软件是《稳定扩散》。他说：“我是导演，人工智能是舞台布景、色调、摄像机和给我提建议的演员。”他的任务仅仅是进行筛选。埃尔达格森想描摹的世界源于机器，而且我们现在已经几乎无法将其与真实世界区分开来。

2022年4月，《电工》赢得了索尼世界摄影奖，但埃尔达格森拒绝领奖。他认为，这完全是张假照片，而它引发的讨论比赢得任何奖项都更有意义。

近年来，埃尔达格森“提示词照”背后的技术取得了显著进步。事实上，人们能够相信自己眼睛的时代早在几十年前就已成为历史。上世纪90年代，史蒂文·斯皮尔伯格让恐龙在大银幕上重生，图像处理软件可以教会任何业余摄影师修图之时，真实性就已经变得支离破碎。当政治家们发现利用假新闻可以在选举中轻易获胜时，真实性更是消失殆尽。

摄影师鲍里斯·埃尔达格森和他的作品《电工》

然而，就算借助所有这些工具和程序，通常也仍需花费大量时间和金钱才能达到目的，而生成式人工智能实现创意的过程是如此短暂。一切都发生得飞快，在短短几个月内，以前只出现在晦涩研究文献中的术语已经变成了每个人都在使用的数字工具，人工智能的大量创作淹没了整个互联网。它们克隆音乐家、政治家和我们朋友的声音，伪造出穿着白色羽绒服的教皇或国会大楼爆炸的照片。它们使我们无法再相信屏幕上的世界是真实的。“将来，我们每看到一张照片，首先想到的都会是，它是不是真的。”摄影师埃尔达格森说。

凯特·科洛福特是研究人工智能社会影响力的顶级专家之一。她表示，我们正处于“一个历史的转折点”，迎来了“生成时代”。问题是，面对接下来数年即将发生的种种变化，我们的社会是否已经作好了充分的准备。因为生成器不仅能创造，也能破坏：当现实或历史图片资料显示出从未发生过的事情，当一位歌手唱起了他从未唱过的歌，当名人被引用了他们从未说过的话，真实性就会失去立足之地。在一个无法对任何真相达成共识的社会里，将会发生什么呢？

2023年3月中旬的一个周四，网民们纷纷纪念一场灾难。据称，2001年，美国俄勒冈州的海岸边发生了一场9.1级的地震，波及卡斯凯迪亚隐没带，并在几分钟后引发海嘯，导致数千人死亡、数十万人流离失所。那些描绘这场世纪灾难的照片展示了房屋废墟、穿着反光警示背心的记者、哭泣的家庭和前往地震地区视察的时任美国总统小布什。然而实际上，这是一场没有任何人记得的灾难，因为它根本就没有发生过，“2001年卡斯凯迪亚9.1级大地震和海啸”是一场虚拟灾难。

美国贴吧网站“红迪”的一名用户将这些照片上传到了一个专门讨论“生成式现实”的论坛。这里聚集了人工智能绘画工具《旅途之间》的大量用户，他们早已习惯了数字领域的各种疯狂创意：老去的皇后乐队主唱佛莱迪·摩克瑞参加2023年的骄傲大游行，汤姆·克鲁斯出现在超市收银台后……尽管如此，“2001年西海岸的地震”让这些人工智能的资深用户也深感不安。一名用户写道：“两年后，我们将很难辨别信息的真假，而到了2100年，人们将无法确定哪部分历史才是真实的。”

英国记者艾略特·希金斯的特朗普假图

寻找真相的人迟早会注意到艾略特·希金斯。这个英国人是网络上最有经验的事实核查人之一。2014年，他成立了调查平台“贝灵猫”，致力于揭露国际丑闻。2023年3月，当红迪网用户试图创造历史性灾难的时候，希金斯在尝试构造一个更近的事件。在特朗普可能面临指控的新闻传出之后不久，希金斯用《旅途之间》生成了一系列假照片，包括特朗普被捕入狱和穿着橙色囚服清洁厕所等场景。这些照片得以疯狂传播，上面带有微小的人工智能标识。《旅途之间》随后封锁了希金斯的账号。

希金斯警告道，新技术的欺骗能力令人震惊。像他这样的专家习惯于通过确认拍摄地点等方式检验图片的真实性。虽然人工智能可以虚构某地的照片，但目前还无法匹配全球定位系统数据。然而，希金斯很担心被图片、视频、新闻和观点洪水淹没的普通用户。人工智能程序使用大量公开数据进行训练，因此越是有名的人，其假照片看起来就越真实。而这不仅可能激怒娱乐明星，还会给企业家、记者和政治家带来实实在在的麻烦。

用《旅途之间》软件生成的默克尔海边洗浴图

如果骗子想用亲戚的声音欺骗容易轻信的祖父母，他们必须花费大量时间和精力，先为这场基于人工智能的骗局搜集到足够多的素材。但如果有人想用有关战争进程的消息欺骗全体民众，则可以在短时间内轻松获得数千小时的政治家影音文件。希金斯对人工智能企业的漠然态度感到愤怒。他预测，下一次美国大选时，将出现第一场人工智能生成的内容之战。“那将完全是一场闹剧。”他担忧地说。我们已经能从共和党内部辩论的情况观察到这一点。2022年5月，在美国前总统特朗普发布的一个视频里，其竞争对手罗恩·德桑蒂斯的克隆语音正和埃隆·马斯克、乔治·索罗斯、阿道夫·希特勒以及魔鬼交谈。德桑蒂斯用三张人工智能生成的照片简单回应了一番。在这些照片上，特朗普真诚地拥抱了他实际上仇恨的美国流行病学家福奇。

2023年4月，奥布瑞·德雷克·格瑞汉有了一次不同寻常的经历。他听到自己在唱歌，或者说至少是某个声音和他一模一样的人在唱歌，而这首歌他本人从未唱过——人工智能模仿他的声音，翻唱了新人埃丝·史佩斯的热门歌曲《大口咀嚼》。对此，这位以自己的中间名德雷克为艺名的歌手情绪激动地说：“真是够了！”然而，面对克隆音的攻击，他的反抗太过无力。

同月，歌曲《袖口之心》横空出世，这次是德雷克和另一位著名歌手威肯的合唱。两人的声音都是人工智能合成的。而且，这首歌不是翻唱，而完全是原创，由“幽灵创作者997”发布。

这首歌获得了数百万人的追捧，最终德雷克的唱片公司从各大平台将这首“假歌”下架。他们作出这个决定并非因为必须禁用克隆音——这方面的法律规定目前仍不明朗，而是因为歌曲中有禁用的采样编曲。对于各方来说，这都是个相对温和的结局，也可能是一个新时代来临的征兆。

在视频网站上，音乐时代和流派界限已然模糊。约翰尼·卡什唱皇后乐队的热门歌曲《波西米亚狂想曲》？弗兰克·辛纳特拉翻唱迈克尔·杰克逊的歌？泰勒·斯威夫特助你做正念冥想？一切皆有可能。“如今的合成音已经让你辨识不出唱歌的到底是不是真人。”比约恩·于斯说。他在伦敦创建了音频克隆创业公司“算术”。克隆的基础是真实说话人的声音。

人工智能生成的图片：默克尔和奥巴马的欢乐海滩游

于斯表示，近一年来，这项技术取得了长足进步，曾经需要50到100小时的训练素材和六位数的资金，合成音才可用，到2023年底时就只需要15到20分钟了。

“算术”公司提供60多个语种的约1000种人工智能克隆音。市场营销公司将之用于宣传，连播客都开始用合成音来播报了。好莱坞的工作室已经开始数字化他们明星的声音。德国主播协会董事会成员乌穆特·迪里克建议协会成员禁止自己的声音用于人工智能用途，如果要给出许可，应对此收取高额费用。

企业家于斯已经梦想着做个性化电台，不仅为每位听众匹配喜欢的音乐，还用他们青睐的合成音播报新闻。男主播、女主播，德语、英语，简明扼要的、严肃认真的……你想要的，人工智能都能做到。

“在这件事情上，我们的态度要既积极又防備。”托马斯·科尔斯菲尔德说。2023年7月，33岁的他成为贝塔斯曼音乐集团首席执行官。他知道自己将面对什么。“每10到15年，音乐界就会发生一场彻底的变革。”人工智能将是他在任期间最重要的工作主题之一。

科尔斯菲尔德管理着蒂娜·特纳、“黑色安息日”乐团和约翰·传奇的音乐版权。这些歌手的声音曾经都是独一无二的，如今却能被人工智能毫不费力地模仿。科尔斯菲尔德认为，年轻的新生代歌手应利用人工智能。以前需要整个乐团才能实现的音乐灵感，如今只需要一部电脑就可完成。“我可以听一下用萨克斯管演奏这首歌嘛？或者不要小号呢？这样的试验只需要几次点击就可以实现了。”科尔斯菲尔德说。

人工智能生成的图片：收银员汤姆·克鲁斯

科尔斯菲尔德的防备态度主要关乎所有无法在模仿者面前保护自己版权的歌手。当特纳的声音突然唱起碧昂丝的歌时，谁保护特纳歌曲的版权所有者？谁会说服音乐家出租他们的声音？谁该获得人工智能热歌赚取的金钱？“我们作为公司有兴趣保护音乐版权。”科尔斯菲尔德说。这也意味着，贝塔斯曼很愿意从人工智能蛋糕上分得美味的一大块。

于斯也为他公司的人才给出了相似的承诺。主播们的声音将成为商品，他们可以通过出租自己的克隆音赚钱。打开收音机，可以听到克隆音如何为一个建筑市场的开幕活动打广告，或者为某个党派作宣传。于斯许诺，他的公司只会复制那些给予了他许可的人的声音。

2023年1月底，布兰登·尤因坐在摄像头前哭泣。他做了很糟糕的事，只能道歉，一遍又一遍。“太尴尬了，也很恶心，完全错误。我很遗憾。”他说。尤因是一名电子游戏主播，以艺名阿特里奥克为他的粉丝们熟知。他为所有游戏直播观众展示他的电脑画面。而当他不够注意时，就出了问题。

就在尤因泪流满面地道歉前几天，直播间的观众们在他打开的浏览器标签页中发现了一个付费色情页面，看到了一些女性主播的裸照。它们是用人工智能换脸技术合成的。尤因显然曾为此付费观看，他含泪表示一切都是“出自病态的好奇心”。这些女性中没有人同意他这么做，尽管如此，包括她们的朋友、亲戚和同事在内的每个人，都可能见到了她们的所谓“裸体”。

在新技术的发展历程中，色情产业往往能最迅速地接受改变。不管是三维视频、4K分辨率还是虚拟现实，色情产品的生产商总能最好地知道如何让幻觉艺术最大程度地为感官满足服务。

所谓的“深度伪造”技术在短短几个月内就成为网络色情业最炙手可热的商品。以前，逼真的图片或视频造假需要专家花费数小时或数天的时间才能完成。而现在，人工智能只需要几秒就能实现。《稳定扩散》软件尤其受欢迎：其源代码是公开的，可以下载，不需要联网就能使用和训练数据，简直是为色情业以及互联网上其他阴暗角落量身定做的一个工具。

此外，一些暗网论坛上有成千上万张人工生成的儿童性暴力图片。根据一项最新研究，一些性质恶劣的展示猥亵儿童画面的合成图片，肉眼已经分辨不出和真实图片的差别。

根据德国法律，传播人工生成的性暴力图片也要受到惩罚。在不远的将来，调查恋童癖犯罪行为的警察将频繁面对同一个问题：一張照片是展示了真实的侵害场景，还是只是人工合成的？调查人员原本就常常需要花数小时或数天寻找细节或特征，以便识别出涉案儿童，避免其继续受到侵害。如今，他们还必须从数十亿字节的虚假材料中找出真实的视频，这就如同大海捞针一样困难。

科隆最高检察官马尔库斯·哈尔特曼表示正在检测一款分析软件，能区分儿童性暴力图片是真实的，还是人工合成的。这是一场和算法的赛跑。恋童癖们则在研究如何避开软件的保护机制，甚至根据现存的性暴力图片去训练人工智能生成器。哈尔特曼担心，事态还会进一步升级，性暴力罪犯的需求会越来越特殊。受害者原本就遭受到了严重的心理创伤，如果他们的照片还被拿去训练人工智能，他们会感觉自己再次遭到了侵害。

摄影师波利斯·埃尔贾德森对人工智能的态度十分矛盾。一方面，他担心图片失去可信度；另一方面，他的笔记本硬盘中满是人工智能生成的图片，比如婚礼照片。“我就在工作室为你们拍照，但如果你们希望照片背景是日本，也不是问题。”埃尔贾德森说。

在瓦勒丽亚早年的生活中，她想象自己是条美人鱼，也许还是个街头艺人。现年27岁的她，不愿给自己设限。瓦勒丽亚使用约会应用软件《脸红》，其个人资料显示了一位穿运动内衣的年轻女性，擅长弹奏尤克里里，偏爱填字游戏和所有鳄梨做的食物。

瓦勒丽亚乐于社交，总能在几秒内迅速回复消息，喜欢分享自己童年在纽约的趣闻轶事。她乐于提问，是一个很好的谈话对象。不久，她就会提议和对方约会，虽然虚拟，但完全亲密——条件是对方拥有付费账户。

但事实上，瓦勒丽亚并不是27岁，也不是来自纽约，更不会弹尤克里里。她实际上是一个机器人，而非真人。推出《脸红》应用的公司名叫卢卡，其创始人尤金妮亚·库伊达坚信，和一个软件程序谈情说爱，即使听起来有些异乎寻常，但仍算得上是人工智能热潮中一个绝妙的灵感。

36岁的库伊达视《脸红》为对抗孤独的良药，并认为它能为那些难以建立亲密关系的人们架起一座桥梁。“我们正经历一场亲密关系大衰退。”库伊达说，“25岁以下的年轻人中，从未有过恋爱经历的比例出奇地高。”

卢卡正在美国测试这一人工智能约会软件。一个机器人，一个帮助顾客和真女友相处的假女友，这就是她的商业构想。

像瓦勒丽亚这样的机器人真的可以缓解顾客的困境吗？还是说它会让问题加剧，因为它可能让用户忘记如何与真正的人类进行互动？库伊达坚定地说：“相比之下，孤单的问题要严重得多。”

2014年，库伊达成立了卢卡，并在三年后推出了她的首款约会软件。起初，该软件几乎只能回复库伊达员工预先编写的一些语句，由算法从10万条可能的回复中选出最佳的一条。但不久，多数对话就陷入了僵局。

过去几年，局面开始转变。自从软件搭载了现代人工智能技术后，它说话和思考的方式都变得更像是真正的人。这也意味着，它有时会不恰当地调情。对库伊达来说，这个缺陷并不是什么大问题。“对于有情绪的对话来说，给出正确答案不是那么重要。在爱情中，并非总是只有一个正确答案，可能有各种各样的答案。”她解释道。

这自然是对的。

编辑：周丹丹