警惕“AI换声”隐患 莫让“耳听为虚”成常态

赵鑫

社会

近日，多个中国明星开口“说”英语的視频引发热议。视频中的人物中英文表达自然真实，音乐几乎匹配本人，口型和字幕同步。

据悉，这些视频出自AI人像视频工具。该工具支持多种输入语言和输出语言，用户只需上传视频，选择语言，就能自动翻译、生成和原嘴型、声线都匹配的新视频。对此，有网友表示，这种技术看起来很炫酷，应用场景很广泛，未来可能会越来越成熟。但也有网友表示担忧，“这会不会被用来模仿声音进行诈骗？”“再加上换脸，以后网上啥都不能信了。”“以后视频造假会越来越容易。”还有网友表示：“希望AI技术发展能被控制在正轨。”

（摘自网络，2023年11月10日）

素材解读

AI技术是把“双刃剑”，以假乱真的声音带来的绝不仅仅是我们今天看到“明星说外语”时的“哈哈一笑”，更重要的是，“耳听为虚”可能变成一种“常态”，给社会安全稳定运行带来潜在风险。一方面，AI换脸及换声技术对于工作效率的提高具有非常强的作用。另一方面，近年来，有不法分子为了牟利，利用AI技术进行诈骗。

科学技术是魔杖，它可以改变我们的生活，改变我们的世界。所以，有人说：“正因为科学技术的存在，才有了人类社会的向前发展。”科学技术运用的好坏，完全取决于我们人类自己。正所谓：科技兴，人类兴！科技运用好，人类社会发展盛！相反，如果把某种科学技术当成奴役或者驱使人们的工具，其结果是可想而知的。

适用话题

科技发展、利与弊、约束、创新、守法……