技术的另一面是风险

马佳一

近日，一段美国歌手泰勒·斯威夫特“说”中文的短视频在网络刷屏，引发热议。视频中，泰勒·斯威夫特“说”着流利中文，音色和讲母语时类似，甚至连口型都能对上。与此同时，郭德纲“讲”英文相声的视频也引起人们关注，大家纷纷感叹AI真是强大。

对于这样的视频，人们的第一反应恐怕是一愣，然后用常识就能判断其真伪。作出这种鉴别并不难，难的是当“被AI”的不是明星而是身边亲朋好友，或者明星说的是本国语言时，公众是否还具有这种鉴别力？以AI技术的发展速度看，大概不能对此“打包票”。

就此类生成式AI的技术原理而言，首先是把相关数据上传AI模型，比如人脸的面部特征、声音的音长音高等，再将使用者需求输入模型由系统运算，最后输出结果。如此，就能实现郭德纲说英文或泰勒·斯威夫特说中文的效果。这种生成式AI原来有一些技术不完善的地方，比如人体晃动时画面掉帧、AI生成部分与本人面部边缘处有明显拼接痕迹等，但现在网上比较火的那几個视频却似乎已经解决了这些问题。

总之，AI正在朝着越来越智能的方向演进。可以想象一下，如果ChatGPT聊天机器人变得更加智能，响应速度更快，再把它与这项AI换脸技术相结合，是否可以形成与“泰勒·斯威夫特”自由对话的可能。这种技术想象的另一面，是信息安全风险，关乎个人的隐私权利。

在“被AI”者一端，涉及个人肖像权、声音权。我国民法典规定了合理使用行为可以不经肖像权人许可，但合理使用的行为要求、范围要求都有限制。例如，民法典第一千零二十条规定，为个人学习、艺术欣赏、课堂教学或者科学研究，可以在必要范围内使用肖像权人已经公开的肖像。如今，借助AI应用生成相关视频是否属于合理使用却有争议——因为肖像权人的肖像虽然是公开的，但使用者的目的并非是法定目的的任何一种，且因其向全网传播，显然也超出了民法典规定的“必要范围”。所以，市场上各式各样的生成式AI，其实带有天然的侵权风险。

站在不特定的公众一端，则有受骗的风险。这既包括利用生成式AI诈骗钱财，也包括利用生成式AI制作虚假代言广告、进行违法犯罪活动。前不久，影星斯嘉丽·约翰逊还对一家AI应用开发商提起诉讼，事由是开发商利用其拍摄的电影花絮制作广告。所以，尽管大多数的生成式AI还处在“玩玩而已”的范畴，却不可忽视它已经具备某些不太光彩的应用场景。特别是我国已经出现了有人因AI换脸被诈骗、有人利用AI换脸从事淫秽色情活动的事例。对于监管部门而言，一方面，要对违法犯罪行为严厉打击，另一方面，有必要要求开发商把数字水印作为必要项，并且这个水印不能被放在视频的边边角角，而应该与画面主体有重叠，以此防备生成式AI被滥用。

技术本身并无价值观，但操纵技术的人有。在刚刚结束的全球首届AI安全峰会上，包括中国、美国、英国在内的28个国家及欧盟共同签署了《布莱奇利宣言》，呼吁以安全、以人为本、值得信赖和负责任的方式设计、开发、部署和使用AI——“负责任”即是遵守法律、合乎道德，它应当成为业内的共识。

（选自《中国青年报》2023年11月8日，有删节）

◆提炼

这篇时评的最大特点就是逆向思维的运用。作者没有对公众大为赞叹并寄予厚望的AI生成技术一味叫好，而是冷静思考、理性分析，指出其潜在风险。开篇叙述现代技术让斯威夫特“说”中文、郭德纲“讲”英语，大众感叹AI的强大，引出下文对其带来的社会问题的思考，从社会对AI普遍叫好中转入对“被AI”的真伪鉴别的思考，进而引出对AI技术导致的风险的分析。由此，可见作者独到的眼光和求异性思维。然后从专业角度分析生成式AI技术的特点以及导致的诸多社会问题，为下文进一步分析做铺垫。周密的分析和铺垫，加上合理想象，水到渠成地得出自己的推论一：ChatGPT与AI技术结合会产生信息安全风险，可能侵犯个人隐私权，有理有据。援引民法典条文，进一步交代生成式AI制作运用可能“侵犯个人肖像权、声音权”的法律依据。这是逆向思维的关键所在——言之有据。再从公众一方分析，得出推论二：利用生成式AI进行违法犯罪活动可致公众受骗的风险。这里以国内外实例为论据，证明自己所言不虚；同时提出解决问题的举措，使主题进一步拓展。结尾以新近召开的全球首届AI安全峰会主题为例，印证使用AI技术必须遵法守德，规避风险。这篇时评不仅观点新颖，而且论证充实、内容雄辩、分析理性，非常丰富。

我们在借鉴运用逆向思维时，要注意以下两个方面：

1.对求异思维的硬支撑。逆向思维的运用，会导出不合众口的观点。这时候我们就需要拿出过硬的论据给自己的观点以支撑。如这则时评在分析AI生成技术可能导致的侵权行为和欺诈行为时，先是援引民法典条文，后又列举新近发生的典型案例佐证自己的观点，使文章有理有据，不容置辩。

2.对逻辑推理的严要求。求异思维需要有严密的逻辑推理，而非信口开河。如这篇时评，作者为了表达“技术的另一面是风险”的观点，表现自己对AI技术可能导致的违法违规风险的忧虑，研究了AI技术和ChatGPT技术的特点及发展，查阅了民法典，搜集了中外与此相关的典型案例……所以推理过程环环紧扣、严丝合缝，具有不可辩驳的逻辑力量。