用AI技术“复活”逝者,界限在哪?
2024-04-16张建
近段时间,有两则新闻让人忧心:一则是中国某大学教授在国外期刊公开发表的SCI论文,由于内容携带ChatGPT常用提示词,被不少网友质疑使用了AI写作忘记删除和修改。还有一则是有博主发布了用AI复活李玟、乔任梁、高以翔的视频,很多粉丝表达了怀念之情,但家属表示“不能接受”。
前者,尽管很多学校宣布禁止在课堂、作业和评估中使用ChatGPT或其他AI工具,但是,有些学生或者老师对新技术带来的便利性缺乏抵抗力。论文一路过关斩将,说明新技术带来的造假和作弊防范起来并不那么容易。但无论如何,“封杀派”和“拥抱派”基本达成共识:需厘清ChatGPT的应用场景和边界,划定底线、明确规则。
如果说ChatGPT的“作恶”还在于诚信层面,那么用AI复活逝去的生命,就直接关系到人类终极命题——生与死,存在与消亡。
“重现”的情感慰藉
所谓AI“复活”逝者,即利用人工智能技术,将逝去亲人的文字描述、图片、视频和声音资料输入AI算法模型,从而模拟生成一个数字形象,具备逝者的性格、记忆、图像、视频和声音。
著名音乐人包小柏用AI“重现”逝去的女儿的报道引发广泛关注。
2019年,包小柏20岁的女儿包容患上一种罕见的血液疾病,不幸于2021年12月去世。女儿去世后,包小柏难以走出失去女儿的阴影,甚至不敢面对亲友的安慰。
2022年7月,包小柏来到北京,在与老友的谈心过程中,他提出:有没有可能把女儿的影像和声音变成一个虚拟人物放进元宇宙里?当时,包小柏的设想还只是卡通2D动画的虚拟,但令他感动的是,一个多月后,老友拿出一份计划书摆在他面前。“大概是一个三张A3纸大小的计划,上面的标题就是《包容碳基生命转数字生命计划》。当时预计第一年研究大语言模型训练,2023年底进行所有的语音训练,到2025年达成现在的互动效果。”包小柏说。
尽管“重现”的过程困难重重,但最终,包小柏还是如愿见到了“女儿”。
“重现”女儿之后,包小柏希望帮助更多有同样需求的人。他和朋友在北京组建了一家AI科技公司,找到了事业的新方向。该公司为人们留存声音,让人们可以与逝去的亲人沟通。包小柏在台湾做专题演讲,普及AI技术,让人们理解,拥有这个工具能得到的慰藉。
在生成式AI技术的发展浪潮之下,与逝去的亲人“再见一面”似乎日渐成为可能。
对于突然失去父亲的柳芳(化名)来说,身在异乡没有见到父亲最后一面是人生最大的遗憾。回到家乡,办完父亲的后事,看到父亲曾经坐过的沙发,或是无意中点开和父亲聊天的微信,她的眼泪就会止不住地流下来。
“他在弥留之际想和我说什么?是不是还会叮嘱我好好吃饭?不要和丈夫闹脾气?”难过时,柳芳总是把自己关在房间里,一遍遍地翻看自己和父亲的聊天记录。
直到在短视频平台上刷到有商家提供AI“复活”亲人的服务,柳芳像抓到了救命稻草一般,很快下了单。她说:“我很想再看到父亲,即便知道那是不真实的,但我还是很渴望听到父亲对我说话,听一听他的叮嘱。”
支付200多元并提供了父亲生前的录音和照片,还有她希望听到父亲说的话,柳芳收到一段短视频。视频里,父亲微笑着对她说着话,短短几十秒,柳芳看了几十遍。
用AI技术“复活”的边界
目前,已有不同类型的技术可将去世亲人重现在生者面前,比如实体的仿真机器人,或通过AI、VR等虚拟技术造出数字人。不过,科技进步也带来了争议。
李玟坐在镜头前和观众打招呼:我永远都会陪伴着你们;乔任梁说:其实我并没有真正离开;高以翔告诉粉丝:我的心永远和你们在一起……AI技术让已经去世的公众人物“重回人间”,一些视频在网上广泛传播,栩栩如生的“明星们”变成数字永生人,在屏幕上向粉丝亲切打招呼,激起粉丝的热情回应。
对此,明星亲属表示不接受。高以翔的家人和乔任梁的父亲相继喊话相关博主,要求下架有关视频。3月16日,乔任梁的父亲接受采访时表示:“他们未征求我们同意,是我侄女刷到视频发给我的,这是在揭伤疤。”3月17日,江歌妈妈发文:“不接受用AI‘复活’亲人!如果能‘复活’,也仅限于我亲自来做这件事!你们不懂我们,又凭什么为我们(我与女儿)做决定!”
用AI技术“复活”明星的视频出现之初,就有两种声音。有网友表示,听到自己喜欢的明星说话的那一刻,眼泪都出来了,很希望TA还活在世间;还有人希望博主能“复活”更多想念的人,寄托美好心愿。但是,有的网友却不赞同这种做法,认为用这种方式“重回人间”并不是明星本人的意愿,甚至是对其家人的二次伤害。
有评论指出,AI技术为阴阳相隔的人提供了可以穿梭的通道,尽管只是人造的幻象,已足以让死亡被重新定义。但个体之间差异何其之大,这种技术注定要面对道德伦理与法律法规的双重审视。在道德伦理层面,生与死还有边界吗?云端永生的生命形态,还能被定义为“人”吗?被复活的人要如何说“不”?在法律法规层面,数字生命的权益该如何界定和保障?他与活着的家属是什么关系?活着的家属的权利呢?如何化解可能面临的法律风险?又该如何监管,以防止技术滥用?即便“数字生命”真的成为无法抵挡的现实,这一系列待解的风险和困境,仍然需要引起足够重视。
南京信息工程大学人工智能学院院长潘志庚表示,用AI技术“复活”逝者,技术上没有问题,但是伦理问题要慎重,人们的情感接受度还需要一个过程。
“复活”尚需法律规范
值得一提的是,用AI“复活”李玟的博主自称是因受到粉丝请求义务做的。然而,在视频评论区,有人却打着温情的名义趁机做起AI推广、收费服务,不少网友咨询该博主制作逝者“复活”视频怎么收费。有媒体与其中一位相关博主取得联系后,对方迅速发来了一则收费清单,表示制作去世艺人的视频不收费,“复活”其他逝者则要收取一定手工费。
争议之下,热度却是肉眼可见,“复活”似乎成了新的流量密码。
在社交平台,一些“AI复活师”账号很活跃。这些账号通过发布已逝名人的AI视频“吸睛”,并在简介中声称可以通过AI技术定制数字人、克隆声音、修复照片,还能“复活”已逝亲人,定制他们的音频和视频。目前,部分“AI复活师”的视频已被平台标注“内容疑似AI生成,请谨慎甄别”。
除了“AI复活”账号,“AI复活套餐”在购物平台也可随意检索到,且价格更加低廉。同时,网络上还流传着一些“复活”教程。
受访业内人士透露,作为生成式AI技术落地应用的一个细分领域,正在尝试提供用AI技术“复活”逝者服务的,有初创团队,也有头部企业。由于各种原因,这门特殊的生意整体上还处于低调谨慎的探索阶段。
北京嘉维律师事务所律师赵占领表示,目前,虽然人工智能技术在我国兴起的时间不长,2023年7月颁布的《生成式人工智能服务管理暂行办法》等规定的出台相对及时,但对于数字“复活”等技术,目前尚未有专门的法律法规,可能需要在未来出现问题时逐步进行规范。
在中国传媒大学文化产业管理学院法律系主任郑宁看来,为保障逝者的人格权益,制作方只有经过逝者继承人的同意才能进行相关“复活”操作。同时,制作方在利用AI技术数字“复活”逝者后,还需要承担一些法律责任。
人类对未知世界的好奇与探索,是科技创新的恒久动力。对于一项新技术,在总体方向上,公众理应对其创新、突破、满足人们日益多元的新需求乐见其成。但法律法规、社会公序良俗和道德伦理的边界和底线,绝对不容突破。科技本身也许没有善恶,但人们今天立好的路标,关系到它未来的走向。保持对生命的敬畏,坚守人之所以为人的伦理底线,以更高阶的“算法”把牢“科技向善”的方向盘,或许能让飞驰而来的AI列车稳稳运行在文明的轨道上。
(资料来源:法治日报、上观新闻、扬子晚报网、光明网)