从ChatGPT火爆看智能生成内容的风险及治理
2023-11-19金雪涛周也馨
金雪涛 周也馨
【摘要】人工智能技术的发展,为内容生产领域带来了生产力和生产关系的变革,智能生成内容(AIGC)成为继专业生成内容(PGC)、用户生成内容(UGC)后全新的内容生产模式,各类AIGC应用在海内外市场上广受关注。文章从关键技术、生产主体、版权主体/确权、市场主导力量、虚实关系等方面入手,廓清AIGC带来的产业结构性变革,对AIGC所带来的加剧“信息茧房”、造成信息失真、产生技术伦理及增大版权管理难度等问题进行说明,进而提出基于风险分类的动态治理、基于主体职责的系统管理、基于全球视角的协同治理等措施,以期为AIGC治理提供一定的参考。
【关键词】AIGC GPT 算法 版权归属 技术伦理 综合治理
【中图分类号】G206 【文献标识码】A 【文章编号】1003-6687(2023)11-029-07
【DOI】 10.13786/j.cnki.cn14-1066/g2.2023.11.004
2023年年初,ChatGPT一跃成为AI技术应用的顶流,学界、业界对生成式预训练语言模型的智能程序、生产内容及各类影响进行了激烈和广泛的讨论,话题持续升温。ChatGPT是基于自然语言处理和深度学习的对话式人工智能模型,[1]带来AI内容创作领域生产力和生产关系的新变革。在深度学习的强大语言模型以及人类反馈强化学习技术加持下,ChatGPT能够独立进行问答互动、文字翻译及代码撰写等工作,在媒体、教育、医疗、游戏等行业具有广泛的应用前景。换言之,以ChatGPT为代表的智能生成内容正在成为AI领域的商业新前沿。
自ChatGPT在市场中应用以来,内容供给和需求方就将其视为内容生产中降低成本、提升效率的重要工具,对其未来的业务模式拓展及商业模式创新充满期待,但也需关注智能技术的应用在逐渐取代人的决策和行为时所带来的技术负外部性问题。具体到ChatGPT带来的AIGC热潮,其所带来的风险既包含以往人工智能固有的问题,也具备新的特征。
本研究基于内容生成的演进路径,分析人工智能在生成文本、图像、音频、视频以及多模态内容中的不同应用场景,探究AIGC在助力内容孪生、内容编辑、内容创作过程中显现出的加剧“信息茧房”、造成信息失真、产生技术伦理、增大版权管理难度等问题,进而提出基于风险分类的动态治理、基于主体职责的系统管理、基于全球视角的协同治理等措施,为AIGC的发展提供参考。
一、内容生成的演进特征:从Web1.0到Web3.0
尽管在Web1.0阶段,互联网也是一对多的传播媒介,但其强大的多样态内容集成功能使其一出现便超越了报纸、广播、电视等一对多传播的传统媒体。当数字技术推动互联网从多元互动的Web2.0阶段演进到智能化的Web3.0阶段,互联网已成为连接人与人关系的重要媒介。在互联网的发展历程中,内容生产模式不断迭代升级,从Web1.0的PGC,到Web2.0的UGC+PUGC,再到延续至今的Web3.0的AIGC主导,内容生产的关键技术、生产主体、版权主體/确权、市场主导力量、虚实关系等都发生了巨大变化(见表1)。
1. Web1.0:专家生成内容时代
Web1.0时代,用户通过Web浏览器单向获取内容,搜索技术、即时通信技术以脚本语言技术为重要基础,具有高度中心化的特征。内容生产主体为具备相关知识的专业机构或团队,专业生产内容成为主要内容生产模式,互联网呈现出多样态内容可读形态,非交互性明显。在PGC模式下,版权主体多为机构,版权的确权需通过权威的第三方机构,具有中心化的特征,PGC的典型场景依托主要门户网站,市场主导力量是网站等数字化平台。从虚实间关系来看,此时的线上世界还不能即时即刻地反映现实世界,也较难实现互动操作,很多线上内容是用户离场的非亲历(非具身)的信息或数据,也即用户与事件在时空上不同步。
2. Web2.0:用户生成内容时代
当技术实现了网络上的供求交互,Web2.0走向成熟,社交媒体随之产生,这也标志着互联网从一对多的传播转向了多对多的互动。互联网技术的不断进步,打破了传受双方的界限,受众在被动接受内容的同时,开始注重自身的主动性,逐渐具备创作意识。
此时,内容的呈现不再单单依赖脚本语言,而是使用内容聚合技术。用户成为内容的产消者,用户生成内容成为新兴的网络信息资源创作与组织模式,[2]Web2.0呈现出多样态内容可读可写可交互形态。从版权主体和确权过程看,UGC、PUGC的版权主体多为用户或用户与签约公司共有,确权及版权保护依然依赖于权威的第三方机构。用户可根据所创作内容自发组建不同的网络社群,社群经济、粉丝经济随之诞生。此环境下,典型场景依托移动互联网和社交媒体,“数字化平台+数字化社群”成为Web2.0时代的市场主导力量。从虚实间关系看,在AR、VR、全息影像等技术的加持下,用户离场但具身感受虚拟场景(如云上博物馆),或被中介化在场具身体验真实场景(如远程医疗手术),实现了用户与事件在时间上同步但空间上不同步。Web2.0呈现出内容+应用的主要特征,但由于UGC的低门槛,导致互联网中的内容质量参差不齐、内容更新时间不固定,因此在专业机构指导下的用户内容生成应运而生,成为用户、平台甚至社会新的需求。
3. Web3.0与元宇宙:人工智能生成内容时代
如果说Web1.0是可读的互联网,Web2.0是可读、可写的互联网,那么Web3.0则是可读、可写、可拥有的互联网。随着区块链、AR、VR、MR、XR、AI等技术的发展,去中心化的网络逐渐形成。伴随2014年深度学习算法生成对抗网络的推出,深度学习在人工智能机器层面的应用加快。以数字内容为支撑的元宇宙,需要在保证内容质量的基础上提高内容生产效率。受创作者水平、激励措施等因素的影响,[3]PGC与UGC供给逐渐乏力,AIGC成为继PGC、UGC之后以模型为主导的新型内容生产模式。
AIGC的内容生产行为主体不再是人,而是算法与智能机器。尽管机器是否可成为版权所有者依然存在争议,但在区块链技术的加持下,去中心化的确权、信息安全及可追溯、智能合约自动执行版权分配及保护已经实现。元宇宙成为Web3.0的市场主导力量,“基础设施+应用”成为Web3.0显现出的主要特征。从虚实关系看,AIGC所适应的元宇宙已从增强现实技术演进到模拟技术,新兴的数字技术实现了对现实世界的孪生(镜像世界),未来将创造出与现实世界互相交融和操作的虚拟世界。在这个集体虚拟共享的空间中,用户可通过元宇宙提供的虚拟世界引擎创造实景的在场具身感受,也可以离场具身或中介化具身,相互交互和探索相关联的虚拟世界,也即用户与事件可以在时空上同步,或时间上同步但空间上不同步。当前,代表AIGC最新进展的应用就是OpenAI公司研发的ChatGPT,其完成了机器学习算法中自然语言处理技术的大幅度跨越,实现了人工内容生成模式向机器内容生成模式的转换。虽然仍处于初级阶段,但在资本的加码和应用场景的不断扩大中,AIGC发展态势持续向好。
二、智能生成内容的应用场景分析
基于算力、预训练模型和多模态技术的不断升级与发展,AIGC可生成四种基本的内容形式,即文本、音频、图像、视频,在此基础上进行跨模态生成,应用场景丰富。目前,不同的内容生成模式已广泛应用于传媒、影视、电商、游戏等数字化程度高且需求旺盛的行业。
1. 生成文本:降本增效
语言模型是增强AIGC认知能力的关键。通过AI技术智能生成文字,可降低人工和时间成本,实现降本增效。文本生成分为交互式与非交互式,非交互式包括辅助性写作、结构化写作、非结构化写作。用户输入一段描述或要求,AI可从数据库中自动抓取相关内容,根据指令完成文字创作。当前,作为AI交互性文本的代表性应用,ChatGPT拥有文本理解的能力,可根据聊天语境与用户交流,并具有论文撰写、搜索引擎功能。此外,在电商行业,AI客服可与消费者进行实时交流,从而提高购物转换率。在教育领域,AI中文写作智能辅导系统“小花狮”可实时批改作业,提高学习效率。AI非交互性文本集中应用于媒体行业。在新闻采编过程中,媒体可借助结构化写作快速生成新闻作品,提高效率。例如,在2017年四川阿坝州九寨沟地震中,机器人仅用25秒就完成540字的新闻稿件,极大地增强了新闻时效性。此外,字幕自动生成器、语音智能转换文字软件也被应用于媒体作品制作环节。在影视行业,借助AIGC的非结构化写作功能,可实现剧情续写,如《你好,李焕英》《流浪地球》等影视作品都加入了AI创作内容。
2. 生成音频:个性化定制
智能音频生成是利用深度神经网络模型对大量音频数据进行训练学习,[4]使AI具备语音识别、对话生成的能力,自动生成高质量音频,包括音乐、语音及定制话语等。在音乐领域,AI借助大规模Transformer模型,可预测序列中的下一个音符,智能生成音乐。如OpenAI研发的MuseNet,可用10种不同乐器生成4分钟的音乐作品。智能音频生成技术可在不同场景中对生成音频进行定制化处理,满足用户需求。例如,高德地图通过语音克隆,建立明星音频库,根据用户需求模仿不同明星的声音提供导航服务。如喜马拉雅等有声阅读平台借助TTS(Text-to-Speech)技术使声音成为更智能的数字产品,拓展“耳朵经济”的商业化探索,声音定制化成为新趋势。[5]此外,在医疗领域,情绪疗愈机器人Emohaa可构建以生成对话为核心的交互式数字诊疗方案,及时提供针对性的情绪支持与心理疏导,使患者保持心理健康。
3. 生成图像:提升品质
生成式对抗网络是AIGC使用的关键算法,极大地提高了生成图像的逼真度。生成图像的类型包括图像数据集的生成、图像联想创作、图像修复等。图像数据集主要是指AI通过提取用户输入图像的特征形成新的图像合集,如谷歌的Deep Dream Generator可上传图像并选择风格,生成新图像。图像联想创作包括照片编辑、照片转换卡通头像、人体新姿势生成、照片融合、不同年龄段图片生成等,丰富了网络用户的娱乐生活,Face、美图秀秀、醒图等图像编辑软件的美颜、换肤、换发型、加滤镜等功能,深受用户喜爱。在图像修复方面,利用AI进行画质增强修复已得到普遍应用,如在2022百度世界大会上,通过AI完美地修复了《富春山居图》残卷,从视觉上提高了作品的观赏价值。在网络视频行业,优酷、爱奇艺等综合视频平台通过对部分经典剧进行画质增强,提升影片清晰度,增强用户黏性。
4. 生成视频:释放创意潜力
视觉模型是增强AIGC感知能力的关键。AIGC+视频生成技术是基于多个卷积神经网络、循环神经网络、生成式对抗网络、变分自动编码器的组合。[6]生成视频包括生成型、编辑型、定制型、数字虚拟人型。在電商行业,虚拟主播带货、商品虚拟试戴是智能生成视频的典型应用。多数品牌推出在线虚拟试戴功能,用户可了解商品与自身的适配度,提升在线购物体验。媒体行业也积极布局AI虚拟主播技术,将其应用于重要活动的报道或主持中,以推动传统媒体的数字化发展。编辑型生成视频主要应用于AI换脸。在影视行业,影视剧通过AI换脸替代劣迹艺人或“复活”已故艺人,从而保证影片顺利播出,如《流浪星球2》利用AI“复活”已故演员吴孟达。另外,影视公司也可通过AI直接生成视频内容。例如,IBM Watson制作出电影Morgan的预告片,极大地提高了创作效率。在游戏行业,AIGC的NPC逻辑自动生成技术不仅可以完成游戏内部场景和故事的搭建,还可以在游戏中建立代表自我的数字人,独立完成活动任务。[7]例如,《黑客帝国:觉醒》通过虚拟引擎技术实现游戏中车辆行人独立于玩家操控变动。
5. 生成多模态内容:升级AIGC创作能力
在大数据模型的不断训练中,AI模型知识积累量远大于人类,逐渐由单模态向多模态方向发展。多模态大模型是AIGC原生性创作的关键,既可以寻找不同模态之间的对应关系,也可以将不同模态的数据进行转化。当前,多模态模型生成内容已广泛应用于媒体、影视、互联网、游戏等行业。例如,在电商行业,图片搜索引擎已得到广泛应用;在新媒体行业,九锤配音、加音、XAudioPro、剪映等媒体公司可基于文档自动生成解说配音。AI绘画是不同模态相互转化的典型应用,为创意产业提供了新的灵感,如2022年8月,美国游戏设计师Jason Allen凭借AI绘画作品《太空歌剧院》击败人类画家作品。在3D物体生成方面,AIGC的2D图像生成3D模型主要是GANverse3D建立在2D照片基础上训练的生成对抗网络,通过合成数千个对象的多个视图来预测3D几何、纹理和零件分割标签,如英伟达的GANverse3D可利用汽车照片生成3D模型,并在NVIDIA Omnivers中行驶。
三、存在问题及风险
神经网络等数字技术的迭代升级助力AIGC内容孪生、内容编辑与内容创作三大功能的综合应用。内容孪生能力是将现实世界中物理属性和社会属性高效、可感知地进行数字化;内容编辑能力是通过高效率仿真和低成本试错,为现实世界的应用提供快速迭代能力,打通现实与虚拟的通道;内容创作能力指通过机器深度学习和算法构建形成自我演化支持海量内容生产。这三大能力在支持全新内容生产力、服务人类社会经济各方面的同时,带来加剧“信息茧房”、造成信息失真、产生技术伦理、增大版权管理难度等问题。
1. 加剧“信息茧房”
AIGC的内容孪生功能依赖于现实场景中的原始数据重构逼真的数字世界,原始数据的完整度影响所孪生的数字内容。一方面,大数据时代,算法推荐成为数字媒体平台的基础功能,用户数据为算法推荐积累了丰富的原材料,算法通过加工原材料洞悉用户的行为特征、心理特征,进行有针对性的内容生产。算法推荐所具有的突出性、排他性、隐蔽性,将用户驯化为信息的奴隶,用户成为被潜化的对象性工具,经过筛选的原始数据所造成的“信息茧房”问题也被带入AIGC所孪生的数字世界。另一方面,GPT的出现一定程度上打破了搜索时代的“信息茧房”,但又建立起基于深度学习、深度计算和深度投喂的新型信息壁垒。GPT的运行离不开大语言模型与其背后强大的数据库,算法程序的运行逐渐切断了用户与原始信息的连接,GPT在一次次的迭代中掌握使用者的偏好,从而产生偏见,将用户笼罩在其所建造的新的“茧房”中,形成认知困境。
2. 造成信息失真
以ChatGPT为代表的对话式机器人依靠自身强大的互動模式,影响了现有搜索引擎的业务体系。但它不能像传统搜索引擎一样随时调取互联网信息,实时更新数据库,而是基于语言模型,通过调用过去的大量文本进行数据处理,在不需要理解对话内容的前提下与用户进行拟人化沟通。公开资料显示,ChatGPT的训练数据是由OpenAI团队训练和提供的,是对2021年及以前的数据内容进行学习、分析和再造,具有滞后性。机器所生成的内容并不能与人类语料同步,由此导致内容严谨性缺失。与此同时,算法歧视一直贯穿人工智能技术发展的整个过程。相关技术或因控制人员通过计算机禁止命令输出带有主观价值的内容,或因抓取数据时的语料限制,无法避免算法阐释的偏见甚至出现歧视性言论,例如微软机器人Tay曾出现过极端暴力言论,这一问题不容忽视。
此外,深度伪造技术令机器可通过样本学习,借助神经网络技术将人类的容貌、声音或肢体动作等合为一体,形成新的人体图像或直接进行AI换脸。由于所合成媒体作品的高度真实性与拟人化,其内容在传播中对受众的思想、社会行为甚至企业的经济活动产生显著影响,以至于在面临造假风险的同时,既可能造成个人名誉受损,也存在媒体丧失公信力的风险。
3. 产生技术伦理问题
AI产生的伦理问题主要包括个人隐私泄露和技术成瘾等。正如前文所述,AIGC的内容编辑是在语义理解的基础上,对原有内容进行编辑或再生成,那么数据所有者面临主体控制权丧失,导致个人数据或隐私被泄露和不当利用风险;[8]当人们过度沉浸于网络世界,会产生对互联网的依赖,长期使用电子设备会产生电子设备依赖,导致心理问题和过度疲劳综合征;同样,AIGC的便利也会蚕食相关领域工作者独立思考的能力,使其丧失自主求知欲,特别是知识获取的便利性和零成本会导致学习者陷入技术依赖和AI上瘾的陷阱,[9]从而在数字世界形成虚假信息的堆积。当前,学界和业界都在深入思考与辩论,未来机器智能是否会全面代替人类智能,从而引发社会秩序混乱的风险。
4. 增大版权管理难度
在知识产权法的规则内,著作权法保护作品一定是来源于人的创作。在算法与深度学习技术的助力下,AI通过模仿和概念学习实现内容创作,不可避免地出现著作权(版权)问题及算法风险。自人工智能出现,学界对于智能生成内容可否作为作品的争论从未停止。有学者认为,人工智能生成内容在著作权法上可视为代表设计者或训练者意志的创作行为,[10]满足独创性要求,即具备可版权性。[11]由此,可认为人工智能生成内容属于知识产权保护下的作品。但更多学者与知识产权保护部门认为,人工智能生成内容的著作权归属问题尚未解决。
一方面,ChatGPT由GPT-3.5系列提供技术支持,参数量超过1 750亿,[12]巨大的参数使其可以理解人类不同指令的含义,处理多元化的任务,生成内容使用的是由机器深度学习所进化的算法,未曾被控制者所预见。也就是说,ChatGPT在非结构化写作中,开始具备创意,所生成内容具有创新性。从此角度看,AIGC版权可归属AI。另一方面,以ChatGPT为代表的人工智能生成内容虽然由机器生产,但其背后仍包含着设计者或控制者的思维逻辑,机器只是代码转换的工具,并不具备自我意识,人工智能仍是服务于人类的工具。[13]即便现阶段的人工智能通过算法优化实现感知,拥有深度学习能力,但在人机交互的过程中也只能最大化地模拟人类进行交流,无法摆脱机器属性,因此AIGC版权应归属人类。此外,虽然ChatGPT在文本生成中是对原始材料进行合理修改,但原始材料的作者是否授权无法保证,存在侵犯著作权风险。
四、关于智能生成内容治理的思考
如今,在以信息革命为主的第四次工业革命中,智能生成内容带来了一场巨大的生产力变革,越来越多的行业使用人工智能进行内容生产。AIGC在内容生产的过程中产生了难以预测的新风险,相关治理迫在眉睫。
1. 基于风险分类的动态管理
当前,由于AIGC自身技术不断升级更新,加之与外部应用的连接端口逐渐开放,导致不可预测的风险频发。考虑到技术的负外部性导致的风险程度有所不同,对于AIGC的治理不可一刀切,而是应根据实际风险程度进行差异化治理。
2023年6月14日,欧盟通过的《人工智能法案》确立了基于风险的人工智能治理范式,将人工智能划分为四个不同的风险类别:最小风险、有限风险、高风险和不可接受风险,并针对各个等级制定实施差异化监管。[14]该法案提出,将对人工智能进行区别管理,按照人工智能的新发展新场景新应用划分不同的风险类别,风险较高的应用程序将面临更严格的管理,需要更高的透明度和准确性,这在一定程度上为智能生成内容提供了治理思路。
需要指出的是,《人工智能法案》中对于风险的规划可视为对于人工智能进行风险预测,而预测风险属于静态过程,还需从静态的风险划分转为动态的风险监测。[15]2023年7月13日,国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广播电视总局发布《生成式人工智能服务管理暂行办法》,其中规定了暂行办法的适用范围是“利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务”,同时更多体现了对新技术应用的鼓励和审慎的监管思路,如要求生成式人工智能提供者要对相关生成性文本、图片、声音、视频等内容进行标识,保护个人隐私,采取有效措施防止沉迷等。但未来还需要在风险分类的基础上建立人工智能风险评测平台,有针对性地创建风险监测模型,将其纳入AIGC的生成步骤中,在持续的动态过程中,针对不同风险情况制定相应的治理措施。这种技术治理技术的方式将成为人工智能产业赋能各行各业持续健康发展的基础保障。
2. 基于主体职责的系统化管理
基于强大的语言处理与深度学习能力,AIGC呈现出鲜明的类人化特征。面对技术效能爆发式增长的生成式人工智能,封闭、单一、传统的监管运行机制难以从“政府—市场”这一传统二元架构下汲取足够的监管资源。[16]对于AIGC的治理,不能再局限在数据筛选或算法逻辑等上中游阶段,而应将治理范畴拓展至场景应用的下游阶段,重点关注内容输出主体,明确责任划分体系,建立基于主体的体系化管理系统。所谓系统化管理,既需要技术和服务提供的经济主体内部自我规制,又需要来自政府的外部规制,两者共同发力,构建以主体为核心的问责机制。
AIGC内部自我规制主体包括技术开发者和服务提供者。对于技术开发者,要明确的是,新兴技术发展与人的主观意志尤其是人的伦理道德素质密切相关,使得技术伦理风险的产生具有一定主观性,[17]人工智能所输出内容的文化价值偏向意味着AIGC模型开发者的算法素养。只有主体以社会责任为导向进行算法技术更新,才能同时提高内容生产效率和质量。服务提供者多是从商业角度出发,为获取经济利益进行市场活动,因此,自我规制的重点在于所提供服务的安全性以及社会责任。如微软、谷歌等国外一些大型数字平台已经通过设置内部道德委员会来进行自我监管,[18]避免其在商业领域的滥用。此外,在各种AIGC软件不断开放的环境下,用户作为重要的参与主体,由于人工智能素养参差不齐,所创作的内容质量、AIGC的用途各不相同,那么P-AIGC也许可以成为继PUGC之后的一种内容复合生成模式,通过发挥机构的力量保障内容的品质及机构应承担的社会责任。
性别歧视、刻板印象、数据泄露等问题,依靠企业或行业的自律性管控还远远不够,需要来自政府的外部规制共同施力,相关法律法规的制定与实施至关重要。2021年10月29日,国家市场监督管理总局发布了《互联网平台落实主体责任指南(征求意见稿)》,明确提出平台企业应落实主体责任。2022年3月1日實施的《互联网信息服务算法推荐管理规定》明确规定了算法推荐服务提供者的算法安全主体责任。由此可看出,基于算法主体的治理是国内人工智能治理的重要发展方向。同时,国家市场监督管理总局公布的《互联网平台分类分级指南(征求意见稿)》将互联网平台分为三级六类。不同类型、不同等级的平台所承担的主体责任不同,只有将主体责任和公共治理进行有机结合,才能实现协同治理。总之,在基于主体责任的体系化管理中,政府、企业、社会可以尝试分享监管权并建立合作,形成监管的互动机制,促进开放式的多元主体协同治理。
3. 基于全球视角的协同治理
英国哲学技术家大卫·克林格里奇在《技术的社会控制》中提出“克林格里奇困境”,即如果过早对技术实施控制,技术难以创新和发展;如果控制过晚,技术容易走向失控,并带来昂贵的治理成本,甚至难以改变。可见,技术管控的介入时间尤为重要。就AIGC而言,一方面,其正值发展上升期;另一方面,风险与危害层出不穷,具体的法律和规则尚不明晰。若想促进AIGC的可持续发展,应推进全球技术发展与治理的协同,积极寻求二者的协调与平衡。
从微观出发,AIGC产业链包括上游的数据服务、中游的算法模型与下游的应用拓展。当前智能治理的关键在于所有与技术治理相关的事物,均被转化为同质的可计算数据信息。[19]如今爆火的ChatGPT,就是在大量数据驱动下的生成内容。基于智能生成内容一直存在的版权问题,可考虑通过数据所有权进行版权的分割。2023年3月,中共中央、国务院印发了《党和国家机构改革方案》,国家发展和改革委员会管理机构组建国家数据局,负责协调推进数据基础制度建设,统筹数据资源整合共享和开发利用,统筹推进数字中国、数字经济、数字社会规划和建设等。[20]以此来看,国家数据局不仅可以改善市场上数据垄断的问题,也为AIGC的版权问题提供了新思路。
从宏观出发,技术的管理模式应结合不同的国情加以选择和调适,统筹多种实施战略。诸种战略的运行都应具有本土化特色,既不存在某一种普适战略(如计划),也不存在某种全球通用的唯一模式。因此,应从全球治理格局出发,加强国际国内交流,根据各国的法律规范、道德体系等取最大公约数,制定合理的人工智能治理公约。在具体的实施中,根据各国情况进行本地化改进,提升治理效果。面向国内,想要完善智能式内容生成的监管生态,需加快推进人工智能立法进程。伴随我国《生成式人工智能服务管理暂行办法》的出台,在国际交流中,我国应积极搭建开放式参与平台,在国际生成式人工智能治理进程中贡献中国力量。
结语
当前,AIGC发展仍处于初级阶段,关键技术尚不成熟,各种风险难以预测。为了更好地推动技术发展与治理并行,可尝试将静态的风险预测转变为动态的风险监测。在各类应用场景中,根据用户反馈及时进行技术升级,从而提高风险识别能力与治理效率。进一步明确界定AIGC的责任主体边界,厘清主体责任,促进市场主体与政府主体的协同规制,同时推广P-AIGC模式,发挥机构的作用,保障内容的品质及机构应承担的社会责任。在全球AIGC技术不断发展的背景下,不同国家的技术开发者与政策制定者应通力合作,共同制定相应的管控措施,政府也应将伦理考量纳入AI发展的生命周期之中,加强对相关利益群体的伦理教育,形成多主体共治、全球系统共治的局面。在技术和商业模式不断更新迭代之下,应在AIGC的技术创新与技术治理之间寻找平衡点,使两者更好地可持续发展。
参考文献:
[1] Chatterjee J, Dethlefs N. This new conversational AI model can be your friend, philosopher, and guide……and even your worst enemy[J]. Patterns, 2023, 4(1): 1-3.
[2] 赵宇翔,范哲,朱庆华. 用户生成内容(UGC)概念解析及研究进展[J]. 中国图书馆学报,2012(5):68-81.
[3] 陈永伟. Web 3.0:变革与应对[J]. 东北财经大学学报,2022(6):27-39.
[4] 路远,胡峰. AIGC技术在智慧广电与网络新视听中的应用探析[J]. 影视制作,2023,29(3):43-47.
[5] Sharma Ankit, Kumar Puneet, Maddukuri Vikas, et al. Fast Griffin Lim based waveform generation strategy for text-to-speech synthesis[J]. Multimedia Tools and Applications, 2020, 79(41-42): 30205-30233.
[6] Ian Goodfellow, Jean Pouget-Abadie,Mehdi Mirza,et al.Generative Adversarial Networks[J]. Communications of the ACM, 2020, 22(10): 139-144.
[7] Sagredo-Olivenza I,Gomez-Martin·P. P, Gomez-Martin·M. A, et al. Trained Behavior Trees: Programming by Demonstration to Support AI Game Designers[J]. IEEE Transactions on Games, 2017, 11(1): 5-14.
[8] 金雪濤. 算法治理:体系建构与措施进路[J]. 人民论坛·学术前沿,2022(10):44-53.
[9] 邓建鹏,朱怿成. ChatGPT模型的法律风险及应对之策[J]. 新疆师范大学学报(哲学社会科学版),2023(5):1-11.
[10] 吴汉东. 人工智能生成作品的著作权法之问[J]. 中外法学,2020,32(3):653-673.
[11] 熊琦. 人工智能生成内容的著作权认定[J]. 知识产权,2017(3):3-8.
[12] Zhang M, Li J.A commentary of GPT-3 in MIT Technology Review 2021[J]. 自然科学基础研究(英文版),2021,1(6):3.
[13] 丛立先. 人工智能生成内容的可版权性与版权归属[J]. 中国出版,2019(1):11-14.
[14] 曾雄,梁正,张辉. 欧盟人工智能的规制路径及其对我国的启示——以《人工智能法案》为分析对象[J]. 电子政务,2022(9):63-72.
[15] 张璐. 通用人工智能风险治理与监管初探——ChatGPT引发的问题与挑战[J]. 电子政务,2023(9):1-11.
[16] 张欣. 生成式人工智能的算法治理挑战与治理型监管[J]. 现代法学,2023,45(3):108-123.
[17] 安慧影,黄朝峰,李阳.新兴技术伦理风险协同治理研究[J/OL].[2023-03-25].https://kns.cnki.net/kcms2/article/abstract?v=3uoqIhG8C45S0n9fL2suRadTyEVl2pW9UrhTDCdPD65alre2xrs7D5YM7fFBga-VUamlQwPeUH8XvSCMUnFynLNTjI4GjS06&uniplatform=NZKPT.
[18] Lewis D, Moorkens J. A Rights-Based Approach to Trustworthy AI in Social Media[J]. Social Media+Society, 2020, 6(3): 1-13.
[19] 刘永谋. 智能治理的哲学反思[J]. 中国人民大学学报,2022,36(3):46-55.
[20] 中共中央 国务院印发《党和国家机构改革方案》[EB/OL].[2023-03-16].http://www.gov.cn/gongbao/content/2023/content_5748649.htm.
基金项目:亚洲传媒项目“中日韩文化领域数字藏品(NFT)的应用与平台架构比较研究”(AMRC2022-2);国家社会科学基金一般项目“数字经济背景下我国体育服务业与新媒体融合效果及融合创新研究”(20BTY052)
作者信息:金雪涛(1973— ),女,北京人,中国传媒大学国际传媒教育学院教授、博士生导师,主要研究方向:数字经济、传媒经济;周也馨(1997— ),女,内蒙古呼伦贝尔人,中国传媒大学经济与管理学院博士研究生,主要研究方向:传媒经济学。