AIGC对于数字内容产业的影响逻辑与应用治理

［摘 要］2022年年末，OpenAI发布了基于其GPT-3模型的理论迭代而成的智能聊天对话产品ChatGPT，该产品具有的极高的语言组织性能，甚至可以参与众多内容创作工作。AIGC这一概念由此再一次受到了全世界的关注。通过这些AI工具，用户可以更轻松的参与到数字内容的创作中，随着用户的增多，ChatGPT的使用所带来的一系列社会问题也开始引起各方重视，其中在媒体行业所带来的冲击与挑战尤其明显。文章探讨现阶段ChatGPT等AI创作工具對数字内容相关产业尤其是传媒业所带来的影响，分析产生这些影响的根源何在以及未来可能会面对的种种挑战。

［关键词］AIGC；人工智能；新闻；冲击

［中图分类号］G206 ［文献标志码］A［文章编号］2095-0292（2023）06-0148-05

［收稿日期］2023-09-26

［作者简介］蒋昌磊，三明学院助教，硕士，研究方向：新闻传播、数字多媒体技术。

一、研究背景

人工智能技术在近年得到了飞速的发展，尤其是以2022年底OpenAI公司发布以GPT-3大语言模型为技术架构的聊天机器人ChatGPT为标志，人工智能技术正式进入了一个全新的发展纪元。随着ChatGPT带来的引领者效应，各大互联网厂商纷纷入局大数据大模型的战场，推出各自拥有知识产权的人工智能模型：谷歌的PaLM、Meta的LLaMA、百度的文心、腾讯的混元、华为的盘古等等，由此AIGC（AI Generated Content）的技术概念开始重新回到大众视野［1］（P66-74）。

AIGC概念最初破圈式传播源自于AI绘图所带动的热潮，标志性事件是Stability.AI公司发布自己的text-to-image模型Stable Diffusion，将AI绘画这一领域的入门门槛带入到个人消费级市场，个人用户由此有机会进入到AIGC的队伍当中。只可惜，动辄上万级别的设备硬件投入还是没有办法覆盖绝大多数的用户。正是在这样的背景之下，此轮由ChatGPT的发布所带来的新一轮AIGC的革命才会具有如此强烈的社会效应和产业效应，背靠云服务的AIGC产品使得用户创作的门槛直接消失，而市场也真正的看到了当所有人都可以参与到AI创作之后所能爆发出来的创造力和想象力，从而开始真正的下决心投入市场竞争，形成一种良性循环。

二、AIGC的定义与发展

AIGC全称为AI Generated Content，直译为：人工智能内容生成。即采用人工智能技术来自动生产内容，是一种区别于传统的UGC和PGC的全新内容生产模式［2］（P36-47）。传统的内容生产模式需要依托制作人主体，无论是用户还是机构自己制作内容，都需要经过：内容素材的发现与收集、节目内容策划、素材堆积与内容编辑、审核校对、平台发布，这一系列完整的流程。诚然，当今世界已经进入了自媒体时代，内容的制作、拍摄与剪辑已经可以算作一项大众技能，但是用户对于软件的上手以及审美甚至于设备硬件条件，都会对最终的成片效果产生不小的影响。因此哪怕是现在这个时间点，制作数字内容对内容生产者的专业性还是提出了不小的要求。

严格来说，数字内容产业早就开始将AI技术运用到了日常的内容生产工作中，传媒、影视、电商、娱乐等领域都不乏AI技术的身影。但是早期对于AI的使用更多的还是将AI技术作为一种辅助功能进行使用。譬如在视频拍摄过程中通过AI进行精确的面部识别追踪、视频自动调色、自动生成字幕、自动对视频进行拆条或者分配章节等。这些功能确实极大的提升了内容制作的效率，降低了制作人员的制作压力，同时还能提高成片的质量。但是这个阶段的使用其实并没有跳出UGC或者是PGC的框架，视频制作的核心还是在于内容策划者对于整个数字内容的把握，是很依赖于“创意”的内容生产方式。

结合整个互联网讨论度和参与度的情况来看，最早打破AI参与内容制作平衡的标志性事件，是2022年8月份左右Stability.AI将Stable Diffusion开源并且发布给大众使用，引领整个CG行业进入了AI绘画“大炼丹”时代。从这个时间点开始，严格意义上的AIGC内容生产模式才正式进入大众视野。当AI发展进入这个阶段之后，AI已经不是单纯的辅助内容创作，帮助进行一些机械重复工作的工具，而是可以充当真正的内容生产者。举例来说，当给予Stable Diffusion的开源模型足够的训练之后，用户只需要像现实中的甲方一样，给与乙方（AI）自己的需求，比如要生成一只猫、一只狗、甚至是生成一个什么样的人，正在摆出一个什么样的姿势，AI就能够根据需求生成对应的CG图像，而用户只需要在生成的图像中挑选一张满意的图像，整个制作流程就完成了。

这样的技术实际上在多年以前就已经能够实现，只是未能在整个互联网世界普及开来，最大的原因还是在于前文所述，此前AI的计算对于硬件的开销空前的巨大，实现对应的技术所要消耗的硬件资源并不是普通的个人消费级用户能够承受的。因此在早期阶段，AI才更多的作为辅助的角色参与到内容制作中。时至今日，AI的使用门槛已经足够的低，甚至当ChatGPT这类的产品出现之后，AI的使用门槛甚至已经低到只要有互联网就能够进行AI创作，AIGC这一概念才得到充分的实践，推动AIGC的相关作品数量在互联网上爆发式增加。可以肯定的说，AIGC相关技术的出现极大丰富了数字内容的产出，但是其所带来的众多的行业冲击乃至于造成的社会问题也需要更多的研究人员加以重视。

三、AIGC在数字产业的应用现状

如前文所述，传统的PGC与UGC内容的制作流程因为其对于专业性的需求，实际上并没有充分的调动互联网用户对于数字内容的创作欲望。将创意付诸实践的策划能力、视频音频的制作技巧、硬件设备等等这些条件都是全民参与内容创作的巨大阻碍。AIGC相关技术的出现成为了打破这种局面的关键。从技术层面来说，AI能够完成的工作主要来自三个方面：数字内容的跨领域生成、数字内容的编辑、数字内容的自动化生成。

（一）数字内容的跨领域生成

这种技术尤其是以智能语音生成和自动字幕生成为代表。能够将内容从文字这种二维的内容领域转变成声音像内容。典型案例就是各种抖音等短视频中的AI配音，如今AI配音已经能够比较好的还原人的语音语调，可以说已经没有了曾经那种很浓重的机械“口音”，甚至可以提供各种风格化的语音语调，让内容创作者可以全身心的投入到视频文案的制作中而不需要担心如何将文案表达的问题。除此之外图像或者视频的超分辨率处理，字幕的自动生成、视频素材风格化渲染等也都是AI将数字内容跨领域处理的体现。

（二）数字内容的编辑

在数字内容的制作过程，有很多精细的操作是非常消耗制作人专注力的，譬如视频内容调色，背景虚化、抠图处理、主讲人瑕疵修复等等后期编辑细节。这些细节的修饰都需要编辑人员拥有深厚的技术功底甚至于艺术美感，而现在越来越多的非编软件已经内置AI引擎，用户可以通过直接调用风格化滤镜，自动捕捉面部，自动调色等等功能去实现之前繁琐的画面内容修正。

（三）数字内容的自动化生成

相比于上述两个已经普遍运用的AI技术，现如今这轮AI革命与之前相比，最大的创新点和增长点莫过于数字内容的自动生成。以ChatGPT为代表的大模型人工智能通过前期巨大的数据训练，让所有的用户都可以脱离技术的束缚。内容的生产者只需要给定自己创意的描述，这些AI就能根据描述生成具有极高完成度的作品。这一点在以文案创作为和核心的新闻传播业和绘画行业两个行业内的影响尤其明显，特别是绘画行业，一些以用户自产的绘画为经营点的平台诸如PixivFANBOX不得不采取措施，直接强制开辟AI作品的分区，甚至有相当一段时间禁止AI作品的上传。

四、AIGC对于数字产业的影响逻辑

正是因为AIGC对于整个数字内容生产流程的革命，原先的产业结构、产业规则、参与的流程等等要素注定将重新进行洗牌，谁能在新一轮的洗牌中脱颖而出谁就能掌握数字产业全新世代的主动权［3］（P88-90）。由此，在这种产业转型的关键时期，把握好产业转型的影响逻辑是分析数字产业发展方向的必要手段。

（一）核心技术逻辑

如前文所述，AI参与数字内容的制作并不是近几年才兴起的高端技术，而此次技术革命最大的技术突破在于硬件设备要求的大幅度降低以及自动化的内容生成，两者缺一不可。硬件要求的降低保证了绝大多数的用户能够跨过数字内容生产的门槛，用户能够生产内容的前提终究还是用户拥有内容生产的工具，再好的厨师没有足够的预算买炊具，后续的料理也就无从谈起。当参与制作的人数规模足够多之后，产业的价值就会马上体现出来，抖音短视频的成功就可见端倪。另一方面，自动化的内容生成就是让用户愿意参与内容制作的关键。很多人开始发现，自己有了一个想法，有了一个创意，不需要多少的专業知识就能够由AI代笔，慢慢的生成出来，而这种奇妙的体验会促使越来越多的人释放他们的创意基因，形成一种指数式的爆发。

（二）内容生产逻辑

传统的内容生产模式高度依赖于内容作者的策划能力和创造力，是一个从0到1的过程，这样的生产过程使得传统流程中，数字内容的整体构建效率并不是非常理想。归根到底，创作思路的凝练非常创新性及探索性，而这些思考方式高度依赖创作者已有知识、技能及当下一瞬间的灵感。整个创作过程需要打破常规、需要大量的试错，这些都是传统内容生产的精神内耗。而AI的自动内容生成能力就可以有效的缓解这种内耗，创造的过程变成了和AI一起开展一场“头脑风暴”的会议，由AI根据需求自动生成数个样例，创作者在这之中筛选可以使用的或者能够参考的样例，把最困难的0到1的思路创造变成1到2思路迭代，在极大提高效率的同时也能够减轻生成内容的精神负担。并且在这种与AI多次磨合（训练）的过程中，AI能够学习创作者的创作习惯、创作思路、创作风格等，然后更进一步的帮助创作者节省时间，提高创作的效率。

（三）行业结构逻辑

此次AI革命除了对数字内容作业流程的影响，更需要关注其对整个数字产业产生的影响。在AI的助力下，数字内容的创作、分发、推荐等环节的效率大大提高，产业链在事实上是得到了一系列的优化和重塑：AI可以在创作阶段作为辅助工具提供文本生成、图像编辑等自动化操作，在分发阶段可以根据用户制作的数据内容类型，针对受众等提供智能推荐服务，而最终在推荐阶段可以根据观众的实际需求和喜好进行个性化推送等。以上这些仅仅是AI对于行业影响的其中一个方面，AI的应用也引领了新的商业模式的出现。例如，有些企业将AI作为一个服务（AI as a Service）提供，让用户可以按需使用AI进行内容创作；一些新兴企业利用AI生成的虚拟主播或者虚拟宠物进行商业化运作，创造出一种全新的企业形态。可以看见，现在这个时代拥有强大AI技术和大量数据的企业在竞争中占据了绝对优势，这些企业可以生成更高质量和更个性化的内容，从而吸引更多的用户，这必将导致市场的进一步集中，形成“赢者通吃”的竞争格局。

五、AIGC带来的隐患风险

智能AI所带来的优势不必多言，越来越多的媒体和机构开始尝试使用AI辅助内容的创作，可以说AI参与加入内容制作流程已经是行业大势。但同时这种内容生产方式是否符合创作一直是各方争议的焦点和关键。当用户在疯狂的进行AI生成内容创作的时候，部分机构、高校甚至是政府部分已经意识到了其所带来的巨大的风险与隐患。

（一）版权保护受到冲击

对于AI创作的使用，首先必须要讨论的一定是对于版权内容应当如何保护。现有的AI大模型都是通过类似于无监督学习或者生成对抗网络等AI训练方法进行大模型的生成，不可避免的需要大量现成训练材料，然而绝大多数材料都是直接从网络上搜罗而来并且大部分都没有经过原作者的同意或者授权，这样的行为对于传统的内容创作者来说是极大的伤害。举例来说，CG绘画圈内这种问题尤其严重，因为Stable Diffusion是一个开源模型，因此很多个人用户会自己擅自的收集一些网络画师的CG绘画并且直接用这些绘画进行训练，然后通过AI生成与该作者极其相似笔法的CG绘画进行发布甚至是售卖，在很长的一段时间内，整个CG画师的圈子都掀起了一种抗拒在网络社交平台发布自己作品的风潮，引发了一系列舆情事件。这些其实只是版权保护漏洞的冰山一角，随着AI技术的进一步革新，如果不对AI的训练加以限制，对版权的冲击必将愈演愈烈。

（二）内容质量难以把握

不可否认，在大多数情况下，AI提供的内容生产结果都是符合预期甚至于可以直接进行平台发布的高质量内容。但是因为AI内容生产的本质是对于概率的一种推演，AI按照训练模型时产生的一系列概率参数进行内容的生产，比如用户输入“今天我想吃……”AI就会根据上下文进行概率上的联想，生产如“今天我想吃炸鸡”一类的结果［4］（P16-25）。这就产生了一个致命的问题，至少在现有的AI技术上，这些人工智能是不存在自身的一个纠偏和校对机制的，AI只会根据上下文的连贯性给用户生成在“语法上正确”的结果。上述特性决定了当用户所需的内容要求一定的客观事实时，AI生成的结果可靠性将极速的降低，这种情况的外在表现就是AI出现了“一本正经的胡说八道”。下图对于碎叶城的介绍就是典型案例，AI的描述用语和前后结构都是在语法上没有问题的，但是“内容”在客观事实上几乎是没有任何参考价值（真实的碎叶城，又作素叶城，其故址位于吉尔吉斯坦托克马克城西南8公里处的阿克-贝希姆）。当使用这种文章生产的各类营销号短视频借着平台快速扩散，大批量的错误信息就会像病毒一样扩散出去，对媒体行业的可信度会造成重大打击。

（三）道德伦理面临挑战

AI的随机性生成虽然会带来对于结果内容的不确定性，但是这样的问题可以通过给与更多的信息量或者直接靠堆积尝试次数等方式进行修正和弥补。真正让有关部门和组织高度警惕的，是由纠错机制的缺失而带来的道德伦理问题［5］（P123-128）。AI本身虽然足够强大，但是如前文所述它本身并没有真正的思考能力，因此没办法像人类一样有对于问题的筛选和过滤机制。举例来说，在ChatGPT早期版本，用户是可以很轻松的问到冰毒的制作方法或者是抢劫的准备步骤，内容的正确与否先不讨论，单单能够回答这样明显违法的问题就足够让监管部门提心吊胆，是一个非常危险的信号。陈然OpenAI已经注意到了相关问题，并且相对应的建立了筛选机制，能够适当的阻止一些问题的产生。但是通过黑名单式的问题筛选一定是存在漏洞的，如何进一步的防止风险发生是一个亟待解决的问题。不仅如此，AI生成的一些具有政治偏见或者可能对某些群体或者事件冒犯性的内容，也可能引发社会和道德争议［6］（P15-23）。相较于前述的可能涉及犯罪的情况，这种细微的冒犯性内容在日常使用中更容易出现，并且隐秘性足够强，很难甄别。更让人头疼的是很难保证AI的运营商是否有主观上的故意，监管难度极高［7］（P5-12）。

（四）创作流程过度依赖

越来越多的媒体工作者和高校已经注意到，AI相关的工具已經大量的出现在内部的工作流或者是科研工作中，AI的内容生产能力作为一个辅助工具来说确实能大幅提高工作效率，但是因为其强大的功能，越来越多人开始对其产生了依赖性以及对于思考的惰性。很多人开始忽视甚至于是丧失了自己的创作能力，更多时候都在想如何通过AI走捷径，完成内容的创作。这样的工作流程不可避免的导致内容开始空心化及同质化，AI框住了用户的创作思路，而跳不出去的创作思路又会导致用户只能继续使用AI完成创作过程，最终陷入到一种死循环中。

（五）隐私机密缺乏保护

当所有人都在享受AI所带来的福利的同时，不要忘记其必然带来的隐私风险。现阶段的AI服务基本都是以输入需要返回对应结果为基本的服务模式。输入意味着上传，而上传这个操作在互联网内就意味着其服务的后台人员是可以无限制的访问用户上传的所有内容，这其中蕴含的隐私风险相当巨大，并且当侵权事件发生之后，用户想要对其进行取证的难度也指数上升。这也说明了为什么各国机构对AI的态度多半采取不鼓励的态度，假设涉密部门的工作人员为了图方便将一些机密内容输入一些AI服务中，被盗取的可能性上升，其可能产生的后果不可估量。

六、AI的应用治理及未来展望

综上所述，AI对未来的整个数字行业来说最有价值的地方就在于打破传统PGC、UGC的制作束缚、优化内容生产流程，无论是传统媒体、自媒体、社交媒体甚至是电子游戏这样的特殊内容生产者都在AI的推动下取得了生产力的大飞跃。

在如今强调融媒体的时代背景下，对数字行业从业人员讲求的就是一个能够“单兵作战，独自成军”，要尽可能掌握信息生产的“采、编、播”全流程制作技能。通过ChatGPT等工具的辅助，可以有效减轻媒体从业者的压力，同时增加信息更新的效率和频率。但是也应该看到现阶段这些工具造成的局限性。工具的滥用是一个深刻的问题，尤其是如今各个平台营销号的泛滥。这些账号甚至不需要有专人运营，依靠程序脚本，一个工作室可以养活几十甚至上百个营销号并以此变现。营销号这种畸形的行业早在OpenAI发布相关产品之前就已经存在，而ChatGPT的出现加剧了这个错误行业的发展，造成了用户更加难以分辨自己观看的视频或文章究竟是信息生产者精心准备的内容还是不良工作室花了几秒钟靠程序跑出来的胡说八道。因此，在使用这些工具的同时，需要提高警惕，并配合人工审核和精心策划，以确保信息质量和行业发展。

时代一定是向前发展的，AI时代注定会到来，因此当冲击和挑战已经来临时，媒体行业甚至是整个社会不应该简单的回避这些变革并一禁了之，而是要扭转目前局面，让AI技术可以真正服务于行业。而这些就意味着需要政府、国际组织和行业组织通力合作，采取相关措施对AI的使用进行有效规制和疏导。

首先，制定各种类型的AI服务相应的使用规范迫在眉睫。各国政府必须评估本国国内环境，制定AI可以使用的领域和目的。AI可以出现在任何有助于行业向上健康发展的产业和事业中，但是绝对不能让AI使用在产生负面影响甚至是犯罪的情景中。

其次，需要加大监管力度，确保规则的有效实施。一定要对这些类型工具的滥用进行惩处，用公权力强制大众形成正确使用AI智能产品的自我规范，同时确保这些产品的安全性，防止用户信息泄露。

第三，需要加大对用户的宣传力度，甚至可以加入进学生的伦理道德课堂，提高用户对于ChatGPT、文心一言等产品的认识和使用能力，让用户深入了解何为“可为”、何为“不可为”。鼓励用户根据自己的实际情况和需求合理使用AI工具。

最后，需要鼓励企业创新，企业一定是AI技术发展与创新的主力军，通过了解和研究相关AI产品的运行原理和逻辑。通过自主创新增加产品的实用性，同时通过技术手段规制其可能带来的风险，比如增加风险监控、过滤回复或预测用户行为等，防止可能的犯罪发生。

上述这些点都是AI能够为产业带来更快发展的保证。形形色色的AI产品出现已经预示着现阶段的所有行业，尤其是媒体等文字和影像资讯行业，步入了一个新的纪元。在未来，不仅仅是内容生产领域，AI的应用必将植入每一个人的日常工作、生活。这些生成式的AI不应该只是在内容创作发挥作用，很多巨头企业已经摸到了AI真正的使用价值——打通应用层，深入人类生活。技术不应该是空中楼阁，只能被顶礼膜拜，真正的技术革命就应该要直通生活的方方面面。比如说微软推出的Office Copilot套件，将GPT直接引入进办公软件中，人们在办公过程中AI可以实时给出建议，提供模板；开会时AI会直接生成会议记录建立工作备忘录；用户忙于其他工作时可以帮忙读取上千条的群聊总结重要信息等等。这些场景才是AI革命最本质的使命和纲领——服务生活，造福人类。

在这种时候，不能有故步自封的思想，认为这些新科技会打乱目前的工作流，影响收入，甚至威胁自己的工作。就像元宇宙的概念已經和5G时代绑定一样，拥抱AI是社会科技发展的趋势。如何乘着这股AI改革的新风加速行业转型，是所有从业者都必须思考的问题。

［参 考 文 献］

［1］李白杨，白云，詹希旎，等.人工智能生成内容（AIGC）的技术特征与形态演进［J］.图书情报知识，2023，40（1）.

［2］郭全中，袁柏林.AIGC与WEB3.0有机融合：元宇宙内容生产的新范式［J］.南方传媒研究，2023（1）.

［3］陆小华.AIGC与智能变革：让认知震荡催生能力生长［J］.青年记者，2023（7）.

［4］张华平，李林翰，李春锦.ChatGPT中文性能测评与风险应对［J］.数据分析与知识发现，2023，7（3）.

［5］沈卫星，刘宇轩.ChatGPT介入新闻出版：功能、伦理风险及编辑把关［J］.中国编辑，2023（5）.

［6］陈昌凤，张梦.由数据决定？AIGC的价值观和伦理问题［J］.新闻与写作，2023（4）.

［7］张夏恒.ChatGPT的政治社会动能、风险及防范［J］.深圳大学学报（人文社会科学版），2023，40（3）.

The Impact and Governance of AIGC on the Digital Content Industry

JIANG Chang-lei

（Sanming University，Sanming 365000，China）

Abstract：At the end of 2022， OpenAI released ChatGPT， an intelligent chat dialogue product based on its GPT-3 model， developed through theoretical iterations. Due to its exceptional language organization capabilities， this product is even capable of engaging in various content creation tasks. The concept of AIGC once again garnered global attention. Through these AI tools， users can more easily participate in the creation of digital content. However， as the user base grows， the social issues associated with the use of ChatGPT have begun to draw widespread attention. The impact and challenges， particularly in the media industry， are particularly evident.Hence， relevant authorities need to delve into the current impact of AI creative tools like ChatGPT on the digital content industry， especially the media sector. It is crucial to analyze the origins of these impacts and the various challenges that may be encountered in the future.

Key words：AIGC;artificial intelligence;news;impact

［责任编辑 孙兰瑛］