AIGC在传媒领域的应用探索与潜在风险

朱凌宇 何静 田野

摘要：AIGC的出现颠覆了传统人机交互概念，促进了信息传播的范式变革，使得传媒领域迎来新突破与新挑战。在应用层面，合理使用该技术能够提高新闻从业者的新闻发现力、实现广告业的人机共生传播、激活影视业的创意输出话语；在风险层面，其引发了知识偏差和谣言扩散、隐私安全和营销泛滥、版权侵犯和创意依赖等潜在风险。本文基于用户体验升级和数字风险提升，提出提升传媒工作者媒介素养、建立多元审核机制、提高人工智能技术透明度以规避风险的平衡措施，促进传媒领域的创作方式在人工智能技术高速迭代的时代健康发展。

关键词：AIGC 人工智能 传媒领域 风险平衡

尼尔·波兹曼较早对技术的发展提出质疑，他强调技术的两面性，指出每一种技术都既是包袱又是恩赐，不是非此即彼的结果，而是利弊同在的产物。媒介技术的革新带来便利的同时，也产生了潜在的风险和隐患。基于此，笔者首先探讨了AIGC在新闻业、广告业和影视业中的广泛应用及其带来的积极影响；其次从传媒行业三大领域出发，关注AIGC在新闻业、广告业、影视业领域可能引发的潜在风险；最后立足平衡应用与风险间的关系，从传播主体、传播内容、技术监管角度，提出有效应对上述风险的策略建议，以确保其在安全可靠的应用范畴内充分发挥价值潜力。

作为人工智能技术的一部分，具有革命意义的AIGC促使传媒领域的创作方式悄然变化。高科技与传统相碰撞，会有火花的同时也会有局限，因为人工智能依旧是依赖人类的智慧发明，不会超越人类的进步，不及人类对这个客观世界的看法及主观决断的评判。但是机器能够避免人类的马虎和忽视，执行指令时精准可靠。AIGC在传媒领域的应用可以被视为信息交互中的“第三方”，即信息交互过程中的中介者，提供一种新的信息交互方式，扮演着连接信息传播者和接受者之间桥梁的角色。

1.新闻业：以新闻发现力升维，助力编发使用与满足。通过大语言模型可生成对话新闻、无记者新闻、辟谣新闻等形式，帮助新闻从业者提升信息生产效率、缩短信息发布时间，从而让新闻从业者更加专注新闻报道的深度和质量，提高新闻发现力。智能生成稿件、快速筛选热点和分类新闻内容等方式，一定程度上实现了对传统新闻生产方式的重构和优化。在信息采集与线索挖掘环节，使用大语言模型可及时准确发现新闻线索，并分类、标记、筛选数据，帮助编辑发现被遗漏的新闻线索和隐藏的事实或趋势，进行真假判断、溯源追踪和辟谣发布；在内容生成与编辑环节，使用大语言模型能快速生成新闻稿，缩短记者撰写时间，提高报道质量并通过分析用户和市场需求，为新闻报道提供创意和灵感；在内容分发环节，利用大语言模型通过分析用户在互联网上的评论、共享、综合浏览量、页面停留时间等生成的海量数据，针对不同细分用户群自动生成和定制内容，预测内容相对潜力以及辅助新闻编辑室做出分发策略。

2.广告业：基于人机共生传播，增强营销投放潜在效应。运用AIGC辅助广告从业者以人机共生传播提高广告营销效果、降低广告制作成本，并高效实现精准、智能和创新的广告投放，增强广告业营销投放潜在效应。在营销方面，广告业迎来人机共生传播，使用大语言模型分析消费者的需求信息和行为数据，高效生成可供选择的精准广告文案和创意策划，通过针对体现广告主意志的聊天机器人与不同用户群体展开深入问答，实现精准营销，提高广告的点击率和转化率。在制作成本方面，利用大语言模型生成广告文案和创意方案可节省制作成本和时间。问答型的广告制作提升创意工作者效率，降低成本并且参考客户描述方便找出核心问题，分析竞品和市场趋势，把握创意定位与未来方向。在广告投放方面，通过大语言模型依据广告商需求制定个性化广告投放策略，设计不同广告形式和媒体平台组合辅助广告商实现跨平台的广告投放和广告宣传，提高广告覆盖面和影响力，从而潜移默化地提高广告效果和营销效果。

3.影视业：视听话语创意无界，开拓影视创作新方式。使用大语言模型深度激发剧本创作思路，丰富角色内涵，提供创新素材以优化影视制作流程。其产生的全新视听话语，结合其他AIGC工具，推动影视业发展，改善观众体验。早在2016年伦敦科幻电影节当中，名为“Benjamin”的人工智能在学习了《星际穿越》等多部科幻影片的剧本之后，创作出了长达9分钟的科幻电影《Sunspring》的剧本。在提供灵感和素材方面，莫里斯·鲁兹认为影像不仅仅是视觉和听觉的结合，更是话语的一种形式。大语言模型能生成电影剧本、电视剧剧本、小说等，制作方可以基于这些内容进行二次创作，形成全新视听话语；在改善作品制作流程方面，大语言模型与其他AIGC产品如Midjourney、Stable Diffusion的图片生成工具，以及Pictory、FlexClip的视频生成工具协同工作，全面优化影视作品制作流程。它提供独特的设计理念和视角，改进场景描述和构思，增强作品的创新性和艺術性；在提升观众观影体验方面，利用大语言模型分析观众观影偏好和历史观影记录，生成个性化的影片推荐，并根据观众的反馈和评价，对影片进行评分和分析，提供符合观众兴趣的评价和推荐。

智能传播时代，AIGC已经呈现出高效的知识存储和处理能力。这种能力使其得以深度剖析和处理海量数据和信息，从而在传媒领域产生显著影响力。随着AIGC在传媒领域应用范围逐渐扩大，研究该技术的合理应用和风险监管，确保其在公共领域中保持良性运作。

1.新闻业：媒介选择下的知识偏差和谣言扩散。媒介选择性理论主张，传媒工作者在传播内容时会根据其所属的社会、文化和政治背景，以及受众的需求和偏好进行选择加工。一方面，媒体可能更倾向于报道那些引起公众关注的话题，甚至通过激化矛盾、以偏概全增加热度。若大语言模型基于负面语料输入，产出带偏见的报道并传播，将加剧“点击率至上”风气，引发负面舆论。当然，除人为有意识的引导外，大语言模型也会由于自身黑箱特性，产生不符合主流价值观的、饱含意识形态争议的、颠覆民族文化的具有偏见与不公的传播内容。海德格尔说：“技术是时代的座驾，然而能够驾驭技术从而影响时代进程的，永远是具有主体意识的人。”另一方面，新闻的深度失真引发的信息混乱和社会动荡对于政治稳定、经济运行、国家安全的影响非常深远。事实表明，大语言模型能够回答简单问题，但对于复杂问题，常常会出现事实错误。模型的高度个性化和针对性生成能力，若被恶意利用输入误导性或虚假信息来产生新闻并进行发布，会加剧谣言的产生和传播。新闻核查机构NewsGuard发现，要求ChatGPT根据错误和误导性的想法撰写回复时，ChatGPT大约80%的情况下会遵从。

2.广告业：数字化生存中的隐私安全和营销泛滥。AIGC以其出色的内容生成能力，对广告行业内的品牌调性和关键需求提供创新性的解决方案，包括文案、图片、视频等形式。这种方式虽然提高了内容生产效率，但也带来了一定风险。一方面，隐私安全问题是广告业面临的一个主要风险。人类数字化生存正在成为现实，人们在网络上留下的数字痕迹加快AIGC提供个人隐私的速度。例如，广告商需要大量用户数据来训练广告算法和实现个性化推荐，这些数据包含用户个人信息、上网记录、地理位置等敏感信息。当数据泄露或被滥用时，就会对个人信息安全造成潜在威胁，进而影响个人权益和利益保障。另一方面，营销泛滥是广告业面临的另一个挑战。广告商通过大语言模型产品分析用户行为从而实现广告精准推送，然而部分广告商对这些产品的运用缺乏恰当的把握和约束，以致于过度地推送和频繁地展示广告，导致信息熵过高，致使消费者感到疲惫和麻木，进一步降低广告实际效果和经济效益。

3.影视业：媒介依存下的版权侵犯和创意依赖。运用大语言模型能大量生成文本内容，而像Pictory、FlexCli等AIGC产品可直接生成视频，本质上生成式AI的创作只是对其学习素材的重新组合。由于这个原因，著名语言学家乔姆斯基直接称ChatGPT就是高科技剽窃。一方面，通过AIGC技术，媒体创作进入新时代。传统创作依靠人类创意，而现在，大语言模型帮助AI视频生成工具如Pictory，根据文本创作视频。这种方法整合多种素材，使版权归属变得复杂，可能损害原创者的权益。同时，AI生成的视频与现有作品差异小，难以区分，给准确识别和分类带来挑战。在实践中，区别AI生成与原创视频成为一大难题。另一方面，由于制作作品的快速性和便捷性，影视创作者可能会依赖AIGC技术来生成影视内容，这种方法的出现打破了传统对创作主体的定义。在这种情况下，创作的真实性和原创性变得模糊不清。

传媒从业者在利用AIGC优势的同时，必须考虑并管理其潜在风险。在应用过程中，采取恰当的技术、管理策略和伦理准则，确保AIGC在传媒领域的应用能够发挥其潜在优势，降低其带来的风险和挑战。

1.坚持“人机”和谐共生，提升传媒工作者媒介素养。从媒介生态学的角度出发，AIGC不仅作为工具被传媒从业者使用，同时也可能对他们的工作模式、思维方式以及对道德法规的理解产生深远影响。新闻工作者需注意控制大语言模型生成的内容质量，确保生成的内容符合道德和法律规范，避免新闻内容存在偏见以及谣言扩散的问题；广告从业者在严格遵守职业道德规范的前提下，注意保护受众隐私和数据安全，进行广告营销时，用好技术工具的同时也要保证适宜的营销手段，避免营销泛滥给受众造成困扰；对于影视从业者，尊重原创和版权的原则不可忽视，使用工具時查清信源，避免侵犯他人知识产权。另外，影视工作者要保持创新思维，避免盲目依赖和滥用而要将其作为辅助工具，发挥自身创造力的最大潜力。遵循这些原则，AIGC的应用才能够为传媒行业带来更多机遇和创新，而且不会对传媒行业的可信度、公信力和社会稳定性产生负面影响。

2.建立多元审核机制，确保行业可持续发展。内容审核和责任追究机制是实现传媒行业健康、可持续发展的重要保障。无论在新闻业、广告业还是影视业中，对AI自动生成的内容都要进行严格把关，行业内部需建立完善的审核机制，避免误导性、低俗、不实等问题的出现。此外，传媒行业通过设计版权最小识别单元算法，构建大语言模型为代表的AI生成内容版权识别保护机制，为版权归属问题提供解决方案，保障原创者的版权权益。责任追究机制是传媒从业者恪守职业道德、规范行为、维护社会秩序的关键手段。相关部门和机构可以加强对传媒行业的监管和监督，对不当行为和内容进行及时发现、处置和纠正，并采取相应行政手段，对责任人和责任机构进行处罚和责任追究，形成强有力的行业自律机制。这些机制的建立不仅能够保障公众合法权益，维护社会公正和公共利益，而且对提升传媒行业社会责任意识，助力传媒行业可持续发展也大有裨益。

3.完善相应法律法规，提高AI算法技术透明度。完善使用AIGC的法律法规是保证其在传媒领域安全、可靠、合规应用的核心举措。一方面，明确AIGC的应用范围，取决于国家对立法工作的加强。对于新闻业，国家通过出台相关法规，规范大语言模型生成新闻稿件的使用和标注；对于广告业，国家需禁止虚假宣传和欺诈行为，并规定广告投放时间、地点和方式；对于影视业，国家可以采取多种措施，如严格版权保护、建立行业标准等。另一方面，提高AIGC技术透明度是国家职责所在，公众需知悉其应用及影响。关键在于增强算法可解释性，为传媒从业者阐明其运作，确保内容选择无偏见。同时，实施知情同意原则，新闻、广告、影视制作中须明确数据来源和采集方法，确保隐私保护，获得用户明确授权。此外，建立与受众的直接沟通渠道，积极收集对AIGC应用的反馈，促进互动和改进。

人工智能技术的发展使人类和人工智能进入了真正的共生共在时代。在传媒行业，算法工具和人类编辑之间的深度交流和合作已经成为推动内容创作和传播的关键。正如卡普兰在《人工智能时代》一书中所指出的，决策权部分或完全实现了由人向机器的转移。人工智能技术的崛起，将深刻地影响社会运转系统，成为高效连接中介的身份演进所构成的宏大图景。从社会科学的视角理解新时代传媒行业的变化，认识到人工智能的广泛应用正在改变人类的生活和工作方式，从技术的角度确保在应用人工智能的过程中充分保护用户隐私和数据安全，以交叉学科视角积极探索人类和机器更加深入的合作，推动社会和经济的持续发展。在这共生共在时代，结合传媒工作者与AIGC技术优势，共创高质高效内容，为社会带来价值与发展机遇。

作者朱凌宇系中国传媒大学硕士研究生

何静系北京航空航天大学人文与社会科学高等研究院讲师

田野系内蒙古大学硕士研究生

本文系2019年国家社会科学基金重大项目“基于机器博弈的网络信息传播安全多准则动态管控策略研究”（项目编号：19ZDA329）的研究成果。

参考文献

[1][美]尼尔·波斯曼.技术垄断：文化向技术投降[M].何道宽，译.北京：北京大学出版社，2007.

[2]徐曼.从“传媒”向“智媒”转变——人工智能技术对新闻业产生的影响[J].中国传媒科技，2021（07）.

[3]郑永和，丁雨楠，郑一，等. ChatGPT类人工智能催生的多领域变革与挑战（笔谈）[J].天津师范大学学报（社会科学版），2023（03）.

[4]蒲清平，向往.生成式人工智能——ChatGPT的变革影响、风险挑战及应对策略[J].重庆大学学报（社会科学版），2023（03）.

[5]郑满宁.人工智能技术下的新闻业：嬗变、转向与应对——基于ChatGPT带来的新思考[J].中国编辑，2023（04）.

[6]喻国明，滕文强，郅慧.ChatGPT浪潮下媒介生态系统演化的再认知——基于自组织涌现范式的分析[J].新闻与写作，2023（04）.

[7]尤可可，沈阳.元宇宙版权的特征与作品权属探析[J].中国版权，2023（01）.

[8]吴静.“深度伪造”技术在传媒领域的新应用和异化风险[J].传媒，2023（03）.

【编辑：李栋】