生成式人工智能应用于编辑出版的价值、风险及路径探索

李诗

［摘要］信息化时代，人工智能技术的应用推动了出版业的转型升级。以ChatGPT为代表的生成式人工智能为出版业的创新发展带来了新机遇，其在丰富出版内容资源、提高编辑出版效率、满足受众互动需求等方面具有一定的应用价值，但同时隐藏诸多安全风险。对此，相关主体可尝试从完善相关政策法规与监督机制、强化编辑的主体责任意识、加强技术合作与人才培养等角度出发，将生成式人工智能与编辑出版有机融合，以推动出版业健康发展。

［关键词］生成式人工智能；编辑出版；价值；风险；路径

近年来，随着人工智能技术的不断发展，与出版行业相关的人工智能技术，如智能校对软件、新闻自动采编发稿系统、智能出版系统等，正在逐步介入期刊编辑工作的各个环节，优化了出版流程，提升了出版效率。生成式人工智能是一种新型人工智能，2022年底至今，作为一种生成式人工智能，ChatGPT因其出色的学习能力及对自然语言的理解能力，受到社会各界广泛关注。党的二十大报告提出，实施国家文化数字化战略。在推进中国式现代化的进程中，生成式人工智能为出版业的创新发展带来了新机遇。为此，文章重点分析以ChatGPT为代表的生成式人工智能应用于编辑出版的价值，并讨论其技术应用的风险及路径。

一、生成式人工智能概述

人工智能的研究目标是使机器能够像人类一样思考和行动。根据功能价值的不同，人工智能一般可以分为两类，一类是分析式人工智能，另一类是生成式人工智能［1］。分析式人工智能侧重在海量数据中发现有价值的内容，利用算法向用户推送其感兴趣的内容。生成式人工智能是一种通过学习大规模数据，自动化生成原创内容的新型人工智能，侧重利用算法自动化生成新内容。

生成式人工智能诞生于2014年［1］，随着人工智能技术水平、算力水平的提升以及可获取数据量的增加，生成式人工智能目前可以为传媒、医疗、法律等多领域提供个性化与专业化的内容生成服务［2］。产业界和学术界都对生成式人工智能的迭代创新投入了大量的研发精力。例如：百度研发的文心大模型在人类自然语言理解、文本生成等领域取得多项技术上的突破，其3.0版本可完成高质量的文本创作；美国开放人工智能研究中心OpenAI研发的图像生成系统DALL-E2，可根据用户的文字性描述生成独特的高清图像；GPT系列的人工智能系统，基于深度学习技术，可以自动生成文本内容［3］。

2022年底，作为一种新型的生成式人工智能，ChatGPT因其出色的学习能力及对自然语言的理解能力，受到社会各界广泛关注。ChatGPT是OpenAI在GPT-3基础上优化推出的多轮对话系统，其在文本生成及人类自然语言交互等方面表现出色，不仅可以与人类进行复杂的智能聊天，还能完成文案、图片、视频脚本、代码、邮件等撰写任务［4］。生成与人类认知匹配度较高的原创性内容，是ChatGPT的关键特征之一。有学者研究表明，以ChatGPT为代表的生成式人工智能正带领人类进入强人工智能时代［5］。

二、生成式人工智能赋能出版创新

作为一项前沿的人工智能技术，生成式人工智能为编辑出版领域带来了发展机遇，能促进编辑出版从理念到实践的深层次变革。

（一）豐富出版内容资源

从选题策划到采编校对，再到出版传播，内容生产是贯穿出版业的主线。传统出版对内容生产者的专业素养要求较高。随着自媒体的发展，互联网平台涌现大量的用户原创内容，但内容质量却参差不齐。当前，生成式人工智能可以生成大量高质量的内容，且内容生产成本较低。生成式人工智能的主要特质是能够生成优质内容。这对作者和编辑来说，意义非凡。以ChatGPT为例：其可以为作者提供创作灵感，生成新颖的故事情节，帮助作者优化写作方式，也可以凭借出色的交互对话功能以及强大的数据搜索功能，辅助作者写作，提高写作效率，并增强内容的科学性与创新性；在编辑校对方面，ChatGPT不仅可以较为客观地评价稿件的内容，给出合理的建议，引导编辑发掘稿件的闪光点，还可以依据内容需求自动对稿件进行排版并给出多种备选方案，其在出版内容的生产中具有很高的实用价值［6］。

（二）提高编辑出版效率

生成式人工智能具有强大的学习能力，可以在短时间内迅速理解人类的价值追求，快速对出版任务需求做出响应，从而帮助编辑提升出版效率。例如，在出版流程中，编辑扮演着至关重要的角色，其需要具备一定的洞察力与发掘力，但由于受到个人信息资源整合能力及专业能力的限制，在实际选题策划环节，为了确保选题的市场影响力，编辑往往要耗费大量的时间和精力，而ChatGPT基于自身强大的数据库系统，能够针对编辑的策划需求提供多种优质方案，从而在一定程度上提高编辑的策划效率［7］。同时，ChatGPT还能自动识别和纠正文字表达和语法等方面的专业性差错，帮助编辑核对专业论文的参考文献来源，是一种高效的学术知识搜索工具。此外，ChatGPT在学术诚信建设方面具有重要作用，能够辅助编辑对稿件进行评价［8］。在编辑加工过程中，ChatGPT基于自身强大的数据库系统，能够对稿件进行智能化的加工和润色。这不仅减轻了编辑的工作负担，简化了编校流程，还显著提升了编辑出版效率。ChatGPT还能对稿件进行内容审核，快速检测稿件中存在的政治性、常识性错误以及其他问题，为编辑提供参考意见。

（三）满足受众互动需求

在新媒体时代，出版机构更加关注受众的互动需求，主要表现在三个方面：及时有效地回应受众的关注点、以高效的交互形式呈现真实信息、深入挖掘受众潜在关注点。而以ChatGPT为代表的生成式人工智能凭借强大的算法支持，为以受众需求为导向的编辑出版的变革注入新的动力。例如，交互性是ChatGPT的特征之一，在生成内容时，ChatGPT不仅能够获取并分析当下受众的阅读需求，还具备在多轮对话中清晰、平易近人地回应受众关注问题的能力，其能够准确把握受众心理，满足受众的互动需求。ChatGPT能以对话交流的形式，生动地向受众讲述文本内容，提升受众的阅读体验。有学者对ChatGPT的“超模拟”能力进行评价，认为ChatGPT不仅能与人类自然流畅地进行对话交流，而且能够给予受众一定的情感反馈，在交互体验过程中，ChatGPT所展现的能力让受众感觉它更像是一位能够理解人类的智慧伙伴。

三、生成式人工智能应用于编辑出版的风险

生成式人工智能在赋能编辑出版创新的同时，也隐藏着诸多的风险。从表面上看，虽然生成式人工智能具有创造性，但实质上其生成的内容只是对学习数据的重新整合。在这种情况下，生成式人工智能应用于编辑出版，会带来一系列的安全及隐私方面的问题。例如，ChatGP无法“理解”复杂的人类道德与法律准则，因此它可能会生成包含虚假信息的答复，这些答复可能会误导不具备相关知识的受众。随着生成式人工智能的不断发展，受众的个人数据安全也面临新的挑战。

与诸多人工智能技术一样，生成式人工智能也存在算法黑箱问题，这一问题可能导致受众在不知不觉中被算法所控制。此外，当机器代替人工应用到实际编辑工作中时，原有的问责机制将失效，因为以往编辑出版行为的相关规范和制度主要针对人的行为，而出版机构应用ChatGPT进行内容生产时，人与机器在内容生产过程中的责任划分变得模糊不清。

四、生成式人工智能应用于编辑出版的路径探索

科学技术的变革与创新必然会为编辑出版的流程优化注入新的活力，以ChatGPT为代表的生成式人工智能与编辑出版的融合正处于起步阶段，如何让新技术更好地服务于编辑出版，成为编辑出版领域相关主体需要思考的问题。

（一）完善相关政策法规与监督机制

2023年4月11日，国家互联网信息办公室发布《生成式人工智能服务管理办法（征求意见稿）》，对生成式人工智能服务提供者的准入条件、算法设计、训练数据选择、内容生成以及个人隐私、商业秘密的保护等提出了相关要求［4］。编辑出版领域是意识形态的主阵地，其相关主体应积极推动相关政策法规的制定与监管机制的完善。例如，在编辑出版流程中，相关主体应明确哪些环节可以使用生成式人工智能，并规范其使用方法，以保障编辑出版的正向发展；针对生成式人工智能生成内容的检测，一方面，在技术层面研发切实有效的监测算法，必要时依靠相关领域专家进行事实核查；另一方面，在社会层面建设公众反馈机制，及时纠正伦理失范、算法偏见方面的问题，构建统一的生成式人工智能内容监督管理框架。针对编辑出版流程中的权责问题，相关主体可以建立切实可行的问责机制、版权保护机制等，明确生成式人工智能参与环节的责任主体，促进编辑与机器合作的良性发展。

（二）强化编辑的主体责任意识

当今时代，人工智能技术飞速发展，尽管以ChatGPT为代表的生成式人工智能性能卓越，但在实际编辑出版过程中，无论人机合作的程度有多深，人与人之间的交流始终是不可或缺的。编辑是出版内容的把关者，其角色仍然是无法被替代的。比如，编辑可以根据自身风格、以往经验等对文本进行编辑，在体现创意与个性化方面具有明显优势。因此，在应用生成式人工智能时，出版机构应强化编辑的主体责任意识，明确编辑的主体地位。与此同时，编辑也应切实发挥好主观能动性，做好全过程价值引导。例如：在选题策划环节，编辑要客观、理性地看待生成式人工智能生成的內容，避免陷入“信息茧房”；在审稿校对环节，编辑要充分发挥自身的专业判断能力，对生成式人工智能生成的内容进行筛选和二次处理，从而打造符合主流价值观的出版内容。

（三）加强技术合作与人才培养

生成式人工智能的开发与优化投入巨大。出版机构若要推动新技术与日常业务相融合，应明确自身优势与定位，主动与相关技术的开发商开展合作，将业务重心放在内容生产上，推出受众喜爱的产品与服务。同时，出版机构也要加强对相关出版人才的培养。比如，出版机构可以为编辑提供专业的技术培训与支持，让编辑了解新型的出版理念，认识新技术引发的一系列变革，在思想上积极接受新技术并尝试应用新技术，避免站在科技发展的对立面，也避免盲目依赖新技术。此外，出版机构还可以通过人才引进的方式，提升编辑出版团队的技术应用能力和竞争力，以推出更高质量的出版物。通过这些措施，出版机构可以更好地适应科技时代的发展，提高出版物的质量和影响力。

总之，无论人工智能技术发展得多么迅猛，作为出版工作者，编辑不要急于将新技术视作威胁，也不能因循守旧，而应着眼于其给编辑出版领域带来的价值与机遇，分析其对出版业务的影响，再认真思考应变之道，从而顺应时代发展态势，推动出版业健康发展。

［参考文献］

［1］喻国明，苏健威.生成式人工智能浪潮下的传播革命与媒介生态：从ChatGPT到全面智能化时代的未来［J］.新疆师范大学学报（哲学社会科学版），2023（05）：81-90.

［2］卢宇，余京蕾，陈鹏鹤，等.生成式人工智能的教育应用与展望：以ChatGPT系统为例［J］.中国远程教育，2023（04）：24-31.

［3］徐敬宏，张如坤.ChatGPT在编辑出版行业的应用：机遇、挑战与对策［J］.中国编辑，2023（05）：116-122.

［4］蒋雪颖，刘欣.生成式人工智能技术下的学术生产与出版：变革、失范与路径［J］.数字图书馆论坛，2023（05）：64-71.

［5］焦丽珍.人工智能时代期刊编辑数字素养的内涵、特征及培育路径：基于ChatGPT的视角［J］.信阳师范学院学报（哲学社会科学版），2023（05）：80-85.

［6］沈卫星，刘宇轩.ChatGPT介入新闻出版：功能、伦理风险及编辑把关［J］.中国编辑，2023（05）：123-128.

［7］刘海明，马皖雪.ChatGPT应用于数字出版的伦理风险与伦理原则［J］.数字出版研究，2023（02）：21-26.

［8］陈永伟.超越ChatGPT：生成式AI的机遇、风险与挑战［J］.山东大学学报（哲学社会科学版），2023（03）：127-143.