AIGC出版背景下知识生产合规化困境与调适

王鹏涛

【摘要】AIGC技术凭借强大的内容生成能力迅速渗透到知识生产领域，在成为知识生产有力工具的同时也引发诸多合规化问题。出版界早已敏锐地认识到问题的严重性，却因缺乏应对能力而陷入了知识生产合规化治理的困境。文章对AIGC技术可能违反的知识生产规范进行详细梳理，包括独立性规范、知识产权规范、权责明确规范、科学性规范和创新性规范，剖析知识生产合规化困境的结构化成因，提出以构建知识核验机制为核心的调适思路，并设计知识核验机制的具体方案，以期为破解AIGC出版背景下知识生产的合规化困境，维护知识生产秩序提供有效的参考。

【关键词】AIGC 知识生产 智能出版 学术规范

【中图分类号】G230 【文献标识码】Ａ 【文章编号】1003-6687（2024）3-014-09

【DOI】 10.13786/j.cnki.cn14-1066/g2.2024.3.002

2022年年底，ChatGPT的上线使AIGC技术正式进入大众应用阶段并成为世界上最受关注的人工智能技术。伴随着AIGC技术在知识生产领域的渗透，知识生产合规化问题逐渐凸显，在知识界引发了强烈反应。作为知识领域的守门人，出版机构最先直面这一冲击，但由于对AIGC技术参与下知识生产合规化问题的认识尚不统一，规制能力非常有限，出版界表现出明显的被动状态。一方面，多家出版机构各行其是，针对知识生产中的AIGC技术应用行为发布标准不一的技术使用规定或作者政策；另一方面，各出版机构的应对举措仅限于单方面要求和劝说性建议，目前并无实质性的违规行为识别和规制手段以维护知识生产的秩序。总的来说，目前出版界深陷AIGC技术参与下的知识生产合规化问题治理困境之中。

为突破这一困境，本文首先明确知识生产应当遵循的规范是什么，梳理AIGC技术参与下的知识生产具体引发了哪些合规化问题；然后剖析这些合规化问题为何难以解决以至于形成了治理困境；进而提出知识生产合规化困境的调适思路，抓住突破困境的核心，并据此设计具体的应对方案。

一、AIGC出版背景下的知识生产合规化问题概述

1. 知识生产之“规”的内涵与外延

按照索萨的观点，知识可以被划分为动物性知识和反思性知识，分别对应低阶知识和高阶知识。[1]二者的区分标准在于是否体现了人所具有的理解、反思和判断等高阶能力。高阶知识与通俗意义上的专业知识相对应，是认知主体利用自身理性以及科学的能力和品质所获得的科学认知，[2]需遵循严格的生产、传授和接受规律，训练方法以及学术规范。[3]在现代科学范式下，知识生产是在规范的学科体系下以科学的研究方法进行的、以生产科学知识为目标的活动。[4]因此，知识生产所产出的知识属于高阶知识范畴，重视“规范”的参与和作用。

正如韦奇伍德所言，规范是指导人们如何行动或思考的一般原则。[5]在不同情境下，规范的定义具有特殊性。科学规范则是指导和调适科学共同体成员行为的、具有普适性和长效性的指示系统，能够对科学家的行为起到引领和纠偏的作用。[6]因而知识生产作为产出科学知识的活动，其遵守的“规范”便是指约束、指导知识生产主体行为的标准和原则。

知识生产活动是具有明确目标的行为过程，因而知识生产规范还将作用于知识生产过程和结果两个方面。从过程角度来看，知识生产是指真理、思想等各种类型知识的创新过程，而创新并不是毫无规范约束的任意行动。科学是理性的事业，这要求科学知识的生产要以规范性方法论作为行为标准，若违反这一标准，科学活动便是不合理的，创新过程便不能称之为“科学创新”，其产物也不再是合格的“科学知识”。从结果角度來看，科学的价值目标包括对“客观性”和“原创性”的追求，这也是科学知识的本质属性。[7]知识生产活动是否成立，其产物能否被称为“科学知识”，需要以其是否实现了科学的价值目标作为判断标准，亦即是否符合知识生产的“结果规范”。

2. AIGC技术介入知识生产引发的合规化问题

由于知识生产需同时遵循过程规范和结果规范，AIGC技术介入知识生产所引发的合规化问题也要从过程规范与结果规范两方面来分析。现有的学术规范已经明确规定了科研工作者在知识生产过程中应当遵守的行为规范，[8]因此，从学术规范文本中，可以归纳出AIGC技术参与下的知识生产可能会违反的过程规范，包括独立性、知识产权和权责明确三个方面。知识生产的结果规范则可以基于“知识”及“知识生产”两个概念的成立条件进行归纳。具体来说，AIGC参与下的知识生产可能会违反科学性和创新性这两则结果规范。

（1）独立性规范的侵蚀。既有学术规范文本明确指出，学者应当坚持独立的学术品格和自由探索精神，提出新的学术思想和见解；[9]学术论文应当是作者在亲自进行深入的研究、思考、写作和反复核查后获得的创新性知识成果。[10]作为一种科学活动，知识生产也应坚守科学精神。理性精神是科学精神的核心内涵，体现在科学活动严格的研究规范和方法之中。科学的规范和方法来自于经验的长期积累，是只有人类才能继承并实践的内容，且不能轻率地加以摒弃。[11]因此，知识生产需要从过程角度考量知识生产主体是否遵守了独立性规范，是否将其主导地位让渡于旁人或现代技术。

ChatGPT等AIGC产品一经上线便在文献综述、文本翻译与润色、生成论述文本等知识生产环节中表现出超强的能力。但AIGC技术滥用会侵蚀人类在知识生产中的能动性和自由意志，使人类从知识生产的主导者转变为被动接受者，走向“机器的人化”与“人的机器化”的悖论。[12]同时，AIGC技术的过度介入使知识生产缺少了由人类通过感官经验和价值判断做出科学决策的过程，[13]难以保证其是否符合理性精神这一基本价值遵循。因此，AIGC技术的介入极有可能导致知识生产活动违背独立性这一过程规范。

（2）知识产权规范的触犯。知识生产是生产主体经历资料收集、经验积累、实践感受等过程而展开的复杂思维活动，[14]其产物不仅是个人智力劳动创造的财产，也是全部人类的精神财富，知识生产这一劳动过程理应受到尊重和保护。知识产权规范继而成为公认的规约，在法律和学术规范中被确立下来，以激发人的创造力，鼓励知识创新。[15]

AIGC技术的应用滋长了剽窃这一触犯知识产权规范的劣行。一方面，AIGC技术可以抽取和重组前人的观点和思想，不加任何来源引注，以非同质化的表述方式重新呈现，反而成就了更“高级”的剽窃手段。另一方面，AIGC技术为知识生产者提供了将“走捷径”的主观意愿付诸实践的便利工具，帮助部分投机者将他人的学术观点和成果进行糅合改写，逃过学术不端检测手段的查验。此外，AIGC技术的应用不可避免地要对原始文本和数据进行复制，但这一行为的范围和合理性还有待商榷。在域外的判例中，美国法院已经确立了AI复制行为的合理性条件，一是不用于激励他人生产新的作品，二是不影响被使用著作权的作品的潜在市场和价值。[16]AIGC技术在知识生产领域的应用显然触碰到以上两条原则，自然也会导致知识生产过程触犯知识产权规范。

（3）权责明确规范的模糊。学术规范明确了有关署名的一系列要求。署名代表着对著作权人身份的认定以及属于作者的一系列权利的行使，[17]也意味着署名者要对知识成果承担责任。

作品作为独创性表达，一般被认为源于人的思想和感情，[18]因而著作权也无法脱离“人”这一权利主体。而AIGC技术的信息筛选和创造性表达能力却使得程序算法和独立思考的界限愈发模糊，[19]引发了是否应当赋予AI署名权或著作权的争议。[20]更为复杂的是，AIGC参与下的知识生产往往是由人类和AI“合作”完成的。AI、AI产品开发者、AI使用者以及数据提供者之间的分工如何判定，他们的贡献比例如何划分，权利归属是否遵循了知识产权设立的初衷，这些问题尚无定论，知识产权也无法明晰。

与“自动驾驶汽车的事故责任由谁承担”这一经典责任难题类似，AIGC参与下的知识生产违规问题可能由数据、模型、提问、加工等多个环节和因素导致，很难厘清其中的因果关系、分辨主观意愿并举证，继而难以判定责任主体。即便上述问题能够得到解决，AI本身也不具有承担责任的能力，它并没有作为法律主体而需要同时具备的理性和欲望，[21]就像一个具有“涌现”能力的未成年人，[22]会制造出意外的“麻烦”却无法被追究相应的法律后果，因而AIGC参与下的知识生产还无法确定明确的责任者，必将导致知识生产秩序的空前混乱。

（4）科学性规范的违背。“信息”与“知识”是一组密切关联但有着明确界限的概念。信息是对客观事物和状态的反映，[23]知识则具有更严格的限定条件。如柏拉图在《泰阿泰德 智术之师》中所提出的，“它一定是正确的，可以被人感知的，得到论证的真的信念”，[24]知识可以被定义为来源于实践，并经过权威证实的，绝对确定的必然真理。[25]相较于信息，知识需要满足“能够被证实”这一条件。知识的生产需建立在反复验证的基础之上，遵守公认的科学性规范。

传统知识生产秩序下，学者需要基于大量经验事实，在既有知识基础上结合新的现实情况，进行进一步的知识总结和创造，并提出有说服力的结论。[26]而AIGC技术却采用基于概率规则的语言生成模式，省略了学者的逻辑思辨过程。然而概率并不能与正确性、准确性等量齐观。实践表明，AIGC生成内容中极易出现虚构参考文献、编造不实信息、夹带性别或种族歧视的观点等违背科学性规范的内容。因此，AIGC技术所生成的内容还不能够经得起“证实”，暂且只能被称为“信息集合”。当AIGC技术介入知识生产后，知识生产者极易被AIGC技术高超的表述水平所迷惑，产生惰性，放弃对内容价值的鉴别，从而放任违背科学性规范的信息进入知识领域，对人类的知识大厦造成侵蚀。

（5）创新性规范的挑战。知识生产常被定义为知识的增进，也就是新知识的生产，[27]或原创性知识的生产等。[28]从概念表述可以看出，知识生产的结果就是要产出“新”的知识。由此能够推断，知识生产的结果必须达到创新性目标，即知识生产须遵循创新性规范。

不同于知识生产的传统模式，AIGC技术的内容生成方式是对既有知识进行重组和表述，并没有结合知识基础和实际经验展开思考和深度研究的过程，[29]因而也不会出现既有知识之外的新内容。加之在概率规则下，AIGC也只能表现出“常人化”的知识水平，[30]甚至无法在内容新颖度上有所提升，因此也更谈不上创新。此外，知识创新所需的创意和灵感主要基于人类的观察思考，并产生于人类的大脑。智能机器虽已可以作为人类身体的延伸，但对人类感知的复制能力极其有限。加之欲望作为知识创新的根本驱动力也为人类所独有，因而知识创新还需人类充分发挥自身的能动性。但AIGC技术介入知识生产后展现出的便捷性和易用性，反而会消解人类的知识创造动力，由此进一步导致AIGC过度参与知识生产制造知识创新的假象，对知识生产的创新性规范带来挑战。

二、AIGC出版背景下知识生产的合规化困境及其结构化成因

目前，国内外出版机构都已意识到AIGC技术应用后，所引发的知识生产合规化问题的严峻性，相继发布了作者合理使用AIGC技术的政策，总体上呈现保守性和稳妥性的倾向。[31]虽然不禁止作者在知识生产过程中使用AIGC技术，但基本上都反对AIGC拥有署名权，拒绝完全由AIGC生成的文本，并要求作者说明AIGC工具的使用情况。然而在实际执行过程中，出版机构却缺乏有效措施，以发现和规制技术滥用的行为，无法明确知识生产过程中是否存在违规行为，以及知识成果中是否隐含AIGC生成的不当内容，从而引发了出版机构意欲规制却不具备规制能力的知识生产合规化问题治理困境，即便作者滥用AIGC技术，也无法被出版机构及时发现和惩处。这一困境的成因主要来自標准、制度和技术三个层面。

1. 标准层面：知识生产合规性判断标准的缺失

在一项新技术发展的早期阶段，人类对该技术的特质以及其与社会关系的认识尚处于稳定状区间，技术所伴生的问题往往还处于人类社会秩序的框架之内，容易得到有效控制。但在这一时期，人类能掌握的关于技术特质、技术发展方向和应用风险的信息是极其有限的，加之技术发展的不确定性以及技术与社会的复杂互动关系也使得技术发展的后续常常超出人类的认识能力。[32]正如人类当初为“微软小冰”作诗而感到新奇和期待时，万万没想到AIGC参与知识生产的时代这么快就到来了，且引发了如此复杂的秩序问题。人类无法提前预知AIGC技术应用于知识生产领域所引发的合规性问题，自然也不能预先完善知识生产规范细则并制定对违规行为进行判定的标准。 因此，AIGC参与下的知识生产必然面临“科林格里奇困境”，即当AIGC技术对知识生产的影响成为已知时，原本的违规判断标准已经不再适用，对技术的控制能力将变得极其有限。[33]

如今，AIGC参与下的知识生产模式已然经历了一段时间的实践并显现出了诸多合规性问题。违反知识生产规范的新型行为表征逐渐涌现，例如出现了新的剽窃手段、侵犯知识产权的行为等。然而，这些表征下的本质尚未能梳理清楚并与知识生产规范一一对应，也没有形成新的知识生产合规性判定标准，导致当前依然在使用原来的规范标准诊断新的知识生产合规性问题，更遑论知识生产行为的自制与监督。

2. 制度层面：知识生产把关制度与现实需要间的失调

如何才能避免发生AIGC技術参与下的知识生产违规行为？答案是要形成对知识生产行为的有效制约。对主体行为的制约包括内在制约和外部制约。内在制约就是个人的“德性”，是规范内化于认知而形成的对自我行为的控制能力。外部制约是指法律、制度等外在的控制力量，通常由特定的人员或机构依据明确的标准和程序来实施控制。[34]虽然内在规制因能使人形成“自觉”而具有优越性，但绝大多数人并不具备足以控制个人行为的“德性”，仍然需要外部力量对其行为进行规制。而另一小部分人拥有的“德性”也是在外部规制力量的基础上形成的，且这部分人也不能保证在没有监督和规制的情况下时刻保持自觉。也就是说，即便明确的知识生产规范已经存在，也并不是所有的知识生产者都能将其内化为时刻警醒的自我规制力量，仍然需要外部制约手段规制其利用AIGC技术开展知识生产活动的行为。

对于AIGC技术参与下的知识生产合规化问题来说，外部规制手段主要是通过知识把关制度识别违规行为，进而做出后续处置。当前的知识把关主要依靠执行审稿制度，即由期刊编辑主导，同行专家参与，结合查重等技术工具，对知识成果的规范性进行审查。由于审稿主体的知识范围以及问题识别能力和手段的局限，现行审稿模式并不能有效识别AIGC技术参与知识生产导致的隐性抄袭、侵权等行为，也无法有效判别署名作者与AI机器的贡献比例，甚至无法准确分辨看似合理的有误信息。因此，现行的知识把关制度已不能有效发现AIGC参与下的知识生产合规化问题，无法为违规行为的惩处提供依据，使得部分知识生产者的技术滥用行为更加无所忌惮。

3. 技术层面：科技理性的膨胀与价值理性的缺位

科技的发展和应用向来具有复杂性。马克斯·韦伯断言，近代文明的一切成就和问题都是源自价值理性和工具理性的冲突。[35]AIGC技术应用于知识生产所显现出的合规化问题不过是作为工具理性范畴的科技理性与价值理性的关系的失调。

科技理性和价值理性分别处于理性天平的两端。科技理性主张用科学解决一切问题，强调目的至上，关注结果和效益的最大化；而价值理性强调价值观至上，关注世界“善”与“美”的追求。在科技极大地提高生产力的同时，人们也往往陷入目的至上、效率至上的泥潭，急切渴望享用技术进步带来的回报而忽视了技术同样会带来的价值漠视和伦理危机。AIGC等人工智能技术是非常符合目的性需求的载体，能够作为知识生产的有效手段达到效率、功利的最大化。[36]AIGC技术虽然能够有效提升知识生产的效率，但非人性化的技术本质决定了它无法关照更为复杂的价值理性，因而产生一系列违背知识生产规范的问题。AIGC技术的技术理性愈发强大，对价值理性的冲击也会愈发猛烈。正如AIGC技术的组织和表达能力越完善，知识生产过程中所包含的伪造、剽窃、侵犯知识产权等问题就越隐蔽，知识生产合规化困境就越难化解。

在人类实践活动中，科技理性和价值理性理应是融合统一的。科技理性需要被价值理性约束和引导以保障科技的向“真”向“善”走向；价值理性也需要科技理性作为基础，来解决“如何做”的实际问题。[37]目前可应用的知识生产合规性控制手段仅限于已开发的AI Text Classifier、DetectGPT等AIGC生成内容检测工具。而技术治理手段只能提供科技理性的基础，并不能完全保障价值理性。“以技治技”只会是一场人类滞后输入价值观的“技术追逐游戏”，永远无法及时应对AIGC参与知识生产所涌现出的新的违规形式。

三、AIGC出版背景下知识生产合规化困境的调适思路

鉴于AIGC出版背景下知识生产合规化困境成因的复杂性，本文认为应当抓住一个关键突破点，围绕这一核心构建体系化的困境应对方案。由此提出知识生产合规化困境的调适思路：以构建知识核验机制为核心策略，配套制定明确的规范标准，多主体全流程搭建知识核验功能结构，形成多手段融合的作用体系。

1. 核心策略：知识核验重塑知识生产把关制度

要突破AIGC参与下的知识生产合规化困境，难点有二，其一是知识生产成果的质量把关难，其二是机器与人的参与贡献剥离难。面对这两项难题，仅依靠知识生产主体的自我控制远远不够，归根到底还是要重建严格的知识把关制度，即构建把控知识成果水准、还原知识生产过程的知识核验机制，以起到促使知识生产主体自我约束、确保知识生产符合规范、维护知识生产秩序的作用。

笔者认为，知识核验是指在统一的知识生产规范和违规行为判别标准的指导下，由多方主体共同参与，多个环节共同作用，对知识生产的过程进行核实，对知识成果的质量展开检验，从而识别和判定知识生产成果中的违规内容以及生产过程中的违规行为的系统化知识把关体系。

现行的事实核查机制和审稿制度虽然也都致力于内容治理，但与知识核验存在本质上的区别。事实核查机制以甄别危害社会秩序和公共利益的虚假信息为目标，以非法的目的、恶意的主观性为执行标准，[38]只在信息生成结果层面分辨对错，并不关注信息生产过程。现行审稿机制虽然默认知识生产的结果规范和过程规范同样重要，但由于传统知识生产模式下，人类作者之间存在的合作与制约关系使得知识生产过程相对透明，因而现行审稿模式在实践中还是侧重于对知识成果质量的把控。而知识核验机制则要执行更为严格的知识把关标准，不论是否存在知识生产主体的主观违规意愿，都要将一切不符合知识生产规范的内容视为治理对象，并且要追踪和还原知识生产过程，核查人类与AI的分工贡献等问题。因此，知识核验机制在把控知识成果质量、核实知识生产过程规范方面的功能是事实核查机制和现行审稿制度无法替代的。

2. 实施前提：制定规范标准提供知识核验工作依据

发现和治理AIGC技术参与下的知识生产合规化问题需先考虑两个问题：哪些行为是违反知识生产规范的行为？如何判定一个行为违反了知识生产规范？也就是说，明确的知识生产规范和违规行为判定标准是识别与治理知识生产合规化问题的前提，同时也是知识核验必需的工作依据。如前文所述，在AIGC技术诞生之初，人们无法预测这项技术进入知识生产领域后会引发什么问题，更不具备预先制定行为规范的条件。而如今，随着AIGC技术在知识生产领域的应用实践初具规模，并显现出明确的合规化问题，人类已经基本掌握了这一阶段的技术应用规律和风险机理，制定AIGC参与下的知识生产行为规范和违规行为判定标准的时机已然成熟。

规范标准的制定可从三个方面着手。首先，要解决AIGC技术在知识生产中参与界限的问题。需从伦理、道德、学术规范等角度出发，明确知识生产的哪些环节鼓励AIGC技术参与，哪些环节禁止AIGC技术涉足，在可参与的知识生产环节中AIGC技术的合理参与程度又如何界定。其次，要补充更新学术规范的具体内容。现有的面向传统知识生产模式的学术规范框架仍然具有高度的概括性和稳定性，不过，要在详细规定和表述上进行调整，如将AIGC技术参与后的新型剽窃、代写等行为表征囊括在规范细则之内，并对相关概念意涵进行完善和阐释，使规范文本更适用于AIGC参与下的知识生产实践。最后，要制定违规行为的判别标准，即为违规行为划定需要承担责任的尺度和界限。例如，在传统知识生产模式下，超过规定文字复制比的论文会被认定为涉嫌抄袭。在AIGC参与知识生产的时代，也需制定具有可操作性的违规行为判定标准，作为知识把关和责任追究的依据。

3. 实现方式：多主体全流程架构知识核验功能结构

人类行为的外在制约力量可以分为集中和分散两种模式。集中制约是指对行为的制约力量是由少数几个人或组织发出的。由于涉及的参与主体少，更易达成统一的制约目标，执行清晰的管理流程，因而集中制约模式能够对人的行为形成有效的监督和控制，但这种模式也要求制约力量的主体掌握足够的信息。[34]传统的审稿模式就属于集中型的外在制约模式，在传统知识生产阶段起到了很好的知识把关作用。而AIGC技术参与知识生产后，合规化问题的复杂程度已然超出了编辑和审稿专家的信息掌握程度，例如编辑无从得知知识生产过程中AI机器参与的实际情况，致使传统审稿模式在面对AIGC技术参与下的知识生产合规化问题时，显得无能为力。

分散型的制约模式则是由多个力量中心发挥制约作用，可以集中多人或多方组织所掌握的信息和手段，从而形成多样化、全面性的能力结构，能够在面对复杂问题时创造更多的应对机会和施策条件。因此，知识核验可采用多元主体协同的工作模式，根据不同主体的差异化优势和能力范围构造多个核验中心，将知识生产合规化问题的发现和规制任务划分为若干功能领域，并贯穿和连接知识成果流转的各个阶段，最终形成多主体紧密协同、全流程共同作用的知识核验工作模式，满足AIGC技术参与下的知识生产合规化问题的治理需要。

4. 作用手段：多手段融合组建知识核验作用体系

AIGC技术参与下的知识生产合规化困境的形成原因复杂、涉及主体众多，需要组建综合性的作用体系，总览不同领域的思路和方法，发挥不同手段间的互补优势，软硬兼施、内外并举地达到发现问题、判定性质、追究责任、约束行为的目的。

首先，采用“法律—规范—道德”式的层级化约束手段。将AIGC技术参与知识生产引发的权利、义务和责任问题纳入法律约束范围，对相关法律条款进行修改和补充，作为知识生产行为的硬性约束手段；从规范层面规定AIGC参与下的知识生产行为的合规化标准，作为知识生产者行为选择的标尺和界限；在伦理道德层面明确知识生产应当遵循的价值观和道德标准，作为知识生产者内化于心的价值判断依据。与之相对应，知识生产者在做出违规行为时，也要承担来自法律层面的处罚、来自规范层面的名誉或声望损失以及来自道德层面的谴责，[39]由此对AIGC技术参与下的知识生产行为起到警戒和约束作用。

其次，实施“自查—审查—监督”式的多步骤核验手段。由知识生产者对知识成果的质量和生产过程的合规性进行自查纠正；由专门化的知识审核群体对知识生产的结果和过程的合规性进行审查，过滤存在违规情节的知识成果；在知识成果公开发表和传播后，由读者大众继续对其合规化问题进行监督和反馈。

最后，采取“人机协同”式的核验手段。一方面，继续开发、优化并利用AIGC生成内容识别技术，辅助开展人类与AI知识贡献的分离工作，也帮助和提示人工核验环节，着重验证AIGC生成部分内容的科学性；另一方面，使人类在价值判断和规范方面的经验及优势与智能识别技术形成互补，保障知识核验的效果，并由人类制定、执行并及时调整知识核验的具体工作流程，在知识生产和传播的各个阶段起到有效的规范控制作用。

四、AIGC出版背景下知识核验机制的构建方案设计

遵循AIGC出版背景下知识生产合规化困境的调适思路，本文进一步搭建了知识核验机制的层级框架，构建知识核验机制的运作流程，并设计了知识核验机制的保障体系，为知识生产合规化问题的规制提供了明晰可行的方案参考。

1. 全要素整合搭建知识核验层级框架

AIGC出版背景下知识核验机制的整体框架包含准则层、工具层、平台层、主体层、功能层、任务层、目标层7个层次（见图1）。

准则层是知识核验机制运行所要遵循的基本原则，包括与知识生产相关的法律法规，适用于AIGC参与下的知识生产新情境的学术规范及伦理道德，以及更为细化的知识生产行为细则和违规行为判别标准。

工具层涵盖知识核验机制运行过程所需调用的技术或智力支持，包括区块链、AIGC生成文本识别、自然语言处理、图像识别等能够记录跟踪知识生产和核验过程、有效提高核验效率的技術工具，以及感知力、判断力、规范经验、价值取向等来自人类的高阶智力手段。

平台层是知识核验机制赖以运转的软硬件基础，包含知识成果追踪流转平台、开放同行评议平台、期刊审核决策平台、意见反馈收集平台等。

主体层囊括了知识核验机制的核心参与者，涉及作者、出版机构（尤其是负责知识成果出版的编辑）、同行专家、读者（接触或利用知识成果的公众）等多方主体。

功能层则是知识核验机制所具有的核验功能集合，包括人与机器贡献的分离、知识生产过程的还原和验证、知识生产成果质量的检验、违规行为的判定以及违规责任的明确等功能。

任务层体现的是知识核验机制需要达成的工作效果，一是对知识生产结果合规性的核验，二是对知识生产过程合规性的核验。

目标层则是知识核验机制运行的最终目的，即发现和规制AIGC技术参与下的知识生产合规化问题，从而维护知识生产秩序，保证知识生产质量。

2. 多主体协作塑造知识核验运作流程

AIGC出版背景下知识核验机制贯穿整个知识成果流转过程，由多方主体协同参与、多个环节协同作用，核验和发现知识生产的过程和成果中的违规问题。核验结果可为追究知识生产违规责任提供依据，从而有效规制知识生产行为。具体核验流程如图2所示。

在知识成果的创作生产阶段，由作者负责践行知识生产的规范条例，严格约束自身行为，对知识生产过程及成果的规范性进行自查，从根源上避免违规问题的出现。在投稿时对使用过的AIGC产品版本、使用环节以及成果中由AIGC生成的部分进行声明，并对知识生产的合规性做出书面承诺。

在知识成果的审查评议阶段，先由出版机构的编辑对知识成果进行初审，包括利用智能识别工具对成果中的AIGC生成内容进行辨别，与作者提供的AIGC使用声明进行比对，将不符合规范标准的成果筛除，并进一步将通过初审的成果及其核验报告提交至同行评议环节。同行评议环节可结合开放同行评议等新型评议模式，吸纳更多的同行专家参与成果评议，集中群体智慧充分识别AIGC技术参与生产的知识成果合规性问题。在这一环节，由同行专家群体从创新性、科学性等方面对知识成果的质量进行评判，并重点关注成果中由AIGC工具生成的部分的合规性。在开放评议环境下还可与作者及其他评议专家进行意见交流，最终对知识成果的合规性形成评价意见并将其反馈至出版机构。接着，由出版机构综合同行评议意见对知识成果进行复审，从编辑角度对知识成果的合规性进行再次审核，对达到规范标准的成果予以认定，即做出出版决策。

在知识成果的传播利用阶段，读者对成果的阅读、复现和利用过程也是持续发现问题、监督知识生产合规性的过程。读者可在意见收集平台将发现的违规问题及依据进行反馈，并可以与作者进行进一步的交流探讨。由于知识成果的传播和利用是一个长期性过程，因而读者对知识核验的参与有助于实现知识生产合规化问题终身负责制的落实。

3. 多角度配合建立知识核验保障体系

知识核验机制的构建不仅意味着核验体系和工作流程的搭建，还需配合体系化的保障措施，从规范、制度、技术角度为知识核验机制的运作提供必要条件。

在规范保障方面，政府部门需及时修改补充适用于AIGC技术时代的知识生产相关法律，并发布有关知识生产规范、违规行为惩处的相关规定、标准、通知等。由学术共同体联合讨论和更新AIGC出版背景下的学术规范具体内容，形成明确、可执行的规范文本。各高校、科研单位还应建设AIGC技术应用背景下的学术规范教育体系，通过教育、宣传、引导的手段树立知识生产者的规范意识，提高其内在修养，加强对知识生产行为的自律，并落实对违规行为的責任追究。此外，应考虑建立跨学科专家委员会，负责监督和评估AIGC技术应用，确保其符合科研伦理和相关法律规定。[40]还应鼓励学术界和产业界共同开发AIGC技术的最佳实践指南，为知识生产者提供清晰的合规使用方案。

在制度保障方面，首先，考虑到知识核验的多方参与主体之间存在的社会合作关系，可能会因为某些主体的搭便车行为而逐渐衰退的情况，[41]因而有必要建立维持保障主体协作关系的激励约束制度。一方面要树立共享价值观念从而形成价值约束，将维护知识生产合规性作为这些参与知识生产、传播、利用的主体的共识，并明确各方角色和责任，使其积极参与协作。另一方面则要设置利益激励和约束措施，如将评议参与度及评议水平与名誉声望挂钩，将评议结果量化并进行群体意见偏离度测量等，充分调动同行专家及读者的参与并保障其评议和监督质量。其次，要确立追责制度，明确AIGC出版背景下的知识生产违规行为的责任归属、问责流程及追责手段。将知识生产违规行为与责任主体的切身利益相挂钩，使知识核验的作用能够落到实处，起到警醒和制约作用。再次，设立独立的第三方监督机构，负责监督知识核验的过程和结果，确保其公正透明。同时建立知识核验反馈机制，鼓励公众参与反馈，允许公众运用独立的认知和批判能力，[42]对核验结果提出质疑，以提高核验的准确性和可靠性。

在技术保障方面，一方面，AIGC工具开发者应当履行透明度义务，以通俗有效的方式公开算法逻辑及数据来源，以便作者在技术应用过程中合理衡量使用行为和生成内容的规范性，同时也方便其他核验主体根据技术风险明确核验重点。另一方面，政府部门、出版机构、技术企业应当联合推进区块链、AIGC内容识别等先进技术的研发和应用，并积极开发部署各个工作平台，为知识核验提供有效的技术手段，创造有利的技术环境。可探索建立开放的知识核验平台，允许不同的核验主体共享数据和算法，以提高核验的效率和准确性。此外，注重知识核验体系的持续更新与迭代升级。随着科技的快速发展，新的技术手段不断涌现，应当紧跟时代步伐，及时将新技术引入知识核验体系和学术出版活动，[43]确保其始终保持先进性和有效性。

综上，建立知识核验保障体系需要从规范、制度和技术三个维度系统发力。通过明确知识生产规范、完善激励约束机制、加强技术创新应用，构建高效、公正、可靠的知识核验体系。这一体系不仅有助于提升知识生产的质量，也有利于推动科研创新，为人类知识社会的可持续发展奠定坚实基础。

结语

AIGC技术不仅为知识领域带来了生产力的变革，也引发了一场知识生产秩序的空前危机。在规制手段缺失的现实状况下，知识生产违规行为肆意滋长，形成了AIGC出版背景下的知识生产合规化困境。作为知识领域的守门人，出版界在化解困境、维护规范、重建秩序方面责无旁贷。本文详细梳理了AIGC技术应用于知识生产可能引发的知识生产合规化问题，分析了这些问题未被有效规制以至于出现治理困境的原因。抓住要重塑知识把关制度从而有效发现问题、明确责任、制约行为这一关键突破点，提出以知识核验为核心的知识生产合规化困境调适思路，并据此设计了知识核验机制的构建方案，为出版界有效应对AIGC技术参与下的知识生产合规化问题提供了行动指南。知识核验机制作为一套系统化的运作体系，不仅意味着出版机构工作模式的革新，更代表着多方主体在知识生产与传播过程中的深度协同。这一机制全面渗透于知识生产的各个环节，对维护知识生产秩序具有至关重要的意义。未来的研究还需进一步关注AIGC时代的知识生产规范细则、技术应用边界、违规判定标准的制定问题，探究知识核验机制运行的动力机制、主体协同机制，并探讨详细的出版审核创新模式以及改革行动方案。

参考文献：

[1] Cresto E. A Virtue Epistemology： Apt Belief and Reflective Knowledge[J]. Canadian Journal of Philosophy， 2010， 40（1）： 131-149.

[2] 殷杰，王晓森. 科学理解、知识规范与德性路径[J]. 江汉论坛，2022（2）：12-17.

[3] 姜涛. 法律发展与法律知识化[J]. 法律科学（西北政法大学学报），2008（4）：11-22.

[4] 李洪修，刘笑. 数字化背景下高校智慧课堂建构的技术之维[J]. 高校教育管理，2023，17（5）：81-89，124.

[5] 田海滨，韩东晖. 论知识的规范性困境及其出路[J]. 哲学动态，2019（11）：100-106.

[6] 徐梦秋. 规范通论[M]. 北京：商务印书馆，2011：617.

[7] 陈志坚. 科学规范是科学进步的另一翼——兼解“钱学森之问”[J]. 科技进步与对策，2013，30（10）：21-25.

[8] 李春辉. 新的时代背景下学术写作的内在要求[J]. 社会科学动态，2023（10）：113-116.

[9] 杨玉圣，张保生. 学术规范导论[M]. 北京：高等教育出版社，2004：337.

[10] 教育部科技发展中心. 在线发表科技论文的学术道德和行为规范[EB/OL].[2023-12-23].https：//www.edu.cn/rd/gai_kuang/zheng_ce_fa_gui/200603/t20060323_144244.shtml.

[11] 科學技术部科研诚信建设办公室. 科研诚信知识读本[M]. 北京：科学技术文献出版社，2009：14-15.

[12] 高奇琦，严文锋. 知识革命还是教育异化？ChatGPT与教育的未来[J]. 新疆师范大学学报（哲学社会科学版），2023，44（5）：102-112，2.

[13] 蒋雪颖，刘欣. 生成式人工智能技术下的学术生产与出版：变革、失范与路径[J]. 数字图书馆论坛，2023，19（5）：64-71.

[14] 王坤. 论反剽窃的理论依据及其对制度建构的影响[J]. 浙江学刊，2013（4）：136-142.

[15] 赵志彬. 中国知识产权文化的发展与展望[J]. 知识产权，2019（8）：28-37.

[16] 朱鸿军，李辛扬. ChatGPT生成内容的非版权性及著作权侵权风险[J]. 新闻记者，2023（6）：28-38.

[17] 叶继元. 学术规范通论[M]. 第二版. 上海：华东师范大学出版社，2017：207-208.

[18] 熊琦. 人工智能生成内容的著作权认定[J]. 知识产权，2017（3）：3-8.

[19] 邓建鹏，朱怿成. ChatGPT模型的法律风险及应对之策[J]. 新疆师范大学学报（哲学社会科学版），2023，44（5）：91-101，2.

[20] 吴汉东，张平，张晓津. 人工智能对知识产权法律保护的挑战[J]. 中国法律评论，2018（2）：1-24.

[21] 龙文懋. 人工智能法律主体地位的法哲学思考[J]. 法律科学（西北政法大学学报），2018，36（5）：24-31.

[22] 梁鹏. 人工智能产品侵权的责任承担[J]. 中国青年社会科学，2018，37（4）：11-14.

[23] 金炳华. 哲学大辞典（上册）[M]. 上海：上海辞书出版社，2007：23.

[24] 柏拉图. 泰阿泰德 智术之师[M]. 严群，译. 北京：商务印书馆，1963：21.

[25] 杜华，顾小清. 人工智能时代的知识观审思[J]. 中国远程教育，2022（10）：1-9，76.

[26] 高奇琦. 知识革命还是知识堕化——ChatGPT与知识生成秩序[J]. 中国社会科学评价，2023（2）：8-13.

[27] 杜月升. 论知识生产及其经济特征[J]. 深圳大学学报（人文社会科学版），1999（2）：46-51.

[28] 许崴. 试论知识生产的构成要素与特点[J]. 南方经济，2005（12）：53-55.

[29] 段永杰，李彤. 数字出版中AIGC生成物的应用场景及其伦理规制[J]. 出版科学，2023，31（6）：84-93.

[30] 喻国明，苏芳，蒋宇楼. 解析生成式AI下的“涌现”现象——“新常人”传播格局下的知识生产逻辑[J]. 新闻界，2023（10）：4-11，63.

[31] 宋时磊，杨逸云. 应用场景、风险与前景：ChatGPT类大语言模型时代的学术出版[J]. 出版科学，2023，31（5）：76-84.

[32] 贾向桐，胡杨. 从技术控制的工具论到存在论视域的转变——析科林格里奇困境及其解答路径问题[J]. 科学与社会，2021，11（3）：26-39.

[33] Calvert， Jane. Governing in the Context of Uncertainty[J]. Hastings Center Report， 2014， 44（S5）： S31-3.

[34] 贾新奇. 从制约的角度来理解公民伦理[J]. 首都师范大学学报（社会科学版），2008（4）：48-53.

[35] 周兰珍，潘洪林. 科技理性与价值理性关系探析[J]. 江苏社会科学，2007（6）：38-41.

[36] 陈昌凤，石泽. 技术与价值的理性交往：人工智能时代信息传播——算法推荐中工具理性与价值理性的思考[J]. 新闻战线，2017（17）：71-74.

[37] 汤建龙. 科学发展观：科技理性和价值理性的统一[J]. 理论导刊，2013（1）：62-65.

[38] 漆晨航. 生成式人工智能的虚假信息风险特征及其治理路径[J/OL].情报理论与实践，1-10[2023-12-14].http：//kns.cnki. net/kcms/detail/11.1762.G3.20231128.1005.002.html.

[39] 陈伟. 作为规范的技术标准及其与法律的关系[J]. 法学研究，2022，44（5）：84-100.

[40] 张洪忠，徐鸿晟. 智能传播时代的范式转变：媒介技术研究十大观点（2023）[J]. 编辑之友，2024（1）：38-44.

[41] FEHR E， CACHTER S. Cooperation and punishment inpublic goods experiments [J]. American Economic Review， 2000， 90（4）： 980-994.

[42] 彭蘭. 智能生成内容如何影响人的认知与创造？[J]. 编辑之友，2023（11）：21-28.

[43] Thomas P N. 人工智能环境下的学术出版[J]. 图书情报知识，2023（4）：6-9.

The Normalization of Knowledge Production in the Context of AIGC Publishing： Dilemma and Adaptation

WANG Peng-tao1，2（1.School of Information Management， Nanjing University， Nanjing 210023， China; 2.Publishing Convergence Development Strategy Institute， Nanjing University， Nanjing 210023， China）

Abstract： AIGC technology， with its powerful content generation capability， quickly permeated through the field of knowledge production and became a favorable tool for knowledge production while it also triggered a lot of normalization problems. The publishing industry has long been keenly aware of the seriousness of the problem， but due to the lack of ability to deal with it， it has been caught in the governance dilemma of knowledge production normalization problems. This paper has sorted out the participation of AIGC technology， which may violate the norms of independence， intellectual property， clear rights and responsibilities， science， and innovation of knowledge production. It has also analyzed the structural causes of the normalization dilemma of knowledge production， put forward the dilemma debugging ideas centered on the construction of the knowledge verification mechanism， and further designed the construction of the knowledge verification mechanism program to provide an effective reference for cracking the knowledge production normalization dilemma and maintaining the knowledge production order in the context of AIGC publishing.

Key words： AIGC; knowledge production; intelligent publishing; academic norm