APP下载

知识人异化和复归:人工智能代理参与知识生产的影响与应对

2024-11-21宋明珍王鹏涛

编辑之友 2024年11期

【摘要】人工智能代理在提升知识生产效率的同时也进一步加剧了知识人价值的消解。文章结合人工智能代理的功能和技术特点阐述了其将为知识生产模式带来的变革,指出技术革新将引发知识人的异化;从知识人与知识、知识生产、知识人类本质以及机器相异化四个方面解析了人工智能代理引发知识人异化的原理及表现,说明了知识人异化将引发社会创新力下降、社会排斥、机器宰制知识社会以及社会权力的倾斜等问题。最后,文章从目标制定、行动规划、秩序重构以及效果把控四个层面提出了知识人异化问题的应对策略。

【关键词】人工智能代理 大语言模型 知识生产 知识人 异化

【中图分类号】G230 【文献标识码】A 【文章编号】1003-6687(2024)11-030-09

【DOI】 10.13786/j.cnki.cn14-1066/g2.2024.11.004

知识生产指人类借助人脑以及已有的知识产品、仪器设备等辅助性工具进行科学研发,[1]从而产出有关自然世界、社会与人本身的科学知识——知识产品的活动。知识生产过程分为两个阶段:一是涵盖知识学习、知识思考和知识创新活动在内的知识创造阶段;二是知识创新结果的物化表达阶段,即将创新成果转化为知识产品的过程,包括成果撰写、加工出版等活动。[2]知识社会学家弗洛里安·兹纳涅茨基将专门致力于知识开发的个体定义为“知识人”。[3]从知识生产过程来看,知识人包括专注于知识创造的研究人员以及专门从事加工出版工作的出版从业者两类群体。

知识生产的主体涵盖了从事该活动的人们的总和。[4]人类一向被视为知识生产的唯一主体,处于知识领域的核心地位。而智能技术的渗透却引发了知识人的身份焦虑和价值危机。自人工智能代理在知识生产活动中展现出高度类人属性后,技术引发的知识人异化问题愈发明显。知识人究竟发生了何种异化,会产生怎样的社会影响?知识人又该如何寻求价值复归?这些疑问是知识人在知识生产智能化浪潮中寻找价值出口、重建知识生产秩序必须要厘清的问题。

一、人工智能代理带来的知识生产模式变革

融入了大语言模型的人工智能代理为人工智能技术的落地应用带来了新的契机,知识密度高、技术接受能力强的知识生产领域已然迎来了人工智能代理的渗透应用。技术应用在为知识生产带来降本增效机会的同时,也使知识生产陷入复杂的秩序危机。

1. 人工智能代理的发展与功能

人工智能代理也被称为智能体,是一种可以感知环境、作出决策并采取行动的系统或程序。其具备独立思考和开展行动的能力,能够通过任务拆解、调用工具逐步完成繁复专业的工作任务,并从任务效果的反馈中学习经验以作出更好的决策。

人工智能代理翻译自其英文名称“AI Agent”,其中“Agent”这一概念最早可追溯至亚里士多德时期,在哲学领域泛指一切具有行动能力的存在。[5]20世纪50年代,在图灵将高度智能有机体拓展到人工实体后,“Agent”便进入人工智能领域,代指能够感知环境、作出决策、采取行动的人工实体。[6]自此之后,科技界出现了许多人工智能代理项目,如击败国际象棋世界冠军的“深蓝”、战胜智力比赛冠军的NLP计算机“Watson”等,不过,这些智能产品都只能适用于特定任务。直到大语言模型取得瞩目进展后,科技领域将其与人工智能代理结合,开发出Auto-GPT、AgentGPT、BabyAGI等人工智能代理产品,为通用人工智能的发展带来了新的希望。

相较于大语言模型,人工智能代理摆脱了对用户提示的依赖,能够独立思考和决策,并具有开展行动的能力;与机器人流程自动化(Robotic Process Automation, 简称RPA)相比,其不再需要人工预设规则和流程,且能够感知环境信息并作出调整。在用户以自然语言发布任务后,人工智能代理便自动启动任务理解、任务拆分、方案制定、任务执行、结果反馈等操作。例如,在研究人员发布“开发一种抗癌药”的指令后,人工智能代理便开始自主开展研发工作,先调研抗癌药物的研究趋势,然后制定一个开发目标,再明确该药物的开发步骤,最后尝试合成该药物。[7]

2. 人工智能代理满足知识生产需求的技术原理

人工智能代理的技术框架包含大脑、感知和行动三个组件。[8]得益于这样的技术框架,人工智能代理具备多种与人类相似的高阶能力,在知识生产领域表现出极大的应用潜力。

知识生产往往是多个主体参与、多个环节构成的复杂活动,沟通协作是其必要环节之一。大语言模型则为不同功能的智能体之间、智能体与人类之间架起了沟通交流的桥梁,支持人工智能代理理解人类指令并由多个智能体交流协作共同完成复杂的知识生产任务。

知识的生产源自现实存在的各种现象、问题和需求,是对现实存在的反映和解释。知识生产结果也会对现实存在起到影响和塑造作用。因此,对现实的感知力也是知识生产主体的必备能力。人工智能代理框架中的感知模块支持其通过文本、视觉、听觉等方式输入信息从而形成对环境的感知,使其能够依据现实存在开展知识生产活动。

具备知识与经验的储备和调用能力是知识生产者实施知识创新的必要条件。大语言模型的嵌入使人工智能代理具备了知识生产所需的语言知识、常识知识和专业领域知识。记忆形成和检索功能则使人工智能代理能够回溯和利用工作经验,“熟能生巧”地成为知识生产领域的专家。

知识生产是在原有知识基础上进行推理与决策的智力活动。思维链(CoT)等技术能够激发大语言模型的推理能力,支持人工智能代理进行演绎和归纳等思维活动。同时,结合了大语言模型的人工智能代理还具有规划和决策能力,可以将复杂的知识生产目标分解为若干子任务,制定详细的任务计划,并对计划进行反思和完善。

知识生产不仅是存在于人类大脑中的思维活动,还需实施成果撰写、编辑出版等实践行为以形成知识产品。人工智能代理的行动模块支持其以自然语言生成知识成果,通过彼此交互调用具有编程、搜索、审核、排版等不同功能的智能体协同工作,甚至还能实施物理世界的具身行动,如移动位置、操纵物体等,从而具备开展科学实验、生产知识产品等实践活动的能力。

3. 人工智能代理引发知识生产模式变革的作用机制

在传统知识生产模式下,知识人需依托自身知识储备提出或发现问题,并进一步调用既有知识、搜集文献资料以进行有目的的知识学习与思考;随后,制定研究或创作计划,开展数据收集与分析、科学实验、文学艺术创作等活动,从而获得新的知识;在此基础上,将新的知识通过成果撰写、作品生成等方式转化为物质的知识成果实体,经过编辑加工形成可供传播利用的知识产品并出版发行。在人工智能代理进入知识生产领域后,知识生产者个体或组织只需根据知识生产目标,利用AutoGen Studio、XAgent等开源人工智能代理产品构建并调试工作系统、提供必需材料,便可发出生产指令,接收系统产出的知识成果。文献调研、数据收集与处理、实验实施、成果撰写、出版生产等知识生产核心工作均可由人工智能代理代为完成。例如,清华大学NLP实验室联合面壁智能、北京邮电大学、布朗大学,共同发布了全流程自动化软件开发框架ChatDev。在收到软件开发任务后,ChatDev中扮演首席执行官、专业程序员、测试工程师及艺术设计师的智能体便可通过交互协作自动生产一个完整的软件。[9]

在人工智能代理的渗透下,知识生产主体突破了人类的唯一性并拓展至人机共生范围。知识生产要素由智力、知识及辅助性工具转变为大语料、大算力和大模型。知识生产方式由以人为核心的由内而外的知识创造模式转变为以人工智能为中心的由外而内的信息处理模式。[10]在此模式下,知识生产呈现高度自动化、一体化、智能化特征,能够极大地减少成本消耗,并为解决知识创造难点提供新的方法和路径。但这也为知识生产带来新的秩序挑战,最先感受到危机的便是从事知识生产活动的知识人。如果说面向特定任务的智能技术在单项工作中的应用让知识人从烦琐、耗时的工作中解放出来,使其能够投入更高层次的创造性知识活动中,那么通用性更强的人工智能代理则进一步替代了知识人在创造性知识生产活动中的作用,使知识人在知识生产中的地位和关系网络发生变化,引发知识人的异化。

二、人工智能代理引发知识人异化的原理及表现

在手工技术时代,造纸、雕版、印刷等技术让知识得以被记录和传播,为知识生产活动提供了必要支持,也使知识人的身份得以成立。到了机器技术时代,技术使得知识生产更加标准化、自动化,使知识人从生产知识产品实体的工匠身份中解放出来,转变为专注于内容生产的专家。及至信息技术时代,技术进一步成为辅助开展智力生产活动的工具,使知识人的知识生产能力再度被提高。至此,技术总是在发挥着提升知识人的知识生产能力、推动知识人身份专门化的作用。而进入智能技术时代后,类人化的智能技术却在智力劳动领域与知识人形成了替代关系,反而使得知识人身份发生了异化。

“异化”一词的本义为让渡、疏远,后来在德国古典哲学中被用以说明主体与客体的关系。马克思在吸收众多哲学家观点的基础上提出异化劳动理论,指出异化劳动具有劳动者与劳动产品相异化、劳动者与劳动活动相异化、人的类本质与人相异化、人与人相异化四种形式。马克思虽将异化置于资本主义生产模式下进行探讨,但从异化概念本身来看,其所揭示的人类创造物与人类本身的疏离或对立关系的形成原理实则具有普遍意义,[11]同样可被用以透视知识人的异化问题。

1. 知识人与知识相异化

波普尔将知识划分为主观知识与客观知识。其中,主观知识是基于人的心理状态感知的知识;客观知识则是基于自然科学,通过经验归纳而无限靠近客观世界真理的知识。二者的生产过程均强调经验的参与,[12]区别在于前者仅基于个人经验,后者则建立在具有主体通性的公众经验之上。[13](85)经验是经由人类感官进行信息采集、再由大脑进行信息加工的过程,是人脑认知世界的主要方式。[14]因此,知识生产这一源于经验的活动无法摆脱知识人而成立,知识也无法脱离知识人而存在。马克思也指出,人只有在改造对象世界的过程中才能被证明是类存在物,[15](54)因而知识人与其劳动产物——知识的存在也应是一体的,知识理应是知识人的劳动对象。

而人工智能代理对知识生产活动的参与却使知识人与知识之间发生了异化。人工智能代理的感知和“大脑”部件支持其获取有关客观世界的信息并进行分析处理,即由基于特征、规则和计算的理性思维过程代替人类的经验积累过程,甚至比人类更加高效,使得知识人之于知识的价值被削弱。知识生产活动不再以知识人为主要作用者,产出知识的价值也不再与他们的劳动价值成正比。[16]因此,知识与知识人发生分离,知识人也失去了劳动对象。

此外,社会学家哈里·柯林斯认为知识由科学家们的互动、讨论和合作等实践构建而来,因而知识包含了实践的社会性和交互性。[17]而人工智能代理介入下的知识生产活动产出的“机器知识”不再是知识人劳动的产物,自然也抹去了与知识人、知识劳动有关的社会属性。人工智能代理参与生产的知识不仅不等同于知识人认知和价值观主导下的创造性产物,甚至会反过来对知识人的认知和行为产生影响,使知识人成为“机器知识”的被动接受者。

2. 知识人与知识生产劳动相异化

在第四次工业革命之前,机器对人类的劳动替代主要发生在体力劳动范畴,即物质劳动方面。及至第四次工业革命,智能机器逐步具备了思考和创作能力,机器的劳动替代开始进入属于脑力劳动范畴的非物质劳动领域。[18]在结合了大语言模型的人工智能代理出现之前,智能技术支持下的专用人工智能只能适用于单一任务情境,尚不能独立胜任复杂的知识生产任务,只能在个别知识生产环节辅助知识人完成烦琐、耗时的工作。[19]人工智能代理的出现,开启了脑力劳动大规模自动化的新篇章,其具备适用于不同知识生产任务的自主性和迁移能力,能够承担大部分属于知识人的工作,与知识人形成了替代关系,影响知识人行使自身的劳动权利。

由此,知识生产中的核心劳动被机器介入,不再是专属于知识人的劳动;知识人的劳动目的由生产知识异化为设计、调试出具备更优知识生产性能的机器;知识人的劳动对象也由知识异化为机器。这正如马克思所指出的劳动异化的表现:人的活动表现为看管机器以防止其发生故障,仅在机器运转和机器作用于“原材料”时起到中介作用。[20]知识人的劳动开始边缘化,逐渐远离知识生产的核心,也无法获悉知识生产全貌,更难以识别自身在知识生产劳动中的贡献。[21]知识生产活动愈繁荣,知识人反而可能愈发感到不自由、不自主。本该令知识人感到舒畅、有成就感的知识生产劳动也异化成其为了获得物质生活资料以维持生存的手段。

3. 知识人与其类本质相异化

当人工智能机器逐渐具备与人类相似的能力时,人与机器之间的界限将变得模糊。这让我们不得不思考:在被人工智能代理渗透的知识生产中,知识人的类本质特征是否还能成立?

德雷福斯指出:“把人同机器区别开来的,不是一个独立的、普遍的、非物质的灵魂,而是一个涉入的、处于情境中的、物质的身体。”[22]在人工智能应用于知识生产的初级阶段,人工智能机器常被理解为知识人身体的延伸,但这种延伸是极其有限的,仍然以人为核心对某些方面的能力进行增强或弥补,如帮助研究人员进行数据分析,辅助编辑校对、排版等。而人工智能代理则突破了这一能力限定,立体化地具备了与人类身体功能高度类似的智能。人工智能机器俨然一个由技术构造的“身体”,运用思维构建知识生产逻辑,并用无形的“肢体”调用各种工具实现知识生产。由此,“身体”的功能不再为知识人所独有,知识人与从事知识生产的机器间的本质区别也逐渐被模糊。

马克思认为,有目的、有计划地开展活动是人类与动物的本质区别,劳动创造了人。因此,有规划地参与知识生产劳动、生产知识产品是知识人区别于其他群体的类本质特性。而人工智能代理本就是为劳动而生的机器,并且在知识生产劳动中具备了与人类相仿的明确生产目的、作出生产规划、执行生产任务的自主能力,这使得知识人的类本质特性被进一步消解。“自由的有意识的活动是人的类特性”,[15](53)而人工智能代理参与的知识生产活动中,大部分劳动都可交由自主性极强的机器完成,原本的知识人反而成为机器启动和运行的助手,知识人在知识生产活动中丧失了其类本质依据。

4. 知识人与机器相异化

马克思将人与人的异化界定为异化劳动的第四种形式。在人工智能代理参与知识生产的情境中,机器已从工具进化为与人并行的参与者角色,并进一步引发了其与知识人之间的异化。因而有必要考虑这一新的异化表现形式,剖析知识人与机器的异化原理。人类与机器的关系经历了三个发展阶段。起初,人类将技术支持的机械产物看作自身的对立面,二者呈现二元对立关系;随着认知的深入,人类开始以高位姿态驾驭技术工具,使人机关系进入以人为核心的单向使用阶段;在智能技术时代,人机关系开始呈现向平等协作关系转型的态势。[23]但总的来说,人类长期以来都被认为是技术的创造者和领导者,奴役着作为工具的机器。即便在生成式人工智能技术应用之初,知识人群体虽然意识到机器已从工具角色转变为参与者角色,但仍然尽力强调人类在知识生产中的主体地位,维护以人为核心的人机关系,并试图构建人机合作的新型知识生产模式。

不过,人类与机器的合作关系尚未成熟便因人工智能代理的进化面临新的挑战。机器不但具有了类人化的认知和思维能力,还具有了与人类身体类似的存在状态,[24]能够相对独立、完整地完成知识创造、筛选、加工等步骤,使知识人的工作被进一步简化,甚至与知识人形成了替代关系。从事知识生产活动的人工智能代理需要什么,原本的知识人便向其提供什么。知识人在辅助人工智能代理进行劳动的过程中很难获得智慧的增长,而机器的知识生产能力却日益增强。[21]机器与人相向而行,扮演起知识人原本的角色,按照其智能逻辑重构知识人和知识社会;知识人却成为机器的一部分,甚至成为机器活动的客体之一。[25]未来的知识人要面对的是由人工智能代理及其他数字化系统构成的智能化生存环境。知识人逐渐信赖越来越聪明能干的智能机器,委托机器完成知识生产核心环节,甚至依赖机器做出关键的知识生产决策。[26]而这也是知识人逐渐让渡知识生产核心主体地位的过程,知识人反而成为知识生产的非核心参与者和旁观者。这一情况使得知识人与机器的关系发生异化,并进一步导致知识人因争夺剩余的价值空间而出现关系异化,产生新的竞争和对立关系。

三、人工智能代理引发知识人异化的社会影响

知识人异化是否应当被干预?对此,应该结合其可能产生的影响来作出判断。人工智能代理介入知识生产,引发了知识生产主体、客体及技术间关系网络的变化,构建了全新的知识生产场域。对相关问题的讨论不可局限于技术层面的变革,应从社会学范式中汲取营养,关注知识生产活动与社会的互动关联。[27]根据彼得·德鲁克的观点,未来的社会将是一个以知识为支配性资源、决定性生产要素的知识社会。知识空间的变动必然会引起社会空间的连锁反应,因而知识人异化所带来的影响应从更宏观的社会层面进行考察。

1. 知识人价值流失致使社会创新力下降

知识在隐性知识和显性知识的社会化相互作用下产生。[28]其中,隐性知识是指技能、认知等源于个人经验的,无法由明确的语言来表达和传播的知识;显性知识则是能够用符号表达的知识。[29]知识创造包括四个步骤:一是通过体验进行经验传授,实现由隐性知识向隐性知识转换的“共同化”过程;二是个人依靠主体认知对隐性知识进行加工并转化为显性知识的“表出化”过程;三是将多种概念整合为知识系统以完成显性知识向显性知识转换的“联结化”过程;四是通过学习和实践将显性知识再度转化为隐性知识的“内在化”过程。[30]隐性知识是显性知识被理解和运用的基础,也是知识创新的重要来源。由于只有人类才能通过体验获得隐性知识,人工智能代理只能习得和处理显性知识,因而知识创造过程必须由人类开启。

这就是说,知识创新仍然要以知识人的积极劳动为条件,因而必须提高知识人的内生动力,保障知识人的劳动幸福。劳动幸福要求知识生产劳动要推动知识人的全面发展,使其在劳动中获得解放和尊严。[31]而在人工智能代理介入知识生产后,知识人在辅助性工作中反而难以获得价值上的肯定,更难以获得劳动幸福。这使得知识人的生产积极性受到挫折,影响由隐性知识的积累作为开端的全新知识生产程序的启动,使知识生产陷入机器主导的有限的显性知识循环,消除了从隐性知识中偶然迸发未知知识的可能。而知识社会的价值创造来自生产力和创新,二者均建立在对知识的运用之上。[32]因此,在对知识创新非常看重的知识社会中,知识人价值流失引发的知识创新乏力将使社会发展错失新的刺激点。

2. 知识生产力变革引发社会排斥

在工业化时代,机器对物质生产的参与迫使一部分体力劳动者失去工作机会。[33]在智能技术时代,机器进一步取代脑力劳动者,开始从事创造性的知识生产劳动。与具有欲望和情感的知识人不同,人工智能代理作为没有肉身的机器无须满足生存的需要,不会期待通过知识生产劳动获得报酬;其在劳动价值观方面也不存在个体差异,能够避免因劳动态度和投入程度的波动导致工作差错或事故;人工智能代理学习新的知识和方法、继承经验和技能也无须遵循人类学习的生物法则,在优化成本方面明显优于知识人。[34]在知识社会中,知识创新效率是竞争力的重要来源,而人工智能代理的机器属性更加符合知识社会在效率和成本方面的期待。基于这一原因,知识生产中知识人的工作空间被人工智能机器挤压,使知识人面临失业的风险。

在技术变迁推动的人类生产自动化进程中,机器对人的替代并非吞噬性的,传统人类岗位消失的同时也伴随着新岗位的出现,但这一点在机器对人的替代超越体力劳动范畴而涉足脑力劳动领域时并非定律。[35]基于高度自动化的知识生产劳动衍生出的新岗位可能远少于减少的岗位,且新岗位面临更高的知识和技能要求。[36]未来知识生产需要的是具备更强协调组织与管理能力、技术控制与问题解决能力、知识价值识别与判断能力、突破性知识创新能力的知识人,这给知识人提出了新的要求,也意味着知识人内部即将出现新的竞争和分化。不具备对新价值的预见能力、对新岗位技能的学习能力、对新知识生产节奏的适应能力的那部分传统知识人很可能沦为价值创造能力较低、可替代性较高的“数字穷人”,受到智能机器和新生精英的双重挤压,在知识社会中被边缘化,面临被社会排斥的风险。

3. 技术渗透导致智能机器宰制知识社会

在知识社会学领域,互动主义的建构论主张知识与社会间存在动态互构关系,社会是知识直接建构的结果,而知识的形式和内容是社会建构出来的。因此,知识实践过程在知识社会占据重要位置,在这一过程中,人们的思想和行动将直接构成而不只是影响知识社会。在以往的“知识—社会”互动建构过程中,“人”被认为是第一位的。为此,知识社会通常把生产能力建立在知识人的知识实践活动之上。[37]然而,在人工智能代理替代知识人开展知识生产活动并引发知识人异化后,智能机器开始取代人类,逐渐掌控“知识—社会”的互动建构过程。

一方面,知识生产转向由机器主导的模型化、概率化的生产逻辑,产出平均化的“机器知识”,但其并不一定符合社会现实。例如,研究者利用WarAgent模拟历史上真实发生过的战争时发现,由于很难全面详细地向系统反映全部社会细节,系统模拟出的国家结盟情况以及对宣战对象的选择与历史事实并不相符。[38]若此类“机器知识”被用作社会决策的参考依据,难免会对社会走向产生影响。

另一方面,智能机器的广泛应用必然带来知识生产效率的提高,刺激知识社会竞争加速。被不断激发的竞争需要与智能机器的高效率特性不谋而合,又将进一步驱使知识生产加速。而“机器知识”的高效产出并不等同于知识质量和创新水平的提高,知识生产的良性发展也不应以单纯追求效率为目标。知识人异化反而消解了人类对效率和质量的平衡作用,以及对知识与社会的协调作用,致使知识与社会脱离人类对其稳定性的维护,为社会竞争与发展带来更多风险。由此,知识生产被技术渗透带来的知识人异化,对知识生产与社会发展构成双重影响,使得在二者互动共生中形成的知识社会愈发脱离人的掌控而被机器宰制。

4. 技术竞争引发知识社会的权力倾斜

正如赫胥黎对“知识就是力量”的解释,人类可以从知识中获得控制和改变世界的巨大力量,[13](86)获得知识便获得了改造世界的权力工具。同时,权力又可被用来干预知识的获得或生产,[39]使一切知识都受意识形态的影响,[40]并通过对知识的应用反作用于社会权力结构。

人工智能代理引发的知识人异化使得基于知识人劳动的知识竞争异化为基于人工智能的技术竞争。而所有人工智能都是技术与社会实践、制度、政治及文化融合下的知识性产物,[41]渗透着人类社会的意识形态和权力结构,人工智能代理也不例外。加之技术开发者拥有远高于使用者的技术控制权力,因而知识生产便被置于暗含权力倾向的技术黑箱之中,智能化的知识生产反而成为巩固社会既有权力格局的特殊手段。另外,由于人工智能技术的应用能力与科技发展水平、资源占有程度相关联,处于技术开发与应用强势地位的国家和地区的知识生产能力也将更加突出。这意味着渗透其利益、立场和意识形态的知识将更具显示度和影响力,更加强化其在知识社会中的权力地位。

此外,人工智能可以影响人们的思想和选择,其本身就是一种权力。[42]因此,知识人的异化也使得知识生产受到智能机器的操控,从而进一步加剧知识社会的权力倾斜。在传统知识生产模式中,知识是知识人在特定社会语境下创造出来,并在交流中相互补充、纠正而形成的开放的、供参阅的知识,[43]也是总体的社会内部关系的表征。[40]而异化情境下的知识生产是经机器批量化、标准化处理,生产被抽象和简化了的知识的过程,是一种“去语境化”过程,机器无法起到知识人构建特殊文化语境的作用,所生产的“非语境化知识”会导致人的认知视野愈发狭隘,使主流知识更受关注,而地方性和非正式的知识则更加边缘化,[44]来自非权力中心的声音被进一步掩盖,加剧知识社会的权力倾斜。

四、人工智能代理引发知识人异化的应对策略

鉴于知识人异化将为知识社会带来多重风险,知识生产不可任由机器主导,知识人必须在新的知识生产模式中重建自身价值体系。然而仅凭知识人个体行动难以统一价值复归方向,还需选定能够有效规制和引领知识生产活动的关键组织,由其发挥组织优势,重建人工智能代理渗透背景下的知识生产秩序,并检验和保障知识人复归效果。

1. 目标制定:重新定义知识人的角色和发展方向

明确知识人的复归目标是应对知识人异化问题的首要任务。在智能技术深度参与知识生产的趋势下,知识人的复归不能再向传统知识生产模式中的知识人角色回归,而应向以下方向进化。

首先,知识人应扮演起人机共生知识生产模式的主导者角色。从知识人异化的社会影响来看,人工智能机器生产知识与人类生产知识会带来不同的社会结果。机器与人类存在本质上的差异,机器并不能完全取代人类从事知识生产活动。虽然智能技术的应用趋势预示着属于人的权力中心的消解,但这并不意味着知识生产的绝对去中心化,反而更加需要知识人对技术应用方向、人机合作模式进行整体性的把控,维护知识生产的有序性。

其次,知识人应向知识生产的管理者角色发展。人工智能代理作为技术成果也是人类知识劳动的对象,因而人工智能代理参与下的知识生产是一项“如何运用知识生产知识”的管理革命。使用哪些知识工具、生产何种知识成果、如何开展知识生产活动、构建怎样的知识生产关系,这些任务并不是既定的。问题发现、目标决策、规则制定、流程设计、过程管理、结果把关这些管理工作正是未来知识人的价值所在,也是机器无法取代的部分。

最后,知识人还应向知识创新的开拓者角色升级。人工智能代理在引发知识人异化危机的同时也为知识人带来更多的可自由支配的时间,这正是发展和创新的基础。人工智能代理在创造突破性、个性化知识方面的能力非常有限。因此,知识人应将自己的时间投入对新知识的学习中,保持创新的科学精神,生产独创性的、具有不确定性的、不可量化的、非平均化的知识,不断开拓知识边界,使知识社会发展不囿于技术要素竞争。

2. 行动规划:发挥组织力量规制知识生产活动

由于知识生产呈现主体分散、自由度较高的特征,单凭个体的价值复归行动会不可避免地出现知识人依据差异化的价值观和标准各行其是的局面。因此,知识人异化问题的化解应当以组织为行动单位,由组织通过引领、规制等手段将个体力量集合起来发挥整体作用,实现知识人价值的复归。

知识生产的目的是形成新的知识以推动知识发展,表现为知识量的扩张和质的飞跃,只有满足这两方面要求的知识活动才能成为有效的知识生产,其产物才能进入知识行列。[45]然而,并非所有的知识生产和传播渠道都能保证知识生产的有效性。例如,知识人个体也可以通过自媒体等渠道生成和传播知识活动成果,但往往会因其信度、效度和标识度等问题被排除在知识谱系以外。[46]因此,出版便成为知识活动产物进入人类知识领域的正式通道,起着知识选择、提供知识载体以及知识传播的重要作用。加之出版业本就是专注于知识生产目标的专门组织,因此出版业便合理地成为应对知识人异化的组织行动者,有能力通过规制知识生产活动实现知识人的价值复归。同时,出版作为知识生产的重要环节和知识人聚集的工作领域,引领知识人寻求价值复归也是知识人向新的角色进化的重要体现。

因此,出版业不仅要承担好知识生产的组织者、知识价值的传递者的责任,更加严谨地组织和指引知识创新活动,将符合社会需求和价值评判标准的、具备创新性的知识成果传递至社会系统。同时,要进一步扮演好知识生产秩序的建设者和知识人价值的维护者角色,通过制定伦理规范、制度政策等规制知识生产活动,引导和鼓励知识人创造更优质知识成果;在知识筛选与认证环节检验行动效果,避免知识人价值缺位下的知识活动成果进入知识体系,产生不良社会影响。

3. 秩序重构:构建人机共生知识生产模式规范体系

在传统知识生产模式中,知识人处于知识生产秩序的核心位置。根据行动者网络理论的观点,人工智能代理与知识人在形塑知识与社会方面的作用地位是等同的。[37]这对于传统的知识生产秩序造成了冲击。对知识人异化问题的应对需要出版业发挥组织优势重建知识生产秩序,通过规范、制度与政策手段规制知识生产行为,从而将知识人的复归落实到知识生产实践中。

规范是知识生产秩序的基石,是人机共同参与知识生产的行为准则,也是知识人复归的“指南针”。出版业可以组织学界和业界开展关于知识生产中人机界限问题的探讨,明确规定人工智能的参与尺度,划定知识人的职责范围;在此基础上,出版业者应积极参与国际合作,依托行业协会制定技术应用标准与知识生产规范,推进知识生产领域技术应用的全球规范性和一致性建设,引导知识人群体充分贡献人的价值。

制度与政策为知识生产活动提供了具体指导和约束手段。出版业应制定明确的作者政策,如作者认定原则和知识产权保护政策等,保护知识人的合理权益并通过落实责任制度要求其对知识生产行为负责。出版业还需规定作者的透明度义务,要求其披露知识生产过程中的智能技术应用情况,以备接受生产过程合规性及知识成果质量审查。

在出版业建立的规范、制度与政策体系的规制下,知识人可在合理的限度内充分利用人工智能代理改造知识生产流程,采用人机共生知识生产模式,在发挥技术效率优势的同时充分彰显知识人的价值,追求更高层次的知识创新,从而实现知识人价值的复归和升级。

4. 效果把控:加强对知识生产成果的评价与核验

区别于“完成即发表”的自媒体等知识生产、传播渠道,出版业作为知识产品生产和传播的正式通道,设置了复杂的“知识确认程序”以确保知识生产的规范性和可靠性。[47]因此,出版业还可以通过调整知识筛选与评价标准、建立知识核验机制以检验知识人复归效果,及时发现问题,并对知识人的生产行为起到约束作用。

一方面,出版业应建立多元化的知识生产评价体系。人工智能代理介入下的知识生产效率将被提升至新的高度,出版业更应将知识生产评价重点放在是否遵循知识生产规范、是否符合社会实际情况、能否回应社会发展需要、能否取得实质性的知识突破等方面上来,而非过于关注热点的追踪速度、工具与方法的应用技巧等已经可以由机器高效完成的方面。出版业应从过程和结果两个维度出发,根据知识生产在独立性、科学性、创新性、知识产权明晰、权责明确等方面的要求,制定科学可行的知识生产评价指标体系,为知识的筛选设立新的标准,也促使知识人群体参照此标准调整知识生产规划,充分发挥人的价值,追求更高层次的知识创新。

另一方面,出版业还应构建覆盖全流程、融合多手段的知识核验机制。有效检验知识生产的规范性是寻求知识人复归的最后一道保障。出版业可依托知识生产管理平台,设置作者、编辑、同行专家、读者共同参与,贯穿知识生产、审查评议、传播利用阶段,融合自查、审查和监督多种手段的知识核验机制,[48]从而有效实施对知识生产过程的追踪、对人机贡献的明晰以及对成果质量的检验,确保知识生产过程符合规范标准,知识成果达到创新要求。

结语

人工智能技术已催生了新一轮的技术创新和产业变革,技术将为知识生产注入新的发展动力。在看到人工智能为知识生产带来无限可能的同时,切不可低估技术应用为知识社会带来的长期影响。技术引发知识生产秩序崩塌与重构的过程也是知识人不断认识技术和自身本质的过程。[49]随着自我认知的深入,知识人应该积极参与人工智能议程的制定,主动定义自身的内涵、自身在知识生产中的角色以及与机器的界限。本文阐明了人工智能代理将为知识生产模式带来的变革,指出了知识生产领域将要面对的知识人异化问题,深入剖析了知识人异化的原理、表现,以及可能对知识社会产生的影响,提出了知识人的复归方向及行动策略。未来的研究还可着眼于实践层面,提出更具体的行动方案,关注技术参与下的知识生产模式创新、与人机共生生产模式相匹配的知识生产规范及评价体系的建构、知识核验机制的设计方案等议题。

参考文献:

[1] 温芽清. 知识产品生产机制探析[J]. 河北经贸大学学报,2007(2):13-18.

[2] 刘诗白. 论现代知识生产[J]. 福建论坛(人文社会科学版),2005(4):4-10.

[3] 弗洛里安·兹纳涅茨基. 知识人的社会角色[M]. 郏斌祥,译. 南京:译林出版社,2012:7-8.

[4] 尼科·雅赫尔. 科学社会学——理论和方法论问题[M]. 顾镜清,译. 北京:中国社会科学出版社,1981:13

[5] 寿步. 人工智能术语agent的精准译解及其哲学意义[J]. 哲学分析,2023,14(3):130-143,199.

[6] 王吉伟. AI Agent发展简史,从哲学思想启蒙到人工智能实体落地[J]. 大数据时代,2023(12):6-19.

[7] Boiko D A, MacKnight R, Gomes G. Emergent autonomous scientific research capabilities of large language models[EB/OL].[2024-05-16].https://doi.org/10.48550/arXiv. 2304.05332.

[8] Xi Z H, Chen W X, Guo X, et al. The Rise and Potential of Large Language Model Based Agents: A Survey[EB/OL]. [2024-05-17]. https://doi. org/10. 48550/arXiv. 2309. 07864.

[9] Qian C, Cong X, Liu W, et al. Communicative Agents for Software Development[EB/OL].[2024-05-16].https://arxiv. org/abs/2307.07924.

[10] 徐笑君,李宾. 知识生产革命:“人+AI”双环知识共创模式[J]. 清华管理评论,2024(Z1):96-104.

[11] 欧阳英. 从马克思的异化理论看人工智能的意义[J]. 世界哲学,2019(2):5-12,160.

[12] 王姿懿. 基于科技理性的发展对ChatGPT的反思[J]. 自然辩证法通讯,2023,45(12):97-105.

[13] 哈贝马斯. 作为“意识形态”的技术与科学[M]. 李黎,郭官义,译. 上海:学林出版社,1999.

[14] 张小军. 关于“人工智人”的认知人类学思考[J]. 人民论坛·学术前沿,2023(24):67-79.

[15] 马克思. 1844年经济学哲学手稿[M]. 中共中央马克思恩格斯列宁斯大林著作编译局,译. 北京:人民出版社,2018.

[16] 马克思,恩格斯. 马克思恩格斯文集:第一卷[M]. 中共中央马克思恩格斯列宁斯大林著作编译局,译. 北京:人民出版社,2009:156.

[17] 郑泉. 生成式人工智能的知识生产与传播范式变革及应对[J]. 自然辩证法研究,2024,40(3):74-82.

[18] 崔中良,卢艺. 劳动替代危机下人机关系的颠覆与重建[J]. 江汉论坛,2024(2):61-69.

[19] 齐志远,高剑平,郝亚楠. 生产工具演变与劳动分工体系变革——从机器、专用人工智能到通用人工智能雏形ChatGPT[J]. 自然辩证法通讯,2024,46(2):1-10.

[20] 马克思,恩格斯. 马克思恩格斯选集:第二卷[M]. 中共中央马克思恩格斯列宁斯大林著作编译局,译. 北京:人民出版社,2012:774.

[21] 陈希. 人工智能时代劳动异化危机及其应对[J]. 理论导刊,2024(1):65-72.

[22] Dreyfus H. What Computers Still Can't Do: A Critique of Artificial Reason[M]. Cambridge, MA: MIT Press, 1992: 236.

[23] 薛璐瑶. AIGC视域下的人机关系变革探究[J]. 新媒体研究,2023,9(19):94-97,101.

[24] 詹海宝,郭梦圆. 融合与共创:ChatGPT介入内容生产的人机关系再审视[J]. 媒体融合新观察,2023(4):9-14.

[25] 尹帮文,孙伟平. ChatGPT冲击波:类人恐惧与异化危机[J]. 理论月刊,2023(6):5-13.

[26] 马乔恩. 数字资本主义与人的“新异化”[J]. 甘肃社会科学,2023(6):9-18.

[27] 周国清,唐永亮. 人工智能语境下出版研究综论[J]. 中国编辑,2024(3):19-26.

[28] 野中郁次郎,竹内弘高. 创造知识的企业:日美企业持续创新的动力[M]. 李萌,高飞,译. 北京:知识产权出版社,2006:70.

[29] Polanyi M. The Study of Man[M]. Chicago: University of Chicago Press, 1959: 12.

[30] 徐璞. 知识工作中的创新与信息技术:基于认知视角的分析[M]. 上海:上海人民出版社,2014:24-25.

[31] 齐旭旺. 马克思主义劳动幸福思想及其新时代启示[J]. 劳动哲学研究,2023(1):157-165.

[32] 彼得·F·德鲁克. 后资本主义社会[M]. 傅振焜,译. 北京:东方出版社,2009:6.

[33] 恩格斯. 社会主义从空想到科学的发展[M]. 中共中央马克思恩格斯列宁斯大林著作编译局,译. 北京:人民出版社,1997:60.

[34] 张晋铭,徐艳玲. 智能社会的“劳动”窘境及其化解[J]. 贵州社会科学,2022(10):4-13.

[35] 尤瓦尔·赫拉利. 未来简史:从智人到神人[M]. 林俊宏,译. 北京:中信出版社,2017:286.

[36] 孙伟平. 人工智能与人的“新异化”[J]. 中国社会科学,2020(12):119-137,202-203.

[37] 刘珺珺,赵万里. 知识与社会行动的结构:知识社会的理论与实践研究[M]. 天津:天津人民出版社,2005:87-92.

[38] Hua W Y,Fan L Z, Li L Y, et al. War and Peace (WarAgent): LLM-based Multi-Agent Simulation of World Wars[EB/OL]. [2024-05-16]. https://doi.org/10.48550/arXiv.2311.17227.

[39] 约瑟夫·劳斯. 知识与权力:走向科学的政治哲学[M]. 盛晓明,邱慧,孟强,译. 北京:北京大学出版社,2004:12.

[40] 鲁均亦. 从知识社会学、权力社会学到空间社会哲学——以“空间—知识—权力”为轴心的考察[J]. 山东社会科学,2023(9):45-54.

[41] Crawford K. The atlas of AI: Power, politics, and the planetary costs of artificial intelligence[M]. New Haven: Yale University Press, 2021: 8.

[42] Bartolettii I. An artificial revolution: On power, politics and AI[M]. London: The Indigo Press, 2020:1-3.

[43] 黄阳坤,陈昌凤. “众智连接”的愿景与“硅基寡头”的隐忧:ChatGPT的知识功能与人类的知识危机[J/OL]. 现代出版,1-10[2024-03-27].http://kns.cnki.net/kcms/detail/11. 5979. G2.20231218.0935.002.html.

[44] 王婷瑜,张新俏,杜智涛. 权力的解构与强化:ChatGPT重建知识生产秩序[J]. 数字出版研究,2024,3(1):43-50.

[45] 张蕾. 论学术发表与出版的知识论本质[J]. 出版广角,2024(9):57-61.

[46] 王列生. 论知识谱系的“筛网效应”[J]. 福建论坛(人文社会科学版),2024(1):35-52.

[47] 高奇琦. 知识革命还是知识堕化——ChatGPT与知识生成秩序[J]. 中国社会科学评价,2023(2):8-13.

[48] 王鹏涛. AIGC出版背景下知识生产合规化困境与调适[J]. 编辑之友,2024(3):14-22.

[49] 彭兰. “镜子”与“他者”:智能机器与人类关系之考辨[J]. 新闻大学,2024(3):18-32,117-118.

Alienation and the Return of Knowledge Man: Impacts and Responses to AI Agent Involvement in Knowledge Production

SONG Ming-zhen, WANG Peng-tao(School of Information Management, Nanjing University, Nanjing 210023, China)

Abstract: While AI Agent increases efficiency of knowledge production, it also further aggravates the dissolution of the value of knowledge man. Combining with the functions and technical characteristics of AI Agent, the article explains the changes that the intervention of AI Agent will bring to the knowledge production mode, and points out that the technological innovation will trigger the alienation of the knowledge man. The article analyzes the principles and manifestations of AI Agent as well as the causes for the alienation of knowledge man from four aspects: the relationship between knowledge man and knowledge, knowledge production, the essence of knowledge man and technology. It also explains that the alienation of knowledge man will lead to the decline of social innovation, social exclusion, machine domination of knowledge society and the tilt of social power. Finally, the article proposes action strategies to address the issue of alienation of knowledge man from four levels: goal setting, action planning, order reconstruction, and effect control.

Key words: AI Agent; LLM; knowledge production; knowledge man; alienation

(责任编辑:张茂)

基金项目:国家社会科学基金一般项目“智能媒体时代出版企业服务生态系统构建研究”(21BTQ076);ISTIC-Taylor& Francis Group学术前沿观察联合实验室开放基金“人工智能背景下科技出版失范风险的治理研究:基于知识核验的视角”(IT2304)

作者信息:宋明珍(1997— ),女,甘肃兰州人,南京大学信息管理学院博士研究生,主要研究方向:学术出版、智能出版;王鹏涛(1982— ),男,陕西西安人,南京大学信息管理学院教授、博士生导师,主要研究方向:智能出版、学术出版、出版产业分析。