基于人机融合的智慧图书馆运行模式探析

林曦?武洪兴

摘 要 人机融合智能技术的应用加快了社会各行业的智慧化进程，智慧图书馆的发展进步也急需人机融合智能技术支持。论文综述人机智能与智慧图书馆的研究成果及彼此的联系，分析当前智慧图书馆发展现状及存在不足，探究人机融合智慧图书馆的理解与定位，从系统构建、框架设计、协同服务、优化结构四方面提出人机融合智慧图书馆运行策略，并对未来智慧图书馆人机融合发展方向进行展望，为后续智慧图书馆建设提供参考与借鉴。

关键词 人机融合；智慧图书馆；人工智能；人类智能；运行策略

分类号G250.7

DOI 10.16810/j.cnki.1672-514X.2023.06.010

Analysis on the Operation Mode of Wisdom Library Based on Man-machine Integration

Lin Xi， Wu Hongxing

Abstract The application of human-machine integration intelligent technology has accelerated the process of intelligence in various industries in society， and the development and progress of smart libraries also urgently require the support of human-machine integration intelligent technology. This paper summarizes the research achievements and interrelationships between human-machine intelligence and smart libraries， analyzes the current development status and shortcomings of smart libraries， explores the understanding and positioning of human-machine integration smart libraries， proposes operational strategies for human-machine integration smart libraries from four aspects： system construction， framework design， collaborative services， and optimization structure， and looks forward to the future development direction of human-machine integration in smart libraries， provides reference and inspiration for the subsequent construction of smart libraries.

Keywords Man-machine integration. Wisdom library. Artificial intelligence. Human intelligence. Operation strategy.

0 引言

自芬兰Markus Aittola等学者提出智慧图书馆（Smart Library）概念以来[1]，随着物联网、大数据、云计算、5G、人工智能等新技术的蓬勃发展并逐渐应用到图书馆服务体系之中，再加上读者使用图书馆习惯的悄然变化，使得智慧图书馆得到了快速发展。2017年，我国发布了《新一代人工智能发展规划》，提出要将人工智能的社会属性和技术属性进行融合，构建开放、协同的人工智能科技创新体系，统筹布局人工智能创新平台的战略部署[2]。2021年，国务院公布的《中华人民共和国国民经济和社会发展第十四个五年规划和2035年远景目标纲要》，首次在国家五年规划中提出积极发展智慧图书馆，加快数字社会建设步伐的社会信息化战略[3]。这一系列的顶层设计将智慧图书馆建设带入了高速发展的快车道。

1 研究综述

在人机智能层面，程洪[4]等通过对现代手术机器人、康复外骨骼机器人、智能假肢、汽车自动驾驶等人机智能应用案例进行分析，认为人机智能是现阶段最能够帮助智能交互机器人实现人机协作的系统。Andrist[5]等通过展示自然语言与用户进行交互的工具包和系统组件，对开放世界中的人机智能协同系统进行研究，阐述了开放、可扩展的人机智能系统具备强大的处理和解决问题能力。孙效华[6]等从体验和技术视角分析人机智能协同中的发展脉络、研究框架、研究范围、协同技术、体验视角等问题，认为全方位、体系化协同发展的人机智能将是未来发展趋势。刘伟[7-8]等通过对现有人工智能系统的数据信息表征和认知模型构建的优缺点进行分析，引出了深度态势感知，并对人机智能环境下态势感知进行深度剖析，提出人机智能将是未来智能科学及军事智能的发展方向。

在智慧图书馆层面，饶权[9]提出智慧图书馆可通过对人工智能环境下的评价体系、标准规范体系及人才培养体系的构建与深化，满足人类对信息资源智慧化服务的需求。谭春辉[10]等借助文献分析工具对近十年我国智慧图书馆研究成果信息进行可视化分析，发现虽然图书馆界近年来对智慧图书馆研究的總体趋势逐年递增，但并未提及人机智能方面的内容。刘炜[11]等从业务、数据、服务和产品四方面探索构建智慧图书馆标准规范体系框架，不过仅在“用户界面”提到了智慧图书馆人机交互规范。张兴旺[12]等对古代南海海图数字图书馆的智能化设施、环境、技术及人机交互界面等进行实证研究，发现信息隐喻方式可帮助智能化人机交互系统完成用户与图书馆之间的信息关联、理解与转换，从而使智慧图书馆的人机融合与交互得以实现。

综上所述，尽管国内外人机融合智能技术已在军事、医疗、交通等方面有较多卓有成效的研究成果，也有部分学者对智慧图书馆的人机融合开展了相关研究，但智慧图书馆现阶段的发展还过分依赖于人工智能，对人机智能的认识和运用相对欠缺，对图书馆如何通过人机融合智能态势感知并解决复杂多变环境下各类问题的研究还处于空白。

2 智慧图书馆发展现状及存在的问题

近年来，智慧图书馆从面上看发展非常迅速，借助人工智能能快速处理庞大的运行、储存信息，帮助图书馆、馆员和读者解决了诸多难题，使图书馆的运转变得更高效、便捷，但人工智能并非无所不能，智慧图书馆在实际应用中也存一些无法逾越的缺陷。

2.1 按部就班，处理问题呆板

图书馆在智能化进程中最致命的缺点就是过分依赖人工智能。目前智慧图书馆运用人工智能就如小学生按乘法口诀做数学题，口诀是什么答案就是什么，哪怕是在你面前“对答如流”的智能机器人，也是因为程序员前期输入了足够多的问题回答词条，它并不能理解所提问题本身的含义，所以应对一些读者较为刁钻的问题时，智能机器人常常会出现答非所问、啼笑皆非的局面。当前，智慧图书馆人工智能系统缺乏对目标任务的自主发现、动态分析、统筹规划和解决矛盾的沟通、协调、处理能力，很难处理不同场景下相同问题之间的细微差别，更不容易分清楚关联事物之间不同的价值取向。

2.2 轻虑浅谋，理性思考欠缺

如何让图书馆人工智能系统“明白”读者在不同场景、不同阶段的意图变化，如何让各种复杂的计算变得能让人通俗易懂，都是目前摆在人工智能面前的难题。例如在高校图书馆中，若大一的新生和大四的学生都在图书馆智能检索框中输入“如何高效利用图书馆资源”，得到的检索结果基本是一致的，但不同层面的读者期望获得的检索结果却是大相径庭的，新生读者大多是想了解图书馆众多资源的介绍及使用方法，从而找到自己感兴趣的资源，而大四的学生更想知道的是怎样利用图书馆资源完成毕业论文的选题与撰写。人是场景中的主动部分，人工智能只是人造的被动工具，现在智慧图书馆人工智能系统还不会随环境、任务、人的变化而随机应变的，智慧图书馆在态、势、感知方面都还存在较大的可提升空间。

2.3 毫厘千里，思考角度狭隘

目前，智慧图书馆的人工智能系统还无法做到像人一样全方位、多角度去思考或感受外部世界，人工智能处理问题的方式是在有限、封闭、线性环境下的相对固定的算法模型。要想智慧图书馆的智能系统能像人一样理性思考、解决问题，还有有赖于科技取得更长足的进步。目前，对于智慧图书馆而言，最终的裁判权还是人，这是因为图书馆大多数问题的实质不仅是科学技术问题，还涉及大量的环境、社会、人文、伦理、法律等非科学技术问题，智慧图书馆系统在处理复杂问题时的综合评判能力还比较弱。

3 人机融合智慧图书馆的理解与定位

在现实生活中，人们对人机融合智能的认知存在一些误区，某些本应由人与人工智能系统联动的“人机融合智能”才能完美解决的问题，却常常被误认为通过“人工智能”算法就能轻松解决，但实际情况是在运行智能设备的过程中仍需要丰富经验的工作人员。完全依赖人工智能单独进行工作或完成任务会带来极大的安全隐患，所以在智慧图书馆建设中的模式应是人机融合，各司其职。因此如何让人工智能和人类智能在人机融合环境下均发挥出最大效能是目前图书馆值得深入研究的重要课题。

3.2 人机融合智能

人机融合智能是一种由人、机、环境相互作用而产生的新型智能系统，它是集成了物理学、数学、生物学、人类学、智能科学、脑科学等学科的新一代智能科学体系，主要侧重人脑与人工智能的融合、交互、协调的智能科学，是人工智能和人类智能研究范畴的延伸与拓展。不断发展进步的人机融合智能系统所具备的实用性、便捷性、縝密性及拓展性，甚至可能远远超出开发者的预期，在信息智能输入端，人机融合智能系统既能采集到人工智能硬件传感器上海量、实时的客观数据，也能采集到人所感知到的复杂、细微的主观信息，并能把这两类数据（信息）进行智能关联和融合，去伪存真，在数据（信息）源头形成全新的引流方式；在信息智能处理端，人机融合智能系统能将人的超强感知、分析和判断能力与人工智能的超强识别、计算和处理能力进行交互、融合，构建起一种全新的分析、解决问题机制；在智能的输出端，人机融合智能系统既能体现人在决策中的价值取向，也能融入人工智能超强的执行能力，人机合一，形成对事物的最优判断[13]。

人类智能通过对外界信息、知识、环境的感知，并结合自身认知能力及经验进行理性判断，可综合考量、处理各类复杂的问题，擅长处理价值取向的主观信息，其解决问题的过程常为：通过理性思维判断、整合人类大脑的知识层、认知层、意图层，从而形成意向性的决策。人工智能通过选择合适的算法对读取到的外部数据进行系统地分析和计算，能快速处理海量的相互关联的各类客观数据，其运行过程为：按目标层意图选择相应算法读取数据层的关联信息，并按任务规划层的要求进行精准计算，最终形成模式化的思维。人机智能采用双向多层的融合、交互结构体系将人类智能与人工智能有机地融合，由单向智能转变为双向智能，让人类智能与人工智能可以在相同或不同的层次之间进行匹配、交互和融合，形成最优的判断结果（见图1），从而使人机智能既兼顾了处理问题的高效性，也兼顾了理解问题的透彻性与前瞻性，实际使用效果既强于人类智能也优于人工智能。

3.3 人机融合智慧图书馆

智慧图书馆主要职能是针对用户开展知识采访、知识存储、知识传播、知识发现、知识服务和各类终端设备智能互联这六方面的建设，从而实现图书馆资源、服务、空间、管理的全面智慧化。知识的关联是指知识单元之间存在的各种联系的总和，人具有智能的一部分，而不是全部，人工智能亦是同样的道理，而人机智能可释放出人与人工智能的最大潜力，互为补充，相得益彰，从而发挥更大的作用，为用户提供更为精准的服务。比如，图书馆拟建设“攀枝花三线建设特色文献库”这类有复杂历史背景的特色文献库，单通过智慧图书馆人工智能系统是很难实现的，人工智能系统只能帮助图书馆找到标题、关键词、专家库、内容摘要等显性数据中含有“三线建设”或“三线”的文献资料，但与攀枝花三线建设密不可分的诸如“攀枝花钒钛磁铁矿的发现”“攀枝花建市的初衷、历史”“成昆铁路的立项与建设”“攀钢的成立与建设”等主题的文献将无法采集到，通过人机智能的结合，既能通过人工智能对大数据的筛查尽可能全地收集到与三线有关的文献资料，又能通过人的判断，增加与三线建设相关主题文献的筛查词条，同时还能筛除掉那些虽文献名中含有“三线”，但实际是数学或经济名词的“三线”而不是“三线建设”的文献，通过人机融合协同工作，使得此类较为复杂的图书馆特色业务得以快速、精准地实施。

4 人机融合智慧图书馆运行策略

人机融合智慧图书馆的核心是人机系统工程的运维，重点在于是研究人、机器和环境之间的匹配与融合，涉及人机之间的数据读取、算法、集成、分析、决策等方面的内容，最终达到人、机、环境的优化和可视性。

4.1 人机系统构建

在智慧图书馆人机系统构建过程中，须根据智慧图书馆人机智能系统具体流程（见图2）进行具体分析，决定其究竟是由人还是人工智能系统来主导决策、开展服务。一方面是功能分配，从图2可以看出，智慧图书馆的建设是按照外部需求进行搭建的，存在被动的属性。另一方面是能力分配，是智慧图书馆不断向前发展的内部动力，存在主动的属性。具体的分配机制为：智慧图书馆人机智能系统在处理复杂、异构、非线性的数据、信息和问题时，诸如“查新查引”“学科服务”“信息素养教育”“数据评估”等，需重点发挥人类智能的优势，这时人的或是类人的方向性把控与预处理显得尤为重要，是智慧图书馆人机智能融合系统设计的核心。当复杂问题、信息被分解到固定区域后，人工智能有界、便捷、准确的优势便可得以充分发挥，其凭借超强的数据处理能力，可更及时、快速地处理业务，是智慧图书馆人机智能融合系统设计的重点，也覆盖了智慧图书馆大多数的业务工作。在处理某些边界不够清晰、复杂程度不高的数据、信息和问题时，就需要人工智能系统合理分配人与人工智能的参与程度，找到二者的最佳契合点，发挥人类智能与人工智能各自的优势，形成合力，联合处置，是智慧图书馆人机智能融合系统设计的难点。

4.2 人机融合智能设计框架

智慧图书馆人机智能系统是面向复杂人机协同应用场景的智能系统，图书馆人机融合智能设计框架是在智慧图书馆云基础设施和构成要件的基础上通过对用户需求进行分析，并根据智慧图书馆质量屋构建要求和人机决策评分规则来确定具体事件的人机融合智能解决方案，其技术核心是如何通过人机互联互通将人类智能和机器智能有机融合实现图书馆全流程智慧化，以解决智慧图书馆实际应用场景、任务中人机协同的不确定性、目标不一致性和开放性等难题，从而实现自然、安全、协调的人机交互与融合发展（见图3）。人、机、环境在图书馆运行过程中都是变量，人机交互建模过程中既要考虑因人而异，也要考量科技进步带来的人工智能迭代，同时还要分析因环境而异的因素。智慧图书馆人机系统需在人、机、环境的变化中找到最佳的结合点，充分体现人机融合的优势，才能使系统发挥出最大的效能。智慧图书馆人机融合界面设计框架的实质就是要处理变与不变的关系，人的变与不变是由其认知和价值观所驱动的，人工智能系统的变与不变则是由输入程序和事实驱动的，尽管人工智能常常会受到开发者或使用者的观念或习惯的影响，但依然相对固定，基本不会因实现情境变化而进行自主选择和决策。

4.3 人机协同服务

人机协同服务过程中需要重点处理好理解与反思的问题，由人类智能与人工智能进行融合构成的人机智慧图书馆系统，相较于传统图书馆，其主要优势在于将人的智慧与机器智能完美融合，实现优势互补。在人机智能系统中，人是弱态强势、弱感强知，机是强态弱势、强感弱知，作为有较强专业素养的图书馆员，对于未知的复杂情况有更强的处置能力，能够快速处理知识服务过程中变化万千的突发状况，而人工智能相较于人类，在常规化、模式化操作时，其稳定、快捷、精准的优势得以充分发挥，不会因为工作的时间长、强度高、范围广而产生情绪和疲劳，所以，只有通过精准、自然、协调的人机合作，才能够保证图书馆的服务更安全、稳定、精确和便捷。2018年，Nushi等人开发设计了一套人机混合的智能发现工具——Pandora，其可以对人和系统生成的观测结果进行综合分析，并利用来描述和解释系统的运行机理或故障原因，加深了人机智能协同下对系统行为和故障的理解[14]。图书馆人机融合系统也应该开发类似的工具，加深人机之间各种“试错”后的经验交流与学习，便于后期的人机深度融合与对读者更精准的服务。

4.4 人机结构优化

智慧图书馆人机融合智能系统作为一个结构复杂的、多元的、自适应需求强烈的生态系统，其从读者需求、知识发现、知识推广、信息资源管理维度上如何自主实现态势感知，是智慧图书馆人机结构优化的前提。智慧图书馆可通过人机融合系统确定图书馆事务的分工及人机的匹配。人工智能偏向于“硬智”，人类智能偏向于“软智”，人机融合智能则是“软硬智”，智慧图书馆运行过程中，复杂的、强的、超级的智能都是软硬智，所以人机结构的不断优化对图书馆智慧化发展显得尤为重要。现在人工智能科学在智慧图书馆的应用中还存在一个不易突破的难题，就是把人（读者、馆员）看成是理性人，殊不知，人是活的、差异化巨大的群体，智却是相对固定的智，每个人都是独立的个体，其需求、价值观、意识及图书馆带给的体验感都不尽相同，目前，要用远还未达到有自主思考意识和思想的弱人工智能去匹配差异化极大的人的需求，还存在较多不完美的地方。智慧图书馆人机之间的融合、优化就如同建设高楼的钢筋与混凝土一样，只有二者相互匹配、充分融合才能使高楼建到所需的高度。当前，智慧图书馆研究与建设仅仅融入图书馆学和智能科学是不够的，还需要渗入人类学、哲学、社会学、仿生学、心理学、艺术学等学科才能使人机融合智能图书馆系统做到通情达理、善解人意、高效运行。

5 人机融合智慧图书馆未来发展方向

事物的发展从来都不是一成不变的，人机融合智能发展精髓就是其会随着事实或价值变动而发生相应的适应性变动，借用经济学家熊彼特的创造性破坏理论观点，可把智慧图书馆人机融合发展过程说为：“人机融合的发展就是不断地从图书馆内部革新，从而不断破坏旧的，创造新的智慧图书馆人机融合结构，以适应图书馆与读者需求的變化。”这种过程也将是人机融合智慧图书馆未来发展的方向。

5.1 全方位

在人机智能得到充分融合的条件下，智慧图书馆将是一种新型的人机智能系统，未来的人机融合智能将在图书馆信息资源的储存、传递、分析、处理、决策与执行等领域都发挥更大的作用，人机融合智能将在智慧图书馆得到全方位、全过程的运用。首先，在信息资源储存与传递方面，智慧图书馆信息资源的识别、储存、传递是智能化发展的前提。在图书馆各类信息储存与传递过程中，需要实现机器感知的客观数据与人的感知的主观信息进行有效融合。此外，还可对智慧图书馆多通道、多领域人机交互中的信号实现有机融合的智能管理与应用，以深化智慧图书馆对读者或馆员意图的精准理解，从而为人机智能个性化服务提供扎实的基础。其次，在信息资源分析、处理方面，智慧图书馆人机智能系统需要将人的认知与人工智能的计算实现全方位、多角度的融合，相关的问题包括如何充分挖掘人（馆员、读者）的主观能动性，如何让人利用人机智能系统以常规的方式在智能回路中进行学习与训练，并挖掘、激发更多人类智能的潜能，以及如何通过构建任务使人工智能设备在人机智能系统能够同时从人的认知和海量信息数据中进行自主学习，从而增强机器的“人性化”与实用性。然后，在信息资源决策、执行方面，智慧图书馆系统需要将概率化的模型输出结果与人的规则化价值判断进行匹配，以支持决策在人机智能协同的形式中得到有效执行。另外，随着“强人工智能时代”的到来，衍生出人、机、环境共同作用下的新型“人机融合”的智能传播关系也将进一步提升图书馆的智慧化，新型智慧图书馆系统将具有更为强大的感知、规划、分析、计算、协调和执行等能力，通过智能采集来自于人、环境、物的主观感觉与客观信息相结合的数据，并将数据运算与人的认知、情感进行智能匹配，并将人的价值判断与人工智能的优化结果进行有机结合，以“机器模拟人”的方式，不断将人的需求、策略与人工智能的感知、执行进行融合，帮助智慧图书馆实现人与机器之间的相互嵌入、理解与依存，从而帮助智慧图书馆全方位解决人类智能不均衡和体力不持续的短板，以及人工智能应变能力差的缺点[15]。

5.2 自主化

美国计算机专家阿米尔·侯赛因（Amir Hussein）指出，目前，弱人工智能设备已经能做到按照人类编写的程序出色完成固定的模块化的任务，而自主化程度较高的强人工智能设备不仅能为自己设定新的行为目标，还能通过自主学习完成此目标[16]，预示着人工智能未来会向自主化方向发展，这也是人机智能融合未来研究的重点。未来智慧图书馆在运行过程中，将涉及人机融合系统的主动推荐、自主学习、自然进化和自身免疫等方面的内容，这都是推进智慧图书馆系统自主化非常重要的环节。智慧图书馆人机融合智能形式需要解决的核心问题就是把人类智能和机器智能的优势自主地整合在一起，形成一套智能适配机理。若把人工智能看成是建立在确定性数据、算法、算力基础上较为复杂的系统，那么人类智能则应是建立在随机性知识、算理、算计基础上的更为复杂的系统，而未来智慧图书馆系统通过人机自主融合既能快速计算模式化的数据，也能自主并理性分析、解决随机性的信息。

5.3 集群化

在未来，随着群体智能技术的发展与成熟，以及人类对脑科学研究的不断深入，类脑智能将帮助智慧图书馆的人类智能与人工智能逐渐扩展到集群化的人机协同智能。这些新技术的应用会让未来智慧图书馆人机智能协同的类型变得更加丰富多样，既包括个人与单个或多个独立图书馆智能系统的协同，也包括个人与图书馆群体智能系统的协同，还包括众人与图书馆群体智能系统的协同，此时基于群体智能的智慧图书馆人机智能系统将具备更为明显的群体化特性与优势。其每一项子系统的运行都极其复杂，这当中数量庞大的人（读者、馆员）既是智慧图书馆的建设者，也是图书馆智慧服务的享用者，其群体智慧与人工智能聚合的力量和智慧将覆盖智慧图书馆系统的始端与末端，产生群聚效应，更进一步地在有多个人类个体参与任务协作情况下，还将形成多人与群体智能系统的群体混合智能，使智慧图书馆的潜能得到更为极致的发挥。

5.4 伦理性

智慧图书馆人机融合智能技术的发展，不仅是新技术、算法和硬件设备的更新换代，更加重要的是人机融合机制、机理的推陈出新与符合常理，这当中就涉及人机智能的伦理问题。目前，智慧图书馆系统大多只关注人（读者、馆员）的社会环境与自然环境这类外部环境，通过传感器获得场景数据来综合分析人的显性需求，还不能通过算法来分析出人的内部心理场景与需求，人的心理活动具有较强的倾向性、动机性和不确定性，往往也是其内在需求最真实的反应[17]。所以对于未来智慧图书馆人机融合智能发展而言，不仅需要在技术、设备、机制、机理上的不断发展和完善，还需要通过人机智能伦理的研究，既考虑人机智能技术的高速发展，同时也兼顾融合主体——人类的思维与认知方式，建立符合人内隐行为的人机融合、交互新模式，让人类与机器各尽其职、互相配合与相互促进，从而使智慧图书馆人机融合智能达到更高的目标层次。

6 结语

人机智能时代，人、机、环境系统都会朝着和谐一致的方向发展，图书馆智慧化的目标将不再是简单的“Al+图书馆”或“图书馆+智能算法”所能实现的。随着人机智能与智慧图书馆深度融合，图书馆事业生态将更加明晰，智慧化服务也将得到进一步优化与创新。

参考文献

AITTOLAL M， RYHANEN T，OJALA T.Smart library： location-aware mobile library service[C]//5th International Symposium on Human Computer Interaction with Mobile Devices and Services.Udine：Springer，2003：411-415.

国务院关于印发《新一代人工智能发展规划》的通知[EB/OL].[2022-05-10]. http：//www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm.

中华人民共和国国民经济和社会发展第十四个五年规划和2035年远景目标纲要[EB/OL].[2022-05-10].http：//www.gov.cn/xinwen/2021-03/13/content_5592681.htm.

程洪，黄瑞，邱静，等.人机智能技术及系统研究进展综述[J].智能系统学报，2020（2）：386-398.

ANDRIST S，BOHUS D，FENIELLO A.Demonstrating a Framework for Rapid Development of Physically Situated Interactive Systems[C].Daegu：2019 14th ACM/IEEE International Conference on Human-Robot Interaction， 2019.

孙效华，张义文，秦觉晓，等.人机智能协同研究综述[J].包装工程，2020 （18）：1-11.

劉伟.人机智能融合：人工智能发展的未来方向[J].人民论坛·学术前沿，2017（20）：32-38.

刘伟，张玉坤，曹国熙.有关军事人机混合智能的几点思考[J].火力与指挥控制，2018（10）：1-7.

饶权.全国智慧图书馆体系：开启图书馆智慧化转型新篇章[J].中国图书馆学报，2021（1）：4-11.

谭春辉，周一夫.近十年我国智慧图书馆研究态势[J].图书馆论坛，2022（1）：69-79.

刘炜，刘圣婴.智慧图书馆标准规范体系框架初探[J].图书馆建设，2018 （4）：91-95.

张兴旺，赵乐，葛梦兰.人工智能时代数字图书馆智能化人机交互技术分析：以古代南海海图数字图书馆为例[J].图书与情报，2018（5）：56-64.

刘伟.军事智能化的瓶颈与关键问题研究[J].人民论坛·学术前沿，2021（10）：30-34.

NUSHI B， KAMAR E， HORVITZ E. Towards account-able AI： hybrid human-machine analyses for chara-cterizing system failure[J].ArXiv PreprintarXiv，2018：126-135.

冯雯璐，白紫冉，乔羽.智能传播趋势下的人机关系及其伦理审视[J].湖南大学学报，2022（3）：154-160.

侯赛因.终极智能：感知机器与人工智能的未来[M].赛迪研究院专家组，译.北京：中信出版社，2018：36.

刘伟.人机融合：超越人工智能[M].北京：清华大学出版社，2021：270-271.

（收稿日期：2023-01-05 编校：左静远，曹晓文）