自动化故障对操作者综合绩效的影响及应对措施

陈树骏

（通号通信信息集团有限公司，北京 100070）

随着自动化等技术的发展，人-机协同任务中“机”的部分正在变得越来越自动化，在各个领域得到了广泛的应用，逐渐将人工操作者从任务的直接执行者变为了任务的监控者。在自动驾驶领域，驾驶自动化可以减少由人为错误造成的交通事故、提高交通效率，并有望改变人类驾驶员的角色。如采用了较低水平的自动驾驶系统和复杂的自动驾驶辅助系统的特斯拉Model S 和沃尔沃S90 要求驾驶员监测道路情况和自动化系统的状态[1]，驾驶员的主要任务从驾驶转变为了监控，因此需要了解自动化的功能和故障，以便在系统遇到功能限制时及时进行干预，进而保证驾驶安全。采用自动化技术不仅可以把人从繁重的体力劳动、部分脑力劳动及恶劣、危险的工作环境中解放出来，而且能扩展人的器官功能，较大程度地提高劳动效率。

诚然，自动化技术的使用带来了多方面的益处，但是也导致了诸多负面影响，引起了人们的高度关注。实际上，并不存在一种完全可靠、永不出错的自动化系统，自动化功能也会出现故障或失效的情况。自动化故障/失效指的是自动化系统出现差错，自动化的故障模式可以分为3 种类型：漏检（发生但是没有被检测到的故障）、误报（未发生但是被检测到的故障）和诊断错误（检测到故障，但是类别被诊断错误的故障）[2]。偶发性的自动化系统故障动辄会造成无法弥补的灾难性后果，比如1985 年中华航空358 号班机空难：飞行过程中4 号引擎的推力减弱且无法重启，导致机身不平衡时，本就处于超负荷工作状态的机长们做出了错误的判断和应对操作，加速了飞机的失速坠落，好在最后在不到609.6 m 的高度将一架俯冲姿势的飞机改为正常运行并迫降旧金山机场，挽救了200 多名乘客的生命；但飞机的机身严重受损，机尾的状态极为不好，左侧的水平翼也被折断，液压系统已经完全被破坏。

经过文献调研发现，目前的研究大多数是分析自动化功能的故障对于操作者某一方面的影响，并未进行多维度的阐述。本文以有自动化参与的运行工况为背景，从自动化信任、操作绩效、情境意识和工作负荷在内的具体维度评估自动化功能的故障/失效对操作者综合绩效的影响，并提出了应对措施。

1 自动化故障对操作者综合绩效的影响

本文分别从自动化信任、操作绩效、情境意识和工作负荷的维度阐述自动化功能的故障/失效对操作者综合绩效的影响。

1.1 自动化故障与自动化信任

在自动化背景下，操作者对自动化系统的信任是其依赖复杂自动化系统执行任务的基本决定因素之一。自动化信任是指在以不确定性和脆弱性为特征的情况下，自动化系统将代替操作者实现操作目标的一种态度，自动化系统的可靠性便是其影响因素之一。操作者对系统主观感知的信任程度会影响其对自动化系统的客观行为上的依赖程度，信任程度过高或过低分别会导致操作者对自动化系统的过度依赖和弃用的不良现象，均不利于人机交互。

自动化故障或失效等异常情况的发生会降低操作者对当前执行任务的自动化系统的信任程度。LEE 等以一个驾驶模拟器为实验设备，让56 名司机完成了他们对自动化的信任程度的问卷调查，对数据的统计分析结果表明，违背用户对自动化性能期望的自动化故障会导致驾驶员的信任水平暂时下降，之后经历了无错误的自动化之后，减少的信任会得到一定程度的恢复。这表明自动化系统本身的可靠性是影响驾驶员对其信任程度的重要因素。除此之外，某系统的自动化功能故障除了会降低操作者对该系统的信任程度之外，也会导致其对其他100%可靠的自动化设备的可靠性的质疑，影响其信任和依赖水平，称为“扩散效应”[3]。向驾驶员提供有关自动化系统的信息，以保持驾驶员在监督控制中与自动化系统本身的持续交互，是保持驾驶员对自动化系统信任的一种有效手段[4]。

1.2 自动化故障与操作绩效

操作绩效是对作业者完成任务好坏程度的客观度量，是自动化系统中需要关注的重要指标。自动化系统大多是为正常工况设计的，会不可避免地发生故障，以至于影响作业者的操作绩效水平。

SAUER 等模拟了一个可以在航天飞机上自动将二氧化碳、氧气、压力等的参数保持在设定的目标范围内的管理空气质量的生命维持系统，参与者在实验中经历了包括氧气阀门泄露等在内的15 种故障场景。分析结果表明，系统中主要任务的自动化功能故障会显著降低次要任务的绩效水平，对主要任务的绩效会带来负面影响也得到了实验验证。

对于空中交通管制员来说，当自动化不可靠时，与信息采集自动化相比，所有自动化类型检测即将发生的碰撞的时间要长得多，会显著降低工作效率[5]。对于驾驶模拟无人机通过一系列任务航段，并且执行搜索目标和监控系统参数的操作者来说，具有较低可靠性的自动化辅助系统会显著降低发生故障的任务及并发任务的绩效水平[6]。

综上可以看出，自动化系统某一功能的自动化发生故障，会对该任务及当前并发任务或次要任务的绩效带来负面影响。

1.3 自动化故障与情境意识

作业者对工作环境和系统状态的了解程度是影响其能否做出正确决策和是否能防止事故发生的重要因素，这一因素被称为“情境意识”。1989 年，美国国家运输安全委员会（National Transportation Safety Board，NTSB）对361 起通用航空事故进行分析并得出结论，97%的可能原因是飞行员的失误[7]，而大多数原因都与飞行员的情境意识相关。

具有较高的可靠性和较强的功能是自动化系统设计的主要目标，但是自动化系统的可靠性越高、功能越强大，操作者就越有可能将其注意力转移到与当前执行任务无关的事情上，比如，驾驶员在监控汽车进行自动驾驶的过程中很有可能出现打电话等行为，这便是较高程度的自动化导致的驾驶员“人在环外”行为，也可以理解为驾驶员的注意力分散。2018 年，美国约有250 万人在车祸中受伤，其中近16%的受伤是由于司机分心[8]。

2016-02-14，在美国加州山景城，Google 一辆自动驾驶汽车Lexus 与公交车发生的碰撞事故中，驾驶员在汽车自动行驶过程中没有对汽车进行不间断监控，当紧急事件发生，自动化系统失效后，需要人来接管驾驶任务，但是驾驶员很难在2 s 的时间内做出正确应对，导致这起事故发生的原因是自动化系统的介入在一定程度上降低了驾驶员手动操作技能及情境意识[9]，以至于在系统失效时不能进行有效应对。在铁路运输系统中，列车运行自动控制系统将乘务员的主要职责从驾驶转为了监控列车的运行状态，但是，这种长期且单调的监控任务非常不适合人为操作，主要原因在于长时间的单调工作容易导致列车乘务员的警觉性下降，即“单调效应”。

所以，正常工况设计的自动化系统出现故障或功能失效时，处于较低情境意识水平的驾驶员很有可能无法做出及时、正确的应对操作，甚至发生交通事故。

1.4 自动化故障与工作负荷

在人机系统领域，工作负荷一直是研究者们关注的主要指标，设计自动化系统的目标之一是在一定程度上降低操作者的工作负荷。

与完全可靠的自动化系统相比，自动化故障会影响操作员的认知需求，出现自动化故障时，操作者会体验到更高的工作负荷水平。

在航空领域，数据通信（Data Communication）是空中交通管制员和机组人员使用的通信工具，允许操作人员共享实时空间、天气和安全等信息，可以实现信息的定向传输，减少了语音通信引起的错误。但是，当数据通信出现故障时，空中交通管制员与机组人员之间就需要进行口头沟通，增加了工作负荷，同时还占用了操作者的情境意识资源，降低其绩效水平。汽车在自动驾驶模式下因自动驾驶功能限制或计算机等的功能限制而发生故障时，被要求恢复对车辆控制的驾驶员会比在手动驾驶状态下经历更高的脑力负荷。所以驾驶一辆可能需要随时干预的高度自动化汽车需要驾驶员具有持续的注意力、保持高度警惕，以便及时发现何时需要恢复手动控制。

2 缓解自动化故障带来的负面影响的技术手段

本文按照故障发生前、故障发生时和故障发生后的时间节点，分别提出对应的技术手段以缓解自动化故障/失效对操作者综合绩效的负面影响，包括提供后备方案、预防维护措施和培训；提高系统信息透明度；构建故障诊断系统。

2.1 提供故障后备方案、预防维护措施

正所谓“未雨绸缪”，对特定系统提供后备方案、制定对应的故障预防维护措施，对操作人员提供相关故障培训不失为可行的方式。

在列车自动运行的背景下，苏靖棋提出了3 级自动化运行下故障后备方案中可能的人-机协作方式，即：传统的人-人协作，采用ETCS（European Train Control System，欧洲列车控制系统）、无需ATO（Automatic Train Operation，列车自动运行系统）的列车员自主驾驶，有控制中心操作员参与、无需ATO系统的人-机协作，采用ATO 系统、无需ETCS 系统的列车员自主驾驶，有控制中心操作员参与、无需ETCS系统的人机协作，同时采用ETCS 系统和ATO 系统的列车员自主驾驶。

分级预防和生命周期预防的故障预防措施、增加自动化诊断技术和规范维护工作和管理工作的故障维护措施，毫无疑问也是保证化工行业自动化仪表等设备高水平运行的有效手段。

除了对自动化系统提供预防维护措施之外，还可以对操作者提供自动化故障的相关培训，即让操作人员为实际的情况做好准备，以便能够应对意外事件，对操作者关于自动化故障的相关培训经验也会提高操作者在故障发生时所正在执行的次要任务的绩效水平。

2.2 提高系统信息透明度

上述提供故障后备方案和预防维护措施会在一定程度上降低自动化故障/失效发生的概率，并非可以保证故障永不会发生。

NORMAN 认为，高水平自动化与执行监控任务的操作者之间缺乏持续的反馈和互动是故障发生的原因之一。提高系统信息透明度是一种在操作者与系统之间提供持续的反馈和互动的有效措施。关于透明度的概念，最根本的思想是将有关于自动化系统运行的某些信息以某种方式呈现给操作者，适当增加操作者获得的信息量。

以提高系统信息透明度的手段来缓解自动化功能偶发性的故障或失效对作业者综合绩效的负面影响或许也不失为一种可行的方法。以自动驾驶为例，让驾驶员及早意识到自动化功能故障的发生，及时介入并接管驾驶任务以处理潜在的危险后果是至关重要的。SHAHINI 以驾驶模拟器为设备，探究合适的接管时间预算（Take Over Time Budgets，TOTB），即接管请求和即将发生的故障之间的时间差，结果显示，自动驾驶系统在故障发生的10 s 之前告知驾驶员会显著降低其工作负荷。但是，一方面，应该考虑到更高水平的透明度可以提供更丰富的信息以辅助操作者决策，会在一定程度上减少操作者的工作负荷；另一方面，为增加透明度而提供的信息可能需要额外的认知资源来处理，这便会增加操作者的脑力负荷。因此，需要根据实际的应用场景提供适当的透明度信息。

2.3 构建故障诊断系统

故障发生后，“亡羊补牢，为时未晚”，应及时收集相关的故障数据，建立故障数据库，与正常数据进行对比，构建复杂自动化控制系统故障诊断系统。

信息化、自动化技术的进步促使了自动故障诊断系统的出现，实现了在线检测、诊断机械故障。自动故障诊断系统获取到设备的诊断数据，运用检测定位技术，分析收集到的数据并判断设备的故障，主要包括基于知识领域的专家诊断系统、基于神经网络的专家诊断系统。明先承等通过数据罩筛引擎进行数据的收集、整理、分析及模型的创建，用运行单元动态判断模块和多因素基准库的配合改进了故障诊断方法，解决了传统诊断方法中存在的在多数据环境下故障诊断率低、多因素分析算法跟进力不足等问题。之后，5G 技术、视觉处理和AR 增强现实的融入可以促进自动化故障诊断系统朝着高性价比的方向发展。

3 结束语

本文以自动化技术在人和自动化领域引起的“自动化讽刺”现象和自动化功能的偶发故障导致的灾难性后果为切入点，着重分析了系统自动化功能的故障/失效对操作者综合绩效的影响，并分别从自动化信任、操作绩效、情境意识和工作负荷的维度进行分析与论证。最后基于文献调研的方法，以故障发生前、正在发生和故障发生后的时间节点为依据，总结并提出了降低自动化故障/失效对操作者综合绩效带来负面影响的技术手段，包括提供后备方案、预防维护措施和培训；提高系统信息透明度；构建故障诊断系统。

本文分析了自动化故障对操作者综合绩效的影响及应对措施，分析了多个领域文献的调研结果。但本文毕竟是以查阅、分析文献的方法为基础进行阐述的，因此还存在以下不足：本文的分析基础是查阅文献，缺少相应的实验结果支撑；后续应针对具体的应用场景，设计严谨的人因工效学实验，从实验的角度分析某个领域的某个场景下自动化功能的失效对操作者综合绩效指标的影响。