DARPA牵头建立人工智能在航空航天领域的信任机制

李悦霖

从概念探索到自主作战，人工智能(AI)正被引入航空航天和国防的新领域。机器学习已在数据分析领域取得了快速进步，下一步将在航空航天领域发力，从飞机的设计与制造到载人与飞行。

波音首席执行官丹尼斯·穆林堡(Dennis Muilenburg)表示，人工智能已经影响到波音业务的方方面面，且这种影响还在继续扩大。波音于2017年成立了AnalytX组织，专家们已将人工智能应用于供应链和制造系统管理以及工程工具集。人工智能正在波音的产品线和飞机系统中发挥着作用。

需克服的技术障碍

不过，在人工智能起飞之前，还有一些障碍需要克服。柯林斯航空航天公司首席执行官凯利·奥尔特伯格说：“要获得安全认证，必须能预先确定机器在某个场景中的行为，但对人工智能却无法确定这一点。我们只能继续研究如何将具有固有非确定性的人工智能应用于确定性的认知世界，找到其边界在哪里。”

空客、波音、洛·马等公司正在进行机载人工智能试验，但还处于起步阶段。凯利·奥尔特伯格说：“我认为近期内还看不到人工智能独立驾驶飞机。人工智能可能会成为一种补充工具，但仍必须有一个能掌控全局的决策系统，在出现故障的情况下，有能力决定飞机的功能。”

到目前为止，航空航天领域的人工智能多半依赖于统计学学习。雷声公司首席技术官马克·拉塞尔说:“我不认为现在真的存在人工智能，但未来人工智能一定能发挥出更大作用，而不仅是摄取大量数据加以整理并协助决策。总有一天，机器学习能达到正确的精确度，变得更加确定。”

人工智能在航空航天方面的问题不只有不确定性。当今的机器学习系统在经过筛选海量数据的训练后，虽然在统计模式识别方面非常强大，但它们无法解释自己得出的结论。而如果没有合理的解释来支持预测，用户就无法建立起人工智能与人类共存所需要的信任。

联合技术公司(United Technologies Corp.)首席技术官保罗·埃列门科表示，实现人工智能有很多不同的方法，但大多数在今天都是‘黑箱’。例如，可以训练一个多层卷积神经网络，但无法预测该神经网络将来能做什么、不能做什么，只能得到统计数据，但在现今的鉴定水平下无法对这些数据进行解释。无从得知人工智能采取行动的目的甚至不清楚它正在做什么。因此，人工智能的替代方法应该是具备可解释性从而可证明的，还要能提供更好的人机协作能力，这是长期发展的关键。

图1 计算机视觉和机器学习等人工智能技术为大型运输机的单飞行员操作提供了研究基础。

由于机器学习固有的复杂性，可解释性将是客户接受人工智能系统的关键。马克·拉塞尔说，在检查代码时不能说‘我可以验证它’，事件性质实际是‘我们应如何测试它？’尽管处理了众多神经网络，仍有许多程序无法调试，人类无法得知在神经网络内部到底发生了什么。因此，在某种程度上，必须找到一种方法，让人类能够真正理解神经网络的行为内容和内在的逻辑。

人工智能NEXT计划

为了达到这一目的，DARPA启动了人工智能Next计划，在过去的五年里投入了超过20亿美元的资金进行研发。主要目标之一是开发可解释的人工智能，同时创建能从经验中学习并在现实世界里运行的系统，减少训练神经网络所需的手工标记数量，并防范对网络的错误分类攻击。

DARPA参与人工智能的历史始于20世纪80年代，当时DARPA启动研究第一波人工智能专家系统。专家系统以手工规则的形式对各主题专家的知识进行编码。一个例子是飞行员辅助计划，开发能帮助单座战斗机飞行员的决策支持系统。

DARPA局长史蒂夫·沃克说：“不幸的是，每条规则都有例外。当遇到不符合规则的情况时，专家系统是脆弱的，但如果添加新规则来解释每个异常，将很快变得难以处理。”

第二波人工智能的重点是以人脑为启发建立神经网络，并用大量贴标签的例子来训练它们。史蒂夫·沃克说：“从2010年开始，由于具备了足够强大的计算机硬件技术条件，这些方法的工作效果出奇地好。”

图2 训练人工智能处理视距内作战，能把战斗机飞行员从日常工作中解放出来管理空战，包括无人驾驶的僚机。

然而，和第一波专家系统一样，第二波系统也有缺点。例如在给一幅图片添加难以察觉的噪声时，连训练有素的神经网络也可能对其分类严重错误。“到目前为止，我们只找到了针对这种对抗性图像攻击的特定解决方案，因为机器学习的实践已经远远领先于理论。”

可解释人工智能(XAI)计划

DARPA的可解释人工智能(XAI)项目正在开发计算体系架构，使神经网络能够自我解释。史蒂夫·沃克说：“神经网络的知识包含在数以百万计的链接权重因素中，使得这些系统无法解释它们的决策。可解释的人工智能将帮助人类操作员在其系统中建立适当的信任水平。”

XAI项目经理大卫·阿哈表示，机器学习系统无法为特定预测提供依据，“可能会让用户感到沮丧，尤其是当他们负责关键的应用程序时。”XAI项目正在创建能输出可解释模型的机器学习过程，其界面允许用户查询该模型，并知晓应在何时信任系统。

XAI专注于两种类型的应用：数据分析和自主控制。以数据分析为例，一个情报分析员与一个机器学习系统共同工作，机器学习系统的职责是观察图像、识别特定对象和活动，并就如何响应所观察到的内容提出建议。

XAI的研究成果之一是，机器学习算法中存在隐性偏见，可能导致误导性的预测，例如把购物中心误判为太阳能发电厂，原因神经网络对停车场等非关键特征的关注度超过了用户对其的关注度，从而使预测复杂化。

XAI项目经理表示，在自主性方面，运营商感兴趣的是自动驾驶汽车为何要采取某些行为。由于看不到车辆行驶情况，操作人员无法获得信息，因此他们希望能够询问模型以理解自动驾驶行为。

XAI项目的目标是在不牺牲学习性能的前提下提高可解释性。在处理传感器数据时，深度学习模型已被证明可以极大地提升性能，“但常常牺牲了可解释性。我们的目标是创造一个支持机器学习的人工智能系统，在该系统中用户可以理解所学习的模型、为什么会生成预测，以及何时他们可以信任模型并与之有效合作。”

在另一个涉及自动驾驶汽车的XAI项目中，车辆控制指令生成负责模型动作的文本解释。“研究人员发现，当给出解释后，人类的表现要好得多。也有证据表明这些解释已经在这个体系中建立了适当的信任。但一个缺点是，如果系统提供了错误的解释，可能会造成非常大的损害。”

DARPA正在推动人工智能进入新的领域，如软件开发。DARPA项目经理山德普·尼曼解释说，在软件开发过程中，系统中的代码量增加了，软件中实现的关键功能增加了，但不可避免的是软件的缺陷或漏洞也在同时增加，然而用于软件开发和质量保证的工具和方法却没有随着代码量的增加而增加。软件工程师无法有效使用现有的大型代码库来理解bug的来源，无法确保它们不会重复出现。

DARPA项目经理尼曼表示，一个解决之道是把软件程序作为机器学习的数据。DARPA正在开发代码挖掘、bug检测和程序综合的新能力，目的是使工程师易于搜索现有数据库以获得可用的代码，将基于学习的方法应用于异常检测，并生成最小规范的程序构件。

DARPA也在将人工智能应用于设计。项目经理简·范登布兰德说：“我关注的是设计的早期阶段，因为这仍然是一个很有匠心的阶段。人工智能如何帮助我们探索所有不同的可能性？在现今选择很多的条件下，能否利用人工智能探索所有组合来发现真正新颖的东西？”

研究人员利用圆柱绕流的观测数据训练了一个深度神经网络，并用它来生成控制物理行为的方程。计算结果非常贴近用于描述粘性流体运动的纳维尔-斯托克斯方程。“能否训练一个神经网络来发现我们从未思考过的其他物理定律？也许能创生出一个‘盒子里的牛顿’，比如，把苹果从树上掉下的观测数据发给神经网络，它就能得出结果F=ma。”

在另一个项目中，研究人员把强化学习和游戏机的物理引擎结合起来，寻找新的飞机滑行方式。“他们发现了一种新的飞行方式，飞机利用不同的边界层来提取能量，增加飞行距离。人工智能所选择的这条路径绝不会被有尊严的飞行员所考虑，但有些鸟类会选择，这说明我们正在发现一些从来没有想到的新事物。”

DARPA还有一个人工智能项目是利用拓扑优化——根据基础物理原理来放置和移除材料使重量最小——来平衡形状与材料之间的关系，但拓扑优化存在的问题是，需要求解一些复杂的非线性方程，必须设置一堆旋钮，为人工智能提供初步的猜测。“人类不太擅长猜测。如果你不把事情安排好，就永远找不到解决办法”。因此，研究人员正在训练神经网络。目前机器学习可以设置这些旋钮并提供初步猜测，能更快地获得几个数量级的解决方案。研究人员正在加快新设计的合成速度。

人工智能还被应用到新的制造流程中。在增材制造零件时，金属底部比顶部维持热的时间更长，合金晶粒在底部生长的时间更多，因此底部材料的性能与顶部不同。研究人员考虑的问题是：“能否用人工智能来理解如何设置机器的参数，以弥补设计不足或利用其优点？”

波音公司已将此应用于电子束增材制造。“与焊接类似，我们有大量数据和经验公式来描述焊接方式与材料性能之间的关系。”波音利用神经网络收集已知的方程和机器的加工数据，进行数据融合，再根据工艺参数导出材料性能。该方法将机器的性能、工艺和材料结合起来，可根据所掌握的所有旋钮来预测可能的屈服强度。

洛·马公司解决了另一个问题：如何确信两块复合材料粘合成功。XAI项目经理表示，因无法确定粘合度，一直以来采取的解决方式是不得不在材料内部钻孔、打铆钉，造成成本和加工时间增加，对材料引入了缺陷。如果能摆脱这一方式，将能节省重量、时间和成本。

由于目前还没有可靠的数学模型来预测粘合强度，洛克希德公司详细研究了不同参数的影响，包括温度、湿度和原材料存放时间。XAI项目人员绘制了一个巨大的决策树，可以追溯到机器学习的早期。XAI项目经理称，现在研究人员已找到了获知粘合是否可靠的方法，“如果在决策树中段的某处结束，马上就能知道是否应当继续，以及能采取何种缓解措施来提高粘合质量。有时，这意味着必须进行特定类型的表面处理。或者，决策树会告知‘你需要拒绝这一部分，因为你永远也做不到”，它给了你这样的洞察力。”

但研究人员也表示，人工智能距离取代人类设计师还有很长的路要走。“从事设计必须清楚这个世界是如何运作的。作为人类，我们不会回到最原始的原则，因为我们经过数十年的学习后在脑中已有了捷径。但问题是，我们如何利用某种人工智能来发现所有这些捷径呢？”

DARPA认为人工智能设计的未来是一种伙伴关系，在这种伙伴关系中，人类的责任是形成问题后提供给人工智能。“这些是我需要寻找答案的问题，这些是约束条件”。然后人工智能负责搜索能设计的空间有多大并告知人类：“这里有一些你应该探索的想法”。这一方式转变成了计算机和人类之间的对话，人类从人工智能中获得了洞察力，进而改变了形成问题的方式。

人工智能作战应用

Alias 项目

当人工智能应用于自主作战，与人的交互就成为一个关键问题。

DARPA的Alias项目正在开发高水平的自动化系统，可以加载到飞机上以减少机上人员数量。该系统由西科斯基公司开发，已在西科斯基S-76直升机和固定翼塞斯纳208(Cessna 208)“大篷车”多用途轻型通用飞机上飞行，将在美国空军国民警卫队的洛马F-16 Block 30战斗机上飞行测试。目前正在一架可选有人驾驶的UH-60“黑鹰”直升机上测试，可以有一名、两名飞行员或不需飞行员。

西科斯基公司正在其Matrix技术项目下在S-76B SARA自主研究机上飞行Alias系统。同样，西科斯基的UH-60A也被改装成能使用Alias系统的可选有人驾驶飞行器。与此同时，美国陆军正在改进最新的UH-60M，在Alias项目下采用Matrix自主管理系统。

图3 西科斯基公司使用其S-76 SARA自主研究机来开发Alias系统

DARPA的Alias自主系统将在F-16上飞行测试。F-16将是迄今为止采用Matrix进行测试的最高性能的飞机。DARPA计划将Alias 自主设施集成到F-16批次30飞机上。与直升机上一样，固定翼飞机上的Alias主要用来协助飞行员减少其工作量。F-16上Alias自主系统的开发与集成将在近期开始，飞行试验预计在未来三年内进行。

Alias可使飞行员通过平板电脑与自主系统交互，自主系统利用由数据库和传感器提供的飞机环境信息，自动地完成任务的规划与执行。在直升机上，Alias能规划并执行可避开已知障碍和和探测障碍的路线。

Alias项目经理菲利普·鲁特中校说：“在黑鹰这个例子中，飞机上有两名飞行员，系统在后台运行，类似于汽车里的车道保持辅助系统。”第二直截了当的是采用零个飞行员，因为飞机上的人工智能系统清楚应对所有行动负责，不需要与飞行员沟通。

“最具挑战性的情况是只有一名飞行员，因为移走一名人类飞行员后以一个自主副驾驶代替，但这种互动还没有被很好地理解。”但更具有挑战性的可能是“少于一名飞行员”——即飞行员无行为能力但又未失去知觉的情况，尤其是在训练期间。

“我们相信Alias项目对此情况能提供真正的帮助，但这是非常有挑战性的，因为飞行员可能并没意识到他们的能力丧失。最难处理的情况是人工智能的正确决策可能会让飞行员愤怒，发觉自己当时没有采取必要的行动。那么，在这种让人类尴尬的情况下如何找到一种新的合作方式呢?”

空战演化(ACE)项目

目前，Alias项目中不包含人工智能，因为Alias系统的设计初衷是可认证的，而且FAA无法对采用学习行为的不确定性系统认证其适航性。但人工智能正在向空中发展。DARPA启动了一项计划，目标是在战斗机上使用人工智能。该计划被称为“空战演化”(ACE)，旨在创建能够自动执行格斗机动的算法，使反应时间达到机器速度，并使飞行员从操纵飞机中解放出来管理空战。

ACE计划紧随今年3月由美国空军研究实验室(AFRL)公布的Skyborg项目，Skyborg计划在2023财年之前开发出一个由人工智能控制的“类战斗机”控制系统原型。

美国空军的创新加速器Afwerx将在ACE项目下发布一份初步征求意见稿，用于“阿尔法近距空战测试”。DARPA表示，在这一阶段，不同的人工智能近距空战算法将在一场锦标赛式的比赛中相互较量。

DARPA承认近距空战未来将非常罕见，并指出ACE项目的最终目标是开发出可信赖的人工智能，使有人机和无人机能在近距空战和其他类型的空战中协同工作。

由DARPA战略技术办公室(Strategic Technology Office)发起的ACE属于影响深远的Mosaic项目。30年前，DARPA的“突击破坏者”计划(Assault Breaker program)建立了作战管理概念，在诺斯罗普·格鲁门的E-8C“联合星”(Joint Stars)等飞机上，人类操作员将传感器数据拼在一起并指挥攻击。Mosaic程序的目标是使遥远的传感器网络之间的接口自动化。当单个部分被破坏或毁坏时，这些算法将用于重构网络。

DARPA将空战训练描述为一个熔炉，在熔炉里飞行员的自身能力和对自主系统的信任度得到了很大提高。DARPA表示，ACE将把人机协同近距格斗作为一个挑战场景，以增强飞行员对自主作战技术的信任。项目经理丹·贾沃塞克中校说:“当我们朝着未来的战争迈进，包括有人平台作战和与无人系统协同作战时，能够信任自主技术是至关重要的。”

在为期4年的三阶段计划下，作战自主算法和人机界面将在一系列日益复杂的演习中进行开发和测试，包括先进行缩比模型演习，然后进行一对一和二对二空战的全尺寸飞机演习。贾沃塞克说：“我们设想在未来，当对方谋划无人机蜂群作战时，我们的人工智能技术能实现视距格斗时的瞬间机动，从而保证我方飞行员安全。”

通过像训练战斗机飞行员那样训练人工智能形成近距格斗规则，未来在加速将机器学习能力从数据中心转向飞机驾驶舱方面，ACE项目有望发挥关键作用。