军事智能化的瓶颈与关键问题研究

【关键词】人工智能  人机融合  功能力  深度态势感知

【中图分类号】 TP18                              【文献标识码】A

【DOI】10.16619/j.cnki.rmltxsqy.2021.10.004

最近几年，尽管人工智能在军事领域催生了高度智能化的武器及各种无人作战平台，并进一步加速推进战争形态向智能化战争演变和转化，但是，大家对于军事智能和智能概念的理解并没有越来越清晰，对此有意/无意的迷惑反而越来越多，甚至严重制约了这种号称“改变战争游戏规则”的颠覆性技术进一步发展，本文试图根据国内外相关研究把这几个概念的内涵外延解释清楚。

DARPA的智能研究动向与不足

美国国防高级研究计划局（Defense Advanced Research Projects Agency，简称DARPA）在继续开发第二代人工智能技术及其军事应用的同时，积极布局第三代人工智能发展，旨在通过机器学习和推理、自然语言理解、建模仿真、人机融合等方面的研究，突破人工智能基础理论及核心技术。相关项目包括：机器常识、终身学习机、可解释的人工智能、可靠自主性、不同来源主动诠释、自动知识提取、确保AI抗欺骗可靠性、基础人工智能科学、机器通用感知、利用更少数据学习、人机共生、开放世界奇异性的人工智能与学习科学、人机协作社会智能团队、实时机器学习，等等。

DARPA研究的不足在于“得形忘意”，没能解决军事智能的痛点和难点：兵者诡道也。例如，孙子的“兵者，诡道也，故能而示之不能，用而示之不用，近而示之远，远而示之近”;又如，克劳塞维茨的“战争中得到的情报，很大一部分是互相矛盾的，更多的是假的，绝大部分是相当不确实的。这就要求军官具有一定的辨别能力，这种能力只有通过对事物和人的认识和判断才能得到”。古代《孙子兵法》的生命力在于思维战胜了物理，近代《战争论》的缺点在于把战争看成了理论，未来“人机环境系统智能”的特点在于加上了“天时、地利、人和”之外的“机辅”。

总之，DARPA的军事智能化有两大支柱，一是“机器学习”，二是“自主系统”。然而，当代的自主系统还处于“伪自主”阶段，这是由其底层技术架构（机器学习和大数据处理机制）的局限所决定的。无论是行为主义的强化学习、联结主义的深度学习，还是符号主义的专家系统都不能如实准确地反映人类的认知机理，如直觉、情感、责任、价值等。

美国国防部于2018年6月成立的联合人工智能中心（JAIC），作为专职负责军队智能化建设的机构，统筹规划建设智能化军事体系。2021年，该中心将以各军种工作为基础，专注于作战人员的整合和人工智能生态系统的创建，其重点任务是建构军事人机环境生态智能系统。

目前人工智能技术的核心问题

当前的人工智能及未来的智能科学研究存在两个致命的缺点。（1）把数学等同于逻辑。弗雷格、罗素等逻辑主义者一般是把数学归于逻辑学（logic）之下，“+logy”也成为许多学科的词尾，如生物学Biology=bio（生）+logy（学科）。逻辑是探索、阐述和确立有效推理原则的学科。数学不等同于逻辑，数学研究空间形式和数量关系结构，是一种基于公理的逻辑体系;逻辑研究思维的形式结构。二者一致之处在于“研究对象都是高度抽象的结构”。不同之处在于，其一，数学和逻辑的研究对象不同，数学的研究对象是客观事物的空间形式与数量关系，而逻辑学的研究对象是思维的形式及规律;其二，数学和逻辑的任务和目标不同，数学的主要目标和任务是揭示客观事物的空间形式与数量关系的特征，探索其规律性，而逻辑的主要目标和任务则是解决思维推理形式的有效性或真实性问题。（2）混淆符号与对象的指涉。符号的重点在于表征，而对象的重点在于意向性。一般来说，一种意向可以对应一种或多种符号，而一种符号代表的意向性也可以有多个指向（如能指、所指、意指）。人类可以用“一花一世界，一树一菩提”灵活地表征任何事物，而目前的机器却只能用固定打标的方式孤立、静止、片面地表征一个事物。

这两个缺点直接诱发了几个很难解决的智能领域及军事智能领域问题：（1）客观数据与主观信息、知识的弹性输入——灵活的表征;（2）公理与非公理推理的有机融合——有效的处理;（3）责任性判断与无风险性决策的无缝衔接——虚实互补的输出;（4）人类反思与机器反馈之间的相互协同调整;（5）深度态势感知与其逆向资源管理过程的双向平衡;（6）人机之间透明信任机制的生成;（7）机器常识与人类常识的差异;（8）人机之间可解释性的阈值;（9）机器终身学习的范围/内容与人类学习的不同。

军事智能不是“军事+AI”

智能是一种由人、机、环境系统相互作用而产生的组织形式，是物理、生理、心理、数理、管理、哲理、文理、机理、艺理、地理、伦理、宗理等多事实、多价值、多责任的混合适应体系，所以智能可能不是单纯的类脑。

军事智能不是“军事+AI”，也不是“AI+军事”，军事智能本质就是军事博弈，其本身就包含了各种各样的智能形式（如反智能），所以更准确地说，军事智能是一种智慧形式（如塞翁失马），既包括科学技术，也涉及文史哲宗教等方面，属于复杂领域，其核心是“兵不厌诈”和“兵者诡道也”。其未来发展方向是人、物（机是人造物）、与环境系统相融合的“人类算计+机器计算”（简称“计算计”）体系。

在军事智能中，厘清自动化、智能化的概念非常重要。自动化是确定性的输入，可编程的处理，确定性的输出;人工智能是部分确定性的输入，可编程的处理，部分确定性的输出;智能是不确定性的输入，部分可编程的处理，不确定性的输出。人工智能（含自动化）与智能的区别是：一个是功能，一个是能力。很多人期望得到的往往是能力，而不是功能，即通过人工智能功能实现智能能力，这就是期望与现实的矛盾所在，也是人们失望所在：把功能错看成了能力。军事智能需要实现“功能+能力”的合成（简称功能力）。机器功能逻辑的基础是映射关系，而人类直觉能力的基础则是漫射、散射、影射，其中，人類的想象力、创造力是一种情理融合的能力，也是“军事智能”的边界。因此，仅开发出高性能智能产品或系统，仍不能提高体系的组织力和战斗力，必须将其集成到运行技术系统、组织流程和人员运行流程中才能发挥其威力和效力。

军事智能化的瓶颈和关键问题不是单纯的快、单纯的准，而是对。例如，单纯机器计算得越精细、越准确、越快速，危险性越大，因为敌人可以隐真示假、造势欺骗、以真乱假，所以有专家参与的人机融合/混合军智更重要、更迫切、更有效。人机混合常常是指“人+机”（侧重事实性数理物理结合，价值性结合较少）;人机融合是指“人×机”（既包括事实，也涉及价值，既有数理物理交互，也有心理伦理交流）。在军事界，大多数观点认为，人必须在“人—装备—环境系统”中并掌控该系统的关键使用。例如，许多科学家支持致命性自主武器系统（LAWS）宣言，反对脱离人类控制的自主武器系统开发。这就必须满足两点要求：一是必须有可靠的人在系统中，而不能是不可靠的人在系统中;二是要求人、机不能是平等关系，可靠的人必须要发挥关键作用。因此，从这个角度看，对军事智能而言，“人机混合”要比“人机融合”一词更准确一些（可以保证人主机辅关系一致性）。

军事智能与艺术的本质相同：不在于和谐、理性和规则，而在于紧张、冲突和斗争。这就是The Art of War（《孙子兵法》）和现代性美学的共性。休谟认为：“一切科学都与人性有关，对人性的研究应是一切科学的基础。”科学尚且如此，包含科学的军事智能也不例外。一般而言，人工（机器）智能擅长客观事实（真理性）计算，人类智能则善于主观价值（道理性）算计。当计算大于算计时，可以侧重人工智能;当算计大于计算时，应该偏向人类智能;当计算等于算计时，最好使用人机智能。计算往往是从已知条件开始的逻辑（解决“复”），而算计常常是从未知前提出发的直觉（处理“杂”）。涉及人、机、环境三者的军事智能如《易经》一样，其核心都在于：变。因时而变、因境而变、因法而变、因势而变……费曼说：“物理学家们只是力图解释那些不依赖于偶然的事件，但在现实世界中，我们试图去理解的事情大都取决于偶然。”人机环境之间的关系包含有向闭环、无向开环、有向开环和无向闭环，自主系统大多是一种有向闭环行为。军事智能中人机环境系统融合的计算计系统也许就是一个解决休谟之问（从事实中能否得出价值？）的秘密通道，即通过人的算计结合机器的计算，实现从“事实”向“价值”的“质的飞跃”。

如何实现人的算计（经验）与机的计算（模型）融合后的计算计（计算+算计）系统呢？东方思想里的“易”就是一个典型的计算计系统，有算有计，有性有量，有显有隐，计算交融，情理相依。其中的“与或非”逻辑既有人经验的、也有物（机）数据的，即人价值性的“与或非”+机事实性的“与或非”，人机融合智能及深度态势感知的任务之一就是要打开与、或、非门的狭隘。人的经验性概率与机器的事实性概率不同，它是一种价值性概率，可以穿透非家族相似性的壁垒，用其它领域的成败得失结果影响当前领域的态势感知（Situation Awareness，简称SA），如同情、共感、同理心、信任等。

凡事有利就有弊，智能也不例外。在人机环境系统动态交互（产生智能）时，由于时间、空间、对象、属性、关系、条件、规则、情绪、状态、趋势、感知等的变化，智能的方式、方法、方案、手段、工具都会作适当的调整和重新组合，正可谓“时变法亦变”。智能需要解决的常常是真实问题，如安全威胁、高效处理、准确预测，等等。智能包含着过去的经验和数据，但不会仅仅依赖这些过去，它还包含着未来对此时的影响，如期望的反馈。一般而言，不能随机应变的智能应该不是真智能。在人机交互、人机混合、人机融合智能等应用中，人工智能可以帮助人，也可以阻碍人，还可以毁掉人，比如过度依赖人工智能容易造成人性中的自信、果敢和勇气等的丧失，因此，做这些工作或申请项目时，希望不要光看人机融合中计算计系统好的一面，还希望管理者、评审者也能客观地看到其不好的一面，在不少情境任务下，不好的概率可能更高一些。

主流人工智能学科仍无法理解军事人机融合智能领域

AI追求数据化、确定性和理性的解释，假定任何问题都有标准答案，把每个决策简单地变成约束条件下求解，变成数据计算。但是，真实世界里具有大量不确定性，没有标准答案，需要人的想象力和算计，不是循规蹈矩。康德说，“事物的特性往往与观察者有关”，这与量子力学思想相通，也是军事智能的灵魂，即人类的思维之争。

研究一个事物如果不从未来看它，往往会被它迷惑。计算是算计的产物，计算常是算计的简化版，不能体现出算计中主动、辩证、矛盾的价值。计算可以处理关键场景的特征函数，但较难解决基本场景的对应规则，更难应付任意场景的统计概率，可惜这些还仅仅只是场景，远未涉及情境和意识。

智能仅是解决问题的一种工具手段，若不与日常生活中的风俗习惯、伦理道德中的仁义礼智信勇、法律中的边界规则统计概率等诸多方面相结合，就很容易泛滥成灾而不可控制。真实的智能不是万能，它不但涉及事实性的真假问题，还应包括价值性的是非问题，更与责任性的大小轻重密切相关。因此，从严格意义上讲，军事智能是许多领域的一连串组合应用。

对于人、机而言，虽然都是将一个问题拆成几个子问题，再分别求解这些子问题，即可推断出大问题的解，但人的动态规划与机器的动态规划却不同：有经验的人可以游刃有余地将一个复杂性大问题拆成事实、价值、责任等不同性质的小问题来求解，还可以避免各种鼠目寸光和画地为牢的行为决策，而目前的机器对此异质合取化解问题依然望尘莫及，人工智能只会对比（不是类比），也许这也是人类智能的又一个瓶颈和难点：如何有效地处理异质性的非形式化问题。计算是事实性推理关系，低阶的算计则是价值性推理关系，高阶的算计更是事实与价值混合/融合的推理关系，计算与算计是不同的因果关系。人类的“既……又……”关系往往不是“并”的计算关系，而与具体态势算计有关。是非不同于对错，也不同于真假和0/1，孟子曰：“是非之心，智也”。

诺贝尔奖得主丹尼尔·卡内曼在《思考：快与慢》一书中将人类的本能意识快决策称为系统一，將人类的理性逻辑慢决策称为系统二，并考察了系统一与系统二之间的区别。经笔者进一步研究，人机环境系统的深度态势感知中应该还存在决策系统三：人类理性与感性结合下不快不慢的、人机融合的“计算计决策系统”。

结论

2021年5月28日，习近平总书记出席两院院士大会并发表重要讲话，他指出，“科技创新速度显著加快，以信息技术、人工智能为代表的新兴科技快速发展，大大拓展了时间、空间和人们认知范围，人类正在进入一个‘人机物三元融合的万物智能互联时代。”军事人机融合智能是由“人—机—环境系统”相互作用而产生的新型战场智能系统。其与人的智慧、人工智能的差异具体表现在三个方面：首先，在融合智能输入端，它把设备传感器客观采集的数据与人主观感知到的信息结合起来，形成一种新的输入方式;其次，在智能的数据/信息中间处理过程，机器数据计算与人的信息认知相融合，构建起一种独特的理解途径;最后，在智能输出端，它将机器运算结果与人的价值决策相匹配，形成概率化与规则化有机协调的优化判断。军事人机融合智能是一种广义上的“群体”智能形式，这里的人不仅包括个人，还包括众人，机不但包括机器装备，还涉及机制机理;此外，还关联自然和战场环境、真实和虚拟环境等。

军事人机融合智能是军事智能发展的必经之路，其中既包括理论方法，也包括对人、机、环境之间关系的探索。近年来，越来越多的人工智能武器融入战场环境，越来越多的人开始关注军事人机融合智能。但客观地看，当前的军事人机融合智能与我们的设想尚存一定距离，如何将人的智能迁移到机器中，仍需要智能科学家作进一步研究。军事人机融合智能研究不仅要考虑机器技术的高速发展，更要考虑交互主体——人类的思维与认知方式，让机器与人类各司其职、互相促进，这才是军事智能研究的前景与趋势。

参考文献

Lecun， Y.; Bengio， Y. and Hinton， G.， 2015， "Deep learning"， Nature， 7553： 521， p. 436.

Silve， D.; Huang， A.; Maddison， C. J.; et al.， 2016， "Mastering the game of Go with deep neural networks and tree search"， Nature， 7587： 529， pp. 484-489.

Endsley， M. R. and Glrland， D. J.， 2000， Situation Awareness Analysis and Measurement， London： Lawrence Erlbaum Associates& Inc， pp. 5-15.

Collobert， R.; Weston， J.; Bottou， L.; et al.， 2011， "Natural Language Processing （Almost） from Scratch"， Journal of Machine Learning Research， 12， pp. 2493-2537.

Hinton， G.; Deng， L.; Yu， D.; et al.， 2012， "Deep Neural Networks for Acoustic Modeling in Speech Recognition： The Shared Views of Four Research Groups"， IEEE Signal Processing Magazine， 29： 6， pp. 82-97.

顧险峰，2016，《人工智能的历史回顾和发展现状》，《自然杂志》，第3期。

刘伟，2018，《有关军事人机混合智能的几点思考》，《火力与指挥控制》，第10期。

刘伟，2019，《追问人工智能：从剑桥到北京》，北京：科学出版社。

刘伟，2021，《人机融合：超越人工智能》，北京：清华大学出版社。

责 编/陈璐颖