人工智能20年后会毁灭人类？

朱江明

近日，韩国围棋国手李世乭和谷歌人工智能系统AlphaGo对弈，成为全世界的新闻焦点。围棋一直被视为棋类运动中最为复杂的一种，复杂到其排列组合数量甚至超过了宇宙中原子数量的总和，因此任何计算机系统都无法用穷举法（计算所有可能）来战胜人类，此前计算机围棋系统与专业选手对弈时几乎不堪一击。AlphaGo系统却在半年前成功击败了欧洲围棋冠军，并且在与李世乭的对弈中连续取胜。尽管这次对弈只是围棋上的对决，然而由于围棋一直被人类棋手所垄断，计算机对决人类顶尖选手并获胜本身就具备象征意义。公众开始担心，类似电影《终结者》中的天网系统，会不会在不远的将来出现，给人类造成毁灭性的打击呢？

尽管无人机和无人战车已经开始在战场上普及，大量的武装无人机甚至承担了大部分针对基地组织等恐怖组织的打击任务。美军早已成立了专门的无人机作战司令部，来统筹各军兵种的无人机使用，这一切都意味着人工智能武器正在战场上普及。然而我们必须承认一个事实——无人战争时代还未全面到来。

从李世乭对弈AlphaGo的第四局就可以看出，电脑系统在对方出其不意的攻势之下，出现了严重的系统紊乱。当这种情况出现时，系统的错误反应可能会导致战术上非常严重的失误，进而使全局失败。围棋对弈的确需要非常复杂的计算，然而与战场环境相比，围棋恐怕仍有所不如。

从最近美军无人机曾经多次被伊朗成功击落或者俘获就可以看出，具备一定程度自主运作的无人机平台，实际上仍存在很多并未暴露的缺陷。只有通过高强度的对抗，无人作战平台的设计者才能发现这些漏洞从而提高整体的表现。然而从现在的国际环境来看，全球缺乏与美军势均力敌的作战对手，自然无法诞生这种足以提升无人作战系统能力的复杂环境。

在现实中，美国空军甚至认为在反恐战场上的作战设定比军演更简单。这导致相关系统无法从实战中获得压力测试的数据，也就意味着系统很可能存在一些容易被人利用的漏洞。显然美国军方对此心知肚明，尽管无人机已经被广泛应用于战争，有人作战平台依旧是战场的主力。无人作战平台暂时只是承担了“打下手”的工作，例如长期的侦察监视和针对特定目标的攻击。全面战争还需要依靠战斗机、轰炸机等有人空中力量的支援。不仅类似无人机这种机器人的作战武器成熟度不足，即使是已经相当成熟的自动化防空系统，也还需要保持人工干预的能力。此前，在历次战争中自动化防空系统都出现过误击友军的情况。

除此之外，还有所谓自动化的末日系统。早在苏联时代，曾有计划将核反击的任务完全交由计算机系统来完成，这样即便高层全部阵亡，苏联仍旧具备核反击能力。然而苏联人并不信赖这套系统，因为当时曾经数次出现因为计算机错误而几乎导致全球核战危机爆发。无论是人工智能还是自动化计算机系统，在武器装备的应用范围一直被严格限制和管控，从设计之初就保留了足够的人工干预接口，这不仅是对其发展的担心，同时也是避免其自身可靠性出现问题的必要措施。由此可见，在10年内出现天网这种系统的概率并不高，当然10年后的情况却很难说。

美国军方正在研究使用大量无人机进行所谓蜂群（swarm）协同作战。与过去犹如孤狼行动的无人机相比，蜂群化作战等于让一个批次的无人机，自行协同作战。这些无人机不仅能分享各自获得的情报，并且能自动分配攻击目标的先后顺序，同时在部分被击落的情况下，剩余的机组仍能够继续完成任务。这种作战模式已经不仅仅是航空动力学的问题，还涉及到非常复杂的算法和更为高级的人工智能标准。尽管现在蜂群概念主要应用于小型无人机集群，然而这种模式一旦被证明成功，必然会被应用于更为大型的无人作战平台，将对战争的发展产生深远的影响。

蜂群无人机作战概念的出现，其实说明了一个问题，无人机现在还不具备集群攻击能力，无人作战平台的技术还很原始。当然一旦蜂群作战系统试验成功，更为接近电影《终结者》中杀人机器人的武器也就真正出现了。好在经历了苏联“自动化末日系统”的惊悚教训，各国都不会把最为关键的毁灭性武器交给计算机掌握。而且蜂群模式现在还处于测试阶段，在不玩核战争的情况下，按照现有的人工智能技术发展，20年内还是无法毁灭人类的。