人类再厉害也抵挡不住的“杀手机器人”

人类再厉害也抵挡不住的“杀手机器人”

“杀手机器人”一旦发展起来，可能导致武装冲突以比以往任何时候更大的规模进行，而且速度比人类所能理解的还要快。于是很多人开始担心，“这些自主武器可能被独裁者和恐怖分子用来对付无辜人群。一旦潘多拉的盒子打开，就很难再关闭”。

“杀手机器人”已成未来战争趋势

人类智力超群，但受制于“肉身”的生理极限，有些地方去不了。在温度过高过低或者有毒有害的环境下，机器人就是很好的选择。而且，机器人不需要工资，不需要吃饭，不需要动员，也不会有心理疾病……好处简直太多了。

《解放军报》的一篇文章说，或许有那么一天，在战场上冲锋陷阵的不再是血肉之躯的“人”，而是“钢铁战士”。军人只需要坐在屏幕面前观察和指挥，就像打电子游戏一样。

全球著名信息服务商IDC（国际数据公司）最新发布的报告指出，2017年全球机器人相关（包括无人机、机器人相关软硬件/服务）支出金额预估将达972亿美元、较2016年成长17.9%。IDC预期未来五年机器人支出将加速成长、2021年达到2307亿美元，复合年增率预估为22.8%。

人工智能的不断发展，也让未来战场上出现“机器人士兵”的可能性正不断增大。

英国《每日邮报》6月15日报道说，五角大楼已经发出一项标价1100万美元的合同，以组建具有人类和机器人协同作战能力的“联合兵种班”，新系统可望在2019年年中之前完成。

专家预言，机器人将是战争的未来——而它的到来也许会比许多人预料的更快。“今日俄罗斯”电视台报道说，前英国情报官员约翰·巴塞特去年曾表示：“有智慧的机器人武器是一种真实的存在，到2030年它们将会无所不在。到2025年前后的某个时候，美国陆军实际上拥有的战斗机器人的数目将多于人类士兵的人数。”

在美军的各个部门，人机关系愈发紧密，士兵们已与机器伙伴建立起了崭新的关系。

机器人家族中最拉风的，要数代号为“剑”的美军战斗机器人。它个头不足1米，却披挂“豪华”，装备有四台光学侦察瞄准设备、M-249机枪、M-16系列突击步枪和M202-A16毫米火箭弹发射器等。它每分钟可射出1000发子弹，而且命中率极高，几乎达到100%。

科幻电影里的战斗机器人

其他国家军队和各种武装组织也在开发自己的战斗机器人。2015年，俄罗斯在打击极端组织“伊斯兰国”时，六台多用途战斗机器人、四台火力支援战斗机器人和三架无人机同“仙女座-D”自动化指挥系统建立无人作战集群，先于有人作战力量行动，实施侦察与打击。

叙政府军随后跟进实施清剿，整个战斗持续了20分钟，一举消灭敌方70名武装分子，而叙政府军仅有四人受伤。

不过，被美军部署到伊拉克的战斗机器人“剑”还未开一枪就很快从战场被撤回——因为它们做了可怕的事情：将枪口指向它们的人类指挥官。

机器人“叛乱”警示人们，关于机器人作战的研究项目并非想象中那么顺利。同时，公众对“杀手机器人”的恐慌日益显露。早在2012年，就有多个非政府组织启动了他们称之为“禁止杀手机器人”的运动，联合国也就这个问题举行了一系列国际会议。

人被机器屠杀的噩梦是不是越来越近了？

据报道，全球116名机器人和人工智能企业的创始人日前签署公开信，呼吁禁止使用“杀手机器人”。

报道称，各国军方正在研制致命自主武器，俗称“杀手机器人”。它们可以独立设计和选择具体的作战方案，而不依赖于人类操控者的判断。报道警告说：“杀手机器人将把人类从杀戮决定中排挤出去，跨越了我们认为不应该超越的基本道德和伦理底线。”

包括美国太空探索技术公司首席执行官马斯克在内的116名相关领域专家在公开信中警告说，“致命的自主武器有可能成为战争中的第三次革命。一旦它们发展起来，可能导致武装冲突以比以往任何时候更大的规模进行，而且速度比人类所能理解的还要快”。尤其让人担心的是，“这些自主武器可能被独裁者和恐怖分子用来对付无辜人群。一旦潘多拉的盒子打开，就很难再关闭”。

去年12月，联合国《特定常规武器公约》的123个成员国同意正式讨论这类自主武器，其中19个成员国已要求彻底禁止这种武器。但原定于8月开始的相关讨论会议被推迟到11月。公开信对会议被推迟表示遗憾，并敦促各方在11月会议之前加倍努力。

马斯克近来已多次表达对人工智能、机器人技术发展的担忧。他曾连同物理学家霍金等多名专家于2015年签署公开信，要求禁止开发“超过人类控制意义之外的自主武器”。马斯克警告说，“人工智能可能通过创建假冒的账户、发送虚假新闻等方式操纵信息，甚至可以引发战争”。

但并非所有人都赞成这种观点。脸书创始人扎克伯格就反对说：“对那些否定人工智能、试图营造世界末日论的人，我确实不太理解。他们的言论某些时候让我感觉太不负责任。未来5-10年，人工智能将在许多方面改善我们的生活质量。”

现代战争商业化背后，禁止“杀手机器人”已来不及

事实上，现代战争商业化背后，禁止“杀手机器人”已来不及，但只要我们避开那些真正糟糕的技术，一切都会好起来的。

就像法律专家们认识到的那样，这些问题会变得更加复杂。一方面，他们更加担心也更加着急的是机器人的道德问题；另一方面，他们关注的是现代战争的本质及其商品化。

在任何情况下，道德问题都不可能轻易地被制定为“一刀切”的原则。历史学家尤瓦尔·赫拉利指出，就像无人驾驶汽车将需要一些规则来决定如何应对不可避免的或者可能致命的碰撞：机器人试图拯救谁？尤瓦尔·赫拉利说，我们可能将会得到两种模式：利己主义者（优先考虑司机）和利他主义者（这把别人放在第一位）。

在2012年人权观察组织的一份关于“杀手机器人”的报告中，有一些科幻的偏见。报告称：“区分恐怖的平民和危险的敌人需要士兵去理解人类行为背后的意图，这是机器人做不到的。”此外，“机器人不会受制于人类情感和同情，这可以为杀戮平民提供重要的检查”。但是，第一个说法是对信仰的陈述——机器人用生物识别技术难道不能比一个使用本能的受惊士兵做出更准确的评估吗？至于第二种说法，你会认为：有时候当然会。其他时候，战争地区的人们肆意强奸和屠杀。

这并不是要反驳报告中对自动机器人士兵的恐惧。相反，它让我们回到了关键问题，这不是技术问题，而是战争。

自动化军事技术的问题与战争本身的变化本质密切相关。在这个恐怖主义和叛乱的年代里，战争不再有开始或结束、也不再有战场或军队——正如美国战略分析家安东尼考斯曼所说：“现代战争的教训之一就是战争不再被称为战争。”无论如何，这都不像是诺曼底登陆。

战争总是使用最先进的技术，“杀手机器人”也一样。你可以肯定的是有人从中获利。

无论如何，让我们试着抑制我们最糟糕的冲动：把犁头打成刀剑，告诉国际军火贸易他们不能制造杀手机器人就像告诉软饮料制造商他们不能生产橙汁一样。

（《解放军报》2017.8.24等）