APP下载

智能武器:最坏结果或致人类灭亡

2018-05-14

新传奇 2018年14期
关键词:致命性杀人武器

将影响并改变未来战场

去年,在日内瓦举办的联合国特定常规武器公约会议上,一段可怕的视频公诸于众:视频中,一群神似机器杀人蜂的小型机器人,通过人脸定位瞬间杀死了正在上课的一众学生,场面血腥。

小型机器人拥有完全基于人工智能的先进技术,并且蕴含可怕的黑科技:广角摄像头、传感器、面部识别,在其中部还有3克炸药。

在视频结尾,伯克利大学教授、资深AI研究者斯图尔特发出警告,尽管这段视频和其中的杀人机器人并非真实,但视频中的科技目前已经存在。

在墨尔本举行的2017国际人工智能联合大会上,116位机器人和人工智能公司创始人发表公开信,呼吁联合国在国际范围内禁止“致命性自主武器系统”的使用。

公开信指出,致命性自主武器系统足以构成第三次武器革命的威胁——前两次革命分别是火药和核武器。这种技术一旦开发成功,将有可能把战争冲突升级至从未有过的规模,而且会达到人类难以控制的速度。

西安政治学院军事法学系教授宋新平分析,致命性自主武器的运用,意味着自然人在武装冲突中直接发挥的作用越来越小,武器所发挥的作用则越来越大,将影响并改变未来战场的战斗员构成与战斗能力的变化,特别是这种武器的集群式运用,对未来作战的指挥体制、力量运用、供给保障等方面将产生革命性影响。

但是,随着致命性自主武器系统的发展,它所带来的争议也越来越强烈。

首先,有人担忧,机器打仗使得人員伤亡大大减少,反过来又会降低战争发动的门槛,武装冲突发生的机会会增加。

其次,在伦理方面,致命性自主武器运用于未来的武装冲突中,这意味着将剥夺自然人生命的权利交给非自然人。有学者认为,这是将人的生命和人格尊严交给机器来判定,不具有平等性,也是对人类生命权以及人格尊严的侮辱。

或落入坏人之手用于达成邪恶目的

并且,只要是软件,就一定会出错。

美军在这方面有真实案例。2007年10月,美军第3机步师下属部队携带3台“利剑”机器人进攻一个反美武装据点。由于没有及时更新软件,其中1台“利剑”竟把枪口对准美军操作人员。

美国《国家利益》杂志网站2016年11月4日刊发文章指出:“无论计算处理技术取得多大进步,如果没有人类监督和控制,完全自主化的武器系统必将犯错。”一旦系统出错,可能丧失辨别敌友与平民的能力,导致暴行发生。而基于智能软件的自主杀人机器可能在同一时间内集体出错,造成的破坏更大。

支持发展智能武器的人们认为,人工智能作为一种工具,不受情感、态度等主观因素的影响,具有客观公正的优势。但实际上,人工智能建立在算法和大数据的基础上,而算法难免会反映出设计者本身的喜好,“脏数据”则会导致人工智能产生偏见。

不难想象,一旦将存在认知偏见的智能化武器投入未来战场,很可能会对某一类人群滥用武力。

与核武器不同,自主杀人武器不需要昂贵的稀缺材料,其核心能力来自智能软件,因此比较容易获得,因此随着人工智能技术日益平民化,犯罪分子、恐怖分子、叛乱分子等邪恶势力在黑市上获得自主杀人武器只是时间问题。

一旦自主杀人武器落入坏人之手,将成为实施杀戮、制造动荡的工具,后果不堪设想。

人类战争史表明,一旦某种武器能够带来非对称性优势,必将由于国家、部族或群体之间的猜疑、野心和安全感缺失而逐渐扩散,自主杀人武器也不例外。

会使得人类作战意图得到更精确的贯彻?

但也有人认为,在未来,致命性自主武器系统如果应用于战争,在军事方面会起到许多正面作用。例如,降低己方士兵的风险,降低人与人之间近距离战争的代价。此外,自主武器系统也省去了军人的薪水、住房、养老、医疗等开销,又在速度、准确性上高于人类,而且不用休息。

还有人认为,以上反对意见作为禁用致命性自主武器的理由站不住脚。研究人工智能哲学的复旦大学教授徐英瑾表示,人工智能技术运用于军事,会使得人类作战意图得到更精确的贯彻,可使得正义战争快速结束。

人工智能公司、国际组织纷纷呼吁禁止致命性自主武器系统,但现状是,至今国际社会仍然没有就致命性自主武器系统问题达成统一认识,甚至还没有统一的定义。

(《中国国防报》2018.3.15、《重庆晨报》2017.11.21等)

猜你喜欢

致命性杀人武器
可怕的杀人风
一张图看懂武器发展史
请放下你的武器
可怕的杀人风
退役武器去哪儿了?
曾子杀人
负荆请罪
杀人的泳池