作战机器人也会“内疚”

作战机器人正在走向战场，在一般人看来，它们没有情感、临危不惧，接到命令后会毫不犹豫地毁灭敌人。但是美国《陆军时报》28日报道，在美国陆军研究办事处支持下，佐治亚州理工学院正在研究让作战机器人产生“道德意识”，确保在作战时遵守国际法和交战规则。

负责这项研究的罗纳德·阿金博士称，作战机器人目前的最大特点就是没有人类的情感缺陷，不会因情绪失控而影响判断，也不会向上司表达愤怒和不满。但是，最近的研究正在试图让机器人更有人情味。阿金开发了一种被称为“潜在行动多维数学决策”的软件。这套融合了人类悔恨、同情和内疚等情绪的软件安装到作战机器人后就能扮演“道德调节器”的角色，可根据传感器接收到的数据和情报，为机器人所有潜在的行动划分道德等级，并根据该等级选择相应的武器系统。

阿金举了一个例子称，美军打击恐怖分子时常用的无人机携带有GBU系列精确制导炸弹、“地狱火”激光制导导弹和链式机枪，当无人机准备动用GBU炸弹打击某个目标时，其“道德调节器”如果觉察到动用GBU炸弹可能导致平民伤亡，便会及时“感到内疚”，GBU武器会被停用，而如果无人机下一步仍计划发射威力更大的“地狱火”导弹时，“道德调节器”将发出更强烈的“内疚”提示，此时由于“内疚”提示达到最大允许量，无人机的整个武器系统将会失效。

美军目前在伊拉克、阿富汗和巴基斯坦频繁使用无人机，造成大量平民伤亡，已经引起了国际社会批评。阿金称，有人情味的机器人将更好地适应战场环境，并可以监视同一个战斗单位中的人类士兵是否有不道德的战场行为，预计这种机器人将在10至20年内大规模装备美军。但是，也有不少美国军方人士持不同意见。他们认为，机器人程序已经足够复杂，如果将尚未成熟的技术投入应用，机器人的人工智能可能会超出人类的控制范围，届时，拥有自主意识的机器人可能会让战争更易爆发。▲（韩 伟）