“机器人”不听人指挥是福是祸?

俄裔美籍科幻大师艾西莫夫半个多世纪前曾对人类科技的未来远景做出许多预测,其中有不少都已应验。艾西莫夫曾预言机器人会获得长足的发展,甚至有可能反过来控制和伤害人类,因此他在40年代对人类开发机器人订下三个铁律,第一、机器人不能伤害人类;第二、机器人必须听命于人类,但不能违反第一律;第三、机器人必须在不违反前述两律的情况下才得以存在。

最近,科学界研究机器人获得的两项重大进展,严重冲击艾西莫夫的机器人三律。其中之一,是美国马萨诸塞州布兰迪斯大学的科学家经由电脑模拟实验,研发出能自行进化和复制的机器人。另一件则是泰国科学家开发出能用激光瞄准和射击的“机器警卫”。这种机器警卫可以自行侦测目标开枪射击,也能接受主人通过网络的号令,向目标猛烈开火。这两件事,在欧美科学界引起相当广泛的议论。

布兰迪斯大学的科学家是以一些原始的机器人为基础,通过虚拟实验让它们循达尔文理论去“进化”,经过数百代的演变,最后这些机器人已有办法自行设计、制造以及测试构造简单、能像“尺蠖”一样匍伏前进的机器人“后代”。尽管这些由机器人“繁衍”出来的机器人,还不如时下一般儿童玩具来得复杂,但科学家强调这是人工智慧的一大突破,因为整个制造过程几乎由机器人独自完成,没有“人”的介入。

科学家认为,照这样发展下去,有朝一日人类可以利用这些能够随环境改变而自行演化的机器人从事星际探险任务。但这基本上违反艾西莫夫定下的第二律:“机器人必须听命于人类”。机器人一旦可能随自己的“意念”做事,它们还会听人的号令吗?这是很多人担忧的事。过去好莱坞推出和机器人有关的科幻电影中,便已暴露出人们对智慧型机器人的恐惧。其中以机器人主宰未来世界为故事背景的《魔鬼终结者》可说是最典型的例子。这部电影让不少人深信智慧型机器人终将对人类的生存构成重大威胁。

“机器警卫”是由曼谷“芒库国王理工学院”的科学家所研发出来的。它配备一把手枪和一具小型摄影机,手枪上有一具用来瞄准的激光系统。这套系统被装设在一具位置固定的机台上,当它被设为“自动操作”时,红外线感应器能追踪移动的目标;而被设为“人工操作”时,“机器警卫”能接收来自网络的指令,做出“开火”的动作。惟一的限制是使用者下达开火命令前,必须通过密码检验。

这种真实世界的机器警卫,要比电影《机器战警》中的机器人墨菲简陋许多,而它所使用的科技,也远不如布兰迪斯大学专家们用的来得复杂,但发明这套系统的科学家苏拉克沙对这项成就似乎相当得意。“机器警卫”目前使用的是一支空气枪,甚至可以配挂像机枪这种火力强大的武器。苏拉克沙说他打算把这套系统发展成能追逐目标的机器人,就像电影中的机器战警一样,苏拉克沙还夸称他们已拥有这样的技术。

欧美从事机器人研究的科学家对苏拉克沙这项“创举”相当震惊。英国一些科学家指出,苏拉克沙应该很清楚,现有的感测技术出错率还非常高,让机器人用这种有瑕疵的科技来进行辨识工作,本身就已经很不智,如果让机器人以此作为开枪的依据,岂不更离谱?还有,机器人用红外线来追踪目标,那么只要太阳升起,机器人可能会“发疯”而胡乱开枪,因为太阳本身会释放出大量的红外线。

而就算“机器警卫”改由人工操作,科学家还是觉得不妥。英国德蒙佛大学电算智慧中心学者查内基表示,用网络来控制这种杀人机器,仍会出现许多问题,比如说网络如果塞车怎么办?假如因为塞车而无法下达开火命令倒还好,若是开火令已经下达,操作的人发现情况不对而要修正,这时候遇到塞车那就完蛋了。查内基还警告,人们通过机器人头顶上的小型摄影机所看到的东西,和机器人用枪瞄准的有可能是完全不同的两回事。换句话说,你下达开火指令,会打到什么恐怕你也不知道。 一向反对赋予机器人太多能力的英国瑞丁大学神经机械学专家瓦维克明白地指出,“机器警卫”彻底摧毁了艾西莫夫的机器人三律,如果不加以拨乱反正,将来会出现更多像苏拉克沙这样不负责任的科学家。如今之计,最好是把艾西莫夫机器人三律制定成正式的法律,并在全球范围内实施。瓦维克说,机器难免会有动作失常的时候,而这种会杀人的机器人一旦失常,后果将非常严重。G(林美芳)

《海外星云》(2000年31期)