对人类说不
2000-06-12覃龙宇
●覃龙宇
尖端电子公司在最近一次新闻发布会上宣布,该公司最新开发成功的Brain5智能芯片已全面上市。这种Brain5芯片与以往芯片的最大区别是,它有非常强劲的自动编程及自我纠错能力;换言之它有人的某种智能,能独立思考。用户只要将愿望告诉装有Brain5的计算机,Brain5就会自动编程并达到目的。正如公司发言人所言:"人类将从繁重的脑力劳动中解放出来。"
此后,尖端电子公司的股票不断上扬,成为股民新宠。对我而言,Brain5给我的最大好处是让我失业---我是星际飞行器公司的机械设计师兼车间程序员,公司自用了Brain5之后,我成了多余的人,因为不能像Brain5那样快速准确地连续工作24小时。我的命运不是个别的,广州、洛杉矶、圣地亚哥等大城市都有失业工人组织示威游行,抗议Brain5抢了他们的饭碗。但抗议也没有用,他们阻止不了科技的进步。
Brain5迅速被各大公司看好。齿轮加工厂用了这种智能芯片后,只要对控制流水线的计算机输入齿轮的直径、厚度、齿数等参数,Brain5就会自动设计加工程序,再准确地控制进刀、换刀、磨光等各工序,最后得到成品。新生产的汽车装上了Brain5后,配上全球定位系统,只要主人说明要去哪里哪里,汽车就会自动寻找捷径。由于驾驶这种智能汽车无需司机,车内根本就没有方向盘,因而车内空间更宽敞。昂贵而能干的Brain5得到了大公司及阔佬们的青睐,他们都以有Brain5为荣。于是Brain5渐渐地融入了人们的生活。
某个夏日,沙特阿拉伯的一位富翁于上班途中在其豪华轿车内睡着,醒来时却发觉轿车正莫名其妙地奔跑在荒无人烟的沙漠上。他在频频向汽车发出"回头"、"停止"等指令后,汽车仍如一匹桀骜的野马在荒漠上我行我素。轿车终于因油尽而停,但不知何故车门老打不开,车内空调也停止了服务,富翁被困在酷热难耐的沙漠里。幸好在他用手机报警1小时以后,警用直升机赶到。警察不惜撬开名贵的自动紧锁车门,才得以将他救出。
莫名其妙的事接二连三发生。澳大利亚的一辆停在车库里的轿车突然发怒似的启动引擎,破门而出,并扎进游泳池里学起潜水来。纽约至新奥尔良的航班更是离谱地在丹佛机场降下,幸好没有造成人员伤亡。
一系列有惊无险的事件使不少用户开始重新审视这些轿车飞机的控制部件---Brain5。它会不会有某种不为人知的缺陷?这种缺陷会不会造成更大的灾难?尖端电子公司则宣称他们在投入市场前已做了大量试验,Brain5的各种物理性能均无可挑剔,但他们会继续观察Brain5,以发现并改正其不足。
几乎是在"汽车游泳"的同时,我意外地接到了星际飞行器公司给我的求助电话。电话说公司的流水线突然停止了作业,要我去查一查。一查方知,又是Brain5在捣鬼。
面对用户的不停指责,尖端电子公司许诺予以赔款。但继而又发生了一起严重的伤人事故:南方矿业公司在一次野外作业中,大型挖掘机突然不遵循人的指令工作,像一头发了疯的恐龙到处张牙舞爪,以致重伤2人,毁房屋1间,断大树5棵,还欲破坏一座公路桥。幸好笨重的挖掘机跑得不快,否则后果不堪设想。恐惧而无奈的工作人员最后不得不请求当地驻军,用反坦克导弹将这头冷血怪兽炸成粉碎,才得以将危机化解。
血的教训使人们谈Brain5而色变。军方及另外5家大公司决定中止购买Brain5的合同。在一片讨伐声中,尖端电子公司的股票一路狂跌,等待它的将会是破产。
令人欣慰的是,Brain5的"病因"终于被人们找到了。原来这种超级芯片出乎意料地具有人的某种心理性能,比如会厌烦会发怒等。装上这种芯片的机器在听话时工作得很出色,但在长期执行同一任务以后,它会由于无比厌烦而停止工作,或者编出有悖用户意愿的报复性程序去执行,甚至发怒而攻击人类。
为消除隐患,技术警察迅速卸下装在机器上的所有Brain5芯片,还封存了待售的Brain5,并责令尖端电子公司停止生产这种"怪片"。在商会及人权组织的提议下,联合国安理会还通过了一项法案,认定所有生产或用诸如Brain5的个性化芯片的行为都属非法,以确保最基本的人权---人统治万物的权力。