人工智能的几宗“罪”

四川省南充市纤维检验所 陈春全

人工智能的几宗“罪”

四川省南充市纤维检验所 陈春全

2015年初，谷歌放出了一段机器狗的视频。这只名为Spot的机器狗重约70公斤，具有强大的电力续航能力，可以完成行走、快跑、翻越各种地形等一系列动作。视频中的Spot正如同一只真狗那样在行走。为了测试它的坚固及可靠性能，突然从旁边冲出来一个彪形大汉对着Spot的身子猛踹了一脚。Spot先是一个踉跄，然后立即加快步伐以保持平衡，同时似乎还发出了几声悲惨的“叫唤”。这段视频热播之后，有人评论说：人工智能结束世界的方式不是大爆炸，而是在被你踹了之后，机器狗转身扑向你。

NO.1 差三错四

“过而能改，善莫大焉”，这句话出自《左传》，前面一句是“人谁无过？”。指一个人犯了错误后，能够认识并改正错误，就是最好的事情。但是，对于人工智能机器人来说，它们一旦出了错，自己并不能意识到，反而需要人类来找出错误的根源，然后编写补丁程序，再检验补丁，甚至还需要补丁的补丁，最后还要检测整个程序等等。

对人工智能的程序，修正差错或是遗漏似乎永远没有尽头，让人不胜其烦。这一点从我们现在使用的计算机程序就能得知，你是不是经常需要为软件更新升级下载补丁程序呢？

人类研发人工智能和制造机器人的初衷其实是想让机器人按照我们事先编排好的程序工作，既能提升效率，还不会出差错。不过，机器人出错的概率并不比人类低多少，因为它们不但有软件问题，还存在硬件损坏等问题。由此带来的烦恼更是不胜枚举。比如，语音识别时遇到说方言的指令识别不了，当你正在心急火燎的时候，机器人却无动于衷……

更为可怕的是，明明出了差错，必须立即停止工作，但机器人仍然在继续按照错误的方式执行下一步操作。因为它们本身意识不到错误，只要程序不中断，机器人就不会停止任务。想想科幻大片里的那些人工智能们，因为无法停止任务而产生的诸多杀戮，真是让人不寒而栗啊！

对于错误来说，于一个人只需语重心长地告诉他：“不能再这么干了……”，但对于人工智能来说，修正错误则需要耗费更多的时间、人力、物力。

NO.2 喧宾夺主

假如将来你的家里有了一台智能机器人，它的任务类似于我们现在的家庭保姆的工作。在它的程序中不但设置好了各种各样的营养食物搭配模式，还可以帮助主人测量各种身体健康指标，并且能够按照主人的健康指标来安排每天的膳食搭配。

在下班的路上，辛苦了一天的你为了犒劳一下自己，订购了烧鸡、卤鹅、啤酒、可乐等自己喜欢的外卖。但是当你推开家门的时候，却发现智能机器人的模式中认为这些食物不适合今天的你，为了你的健康着想，它在网上帮你把食物改成了咸菜加白粥。此情此景，你能奈何得了它吗？

周末的你准备跟朋友到郊外游玩，但是智能机器人认为外面的雾霾太重，你不适合暴露于旷野之中。它为了你的健康着想，把你锁在家中死不开门。此时你除了翻窗、跳墙之外，似乎也没有其他办法，你是否会感到很无奈呢？

更为可怕的是，假如你的单位请了机器人保安，或者有一天你突然发现，你们部门的小头目其实也是一个机器人，你又该做何反应呢？

NO.3 无情无义

最近风靡一时的无人驾驶汽车，实际上也是人工智能的一种表现形式。它们主要依靠车内的以计算机系统为主的智能驾驶仪来实现无人驾驶，也可以被称为轮式移动机器人。人类研发和使用它们的终极目的是实现安全稳定驾驶，避免交通事故的发生。

然而，2016年美国加州就发生了一起谷歌无人驾驶汽车撞上公交车的事故。据说此次事故与路侧排水系统的沙袋有关。当时，谷歌无人驾驶汽车为避让沙袋而没有注意到公交车，因此在向左变道时蹭撞了后方的公交车。这说明在面对复杂的交通状况时，智能机器人也会出现很严重的判断失误。

这次事故虽然没有造成人员伤亡，但是引发了人们的一些思考。无人驾驶汽车在行驶过程中发现面前有障碍物时，会采取规避动作避免发生事故，但障碍物可能是一个垃圾桶，也可能是一个人或者动物，人工智能汽车是优先选择保证车上乘客的安全而直接撞上去，还是考虑障碍物的安全而直接开到沟里去呢？

毋庸置疑，如果是一个真人在开车，他立刻就能做出正确的选择，而智能汽车恐怕就会酿出惨祸。不论机器多么先进，多么智能，它们都无法做出道德的判断。

再者说了，无人驾驶汽车出了事故，交警肯定是第一个傻了的，我找谁来负责？

NO.4 毁形灭性

我们使用人工智能的目的无非是想让生活更美好。将来有一天，机器人可以帮我们做洗衣做饭、打扫清洁等一切服务性的工作。除了少数从事研发的人之外，其他人只需要惬意地逛街、旅游、聚会就可以了，只不过在商场和饭店接待你的也是机器人罢了。

但实际上，这一旦成为现实是很危险的。大多数的人会因此变得更加懒惰，很多年轻人会丧失学习和工作的愿望。到时候学生们的周末会是什么样子呢？告诉你吧，是集体窝在被窝里面玩手机。学生们现在的户外活动已经越来越少了，而下一步智能机器人更会替他们包办一切。

说到知识，那个时候谁还会傻乎乎地学习知识呢？人工智能什么问题都能回答，什么事情都能帮你搞定。我们既不学习，也不工作，更不会运动，身体机能开始退化，直至沦为一群除了吃喝啥也不会的高级动物，而实质上我们已经被智能机器人给“圈养”起来了。

目前，西方一些国家已经开始计划给智能机器人装上枪炮。战场上机器人固然能减少人类的伤亡，但谁又敢保证它们的枪口会永远朝外呢？显然，人类的这一做法无疑是提前给自己挖好了坟墓，敲响了丧钟。

长此以往，终有一天，世界将被智能机器人所占领和统治。而或许只是因为机器人被人类植入了“保护地球”之类冠冕堂皇的程序，使它们遵照我们的命令而行，最终把我们当成了地球的“毒瘤”。当然这只是一种猜测，因为那时人类可能已经被灭亡了，我们也就无法知道确切的原因了……

“我们人类之所以存活于世，从来不是因为我们是这个星球上最强壮、行动最快的物种，而是因为我们最聪明。所以当比我们更聪明的力量出现在这个星球上的时候，它将接管地球。”

2016年初，霍金、比尔·盖茨等几位人类科技界的“顶梁柱”在一封提倡控制人工智能发展的公开信上签下了自己的名字。在他们看来，飞速发展的人工智能已经成为“我们现存的最大威胁”。