现代机器人之父：预测AI的七宗致命罪状（上）

错误的推断，有限的想象力，以及一些其他常见的错误，这些都使得我们无法有效地思考未来。

我们对于人工智能和机器人技术的未来充满了一种狂躁的臆想——幻想着它们将会变得多么强大、多么迅速以及它们将会对就业产生怎样的影响。

最近，我在 MarketWatch 上面看了一个故事——在 10 ～ 20 年内机器人将会取代目前人类一半的工作——它甚至用到了一张图表来描绘这个数字。

这样的说法十分荒谬！（我试着去保持专业的语言，但有时……）举个例子，这个故事似乎表明，在 10 至 20 年内，美国的路面维修工人将由100万人减少到50万人，因为机器人会接管这些工作。而目前又有多少机器人在这些岗位上呢？零。又有多少机器人在这个领域工作的实际案例呢？零。类似的道理同样也适用于那些指出我们将会看到 90%的工作在未来逐渐消失的故事。

错误的预测会引发我们对那些不会发生的事情的恐惧，无论是对现有工作的大规模破坏，奇点或是人工智能的出现，这些都与我们的价值观相悖，并且可能会试图毁灭我们。我们应该抵制这些错误。但是人类为何要犯下这些错误呢？我发现了以下七个常见的原因。

高估和低估

罗伊·阿玛拉是未来研究所（the Institute for the Future）的联合创始人。他最广为人知的是他的格言——现在被称为阿玛拉定律：我们总是倾向于高估一项科技所带来的短期效益，却又低估它的长期影響。

这一个句子中包含了很多东西。乐天派可以从一方面解读，而悲观者则可以有不同的解读。

美国的全球定位系统是解释阿玛拉定律两个方面的一个很好的例子。自 1978 年起，有 24 颗卫星（目前包括备件有 31 颗）不断地被放置在地球轨道上。全球定位系统目的是让美国军方精确地提供军火。但是在 20 世纪 80 年代，这个项目多次面临被取消。它的第一个实际用途是在 1991 年的尘暴中，美国军方接受了它的作用，并取得了一些成功。

如今 GPS 的用途是最初人们完全没有意料到的，这符合阿玛拉定律中的长期影响。我的第二代 Apple Watch 在我外出跑步时会使用 GPS，其记录的定位精确到足够分辨出我在沿着街道的哪一边跑步。对于早期的 GPS 工程师来说，信号接收器的微小尺寸及价格会是难以理解的。

这项技术在全球范围内同步进行物理实验，并在同步美国电网和维持其运正常转方面扮演着重要角色。它甚至允许那些真正控制股市的高频交易员规避灾难性的同步误差。无论或大或小，我们所有的飞机都使用它来导航，并且它还被用来追踪那些被假释出狱的人。它决定了全球各个地区应该种植哪种种子。它可以监测车辆踪迹并报告驾驶员状况。

GPS 最开始只有一个目的，但如何让它发挥除了预期目标之外的作用是一个艰巨的任务。如今 GPS 已经渗透到我们生活的方方面面，但如果我们失去了 GPS 我们不仅仅只是会迷路那么简单；我们还会感到寒冷，感到饥饿，甚至可能会死去。

近 30 年里其它科技的发展也是类似的模式。起始人们抱有极大的希望，但逐渐开始失望，而后来对其取得的超出预期的成果慢慢产生信心。计算法、全基因组测序、太阳能发电、风力发电、甚至是杂货铺送货上门也同样如此。

从 20 世纪 60 年代、80 年代，人工智能被一次又一次的高估，而且我坚信今天亦是如此，但它的长期影响也同样可能被低估了。问题是：长期的时间具体是多少？接下来的六个错误有助于解释为什么人工智能的未来会被严重低估。

想象的魔力

当我十几岁的时候，亚瑟·克拉克与罗伯特·海因莱因及艾萨克·阿西莫夫并称为三大科幻小说作家。但克拉克同时还是一个发明家、科学作家和未来主义者。在 1962 ～1973 年间，他提出了三条格言，这后来被称为克拉克三大定律：

如果一个年高德劭的杰出科学家说，某件事情是可能的，那他几乎一定是正确的。但如果他说，某件事情是不可能的，那他很有可能是错的。

要想弄清楚一件事是否可能，唯一的途径是稍稍突破二者的分界线，冒险进入不可能的领域。

任何极其先进的技术都与魔法无异。

个人来说，我认为应该提防第一定律中的第二句话，因为对于人工智能将会以多快的速度崛起，我比其他人更加保守一些。但目前来说，我想就克拉克第三定律进行阐述。

想象一下，我们拥有一台时光机可以将艾萨克·牛顿从 17 世纪晚期传送到今天，放在一个他熟悉的地方：剑桥大学三一学院教堂。

现在给牛顿展示一部苹果手机。从你的口袋里拿出一部 iPhone，解锁它，这样布满了图标了的屏幕就会发光，然后把它递给牛顿。通过使用棱镜将太阳光分解，揭示了白色光是如何由不同颜色的光组成的，然后将其重新组合起来的牛顿无疑会对这个在漆黑的小教堂发出了生动色彩的小玩意儿感到惊讶。现在播放一个关于英国乡村场景的电影，还有一些他曾听过的教会音乐。然后，给他展示一个有500多页他自己关于他的杰作原理注释的网页，教他如何使用缩放手势来放大细节。

牛顿能解释这个小设备是如何做到这一切的吗？尽管他发明了微积分并解释了光和重力，但他却无法把化学从炼金术中区别开来。所以我认为他会感到困惑，甚至无法回想起这个设备最开始的相关轮廓。这与他十分感兴趣的超自然的体现没有什么区别，它和魔法是无法区分的。记住，牛顿是一个极其聪明的家伙。

如果一件事物是魔法，那我们就很难去发现它的局限性。假设我们进一步的向牛顿展示这个设备如何在黑暗中照明，它是如何拍摄照片录制视频及录制声音，如何将它用作一个放大镜和镜子。然后我们向他演示，这个设备如何用不可思议的速度进行算术运算并精确到多位小数。就在教堂里，我们指导他操作设备时应采取的详细步骤，并告诉他可以用这个设备同世界上任何地方的人即时交流。

牛顿还能推测出这个设备的其他用途吗？棱镜无需能源就能永远工作下去。他是否会推断出 iPhone 会永远工作下去，而忽略了它需要充电的情况呢？回想起来，我们在法拉第诞生 100 年前我们就抓来了他，所以他缺乏对电能的科学理解。既然 iPhone 在无需火的情况下就能成为光的来源，那么它也许会将铅转化为黄金？

这就是我们想象未来科技时都会出现的问题。如果它距离我们如今拥有且能够理解的科技足够遥远的话，我们就发现不了它的局限性。如果它变得和魔法无二，人们所说的关于它的一切都不再被证伪。

当我与人们争论是否我们应该为通用人工智能（即 AGI， 我们将建立像真实生物一样运行的有着自主意识的实体）感到恐惧，我经常会遇到这样的问题。我被告知，不了解通用人工智能将会有多么强大。这不仅仅只是一场争论而已。

我们不知道是否它应该存在。我更希望它存在——这一直是我在机器人技术及人工智能领域工作的动力。但如今通用人工智能研究在普及和支撑实际存在的独立实体方面做的并不好。

在至少 50 年内，人工智能在推理及常识方面都会遇到同样的问题。我所见到的证据都表明我们还没有办法去建立一个可以独自思考的实体。它的属性是完全未知的，所以它很快就会被形容为魔法，强大到没有界限。

宇宙中没有任何东西是没有界限的。

注意关于未来科技的争论，这是不可思议的。这样的争论永远不会被驳倒，因为这是一个基于信仰的争论，而不是基于科学。（摘自美《深科技》）

（编辑/华生）