我们可以信任机器人吗？

方陵生/编译

我们可以信任机器人吗？

方陵生/编译

随着科学技术的发展，机器人将很快拥有决定人类生死的力量。它们准备好了吗？我们也准备好了吗？

在流行文化中，机器人不是维多利亚时代完美忠实的管家，就是精神变态的狡诈杀手。如《星球大战》里的C3PO、《机器姬》中的艾娃，《惑星历险》中的罗比以及《2001太空漫游》中的哈尔。

电影中描述的机器人形象反映了我们对机器人的希冀和恐惧，这种恐惧已开始渗入现实世界中。近年来，许多科技界名人都表达了对人工智能一旦失控后“胡作非为”的忧虑。他们担心，那些拥有超常智慧的机器人会建立起一个全新的由机器人主宰的世界。在这个新世界里，最好的情况是，人类将成为机器人的卑微仆从；最坏的情况是，人类将被杀戮灭绝，从地球上被彻底抹去。

他们所担心的可怕场景与几十年前科幻小说家所描述的并无很大差别，但由于这些人所代表的身份地位，他们的担忧产生了普遍的关注和共鸣，这些名人包括史蒂芬·霍金、比尔·盖茨、比尔·乔伊和埃隆·马斯克。

他们并非杞人忧天，我们和我们创造的机器人正处于形成一种新关系的重要关口。在不远的未来，我们将对高度自主或完全自主的机器人系统委以重任，让它们承担驾驶汽车、给病人做外科手术、在战场上决定何时选择动用致命武器等重要任务。有史以来第一次，我们将不是直接控制机器人，而是给机器人编制程序，让它们在复杂的、瞬息万变的非结构化环境中做出关乎人类生死的决定。毫无疑问，若有错失，将会导致人员伤亡，但出错的几率一定会比现在小得多。

当然，从今天的机器人技术走向明天机器人技术的道路将会是曲折的。我们所面临的挑战将跨越技术、监管，甚至哲学等领域。除了法律和政策问题之外，新的机器人自主系统还将让我们不得不正视更深层的伦理道德难题。自主机器人的出现甚至会改变人类对自我的认识，但我们相信，最终我们的世界会因机器人时代的到来而变得更加美好。

［资料来源：IEEE Spectrum］［责任编辑：彦 隐］