来自古希腊的人工智能警钟

艾德里安·梅耶（Adrienne Mayor）

作为最古老的希腊神话之一，潘多拉故事的最早记录出现在距今2500多年的荷马时代。在最原始的叙事中，潘多拉并不是受到诱惑打开封禁之罐的纯真少女。相反，诗人赫西奥德告诉我们，潘多拉是“被造物，而非生命”。

承接全能神宙斯所指派任务的潘多拉，实际上是一个人形机器人，有一副迷人少女的外表。她的使命是诱骗凡人，以显示“红颜祸水”。

潘多拉的名字意为“所有礼物”，表明她是众神共同的产物。她产生于赫菲斯托斯的炼炉，赫尔墨斯护送这位令人神魂颠倒的“女人”来到地球，把她包装成厄庇墨透斯的新娘。她的嫁妆，就是那个包含了更多“礼物”的封禁的命运之罐。

厄庇墨透斯是普罗米修斯的兄弟。“反抗巨人”普罗米修斯领导着—也有故事说是他创造了—人类。普罗米修斯担心人类显而易见的缺陷，因此教会男人和女人如何负责地使用火和其他工具。但这触怒了暴君宙斯，了不起的技术是他眼中的禁脔。作为惩罚，宙斯将普罗米修斯绑在一块岩石上，派出他的无人机一样的老鹰—也产生自赫菲斯托斯的熔炉—啄食普罗米修斯的肝脏。

至于潘多拉，她被刻意设计出来惩罚人类接受普罗米修斯的礼物。本质上，她是一个迷人的雌性人工智能体，没有父母，没有童年记忆，也没有任何情感，不会老也不会死。她的设定是要完成一个狠毒的任务：潜伏在人间，解除罐子的封印。

但这尚不是故事的全部。帕累托告诉我们，普罗米修斯的名字意为“远见”，因为和他无忧无虑的兄弟厄庇墨透斯（名字意为“向后看”）不同，他永远向前看。兄弟两人中，普罗米修斯更加理性，也显得更加偏执，他试图警告厄庇墨透斯不要接受宙斯的危险礼物。但厄庇墨透斯被潘多拉迷得神魂颠倒，毫无防备地让她走进了他的生活。随后，他才认识到自己犯了一个可怕的错误。

因此，潘多拉的流行形象—惊恐地后退，看着各种妖魔鬼怪逃出罐子—是现代的发明。在古典希腊戏曲中，潘多拉的形象是一台狡猾的机器：最著名的潘多拉瓶绘把她画成一位年轻女性，站姿僵硬，带着神秘莫测的微笑。

随着AI/“机器学习”迅速演变为技术“黑箱”，潘多拉的封禁之罐的象征也有了新的含义。要不了多久，AI决策系统的操作逻辑不但用户无法理解，就连创造者也无法理解。与其他威胁一样，AI系统被邪恶之徒入侵或被恐怖分子和暴君利用的可能性很大。

Facebook创始人马克·扎克伯格、麻省理工学院的安德鲁·迈克菲、微软的程丽丽和其他AI乐观派，向我们保证AI会带来巨大的益处，但我们仍然会不经意地想起厄庇墨透斯。我们真的应该信任人类能调整和解决AI所造成的问题吗？

似乎更明智的做法是聆听当代普罗米修斯，如已故的史蒂芬·霍金、微软创始人比尔·盖茨，以及2017年发声讨论武器化AI和机器人的威胁的其他115位科技领袖。

“留给我们行动的时间已经不多了，”他们警告，“一旦潘多拉的盒子被打开，就再也难以关上。”此外，這些“普罗米修斯”的担心，受到了谷歌联合创始人谢尔盖·布林，以及乔安娜·布莱森和帕特里克·林等人工智能伦理学家的遥相呼应。他们警告不可贸然接受AI的礼物，必须先想好如何控制它们。

最新民调表明，真正在开发AI系统的人，对AI的潜在益处的乐观态度大幅下降。对AI工作原理的理解，将带来更加现实的预期。不是盲目的希望，而是基于知识和经验的远见，应该决定我们如何管理这项技术的发展及其与我们的关系。

本文由Project Syndicate授权《南风窗》独家刊发中文版。艾德里安·梅耶是斯坦福大学历史学和科学哲学研究学者，新著《众神与机器人：神话、机器和古代科技梦》。