科技怪物

罗伯特·斯基德尔斯基

在玛丽·雪莱的小说《科学怪人，或现代普罗米修斯》中，科学家维克多·弗兰肯斯坦使用人体部件创造了一个超级智能的“超人”怪物，最终反噬了它的创造者。自1818年出版以来，雪莱的这个关于科学研究导致大问题的故事，被视为试图赋予机器类人智能的危险（和愚蠢）的隐喻。

随着生成式人工智能（AI）的迅速兴起，雪莱的故事引起了新的共鸣。3月22日，未来生命研究所发布了一封由包括特斯拉首席执行官埃隆·马斯克和苹果联合创始人史蒂夫·沃兹尼亚克在内的数百名科技领袖签署的公开信，呼吁暂停（或由政府强制暂停）开发比OpenAI新发布的ChatGPT-4更强大的AI系统。

马斯克目前是世界第二富有的人，在很多方面都是我们这个时代的维克多·弗兰肯斯坦。这位出生于南非、以夸张著称的亿万富翁，已经尝试将整个驾驶过程自动化（但结果喜忧参半），声称Boring Company超级高铁项目发明了一种新的交通方式，宣布打算“用他的SpaceX火箭公司在火星上建立殖民地，保护意识之光”。马斯克也恰好是OpenAI的联合创始人（他在2018年收购失败后从公司董事会辞职）。

马斯克最喜欢的项目之一是将AI和人类意识结合起来。2020年8月，马斯克展示了一只在大脑中植入了计算机芯片的猪，以演示其科技初创公司Neuralink开发的所谓“脑机接口”。当这只叫特格鲁德的猪吃或闻稻草时，图表会追踪它的神经活动。马斯克说，这项技术可用于治疗失忆、焦虑、成瘾甚至失明。几个月后，Neuralink发布了一段视频，视频中一只猴子借助植入设备用意念玩电子游戏。

这些特技伴随着马斯克一贯的夸大其词。他希望Neuralink的大脑增强技术能够开创一个“超人类认知”的时代，其中优化心理功能的计算机芯片将被广泛使用。他声称，植入它们的过程是完全自动化和微创的。每隔几年，隨着技术的进步，芯片可以被取出换上新型号。然而，这一切都只是假说。

马斯克试图创造半机械人，而人类可能很快就会发现自己被机器取代。去年ChatGPT的发布似乎引起了这些前AI布道者的恐慌，导致他们从赞美超级智能机器的好处，转变为想办法阻止它们的流氓化。

与向用户显示链接列表的谷歌搜索引擎不同，ChatGPT可以流畅、连贯地回答问题。最近，我的一位哲学家朋友问ChatGPT“道德哲学中是否存在一种鲜明的女性风格”，并将答案发送给同事。有人发现它“非常人化”。诚然，她写道：“这是一篇非常陈腐的文章，但至少它清晰、符合语法，并且解决了问题，因此比我们许多学生的文章更好。”

换句话说，ChatGPT通过了图灵测试，表现出与人类无异的智能行为。这项技术已经成为学术教师的噩梦，它的快速发展表明它的广泛采用可能会带来灾难性的后果。

那么该做什么呢？未来生命研究所（部分由马斯克资助）最近的一份政策简报，提出了几种管理AI风险的可能方法。它的建议包括强制第三方审计和认证、规范计算能力的获取、在国家层面创建“有能力的”监管机构、确定AI所造成危害的责任、增加安全研究的资金，以及制定识别和管理AI生成内容的标准。

但在地缘政治冲突和意识形态两极化不断升级的时代，阻止新的AI技术武器化似乎不太可能，遑论达成全球标准协议。目前尚不清楚“暂停”在实践中意味着什么。例如，据报道，马斯克已经在致力于一家与OpenAI竞争的AI初创公司。我们的当代维克多·弗兰肯斯坦，是真心希望暂停生成式AI，还是只是在争夺位置？