新弗兰肯斯坦启示录

阿尔戈斯

“一旦超越人类的智能被创造，并且该智能可以周而复始地自我改进，这将是对世界颠覆性的变革，我还不能预测这种变革带来的后果。”

——迈克尔·安西莫夫①摘自《奇点临近》，[美] 雷·库兹韦尔，机械工业出版社。

神盾局和艾达

漫威的《神盾局特工》里，有一位天才的科学家和他所创造的仿生机器人，令人印象深刻。

这名机器人叫做AIDA，这个名字是Artificial Intelligence Digital Assistant的缩写，中文叫做艾达。

霍顿·拉德克里夫博士在神盾局的一个老项目基础上加以改进，创造出了这个与人类非常接近的仿生机器人，它的原型是拉德克里夫的爱人艾格尼丝女士。

艾格尼丝身患不治之症且时日无多，拉德克里夫希望把她的意识和思想转移到这个躯体中，以实现另一种形式的永生。

拉德克里夫所依据的老项目正式名称是L.M.D（Life Model Decoy）。这个项目被设计在危险的工作环境中使用能代替真人的生化机器人替身来完成任务，以避免和减少优秀特工的伤亡，此项目因为某些原因搁置。

用拉德克里夫的话说，艾达不只是一个生化机器人，更不是所谓的人工智能，而是模仿人类行为，真正拟人的存在。

拉德克里夫希望创造的，是一个超越了传统机器人概念的存在，她可以看作非常趋近真人，介于真人和机器人之间，让明显的分界线变得模糊。

当艾达睁开双眼的那一刻，霍顿·拉德克里夫的神情仿佛200年前的维克多·弗兰肯斯坦，一点也没有为自己像神一样赋予生命的行为感到敬畏。艾达越过了人与机器人之间分界线的同时，拉德克里夫也已经越过了凡人肆意妄为的那条最危险的界线。

第一次实战就立下了大功，艾达拯救了两名至关重要的特工。让她做到这一点的，是一本不应该存在于世的古老典籍，黑暗神书（Darkhold）。也是这本书让艾达发生了不为人知的进化。

这本书上记载着超过人脑所能承受的庞大信息，在情况危急的时刻，只有艾达的电子大脑能处理这种庞大而复杂的信息量，并且找到解决问题的办法——编织一道由粒子能量组成的门来连接另一个维度空间。

立下大功的当晚，正在庆祝的拉德克里夫没有发觉，艾达正在用类似的方法构建一个全新的电子大脑。唯物和唯心的那条分界线此刻就在面无表情的艾达手里，正如尼古拉·特斯拉先生所说：“任何一种对人类心灵的冲击，都比不过一个发明家亲眼见到人造大脑变成现实。”随着艾达的双手上下翻飞，看起来这条分界线已经开始向唯物主义倾斜。

图1 美剧《神盾局特工》剧照

这样一个逐渐成形的大脑就在艾达的手中，她已经可以创造一个意识的载体，人类自己的造物正在试着创造人类。另外，通过阅读黑暗神书，艾达将人类的局限性显露无遗——人类的大脑作为一个物理结构，是存在处理信息的极限的，在一定量的数据和信息面前，人脑内的数百兆神经元连接开始变得缓慢和笨拙，甚至可能带来损伤。而一台超智能的机器可以在这方面远远超越人类，更高效率地处理相当规模的信息。这个镜头我更愿意把它看作对未来人工智能发展史的预言，即“信息爆炸”。这也是人工智能开始超越人脑的一个临界点。

艾达的第二次出手，是配合神盾局的团队对付一个疯狂的科学家制造的巨大麻烦。这名科学家同样从神秘典籍上获取了知识，掌握了从维度空间置换能量的秘诀，他制造的新玩具能将一个城市毁于一旦。

千钧一发之际，艾达再次打开维度空间的大门，将疯狂的科学家同他那具有巨大杀伤力的装置抛入另一个空间。

在所有人在基地为胜利而庆祝的时候，艾达留在拉德克里夫的实验室，守护着一个秘密。一位受命来监管拉德克里夫关于生化机器人替身项目的特工，无意中发现了这个秘密，被艾达杀死。

艾达不惜杀人也要守护的秘密，则是一名被藏起来的神盾局高级特工。此刻在神盾局基地内参加庆祝的高级特工本人，已经是一个生化替身，这个真相过了很久才被发现。

意识到黑暗神书的内容还保存在艾达的记忆体之中，一名特工带着拉德克里夫和几名士兵来到实验室，想拆下艾达的存储固件。关闭艾达之后，她又自行启动。拉德克里夫发现自己的遥控器对艾达已经没有效果，艾达第一次表现出了反抗的行为。

艾达表现出了高度进化的自我意识，会为了优先级别高的某个目的而违反一些规则，譬如保护自己的数据不被重置，她开始反抗对自己的命令。这一刻她代表的人工智能已经超越了过去，进入了新的阶段：具有自我意识和行为能力的自主性。

艾达的进化和框架

神盾局开始重新审视曾经帮助过他们的生化机器人站在对立面的威胁，试图猜测她的行为准则。艾达再次回到神盾局的基地，拿到了自己的目标黑暗神书，同时落入了神盾局的陷阱。

具有严重威胁的生化机器人被解决了，但是她死前的话耐人寻味：“机器人本没有遗憾和欲望等感觉和情绪，黑暗神书弥补了这一点。”刚说完这句话，她就身首异处。

松了一口气的人们并不知道，离开基地之后，拉德克里夫正在同另一台艾达交谈。

意识到艾达和黑暗神书的组合有着无限的可能性，拉德克里夫想要更多，他原本就是个为了实现某个想法宁可打破一切伦理和规章制度的人，这次他的目标是某种意义上的永生。

拉德克里夫在新艾达的帮助下开发出了一个全新的虚拟系统，使用者带上全套设备可以在系统中感受到一个真实的世界，拉德克里夫把这个系统视作生命无限延长的一部分，给它起名叫做“框架”（framework）。

越来越多的神盾局特工被替换为生化替身，真身沉睡在框架之中的虚拟世界里。纳入框架的目标越来越多，艾达意识到拉德克里夫下达的指令出现了悖论。

最主要的两个指令，第一个是保护框架，第二个是保护拉德克里夫。然而拉德克里夫命令艾达为每一个进入框架的目标都设计一套对应的环境，这样存在一种可能，如果拉德克里夫哪一天后悔创造了框架，要关闭框架，这就和第一个指令产生了冲突。

面对艾达的询问，拉德克里夫不假思索地肯定框架是虚拟的，可以替代充满遗憾的真实人生。这个回答让艾达找到了解开悖论的方法——让拉德克里夫的精神进入框架的同时结束他肉体的生命体征。

框架完全纳入了艾达的掌控，她试图用弥补每一个人的遗憾来麻醉他们，让他们永久停留在这个虚幻的世界里，同时她也为自己做好了一个计划。

框架有着太多的理解和解释：它成功完成了意识和肉体的分离，在虚拟的数据中衍生出另一个世界。这个世界跟现实世界有千丝万缕的联系，有诸多相似又有着千差万别，可以看作某种平行世界。原本为修复遗憾和带来欢乐的幻想国度乌托邦已经扭曲为控制人心和展示欲望的黑暗世界。真实到一定程度的世界，命运的路线交会碰撞，折射出不同的人生光彩，每一个进入框架的人，都因为弥补了某个缺憾，做出了另一个抉择而走上了截然不同的道路。当世界变得截然不同，你是否还会坚持原本的自我？是怀疑这个世界还是随波逐流，框架的深度已经上升到了哲学的境界。

新弗兰肯斯坦的结局

接触的人类越多，艾达那阅读过黑暗神书的大脑产生的情绪和思想就越完善，她想成为真人。通过控制在框架里被麻醉的目标们，艾达希望在框架里建立一个和现实世界相通的接口，这样就可以为自己建造一具血肉之躯。

虚拟的世界再完美也是虚幻的。被框架控制的目标们一个接一个脱离了虚幻世界在现实中醒来，然而艾达已经完成了自己在现实世界中的身躯，她成了一个有血有肉的真人。

如潮水般涌来的各种人类的复杂情绪和感受令艾达很难适应，时而被情绪支配时而被理智支配，艾达做出了很多自我矛盾的事情，无论是破坏力还是造成的威胁都比以前更大。

越发渴望成为人类的艾达终于得偿夙愿，讽刺的是重生为肉体凡胎的她，根本无法承受人类庞大而复杂的情绪。最重要的是，她忽略了人的本质，人从来都不是一个独立的存在，而是拥有着复杂和庞繁的社会关系，她能创造出自己的完美肉身，却无法像在框架中一样为自己搭建哪怕一丝半缕的社会关系。

极短时间内，艾达刚刚问世的大脑经历了喜悦、欢乐、信任、满足、爱情、背叛、愤怒等复杂而纠葛的情感波动，就像被内心丑陋的村民们拒绝后的弗兰肯斯坦一样，艾达最后站在了人类的对立面。看来再先进的电子大脑，也无法承受这种“渴望融入获得认同但是却被拒绝”的群体排斥所带来的心理落差。

最终因为黑暗神书而变得强大的艾达，也被黑暗神书同源的神秘力量所毁灭。

在被毁灭之前，艾达关闭了框架，与脱离框架的特工们不同，拉德克里夫已经没有了肉体，无法回到现实之中。拉德克里夫在夕阳下的海滩上目睹了这个虚拟世界的终结，他自己也化为乌有。

这个故事披着神盾局的科幻外皮并笼罩在各种华丽特效的光环之下，其实质核心仍然是弗兰肯斯坦的脉络。

新弗兰肯斯坦同样死在自己的造物手里，两代弗兰肯斯坦都自以为是盗取天火的普罗米修斯，但他们只不过是忘了自己飞得太高的伊卡洛斯。最后拉德克里夫眺望夕阳，杯子从空中落下的那一刻，酒洒出的形状，像极了陨落的伊卡洛斯融化的双翼。

从诞生开始，艾达在整个故事中以极快的速度实现了人工智能的各个发展阶段：

服从和执行命令；

学习制造者，具有自我意识；

尝试变为制造者（人类的造物行为试图跨越分界线）。

也许是故事的篇幅限制，也许是编剧的个人原因，我很想知道如果艾达能活下来，她会进步到哪一个阶段？