似界

王凯

我们遇见的第一天，医生告诉我说：现在的人工智能，最重要的不是智能，而是人工。

当时我尚未涉足这一行，对他说的话似懂非懂。于是，他把我带到公司的最高一层，这里是识图AI的训练场，被分割成一个个隔音小房间，里面坐着来自附近城中村的女工们。她们或年老或年少，有些人握着鼠标的手尚且笨拙。一幅幅图片在屏幕上闪过，她们点击这些图片，对着麦克风大声读出这些图片里物件的名字。这些声音被收集起来，汇总到数据中心，变成一片小小的碎片，并会在下一个流程中化作支撑AI声音识别的一块砖瓦。

“你有兴趣吗？当然，不是做声音识别，是做别的。”

我点点头。

接下来的数年里，我也坐进了类似的小房间，我的工作不是识图，而是识别文字。我阅读各种各样的文字，从小说到纪实文学，从药品说明书到微博，从商业成功学到宗教，然后我总结自己阅读时的情感，把这些情感归拢成数据“喂”给公司的另一个AI系统。医生让我和其他人收集每一个无法识别的句子、每一串能够愚弄人工智能的文本，再把它们“喂”给另一个人工智能。

这个名叫“似界”的AI吞下这一切，不仅是文本，还有图片和声音。其中包括了被识别成鸟的桥梁蓝图、被认定为数学公式的诗、被判断成细菌的人脸和被认定为消防警报的歌。

我问过医生，“似界”这个名字的意思。

他说：“大千世界，似是而非。”

在文字识别组工作数年后，医生把我调进了“似界”的项目组。

不同的项目组，同样的工作内容。

“似界”会根据我们“喂”给它的那些“错误”，生成大量的文本、图片和声音。我的工作就是去识别这些东西，将那些对人类有意义的事物和在人类眼里不可理解的事物分开来。

我问过医生这是在做什么。但他说，就算解释了，我也不会懂。

在我看来，“似界”仿佛是在搞艺术。

我对人工智能一窍不通。我只懂艺术，而且我上一份工作就是搞艺术——写卖不出去的小说和没人看的诗，最后穷出了心理疾病，跑到互联网上去找免费的心理治疗，然后我遇到了医生。

“你需要的不是一次治疗。”他说，“你需要一份工作，而我恰好可以提供一份工作。”

这就是为什么我叫他医生，尽管他这辈子几乎都没穿过白大褂。其实医生比我更像是个艺术家，他搞出来的“似界”虽然只是个人工智能算法，但它“吐”出的很多东西都挺有艺术感的。我为医生收集这些内容，直到有一天，一群穿着黑色T恤衫的人出现在公司里。他们表情严肃认真，而医生也难得地露出了严肃的表情。

“我们要看演示。”个子最高、肩膀最宽的那个人说。

医生带他们去楼顶。那里摆放着几十台无人机。他叫上了所有“似界”项目组的人，包括我。我们好奇而不解地坐在楼顶的塑料椅子上，那些椅子平时是用来做拓展游戏的。

一个穿黑T恤衫的人拿出遥控器，无人机成群结队地起飞。掠过楼顶，再飞回来，最终全部悬停在医生的头顶，红色的激光点落在他的脸上和胸口，他笑着用手遮挡。那天很热，我还记得阳光落在我的脸上。那些聪明的小飞机突然从我的头顶飞过，甚至绕着我的脸转。然后，它们绕到我背后，发现我，气势汹汹地向我飞过来。但是等它们绕到我身前时，仿佛被某种事物所迷惑，又飞走了。

“行了。”个子最高的那个男人摆摆手，“签保密协议吧。你们所有人。”

我们那天就在现场、在天台上、在凹凸不平带着小圆点的塑料凳子上，签下了我们这辈子第一份保密协议。我当时又困惑又紧张，甚至划破了纸。

那时候我从来没想到，这份工作会把我带上无人战场。无人战场名副其实，那里在开战后就已经空无一人。当地居民根据他们的信仰和信念，收拾行装逃往不同的方向。如今，那片土地上只有无人机、自走机器人和自行战车。它们开出厂房，驶下运输机，穿过临时机场那尘土飞扬的跑道，进入无人战场，开始冲撞彼此、轰炸彼此。

我只在分析室里见过N区。那个长条形房间灯光昏暗，墙壁上并排挂着两幅投影屏，左边是人工智能分析终端生成的N区图像，右边是无人机拍摄视频里的N区风景。

它们迥然不同。

拥有“似界”的人，不只是我们，还有敌人。双方都在用尽一切辦法愚弄对方自主作战机器人的眼睛。因此，在人工智能的分析图像里，整个N区显现出难以置信的光怪陆离，就像是具象化的卡尔维诺小说，或者动态的达利油画。

我至今保留着一段N区的人工智能全景视频。在那段视频里，天空湛蓝、阳光明亮，棉花般的云朵中间倒挂着一座索桥，正呼啸着向镜头的方向冲过来。

这甚至不是整段视频里最怪异的部分。

在被集束炸弹破坏得坑坑洼洼的地面上，奔跑着各种莫可名状的事物。我能从中间分辨出一只蓝色的袋鼠、两条直径比人还粗的绳索、一只珐琅鼻烟壶和六架不同颜色的天文望远镜。在视频里，它们看起来模糊不清、破碎跳动，彼此冲撞厮打，仿佛一群不真实的野兽。

如果比对直接拍摄的视频，就可以看出，这些互相厮打的异物都是刷有“愚弄迷彩”的自走机器人，天空中呼啸而来的是一架大型无人机。

对方也使用了“似界”的技术。把愚弄自动战争机器的迷彩刷在每一台机器上，让战场指挥AI产生严重的错觉，迫使我们不得不倒退回用人手操控战争机器的时代，而且他们甚至还有余裕的精力来掌控这些错觉的细节。当时，我们认为那是对方对我们的示威。

第二天晚上，噩耗从海上传来，我们才知道，那是对方相信自己已经胜利的宣言。

我们最终还是夺回了N区。

但没有人能把医生带回来给我们。

他们叫我过去的时候，已经是医生的飞机坠入深海的第九天。这一次我签下了差不多一指厚的保密协议，才得以见到那个幸存下来的飞行员。

她看起来疲惫、惊恐、双眼红肿，而且充满不安。他们给她安排的房间宽敞而舒适，但这并不能改变她正在被监控的事实。我看了他们对她每一次问询的记录，但我决定还是面对面地和她谈一谈。

当我走进去的时候，她甚至都没有抬头，只是大声地喊：“出去！我都说过了！我不想再说一遍！”

我在她对面坐下。

“我叫他医生。”我说，“他叫我镜子。”

这句话让她抬起头来，困惑地看着我。我对她说了医生的名字，我看到她脸上的表情由不满变成悲哀和内疚。

“我真的什么都没有注意到。”她说，“雷达和目视都一切正常。”

“我相信雷达一切正常。”我说，“在现代战争里，要骗过雷达的办法有很多。”

她又转为警惕，“那你的意思是，我没有看到那个迎面撞上我飞机的东西？”

“我觉得你看到了。”我说，“只不过那个东西太怪异，怪异到你都不相信它会在那里，怪异到你觉得它应该是个幻觉。而你是个飞行员，你的训练要求你理智冷静，要求你忽略那个看到不可思议的东西的瞬间。”

她看着我，嘴唇微张，欲言又止。

我拿出手机，给她看那段视频，给她看厮打在一起的望远镜和袋鼠，以及空中飞掠并开火的悬索桥。

她的眼睛睁大了。

“很多年前，有一群科学家……”我说。

这个故事是医生讲给我听的。我向他抱怨说我对他的工作一无所知。他就笑着摸我的头，说，要给我讲一个一无所知的人也能懂的、关于人工智能和他的工作的故事。

我记住了他说的每一个字，并在很多年后，讲给那个飞行员。

很多年前，有一群科学家。他们想要创造出和人一样聪明，能够作出判断和选择的机器，但他们选择了不同的方法去做。有些科学家，他们用做钟表的方法去做，只要“齿轮”转到了合适的位置，就能给出时间，而钟表不需要理解时间本身。另一些科学家，他们选择用更困难的方法，去仿造人类的神经系统，仿造你和我的大脑，来做这种机器。他们希望机器能够真正地去“理解”和“认知”。

这就是我们今天最常见的人工智能——至少是人工智能的一种。

起初，他们很成功。

但是后来，这些科学家发现，他们做出来的人工智能是有缺陷的。虽然这些机器可以识别99%的图片、声音、文字，但是总有那么1%的东西，它们会认错。把狗认成摩托、把花看成跳舞的女人，或者把歌声判断成警报。

科学家们收集了这些会让人工智能出错的事物。开始研究，有些人认为，这种错误最终是可以消除的，因此他们一直致力于纠正这些错误。但另一些科学家认为，这种错误根植于人工智能的基本结构——而这个基本结构同时也是人类神经系统的基本结构。他们认为这种错误无法消除，但可以总结出其中的规律。

我做的事情就是后一种。

“似界”的算法让它能够发现和生成这些带来错误认知的事物。它已经超越了色彩、图像和意义，给认知本身披上了伪装。在自主武器系统遍布全球、无人战争多点开花的今天，每一张错误认知图片，每一块“愚弄迷彩”，都有可能从无人机轰炸下拯救一条生命；每一条错误认知文本都有可能绕过无孔不入的网络监视、传递至关重要的密码；每一组错误认知声音都有可能扰乱对方的信息系统。

我不知道是战争找到了我，还是我去找到了战争。

“似界”创造的每一个错误认知，其错误都根植于人工智能算法的基本结构，而这个结构脱胎于人类的神经系统。如果能拨开这些错觉的迷雾，或许我们就能看见世界背后的真实。如果能掌握这种错误认知的力量，我们或许就能获得更强大的武器。

而且我必须要快。

我们有敌人，而且敌人和我们一样聪明。

“我看见一颗月亮向我飞来，我甚至能看清楚它上面的环形山。那是在白天，天空那么明亮，而那个月亮离我那么近，仿佛伸手就能摸到，它又那么小，直径比我的飞机的翼展还窄，像一块完美的圆形石头。我想我一定是太累了，出现了幻觉，然后那颗月亮就撞在了飞机上。我以为是我的错。”她说。

我拿出一张经过特殊设计的杂色滤光片，它可以扰乱固有的视觉模式，重置被欺骗的神经信号。我把它叠在图片上，给她看。

“这是……这不可能……”

我叹口气。

在那张照片上，一架涂满了愚弄迷彩的无人机正掠过天空。

“我要叫你镜子。”医生曾经这样说，“因为你比我更远离真实，又比我更接近真实。”

我是个色盲，很微弱的那种。我分不清蓝色和绿色，这让我可以免疫大概30%的针对人类设计的错误认知迷彩。和我一起工作的人里，有些是红绿色盲，但更多的是非常稀有的全色盲。他们几乎可以免疫绝大多数的错误认知迷彩。根据我们的视觉模式，一批批单色和转色滤光片被制造出来，保护那些被困扰的战士和被愚弄的人工智能。让他们能够穿过硝烟，穿过战场，去寻找真相。

但世界正在一天接一天地失去真实。在前线，我甚至看到過刷满愚弄迷彩、伪装成山脉的一整栋大楼。人们这么做并不是为了赢得战争，而是那些充满恐惧的居民想要让自己从世界上消失。

最近，我听说已经有针对色盲者的错误认知迷彩被开发出来。人们将欺骗人工智能的方法转而用到欺骗人眼上，开发出了能够超越滤光设备的通用认知扰乱图形。很多科学家一起接手了医生留下来的研究工作，他们和我一样忧心忡忡。

医生说的话依旧回荡在我们耳边。

必须要快，他说。

我们有敌人，而且敌人和我们一样聪明。