美国的国防部大脑

☉[美]安妮·雅各布森 著 李文婕 郭颖 译

2014年4月，我采访了激光的发明者，诺贝尔奖得主查尔斯·H.汤斯。接受采访时，汤斯教授马上就要99 岁了，但他头脑清楚，思路清晰，仍然能在加州大学伯克利分校的办公室上班，撰写论文，接受采访。

我们讨论的两件事，令人印象深刻。汤斯告诉我，很久以前，他和约翰·冯·诺依曼分享自己关于激光的想法，冯·诺依曼告诉他，这个想法根本不会成功。

“你对此是怎么想的？”我问汤斯。

“如果你要尝试新的东西，”他说，“就必须忽略批评。多数人对新想法持否定态度。他们想，‘如果我没想出这个主意，它就一定不行’。人们必然会怀疑你。可是你必须继续，这就是你应该做的。”而查尔斯·汤斯正是这么做的。激光被认为是当代世界上，最重要的科学发明之一。

汤斯告诉我的第二件印象深刻的事，我自己也在这本书的前面提到过，他是看过阿列克赛·托尔斯泰1926年写的科幻小说《加林死亡射线》后，受启发而发明了激光。值得好好想一下，科幻小说的力量有多大。这个异想天开的，好像不可能的想法，可以启发像查尔斯·汤斯这样的人，发明完全改变现实世界的东西。

科幻小说可以深刻影响现实的想法，现在仍深深令我着迷。因为在为这本书做研究报告的过程中，我了解到，在恐怖战争中，国防部开始从科幻小说作家，特别是一个叫西格玛组的民间组织那里，寻找灵感。这个组织的创始人阿兰·安德鲁斯（Arlan Andrews）博士说，成立这个组织的主要想法是，让世界远离恐怖主义。为了这个目的，西格玛组为国防部和白宫提供“未来主义咨询”。这个组织的座右铭是“国家利益中的科幻小说”。

负责保卫国家安全的人“需要想一些疯狂的主意”，安德鲁斯博士说，西格玛组正是在这方面帮助国防部。他说：“我们（西格玛）中的许多人，都有高技术领域的博士学位，其中一些人在联邦政府和国防工业中工作。”安德鲁斯是乔治·布什总统任期内的白宫科学官，之前曾在位于新墨西哥州的国家核武器生产设施桑迪亚国家实验室工作。他说对于西格玛的成果，“我们每个人都是一部科幻小说的作者，虚构新技术、新问题和新社会，解读可能产生的科学问题，猜测其对人类的影响”。

彼得·加勒森（Peter Garretson）中校是西格玛组的一名成员，他是国防部的一名转型战略专家。2014年春天，加勒森安排我和另外两名同事克里斯·卡特（Chris Carter）和盖尔·安妮·赫德（Gale Anne Hurd）来到国防部。克里斯·卡特制作了《X档案》有史以来最流行的科幻小说电视剧。《X档案》中的人物癌人是个处于政府阴谋中心的典型反面角色。赫德是《终结者》的联合作者。这是一部科幻小说的经典之作，写的是恶毒的人工智能机器天网，从未来派来一个半机械人刺客的故事。在《终结者》中，天网变得比制造它的国防科学家们更聪明，它发动了一场核战争，以此达到机器霸权和消灭人类的目的。

卡特、赫德是和我一起来国防部进行采访报道并进行讨论和观察的，但不提供任何未来主义咨询。我们到达国防部时，正值2014年一个温暖的春日。这个五边形的650万平方英尺的五层建筑，就像是一个巨人。我们通过了安检。安全协议要求我们无论去哪里，必须时刻有人陪同，就算去厕所也一样。我们来到国防部庭院吃午饭，那里有草坪、高大的树和木制野餐桌。加勒森的同事朱利安·契斯纳特（Julian Chesnutt）中校和国防部国防情报局、国防秘密行动局一起，在国防部庭院中心，告诉我们一个关于国防部的故事。这里现在是一个美食广场，但曾是个热狗摊。契斯纳特解释说，在冷战的顶峰时期，卫星技术刚刚出现，监控五角大楼的苏联分析员确信，这个建筑是个像导弹发射井之类的地下设施的入口。分析员们对于每天有数以千计的人出出进进这个建筑，找不到别的解释。很明显，苏联并没有挑明这一点，整个冷战期间，热狗摊和五角大楼的其他地方一直是监控目标。这是一段秘史，每个人都想知道，五角大楼下面到底有什么，据说地下有很多层。

午餐期间，坐在一个长野餐桌旁，我们与一群国防部“未来思想家”就科学现实和科幻小说发起了一场发人深思的对话。这些国防知识分子中，许多人都有博士学位，他们来自不同的军种，年龄从三十岁到六十多岁。其中一些人曾去过伊拉克战场，其他人则去过阿富汗。这些“未来思想家”很热情，想法大胆，献身国家安全的决心毋庸置疑。这些人就是国防部决定未来的智库。

午饭后，我们来到E-环区域，这里是参谋长联席会议和国防部长所在地。这里像迷宫一样的走廊上，有嗡嗡响的荧光灯。我们穿过许多安全门，上上下下多层楼梯。最后，我们来到了国防部长办公室的门廊。走廊墙上挂着真人大小的前国防部长们的油画像。我看见了本书中涉及的五位前国防部长画像。尼尔·麦克尔罗伊让国会批准成立DARPA，他承诺DARPA 负责管理美国宏大的未来武器系统，后来确实也实现了。罗伯特·麦克纳马拉相信，智力和系统分析可以赢得战争，为达到这个目的，他为国防部高层梯队招募了有奇才的孩子。作为氢弹武器的发起人，哈罗德·布朗是第一个物理学家国防部长，为美国提出了补偿策略——使指挥官有跨大陆发起战争的能力。迪克·切尼向世界展示了压倒性武力可以实现特定目标。唐纳德·拉姆斯菲尔德向世界展示了“以网络为中心的战争”。

当我们穿过走廊，欣赏国防部墙上的装饰艺术作品和武器系统照片时，我们这一组人又像讨论科学现实和科幻小说一样，展开了话题。一个官员说，他办公室有一张癌人的海报；另一个官员说，作为办公室社会事件，他的国防小组制作了正面写有“天网”字样的棒球帽。科幻小说具有巨大的力量。正因为卡特和赫德的科幻小说作品，许多有心人至少确信了两个科幻小说概念：其一，（正如《终结者》中的一样）人工智能机器有很大的潜能，可以比它的人类制造者更聪明，并发动核战争；其二，（像《X 档案》中一样）政府有专门维持某些秘密的部队。作为记者，我得知，这些概念也存在于现实世界。人工智能杀人机器人和美国政府，以国家安全的名义，保守着秘密。我还发现，一些五角大楼最强大的机密和战略就藏在眼前。

在五角大楼报道之旅后的第二天，我去见了迈克尔·戈德布拉特，他曾负责实施许多DARPA的超级士兵项目。戈德布拉特是个科学家和风投家，1999—2004年，执掌 DARPA的国家科学办公室，监督制造精神上和身体上都比常人强的超级战士项目。戈德布拉特让我去他家里采访。当一辆车把我从五角大楼城的酒店房间，带到戈德布拉特所住的市郊时，整个旅程就像是《X档案》中的片段。穿过弗吉尼亚州麦克莱恩市的森林地区，沿多利·麦迪逊大道而下（多利的丈夫詹姆斯·麦迪逊，曾把战争称为可怕的自由之敌），我们路过兰利市中情局总部，来到临近的住宅小区。

在戈德布拉特家里，我们谈论了反人文主义、DARPA的扩张、机器对战士的影响、药物和其他途径。在他的任期内，戈德布拉特主持的项目，包括作战持续性、机械战士和持续性辅助性能等。这些项目都是为了提高战士的身体机能，但是今天我对DARPA如何提高人类大脑机能最感兴趣。不仅是大脑受伤士兵的大脑，还包括健康士兵的大脑。DARPA把这个领域的研究，称为“增强认知”（AugCog）。增强认知的概念，以科学前沿问题人机界面为基础，国防部称之为人机互动（HRI）。在DARPA 的机器老鼠和烟草天蛾项目中，科学家制造了一种可遥控的动物机器杂交体。通过增强认知项目，DARPA正在研制人机杂交体或者可以叫作半机械人。

从 20 世纪 70年代开始，DARPA 一直致力于研究脑机接口（BCI）技术，但直到21世纪纳米技术的进步，才使BCI 真正有了新的突破。 DARPA“増强认知”在戈德布拉特任期内进步飞速。到2004年，DARPA 官方目标，是发展“增加人机互动”二元体网络思维模式产生的力量数量级。2007年，申请新项目时，DARPA说：“人类大脑活动必须与技术协调一致。”因此产生了几个非机密项目：包括认知技术威胁报警系统（CT2WS）和情报分析人员神经技术（NIA）这两个项目都是应用“非侵袭性技术”，增强人类侦测目标的能力。CT2WS项目是为帮助士兵寻找战场目标和在敌对环境中执行情报监控行动而设计的。NIA 是为画像分析人员在卫星照片中寻找目标而设计的。项目参与人戴着一个“无线脑电图描记器认知帽”，也叫头戴式受话器，通过电脉冲刺激大脑，增强认知功能。 DARPA 的科学家发现，利用“非侵略性脑机界面”，他们可以成指数级地增强人类认知，使士兵和间谍更快、更准确地思考。但DARPA 项目管理人说：“这些设备很难申请到，并且由于戴头戴式受话器，容易让头发出汗，脱下时容易掉头发，用户并不愿意戴。”在大脑中植入会更加高效。

戈德布拉特离开DARPA后，DARPA的研究人员在《科学》杂志上发表了一系列“人/机系统”“开创性的进步”。2014年，DARPA项目管理人声称“人机界面技术的未来”在于融合所有DARPA关于人脑研究项目的技术，天线是否有侵略性，特别是随机存取存储器（RAM）、维护、提醒和子网络等技术。从本质上讲，DARPA 是在利用人脑执行搜集情报、监控和侦察任务吗？这是DARPA 科学家长久以来一直寻求的人工智能的关键信息吗？“为了向总统的“大脑计划”致敬，”DARPA项目管理人写道，“需要新奇的脑机界面（BCI）技术，不仅是延伸能从大脑里提取什么信息，还要知道谁能参与到这些研究工作中去。”

几十年来，科学家们一直尝试制造人工智能机器，但都未成功。人工智能科学家们总是撞到同一堵墙上。迄今为止，计算机只能按照软件预先设置的算法执行命令，按章行事。我想知道，迈克尔·戈德布拉特主导的DARPA 反人文主义项目是否可以砸碎这堵墙。 DARPA 的脑机界面项目是不是就是关键的连接点呢？

戈德布拉特笑了。他说，他十年前离开DARPA。他只能谈论非机密项目。但是在谈论贾松小组的科学家和他们2008年发表的一份报告时，他给我指了一个方向。在这份叫“人为绩效”的报告中，有一部分叫“脑机接口”，贾松小组的科学家论及的非侵略性接口，包括 DARPA 的CT2WS 和 NIA 项目。利用“电磁信号侦测数以百万神经和突触的活动（换句话说，就是脑电图描记器帽），对提升认知很有效”，但是信息收集很“烦人和低级”。他们通过观察了解到，更多的侵略性项目可以详细地描述细节，特别是在一个“电极阵列植入大脑皮层，并在头骨设置一个‘引线’基座与之相接”的项目中。贾松小组的科学家写道，这些“大脑中植入芯片”的项目可以真正持续促进“想要得到的结果”，进而使“可预测的、高质量的大脑控制成为现实”。

它就在那里，就隐藏在普通场景中。如果DARPA可以掌握“高质量控制大脑”，人机系统和脑机接口的实现可能性就会大大提高。墙就会垮塌了，尤其是在猎杀无人机战争中的应用潜力无限大。大脑芯片就是缺失的那一环。

但是连贾松小组的科学家也认为，推荐这个想法的同时，有必要郑重警告一下。“对手可能在军事应用中使用侵略性接口，”他们写道，“一个极端例子，就是对人类的遥控。”正因如此，贾松小组的科学家警告国防部不要再继续这个领域的工作，至少首先要认真考虑一下伦理因素。“人们对于脑机接口，充满了在模仿人为绩效方面应用（无论是好是坏）的无限遐想”，但是同时也牵扯到“开展研究过程中滥用潜力”的问题，贾松小组的科学家写道。总之，贾松小组的科学家不推荐制造能用大脑控制的半机械人。

这个警告让人想到，贾松小组越战时提出的另一个警告，当时国防部长罗伯特·麦克纳马拉向贾松小组科学家征求关于用核武器打击“胡志明小道”的意见。贾松小组的科学家研究了形势，认为这不是他们该发表意见的事情。在越南用核武器，会让越共从苏联等国那里得到并使用核武器，贾松小组的科学家警告说。而这也将继而鼓励恐怖分子，在未来使用核武器。

2008年，贾松小组的科学家在提升认知和人为绩效的研究时说道，控制大脑的概念，最终会失败，因为军方有太多的人会认为这项研究有悖伦理。“这些伦理方面的顾虑，会适当地限制美国军方模仿人为绩效领域的活动和应用”，他们写道。

但是当我们谈及贾松小组对DARPA 的影响时，戈德布拉特摇了摇头，表示我说错了。

“贾松小组的科学家没有多大意义了。”戈德布拉特说。从他进入DARPA 起，直到2014年，“对 DARPA 最有影响力的科学顾问小组是DSB”。DSB即国防科学委员会，办公室就在五角大楼，负责查找问题，DARPA负责寻找解决之策，戈德布拉特解释说。DSB最近研究了人机系统，发现了人机接口一系列全新的问题。

2012年，在国防部两个无人机战争路线图《2011—2036 财政年无人系统集成路线图》和《2013-2038财政年无人系统集成路线图》转换期间，DSB 向国防部长提交了一份125 页的报告，标题是“国防部系统中自主权的作用”。这份报告明确号召，让国防部加速发展人工智能武器系统。“特遣部队总结道，现在应用在战场上的无人系统，正在国防部行动中发挥积极作用。由于国防部方面应用材料问题的限制，阻碍了自主权的广泛接受，自主式技术并未被充分利用，”DSB 主席保罗·卡明斯基（Paul Kaminski）在报告附带的信中写道。

DSB 说，首要的阻碍来自信任——正如贾松小组科学家在他们的报告中预测的一样。许多军方人士对人与机器结合，制造自主式武器系统是否是个好主意，持怀疑态度。DSB 发现，抵制来自指挥机构的所有阶层，从战地指挥官到无人机操作者。“尤其是在实践中，系统的自主式功能，能否在任何条件下都起作用，指挥员和操作者们对此缺少信任。”DSB 写道。根本问题是如何让“指挥官相信，自主式系统会像预期表现一样”。

或许指挥官们已经看过太多的《X 档案》片段，看过太多遍《终结者》系列电影；或许他们读过《国防部指令3000.09》，看过关于讨论“自动化或半自动化武器系统失败的可能性，以及可能导致的不可预料债务”；抑或指挥官和操作者们还想是个完整的男人（和女人），而不想成为半人半机的半机械人。但是不像贾松小组，国防科学委员依然向国防部建议，要加速转变态度——说服指挥官、操作者和战士，接受、信任人机接口。

“在人机接口（HRI）领域，特别受关注的一部分是机器人伦理学。”DSB 写道。这种包含机器人伦理学内部讨论的尝试意在在军事人才和机器人系统之间培养信任。可是结果适得其反。“理论上很引人注目，但在实际伦理上，这场讨论结果并不好。它增加了人们对无人系统的不信任，因为机器人不会完全按理性的思维行动。”DSB 建议这种不信任的态度应该改变。

或许DARPA 展开了一个怎么达成信任的项目，这一点儿都不奇怪。在恐怖战争期间，DARPA 与中情局里和DARPA 职能类似的部门——情报先进研究计划署（LARPA）合作，共同研究叙述网络（N2），“发展人类认知中叙述能力的技术”。领导这项研究的科学家保罗·扎克（Paul Zak）博士坚持认为，DARPA和中情局关于信任的研究，很有意义。“如果政府更加信任民众，我们都会获益”，扎克2014年秋天告诉我。当时我正在参观他位于加州克莱蒙研究大学的实验室。我问扎克，他所参与的DARPA研究是不是为了解决信任问题，扎克说他不这样认为。

保罗·扎克是神经经济学与道德观念领域的带头人。这个领域研究基于信任的，做出经济决定的神经化学根源。扎克是经济学博士，在博士后研读期间，他在哈佛大学做神经影像研究。2004年，他做出了自称“开创性的、改变一生的”发现。“我发现了大脑道德分子，”扎克说，“大脑中的化学物质催产素，让人做出道德方面的决定，而道德与信任息息相关。”马上，扎克说：“ DARPA 的各路人马都在问我，‘我们怎样才能搞点催产素呢’？”扎克也引起了中情局的兴趣。为了DARPA 的叙述网络（N2）项目，扎克发明了一种方法，用于在催产素等“大脑道德分子”自然释放时，测量人类大脑和身体的反应。

与DARPA 毫不相干的波恩大学研究人员，对于催产素取得了另一些研究成果。2014年12月，这些研究人员公开了一种化学物质和如何“消除恐惧”的研究课题。首席研究人员莫妮卡·埃克斯坦告诉《科学美国人》杂志，课题的目标是：把催产素注入62 个人的鼻子，希望他们的恐惧感可以消失。“对于大部分人来说，实验成功了”，她说。我们将生活在一个可以消除恐惧的世界里，实现时间不会太久了。

为什么国防科学委员会对于在国防部推进机器人战争这么上心呢？为什么要让军事人才学会“信任”机器人，并在未来战争中依靠自主式机器人呢？为什么政府要投资消除恐惧的研究工作呢？所有这些问题和本书中的每一个问题的答案，就在于整个军工复合体的核心。

不像贾松小组科学家那样，大部分都是兼职，包括国防科学家和全职大学教授，DSB的大多数成员都是国防合同商。2009—2013年，DSB 主席保罗·卡明斯基一直为奥巴马总统的情报顾问委员会工作，同时他还是通用公司的董事、兰德公司董事会主席、前休斯研究所董事会主任、航空航天董事会主席、技术创新有限公司主席和首席执行官、约翰·霍普金斯应用物理实验室信托人和顾问、麻省理工学院林肯实验室信托人和顾问，所有这些公司和社团都是为DARPA 和国防部建造机器人武器系统的。卡明斯基还是国防部办公室的付费顾问。但是，他只是一个例子，他的DSB 同僚们大约有50 人，每个人都在国防合同商巨人们的董事会工作，这其中包括雷声、波音、通用、诺斯罗普·格鲁曼、里克特尔、航空公司、得州仪器、IBM、劳伦斯利弗莫尔国家实验室、桑迪亚国家实验室等。

回顾DARPA的历史，可以说它的部分甚至整个职能就是让美国在军事技术上永远领先。前DARPA 主任埃伯哈特·里希廷曾在1970年对国会明确地说明这个先进技术战争的难题，DARPA 总是面临要接受“先有鸡还是先有蛋”的问题。DARPA必须永远执行“需要的项目”，因为当一项技术需求在战场上出现时，就为时已晚了，必须提前研究。DARPA的合同商在国防部保持先于需要，并引领军事变革中，起了非常关键的作用。要统治未来的战争，提防被抓到。

回顾DARPA的历史，展望未来，可以说，未来某一天，当它走向全世界的时候，技术自身将会超越DARPA。而这正是许多受人尊敬的科学家和工程师所万分担忧的。