谷歌员工抗议谷歌卷入战争

编译 西岸

数千名谷歌员工签署了一封致首席执行官桑达尔·皮查伊的信函，以抗议谷歌参与一个美国国防部旨在提高无人机打击能力的项目。

数千名谷歌员工联名签署了一份信函，以抗议谷歌参与美国国防部的Maven项目（该项目于2017年开始，旨在找到加速军方应用最新AI技术的方式。预计该项目第一年花费不到7 000万美元），因该项目旨在利用人工智能解读视频图像，提高无人机打击的精准度。该信函在谷歌内部迅速流传开来，已有超过3 100人签名。

联名员工要求谷歌撤出五角大楼的试点项目——Maven，并承诺永远不会发展战争技术。当然，这种理想主义的想法并不是所有谷歌员工都认同的。同时，这样的声音显然也不是国防部希望听到的。现任美国国防部长詹姆斯·马蒂斯（James Mattis）就经常说：“国防部发展的重要目标之一就是提高美国军队的杀伤力。”

谷歌的辩词

从创业早期开始，谷歌便鼓励员工针对公司的相关问题自由发表意见。该公司提供了内部论坛等平台，员工可以在这些平台上就公司的产品和政策向管理层或同事提出意见。

针对这次事件，谷歌云基础设施业务主管黛安妮·格林为 Maven 项目辩护，并试图安抚相关员工。尽管五角大楼的视频分析通常被用于反暴动和反恐行动，谷歌仍然将Maven项目描述为“非攻击性”任务。此外，谷歌和国防部都表示，谷歌不会创造出无需人类操作就能开火的自主武器系统。而针对无人机视频进一步的分析，只是为了挑选出目标并针对性实施袭击。也就是说，这将有助于更好地分辨出平民，以减少无辜者被意外杀害的风险。

此外，谷歌称国防部使用的是对任何谷歌云客户都开放的开源目标识别软件，并且基于未分类数据。这项技术用于标记图像，以协助人工审查，旨在把人力从高度重复的工作中解放出来。

谷歌针对此事发布了声明：“机器学习应用于军事导致人们担忧是很自然的。公司内部正积极推进，以对该重要议题进行充分讨论。”该声明称谷歌在Maven项目中所参与的部分“仅限于非攻击性”任务，但官方拒绝提供相关的合同内容。同时，美国国防部称由于谷歌是主承包商ECS Federal在Maven项目的分包商，它不能提供谷歌合同或合同内容。ECS Federal尚未回应该事件。

谷歌部分高管和国防部有密切联系。该公司前执行董事长埃里克·施密特（Eric Schmidt，目前仍是谷歌母公司Alphabet的执行董事会成员）为国防部顾问团——国防创新委员会（Defence Innovation Board）的成员，谷歌副总裁米罗·麦丁（Milo Medin）也是该顾问团成员。

在2017年11月的一个采访中，埃里克·施密特承认：“内部员工普遍担心军工行业会使用他们的成果去伤害人类。”他说他将在董事会中沟通这件事，并且建议军方“仅使用这些技术来帮助保护国家安全”。

谷歌这一小部分对军事合同感到不安的员工也许并不能对公司的发展造成大的障碍。但在人工智能研究领域，谷歌正忙于和其他技术公司激烈争夺人才，如果某些候选者不满谷歌的说辞，那将会对谷歌的招贤纳士一事造就麻烦。

多家公司积极争取为美国国防部服务

谷歌在为此事辩护的同时，它的竞争对手也毫不掩饰地宣传自己的国防项目。亚马逊向国防部大力宣传其图像识别研究成果，而微软则表示他们就云技术已经与美国政府签订合同，为军事和国防机构处理机密信息。

外界普遍认为，目前谷歌正与其他科技巨头（如亚马逊和微软）竞争一份为期多年、价值数十亿美元的国防部云服务工作。国防部首席管理官约翰·吉布森（John Gibson）在2018年3月的一次讲话中曾提到，“联合企业构建国防基础云设施”采购计划的部分目的是“提升杀伤力，并做好准备”，这其实凸显了将软件、云服务等相关服务与实际战争分开的难度。

人工智能应用军事在所难免

考虑到谷歌的历史和美国国防部目前在军事方面对AI的强烈需求，前国防部的官员和《无人之师》（Army of None）这本书的作者保罗·沙尔（Paul Scharre）表示，目前的冲突在谷歌内部是不可避免的。

华盛顿新美国安全中心智囊团研究员保罗·沙尔说：“技术开发者追求强烈的自由主义精神，对政府使用相关技术的态度很谨慎。目前，人工智能突然从实验室走出来，迈进现实生活，这加剧了人们对它的担忧。”

这一事件反映了硅谷与联邦政府之间的文化冲突。随着人工智能技术越来越多地运用在军事领域，这种冲突可能会愈演愈烈。

资料来源 New York Times

谷歌员工给桑达尔的信

亲爱的桑达尔先生：

我们认为谷歌不应卷入战争。因此，我们请求公司撤销Maven项目，同时起草、公布并执行一项明确的规定：谷歌及其合约商永不发展战争科技。

谷歌目前正在实施Maven项目，这是一个定制的AI监控引擎，它使用美国政府获取的广域运动图像来检测汽车和其他物体并追踪其运动，并将检测和追踪结果提交给美国国防部。

最近，谷歌员工在公司内部表示了对Maven项目的担忧。黛安妮·格林（Diane Greene）在回应中保证该技术不会在无人机上运行，也不会用于武器开发。虽然这否定了直接应用，但该技术还是为军事用途而开发，一旦交付，就会发挥辅助作用。

这一计划将对谷歌的品牌及吸引人才造成不可挽回的损害。随着对AI偏见化和武器化的恐惧日益加剧，谷歌争取用户信任的道路已经越来越难走了。而签署这份协议，谷歌将加入帕兰提尔、雷神、通用动力等公司的行列。虽然其他大型科技公司如微软和亚马逊也参与了这一项目，但这并不会让谷歌承担的风险变小。谷歌拥有独特的历史，它的座右铭是“不为虎作伥”（Don’t Be Evil），毕竟谷歌直接连接着数十亿用户的生活，它肩负着不一样的使命。

我们不能把技术的道德责任外包给第三方。谷歌宣扬的价值观清晰地表明：每一位用户都赋予了我们信任，请永远不要辜负这一点。这个合同玷污了谷歌的名誉，而且与我们的核心价值观相违背。发展一项协助美国政府进行军事监控的技术，而该技术可能造成致命结果，这是不可接受的。

考虑到谷歌的道德伦理规范，以及这对谷歌名誉的潜在危害，我们请求：

1. 立即取消这一项目。

2. 起草、公布并执行一项明确的规定，声明谷歌及其合约商永远不会染指军事技术。