拒绝“监视资本主义时代”

投资者向人工智能相关创业公司豪掷数十亿美元，生成式人工智能狂热开始看起来像一个投机泡沫，类似于1630年代的荷兰郁金香狂热和18世纪初的南海公司泡沫。而且，就像那些事件一样，人工智能繁荣似乎不可避免地要走向萧条。它没有创造新的资产，倒是可能留下堆积如山的债务。

今天的人工智能炒作由这样一种信念推动，即像OpenAI新发布的GPT-4这样的大型语言模型，将能够产生与人类的产出几乎没有区别的内容。投资者押注先进生成式人工智能系统将毫不费力地以任何想象得到的风格创建文本、音乐、图像和视频，用户只消给予简单的提示。

然而，随着对生成式人工智能的热情日益高涨，人们越来越担心它对劳动力市场的潜在影响。高盛最近关于人工智能“潜在巨大”的经济影响的报告估计，多达3亿个工作岗位面临被自动化的风险，其中包括许多熟练和白领岗位。

“狭义”和“通用目的”人工智能系统，都可以比人类更有效地执行任务。这对寻求对人类行为施加更大控制的政府和公司来说，是一个绝佳的机会。

正如肖莎娜·祖博夫在她2019年出版的《监视资本主义时代》一书中指出的那样，数字技术的发展可能导致“一种新的经济秩序的出现，把人类经验当成提取、预测和销售商业实践的隐藏商业活动的免费原材料”。她观察到，政府和私营部门监控之间日益共生的关系，部分是由于国家安全机构“受到9·11袭击的刺激”，打算培育和调整新兴技术，获得对人们行为和个人生活的“全面了解”。

由亿万富翁投资者彼得·蒂尔参与创立的数据分析公司Palantir，就是一个很好的例子。据报道，著名的共和党捐助者彼得·蒂尔说服特朗普政府授予Palantir利润丰厚的合同，开发为军事用途量身定制的人工智能系统。作为交换，Palantir向美国政府和世界各地的其他间谍机构提供情报服务。

在乔纳森·斯威夫特的《格列佛游记》的第三部分“拉普达之旅”中，格列佛船长遇到了一个漂浮的岛屿，岛上居住着科学家和哲学家，他们设计了巧妙的方法来探测阴谋。其中一种方法包括仔细检查“所有嫌疑人的饮食”，并仔细检查“他们的排泄物”，包括“颜色、气味、味道、稠度、粗糙度或成熟度”。虽然现代国家监控機构注重调查电子邮件而不是身体功能，但它有一个类似的目标：通过深入人们的思想，揭露针对“公共秩序”或“国家安全”的阴谋和密谋。

美国依靠竞争来维护消费者利益，而欧盟的监管方法以基本人权为中心。预计将于今年晚些时候最终确定的欧盟《人工智能法案》，明确禁止使用用户生成的数据进行“社会评分”。

西方“以人为本”的人工智能监管方法，强调保护个人免受伤害。但在地缘政治紧张局势加剧的时期，国家安全往往优先于公民自由。例如，当前版本的《人工智能法案》赋予欧盟委员会禁止预测性警务等做法的权力，但对国家安全、国防和军事用途有各种豁免。

在争夺技术霸权的激烈竞争中，政府开发和部署侵入性技术的能力，不仅对公司和政治制度构成威胁，也对整个国家构成威胁。这种恶意动态与乐观的预测形成鲜明对比，后者认为人工智能将带来 “在全部行业和社会活动中的广泛的经济和社会效益”。

不幸的是，西方国家内部权力制衡机制的渐遭侵蚀，以及宪法对政府行动的限制，使得它们自身脆弱不堪。而正如乔治·奥威尔有先见之明地观察到的那样，永久战争的状态，甚至是战争的幻觉，为技术反乌托邦的出现创造了理想的环境。

罗伯特·斯基德尔斯基是英国上议院议员、华威大学政治经济学荣誉教授。本文已获Project Syndicate授权。