人工智能如何塑造未来战争

朱启超 龙坤

《无人军队——自主武器与未来战争》

[美]保罗·沙瑞尔/著

2019年6月出版

世界知识出版社

自主武器对于现代战争样式、战争伦理、军队建设模式和国际战略稳定的冲击，正受到联合国军控与裁军会议、各国政要、军队将领和防务智库专家广泛关注，也成为新加坡香格里拉对话、北京香山论坛、世界和平论坛等研讨的热门话题。2019年6月，世界知识出版社出版了新美国安全中心保罗·沙瑞尔（Paul Scharre）的近著《无人军队：自主武器与未来战争》（Army of None： Autonomous Weapons and the Future of War）中译本，为当前人工智能与军事革命及国际安全热点问题讨论提供了诸多参考和启发。该书英文版2018年4月在美国出版后，被比尔·盖茨奉为2018年度最受欢迎的五本书之一，销售量在亚马逊军事类书籍中名列榜首，并荣获2019年度美国“威廉·E.科尔比奖”。

《无人军队：自主武器与未来战争》一书系统研究了自主武器应用对战争样式、战争规则、战争伦理、军备竞赛与军备控制等带来的新挑战。作者试图回答充斥着自主武器的未来战场将呈现何种图景，并结合美陆军“爱国者”导弹误伤美海军、“F/A-18C大黄蜂”战斗机和美海军“文森号”驱逐舰误伤伊朗民航客机等事例展开分析。比如，如何认识自主性的概念和特点？自主武器具有哪些优劣势？哪些领域需要将人类决策让渡给机器、而哪些领域必须保持人类的必要干预？自主武器对于战争法、伦理道德和战略稳定性会带来哪些影响？自主武器会恶化还是会缓解平民伤亡？自动化股票交易算法使华尔街出现“闪崩”，那么未来自主武器用于战争是否会导致“闪战”，自主武器的军备控制能否成功，等等。作者在对这些问题的分析中认为，在人类无法生存或通信受阻乃至崩溃的环境中，自主武器执行清晰的狭义任务具有明显优势。尤其在信息迅速变化的战场上，如果交战速度和密度超越人类的生理物理极限，那么运用高自主性的武器系统就变得十分必要。但是，保持人对生死攸关决策的干预权是必要的，也是一条不容突破的底线。未来战场上最好的作战系统将是人类与机器结合的混合人机系统（“半人马战士”），既发挥自主武器在快速处理信息方面的优势，又发挥人类决策的鲁棒性和灵活性。作者还认为，历史上成功的军备控制协议多是由于该类武器严重威胁到了战略稳定性且多由大国主导。然而，当前禁止自主武器的主要驱动因素在于避免平民伤亡等人道主义考量，且美、俄等大国均未表现出积极意愿，使得自主武器军备控制前景堪忧。

尽管《无人军队：自主武器与未来战争》赢得了不少读者赞誉，但笔者认为，该书也存在一些值得商榷的地方。在该书后半部分，作者梳理了目前自主武器军控的主要进展和存在的问题挑战。作者认为，短期来看，自主武器将使得军事大国变得更加强大。但长期来看，随着这类技术和武器装备的扩散，天平的一方会逐渐朝着相对弱小的国家倾斜。作者在这里没有详细分析自主武器对于世界权力动态的影响机制和深层原因，其实人工智能技术的发展具有低成本、易扩散的特点，大国、小国以及非国家行为体都应当被视为“利益相关者”，共同参与人工智能安全风险挑战的国际治理。对于自主武器军备控制这一日益凸显的全球问题，作者结合历史实践经验提出了禁止使用完全自主武器、禁止以人为目标的自主武器、为自主武器建立行为准则、创建保持人类判断在战争中作用的通用准则等四种简单方案，但作者并没有对四种方案的可行性进行深入比较评估。此外，作者书中一些观点和立场也不可避免带有“美式”偏见。例如，他将叙利亚以及伊拉克等国家视为“流氓国家”，认为这些最残暴的政权会无视自主武器军备控制协议，从而可能使人类面临黑暗的噩梦。他还批评“俄罗斯正在利用机器人传播虚假信息，企图破坏西方民主国家的政治制度”。而中國则“正在朝着一个技术反乌托邦的监视国家发展，试图通过人脸识别技术和社会信用体系加强对公民的管理”。这些观点无疑都带有美式根深蒂固的霸权思维、自我优越感和认知偏见。

值得肯定的是，作者拥有理工科学科背景，也有曾在阿富汗前线服役、在美国国防部政策规划部门任职、在美国知名智库从事战略研究等丰富阅历，为写作本书他还到美国国防高级研究计划局和美军“宙斯盾”训练与支援中心等地做了大量访谈，积累了第一手翔实素材，这使他对技术和战争问题的分析展现了灵活的驾驭能力，因而被比尔·盖茨赞为“实战经历与战略思维兼备的思想家和作家”。

（朱启超，国防科技大学国家安全与军事战略研究所所长、国防科技战略研究智库研究员;龙坤，国防科技大学文理学院研究生、国防科技战略研究智库实习研究员）