政策算法决定你是好人还是恶棍

编译 王玥娇 编辑 徐臻

政策算法决定你是好人还是恶棍

编译 王玥娇 编辑 徐臻

“细思恐极”的剧情从来不是出于想象

美剧《疑犯追踪》中，一位富商为政府开发的“机器”可以预测“有计划犯罪”,工作原理是从各种渠道收集资讯，解读其中人类行为的含意，也就是全天监视所有人并采集可疑的关键词。

这样令人“细思恐极”的剧情并非出于想象。

《芝加哥论坛报》曾刊登一则报道：2013年，22岁的芝加哥市民罗伯特·麦克丹尼尔在自己家受到警告，警察劝他在行事上收敛一些，因为他已被算法列入“未来暴力犯罪疑犯”名单，其依据可能是假释状态、社交网络及与暴力犯罪亲近程度等一系列数据。

谣言止于算法

欧洲洛桑联邦理工学院研究员佩德罗·平托表示，他们的算法软件可以找到网络造谣者。

以社交网站为例，研究人员使用该算法后只需查看15至20人的消息，就能找出谣言“幕后黑手”，这项算法还可以用来识别不需要的垃圾邮件或计算机病毒。

这可不是谷歌网页排名算法。政策算法（尤其是像法律执行、福利、儿童保护这类公众服务）更像是门卫。它们调节对公众资源的使用，评估风险，并将人群分成“值得”和“不值得”、“可疑”和“不可疑”各种类别。

开发政策算法的初衷来自提升效率及执行的一贯性，但预测性治安维护所依赖的数据基础，却是长久以来法律执行过程中存在的种族不平等等漏洞。

美国奥尔巴尼大学助理教授弗吉尼亚·尤班克斯对维护政策算法公平提出了四点建议：更多地了解算法是如何工作的；考虑算法的政治环境；认识算法的缺陷是如何积累的，以及最重要的——尊重法律。

政策算法既非法律也非人类，发生错误在所难免，但最令人不安的是算法没有同理心。尤班克斯认为，并非所有治理都要基于数据统计，政策算法的确高效、清晰，但不该只是数字游戏，更应该是一项我们尽一切力量去完成的人类事业。■