AI来了，责任感丢了

随着人工智能（AI）在自动化系统和决策过程中的作用越来越大，AI会如何影响人类自身能动性不再是所谓的理论问题，而是摆到了现实面前。毫无意外，在“相信AI！”的大力推荐下，越来越多的企业采用AI，人类经常听从自动化的决策建议。然而，有越来越多的证据表明，AI削弱了使用者对这些决策后果的责任感。

而在目前关于负责任的AI的讨论中，这个问题在很大程度上被忽视了。在现实中，这种做法的本意是管理法律和声誉风险。而按照德国哲学家汉斯·约纳斯（Hans Jonas）的概念，这种责任观是有限的。他定义了三种责任，但AI实践似乎只涉及其中两种。第一种是法律责任，即在一般情况下，个人或企业依据民法承担的修复损害或赔偿损失的责任；第二种是道德责任，即通过惩罚（例如刑法）追究个人的责任。

在这里我们最关心的是第三种责任，也就是约纳斯所说的责任感。当我们赞赏某人“做事负责任”时，指的就是这种责任感。它要求一个人对自身行为的目的和可能给自己或他人造成的后果进行批判性思考和预测性反思。AI和自动化系统可以改变的正是这种责任感。

为了深入了解AI如何影响用户对自身责任和能动性的认知，我们进行了一些研究。其中两项研究探讨的是在启动自动驾驶系统后，有哪些因素会影响驾驶员决定是否需要由自己来重新控制车辆。在第一项研究中，我们发现，越是信任自动驾驶系统的人，越不可能保持态势感知，从而在出现问题或事故时重新控制车辆。尽管受访者总体上表示他们在驾驶自动驾驶模式的汽车时愿意承担责任，但在发生问题或事故时他们的主观能动性并没有对重新控制汽车的意愿有很大影响。根据这些调查结果，我们可能会发现，在有自动驾驶系统的时候，有相当一部分用户会感到逃避干预车辆驾驶的责任是被鼓励的行为。

第二项研究是与魁北克汽车保险公司（Soci t de l’Assurance Automobile du Qu bec，管理该省公共汽车保险项目的政府机构）合作进行的，我们能够进行更精细的分析。我们调查了1，897名驾驶员（大部分是有一定自动驾驶功能的特斯拉和梅赛德斯汽车的驾驶员），分别研究了每种责任对驾驶员重新控制车辆的意愿的影响，结果发现只有责任感有显著影响。与第一项研究一样，受访者对自动驾驶系统的信任度越高，他们重新控制方向盘的意愿就越低。尤其值得注意的是，只有积极主动的、个人的责任感才会促使受访者采取行动，这表明法律责任的威胁不足以阻止AI造成伤害。

第三项研究旨在了解风险预测算法在美国刑事司法实践中的使用情况。在32名受访者中，有相当一部分过度依赖智能工具做出决定。我们根据受访者自述是否使用智能工具来决定刑期或刑罚轻rgjw5q455uwWYIFl0p2RUwG0QNDVGuKx5z1nTU7V+GE=重的情况、他们是否会严格遵守工具得出的结果，以及他们是否会理所当然地接受工具提供的结果，来判定他们是否过度依赖工具。这一研究结果除了对此类自动化司法判决的公正性、公平性和透明度提出了根本的法律和伦理问题外，还表明人们偏爱算法，放弃了个人责任。

总之，这些初步的研究结果证实了在类似情况下观察到的结果，即在智能系统面前，个人往往会失去能动性。当个人感觉到自己的控制力减弱，或感觉到有其他东西在代为控制时，他们的责任感也同样会减弱。

有鉴于此，我们必须要问：“人机回圈”（Human in the Loop）*这种越来越多地被认为是负责任地使用AI的最佳做法，是否还能提供充分的保障？甚至我们还要问：该如何鼓励大家接受人类是有主动责任的而且应当履行责任？

正如本文开头所指出的，管理者往往会通过鼓励员工信任AI来提高AI的采用率，从而使问题更加严重。这样做时，通常会诋毁人类的认知和决策与AI的建议相比是有局限和有偏见的——尽管所有AI系统都必然会在数据选择、数据规格等方面反映出人类的偏见。这种观点认为AI的每一个决策都是正确的，都优于人类的决策，并鼓励人类做甩手掌柜而采用AI的决策。

为了对抗这种趋势，我们建议将员工沟通的重点从信任AI转移到了解AI上，从而在人类知情的情况下有条件地信任AI系统和流程的产出。管理者需要教育用户了解AI的自动化流程、决策点以及可能出现的错误或危害。同样至关重要的是，用户要意识到AI系统可能会陷入困境，并理解自动化决策失误风险最大的边缘情况。

管理者还需要给员工赋权，让他们为担当主人翁、履行责任感做好准备。丰田公司（Toyota）就是这方面的典范，它授权工厂里的任何人在发现问题时都能叫停生产线。这将鼓励员工合理质疑AI系统和流程，从而保持他们的能动性，避免给企业带来有害的后果。

归根结底，负责任的文化（而不是逃避罪责的文化）能打造更健康、更有道德操守的组织。在AI时代，为人类智慧留下明确的可能性空间，从而培养负责任的文化变得尤为重要。

否则，罗德里克·塞登贝格（Roderick Seidenberg）对那些威力远不如当前AI的技术的预言就可能成为现实：

在自动化日益增强的辅助下，尽管并非出于恶意，系统的运作已经成为了智能的渠道，工程师、发明家和科学家们的智慧聚沙成塔，最终创造出了一个人类个体难以匹敌的知识和程序宝库。因此，人类似乎已经超越了自己，从某种意义上说也确实如此。但矛盾的是，就整个系统而言，每个个体都被迫成为对系统结果不加思考的受益者——社会既定环境的无意识接受者。因此，可以不无道理地说，这是一种按键式文明——一种由智能设计出来的逐步消灭智慧的系统！

翻译：李君