社会技术耦合障碍与自动驾驶汽车归责难题破解

宋春艳

（湖南省社会科学院/湖南省人民政府发展研究中心，湖南长沙 410003）

世界各国面对碳排放的压力和燃油车禁售时间表的倒计时，加快了电动汽车的部署。自动驾驶汽车具有广阔的发展前景，各国都加大力度参与到市场的分割和竞赛之中。然而，近年来频频曝光的自动驾驶汽车事故及归责难题，不仅显现出当前自动驾驶车辆的一些安全隐患，还将潜藏其中的社会技术耦合障碍暴露无遗。那么，应当如何扫除障碍破解归责难题呢？

1 研究背景

自动驾驶汽车（self-driving automobile/autonomous vehicles）指在没有人工实时输入情况下由计算机（即自动驾驶系统）控制汽车的转向、制动和加速等的机动车辆。自动驾驶汽车虽然缺乏实时人工输入，但并不必然否定人在车辆操控中的作用［1］。国际自动机工程师学会（SAE）按照计算机（即，驾驶系统）与人在车辆操控中的角色将汽车自动化级别分成6 个等级（0～5 级），本研究中论及的自动驾驶汽车级别为3～5 级，即有条件自动驾驶（计算机自动操控车辆，需要人类驾驶员时会主动提醒，驾驶员无需视线关注）、高度自动驾驶（即使人类驾驶员没有对计算机的帮助请求作出反应，车辆也可以自动行驶，驾驶员无需思考）和完全自动驾驶（计算机在任何场景下都可以操控车辆，即“无人驾驶”）［2］。可见，自动驾驶汽车的驾驶系统对车辆的行驶产生了控制作用，按照责任控制论的观点，自动驾驶汽车必须承担相应的责任［3］，然而自动驾驶汽车不具备责任承担能力，因此出现归责难题。所谓自动驾驶汽车归责难题，指的是自动驾驶汽车在行驶中由于人机混合控制引发了新的“责任缺场”“责任鸿沟”和“多人责任”或“多手问题”（many hands problem）等事故责任难以划定的问题。归根结底，都是由于传统的人类社会道德框架已无法适应新的技术。“责任缺场”指的是，由于无法判断是汽车还是司机的过失导致事故，汽车生产商和司机都拒绝承担责任。“责任鸿沟”指的是，在人机混合控制中没有人能够对自动驾驶汽车行为进行全部控制从而为其事故后果承担责任。“责任鸿沟”实质上是机器智能体的自主性不断增强但又尚未获得责任主体地位阶段的一种责任无着落现象［4］。随着自动驾驶汽车层级提升，其自主决策水平越高，“责任鸿沟”产生的可能性越大。“多手问题”指的是，汽车事故责任涉及多个利益相关者，但却出现相互推诿责任的现象。可见，“责任缺场”是“多手问题”的重要表现，且“责任缺场”或“责任鸿沟”都可能成为“多手问题”的诱因，因此，归责难题主要还是属于“多手问题”。“多手问题”也被称为“多人责任问题”，最早应用于行政管理领域公务人员的问责讨论，由Thompson［5］于1980 年提出，其核心含义是不同层级的行政人员在不同阶段或环节以不同的方式对政府的决策产生影响，但最后却很难判定坏的后果或负面效应由谁负责。人机混合控制的自动驾驶汽车为传统的“多手问题”带来了新的语境。自动驾驶汽车责任归属难题不仅显现出当前自动驾驶技术的不成熟，还将潜藏其中的新旧技术交替与原有社会制度和支撑条件的矛盾暴露无遗，而社会技术系统（socio-technical systems）理论（很多学者认为这是一种“视角”）将技术与社会组织问题植根于日常工作世界，认为社会和技术系统相互作用而又与人相关，正因为如此，技术与社会组织、个人行为只能联合优化，而不能单独优化其中的一个系统［6］。而自动驾驶汽车作为一种新技术，在进入人们生活后引发的归责难题涉及到技术、生产厂家和经销商、消费者等多个系统，因此运用该理论将有助于破解自动驾驶汽车的归责难题。

2 社会技术系统下自动驾驶汽车归责难题的界定

2.1 社会技术系统的相关研究

社会技术系统是20 世纪中叶以来就备受关注的管理学理论，并被学者们在不同的领域加以发展。社会技术系统理论最早由英国塔维斯托克人类关系研究所的Trist 等［7］学者在20 世纪中叶创立，认为任何生产性组织既是一个社会系统又是一个技术系统，强调组织中技术与人等要素的最佳组合，是从组织层面探讨社会与技术关系的理论。社会技术系统也被应用在从产业/行业层面探讨社会与技术创新的紧密关联，如荷兰技术管理学教授Geels［8］运用社会技术系统概念将创新从生产端扩大到消费端，建立了行业创新系统理论。Geels［8］将社会技术系统指为实现某种社会功能（如交通、通信等），由相互关联的要素构成的整体系统，包括人工制品、知识、资本、劳动力、文化内涵等。Steinhiber 等［9］通过研究英国和德国电动汽车的发展障碍，总结出社会技术系统的六大要素：监管和治理、基础设施、研发奖励、技术与标准化、商业模式、消费者等。孙启贵［10］提出将社会技术系统分为微观技术小生境（新技术的孵化场所）、中观社会与技术域（包括技术、科学、用户或市场、政策和社会文化等要素）和宏观地景（包括宏观经济、基础设施、知识、制度和深层的文化模式等要素）等3 个层次。迟红刚等［11］认为，社会技术系统是社会与技术的结合，其特点是将整个社会技术系统作为分析单元。

近些年，社会技术系统理论被广泛地应用于事故成因或风险分析，如李华等［12］运用社会技术系统理论，从人员、技术、组织管理、内部环境和外部环境等5 个系统出发，探讨了新冠病毒感染疫情中复工企业疫情失控的影响要素并提出风险防控的策略；王谦等［13］讨论了社会技术系统框架下数字政府风险分析及其治理。在本研究中，笔者沿用了Geels［8］提出的社会技术系统分析框架，将自动驾驶汽车归责难题看作是技术系统与社会系统相互作用的结果，并根据归责难题致因要素分为技术、环境、组织以及人员等4 类子系统，各类子系统的要素相互影响、相互作用，以保证系统的稳定运行。

关于自动驾驶汽车归责难题及其治理，已有研究大多从法学、保险学或者伦理学等单一学科视角去探讨，其中尤以法律学科视角居多，聚焦于自动驾驶汽车交通事故侵权责任，如李硕［14］建议按照有无人类驾驶员参与的区分，将侵权责任分别适用交通事故责任和产品责任，并探讨了自动驾驶汽车刑事责任主体地位及其责任分配等问题；姚瑶［15］认为，人工智能产品致害所涉过失犯罪刑事责任的认定问题应当接受“法益保护优先，兼顾科技发展”刑事政策的约束与指引；姜涛等［16］认为，在现有的刑法理论范式下，自动驾驶汽车涉罪之客观构成要件判定不清是导致刑事归责认定困难的关键原因；李烁［17］认为，自动驾驶汽车立法应当重点解决自动驾驶汽车的法律地位、法律责任与保险、隐私保护与网络安全等问题。然而自动驾驶汽车归责问题还涉及到软件设计者、电池生产者、高精地图开发者、交通监管部门、公安、司法等多个部门的多个主体，其难以归责是新的技术系统与旧的社会系统耦合中出现障碍所致，只能运用社会技术系统理论，从整体视角去审视问题，并提出综合性的解决方案。

2.2 自动驾驶汽车归责难题的社会技术系统分析框架

从社会技术系统理论审视自动驾驶汽车归责难题，可以看到这一难题的产生不仅由于当前自动驾驶技术的不成熟，还归因于潜藏其中的新旧技术交替与原有社会中人员观念、制度、支撑条件等出现耦合障碍。而治理耦合障碍则需要处理好技术与社会中人员、组织、环境等子系统各个要素的关系（如图1 所示）。其中，技术系统包括车载硬件、软件以及高精地图等；组织系统包括企业、行政部门和第三方监管机构等；环境系统包括交通法规、保险、标准等软环境建设和智慧交通基础设施硬环境建设；人员系统主要指利益相关者及其观念，尤其是工程师的负责任创新理念、使用者的道德责任意识等。

图1 导致自动驾驶汽车归责难题的社会技术系统各要素关联关系

3 社会技术系统下自动驾驶汽车归责难题的成因

自动驾驶汽车是人机融合智能的代表。自动驾驶汽车能够实现车与X（如人，车，路，云端等）的信息交换与共享，具备复杂环境感知、智能决策与协同控制的功能，因而也就可能产生人、机协同控制导致的责任归属不清和难以量化的风险。按照社会技术系统的理论框架，自动驾驶汽车归责难题不仅与自动驾驶技术内部紧密相关，也和技术与社会其他子系统耦合时出现融入困难紧密相关。

3.1 技术系统内部：事故责任主体判定难

当前，自动驾驶汽车事故责任主体划分一般需根据行驶记录来判定。行驶记录主要包括传统行车记录仪记录的影像和汽车电控单元（ECU）或多域控制器（MDC）提供的行驶数据两部分。行车记录仪在驾驶环境良好的情况下一般能拍出较为清晰的图像，能够据此判断出交通事故中双方的主从责任，但若遭遇不良天气或者由于探测技术无法避免的技术鲁棒性问题，可能导致识别对象不清楚甚至识别错误。与传统汽车不同的是，自动驾驶汽车一旦成为事故车辆，还需根据“汽车大脑”的ECU 提供的行驶数据来判断责任主体是驾驶员还是自动驾驶系统。正因为行驶数据的重要性，所有自动驾驶汽车都被要求将ECU 中的摄像头和激光雷达等传感器数据实时传回车企远程服务器，车辆一旦发生事故，可以通过这些数据还原汽车行驶轨迹，判断汽车运行和驾驶员操作是否正常、是否启动自动驾驶模式等，进而查找出事故真实原因。而判定事故是否由于自动驾驶汽车产品缺陷导致，在技术层面较之传统汽车难度更大，这是因为自动驾驶汽车作为一种人工智能产品，具有一定的自主性、自我学习能力、算法“黑箱”等新特征，一旦出错很难判别错误源自何处，而且如果搭载了开放来源的软件则事故原因和责任主体追究难度更高［18］。

3.2 技术与环境耦合中运营的制度环境和基础设施建设滞后

3.2.1 交通法规不完善

自动驾驶汽车的运营不只涉及技术水平的提高，更大的障碍还来自道德伦理和社会法律方面的挑战。传统汽车事故责任主体通常都是汽车生产商或驾驶员，但在自动驾驶汽车运行环境下，汽车生产商有可能出现软硬件分离的情况，加之车路协同等背景，发生交通事故时，究竟是汽车硬软件问题，还是数字交通基础设施问题或司机操作失误等其他问题，都需要具体、可操作和可执行的法律法规加以明确。我国虽然已经修订交通法律法规应对这一变化，但仍有不完善之处。如，按照2021 年新修订的《中华人民共和国道路交通安全法》，自动驾驶汽车运行中驾驶员应处于车辆驾驶座位上，监控车辆运行状态及周围环境，随时准备接管车辆，尚不适用于具有自动驾驶功能但不具备人工直接操作模式的车辆（如谷歌开发的无人驾驶汽车），因而对于4 级和5 级自动驾驶汽车仍缺乏法律约束，而要让4 级和5级自动驾驶汽车制造商承担责任，意味着需要对自动驾驶汽车的规制提出更为细化的速度限制、场景限制和行为限制等多个方面的限定条件。

3.2.2 金融保险制度不健全

从社会技术系统观点看，自动驾驶汽车的担责主体已经从整车生产商和使用者扩展到了软件设计者、电池等零配件生产商，迫使各国保险业对自动驾驶汽车的承保条件、保险条款、费率依据以及理赔报案等制定应对变革的方案。在美国加利福尼亚州，申请自动驾驶汽车执照需配备500 万美元以上保额的保险［19］，以应对人身伤亡及财产损失事故。英国2017 年10 月提出《自动与电动汽车法案》，并于2018 年7 月19 日获得批准正式成为法律。该法案将车辆强制保险范围扩大至自动驾驶汽车，对于自动驾驶汽车在“自我驾驶”状态下发生事故的，保险人或车辆所有人应当承担首要责任［20］。我国现有的自动驾驶汽车基本上沿用了传统汽车保险制度，只是针对尚处于测试阶段的车辆要求提交交通事故责任强制险凭证，以及每车不低于500 万元人民币的交通事故责任保险凭证或自动驾驶道路测试事故赔偿保函［21］。此外，我国《道路安全交通法》并未就自动驾驶车辆的责任分担进行直接规定，也尚未扩展自动驾驶汽车相关的网络安全风险、软件算法风险和公共基础设施风险等［22］。

3.2.3 监控标准滞后

虽然2 级自动驾驶汽车已经在全球大量上市，我国的新能源汽车扶持政策也助推了自动驾驶汽车的蓬勃发展，但我国并未制定统一的监管标准对自动驾驶汽车行驶数据的传输位置、时长和容量进行明确规定，这将直接影响到自动驾驶汽车事故车辆的归责。此外，国内针对带有自动驾驶功能的电动汽车的事故检测标准也处于建设阶段，因此对于事故检测鉴定的流程设置、操作方法、数据提取处理以及责任认定等操作规范尚难以明确。

3.2.4 交通基础设施建设滞后

在车路协同的大背景下，自动驾驶汽车事故责任归属还涉及原有交通基础设施的升级和新型智慧道路的建设。道路的智慧化建设不仅能大大降低自动驾驶汽车安全运营成本，还有助于自动驾驶汽车通过实际路测应对道路交通乱象、恶劣天气、突发情况等问题，从而推进自动驾驶技术的完善和升级。虽然我国对自动驾驶汽车的政策支持力度大、布局时间早、研发力度强，但在交通设施和秩序管理等方面关注不够、投入较少，道路智能化水平落后也间接影响到自动驾驶汽车的事故责任判定。此外，考虑到属地原则、取证便利性等问题，事故自动驾驶车辆可选择的、具有官方资质的第三方鉴定机构不多。

3.3 技术与组织耦合中企业伦理自查和外部监管不严

3.3.1 企业伦理自查不力

目前，关于自动驾驶汽车的监管，一般采取企业伦理自查和外部监管两种途径，但都存在监管不严的问题。从企业内部的伦理自查来看，很多时候仅仅停留在对外宣传树立企业正面形象阶段，大部分企业尚未正式评估人工智能产品的偏见、隐私侵犯等伦理相关问题，原因就在于缺乏知识、工具和专门的评估能力，而这都归结于伦理规范的操作性不强。此外，基于“伦理黑匣子”记载决策的项目和依据、运动轨迹、传感器返回的数据以及其他用于伦理考量的信息，可以保证算法的透明性和责任可追溯性，但目前相关规定只要求车企将自动驾驶汽车行驶数据发回企业总部，并未强制要求其在自动驾驶汽车上预装“伦理黑匣子”。

3.3.2 事故数据和行驶数据的监管和共享机制不完善

算法透明度下的可解释性要求是人工智能监管的一个重要举措［23］，这涉及到算法“黑箱”的可解释性和训练数据的获得。自动驾驶汽车的外部监管由于技术门槛以及算法“黑箱”的可解释性难题，常常是有心无力；加之我国尚未实现自动驾驶汽车行驶数据和事故数据的精准共享，这也成为监管不力的重要原因。我国自动驾驶汽车或者智能网联汽车尚处于起步阶段，各大车企的自动驾驶汽车的各个级别车型测试和行驶的里程和时间都还比较有限，积累的数据较同行业发展较早的美国、德国和日本等还显不足，且出于商业保密考虑，我国基本未要求实行相关数据公开，而行政管理部门又缺乏有力的手段进行监管。而车辆事故责任关系的界定、赔付比例等都是基于数据而定，因此自动驾驶汽车数据不足和共享机制的不完善对自动驾驶汽车相关法律法规和标准体系建设、新保险产品的开发以及商业模式建立而言，都是一个致命的缺点。

3.4 技术与人员耦合中工程师负责任创新意识不强和用户道德责任认识不清

自动驾驶汽车归责难题的产生虽然与技术和制度紧密相关，但根本还是在人。这是因为，即便是根据行驶记录确定是汽车生产商或者车载软件的责任，但汽车生产商和编制软件的程序员也可以借口自动驾驶汽车由于具有自主机器学习能力而没有办法预测它的行为，从而导致“责任空缺”的困境［24］。对于自动驾驶中无法判定具体责任的这类分布式道德行为，弗洛里迪等［25］提出无过失责任解决方案，即每一利益相关者都必须承担无过失责任，但这又可能带来责任不公正。近年发生的数起自动驾驶事故表明，公众对自动驾驶缺乏理性认知，而车企则存在故意夸大宣传的可能。一些国家虽然明确要求车企在交付含有辅助驾驶功能的汽车时需要花费一定的时间专门对车辆辅助驾驶功能的使用方法及风险进行详细说明，但经销商常常有意无意地忽视风险提示，这样一来，尽管自动驾驶汽车生产商虽然了解汽车安全风险，但并没有完全传达给用户，最终导致司机对自动驾驶状态下承担管制性的道德责任（或注意义务）认识不清，事故发生后车企和司机都不愿意承担属于自己的责任，从而出现责任推诿。

4 社会技术系统下我国治理自动驾驶汽车归责难题的策略

归责难题是当前世界各国推动自动驾驶汽车发展面临的共同难题，其治理必须考虑技术与社会子系统各要素的耦合。我国具有世界上最广阔的市场和集中力量办大事的制度优势，应积极为技术与社会的良性互动搭建平台，从技术内部及与社会子系统的耦合机制建设中着手破解自动驾驶汽车归责难题。

4.1 技术支持：推进行驶数据的监管和精准共享

当前我国应加快自动驾驶汽车行驶数据平台建设，以此作为加强行驶数据监管的重要抓手，从而为事故发生后及时调取真实数据提供技术支持，同时建立智能化虚拟仿真测试平台，节约安全测试的成本，并为事故精准定责提供参考；此外，对于行驶数据则还应按照分级分类原则，针对公安部门、交通部门、保险公司、车企、消费者等不同类型用户开放不同范围的数据，从而为各行业各部门提供精准服务，例如为公安部门和交通部门进行事故鉴定提供事实依据，帮助保险公司建立风险模型进行保险费的精算和定价，为车企打造商业盈利模式提供数据支撑，为消费者提供各大车型的安全系数、舒适系数等数据作为其购车性价比的参考。

4.2 硬件支撑：加快智慧道路和第三方事故鉴定中心建设

随着国内具有辅助驾驶功能的新能源汽车的逐渐增多，自动驾驶汽车发生交通事故的风险也有可能加大，因此需要及时跟进智慧道路建设及第三方事故鉴定中心的布局。目前我国绝大多数城市缺乏事故鉴定标准和机构，因此建议公安部尽早制定事故车辆的追查流程和事故鉴定标准，并在各地布局智能网联汽车事故第三方鉴定中心，同时鼓励北京、上海等自动驾驶汽车领先发展的城市积极向公安部、交通运输部和国家认证认可监督管理委员会申请自动驾驶汽车事故车辆的鉴定资质，也可以赋予各个地区的国家智能网联汽车测试区或国家智能网联汽车质量检验检测中心智能网联汽车事故鉴定职能，为破解智能网联汽车归责难题提供硬件支撑。

4.3 法律保障：加快道路交通法律法规和监管标准建设

国内目前对于高级别的自动驾驶汽车交通违法、事故处理、责任界定等方面的法律法规还不明确，高速公路载人测试相关法规有待完善，因此建议各地根据新修订的《中华人民共和国道路交通安全法》，组织法律界和产业界人士研究相关法律问题，尽早出台地方性自动驾驶汽车管理条例，并尽快组织有关部门对4 级、5 级自动驾驶汽车进行立法约束。加快自动驾驶汽车监管标准体系建设，组织汽车生产企业、行业协会和交通管理部门等协商制定新车验车、行驶数据上传和事故车辆检测标准等，并根据“事前宽松、事中抽查、事后严惩”的原则，对自动驾驶汽车的运营进行全过程监管。

4.4 保险护航：加快传统车险修订和新险开发

自动驾驶汽车给保险行业发展带来了新的机遇和挑战，保险产品的及时跟进又能为新生的自动驾驶技术保驾护航，因此建议在我国现有的路测商业保险基础上推出自动驾驶汽车商业化运营的商业保险产品。一是加快传统汽车交强险修订。推动中国银行保险监督管理委员会和各大保险公司、银行、企业多方联合，在公安部和交通运输部等政府部门的积极支持下，对原有车险条款进行修订完善，针对自动驾驶汽车事故赔付设定专门的交强险或适当提高原来交强险的价格，并较大地提高保险的赔偿数额。二是积极开发新的商业保险产品。一方面以传统车险框架为基础构建车险产品创新方案，鼓励开发覆盖设计、制造、使用、经营、算法服务以及其他自动驾驶汽车产品风险的全链条保险产品；另一方面以产品责任险为基础构建非车险种组合方案，构建包含公众责任险、产品责任险、创新产品险等的非车产品组合险。

4.5 更新观念：从事后追责到前瞻性预防事故

对于自动驾驶汽车归责难题或者自动驾驶汽车归责“多手问题”，最根本的还是要改变人的观念。关于自动驾驶汽车归责难题的处理，目前多是采取归咎性的法律责任，这是一种消极责任，而非行动性的积极的道德责任，前者属于事后问责，而后者更多的是前瞻性预防。归责时有法可依固然重要，但比归责更重要的是从事故中吸取教训，采取措施防止类似事故再次发生。道德责任比法律责任更具主动性，且参与者更多、责任作用的时空更加广阔，并且，对由于自动驾驶汽车没有担责能力产生的“责任鸿沟”问题，倡导前瞻性道德责任可能是一种解决问题的重要手段。虽然工程师无法对自动驾驶汽车的行为进行直接控制，但对其行为模式、行为范围及能力等方面却可以采取技术手段进行一定程度的管控［26］。而对于社会公众来说，不仅对于自动驾驶汽车要有理性认知，进行负责任消费，而且还必须认识到，自动驾驶状态虽然解除了使用者对汽车的引导性控制，但并没有解除使用者对汽车的管制性控制，因此，作为使用者的司机应为事故承担相应的道德责任［27］。

5 结论

本研究基于自动驾驶汽车技术作为一种还不完全成熟的新技术，在新旧技术交替时新技术与原有社会制度和支撑条件耦合存在较多障碍，从而引发归责难题的理论假设，引入社会技术系统理论对这一假设进行求证。按照社会技术系统的观点，技术产生效果并不完全由技术内部决定，而是与社会系统相互影响，社会与技术互动形成一个不可分割的整体系统，只有其中的各个子系统得到优化，才能使得技术得到最佳使用效果。自动驾驶汽车的归责难题，运用社会技术系统理论来审视，便会发现是技术系统、组织系统、环境系统和人员系统等4 个子系统相互之间出现耦合障碍所致，剖析其成因发现主要有四方面原因：技术系统内部的事故车辆行驶数据追溯难、技术与环境耦合中运营的制度环境和基础设施建设滞后、技术与组织耦合中企业伦理自查和外部监管不严、技术与人员耦合中工程师负责任创新意识不强和用户道德责任认识不清等，并针对上述成因，从技术支持、硬件支撑、法律保障、保险护航、更新观念等五方面提出我国治理自动驾驶汽车归责难题的对策。

笔者认为，虽然自动驾驶汽车当下热度很高，市场前景广阔，但必须牢记：保护乘客安全是自动驾驶汽车的价值基础，无法保障乘车人安全的自动驾驶汽车不应也不能投放市场。自动驾驶汽车事故的归责涉及到技术、企业管理、制度建设、监管机构建设等多个要素，“磨刀不误砍柴工”，在安全上路之前作好足够的技术和制度准备，保证技术进步与人类安全的统一，这才是人类理性的选择。