自动驾驶中的社会行动主体分析

邱泽奇

【摘要】电车难题向自动驾驶技术L5场景的延伸会带来一个新难题：伦理和法律责任主体缺场。对此，自动驾驶技术创新与应用的先进国家在规制上形成了两条路径：真人驾驶员路径和算法驾驶员路径。前者解决了主体缺失难题却不适用于L5场景，后者适用于L5场景却没有解决主体缺场难题。L5场景的主体缺场，在本质上是社会行动者缺场，确认L5场景的社会行动性质有助于我们从社会互动逻辑出发寻找缺场的社会行动者。研究表明，L5场景缺失的主体其实是一个社会行动者关系链，处于前端的是自动驾驶车辆的制造商。

【关键词】自动驾驶  社会行动  电车难题

【中图分类号】C912                              【文献标识码】A

【DOI】10.16619/j.cnki.rmltxsqy.2021.04.004

前言

面对自动驾驶技术应用的社会后果，有一系列基于电车难题（Trolley problem）的探讨，重点关注了伦理与法律两个维度。[1]电车难题是一个经典的伦理思想实验，最早是夏普（Frank Chapman Sharp）道德问卷里的场景访题（Anchoring Vignettes）。几经演化之后，福特（Philippa Ruth Foot）提出了一系列场景，其中的一个场景与夏普场景非常接近，也是后来被广泛引用和衍生的场景：

设想一位驾驶员正驾驶一辆有轨电车，他面对两条轨道。在两条轨道中，一条轨道上有5个人在工作，另一条轨道上只有1个人在工作。无论选择哪一条轨道，在轨道上工作的人必死无疑。问题是：驾驶员应该选择哪一条轨道？[2]

在电车难题中，驾驶员之所以会面对选择难题，他纠结的不是死亡者数量，而是死亡本身。这是因为对死人的伦理定义，既不取决于驾驶员，也不取决于在轨道上作业的工人，而是取决于驾驶场景的社会。我们认为，如果缺失社会维度的探讨，伦理和法律维度的诘问便缺乏主体。

当把电车难题延伸至针对自动驾驶场景时，[3]新难题出现了：在真人驾驶员消失的场景下，谁来承担真人驾驶员的责任？当真人驾驶员存在时，责任的主体是明确的，随着真人驾驶员从场景中消失，进一步的难题还有：如何确认责任主体？对此，一些讨论把伦理与法律责任的承担者引向了算法（algorithm），认为算法与电车驾驶员一样，是驾驶行动的主体。[4]

无论是电车难题中的伦理责任主体，还是自动驾驶中的伦理与法律责任主体，驾驶，毫无疑问是社会行动，在本质上还是社会行动者之间的社会互动。在后面的讨论中，我们试图用思想实验证明，在自动驾驶场景中，算法就是算法，算法只是提高效率的工具。在伦理与法律责任的递归中，对社会行动主体的确认是基础，且宜从社会行动者互动逻辑出发探索其伦理与法律责任主体，而不宜让没有社会行动主体性的算法成为替罪羊。这是因为，在算法背后依然存在社会行动主体。本文关注自动驾驶技术应用的现实难题，将从自动驾驶技术应用演化三阶段的社会行动者变化入手，探讨自动驾驶中的社会行动、社会行动者，最后探讨藏身于算法背后的社会行动者，以回应电车难题的衍生难题。

自动驾驶发展三阶段的启发

为讨论的方便和简洁，我们先基于现实来约定讨论针对的场景。在自动驾驶领域，第一个现实是自动驾驶的概念图景。[5]在世界范围内，在自动驾驶技术创新与应用领域走在前列的大多数国家包括中国，采用的多是美国汽车工程师协会（SAE）和美国高速公路安全管理局（NHTSA）的分类标准。[6]在这个标准里，自动驾驶依照智能化水平被分为6个等级：L0，真人驾驶员完全操控汽车;L1，真人驾驶员操控汽车为主导，自动驾驶系统偶尔帮助人工驾驶;L2，自动驾驶系统可进行部分驾驶操作，真人驾驶员应关注驾驶环境并主导驾驶操作;L3，自动驾驶系统可自行观察驾驶环境并完成驾驶，真人驾驶员应随时准备在紧急情况下接管汽车;L4，在特定环境下自动驾驶系统完全操控汽车;L5，自动驾驶系统完全操控汽车。

第二个现实是自动驾驶技术应用的实践图景。在自动驾驶技术应用的实践领域，说起来非常热闹，实际上只有两股力量。第一是传统汽车的驾驶自动化，即汽车制造传统强国对自动驾驶技术的创新与应用。第二是将互联网技术应用到汽车驾驶中，即把人工智能的学习、感知、控制技术运用到对自动驾驶技术的创新与应用。在产业推动上，大致可以分为两派：互联网派和汽车派。汽车派如通用、奥迪、宝马、丰田等传统汽车制造商，他们的方式是从L1、L2按顺序来做。从互联网直接进入自动驾驶领域的互联网派，大多数是直接从L4切入，把自动驾驶技术嫁接到汽车上。

美国兼有第一股和第二股力量，也是自动驾驶技术创新与实践发展的领头羊。在美国，特斯拉已于2020年10月向少量车主发布了全自动驾驶功能（Full Self-Driving，FSD，即L5）测试版本。埃隆·马斯克（Elon Musk）表示，FSD已经基本做好向大众开放的准备。[7]字母表（Alphabet）的微末（Waymo）2019年在凤凰城商业化运营一年已载客超过10万人。近期，微末还宣布，到2020年底测试里程数将达到650万英里，相当于一位持证真人驾驶员500年的驾驶里程。[8]

中国是美国之外互联网派的代表。在中国，中央政府出台了一系列政策推动自动驾驶技术的实景应用。[9]2020年4月，百度在长沙全面开放阿波罗自动驾驶出租车服务（Apollo Robotaxi）;[10]2020年6月，滴滴也宣布，面向公众开放自动驾驶服务。[11]

两个现实交互产生的一个直接问题便是：L5自动驾驶的驾驶主体是谁？为方便讨论，社会学上通常把对其他社会主体产生影响的行动称之为社会行动（social action），把具体社会行动主体从场景中抽离出来，将其归纳为一个抽象概念，社会行动者（social actor），简称“行动者”（actor），把行动者之间的社会行动称为社会互动（social interaction）。自动驾驶显然会对其他社会主体产生影响，是典型的社會行动。问题是，在L5场景，驾驶行动的行动者是谁？在任何社会场景，知道自己面对的对象是社会行动得以成立的前提条件。假如某人是自动驾驶的用户（user），如乘客，那么，用户在与谁进行社会互动？

自动驾驶从L0-L5的发展是从有真人驾驶员到无真人驾驶员的过程，通常认为，从人到机器的切换发生在L3-L4。在这个演化中，从社会行动者的主体性出发，我们可以把自动驾驶发展中社会行动的演化划分为三个阶段：L0-L2，真人驾驶员掌控;L3-L4真人驾驶员与机器共同掌控;L5，机器掌控。在这三个阶段中，社会行动者发生了转换，从人类的社会行动者切换成了机器。

经典社会学认为，互动是社会主体间的交互，是社会行动的典型形式。驾驶员与用户，无论用户是乘客还是自动驾驶客户，只要是人或人的集合体，都会在社会环境经历社会化过程，都被认为具有社会行动者属性，即社会行动主体性。可是，当人或人的集合体的互动对象演变为机器时，一个具有挑战性的问题便产生了：机器具有社会行动者属性吗？如果具有，当然可以接替人类社会行动者，成为伦理与法律责任的主体。如果不具有，机器何以承担人类的伦理与法律责任呢？我们认为，对自动驾驶伦理与法律责任主体的追问需要进一步追索机器的社会主体性，即机器行动是否可以被理解为社会行动？只有弄清了自动驾驶的社会行动主体，才能进一步厘清伦理和法律责任主体。

社会行动与自动驾驶中的行动者

对非社会学领域的读者而言，社会行动不是一个容易理解的概念。即使在社会学学科领域，对社会行动的分析与探讨也没有在细节上达成一致。为讨论的简洁，我们需要对社会行动的理论脉络进行最简化梳理，以便与读者建立暂时的讨论场景共识。

社会行动是社会学家在对工业社会进行理论探索中提出的概念，也是社会学的核心概念。最初提出并让这个概念获得共识的是德国社会学家韦伯（Max Weber）。韦伯认为，社会是由人的行动构成的，没有人的行动便只会见到一个一个的人。人的行动对其他人造成影响，进一步，引发他人反应，也产生行动，形成了万花筒般的社会。对他人具有社会意义的行动，被韦伯称之为社会行动。

在韦伯看来，可以把形形色色的社会行动划分为三个理想类型。第一类，理性行动，其中，又可以被区分为工具理性行动和价值理性行动。前者又被称之为目的理性行动，指为实现具体目标，采用精确计算方式实施的行动，在社会科学的其他学科中又被简称为理性行动（rational action）。后者，指基于價值观产生理性选择的行动，如信念行动、宗教行动。第二类，情感行动，指受情感如感觉、激情、期待等驱使的行动。第三类，传统行动，指受内化规则如文化、习俗、教养、小群体规范等驱使的行动。在韦伯看来，从农业社会到工业社会的发展，是社会从传统行动、情感行动等非理性行动向价值理性行动和工具理性行动过渡的过程，理性行动的普及构成了现代社会的基本特征，即社会的理性化。[12]

理性化的本质在于行动者赋予行动以社会意义，以表达行动者的主观意志。正是主观意志的存在支撑了行动者的社会主体性。可仅有主观意志并不会对其他行动者产生影响，只有行动发生才会在表达行动者主观意志的同时对其他社会行动者产生影响，使主观意志产生社会后果。可是，在社会行动中，行动的发生并非是自然的、均等的。行动的发生受行动者主观意志的支配，也受行动者行动能力的约束。在这个逻辑中，行动能力内涵被英国社会学家吉登斯（Anthony Giddens）承接，建构了能动的社会行动者（agent）概念，赋予了社会行动新的意义。吉登斯的另一项贡献是从社会行动者的能动性出发，认为社会行动不是行动者的单向行动，而是基于其他社会行动者反应的行动。在能动的社会互动中，社会行动者不是机器，而是能动的，会对其他社会行动者的反应进行预设，进而反观自己的行动，即反思性。吉登斯进一步认为，社会行动者不仅具有能动性，还具有反思性（reflexibility）。[13]

对社会行动的能动性和反思性拓展，深化了理性行动的内涵。我们认为，能动性和反思性才是对社会行动的真实刻画，也才是社会行动者在实施社会行动时主体性的本质特征。当我们把社会学对社会行动的认识运用到自动驾驶三阶段场景中时，会有怎样的发现呢？

在有真人驾驶员掌控的场景，类似于当下常见的交通场景，适用于对社会行动的一般理解，真人驾驶员对驾驶行动负有完全的伦理和法律责任。在真人驾驶员和机器共同掌控的场景，真人驾驶员的在场会让我们习惯性地认为真人驾驶员应该对驾驶行动负有完全的伦理和法律责任。支配这一习惯的假设是常见的大众认知：“机器，又不是人。”在社会学家的思维里，大众认知是社会规则逻辑的产物，是社会行动获得社会合法性的基石，它满足社会学家对社会行动的一般分析。第一，机器具备对场景的“刺激—反应”性，却不具备主观能动性，机器没有自己的主观意志，更不可能将主观意志付诸于社会行动。第二，机器具备对后果的预见性，却不具备反思性，机器也没有对后果的后果的反思性。

在机器完全掌控的场景，真人驾驶员的缺场，意味着驾驶行动作为社会行动的主体缺场，也意味着社会互动的一方缺场。在经典社会学看来，只要有社会互动，就一定存在至少两方行动者，没有主体对象的社会行动是不存在的。可现实场景是，自动驾驶的第三阶段的确出现了没有真人（human）的社会行动主体，只有一方行动者且社会互动依然发生的情形。基于驾驶行动和社会互动存在的现实，一些人把机器当成了社会行动的主体和社会互动的另一方，也因此导致了学术界的广泛争论，甚至直接影响到自动驾驶的国家规则制定。

自动驾驶规制中行动主体设定的分歧

既然自动驾驶带来的电车难题是从实践开始的，那么，我们就从实践应对开始，探讨既有实践策略对行动主体的认知。在应对性实践策略中，法律是最重要的领域，下面我们以主要国家在自动驾驶领域的法律实践为例来探讨规制中对伦理和法律责任主体的处理。

依据时间线，在自动驾驶领域，美国是最早出现相关规制的国家。到目前为止，美国已有20多个州相继出台了50余部与自动驾驶相关的法案。早在2011年，内华达州（Nevada）便通过了自动驾驶汽车合法化的法律，颁布了一系列相关管理法规，包括自动驾驶汽车概念的确定以及上路测试的流程。此后，加利福尼亚州（California）于2014年、密歇根州（Michigan）于2016年也都通过了相关法律，允许在州内的任何路段开展车辆共享等商业运营服务，允许将自动驾驶车辆出售给消费者。2016年，美国高速公路安全管理局（NHTSA）推出了《联邦自动驾驶汽车政策指南（AV1.0）》，时隔一年，2017年又发布了《联邦自动驾驶系统指南：安全展望（AV2.0）》。2017年，美国众议院一致通过《自动驾驶法案》（Safely Ensuring Lives Future Deployment and Research In Vehicle Evolution Act，简称Self Drive Act）。2018年，NHTSA发布了《为交通运输的未来做准备：自动驾驶车辆（AV3.0）》，2020年又颁布了《确保美国自动驾驶领先地位：自动驾驶汽车（AV4.0）》。

美国最初的有关法律规制是在既有法律框架内延展的，保留了真人驾驶员的角色地位，即伦理和法律责任递归的社会行动主体。内华达州最初的法律要求是，在测试时至少有两人在车内，且至少有一人持有驾照。在这里，持照驾驶员是自动驾驶活动重要的、有机的组成部分。可是，在AV1.0版中，真人驾驶员的行动却被转化为了算法行动。尽管联邦政府在法律中特别要求在安全性、流动性和合法性目标产生冲突时，解决冲突的算法对联邦和州的监管机构、驾驶员、乘客和脆弱的道路用户应该是公开的。问题是，算法公开是否可以替代真人驾驶员？算法行动是否具有真人驾驶员的能动性和反思性？即使算法具有社会行动者的能动性和反思性，依然还有一个问题，那就是，算法尚不具有社会的主体性，又如何承担伦理和法律责任呢？遗憾的是，这个问题，直到AV4.0也没有获得回应。

作为发达经济体最集中的区域，以及传统汽车技术最发达的地区，欧洲是自动驾驶技术的重要阵地。欧洲议会于2017年通过了《就机器人民事法律规则向欧盟委员会的立法建议[2015/2103（INL）]》。該《建议》认为，具备深度学习能力与自主性的机器人能够从经验中学习并作出“准独立”的决策，使其越来越接近于能够与环境发生交互并且作出重大改变的智能体（agents），从而考虑赋予智能机器人以“电子人格”（electronic person）的法律地位和责任主体地位。[14]

虽然欧洲议会赋予了人工智能体电子人格，德国联邦参议院于2017年颁布的《道路交通法》（第八修订案）还是侧重对L3自动驾驶系统进行规制，明确了使用自动驾驶系统时真人驾驶员的权利以及需要履行的义务，提高了自动驾驶导致交通事故中责任人的最高赔偿金额。此外，德国交通运输与数字基础建设部道德委员会还公布了针对自动驾驶的道德准则，在价值追求基础上，前瞻性地对L4和L5自动驾驶车辆存在的技术决策风险提出警醒。[15]尤其是，德国的规制允许真人驾驶员有权在完全自动驾驶期间不亲自进行驾驶操作，却要求真人驾驶员承担警觉义务和接管义务。对这些制度设计，我们可以理解为，自动驾驶试图避免的是传统驾驶场景里真人驾驶员的决策和操作失误，而不是承担真人驾驶员的伦理和法律责任，真人驾驶员依然是驾驶行动的社会行动主体。

在亚洲，日本是传统汽车技术大国，日本内阁府也在制度层面为自动驾驶技术的测试与试用打开了方便之门。以道路交通法为依据，日本警察厅于2016年颁布了《自动驾驶汽车道路测试指南》，明确驾驶人应当坐在驾驶位上，测试车辆和驾驶人均应符合并遵守现行法律法规。2017年发布的《远程自动驾驶系统道路测试许可处理基准》则允许汽车在驾驶位无人状态下进行上路测试，且将远程监控员定位为远程存在、承担现行道路交通法规上规定义务和责任的驾驶人。[16]对这些制度设计，同样，我们可以理解为，至少在当下，日本的国家规制没有将真人驾驶员从自动驾驶场景中抹去，真人驾驶员或控制员还是自动驾驶社会行动的主体，是真人驾驶员伦理和法律责任的承担者。

中国是自动驾驶技术应用的重要推动者之一。北京市于2017年制订了《北京市关于加快推进自动驾驶车辆道路测试有关工作的指导意见（试行）》及《北京市自动驾驶车辆道路测试管理实施细则（试行）》。上海市也于2018年发布了《上海市智能网联汽车道路测试管理办法（试行）》，并颁发中国首批智能网联汽车开放道路测试号牌，划定了5.6公里高安全性城市道路作为第一阶段智能网联汽车开放测试道路。随后，重庆市、杭州市、深圳市、长沙市等城市也纷纷准备加入自动驾驶开放道路测试的行列中。不过，在中国的规制中，尚没有涉及L5自动驾驶的伦理和法律责任主体问题。

由上可知，针对自动驾驶的社会行动主体，世界上大致在规制层面形成了两种基本立场。第一种是以美国为代表的算法主体，第二种是以德国为代表的真人主体。尽管各国的自动驾驶技术与产品依然处于大规模商用前的测试阶段，对驾驶作为一种社会行动的主体认定貌似已然在规制层面形成了差异，甚至潜在着可能性冲突。因此，厘清自动驾驶中的社会行动者，是落实电车难题伦理与法律责任主体、扫除L5自动驾驶共识障碍的必要前提。

自动驾驶中的社会行动者回归

德国和日本对真人驾驶员的主体性约定是用传统方法解决自动驾驶带来的新场景难题。这样的约定，适用于L0-L4场景，却不适用L5场景。因为在L5场景下，车内根本没有真人驾驶员，甚至也没有日本规则设定的远程控制场景和远程控制人员。

美国对算法的主体性约定的确是在用新方法解决自动驾驶带出的新场景难题，也适用于L0-L5所有场景。除了美国，其他国家如英国，也有类似的实践，规制希望用算法公开性来解决社会行动者缺场难题。英国下议院科学和技术委员会2016年发布的《机器人与人工智能》报告，特别强调了决策系统透明化对人工智能安全和管控的作用。[17]世界科学知识与技术伦理委员会发布的机器人伦理初步草案报告则提出，应当在机器人及机器人技术的伦理与法律监管中确立可追溯性，保证机器人的行为及决策处于全程监管之下。[18]这些实践与规制与美国的监管逻辑一致，认为算法公开可以解决社会行动者缺场难题。

我们认为，对算法公开性的强调隐含着一个不可能存在的假设：人们对算法的理解具有同一性，监管机构不仅能理解自动驾驶的决策过程，还能判定算法运行的责任归属。事实上，人们对算法的理解并不存在同一性。算法是数字科学的前沿，是处于探索中的技术前沿，不仅科学家和工程技术人员对算法的开发与应用存在多种路径，一般场景中人们对算法的理解也存在巨大的差异性。除非是前沿的专业人员，普通用户根本不知道算法为何物。最重要的是，算法并非传统的物质性产品，而是不断变化和迭代的数字产品。面对变化的、不确定的算法，要达成理解和判定目标，既需要监管机构与技术开发机构具有同等且并行的技术能力，还需要耗费巨大的监管成本。在实践中，这根本不可能落地。

面对算法的行动者替代，还有人认为，监管算法的规制并未摆脱为人类行为设定规范的窠臼，不过是将原先为真人驾驶员设置的行为规范转变为了对自动驾驶设计者和生产者设定的行为规范;主张代码而非算法才是自动驾驶汽车决策程序的原子形态，才是人机共生场景下既规制“人”、又规制“机”的公因式;倡导立法者与代码作者的合作，主动进行法律编码化的研究和实践，构建以代码为基础的论证和决策的计算模型，以代码化的行为标准主动保障算法正义。[19]听起来，这是一段美妙的陈述，但在逻辑上却可能是想象的乌托邦，对代码正义的想象不过是对算法公开性想象的另一个版本而已。这是因为，代码并不是文字，法律代码化的基础是法律，而不是代码。法律规范的是社会行动者的行动，一旦社会行动者缺场，正义便失去了基础。何况，将法律代码化和将代码化的法律植入自动驾驶技术之中依然需要通过算法来实现，进而同样要面对立法机构和技术开发机构的技术能力对称性和技术迭代不确定性问题。

这意味着，从社会行动出发，算法公开或法律代码化都不可能让算法或代码承接真人驾驶员的主体性。为此，我们需要拓展一个新的思路，既适用于自动驾驶的所有场景，又能承接真人驾驶员的社会行动者角色，进而确认L5场景的社会行动者。在社会互动意义上，我们认为，只有确认无人驾驶场景的社会行动者，驾驶行动作为一种社会行动才成立，社会互动才能复盘，电车难题的伦理和法律责任主体才会归位。

一个简单且直接的策略是从社会后果出发，在L5场景下，让自动驾驶车辆的生产商承担真人驾驶员社会行动者角色。理由既简单也充分。第一，作为真人与机器互动的直接界面，组织行动者是社会行动者，承载着个体行动者的人类伦理，法律也赋予了其承担责任的权利。第二，作为自动驾驶技术的应用者和产品化的实践者，生产商处于算法与代码创新与生产的技术前沿，对技术不确定性的伦理和法律风险理应具有充分的研判能力，也是L5场景下伦理和法律风险的始作俑者。第三，也是最重要的，组織行动者是人类个体聚合的社会行动者，具有超越个体能力的能动性和反思性，事实上，人类的军事史和工业史表明，组织行动者的创新性远远高于个体行动者，充分展现着行动者的能动性;与此同时，组织行动者对格局、对环境、对互动对象的判断能力也远远高于个体行动者，[20]也充分展示着行动者的反思性。

现代生产技术供应链变革告诉我们，自动驾驶车辆生产商不可能创造或拥有L5车辆的所有技术，大部分技术会通过技术供应链系统从大量供应商那里获得，如此，生产商又如何卸载不应该由自己承担的伦理和法律责任呢？我们认为，社会行动主体性逻辑同样适用于生产商与供应商之间的关系处理。其中的关键是，关系的双方都具有社会行动者属性。依此逻辑，便可以溯源到最后一位社会行动者，形成在L5场景下的社会行动者关系链。若如此，L5场景下，自动驾驶车辆也一定会学会如何判断交通优先权，以解决“四向停车难题”（Four Way Stop），包括经典的电车难题。这是因为，经典电车难题根本不是技术难题，而是人类社会伦理共识难题。对这类难题的破解无法依靠技术进步来解决，而需要回到人类社会本身。因此，让社会行动者在L5场景下回归才是解决电车难题衍生难题的基本前提。

结论

在社会发展的进程中，人类始终追寻着用技术解决社会难题的思路。电车难题便是其中一例。在自动驾驶技术进入社会应用时，又出现了新难题：真人驾驶员从驾驶场景消失带来的伦理和法律责任主体缺场难题。

对此，美国、欧洲、日本、中国都在形成相关的规制，大致呈现出两种基本倾向。第一，在L5尚未普及的环境下保留真人驾驶员的存在。第二，假设L5场景普及，则倡导算法公开。在学术探讨中，有人主张将算法前推一步，建构人机共有的代码，实现法律代码化。

从社会行动者理论出发，L5场景下的社会行动不只是法律难题，更大的是伦理难题。且不说算法公开或法律代码化的可实现性和可应用性，即使可实现、可应用，也解决不了真人驾驶员面对的伦理问题。

算法公开和法律代码化之所以解决不了电车难题和电车难题衍生难题的伦理和法律责任归属，在本质上是因为算法和代码都不具有社会行动者的能动性和反思性。溯及人类伦理的难题，在社会学家那里，不存在技术性解决方案，而只能由社会自己来解决，那就是在社会行动者之间建立共识。正是在这个逻辑下，澄清自动驾驶中的社会行动主体不仅重要，而且必要。让社会行动者回归L5场景的自动驾驶才是难题的解决之道。

（本文系国家社会科学基金重大项目“新技术应用背景下数字社会特征研究”子课题“数字社会的国家治理研究”成果的一部分，项目编号：19ZDA143）

注释

[1]检索中国知网和科学之网（web of science），涉及自动驾驶社会科学探讨的主题绝大多数都是伦理和法律维度的内容。

[2]Philippa Foot， "The Problem of Abortion and the Doctrine of the Double Effect"， Virtues and Vices， Oxford： Basil Blackwell， 1978， originally appeared in the Oxford Review， Number 5， 1967.

[3][日]平野晋：《AI网络时代的制造物责任法》，[日]福田雅树等编著：《AI联结的社会：人工智能网络化时代的伦理与法律》，宋爱译，北京：社会科学文献出版社，2020年，第255～272页。

[4]王珀：《自动驾驶与算法伦理：一种后果主义的算法设计伦理框架》，《自然辩证法研究》，2018年第10期;刘培、池忠军：《算法歧视的伦理反思》，《自然辩证法通讯》，2019年第10期;孙保学：《人工智能算法伦理及其风险》，《哲学动态》，2019年第10期;郑智航：《人工智能算法的伦理危机与法律规制》，《法律科学》（西北政法大学学报），2021年第1期。

[5]没有驾驶员的自动驾驶尚没有进入普及阶段，我们的讨论针对当下的现实，也针对即将到来的现实。

[6]涉及美国高速公路安全管理局的文献，请访问：https：//www.nhtsa.gov/。

[7]涉及特斯拉FSD的数据，请访问：https：//www.tesla.com/。

[8]涉及微末的数据，请访问：https：//waymo.com/。

[9]国家发展与改革委员会在2018年发布的《智能汽车创新发展战略（征求意见稿）》中将智能汽车定义为：“通过搭载先进传感器、控制器、执行器等装置，运用信息互通、互联网、大数据、云计算、人工智能等新技术，具有部分或完全自动驾驶功能，由单纯交通运输工具逐步向智能移动空间转变的新一代汽车。”2020年2月，国家11部委联合印发《智能汽车创新发展战略》，推进智能化道路基础设施及关联基础设施建设。2020年10月9日，国务院常务会议通过《新能源汽车产业发展规划》，指出要协调推动智能路网设施建设，满足高级别自动驾驶智能网联汽车应用。2020年10月26～29日召开的党的十九届五中全会提出了交通强国战略。

[10]《百度宣布全面开放Apollo Robotaxi自动驾驶出租车服务》，环球网，2020年4月20日，https：//baijiahao.baidu.com/s？id=1664470974889322406&wfr=spider&for=pc。

[11]《滴滴首次面向公众开放自动驾驶服务，程维：司机不会因此消失》，澎拜新闻，2020年6月27日，https：//baijiahao.baidu.com/s？id=1670624437405361076&wfr=spider&for=pc。

[12][德]马克斯·韦伯：《韦伯作品集VII：社会学的基本概念》，顾忠华译，桂林：广西师范大学出版社，2005年。

[13][英]安东尼·吉登斯：《社会的构成》，李康、李猛译，北京：生活·读书·新知三联书店，1998年;[英]安东尼·吉登斯：《现代性的后果》，田禾、黄平译，南京：译林出版社，2000年。

[14]See with Recommendations to the Commission on Civil Law Rules on Robotics， https：//www.europarl.europa.eu/doceo/document/A-8-2017-0005_EN.html.

[15]张韬略、蒋瑶瑶：《德国智能汽车立法及〈道路交通法〉修訂之评介》，《德国研究》，2017年第3期。

[16]王羽、宋瑞、杨晨光、郑碧琪：《国内外智能汽车法律法规现状分析及发展建议》，《汽车工业研究》，2018年第7期。

[17]涉及英国机器人与人工智能前沿的请访问：https：//www.ukras.org/。

[18]See United Nations Educations， Scientific and Cultural Organization （UNESCO） and World Commission On the Ethics of Scientific Knowledge and Technology （COMEST）： Preliminary draft reports on COMEST on roboticsethics， 2015， http：//unesdoc.unesco.org/images/0024/002455/245532E.pdf.

[19]崔俊杰：《自动驾驶汽车准入制度：正当性、要求及策略》，《行政法学研究》，2019年第2期。

[20][美]阿莱克斯·彭特兰：《智慧社会：大数据与社会物理学》，汪小帆、汪容译，杭州：浙江人民出版社，2015年。

责 编/张 晓