人工智能视角下商事法律组织规范的创新

浙江尹天律师事务所 陈建煜

一、问题的提出

人 工 智 能（Artificial Intelligence）简称AI，最初是由约翰·麦卡锡1956年在达特茅斯夏季讨论会上提出的[1]。AI技术的核心目标是让机器变得智能，使其具有类人的行为、类人的思考，从而能够实现理性的思考、实施思性的行动[2]。近年来，我国人工智能增速发展态势明显，国内现有的开放型创新网络有利于集成各种创新要素[3]，同时技术多元化对创新绩效也发挥出多重中介作用[4]。现如今，人工智能在工业生产、自动驾驶、医疗卫生、行政司法等各个领域的应用越来越广泛。如果今后人工智能的实际应用数量进一步增长，那么在应用中致人损害的责任承担问题将会凸显。对此，部分学者已经开始关注，不少学者认为人工智能仍应当作为民法上的“特殊物”，由人工智能的所有者或使用者承担致损责任。有学者提出“人格降等”理论，主张可以参照古代奴隶人格，由人工智能在限额的范围内适度担责，其余责任由其所有者承担[5]。也有学者提出应当赋予其有限的法律人格[6]，在符合条件的情况下，由人工智能自行担责。

法律毕竟属于保守之学，对人工智能之界定不可能基于想象。“法律的核心功能是维护社会规范性期望的稳定[7]。”法律要规制的是今日已存之事，适度前瞻虽然必要，但基于大量假设制定规则显然是不可行的。在人工智能大力发展的今天，笔者认为，核心现实问题是如何分配人工智能的设计者、生产者、销售者、所有者、使用者等的权利和义务问题。若这些问题得不到很好的解决，将意味着相关者的权利义务边界一直处于模糊状态，只能有待法官在个案中依其自由裁量得出判决，一旦使其中一方利益过分受损，就变相地在向社会宣告这一方存在潜在的巨大风险。很显然，人工智能的良性发展需要良好的社会生态体系来支撑，任何相关一方利益不当受损，必然会伤及整个体系的健康运行。

很显然，当人工智能达到比较高的“智能水平”时，就会具备某些类似于人的智能水平的行动和操作能力，这时再仅仅把当它当成“特殊物”就显得不太合适了。本文讨论的人工智能就是此种水平的人工智能物化产品或者依托人工智能运算指挥的承载平台，简称“人工智能产品或人工智能平台”。为表述简洁，本文中大多数提到的“人工智能”即是指“人工智能产品或人工智能平台”。由于具备深度学习能力，人工智能的“行为”表现就会处于不断的发展变化之中，既与其出厂时的原始程序有关，也与其出厂后定期的“程序升级”有关，还受到后续持续输入数据的直接影响，这些数据既可能是第三方平台提供的，也可能是在人工智能与使用者的互动中产生的。在这种情况下，无论让生产者、使用者还是第三方数据提供者中的任何其中一方单独对人工智能的行为负责都似乎是不公平的。简单的让他们承担连带责任又明显不合理。那么能否把因人工智能发生联系中的一部分自然人和法人视为某种松散型的“准组织”呢？如果这种“准组织”内的相关各方权利义务规制合理，或许可以很好地破解这一难题。

二、“智合型组织”模式较传统公司组织模式之升级

因人工智能而联系在一起的自然人、法人之间一旦发生责任事故分担之争，问题往往是复杂的，因为其中的很多参与者并非是一次性的行为作用于涉争的人工智能，比如设计者和生产者并非是出厂交付后就不管了，常常还会伴有后续维护行为；使用者不仅仅是常规性的使用就没事了，事实上还在不断地提供着人工智能“深度学习”的学习环境；第三方数据提供者的数据提供也不是一次性的供给，而是持续性的互动更新。因为这些持续的交叉性行为，使得这些相关各方彼此间的权利和义务复杂地交织在一起。如果仅仅当成一项合同权利义务进行处理，不利于鼓励参与者彼此间深度合作以实现更大的社会价值。基于此笔者认为，可以将因人工智能相关的自然人、法人作为某种全新的松散型组织或者“准组织”来对待。这种“准组织”可以暂且称之为“智合型组织”，其组织成员是因为某种具有深度学习的高级机器智能而聚合在一起的。

新的生产力形式往往需要新的商业组织形式提供支持。例如，股份有限责任公司模式就是在传统组织模式不能解决发达的海商业务需要巨额资金的情形下应运而生[8]。有限责任公司兼具人合和资合的双重属性[9]，回应了组织成员间因“资合型”和“人合型”所引发的需求。但随着人工智能时代的到来，以公司制为核心的传统组织模式将面临巨大挑战，对于时代提出的成员间因“智合型”所产生的新的明晰权利义务的需求却没能很好回应。质言之，股份有限责任公司、有限责任公司及合伙制企业等传统商业组织模式，开始面临智力经济发展的压力。传统企业制度对此已经做了不少努力，将“智力因素变相资本化”。比如通过把智力成果转让为专利然后进行评估作价，进而可以作为资本入股。但近年来智力因素逐步登上影响经济发展的舞台，从微观企业之蓬勃发展即可窥见其效力。鉴于此，将智力因素涵摄于资本因素之下的传统做法，似乎有了进行适当调整的必要。如今许多高科技企业主动实施员工股权激励制度，笔者认为正是经此变通来弥补传统企业组织模式“智合型”不足的缺憾。若传统企业将无法长期涵纳那些动态的高智力成员，组织的稳定性便会遭受冲击。综上所述，笔者认为，随着今后纯“智合型组织”的出现和发展，传统的公司制企业中的一部分会被升级和改造。也就是说，很可能会产生一种新的公司制企业模式，这种新的模式将在继续保持“资合型”特征的同时，很好地吸纳“智合型”特征， 典型的“智合型组织”的“资合型”特征将被明显弱化，“智合型组织”渐渐完成对传统公司制组织的智合型升级。当然，通过组织规范的设计，“智合型组织”对于大数据所产生的责任外扩的防范能力将会更加强大，因此社会风险的防控能力将大大优于传统组织。近年来一些互联网平台公司，其运行的实质内核已经具有了某种“智合型”特征，即这些组织赖以依托的核心不是资本，而是某种大数据人工智能平台。但其外在依托于传统的有限责任公司模式，组织依资本成立、组织成员依出资比例承担有限责任。于是，内含的“智合型”特征与外部承载的“资合型”组织模式之间潜存着强烈的内在张力。又由于其智合属性，这种张力带来社会风险波及面的隐患就是传统组织所无法比拟的，但矛盾在于其法律责任的承担形式却仍是传统的按出资承担有限责任，这也凸显出传统组织的不适应。可以较为直观透视上述矛盾的例子即为沸沸扬扬的小黄车退押金事件。当共享单车小黄车背后的公司面临经营困难时，数以万计的客户要求退还租金却无法被兑现，且面临问题远不止小黄车一家，有记者对此现象进行分析的文章就是《小黄车们的命：押金难退成共享家族“职业病”》[10]。读者不妨拓宽视野，设想如今的大型互联网平台如淘宝、当当、京东等显露颓势，原本暂时积存在这些平台上的资金可能无法退还，受害者人数难以统计，此种风险是何等的可怕。因此“智合型组织”的出现是对传统组织模式品种的丰富、功能的补充，其独特的风险防范等功能更是对传统组织模式一次“更新迭代”的升级。

三、“智合型组织”规范需要解决的问题

（一）有限责任问题

承担责任的上限额度，直接关系到自然人、法人在参与到“智合型组织”中的风险程度，所以，这种责任限额的确定机制会直接影响社会各方成员参与“智合型组织”的积极性。传统公司制组织是通过以出资为限承担责任的机制设计，吸引了不计其数的人将个人资产投资于公司制组织之中，使“个人财产”转变为了“公司独立的法人财产”，同时将公司法人的法律责任与股东个人责任实现分离，从而实现了资产更高效的社会化运作，进而提升了全社会的财富创造效率。对于因人工智能聚合在一起的各方成员来说，每一个善意的参与方也应当被设定一个责任的上限，这是“智合型组织”能够被推广开来的重要基础，这个责任的上限与传统公司制组织相似，即有限责任。

传统公司制组织具有“资合型”的特征，股东的有限责任建立在“认缴出资额度”的范围之内。之所以作出如此安排，是因为公司股东“认缴出资额度”的总额是通过公示制度向全社会公开的，所以从理论上来讲，与公司进行交易的相对方可以对该组织能够承担的责任上限进行基本的预估，同时结合其他信息判决自己潜在的交易风险。但对“智合型组织”却无法依此进行预估，因为“智合型组织”给相对方可能造成的风险，与其成员初期投入的研发金额无关，也与其成员认缴的出资金额关系不大，而是与该人工智能所在的领域风险状况及人工智能的运行模式具有某种相关性。在排除意外事件和参与者的低级错误外，人工智能可能造成的伤害力具有进行评估的可能性。因此依此评估，确认有限责任的总限额，然后对社会进行公布，并进行定期调整，将此作为“资合型组织”承担有限责任的上限似乎具有某种合理性。所以，笔者认为，“智合型组织”各方成员承担有限责任则应当建立在对人工智能的“智能伤害力”范围的评估基础上加以确定。

（二）责任分配机制问题

上述有限责任机制的设定，可以解决人工智能致人损害时，该“智合型组织”承担责任的总限额的问题，该总限额使得参与方的风险总和处于可控的状态。有了有限责任机制之后，“智合型组织”成员之间的责任分配机制亦需要明确，只有这一机制得到明确，才能使设计者、制造者、销售者、数据提供者、使用者等相关各方，在没有过错情形下，各自承担责任的上限额度才能得以清晰。不同于传统公司制组织股东之间的责任是以出资额或所持股份进行分担，“智合型组织”则因为“智合型”的特征，其有限责任应当建立在对人工智能的“智能控制力”的大小范围之内进行确定。比如在一种极端情形下，当人工智能交付使用人使用后，使用人对于该人工智能的“运作”或“行为”是完全可控的，即应当视为使用人对该人工智能的“智能控制力”为100%。所以，此种情况下，使用人对该人工智能致人损害应当按总有限责任额度的100%承担责任。也就是说此时该人工智能产品或人工智能平台被视为民法上“特殊物”，其法律责任分担机制与传统法律规范相同，只是在有限责任问题上有所差异。在另一种极端情形下，当人工智能交付使用人使用后，使用人对于该人工智能的“运作”或“行为”处于完全不可控的状态，即应当视为使用人对该人工智能的“智能控制力”为0%。所以，此种情况下，使用人对于该人工智能致人损害不应当承担任何责任，也就是此时人工智能致人损害应由其实际控制者担责。

不同参与方对人工智能的“智能控制力”的大小的判断，显然属于专业问题，不同领域、不同用途的人工智能情况差异会很大。即使完全同一品种、同一品牌、同一型号的人工智能产品或人工智能平台，也会由于在不同环境中使用，而使得参与方对此人工智能的“智能控制力”的大小有所区别。法律规则能够解决建立定期分类评估机制问题，由专业机构定期向社会提供参考性的比例数据。有了这一参考数据，参与各方对于自己有限责任的具体限额就有了基本的预估，从而可以通过建立自身内部风险防范机制（如购买保险），积极参与到人工智能的设计、生产、销售、服务、使用的过程中，这样人工智能市场的真正繁荣才能到来。

（三）智能簿记存储问题

传统公司制组织“资合型”特征突出，对资产财务的准确记录非常重视。这是因为不但直接会涉及公司股东的权益，而且也会关乎公司债权人的利益，因此建立了完备的商业账簿制度。该制度中对于会计凭证、会计账簿、财务会计报表都有详尽的安排。对“智合型组织”来说，智力性因素是组织的核心特征，更是组织成员权益和责任分担的主要依据。人工智能在深度学习的过程中，会不断地输入和输出数据，导致智能性状态在“智合型组织”中经常处于动态变化之中，所以对此进行详细的记录殊为必要。传统“资合型组织”大部分的重要信息，均可以采用简洁的货币金额形式进行记录，并定期处理，最终呈现于财务会计报表之中。在“智合型组织”中将智能性信息进行简化记录的难度相对较大，对于那些关键性的信息必须进行如实存储记录。笔者认为，与此相对应需要建立“智能簿记存储制度”，所谓簿记是指对重要事件进行准确的文字归类记录，所谓存储是指对于原始的程序代码必须进行安全存储，同时对之后的一系列升级数据及相关服务者提供的数据服务，使用者的相关过程性数据中重要的部分，采用安全的方式进行数据保存。而且数据保存的结果需要做到不能修改、可以随时复查“原貌”。传统企业的商业账簿既属于各企业的内部信息，又具有严格的规范，需要定期接受社会监督审查。“智合型组织”的智能簿记存储同样既属于各企业的内部重要信息，同样也应当有严格的社会统一规范，需要定期接受社会监督审查，以确保相关各方利益均衡，同时保障社会公众利益。

四、“智合型组织”规范建设的推进路径

（一）明确人工智能市场统筹规划及行政监管职责及归属

由于人工智能在各个领域的应用，各领域的行政法规都可能会对该领域的人工智能业务有所规制。同时，各个领域的法律法规也会因为人工智能而受到某种“重塑”。人工智能在不同领域中的应用虽各有特色，但一定会面临不少共性化很强的问题，尤其是在设计者、生产者、销售者、服务者、使用者各方的权利义务分配问题上。通过 “智合型组织”规范建设，能够有助于理顺相关方权利义务关系，更好激活人工智能在各个场景中的应用。有学者提出，应当促进“法律与人工智能的双向融合”，一方面让人工智能更加支持法律，“打造一个高效、可视正义的司法体系”；另一方面，要让法律改变人工智能，“开发出具有内在法律和伦理规则的人工智能[11]。”笔者认为要实现这一目标，既需要激发各个领域的活力，又需要加强统筹引领规划。为此，负责统筹引领的行政组织保障的建设将是必要的。所以，在现有条件下，可以明确由国家工商行政机关暂时负责人工智能市场发展的统筹和行政监管工作，加强该领域的发展规划和制度规范体系建设。

人类第一次工业革命的经验教训告诉我们，在新科技快速发展的进程中，可能会有大量违背伦理和法律的新情况产生，在此过程中行政监管体系建设和发展显得格外重要。人工智能市场统筹发展的行政监管工作范围很广，行政主管部门在研究新现象中应渐次推进“智合型组织”规范体系建设。总体而言，下面几个方面不容忽视：一、研究拟订人工智能市场应用的方针政策、发展规划；二、起草有关“智合型组织”的法律法规和相关制度；三、分析监管“智合型组织”成员必须履行的重点义务；四、监管“智合型组织”的专业认证、风险评估等中介机构的资格管理；五、依法对“智合型组织”规范违法行为的调查处罚职责。当人工智能市场统筹发展和行政监管工作的内容和归属在立法上得以明确，此项工作的组织保障方能具备，其完善的持续动力方才具备。

（二）率先在高速发展的领域中探索行业协会和中介组织建设

目前，“现行法律倾向于认为人工智能的行为主要是由设计决定的”，在实践中“我们尝试将责任分配给制造商、设计者、维护者或者修改者”[12]。人工智能在使用过程中的数据提供者的责任还没有受到足够的重视，“数据是人工智能时代最重要的资源, 掌控的数据越多，供人工智能‘学习’的资源就越多，也就越容易在这个领域取得突破性的进展[13]。”同时，数据“供给”一旦出现问题，对于人工智能的正常运行的危害将是难以想象的。此外，人工智能使用者的责任同样不容轻视，因为人工智能毕竟不是简单的“开箱即用”的机器，其行为在很大程度上取决于使用者对其所进行的训练、对待或管理的方式[14]。故此，笔者认为，购买某一个人工智能产品或人工智能平台，即意味着购买者开始进入某种以人工智能为中心所形成的一种法律关系，与传统买卖合同法律关系所不同的是这个法律关系更为复杂，复杂到相关方会涉及设计者、生产者、销售者、服务者、使用者等。而且此种法律关系并不因为购买关系的结束而结束，恰恰相反，一切才刚刚开始。于是换一个角度看，购买者因为购买行为而参与到了一个松散的“准组织”，这个“准组织”就是“智合型组织”，在这个“智合型组织”中购买者与其他参与方一起拥有了各自的权利义务。传统关于法律的某些观念或者看法，已经无法与人工智能引发的新型法律关系相匹配，因此要作出相应的修正，“法律必须要给出综合性的回应”[15]。而这种回应需要建立在实践应用经验总结的基础之上，规范的创设过程需要自下而上的归纳，于是集合民间智慧的行业协会和中介组织的价值不容忽视。

随着各地不断推出支持性政策，人工智能的应用场景越来越丰富。笔者认为，应当在一些领先发展的领域中探索建立行业协会，在行政机关的参与下建立行业准则，试行“行业备用风险基金”的缴付制度。由于人工智能的应用存在巨大的外部社会风险性，“智合型组织”规范的有限责任原则在极端情况下，远远无法弥补人工智能所造成的大范围致损给整个社会造成的负面冲击。所以，如果有“行业备用风险基金”，那么就可能通过该基金实施较低比例的象征性补偿。这将消除社会公众“出了事儿完全没人管”的感受，对于缓冲和吸纳社会公众的不满，营建社会正义将有积极意义。比如当某种共享单车的智能运行平台公司破产无法退还用户押金时，如果“行业备用风险基金”可以向用户支付5%—10%的赔付资金时，那么对于社会公众的群体感受是不一样的。

一方面，前文已经述及，“智合型组织”有限责任确立的依据是人工智能的“智能伤害力”范围的评估，这种评估将是分行业、持续动态进行的，需要定期发布。承担这项工作需要行业协会或者专业的中介机构进行。另一方面，“智合型组织”成员之间有限责任分配的基础是对人工智能的“智能控制力”的大小的评估，该项评估工作也是需要专业的评估机构进行。还有当人工智能发生致损事故时，相关方就过错问题发生争议需要司法鉴定时，更加需要专业的中介机构参与其中。因此，率先在高速发展的领域探索中介组织建设殊为必要。

（三）分批以立法形式尝试人工智能加速发展试点特区建设

来自现实运行中的经验，对于任何规范的逐步完善都具有无比重要的意义。“法律就像语言一样，既不是专断的意志，也不是刻意设计的产物，而是缓慢、渐进、有机发展的结果[16]。”霍姆斯也曾说过，“法律的生命不在逻辑，而在经验[17]。”在人类商业组织模式的创新和规范的完善进程中，很多时候都是来自民间的自发智慧。比如公司制组织起源于中世纪意大利沿海的船舶共有康孟达（Commonda）契约。“在船舶共有制中人们共同出资、共担风险，合伙从事海上贸易，因而适应于海运业所需求的资本集中与风险共担的特点，故被广泛采用，并逐渐形成了一种企业形态，成为股份公司的雏形[18]。”鉴于此，完全可以推断与高科技紧密联系的“智合型组织”的相关规范的探索，也一定需要根植于民间智慧，先验性地设计出一整套规范体系直接推向全国这样的做法是不可取的。

各地区在人工智能发展水平方面差异巨大，不少地区已经率先推出很多格外优惠的政策扶持人工智能发展。比如，2019年5月，上海推出全国首个“人工智能创新应用先导区”，在这一先导区中专建“张江人工智能岛”“聚焦8000名人工智能工程师，成为上海人工智能企业类型最丰富、人才最密集地方”[19]。2019年5月，北京海淀区发布“海淀人工智能十五条”和“海淀智能网联汽车十五条”两个产业政策，设10亿元人工智能产业引导基金[20]。2019年6月，长沙发布《关于进一步促进人工智能产业发展意见》，明确设立专项资金，“每年列支5亿元用于促进该产业的发展”，同时“设立100亿元人工智能相关产业发展子基金”[21]。2017年7月，国务院《新一代人工智能发展规划》已经明确中国在人工智能领域的发展将三步走的战略目标：第一步，到2020年人工智能总体技术和应用与世界先进水平同步；第二步，到2025年人工智能基础理论实现重大突破，部分技术与应用达到世界领先水平；第三步，到2030年人工智能理论、技术与应用总体达到世界领先水平，成为世界主要人工智能创新中心。在这样宏大而清晰的战略规划面前，笔者认为，相关政府部门应该抓紧时机，因势利导，在条件成熟时，积极推动以立法的形式分批确立某些地区作为人工智能高速发展的试点特区。之所以需要以立法的形式加以确立，是因为只有这样，相应的“智合型组织”的规范性法规的推出才可能具有法律层面的性质，该规范在实施中才能避免与上位法发生冲突，“智合型组织”规范发展与依法行政相结合的工作才能实现同步并不断深化，同时人工智能应用的发展也才能有更大的法治空间。

五、结语

无人分拣、无人加工、无人收割、无人仓储、无人驾驶、无人陪护……一个个新的名词不断产生。似乎就在不经意间，人工智能可以用来实施手术、可以用来撰写新闻、可以进行行政处罚、可以尝试审判案件[22]甚至可以进行艺术创作[23]。当人工智能离我们越来越近的时候，这背后就不仅仅是一种先进的技术应用，更可能是一种新型的商业模式，因为在它向我们走近时，很多时候都是以商业为媒介来实现相关各方的价值共创。那么，我们传统的商事法律组织规范如何调整和创新，以更好适用于这些新出现的业态，这显然是一个现实意义很强的话题。“制度强国是社会主义现代化强国的题中应有之义”[24]，而在全球高科技领域中的法律制度方面拥有话语权和引领力，是实现制度强国的有效路径之一。历史证明，新科技实践高速发展之地，最有可能孕育出规范的突破和制度的创新，中国互联网技术和人工智能领域强劲的发展势头让人欣喜，这也为我们的法律规范创新提供了绝佳契机，“智合型组织”规范的创新或许就是其中的重要内容，未来正来，未来可期。