民法对于人工智能发展阶段的回应——以智能投顾的民事法律地位为视角

文/何宗泽（安徽开放大学文法学院）

一、引言

当今世界，人工智能是一场新的科技革命，对人类社会带来的影响可能比蒸汽机的发明更为深刻。伴随着移动互联网技术、大数据、脑科学新技术新理论不断取得突破，人工智能的发展非常迅速，已经成为国际竞争的新焦点和经济发展的新引擎。它带来了就业结构的深刻调整，冲击法律和社会伦理，广泛涉猎个人隐私，甚至挑战国际关系准则等，这一切都必须要有法律的回应[1]。物理学家霍金生前认为人工智能的发明可能是人类历史上的最大的灾难，如果管理不善，会思考的机器人可能会给人类文明画上句号。华裔著名经济学家杨小凯曾经提出一个观点，我们现在往往注重技术的模仿，对技术的制度建设重视不够，这可能是我国技术发展的一个缺陷。如果将来只是重视技术模仿，不注重技术的制度建设，我们的后发优势很可能转化为后发弱势，不可能使技术真正得到制度的有力保障，反而会使其处于无序发展的状态。科技和法律本就是一个联动问题，如今它们之间的关系变得更为密切，不能将两者割裂分别进行研究，探索科技和法律共治的目的在于推进制度优势和技术优势的深度融合，将技术优势转化为制度优势，让制度优势为科技发展保驾护航。[2]因此，我们必须高度地关注和思考人工智能所带来的新的法律问题。

当前，人工智能在金融领域的应用场景主要为智能投顾，智能投顾（Robo-Advisor），也称机器人投顾，根据投资百科（Investopedia）的定义，智能投顾是指提供自动化，并主要以算法驱动的财务规划服务的数字化平台。典型的智能投顾通过在线调查问卷来获取投资者关于投资目标、投资期限、收入、资产和风险等方面的信息，了解投资者的风险偏好以及投资偏好，结合算法模型为用户制定个性化资产配置方案，包括动态调仓、实时监控等。2010 年智能投顾公司Betterment 在纽约成立，1 年后Wealthfront 公司在硅谷成立，智能投顾正式诞生。2020 年3 月招商银行“摩羯智投”、中国工商银行“AI 投”、平安银行“一账通”成为首批获准成立的公募基金投资顾问业务试点，管理型投顾首次放开，可以实现代客理财。这意味着我国的智能投顾开始摆脱牌照限制、资管法规约束，逐步走向独立的民事法律主体地位，也就是说智能投顾逐步取代人工投顾，逐渐成为投资者直接面对的“当事人”。其民事法律地位如何界定，是否需要独立承担民事责任，成了摆在民法面前不得不回应的问题。

智能投顾能否成为独立的民事主体，独立承担由于错误决策导致的民事责任，学界与业界对此众说纷纭、莫衷一是，中外概莫能外，主要有否定说、肯定说和折中说三种观点。肯定说认为人工智能可以作为人类的代理人、可以享有法律人格等；否定说主张人工智能是人类的辅助工具，只能作为民事法律客体；折中说认为，智能机器人尽管具有类人的某些特质,甚至在某些方面还超越人类, 但其毕竟还是由人类所制造的，可以服务于人类，而不能完全等同于人类，因此可以赋予其限制性法律人格，代表学说为“工具性人格说”“电子人格说”“有限人格说”。

本文主要持肯定说，同时认为应该根据人工智能的发展阶段进行分析。弱人工智能阶段的智能投顾不具有民事主体资格，这一点已经基本取得共识；随着人工智能走向成熟阶段，加上深度学习及类人脑技术的研发，以及大数据的开发与利用，此阶段的智能投顾已具有一定的自主决策、独立表达意思的能力，因而应该赋予其一定程度的民事主体资格，也就是规定具体哪些情形可以取得民事主体资格；强人工智能阶段的智能投顾已具有完全自主决策、独立表达意思的能力，应该赋予其独立的民事主体资格；而到了超人工智能阶段，人工智能就是自己的立法者，这已不是我们目前所能关注的了。以下分述之。

二、智能投顾的民事法律地位的阶段性

由于人工智能科技发展阶段的不同，智能投顾独立进行民事活动的能力也存在差异。人工智能发展的核心是技术层，它对应用层的产品智能化程度起到决定性作用，技术层的成熟程度决定了人工智能的发展阶段，在这一发展过程中，算法和计算力对AI 的发展起到主要推动作用。由于是“计算机程序代码引导的数学公式智能化”，可直接进行运算并得出结果，智能程度逐步由弱转强甚至发展到超人工智能，弱人工智能阶段只有简单的程序代码运行式，强人工智能阶段则可实现高深的程序代码和高等的数学公式并将联接许多低等化人工智能没有的技术。技术层主要依托基础层的运算平台和数据资源进行海量识别训练和机器学习建模，以及开发面向不同领域的应用技术，包含感知智能和认知智能两个阶段。其中，感知智能阶段通过传感器、搜索引擎和人机交互等实现人与信息的连接，获得建模所需的数据，如语音识别、图像识别、自然语音处理和生物识别等；认知智能阶段对获取的数据进行建模运算，利用深度学习等类人脑的思考功能得出结果，如机器学习、预测类API 和人工智能平台等。在此基础上，人工智能才能够掌握“看”与“听”的基础性信息输入与处理能力，才能向用户层面演变出更多的应用型产品。

弱人工智能阶段，智能投顾仅仅是辅助人工投顾进行简单的用户画像、准备销售材料等，随着发展到成熟阶段及强人工智能阶段，智能投顾逐渐演化为可提供资产配置、优化投资组合。以下针对智能投顾不同发展阶段分别阐述其民事法律地位。

1.弱人工智能阶段的智能投顾不具备民事主体资格

如前所述，弱人工智能阶段只有简单的程序代码运行式，没有深度自我学习能力，难以进行诸如自然人价值判断和情感判断的活动，以工业应用场景为例，如组装汽车、搬运重型零件或者减轻工人负担的工业自动机、无人机等，具有生理组织（physical agency），但缺乏心理组织（mental agency）[3]，不具有独立的决策意识与能力，所以不具有民事主体资格，其独立的民事法律地位也就无从谈起。

2.人工智能成熟阶段的智能投顾具有一定限度的民事主体资格

随着人工智能的发展，大数据的深层次挖掘、算法模型的精准化设计、深度学习能力的加强，人工智能已经走向成熟阶段，这一阶段的智能投顾虽然没有强人工智能阶段的完全自主决策能力，但已经具有了一定的自主学习与自主决策能力，可以适应一定程度的投顾工作，不需要人类指引，所以这一阶段的智能投顾具有一定限度的民事主体资格[4]，类似于限制民事行为能力人，能够进行与其能力相适应的投资顾问活动，如用户画像、提供投资组合方案、预测投资前景、随着市场行情变化动态调仓等，但投资决策等重大投顾活动必须配合有人工投顾，见图1。

图1 智能投顾有限民事主体资格情形

这一阶段的智能投顾机构，学界普遍称之为混合投顾机构，如中国的同花顺、平安一账通、京东智投、招商银行摩羯智投等，美国的Personal Capital。这类平台将智能投顾与人工投顾相结合，为所有用户免费提供财务状况分析、投资风险评估、投资组合建立与优化等服务，具有强大的工具属性，能很好地随时跟踪用户理财以及费用支出等方面的行为，可以帮助用户更好地实现理财目标，同时也向有需要的客户提供收费的私人投资顾问服务。

有限民事主体资格是指民事活动参加者在某些情形下不具有民事主体资格，有些情形下具有部分主体资格。针对智能投顾，如果仅处于人工投顾的辅助地位就不具有民事主体资格，如果部分决策由人工投顾决定，部分由智能投顾自主决定就是具有有限民事主体资格。

有限民事主体资格的情形举例如下：

一是投资组合再平衡，如动态调仓等后续决策情形下具有主体资格。走向成熟阶段的智能投顾，部分决策由人工投顾完成，如投资组合方案由人工决定，但是部分决策由智能投顾完成，如动态调仓行为，当市场行情发生变化，智能投顾根据大数据分析，深度学习后，自主决定改变投资策略，实行动态调仓。如2020 年突如其来的新冠肺炎疫情，导致大量企业处于停业状态，而生产医用口罩、酒精以及消毒液等防护物资的企业的市场短期社会与民生效益明显，智能投顾可以及时调整原来的投资海鲜食品行业的方案，转而投资防疫物资生产企业或者其上游企业，并且根据市场调研精准计算投资时长。此时的智能投顾便具有民事主体资格，如导致投资失败，必须独立承担民事责任。

二是故障引发的侵权责任。智能投顾在运行过程中，由于算法缺陷导致的故障使得投资者损失，如投资方案、动态调仓指令失灵，最终导致投资者损失，必须由智能投顾独立或者与投顾机构承担连带责任。

三是算法设计中人为的基金导流等行为。与传统机器学习不同，深度学习并不遵循数据输入、特征提取、特征选择、逻辑推理、预测的过程，而是由计算机直接从事物原始特征出发，自动学习和生成高级的认知结果。在人工智能输入的数据和其输出的答案之间，存在着我们无法洞悉的“隐层”，它被称为“黑箱”。这里的“黑箱”并不只意味着不能观察，还意味着即使计算机试图向我们解释，我们也无法理解。

算法黑箱的存在不可避免，但是如果借用算法黑箱的名义，人为设计基金导流等类似倾向性行为[5]，如为了某一基金的利益，算法研发设计者在编程中人为设置投资者资金投向该特定的基金，这一行为必须由智能投顾设计研发者作为独立民事主体承担民事责任，如果运营商知悉这一欺骗行为而继续使用智能投顾，应与设计研发者承担连带责任。

3.强人工智能阶段的智能投顾具有完整的民事主体资格

强人工智能阶段由于具备深度学习与类人类思维，具有完全的独立自主能力与自主意识。这一阶段的智能投顾具有完整的民事主体资格，又称全智能投顾、纯机器投顾（人工有限参与）。投资者直接与智能投顾进行投资服务合同事务处理，资金进入智能平台账户，智能投顾作为合同的受委托方自主决策投资事务，如产品组合、风险预警、自动调仓等。此时的人工仅仅是该智能投顾平台的辅助咨询答疑者，不具有实质性的投资处理资格，智能投顾取代了传统的人工模式，因而具有完整的民事主体资格。

三、智能投顾承担民事责任的财产基础

智能投顾作为有限以及独立的民事主体，其承担民事责任必须有财产基础，那么其责任财产来源于什么？为保障科技创新发展，长远深层次解决人工智能研发人员、人工智能运营商以及相关厂商的民事法律责任，国外的做法有：①强制保险计划和赔偿基金，如英国以及澳大利亚等国，智能机器人的开发者或雇主可以支付一定比例的资金，以换取对侵权赔偿责任的部分免除；②强制保险与储备金制度，如美国，强制保险制度要求人工智能厂家购买特定额度的保险，储备金来源于人工智能产品的销售价格中的一定额度的责任费用，用于支付与人工智能相关的和解和赔偿费用。在强制保险制度下，每一台具备人工智能功能的机器都将进行投保，以便为涉及责任支付的情形创造一个潜在的资金池；在储备金制度下，整个人工智能行业将拥有一个独立的资金池用于解决与人工智能相关的责任支付问题。所有的纠纷赔偿都将来自这个资金池，而不是直接来自所有者或者制造商。

保险和储备金作为智能投顾责任财产基础，无疑解决了投资者、金融消费者对于智能投顾的后顾之忧，同时很好地保护了人工智能研发者、运营商以及其他有关民事主体的权益，他们无须担心未知的诉讼带来的预算成本问题，极大鼓舞了人工智能科技研发人员的研究热情。

通过以上分析，本文认为在我国具体操作规范是，所有智能投顾平台运营者均须办理与其规模相适应的责任保险（保险名称以及具体制度应该通过立法予以确定），由中国证券投资基金业协会或者智能投顾协会监督办理，金融行业主管部门予以规范强制；与此同时，证券投资监管部门提取一定比例智能投顾行业行政处罚罚没收入，征收一定比例智能投顾的交易收入作为赔偿基金，作为智能投顾的责任财产，以赔付智能投顾履行义务过程中所造成的投资者的部分或者全部损失。部分赔偿是指依据责任财产的管理公约的约定，在某些情形下不能得到全部赔偿，如投资者、金融消费者自身过错违约，投资者、金融消费者违法犯罪等。

在保险赔付和基金赔偿之后，如果发现智能投顾研发者存在故意非法行为，如算法黑盒的基金导流或者重大过失（一般普通智能投顾产品均不可能出现的瑕疵）导致投资者损失，将直接追究智能投顾研发人员或者雇主责任，向其追偿[6]。

四、《民法典》回应人工智能发展的立法建议

人工智能由当前的弱人工智能阶段走向成熟阶段和强人工智能阶段已经是一股不可阻挡的潮流，针对人工智能的发展对于法律的挑战，相关立法只有顺势而为、未雨绸缪，方可为现实生产、生活定分止争。在鼓励科技创新与保障各类民事主体权益方面进行博弈优化，赋予人工智能具体应用场景如智能驾驶、智能医疗、智能投顾以及智能作业等部分直至全部民事主体资格，合理制定归责原则标准，这样的法律制度便是对人工智能发展的科学的法治回应。具体到我国《民法典》的民事主体章节和侵权责任章节，可以增加如下内容。

（1）《民法典》第一编增加一章作为《第五章人工智能》，后续章节条款的序号相应变化。本章具体增加条款的内容拟文如下：

第109 条 人工智能自主决策部分具有民事主体资格，享有民事权利，承担民事义务。

第110 条 智能驾驶、智能医疗、智能投顾以及智能作业等人工智能具体应用场景民事主体依据其所属行业通常标准认定其民事主体资格。[7]

（2）《民法典》第七编第三章中增加有关人工智能的侵权责任归责原则，增加的内容可拟文如下：

智能驾驶、智能医疗、智能投顾以及智能作业等人工智能应用场景民事主体在履行义务过程中造成使用者人身或者财产损失的，根据其发展阶段分别情形承担责任：

依据行业公认标准， 属于自主决策水平较弱者，如果能证明对于损害没有过错，不承担责任；

依据行业公认标准， 属于自主决策水平正常者，除非证明是使用者不当使用，否则承担相应损害赔偿责任。

参考文献及注解

[1] 王利明.民法典要应对人工智能的挑战[N].经济参考报,2018-05-09.

[2] 张泥楠. 科技发展对法律的影响——以人工智能为研究重点[J].天水行政学院学报, 2021, 22(3):122-126.

[3] 瑞恩·卡洛, 迈克尔·弗鲁姆金,伊恩·克尔. 人工智能与法律的对话[M].陈吉栋,董惠敏,杭颖颖，译.上海:上海人民出版社, 2018.

[4] 注解：类似学界“有限人格说”“工具性人格说”，只不过这些学说是针对人工智能所有阶段（弱人工智能阶段、人工智能成熟阶段、强人工智能阶段），没有区分具体阶段。

[5] 注解：这一点可以借鉴美国的实践经验判定，美国金融业监管局要求在测试是否存在利益冲突时，应当将算法参数作为测试内容，特别是组合投资的情形下，如果投资结果存在倾向性，则运营商应当做出解释说明，同时将该投资结果同未被选取的相似产品做优劣比较。

[6] 注解：当算法失灵损害当事人利益时，算法运营商未必是唯一应当承担责任的主体，在智能服务的法律关系中有多个潜在的责任方，智能机器人可能由算法运营商所有，但核心算法程序未必由其开发，所以，第三方机构或技术开发公司也应该对自己在设计匹配顾客特征和市场结构算法时的可能过失负责。

[7] 注解：如智能医疗领域，我国食品药品监督管理局(CFDA)2018 年8 月1 日施行的新版《医疗器械分类目录》规定,若诊断软件通过其算法,提供诊断建议,仅具有辅助诊断功能,不直接给出诊断结论,按照第二类医疗器械管理;如果对病变部位进行自动识别,并提供明确的诊断提示,按照第三类医疗器械管理。国家卫计委2017年2 月发布的《人工智能辅助诊断技术管理规范(2017年版)》和《人工智能辅助治疗技术管理规范(2017 年版)》,对人工智能辅助诊断与治疗提出了操作性极强的要求。