我国算法知情权改良路径研究

刘 蓓 华 珊

（长春工业大学 吉林,长春 130000）

自人类进入算法时代以来，算法的效能在各情境下决定着决策效率、决策质量，对公私主体产生的多维度影响也日益明显。但与此同时，看似理性的算法所产生的相关负面性也在不断扩大。根据《算法应用的用户感知调查与分析报告（2021）》[1]，发现目前绝大多数算法相对人对算法的认知尚不充足，在提升算法透明度方面有较强诉求。超过80%的平台用户期待能够自主选择推荐算法所依据的标签集。而超过50%的平台用户对于企业是否适用算法开展服务，以及使用算法的内容、目的并不知悉，期待企业可以增强信息告知。当对算法结论存在异议时，76.48%的平台用户期望人工介入。在自动化决策的过程中，因算法本身所固有的歧视性、不确定性与黑箱性、权力与控制性等因素，已经引发了“算法歧视”“算法黑箱”“算法操控”等风险。

为化解算法的负外部性，平衡算法相对人和决策方之间的法益保障，给相对方“赋权”成为重要的解决方案之一，在立法上“沿用”“改良”“创建”是目前算法治理的三条基本思路。因此，相对方获取算法相关信息方面的“赋权”在立法中总体分为两种进路：一种是完善改良知情权。改良“知情权”，结合延续我国现有其他法律制度。另一种是构建算法解释权。这种“构建算法解释权”思路成为计算法学研究热点。选择哪条路径一直在被学者们反复诘问。目前学界对“构建算法解释权”思路存在一些质疑，如算法黑箱限于技术障碍是否可以打开，解释程度（限于不同场景）为何，以及如涉及知识产权和商业秘密如何解释等。

在立法上，算法解释权作为一种新型权利，在各国立法上的权利构造与权利边界尚未明确，并没有形成真正独立的权利。虽然部分学者对算法解释权持支持态度，但鉴于立法的保守性与多方实践因素，各国对算法解释权的立法仍普遍呈消极态度。在我国整体的立法思想上，更倾向于将算法的违法性在既有的法律框架内得以证成与救济，通过已有成熟运行逻辑的权利对个人信息主体提供保障。因此，接下来将探索算法知情权改良路径下的全新构建，即构建算法知情权权利束，将算法解释权吸收于算法知情权之中，以此改良知情权。

1 算法知情权改良第一步：吸收“可理解性”

从认识论角度看，依据“关系—属性—实体”这一客观规律，事物关系是真正打开事物实体特性的钥匙[2]。算法知情权与算法解释权之间具有一定相似性，也存在一定的差异性，这是算法知情权改良的基础，下面就从二者异同比较出发，以求证算法知情权吸收解释权的可行性。

1.1 算法知情权和算法解释权的相似性

首先，权利目的相同。算法知情权和解释权的目的都是为了用户更好地了解算法使用的基本信息，来矫正双方信息不对称的情况，避免算法黑箱对算法相对人造成损害。

其次，权利义务主体相同。算法知情权和解释权的权利主体均为受到算法决策不利影响的算法相对人。义务主体均为算法决策方。

再次，权利客体相同。所谓权利客体是一个抽象的范畴，是一种法律所保护的人格或财产利益[3]。算法知情权和解释权的权利客体均为算法相对人体现为公平、自由、尊严的人格利益。

最后，权利对象相同。权利对象则是具体的，承载人格或财产利益的载体（物、行为、信息等）。算法知情权和解释权的权利对象均为当算法相对人的权益可能或已受到不利影响时，请求算法决策方为或不为其提供决策信息的行为。

1.2 算法知情权和算法解释权的差异性

首先，权利产生渊源。算法知情权是立法中既有的权利，算法解释权是从算法知情权中衍生出的一种新型权利。

其次，权利行使时机。目前立法上算法知情权表面上似乎只属于“事前”（数据采集输入前）权利，因为算法知情权中的“告知”发生在个人信息处理前，但这并不否认在数据处理、数据结果输出两个环节有知情权。实质上算法知情权存在于数据采集输入、数据处理、数据结果输出三环节，贯穿于算法自动化决策的始终。算法解释权属于“事后”权利（数据结果输出后），作为一种救济性的请求权，只能在自动化决策数据输出阶段行使。因此，可以认为在行权时空上，算法知情权远远超出算法解释权。

再次，权利内容。算法知情权告知内容更偏向于基础性内容的告知，一般包括个人信息控制者基本情况、处理目的、处理方式等。在我国除此也可能包括算法基本原理和主要运行机制，而算法解释权需要向算法相对人解释自动化决策的内部运行逻辑。可见，在我国立法例中，算法知情权的权利内容范围可以包含算法解释权。

最后，可理解性。从算法相对人的角度来看，算法知情权倾向聚焦知晓行为，不关注知晓程度与效果。而算法解释权更倾向于对决策的“理解”的程度与效果，算法解释权独立成权的核心要义在于“可理解性”。

综上所述，通过比较这两种权利的异同，可知“可理解性”是算法解释权能否独立成权的关键，但由于可理解性出于众多因素难以实现，这成为算法解释权在实践中未能入法的主要原因。在对算法知情权、算法解释权的立法和理论研究剖析中可知，包括中国在内的大多数国家更倾向通过算法知情权和其他现有法律资源结合，以解决自动化决策风险问题，因此将算法解释权中的“可理解性”吸收进算法知情权，是知情权改良的第一步。

2 算法知情权改良第二步：算法知情权权利束的阶段化建构

算法知情权的权利束应分三个阶段进行建构。如前所述，我国立法中算法知情权中的“告知”是在个人信息处理之前，即在数据收集输入环节。但是并没有否认在数据处理、数据结果输出两个环节有知情权。那么，结合诚信等原则，实质上算法知情权应该存在于数据采集输入、数据处理、数据结果输出三环节，并贯穿算法自动化决策始终。告知—决定权、访问权、查阅权、复制权、商讨权、人工替代权、人工干预权、人工接管权等权利共同构成了理论上的算法知情权权利束的基本要素。

2.1 自动化决策数据采集输入阶段

2.1.1 自动化决策数据采集输入阶段“告知—决定”权行使路径的权利束

第一，告知方式。此阶段被告知的相对人为不特定人的群体，因此在此阶段个人信息的告知方式及告知内容必须依据《中华人民共和国个人信息保护法》（以下简称《个人信息保护法》），应当以显著、完整、清晰易懂的方式进行。第二，告知内容。是“一般性”告知，分为所收集数据的数据基本情况告知，以及自动化决策运行规则基本内容的告知。告知的内容主要包括个人信息处理者的基本情况、数据的处理目的与方式、所处理的个人信息种类及个人信息的保存期限，以及个人信息主体的行权方式及程序。第三，“告知—决定”的权利架构。很多学者认为，因“告知—同意”原则是算法知情权的主要内容，进而主张将“知情—同意”原则权利化。但是，这种观点似乎忽视了算法相对人拒绝的权利。因此，在数据采集输入阶段构建的算法知情权路径之一是以“告知—决定”原则为基础，算法相对人可以选择同意或拒绝该自动化决策，即行使同意权与拒绝权。第四，“告知—决定”下级权利束。如果算法相对人拒绝自动化决策，可以选择直接退出自动化决策，或行使人工替代权。因人工替代存在着效率低以及行权成本高的特性，因此场景化路径是人工接管权行权的前提。人工替代权作为“告知—选择”原则中拒绝权的下级权利束，其中包括人工干预权和人工接管权。

2.1.2 自动化决策数据采集输入阶段访问权行使路径的权利束

我国《个人信息保护法》在此阶段未提及访问权，访问权在立法中出现于数据处理阶段。在数据收集输入之前尚未开始数据收集，因此访问权主要是针对平台的概览访问。《个人信息保护法》第二章第十六条规定，不得因个人不同意处理其个人信息或撤回同意而拒绝对其提供产品、服务。在《常见类型移动互联网应用程序必要个人信息范围规定》中，也规定了App不得以用户不同意提供非必要个人信息为由而拒绝用户使用其基本功能服务，并划定了常见类型App的必要个人信息范围。因此，可以基于这种基本功能服务设置无数据普适性的浏览页面，以此帮助算法相对人行使访问权。无数据普适性的浏览页面，是该自动化决策服务内容及程序结构的重要展现，且该页面的使用不会留下数据痕迹，更偏向于体验浏览。在访问权的权利结构上，其作为算法知情权下的二级权利，同样下设决定权。当算法相对人完成无数据普适性的浏览页面的框架性访问后，仍有权利选择同意或拒绝该自动化决策（见图1）。

图1 数据采集输入阶段算法知情权权利束（图中两处拒绝权下级权利束一致，为简明仅列示一处）

2.2 自动化决策数据处理阶段

2.2.1 自动化决策数据处理阶段访问权行使路径的权利束

该阶段的访问权内容与数据采集输入阶段不同，该层次的访问可以排查出具体决策适用的规则是否包含歧视性、非法性以及个人信息数据是否错误等问题[4]。第一，包含《个人信息保护法》中所规定的查阅权、复制权以及决定权。在算法决策方请求查阅其个人信息时，应依据《个人信息保护法》第二章第十七条提供清晰易懂、语言准确的个人信息资料，而非以二进制代码的方式提供[5]。所谓复制权就是要求算法决策方为算法相对人提供所要求复制的其个人信息的副本，此种副本应该是书面形式的，包括纸介质或电子介质。查阅权和复制权的行使时间在算法处理分析数据过程中具有不特定性，对算法中个人信息的使用产生了一定监督的作用。第二，该环节的决定权的结构与数据采集输入阶段相同，均包含同意权与拒绝权，但因该阶段已有数据的输入，所以拒绝权的行使方式也变得多样化。若算法相对人选择拒绝自动化决策，此后的权利行使方式有四种：其一，修改权、更新权以及补充权，要求算法决策方对错误、过时及残缺的数据进行更正、更新和补充。其二，删除权，随之退出自动化决策。其三，直接退出自动化决策权。其四，人工替代权。

2.2.2 自动化决策数据处理阶段“告知—决定”权行使路径的权利束

第一，告知方式。该阶段应进行收集、积累和处理数据，因此该阶段的告知方式体现出“个体性”。第二，告知内容。基于诚信原则对所收集数据、自动化决策相关内容的告知，该层次的告知可以帮助检视决策歧视性、非法性以及个人信息数据是否错误等问题。但自动化决策相关内容的告知，需算法相对人主动向算法决策方提出而展开。第三，商讨权。因数据处理阶段的告知具有“个性化”，“告知”可以通过商讨权施展，以商讨交流来实现双方需求调和。在商讨权下设决定权权利束，不再重复阐述（见图2）。

图2 数据处理阶段算法知情权权利束（图中两处拒绝权下级权利束一致，为简明仅列示一处）

2.3 自动化决策数据输出阶段

2.3.1 自动化决策数据输出阶段“告知—决定”权行使路径的权利束

第一，告知内容。在数据输出阶段，聚焦在自动化决策结论等相关内容的告知。此时的算法知情权构建的目的是使算法相对人发现于己不利的决定，以便提出异议和申请救济。第二，告知方式。在这个阶段，告知依然呈现出个案特点。只有通过这种个性化告知才有利于最大效率地降低决策算法相对人的疑虑。且个性化告知的限度应坚持披露最小化原则，告知的内容应是适当的、必要的，以免引起信息过载与用户选择疲劳。虽然这种个性化告知会给企业等算法决策方带来一定的负担并耗费一定的经济成本，但是从长远来看，这是信息时代高速发展背景下的大势所趋，市场本身具有调整能力，企业可以通过改变盈利模式的方式来取得相当的经济收益。第三，“告知—决定”的权利架构。决定权仍由同意权和拒绝权构成。当算法决策方向算法相对人履行告知义务后，算法相对人可以不再作任何回复，对算法自动化决策结果“默示”同意。同时也可以选择行使拒绝权。行使拒绝权的方式除了在前两个阶段提到过的方式外，还包括传统维权方式——寻求司法救济。

2.3.2 自动化决策数据输出阶段访问权行使路径的权利束

访问权权利束的建立可使算法相对人对算法中的个人信息是否存在错误进行判断，包括查阅权、复制权以及决定权。与本阶段直接行使决定权不同的是，若算法相对人访问后同意该自动化决策应以“明示”同意向算法决策方反馈（见图3）。

图3 事后阶段算法知情权权利束（图中两处拒绝权下级权利束一致，为简明仅列示一处）

需要注意的是，本文提出的算法知情权权利束是从理论层面建构的。鉴于算法决策应用场景的多元化，在具体应用情境中算法知情权的构建应采取场景化路径[6]。首先，如果没有对算法知情权的建构进行场景化赋权，不分场景式的“一刀切”，将会导致算法知情权权利束丧失弹性与适配性。场景的类型化标准是多种多样的，如公私之分、平台等级、行业区分、数据敏感度等。我国《信息安全技术 个人信息安全规范》（GB/T 35273-2020）第5.4条区分了收集个人信息、个人敏感信息、个人生物识别信息、未成年信息以及间接获取个人信息的五个情景，这是在保持《个人信息保护法》概要规定的基础上，弥补其场景化、精细化不足。其次，算法决策拒绝权的行使并非在所有场景均可以实现。例如，在自动驾驶的情景下，主张脱离自动驾驶汽车的算法自动化处理，要求避免使用该算法的可能性为零。又如，在大型平台的推荐服务中，要求人工替代权也是强人所难。总之，上文所梳理的是一种理论层面的“阶段化”权利束，具有公式性意义。在实践中，以上权利束结构需要结合具体场景来判定当事人拥有怎样的“个性化”算法知情权权利束，即在具体场景中从理论层面的权利束中选择权利集，形成场景化赋权。

3 结语

随着算法技术的不断发展，算法已经成为了算法时代的“基础语言”，其应用场景也在不断丰富。但看似理性的算法也同时引发了一系列风险。算法自身的壁垒结构，使算法决策方的权力不断扩大，改变了算法决策方与算法相对人原有的相对平等的状态。本文通过对算法知情权与算法解释权的比较分析，得出了知情权吸收解释权的改良设计方案的可能性。并进一步推进改良，构建了三环节的算法知情权权利束。因此，可以回答研究初始的疑问：沿用、改良与创建作为目前算法治理的三条基本思路，应该选择哪条路径？在算法知情权、解释权的立法问题上，沿用现有法律、改良“知情权”是一条可行的路径。但是，未来面对其他现实新难题时，“创建”之路可能是最优选择。