算法治理重在“透明”

贾慧智

近期，一系列与算法相关的立法和政府管理文件相继出台，如《互联网信息服务算法推荐管理规定》《关于加强互联网信息服务算法综合治理的指导意见》《〈反垄断法〉修订草案（公开征求意见稿）》《互联网平台分类分级指南（征求意见稿）》等。这是继出台网络安全法、数据安全法、电子商务法、个人信息保护法等法律法规之后，国家为进一步加强对互联网信息服务算法综合治理，采取的更加具体而有针对性的治理举措。

在所有这些法律法规和管理文件中，算法透明作为算法治理的一项规制举措，越来越明确而具体。尤其是在《互联网信息服务算法推荐管理规定》（下称《规定》）里，算法透明作为一项法治原则得以明确规定。

为加强算法透明原则在依法治理算法过程中的有效应用和落实，提升算法法律规制效果，笔者拟结合当前立法、执法和司法实践，就算法透明原则相关属性、特征等五个方面予以辨析。

专业性：履行执法和司法职责

透明作为一项原则，适用于现代法治政府行政管理的各个环节，也贯穿于现代法律制度之中。如《规定》所示，算法透明已成为中国算法治理的一项法治原则和行政法规规则。

《规定》第四条规定，算法推荐服务提供者提供算法推荐服务要遵循公开透明的原则。充分说明，算法透明在得到学界和管理部门充分关注及认可基础上，尽管出现一些抵制和反对，但已成为算法治理的重要法治原则和规制举措。

就算法透明这一概念来讲，在当前算法治理理论与实践中，具有狭义和广义两种理解：狭义的算法透明是指单独公开算法源代码、数据、决策树等信息;广义的算法透明不仅要公开源代码、数据等信息，还要通过各种形式对算法决策具体原理、过程等作出解释。

广义的算法透明，包括算法透明和算法可解释性。当前，广义算法透明理论在我国立法实践中已在相当程度上得到了认可和采纳。《规定》第十二条、个人信息保护法第二十四条，《关于加强互联网信息服务算法综合治理的指导意见》第四条第十三项等立法和管理文件条款项里，都有基于上述理论对算法透明作出的具体规定和要求。

按照上述理论和法律法规要求，要做到算法透明，就要对算法代码、数据、决策树等信息进行公开，并就算法决策定义、原理、过程等作出说明。这一过程，单从概念上理解就能明白，其是一系列非常专业的行为，涉及非常专业的技术。

对算法透明原则这一特性，算法相关服务提供者作为算法安全主体，对具有采取上述举措落实相关责任具有义务。监管部门在监管执法过程中，要依法监督检查相关主体算法透明义务履行和责任落实情况。在相关违法行为发生后的事后追责过程中，执法和司法机关则要对相关行为进行认定，并在认定基础上作出处理决定。

基于上述算法透明的专业特性，在一系列执法和司法过程中，作为非专业人士的相关执法和司法人员，是否能够以及如何突破专业障碍履行算法治理的执法和司法职责，将是下一步法律法规出台后需要认真考虑的问题。

必要性：化解算法黑箱

算法透明原则之所以受到国内外算法治理理论和实务界高度关注和认可，尤其是被我国相关法律法规所采纳，在于它在算法黑箱治理中扮演越来越重要的角色。

黑箱理论源自控制论，指的是不管系统内部结构如何、只从输入和输出两端对系统规律进行分析的理论方法。算法黑箱，就其本质来讲是一个技术问题，其形成有算法技术本身的原因，也有技术应用的社会环境原因。

算法本身具有专业性、复杂性、保密性等特征，有算法使用者故意隐瞒或利用支配地位，算法黑箱就会形成。算法黑箱一旦产生，极易发生使用者侵犯各方面利益的行为。当前社会与算法有关的一系列问题，如算法歧视、诱导用户沉迷、流量造假、大數据杀熟、算法共谋、信息茧房等，都是在算法黑箱基础上发生。

此外，算法黑箱严重时还会影响公权力应用。《算法推荐管理规定》第十四条的具体列举式规定，就是在算法推荐服务领域因算法黑箱存在而极易发生的一系列违法问题的典型概括。因此，要从根源上治理算法黑箱所引发的一系列社会问题，首要举措就是算法透明。

具体到法治治理过程中，要把算法透明作为法律原则和具体规则纳入相关法律法规，并在执法和司法过程加以执行，这也是算法法律规制中采纳和建立算法透明这一法治原则的必要之所在。

局限性：受商业秘密保护制约

算法透明原则在算法黑箱治理中发挥着非常重要的作用。但是，由于算法专业技术属性，算法透明原则在实践中往往受到商业秘密保护法律制度制约。

算法是一种有限、确定、有效并适合用计算机程序解决问题的方法，涉及算法源代码、数据及大量技术细节，从其本身性质来看需要算法使用者或算法设计者付出巨大成本，做出巨大投资才能获得，涉及巨大经济利益。

根据我国反不正当竞争法第四条和《最高人民法院关于审理侵犯商业秘密民事案件适用法律若干问题的规定》第一条的规定，算法是受法律保护的商业秘密。而作为一种商业秘密，我国民法典、反不正当竞争法、专利法等一系列法律及其他法规等，对其都有明文保护性规定。这就使算法透明原则与算法商业秘密保护法律制度发生冲突，进而对算法透明原则下可以公开的源代码、数据等信息范围和算法决策在内容、形式、对象等方面，作出一定程度的限制。同时，这也对立法过程中有关算法透明原则的具体规定，以及执法和司法过程所获取与算法有关信息的处理，提出具体要求，即立法中的算法透明原则和规定须以不侵犯算法使用者或设计者商业秘密为前提，执法司法过程相关机构和人员须严格履行保护当事人商业秘密的义务。

可行性：行业自律是关键因素

算法使用者或设计者出于自身利益考虑，一般都会有刻意隐瞒行为，再加上商业秘密法律制度的保护，很难做到主动而彻底地推动算法透明原则落实。政府监管部门则受专业技术和商业秘密保护法律制度影响，虽有职责和义务监督和指导算法使用者或设计者落实算法透明原则和举措，却在监督和指导实际效果上有一定局限性。这些实际情况对算法透明原则的落实和适用形成很大制约。

但是，这并不意味着算法透明不具有可行性。相关法律法规和管理文件的规定，为算法透明原则在算法规制过程中得到彻底而有效地落实创造了良好条件和机制。

现实中，行业协会组织具有专业技术知识、设备和人员，能够利用其优势，牵头制定既可以让专业监管人士明白又可以保护商业秘密的统一算法技术标准，在尽最大可能确保算法使用者或设计者的商业秘密的同时，从技术层面大幅提高算法对于行业监管主体和用户的透明度。

同时，行业协会组织还可以要求算法使用者或设计者在算法设计时，严格遵守行业协会牵头制定的统一算法技术标准，从而有效确保算法技术本身中立性。

此外，结合广义算法透明理论要求，在优化算法透明度和可解释性过程中，可以在算法公开和解释的内容、形式、对象等方面做一些技术性处理，在保证监管、执法、司法等工作有效开展以及公众或用户知情权和其他消费者权益的同时，确保商业秘密不被侵犯。

至此，算法透明原则与商业秘密保护制度之间的冲突可以得到有效解决，算法透明原则就可以在算法治理以及相应立法、执法和司法中发挥应有效用。

前置性：算法透明与事后追责

在当前算法治理实践中，法律规制一般都采用事前规制、事后问责和救济模式。算法透明原则在国内外实践中，都属于事前规制。正如欧洲议会发布的《算法问责与透明的治理框架》所主张，没有事前了解，就不能进行事后追责，更无法开展有效规制。

算法透明原则通过优化算法技术透明度，确保用户或大众知情权，进而赋予了用户和大众消费选择权;通过优化算法技术的可解释性，帮助监管人士突破技术障碍，提高监管效果;通过强化对算法黑箱的治理，遏制了算法使用者或设计者利用技术优势追逐私利的侥幸心理。这样前置性的规制，有助于减少盲目消费造成的利益受损，减少技术障碍造成的违法行为和日常执法、事后责任追究和权利救济。因此，在算法法律规制中，应该将算法透明原则作为算法追责前提加以规定。而在日常执法和司法中，执法和司法机构及人员应该重点关注其事前规制效应。

综上所述，算法透明是当前算法治理的一项重要举措，是算法法律规制的一项重要法治原则。它具有很强的专业技术属性，是破解算法黑箱的必然选择。虽然在具体适用中与商业秘密保护法律制度有一定冲突，但通过行业协会组织自律加持，算法透明原则依然能够很好地适用于对算法的治理，尤其有助于对算法黑箱的化解。

当然，在具体实践中，尤其是在具体执法、司法过程中，要坚持算法透明原则前置，并在此基础上，对日常算法透明法律法规要求落实情况进行执法检查，对相关违法犯罪活动进行行政或司法追责，对相关利益受损用户进行救济頂

（作者系北京市公安局东城分局反恐与巡特警支隊副支队长）

（责编王茜美编刘晓莹）