算法推荐技术对消费者权益保护的影响与应对

张惠彬,王思宇

(1,2.西南政法大学 民商法学院,重庆 401120)

我们生活在一个算法社会,在算法推荐技术的帮助下,平台根据用户所提供的以及来自其他各种渠道的数据,确定用户的兴趣、爱好、口味,然后为用户推荐更多他们认为其喜欢的内容。这些数据包括用户点的每一个“赞”,看的每一条短视频,点击的每一个链接,它们都被记录存档。平台算法的使用能为用户提供更精准的服务,降低用户的搜索成本,但也容易“算计”消费者,诸如外卖平台大数据杀熟等问题逐渐成为社会关注的热点。

网络平台巨头的算法使用行为在促进数字经济发展的同时也给市场秩序、消费者权益保护乃至国家安全带来新的挑战。为应对算法推荐技术给社会治理带来的挑战,国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合发布了《互联网信息服务算法推荐管理规定》(以下称“管理规定”),《管理规定》为全球首个专门针对算法推荐技术规范的立法(部门规章)。本文以《管理规定》中确定的算法推荐技术分类为标准,剖析每类算法推荐技术可能给消费者权益造成的损害,并结合域外经验与《管理规定》,总结梳理我国的治理路径与应对策略,以期为数字经济时代“被算计”的消费者开拓有效的权利保障路径。

一、数字经济时代算法推荐技术的市场应用

算法推荐技术是指相关平台利用机器学习、深度学习等技术,整合加工、分析解释用户数据,以提供与用户需求相匹配的个性化信息服务技术。算法推荐技术包含生成合成、个性化推送、排序精选、检索过滤和调度决策五种类型。其中,生成合成类算法推荐技术,是指利用算法、虚拟合成技术和自动化运行指令生成的文本、新闻、视频等信息内容服务。此类技术被广泛应用于AI换脸、语音导航及修复照片等场景;个性化推送类算法推荐技术是以“大数据杀熟”为典型的算法技术,指互联网平台运用算法技术采集消费者数据,以此形成用户数字画像,并借此向用户提供个性化信息服务的算法;排序精选类算法推荐技术是一种个性化表示与结果排序算法,它利用模糊推理技术聚类分析用户浏览的历史文档,发现用户对各分类的喜好程度,绘制体现用户个性的搜索结果的算法[1]。App的推荐排序和搜索引擎结果排序是该种算法推荐技术的主要应用场景;检索过滤类算法推荐技术涵盖过滤算法和检索算法两大分支,是指平台基于用户的检索信息、评论分析和文本挖掘向用户提供关联推荐的算法。譬如,电商平台的关联推荐功能及关键词联想功能等;调度决策类算法推荐技术是指平台根据用户数据和系统的资源分配策略向用户提供的最优决策算法。外卖平台的订单分派便是典型。尽管五大类算法推荐技术的侧重点和应用场景有所差异,但技术逻辑却有趋同性,“收集—分析—转换”三步走依旧是算法推荐技术的主要行为路径。

(一)信息提取:集成消费者数据群落

互联网平台实施算法推荐的第一步就是提取用户信息。用户信息的提取分为两种方式,其一是登录注册时,经过用户知情同意录入的基本个人信息。其二是互联网平台利用算法技术,收集用户的浏览历史、设备信息、服务记录以及行为偏好等数据信息。互联网平台采取的收集用户信息的方式具备循环、互动的特点。互联网平台将信息收集模型设置在用户系统的多个接口,以便采集到用户的全阶段数据。同时,采集到的数据源还可以参与到价值产生的各个阶段,普遍存在记录数据源行为的机制和相互沟通、反馈的渠道,产生的数据可以是一种交互式、循环式的数据,而非一次性的单一方面数据,以便充分发挥数据价值[2]。通过上述手段,互联网平台便可将散落在不同组织机构和信息系统中的用户数据集合在一起,形成聚合态体系的数据存储模型,为后续开展的数据挖掘和机器学习打下坚实基础。

(二)数据分析:形成消费者个人标签

互联网平台得以提供信息服务的重要前提之一,是对海量用户数据进行抽象分析。互联网平台实现数据价值的最大化要依托对数据的机器学习和联合分析。只有借助各种分析方法提炼出蕴含在数据内的关键信息,互联网平台才能绘制出用户画像、形成用户标签,进而匹配用户的个性化需求。在数据分析过程中,互联网平台往往会借助三类信息技术完成数据分析。其一,是算法和云计算技术。互联网平台将存储在信息系统中的用户数据进行结构处理和统计定量处理,再贴合对应的消费者个人标签。例如,平台可对消费者的消费和浏览数据进行分析解构,由此梳理出该消费者的消费频率和价格敏感度,之后贴上对应标签,建立用户画像。其二,是机器学习和深度学习技术。互联网平台可利用该技术构建交易模型、智能识别传感网络和机器辅助分析等方式,解释用户数据、析出用户信息,并由此将用户信息整合分类,形成用户剖面图。最终通过服务接口,对照用户标签,向用户提供信息服务。其三,是隐私计算技术。互联网平台可运用联邦学习和安全多方计算等隐私计算技术,通过算法协议进行联合机器学习,结合多方数据源完成建模,再将得到的模型结果汇总至中心节点,之后再进行二次训练得到最终需求结果。

(三)合成转换:输出互联网信息服务

互联网平台的最终目的是向消费者提供信息服务。因此,平台在形成用户数据池、解构用户数据、预测用户需求之后,便可结合输出模型和结果数据,在客户终端对用户投放不同场景的信息服务。以个性化推送类算法推荐技术——“大数据杀熟”为例,互联网平台运用算法技术采集消费者数据,形成消费者数字画像,并推测出消费者愿意支付的最高价格,最终输出趋近于最大支付意愿的个性化价格,实现“千人千价”,完成了由数据至服务的转换。

二、算法推荐技术侵害消费者权益的表现

数字经济时代,算法推荐技术一方面能够为消费者提供个性化服务,提高交易效率,提升产品和服务的质量,造福消费者。但另一方面,算法推荐会不当利用消费者数据,甚至泄露消费者隐私信息,使消费者的数据安全和个人信息难以得到保障。除此之外,互联网平台利用算法推荐技术实施的算法价格歧视损害了消费者的公平交易权;互联网平台滥用用户标签推送关联产品或服务侵扰了消费者的自主选择权;互联网平台利用算法的不透明性操纵搜索引擎排序结果侵犯了消费者的知情权。这些均加剧了消费者的弱势地位,给算法推荐技术下的消费者权益保护带来了新的挑战。

(一)数据过度收集侵害消费者数据权益

2022年3月11日,中国消费者协会发布了《2021年网络消费领域消费者权益保护报告》。报告显示侵害网络消费者权益的典型表现之一便是网络交易经营者利用算法等技术手段非法收集、分析、使用消费者数据,损害消费者的信息自主权。除此之外,在2022年央视3·15晚会上,消费者协会曝光了“浏览网页就能泄露手机号”的消费者数据泄露现象[3]。据工作人员介绍,相关企业会利用消费者手机对应的MAC号,在消费者浏览该网站时获得明码手机号码。更有甚者会利用算法等技术手段窃取消费者终端或手机里的个人信息,以此精准抓取消费者兴趣点,进行个性化推送,损害消费者数据权益。由此可见,企业过度收集消费者数据现象仍为常见,数据泄露等数据侵权问题频发,消费者数据权益难以得到保障。究其原委,主要有以下几点:首先,虽然消费者在互联网平台遗留的数据总数呈现指数性增长态势,但是海量数据散落在不同的平台和信息系统中,数据来源分散、数据间流通共享困难等问题仍然存在,“数据孤岛”现象依旧残存。对此,为融合多方数据、打通数据互动通道、最大程度释放数据价值,互联网平台间开始开展数据协同工作,将多方数据进行联合建模分析,实现数据跨层级、跨领域融合应用。但此种数据协作合作机制可能增加数据泄露的风险。而在数据流转过程中,任何一方泄露了消费者数据均可能损害消费者的隐私及个人信息。其次,尽管《中华人民共和国个人信息保护法》(以下简称《个人信息保护法》)明确规定收集个人信息需遵循“最小目的”原则,但平台在利用算法等技术收集个人信息时,往往会超出最小必要原则,从而过度收集用户信息,致使消费者信息安全难以得到保障。最后,互联网平台利用算法、云计算和隐私计算等技术分析消费者数据形成的用户画像,可以展示数据主体的偏好、习惯等尚未公开的敏感信息,从而扯开了数据主体隐私空间的面纱,削弱了消费者对个人隐私信息的掌控能力。

(二)算法价格歧视损害消费者公平交易权

公平交易权是消费者权益的核心内容,《中华人民共和国消费者权益保护法》(以下简称《消费者权益保护法》)所指称的公平交易权,要求经营者给予所有消费者以公平的待遇。而算法推荐技术的应用却可能给消费者公平交易权带来损害。根据北京市消费者协会2022年3月公开的调查问卷结果显示,86.91%的受访者认为自己有被大数据“杀熟”的经历[5]。2021年12月,浙江省绍兴市中级人民法院审理的胡红芳诉上海携程商务有限公司侵权责任纠纷案,胡红芳认为携程公司通过采集其个人非必要信息,对其实施价格歧视,引发了社会对“大数据杀熟”的广泛关注(1)参见浙江省绍兴市中级人民法院(2021)浙06民终3129号民事裁判书。。“大数据杀熟”,又称算法价格歧视,是个性化推送类算法推荐技术的一种实际应用,其内含的定价算法技术的隐蔽性和不透明性给消费者的公平交易权带来损害。

互联网平台利用算法技术采集消费者的“元数据”,并运用机器学习等手段分析消费者的“元数据”,形成消费者用户画像。在此之后,互联网平台借助算法定价技术,预测消费者的最大支付意愿,输出趋近于最大支付意愿的价格,完成“千人千价”的个性化定制价格推送,达到“杀熟”的效果。在此过程中,由于互联网平台仅根据消费者的浏览历史、消费记录等数据,便对消费者提供不同的价格,违背了基于成本与收益的定价规则,使得价格与商品或服务质量呈现非正相关关系,损害了消费者的公平交易权。同时,算法的不透明性及算法黑箱现象加剧了互联网平台与消费者之间的信息不对称。消费者支付的价格与获得的商品或服务价值相当是公平交易权的核心。然而,“大数据杀熟”利用算法的不透明性实施的差别定价,导致消费者支出的费用与获得利益不对等,进而违反了交易的实质公平,有损消费者的公平交易权[6]。

(三)滥用用户标签侵扰消费者自主选择权

自主选择权是消费者享有的一项基本权利。《消费者权益保护法》层面的自主选择权是指,消费者有依不同标准自由地对商品或服务作出选择,并自由地决定是否购买商品或接受服务的权利[7]。在算法推荐技术广泛应用的当下,消费者的自主选择权可能受到侵害。具体而言,算法推荐技术的有效实施有赖于精准的用户标签,在这之中,个性化推送类、排序精选类和检索过滤类算法推荐技术对用户标签的依赖最强。为向消费者提供个性化信息服务和决策支持,互联网平台在实施个性化推送类算法推荐技术时就需提前掌握消费者的行为偏好和消费倾向,为每位消费者贴上专属用户标签,以便对其提供精准的服务,视频类App中的个性化信息交流服务便是典型。为给消费者提供精选列表,平台在实施排序精选类算法推荐技术时,便会根据消费者的浏览记录绘制消费者用户画像,以此推出搜索引擎结果排序。为方便消费者查找到感兴趣的商品或服务,检索过滤类算法推荐技术便会追踪消费者的收藏记录,构建消费者用户剖面图,将消费者喜欢的标的物过滤出来,形成关联推荐,加快交易效率。以上种种都是互联网平台以用户标签为基点,结合算法推荐技术,向消费者提供的个性化信息服务。

但如若互联网平台过度依赖用户标签,以至滥用用户标签,则会侵害消费者的自主选择权。近年来,一种新型定制服务——反向定制,逐渐进入消费者视野。反向定制是生产者通过分析消费者数据,得到消费者偏好,并由此形成用户标签,其后,生产者再根据用户标签生产个性化产品。反向定制虽然能够满足消费者的个性化需求,但也大大限制了消费者的选择范围,损害了消费者的自主选择权。具言之,消费者的自主选择权有两个基本要件,其一是消费者具备自由意志并能进行自主选择。也即消费者的购买行为是基于本人的真实意愿作出的,且该种购买行为能够满足个人的生活需要,达到自身利益的最大化。其二是排除他人的不正当干涉。也即消费者的购买行为没有受到外力的不正当与不合理干涉[8]。但在算法推荐技术的框架下,以购物平台中的“猜你喜欢”与关联推荐和视频平台中的关键词推荐为主导的个性化推送功能,削弱了消费者获取信息的主动性及信息筛选能力,间接干涉了消费者对商品或服务的正常选择,影响了消费者的自主选择权。同理,在“大数据杀熟”案件中,互联网平台利用用户标签,预测出消费者的最大支付意愿,进而对消费者提供不同的价格,而该种价格违背了消费者的自由意志,未达到“明码标价”的要求,侵害了消费者的自主选择权。

(四)算法不透明损害消费者知情权

因算法技术的不透明引发的“算法黑箱”现象,使消费者无从知晓自己的数据是否被访问、如何被使用,更无从知晓算法是如何影响自己的决策的。互联网平台可能会利用算法技术不完全提供商品或服务的信息,致使平台与消费者之间的信息不对称现象加剧,由此造成对消费者知情权的损害。

《消费者权益保护法》层面的知情权是指,消费者有权知晓包含价格、产地、用途、性能及主要成分等在内的商品或服务的真实情况。知情权是消费者进行消费活动的前提,也是消费者的一项基础性权利。但在“大数据杀熟”案件中,商品或服务的价格并非是按照“成本—收益”的基本规则提供的,而是依靠定价算法技术定制出来的。消费者对定价算法运行机制的茫然,加之算法的不透明性加剧了互联网平台与消费者之间掌握的服务信息的不对称,从而导致互联网平台与消费者之间的权利义务不对等,消费者知情权无法得到保护。此外,在2022年1月北京海淀区法院审理的全国首例人工刷量平台干扰搜索引擎算法不正当竞争纠纷案中,“我爱广告任务网”帮助用户制造虚假点击数据,扰乱原有的客观搜索排序结果,阻碍了信息交流,从而使搜索引擎排序无从降低消费者的信息搜索成本,导致消费者知情权的损害[9]。

三、算法规制中消费者权益保护的域外尝试

数字经济时代,算法成为互联网信息服务产业发展的重点,也成为提升交易效率、增强用户粘性的重要抓手。算法技术不仅广泛应用于国内互联网消费市场,算法商业化在域外也被如火如荼地推广运用。美国、欧盟及英国基于各自的发展现实与实践经验,先后形成了各具特色的算法规制体系。消费者数据赋权与隐私强化保护、算法影响评估机制等尝试,均可以为我国算法规制消费者权益保护提供有益的经验。

(一)数据赋权以强化消费者数据权益

互联网平台利用算法技术向消费者提供信息服务依托于一定量的消费者数据。因此,为规制诸如算法个性化定价等问题,部分国家和地区采取了规范数据收集行为的措施。在这之中,萌芽于数字单一市场的,具有显著功能特性的欧盟《一般数据保护条例》站在基本权利保护的立场,通过为数据主体赋权的方式,保护用户的个人数据[10]。

具体而言,《一般数据保护条例》赋予数据主体以知情权、更正及删除权、访问权、拒绝权和自动化决策自决权等八种权利。其中,知情权与访问权是指,当数据主体的数据被采集时,数据主体有权知晓数据控制者处理数据的目的、合法基础及储存期限等相关信息(2)General Data Protection Regulation (GDPR)(EU)2016. Chapter 3, Article 12-15。。也即《一般数据保护条例》首先确保数据主体能够知悉自己的数据是被谁收集、收集目的为何以及如何被处理等信息。再经由数据主体权衡后,根据自己的意愿自主决定是否允许数据控制者收集其数据,以换取相对应的服务[11];更正及删除权是指,数据主体有权要求数据控制者即刻更正与其有关的错误的个人数据,并且,当数据收集和处理的目的已不再必要或是出现个人数据被非法处理的情形时,数据主体有权请求数据控制者立即删除与其相关的个人数据(3)General Data Protection Regulation (GDPR)(EU)2016. Chapter 3, Article 16-17。。更正及删除权有助于减轻因数据的错误处理给数据主体带来的消极影响;拒绝权是指,当数据处理是出于直接营销的目的时,数据主体有权随时拒绝为该种营销目的而处理其个人数据的行为(4)General Data Protection Regulation (GDPR)(EU)2016. Chapter 3, Article 21。。拒绝权能够有效制止个性化推荐等行为,赋予数据主体自主选择的自由;自动化决策权是指数据主体有权不受仅基于自动化决策得到的结果的束缚,并且数据主体有权表达对决策结果的观点及异议(5)General Data Protection Regulation (GDPR)(EU)2016. Chapter 3, Article 22。。该条明确赋予用户介入算法决策的权利,保障了数据主体的自主选择权。除此之外,《一般数据保护条例》还额外赋予数据主体在数据被违法处理时的限制处理权,这些权利都能使数据主体实际控制数据的处理。而澳大利亚为平衡创新发展和消费者数据使用安全的关系,对消费者数据采取了较为周密的保护措施,即授予消费者对互联网交易的开放访问权,并以此达到消费者对个人数据的控制效果。更为具体的保护措施包括:第一,要求数据持有者和数据接收者公开其对数据管理的政策。第二,消费者可以划定其同意收集和使用的数据范围,且数据接收者必须告知消费者数据收集的情况。第三,一般情况下,数据接收者不得使用或披露消费者数据,除非消费者、《消费者数据权》规则或其他法律要求使用或披露数据。第四,禁止数据接收者利用数据对消费者进行营销。第五,数据接收者必须提供对数据进行去身份标识的选择(6)Competition and Consumer(Consumer Data Right)Rules 2020。。

(二)行业约束以维护消费者公平交易权

为规制包括“大数据杀熟”在内的算法歧视现象,美国采取了自律性规制的规范路径。此种规范方法通过制定算法决策和运行的基本原则,强化行业内的自我约束,最终实现对算法歧视的有效规制。美国计算机协会于2017年发布了《关于算法透明度与责任制的声明》,在该份声明中,美国计算机协会明确了算法透明度与责任制的七项原则,并要求行业内的算法开发者和使用者遵守上述原则(7)Statement on Algorithmic Transparency and Accountability.USACM 2017。。这七项原则包括:一是偏见意识原则。该原则要求算法开发者、使用者和其他利益相关者意识到在算法设计、实施和使用过程中存在的偏见及其可能造成的损害。二是算法救济原则。监管机构应采取各种机制,给受到算法决策不利影响的个人或群体提供救济渠道。三是算法负责原则。该原则要求算法使用者对算法的运行结果承担责任。四是算法解释原则。也即算法使用者应当对算法运行程序和决策结果作出解释。五是算法数据证明力原则。该原则要求算法开发者说明数据的收集方式及其潜在风险。六是算法审计原则。该原则强调算法决策的可追溯性,确保算法模型、决策结果及其所依托的数据被记录下来,方便后续的算法审计[12]。七是算法验证及测试原则。该原则要求算法使用者定期采用严格的方法来验证算法模型,以防止算法歧视的发生。这些原则能够有效维护消费者的公平交易权。

(三)体系建构以确保消费者自主选择权

规制数据和算法的最终目的,是保障消费者权益,实现更深层次的消费公平。美国《Markup》曾报道过一起由算法缺陷引发的事件。一个存在缺陷的抵押贷款审批算法拒绝了此前已获审批的申请人的贷款申请,致使该申请人遭受财产损失。因此,当算法本身的缺陷成为消费者利益受损的主要缘由时,消费者的纠偏、申诉甚至退出的权利就变得格外重要。对此,为直接对话消费者诉求,完善消费者权益保护路径,美国《算法问责法案》构建了消费者权益保障体系,从消费者退出机制、消费者权利评估机制与不利影响评估机制三方面,构建算法框架下的消费者权利保障体系。

具体而言,消费者纠偏与退出机制是指算法服务使用者应当明确告知消费者其使用自动化决策这一事实,并为消费者提供退出机制。消费者的权利评估制度是指,算法服务使用者应当评估算法系统或过程的透明度和可解释性,以及消费者选择退出此类系统或过程的可能性。不利影响评估机制是指,算法服务使用者应当衡量自动决策系统可能对消费者产生的任何负面影响,并评估任何可行的缓解策略。不利影响评估机制应当记录:第一,为消除或缓解此种不利影响而采取的任何措施,包括将自动决策系统从市场上移除或终止开发等步骤。第二,不处理可能产生的负面影响的原因。第三,用于识别、衡量、减轻或消除对消费者可能产生的重大负面影响的标准协议或实践,以及相关团队或工作人员对此类协议或实践的知悉途径。此外,算法服务使用者还需要为消费者提供提出异议和申诉的通道。质言之,架构消费者权益保障体系能够赋予消费者自主决定的权利。体系化的权利框架,能够使消费者在算法运行的各个环节维护自身的权益,并利用纠偏和选择退出机制保障自身的自主选择权。

(四)算法评估以保障消费者知情权

作为底层架构的算法,虽然能够降低消费者筛选有效信息的时间成本,提高信息推送的效率,但“信息茧房”的产生、互联网平台利用算法控制热搜和过度营销等问题也层出不穷。2022年央视3·15晚会曝光了某口碑营销公司操纵搜索结果的新闻。该营销公司利用技术手段,冒充真实用户自问自答,并将这些自问自答排在搜索结果之前,达到左右搜索结果的目的,扰乱了市场公平竞争,导致网络生态失衡。对此,面对野蛮生长的算法乱象,算法影响评估制度作为重要的算法治理方案被纳入算法治理体系中,成为算法治理尝试的关键一环。

美国为规制“算法黑箱”,消弭不透明的算法运行程序带来的算法歧视,增设了算法影响评估制度。算法影响评估制度以透明、问责、合法等原则为指引,具体可以分为算法投入前评估和持续性评估两部分。算法投入前的评估要求算法服务使用者在新算法开发之前,评估已存在的同类算法及其负面影响和新算法的优势与开发目的,以规避算法本身的缺漏。算法使用过程中的持续性评估则围绕算法的公正性、可问责性和透明度等方面展开,并将技术新颖性、决策应用范围及消费者数据的敏感程度等指标纳入影响评估报告。此过程的评估工作要求:首先,算法服务使用者应当持续性地记录算法的当前及历史表现,警惕可能产生的算法偏见和算法歧视。同时,算法服务使用者还应当评估算法可能给消费者个人信息和隐私带来的风险及自动化决策系统可能对消费者带来的偏见和歧视性决策的风险。其次,算法服务使用者应当保存用于训练算法的数据及相关信息,防止数据带来的不良影响(8)Algorithmic Accountability Act of 2022。。最后,在划分评估后的影响等级方面,加拿大《自动化决策指令》以风险为评定基础,将影响等级划分为可逆且暂时的影响、可能可逆且短期的影响、难以可逆持续性影响及不可逆的永久性影响四类(9)Government of Canada.Directive on Automated Decision-making。。算法评估制度能够及时纠正算法可能带来的偏见与歧视,给消费者以风险警示,并增强算法的透明度,保障了消费者的知情权。

四、算法规制中消费者权益保护的完善

算法推荐技术的广泛应用,滋生了大数据杀熟、搜索引擎竞价排名、“信息茧房”甚至不正当竞争等问题。域外在解决算法规制中消费者权益保护问题时,采取了权利导向、分类治理的思路。譬如,在规制算法框架下的消费者数据权益时,域外站在数据主体的角度,强调数据赋权;在规制算法歧视时,域外采取自律性规制路径,保障消费者公平交易权;在解决算法不透明和可解释性问题上,域外主张体系架构的私力救济方式;在规范算法带来的“信息茧房”等问题时,域外采纳平台监管体系中的算法评估制度。

而我国为维持良好的市场竞争秩序,维护消费者权益和社会公平,建构算法推荐服务治理体系成为推动新技术可持续发展的关键。申言之,我国算法治理体系的建构应从实际出发,以我国基本国情为立足点,综合考察行业前景、社会发展和法治进程等指标,借鉴域外有益经验,为规制算法框架下的消费者权益保护提供中国智慧,贡献中国方案。算法框架下的消费者权益保护应以《消费者权益保护法》和《互联网信息服务算法推荐管理规定》为规范基础,以促进算法生态规范发展为导向,回应消费者热切关注的重点问题,从数据赋权、协同治理、消费者私力救济和平台监管下的安全评估等方面建构算法治理规则体系,为释放算法正效能、保障消费者权益注入动能。

(一)实施消费者数据与个人信息保护机制

实施算法推荐的前提之一是互联网平台掌握足够多的消费者数据。因此,管控数据成为域外规制算法技术滥用的路径之一。2021年《中华人民共和国数据安全法》(以下简称《数据安全法》)与《个人信息保护法》的出台,使这两部法律同《中华人民共和国网络安全法》(以下简称《网络安全法》)一道,成为数据和个人信息保护领域的“三驾马车”,消费者数据与个人信息保护的基本法律架构已顺利搭建完成。但在数字经济时代,因算法的不透明性与技术的复杂性,使得消费者难以评判自身数据权益是否受到侵害。因此,更迭并落实消费者数据与个人信息保护机制迫在眉睫。

具言之,首先,为实现算法透明,保障消费者数据权益不受侵害,我国应当落实算法推荐服务提供者的算法安全主体责任,要求算法推荐服务提供者利用技术手段和审核机制加强数据安全和个人信息保护制度,并对算法的数据使用进行日常监测(10)参见国家互联网信息办公室、中华人民共和国工业和信息化部、中华人民共和国公安部、国家市场监督管理总局令第9号. 《互联网信息服务算法推荐管理规定》第七条。。其次,在数据收集阶段,我国可参照适用《数据安全法》《个人信息保护法》和《网络安全法》中关于收集和处理消费者数据和个人信息的规定。对消费者数据的收集坚持“知情—同意”和“最小必要”原则,要求互联网平台在收集消费者数据时,明示收集目的和范围,不得利用隐蔽算法在消费者不知情的情况下,恶意收集消费者数据。在数据处理环节,确保数据处理合法、正当,并应当采取必要措施保障数据安全。同时,为制止互联网平台窃取消费者数据和个人信息,我国可借鉴澳大利亚《消费者数据权》规则。根据2021年发布的《澳大利亚消费者数据权利隐私评估》[13]显示,自《消费者数据权》规则实施以来,该规则提供的诸如数据公开透明管理、数据使用和披露制度、数据收集规范等数据和隐私保护措施,大大降低了四大银行的高隐私风险发生率。《消费者数据权》规则的有效实施,为我国提供了有益经验。我国可赋予消费者对数据的开放访问权,将数据收集的决定权交由消费者,由消费者自主划定数据收集的范围和使用权限,以此弥合消费者数据滥用问题。最后,由于互联网平台收集消费者数据的内生动力是方便构建用户标签,从而以此为基础进行精准营销。但数据的过度收集,极易形成“信息茧房”,使消费者被禁锢于有限的信息流中,进而难以获得全面且真实的信息,最终损害消费者的知情权。因此,应当苛以算法推荐服务提供者信息安全管理的义务,完善信息入库的标准和程序,并要求其加强用户模型和用户标签管理,防止违法和不良信息损害消费者权益(11)参见国家互联网信息办公室、中华人民共和国工业和信息化部、中华人民共和国公安部、国家市场监督管理总局令第9号. 《互联网信息服务算法推荐管理规定》第九、十条。。同时,为保障消费者在输入数据层面拥有更大的自主权,我们可赋予用户标签选择和删除权,使消费者可以选择或删除针对其个人特征的用户标签(12)参见国家互联网信息办公室、中华人民共和国工业和信息化部、中华人民共和国公安部、国家市场监督管理总局令第9号. 《互联网信息服务算法推荐管理规定》第十七条。。

(二)建立算法协同治理路径

五大类算法推荐服务依托技术流,对消费者施以误导或歧视,以致减损消费者权益。而对算法推荐服务的治理要求执法部门强化协同合作、建立部门协同联动长效机制。因此,《互联网信息服务算法推荐管理规定》在第二十三条明确了系统监管、多元共治的规制框架,实行对算法分级分类的治理机制,由网信部门会同电信、公安、市场监管等有关部门共同治理。但遗憾的是,《管理规定》仅概括规定了多元监管框架,并未对各部门的具体监管范围和监管职责进行细化分工,使算法合作治理路径无法有效落地实施。

对此,为充分释放治理合力,提高算法治理效能,细化政府部门分工变得尤为必要。具体而言,在合作治理的分工上,根据《网络信息内容生态治理规定》第三条和第九条的规定,国家网信部门负责统筹协调全国网络信息内容生态治理和相关监督管理工作。具体而言,该部门应当负责跟踪治理排序精选类和检索过滤类的算法推荐技术,管控信息服务热门推荐、精选、热搜、榜单类和关联推荐板块,实时巡查网络信息内容,维护版面和页面的生态,优化信息推荐机制。国家市场监管总局项下的竞争政策协调司可以借鉴英国竞争和市场管理局尝试的规制方法,监管算法运行。譬如,为企业提供指导并制定决策指南或是持续算法监控、构筑监管沙盒。与此同时,国家市场监管总局项下的网络交易监督管理司可以负责监管个性化推送类算法推荐技术,对互联网平台在市场交易过程中实施的个性化推送予以实时监测,规范网络交易平台的经营秩序,弥合算法歧视等损害消费者公平交易权的现象。网络安全管理局则负责管控生成合成类算法推荐技术,配合处理生成合成算法带来的有害信息,对消费者数据施以信息安全监测预警,严格防控诸如美国联邦贸易委员会发现的企业利用虚假评论和其他误导性信息在社交媒体上推广产品和服务的“欺诈行为”,保障消费者知情权。最后,公安部门可以对利用算法推荐技术实施价格歧视、网络欺诈甚至黑灰产业等行为,依法给予治安管理处罚。

(三)设置消费者权益保护制度

为贯彻“坚持权益保障,引导算法应用公平公正、透明可释,充分保障网民合法权益”的基本原则(13)参见国家互联网信息办公室等九部、局,关于印发《关于加强互联网信息服务算法综合治理的指导意见》的通知.国信办发文〔2021〕7号。,我国在规制算法框架下消费者权益保护问题时,应当以《消费者权益保护法》为主体,以《互联网信息服务算法推荐管理规定》为补充,建构消费者权益保护制度。一方面,《消费者权益保护法》规定的消费者权利,不仅能够给司法裁判提供规范支持,也能够有效链接算法价格歧视和个性化推送等问题。同时,在《消费者权益保护法》的框架内,以消费者个人为核心,主张赋予、界清、完善各种权利,能够给予个体消费者法律武器来维护个人利益[14]。譬如,以权利为出发点的消费者“知情—同意”规则,能够有效规制数据过度收集问题。另一方面,为弥补《消费者权益保护法》在应对新技术问题时的缺漏,《互联网信息服务算法推荐管理规定》以专章的形式强化了在算法推荐技术框架下的消费者权益保护问题。在该章节项下,《管理规定》在明确消费者知情权以外,还创造性地提出了算法退出权。在具体内容上,首先,我国同美国《算法问责法案》一样,赋予消费者以知情权。算法透明是消费者筛选信息和自主选择的重要前提,对此,《管理规定》要求算法推荐服务提供者降低算法透明度和可解释性,公示算法推荐的基本原理、目的意图和主要运行机制,并鼓励算法服务提供者优化对检索、选择、推送等规则的透明度和可解释性。同时,当算法推荐服务提供者作出对消费者权益有重大影响的决定时,消费者有权要求其释明。其次,为规制常见于电商平台的“精准营销”和“个性化推送”现象,《管理规定》承继了《个人信息保护法》第二十四条规定的退出选择机制,赋予消费者退出权。也即当消费者选择关闭算法推荐服务时,算法推荐服务提供者应当立即停止提供相关服务。最后,我国额外赋予消费者申诉和投诉权,要求政府积极受理消费者的举报和投诉,要求互联网平台自觉接受消费者监督并及时做好反馈工作,为消费者权利捍卫途径提供多元的选择道路,以此鼓励广大消费者积极参与算法治理工作,切实加强政府与消费者之间的信息交流及互通。

(四)构建算法评估制度

算法的不透明致使消费者很难窥见算法的运行过程及输出结果,进而导致消费者知情权受损。而算法安全评估作为多维一体监管体系中的重要一环,可使算法推荐应用达到安全可控和可释透明的程度,进而强化对消费者知情权的保护。对此,为加快落实监管体系,防范算法滥用带来的风险隐患,我国可构建算法评估制度,要求算法推荐服务提供者定期评估算法机制机理、模型、数据和应用结果等,不得设置违反法律法规或者违背伦理道德的算法模型。《互联网信息服务算法推荐管理规定》在借鉴域外经验的基础上,提出了事前监管—算法评估制度的新路径。具体而言,我国算法评估机制秉持结构细分的设计思路,设置了自评估和第三方评估两种方式。算法自评估要求具有舆论属性或者社会动员能力的算法推荐服务提供者自我审查与算法相关的数据和机器模型,定期审核算法的机制机理,对算法进行风险评估,使风险能在源头得到控制。其后,算法推荐服务提供者还应当形成算法自评估报告,该报告作为算法备案的重要组成部分,是监管机构后续开展算法监督管理的基础。第三方评估是由监管部门开展的,针对算法推荐服务的安全评估。为避免算法推荐技术损害社会公平、市场竞争和消费者权益,提高算法透明度和可解释性,监管部门应聚焦算法的机制机理、模型、数据和应用结果等内容,重点评估算法在设计和投流环节的缺漏,深入分析算法推荐技术在应用过程中产生的安全风险,并提出治理对策,最终增强算法的可信度。

《管理规定》提出的算法评估制度是增强算法可信、管控算法风险、实现算法安全可控的重要工具。但《管理规定》仅建构出了算法评估的基本框架,尚未落实算法评估的具体程序和实施方案,使算法评估制度仍较难落地实施。对此,为落实算法评估的实施机制、明晰算法评估的各项措施,我国可以借鉴域外的算法影响评估模式,让算法评估制度覆盖算法开发、运行和投流的全周期,建立动态算法评估机制。具体而言,一方面,在算法系统投入部署应用之前,对其可能产生的潜在不利影响和风险进行评估,以确定是否能将该算法系统应用于特定场景之中。另一方面,在算法系统投入应用之后,还应组织相关领域的专业评估人员定期对运行中算法系统存在的不利影响和风险进行系统全面评估[15]。算法投入前评估和投入中的持续性评估能够消弭算法运行中可能出现的算法偏见和算法歧视现象,从而保障消费者权益。除此之外,在评估完成后,相关主体还应当制作算法评估报告,向消费者释明算法自动决策可能带来的风险和给消费者造成的不利影响,并反馈缓解策略,保障消费者的知情权,强化算法的透明度与可解释性。

五、结语

数字经济兴起以来,算法推荐技术作为战略性资源喂养了商业市场中的各类互联网平台,并已能够完整且成熟地参与到内容生成、个性推送、排序精选等场景中,全面提升了消费者体验。但与此同时,算法推荐技术也给消费者权益带来了损害。算法推荐的有效实施依托于消费者数据和用户标签,但数据的过度收集与用户标签的滥用,很可能会泄露消费者个人信息,侵犯消费者的自主选择权。同时,算法黑箱也有损消费者的知情权和公平交易权。对此,为消除算法推荐技术带来的危害,各国尝试了数据赋权、算法评估等多项措施。我国《互联网信息服务算法推荐管理规定》,对算法推荐框架下的消费者权益保护构建了消费者数据保护机制、算法评估制度和合作治理路径等措施,有力驱动了“算法善用”理念的推行。诚然《管理规定》建构起了新型算法治理框架,但诸如消费者数据权利、算法评估制度和协同治理规则仍有待细化和完善。除此之外,在算法推荐快速渗透于商业领域的当下,算法推荐在给消费者权益带来损害的同时,也给黑灰产业链提供了可乘之机。

技术是价值中立的,“算法”本身并无原罪。当前,算法等新技术已经渗透进金融、医疗和互联网等领域,成为助推企业数字化转型和国家治理现代化的新动能。因此,构建算法治理新机制,实现算法的良法善治是保障算法综合治理工作有序推进的关键,也是推动数字经济高质量发展的重中之重。对此,为合理利用算法技术,保障消费者权益,我们应当积极引导“科技向善”,实现更深层次的消费公平,塑造可持续的智慧社会。