算法个性化推荐的消费者损害与多元救济

冷冰泠

（福建师范大学法学院,福建 福州 350000）

随着信息技术的发展和电子设备的广泛使用，我们已经进入了数据大爆炸的时代。互联网数据中心发布的《数据时代 2025》报告显示，全球每年产生的数据将增长到 175ZB（十万亿亿字节），相当于每天产生 491EB（百亿亿字节）的数据[1]。如此巨大的信息量增加值让我们欣喜的同时，从海量的数据中筛选出高质量、满足消费者真正需要的内容又成为一大难题。面对这种窘境，算法个性化推荐技术应运而生，其通过收集消费者历史数据，获取消费者偏好，根据排名向消费者推荐等过程，减少消费者浏览大量无效数据而造成的时间和精力上的浪费。算法个性化推荐高效智能，为消费者提供更加便利的服务的同时，却也因“信息茧房”“个性化定价”“自我优待”等损害消费利益的行为饱受公众批评。从个人权益看，算法个性化推荐的上述行为会损害消费者个人隐私权、选择权、公平交易权；从竞争效果看，算法个性化推荐可能会破坏市场竞争秩序与社会分配正义；从社会影响看，消费者对现存算法个性化推荐带来的损害面临难以维权之困境。鉴于此种境况，下文笔者将对算法个性化推荐技术的逻辑与应用场景、损害类型与多元救济途径展开讨论。

1 算法个性化推荐技术逻辑与应用场景

1.1 算法个性化推荐的技术逻辑

算法个性化推荐是指各个平台企业通过消费者的注册、登录来创建消费者数据库，对消费者使用相应软件时产生的包括兴趣偏好、地理位置、行动轨迹、社交范围、亲属关系群体、消费水平等信息进行识别、标记；将涉及个人喜好的数据和信息通过算法强大的分析、辨别和处理能力进行收集与处理并绘制消费者画像，根据所得出的画像将更符合消费者喜好的特定内容与服务推荐给消费者[2]。对于消费者而言，高质量的个性化推荐可以节省其时间，便于其无须检索就可以从平台推送获得自己感兴趣的内容；对平台企业而言，个性化推荐除了可以提升消费者对其的依赖性与忠诚度外，还可以通过类似内容的关联推荐提高其平台资源曝光度、增加浏览量。因而，高质量的个性化推荐可以达到双赢的效果。

1.2 算法个性化推荐的应用场景

算法个性化推荐目前已被普遍应用于多种平台之中，如百度等搜索引擎、淘宝等电商平台、QQ等社交媒体平台、抖音、哔哩哔哩等短视频或视频网站，新闻资讯、音乐推送和广告投放等领域对算法个性化推荐的运用也屡见不鲜。算法个性化推荐的表现形式通常为各平台内搜索界面的“猜你想搜”，或首页推荐的“猜你喜欢”，并会随着消费者的浏览、点赞、收藏相关推荐而增加相应内容的推荐量，呈现出“越刷越懂你”的现象[3]。在算法个性化推荐的作用下，平台浏览量得以提升、消费者黏性得以增强，从而达到在同类产业竞争中取得优势地位的效果。

2 算法个性化推荐的损害行为类型

良好的算法个性化推荐能够为消费者带来极佳的消费者体验与便捷、高效且精准的服务。但随着技术权利逐渐扩大，平台企业为追逐利益而滥用算法个性化推荐，引发或加剧了例如信息茧房、个性化定价、劣质新闻推送、隐私与个人信息被泄露或遭受不正当利用等问题。这些问题除了造成民法领域对个人隐私权、选择权的侵害之外，也会在经济法领域对消费者的权益造成损害，甚至给整个市场的竞争秩序造成影响，因而要对其经济法上的损害行为类型展开全面分析。

2.1 信息茧房

个性化推荐算法通过对个人在网络平台上的使用数据进行分析和信息干预，基于个人搜索历史、点赞、收藏内容中的关键词形成消费者画像，并针对这些内容进行重点推送。极端的个性化推荐将缩减非个性化推荐的数量，使得消费者接触的信息领域和类型逐渐趋于同质化，除非消费者搜索新的关键词，否则平台不会向其推送新领域的内容。一方面，个性化推荐所营造的个人信息接收的舒适区，极易使得消费者长时间使用该平台，并沉浸于自身关注的领域和内容，消耗大量的时间与注意力；此外，同质化的推荐还会固化消费者对某一领域的认知，而对外部不符合自身观点的信息采取回避的态度，形成个人意见的“回音室”，造成消费者的自主思考能力减弱，并影响他们的社会参与度，也在一定程度上损害了消费者的知情权与自主选择权[4]。另一方面，信息茧房所划定的舒适区，具有成瘾性的导向，如果平台滥用个性化推荐技术，利用算法的隐蔽性形成长期垄断的数字瘾性经济，由于消费者怠于或者较难找到适用的替代品，因此平台将获得一定程度上的不公平竞争优势，这也会排除、限制相关市场的质量竞争，很可能构成新型滥用市场支配地位行为。

2.2 个性化定价

个性化定价主要出现在购物类应用场景中。第一种，购物类平台企业通过收集消费者对于价格变化的敏感程度、在购物平台整体的购买力与忠诚度、在不同商品页面停留的时间等消费者特征数据，利用算法绘制出消费者画像并对其结果进行反复试验，从而获得消费者愿意承担的最高价格，并以此为依据向对购买同一物品的不同消费者设置不同的定价。这通常表现为若消费者对同一类型商品检索次数越多，算法将评估其对于该类商品的购买欲较为强烈，推定消费者愿意以更高的最终成交价格购买此类商品，因此算法会将推送到这部分消费者购买页面的商品价格进行适当的上调；或者对那些已经进入结算界面，但想更换购买更低价产品的人提高原定价的价格。第二种，是更难以察觉的个性化定价形式，即每个消费者在平台上看到的相应产品价格是一样的，但在最后结算时，算法会根据消费者的特征数据给不同消费者发放金额或数量不同的优惠券，或是向不同消费者提供不同的折扣，这将导致每个消费者实际支付的商品价格不同[5]。第三种，则为大众所知的“大数据杀熟”，针对新老顾客所想要购买的同类商品，进行不同定价。由于高频消费者已经对平台产生依赖性不会轻易更换平台，算法会向其推荐相较于一般消费者购买同类产品而言定价更高的商品，但对于新消费者或低频消费者则提供单价更为低廉的商品。上述三种个性化定价形式都将导致不同消费者在同一平台企业上针对同一产品所享受的待遇不同，损害了消费者的公平交易权[6]。若平台企业对在相同条件下进行交易的消费者在交易价格等交易条件上实施差别待遇而无正当理由加以解释，则会进一步构成反垄断法意义上的价格歧视行为。

2.3 自我优待

由于个性化推荐的基础仍是平台企业所提供的智能算法，平台企业是否会对算法自动化决策的结果进行人为干预，能否保障个性化推荐过程中的“算法中立”也就成了值得讨论的一个问题。以谷歌为例，2017年6月谷歌被欧盟委员会指控利用算法提升旗下比较购物网站的搜索结果排序，以打压其他竞争对手、构成自我优待而罚款24.2亿欧元。这是因为个性化推荐的呈现方式往往表现为特定的页面排序，无论是搜索引擎提供的显示次序或是主页的推荐顺序，自我优待的平台企业往往会通过修改搜索排名因素的权重以及人工干预的方式对原算法排序结果进行人为调整，从而将自己的自营商品优先显示在页首位置，可以占据有限的消费者的注意力，吸引大部分的消费者流量；而竞争对手的商品则被隐藏在不显眼的位置，导致竞争对手商品曝光不足，难以获得市场的关注。一方面，这损害了消费者作为消费者的合法权益；另一方面，这种自我优待行为侵害了平台内其他经营者参与公平竞争的权利，如果像谷歌这般具有市场支配地位的平台企业实施自我优待行为，还会造成严重的排除、限制竞争后果。

2.4 损害消费者其他利益的行为

首先，在个性化推荐过程中，不少平台为了追求个性化推荐的精确度，出现大量搜集消费者允许范围之外的个人信息和消费习惯的情况，部分平台甚至还购买消费者的个人信息，或与其他平台达成隐私分享协议，严重侵犯了消费者的隐私权与信息的安全权。其次，在数字经济中，个人数据被认为是消费者为了获得平台提供的免费网络服务而支付的对价。对于个性化推荐中不当收集和处理消费者数据的情形，有不少西方学者提出用过高定价这一竞争法的概念来对其作出解释。因而，如果使用个性化推荐给消费者造成损害的平台企业具有市场支配地位，并假借免费提供个性化推荐服务之名，隐性强迫消费者向其提供“过多”的数据，就可能被认定为是对市场力量的剥削性滥用，构成过高定价[7]。平台企业构成过高定价或通过不当收集和处理数据，以维系和强化其市场支配地位就涉及排除、限制竞争，损害消费者利益。最后，在这个过程中，消费者所让渡给平台企业的个人信息的处理权和使用权与平台企业提供给消费者的服务质量和商品质量不匹配，这也侵害了消费者的公平交易权。

3 算法个性化推荐的多元救济途径

随着数字经济的蓬勃发展，如何让消费者既能充分享受到算法个性化推荐带来的便利而不遭受其带来的损害也成为现行法律需要解决的一个重要课题。由于算法个性化推荐对于消费者的权益侵害涉及其个人信息安全、消费者服务选择权、知情权和公平交易权等内容，可以适用《中华人民共和国个人信息保护法》（以下简称《个人信息保护法》）和《中华人民共和国消费者权益保护法》（以下简称《消费者权益保护法》）来进行救济。而在算法个性化推荐这一新兴领域对于消费者权益保护还没有明确的具体规制途径，存在保护力度不足、无法形成有效救济的问题。《中华人民共和国反垄断法》（以下简称《反垄断法》）作为一部倡导公平和自由竞争的法律，可以指导平台产品公平定价、增加消费者选择、提高消费者社会福利，从市场整体角度出发来对互联网平台的滥用行为予以治理，从而实现维护消费者权益的目标。

3.1 《个人信息保护法》的救济途径

2021年11月1日起施行的《个人信息保护法》中的第二十四条较为集中的针对个性化推荐中所涉及的个人信息相关权益的保护作出统一规制，较为详细地论述了为保障消费者知情权、选择权和拒绝权等权益，平台应承担将决策过程透明化，提供不针对其个人特征的选项或者向个人提供便捷的拒绝方式的责任。这样便于行政机关、司法机关使用与援引，并作为特别法可以优先适用。

3.1.1 平台应保证决策的透明度和结果公平、公正

根据《个人信息保护法》第二十四条第一款之规定，在处理个人信息应遵循透明、公开的法律原则的基础上，进一步规定了平台利用个人信息进行个性化推荐时，应当保证决策的透明度和结果的公平、公正。透明度原则要求平台在进行个性化推荐时，应保障其决策结果及决策行为的公开、合法，并用简洁易懂的语言让消费者知悉个性化推荐是采用算法自动化决策方式作出，帮助其了解相应的决策过程。通过保证算法信息处理行为的透明度来达到破除“算法黑箱”，达到打破消费者与平台之间信息不对称的目的[8]。公平合理原则是要求平台不得过度收集与处理个人信息数据，不得打破与消费者之间的平等主体地位，不得利用个性化推荐进行“信息茧房”的算法操纵，或是利用“大数据杀熟”对消费者施以不合理的差别待遇，力图保障消费者的知情权和公平交易权[9]。

3.1.2 平台应履行提供不针对个人特征的选项或提供便捷的拒绝方式的义务

根据《个人信息保护法》第二十四条第二款之规定，平台除依据自动化决策向消费者作出个性化推荐外，还应向消费者提供其在检索或浏览均能得到相同结果的不针对个人特征的选项；或者向消费者提供便捷的拒绝方式，如加入个性化推荐开关，在消费者关闭按键后，即停止向消费者提供个性化推荐内容。要求平台保障消费者对多种信息选择的途径，避免使其陷入完全封闭的信息茧房，并给予消费者拒绝平台利用算法对其个人信息进行分析推荐的权利。

3.1.3 平台应保障个人享有的说明权和拒绝权的义务

根据《个人信息保护法》第二十四条第三款之规定，应从消费者权益方面调整个性化推荐中平台和消费者之间的关系。若平台有侵犯个人权益嫌疑的，消费者即对平台享有说明权，平台应对此予以说明和解释。而当消费者行使说明权而不得实现时，或是消费者对平台使用的算法不认可时，其则可以行使拒绝权，拒绝平台基于自动化决策所作出的个性化推荐。需要明确的是，该条规定中个人享有的说明权和拒绝权是建立在平台所进行的个性化推荐是以自动化决策方式作出，并且可能对消费者的个人权益有重大影响的基础上。若个性化推荐非完全基于自动化决策作出或是并未对个人权益产生重大影响，个人则不可以主张行使说明权或是拒绝权。

3.2 《消费者权益保护法》的救济途径

《消费者权益保护法》的目标为保护消费者合法权益，并对消费者权利和经营者义务予以规定。在《消费者权益保护法》第二章较为系统地规定了消费者对于所购买、使用的商品和接受的服务所享有的安全权、知情权、自主选择权和公平交易权。消费者作为平台的消费者可以向平台主张自身的权利并寻求救济。

但值得注意的是，上述救济途径更多的是针对传统线下消费所构建的传统保护框架，而对于平台企业利用算法进行个性化推荐所造成的新型侵害则缺乏明确的法律规定。因而，在适用相应法条时要进行适度的扩大解释，例如，针对《消费者权益保护法》第九条第一款规定的自主选择权而言，可以将消费者对个性化推荐的自主选择纳入消费者自主选择权范围，赋予了消费者私法意义上的个性化推荐的自主选择权，以便于消费者向平台主张自身权益[10]。在此扩大解释的基础上，若平台的行为达到“侵害众多不特定消费者合法权益或者具有危及消费者人身、财产安全危险等损害社会公共利益”的标准，平台消费者则可以通过消费民事公益诉讼在消费者协会或是检察院的帮助下获得权利救济。

3.3 《反垄断法》的救济途径

由于消费者与平台企业之间处于不平等的地位，在信息不对称的情况下，单个消费者往往很难及时获取案件的关键信息，因此，单个消费者难以通过《消费者权益保护法》对平台实施有效的维权行动。此外，由于对特定的、具有市场支配地位的平台的依赖性，消费者往往怠于主张权利，这就导致了部分平台企业更加滥用自身权利，进而对更多消费者造成损害[11]。基于此，在数字经济时代，除最低限度的事后救济外，还需要运用《反垄断法》对个性化推荐的市场竞争行为进行规制，通过保障市场竞争秩序的平稳运行，将尚未受到保护的内容纳入消费者保护体系。《反垄断法》中关于个性化推荐的救济途径，最重要的是认定平台的滥用行为，并改变传统的价格竞争损害评估方法，进一步将难以用具体数据进行分析的消费者损害，如消费者个人注意力分配、个人隐私安全和所取得的服务质量等作为新型损害评估方法使其融入现有的法律规制体系中。

3.3.1 平台滥用市场支配地位行为的认定

在个性化推荐中，平台滥用市场支配地位行为主要表现为两种形式：第一种是剥削性滥用，即平台企业在个人信息方面的“过高定价”、个性化定价等行为；第二种是排他性滥用，即具有支配地位的平台企业排除其他企业参与市场竞争，主要包括自我优待、歧视性交易等行为。但平台滥用支配地位的行为并不一定构成违法，在一定情形下，实施上述行为的具有支配地位的平台不仅不会抑制竞争，反而会提升效率、保障反竞争的落实。因此，在司法实践中，要根据个案的具体情况，对平台企业的具体行为是否存在对市场竞争的严重损害和对消费者福利指标的危害进行必要的评估和论证，才能认定平台是否滥用其市场支配地位[12]。

3.3.2 竞争损害审查的内容

在数字经济时代，涉及算法的消费者福利指标不应仅限于价格或者产出，而是要将相关产品或者服务的质量、信息与隐私保护水平等作为新的判断标准，由此来论述算法个性化推荐可能引发的反垄断救济方式[13]。

3.3.2.1 注意力损害评估

平台企业为消费者提供的个性化推荐服务通常以零价格形式出现，但诚如Gary S.Becker所言，人一天中所能支配的时间是有限的，当人们将更多的时间花在浏览网页这种无报酬的活动时，他们在其他营利性活动上所能支配的时间将相应减少，由此盈利性收入带来的二次消费也会减少[14]，这类盈利额与消费额所遭受的损害也是一种经济损害。而若仅以价格作为造成经济损害的唯一评估标准，此时则无法认定上述盈利能力和消费额度减少所构成的经济损害，也无法进一步认定平台企业是否产生了反垄断效果。

因而，可以将注意力损害纳入对平台企业个性化推荐所造成的经济损害评估的范围中，并且将其具体量化为广告数量变化和消费者剩余两个损害评估指标。其一，个性化推荐与广告无法割离，如百度、微博、小红书等免费服务平台的收入与在其平台上所投放的广告数量有关。这些平台企业会将广告内容植入到消费者自主选择的关注内容之中，或者作为消费者搜索结果中优先呈现的内容；广告数量越多，消费者得到其真正所需要的信息内容的时间就越长，注意力损害就越严重，因此可以将广告数量的变化作为对消费者注意力损害的替代指标。其二，对于个性化推荐营造的信息茧房而致使消费者沉溺其中所花费的大量时间，这部分损害则可以通过时间分配经济理论，将边际报酬作为时间价值的替代指标，乘以消费者在内容上消耗的总时间[15]，从而来认定竞争性的注意力损害。

3.3.2.2 隐私损害评估

隐私的保障程度对部分平台消费者来说也会构成影响其选择的因素，虽然隐私损害也无法直接衡量，但OECD（经济合作与发展组织）对于隐私评估搭建提出了具体的要求：首先，从平台对消费者个人隐私的收集、使用范围进行限制，要求满足最小化原则。其次，要求平台企业保障其收集和使用消费者信息的透明度，并向消费者提供便捷的渠道以访问、修改和删除自己的信息，从而落实消费者的控制权与选择权。最后，还要求平台加强对消费者的隐私安全保障的算法设计，一方面防止消费者数据丢失或遭到破坏，另一方面要在默认设置中就使用隐私增强保护技术从而保护消费者隐私[16]。若能参照此种框架建立我国的隐私损害评估机制，则可以对平台企业运用个性化推荐而不当收集和处理消费者数据的“过高定价”行为进行规制，以使消费者的合法权益得到充分的救济[17]。

4 结语

网络平台的个性化推荐是一把“双刃剑”，在便利消费者使用的同时，也带来了信息茧房、个性化定价、自我优待等平台不当行为的情形，可能同时对消费者个体信息权益、消费者权益和市场竞争机制造成损害。对于部分小微平台运用算法个性化推荐技术给消费者造成损害的个案，则适用《个人信息保护法》与《消费者权益保护法》以保护消费者合法信息权益和交易权益；而当《消费者权益保护法》不足以保护消费者免受具有市场支配地位的企业造成的上述损害，着眼于维护市场公平竞争秩序的《反垄断法》在一定程度上可以作为规制这些企业的有力武器。正确运用《反垄断法》评估算法个性化推荐的不当利用对市场竞争秩序和广大消费者的利益的影响，并可以将其中竞争损害评估内容从只考虑价格损害优化扩展到综合考虑注意力损害和隐私损害，这将有利于提升对消费者的保护水平，维护更多消费者的长期利益，完善算法个性化推荐给消费者造成损害的多元救济途径。