信息化时代“大数据杀熟”法律规制的困境与出路

唐 芬,闵 赟

(西华师范大学 法学院,四川 南充 637000)

信息化背景下人们与互联网的联系日益紧密,网络购物、网上缴费等成为人们日常生活中一项重要的技能,这也就滋生了部分网络平台经营者利用收集的用户个人信息,对用户实施“大数据杀熟”的不法行为。因此,研究信息化背景下“大数据杀熟”问题,对于保护消费者合法权益,维护网络安全以及健康有序的网络交易秩序具有重要的理论与现实意义。

一、“大数据杀熟”理论概述

随着互联网的快速发展,人们的生活和社会的运行发展已经无法离开信息网络。信息网络的发展以海量个人信息形成的大数据为支撑,互联网平台借此掌握了大量用户的个人信息。一方面,互联网平台对这些信息进行收集,通过计算机程序自动分析,对用户进行数字画像,给用户提供更加精准的服务,社会数字化、网络化、智能化得以加速推进;另一方面,部分网络平台随意收集、违法处理个人信息的现象时有发生,不仅侵害了网络用户的权益,而且扰乱了数字经济市场秩序,“大数据杀熟”就是近期频出的热点话题。加强网络平台个人信息保护治理,规范网络平台个人信息处理活动,成为一个亟待解决的问题。

(一)“大数据杀熟”的概念辨析

学界对大数据杀熟的概念界定主要有三种观点。第一,价格歧视说。从客观特征出发,“大数据杀熟”属于一级价格歧视(1)一级价格歧视又称完全价格歧视,是指厂商根据消费者愿意为每单位商品付出的最高价格而为每单位产品制定不同的消费价格。,即收集海量用户个人信息,通过数据分析,对用户进行精确的数字画像,从而使商家给相同商品或服务制定的不同价格相对应地落在不同用户可接受的最高价格范围上,从而实现“同物不同价”的目的,最后利用互联网消费者如果不是特意寻找其他消费者进行比价则不能在平台上单方面与其他消费者横向比对价格的特征,完成差别定价。因为手机背后的消费者大多是独自面对屏幕消费,不同的消费者就会被“手机屏幕”区隔开来,由此有效地减小客户“发现真相”的可能性[1]。第二,侵权行为说。从经营者的主观目的出发,“大数据杀熟”是经营者在经营活动中,为了谋取更多不法利益,通过大数据算法,利用在平台上重复消费的“老客户”的路径依赖和信息不对等损害消费者权益的行为[2]。第三,算法滥用说。从技术路径出发,“大数据杀熟”主要强调的是利用大数据手段“杀熟”。经营者利用大数据手段对用户的年龄、消费水平、购买记录等信息进行分析,从而实现对同一商品或服务的差异性定价[3]。

笔者认为,“大数据杀熟”是网络平台经营者通过设计的不透明的计算机算法程序,过度分析处理其收集的用户个人信息,并根据分析结果,违反定价规则给购买同一商品或服务的“新老客户”制定差异性价格,以达到谋取不当利益,侵害消费者权益,扰乱数字市场经济秩序的行为。

(二)“大数据杀熟”的特征与步骤

1.特征。第一,手段的技术性。算法体现的是设计者以及运行者的意志与利益[4],网络平台经营者既可以运用算法为用户提供精准便捷的服务,也可能利用算法侵害用户权益。“大数据杀熟”就是利用计算机算法程序对大数据的分析和用户画像技术,分析平台中海量的用户个人信息,发掘出与谋利紧密相关的一些信息,诸如消费能力、消费习惯、消费需求等信息,进而直接分析出用户的购买意愿以及可接受最高价这些数据[5],给老客户制定更高的价格,从而实现“千人千价”的定价方式。第二,定价的差异性。商家利用其收集的海量用户个人信息,通过计算机程序算法进行用户画像,当新老客户在同一时间、同一消费场景购买相同产品或服务时,根据分析出的消费需求、最高价承受度等数据,违反定价的公平原则,给老客户制定出高于新客户的价格,以达到谋取不正当利益的目的。第三,决策机制的不透明性。同一商品或服务,“杀熟”的基础是商家对收集、追踪的用户个人信息进行了计算机程序算法分析。平台一般都不会向大众公开其算法,即使公开了,但碍于其很强的专业性,普通公众也很难知悉算法设计者的目标和意图[6],就可能出现算法黑箱(2)“算法黑箱”是指由于技术本身的复杂性以及媒体机构、技术公司的排他性商业政策,算法犹如一个未知的“黑箱”——用户不清楚算法的目标和意图,也无从获悉算法设计者、实际控制者以及机器生成内容的责任归属等信息,更谈不上对其进行评判和监督。。商家利用隔着手机屏幕的消费者之间信息不对称的弊端,可侵犯消费者的知情权。

2.步骤。第一步是收集信息。各大网络平台会根据自身系统需要进行信息收集以建立大数据库,根据法律规定,信息收集需要遵守合法正当、公开透明、授权同意等原则[7]。网络平台收集信息主要有两种方式,一是在用户初次注册网站时,平台利用点击合同(3)点击合同指电子商务平台或电子商务经营者为了重复使用而预先拟定的以电子数据形式规定合同内容,往往包括消费者的手机号、个人喜好等,甚至包括消费者的通讯录及地理位置等,用户以“点击”行为表示承诺,从而达成意思表示一致的合同。使自己的信息收集行为合法合规。用户填写的基础个人信息会成为平台算法分析的基础数据。二是在用户注册完成后使用服务时,利用计算机算法技术自动收集用户信息。用户在平台上的浏览记录、购买记录、商品评价、退换货记录等信息经过长时间的累积以及与基础数据的结合分析,逐步演化成平台的大数据库。第二步是数据分析。即通过对已有数据的算法分析,发现或推测未知事实。“用户画像”就是平台利用计算机算法程序对每位用户的数据分析、整合、分类,给每个用户贴上不同消费需求、消费能力等标签的行为。现实中有很多公司利用数据分析得出的预测性广告来获取利益,这种预测性广告根据用户的已知信息来推测其敏感信息,使得用户的隐私被他人知晓,对用户的个人隐私相关权益造成了侵害[8]。第三步是算法定价。算法定价是通过数据分析,电子商务平台对消费者预期行为进行推测,对商品或服务的价格在一定范围内进行动态调整,从而最大限度地促成交易并获取利润。如果用户忽略了平台的“杀熟”路径,出于对平台的依赖以及对价格横向比对的不敏感,就容易被平台反复“杀熟”。

(三)“大数据杀熟”的危害

1.侵害了用户的知情权。对于各大网络平台来说,用户的个人信息具有易获得性以及商业价值性。平台提供服务前需要用户授予其必要信息的收集使用权,用户为了获得平台精准便捷的网络服务通常会授权平台收集使用自己的个人信息。由此,互联网平台的数据信息收集活动变得愈发便利和低成本。2020年浙江的胡女士作为经常在携程网预订机票、酒店房间的钻石贵宾客户,在预订酒店时非但没有享受到会员优惠,还支付了高于实际产品价格的费用。由此可知,不同消费者在同一平台同一商家同一时间购买同一商品、服务时,都可能被平台利用“信息茧房”(4)信息茧房指人们关注的信息领域会习惯性地被自己的兴趣所引导,从而将自己的生活桎梏于像蚕茧一般的“茧房”中的现象。造成“千人千价”。

在笔者看来,平台用来分析用户数据的计算机程序算法是非公开的,即使平台保证了算法的透明性,用户也很难通过一般常识去了解该算法,更难理解自己的个人信息究竟被平台作了怎样的分析,甚至不知道平台收集信息的具体用途是“大数据杀熟”。“大数据杀熟”违反了《中华人民共和国个人信息保护法》(下文简称《个人信息保护法》)第44条,即侵犯了用户在个人信息处理活动中的知情权。因而,对自动化决策(5)自动化决策指通过计算机程序自动分析、评估个人的行为习惯、兴趣爱好或者经济、健康、信用状况等,并进行决策的活动。进行解释说明、安全评估也是个人信息合规工作中最棘手的部分。

2.扰乱了数字市场经济秩序。近年来,我国大力推动互联网与实体经济的深度融合,各类互联网平台发展进程突飞猛进,未来,数字经济仍将扮演重要角色。根据《中华人民共和国价格法》(下文简称《价格法》),在普通市场经济中,经营者有权在公平、合理、诚实信用、非歧视规则的前提下自主制定属于市场调节的价格,很明显“大数据杀熟”的主体在制定价格时没有遵守以上规则,没有有序的价格竞争机制,就没有合理的价格形成与运行[9]。根据《个人信息保护法》,个人信息处理者利用个人信息进行自动化决策时,不得对个人在交易价格等交易条件上实行不合理的差别待遇。

“大数据杀熟”是大数据科技发展的副产品,是对数字市场经济的严重扰乱。一旦有平台经营者通过“大数据杀熟”谋取了不当利益,在利益的驱使下,一定会有更多的经营者效仿其违法收集、过度使用用户个人信息,滥用算法分析的方式制定“千人千价”,长此以往,放大了其他排他性或掠夺性策略[10],使用此种“杀熟”算法的商家在经营模式和经营利润方面都在排挤其他未使用此种算法的商家,进而抢占市场份额,形成不良竞争模式的恶性循环。另外,当消费者突破“信息茧房”,知道自己被“大数据杀熟”后,会引发他们对销售者的严重信任危机。

二、信息化时代“大数据杀熟”法律规制的困境

(一)具体法律规则适用方面:告知—同意规则的适用出现失灵

告知—同意规则是个人信息处理者合法获取个人信息的前提条件,《个人信息保护法》明确规定在获取个人信息前需要真实、准确、完整地告知信息主体需要收集信息的范围、信息的处理方式、处理目的等,在信息主体充分知情的前提下做出“同意”的决定。

在实践中,对告知—同意规则的适用出现了三个棘手的难题。一是绝大部分网络平台的“告知同意书”篇幅都很长,字体较小,且文字晦涩难懂,条款较为模糊,指向性不明显,企业往往在“告知同意书”中向用户告知较为宽泛的信息收集使用情况,涵盖范围较广,更有甚者直接将接受“告知同意书”的选项默认勾选。二是大量平台通过捆绑功能服务一揽子获取个人信息授权。“告知同意书”只留给用户接受或拒绝的选项,属于内容固定的格式条款,即使用户对款项中的部分条款不满也没有可以反馈修改的权利,导致用户一旦拒绝接受“告知同意书”,网络平台便会拒绝为用户提供服务。对于一些市场占有率较高的平台,用户只能被迫接受,毫无选择余地。三是告知—同意规则适用的信息主体绝大部分非专业法律、技术人士,充满专业术语长篇幅的“告知同意书”往往使得用户不想读也读不懂,所以用户实际上并没有“充分知情”地同意。

综上看来,虽然告知—同意规则在理论上可以很好地保障用户的个人信息权益,但是在实践中,这一规则仅从形式上约束了平台的个人信息收集、处理行为,并未在实质上约束平台对用户个人信息的违法收集以及算法分析,用户对平台是否将自己的个人信息用于“大数据杀熟”的算法分析并不知情,也无法将“告知同意书”这一协议作为维权的依据[11]。在实践中,告知—同意规则的适用欠佳,还需立法进一步进行补充。

(二)算法分析方面:决策机制不透明

“大数据杀熟”是互联网时代产生的副产品,其赖以运作的基础是商家先收集海量的用户个人信息,如用户消费记录、浏览商品服务记录、消费需求等信息,再通过人工设计的计算机程序算法对大数据进行分析,对用户进行精准画像并作出决策,符合自动化决策的要件。根据《个人信息保护法》第24条规定,个人信息处理者在利用个人信息进行自动化决策时,应当保证决策的透明度和结果的公平公正。决策机制的不透明通常使得消费者在潜移默化中被“杀熟”。决策机制目前主要存在两个问题:一是商家是否愿意公开其决策机制,平台和经营者通常将大数据算法作为商业秘密进行保护,拒绝向公众公开其算法技术和运行理念。司法实践也更倾向于以商业秘密保护算法,例如2020年商务部、科技部更新的《中国禁止出口限制出口技术目录》中提到了“基于数据分析的个性化推送技术”,tiktok的核心算法就属于此类,是不会对外公开的,也是被限制出口的;二是算法的设计与分析有很强的专业性,算法透明度对专业知识有很高的要求,非专业人士很难理解晦涩难懂的算法,即使有商家愿意公开算法,普通公众恐怕也不会仔细研究[12]。

(三)用户的举证责任方面:司法实务中举证难度大

基于“大数据杀熟”手段的技术性、决策机制不透明性特征以及“信息茧房”的影响,在司法实务中侵权人需要承担举证商家制定“千人千价”,侵害消费者权益的责任。第一,平台与消费者的专业知识不对等。虽然技术是中性的,解析算法技术可以很好地了解设计者和运行者的意图和目标,但是大部分平台都将大数据算法技术当作商业秘密保护,被侵权人很难有接触到“杀熟”算法的机会,并且平台的算法技术包含了很强的技术性和专业知识,除非是该领域的专业技术人员解读,其他普通公众面对这些算法无疑是面对“天书”。第二,消费者获取证据难。“大数据杀熟”也有变化性强和隐蔽性高的特点,用户接触的信息有限,因而在具体案件中获取证据、固定证据较为困难。平台相较于消费者,有技术优势和人力优势,在实务案件中,平台会将责任推诿给计算机系统和算法,或时间地点变化价格行情不同,辩称获取证据、固定证据的时间地点不同,价格也会不同。所以界定消费者与平台的举证责任分配范围也对规制“大数据杀熟”有重要意义。

三、“大数据杀熟”法律规制的路径

(一)补充完善告知—同意规则

超范围收集、违法使用用户个人信息是商家“大数据杀熟”的源头违法行为,制止商家的该行为对规制“大数据杀熟”有重大意义。

从实际情况来看,为了实现对信息主体知情同意权的实质保障,保护消费者的信息安全,可以从两方面着手。第一,规范隐私协议的制定。国家网信部门可以介入各平台的隐私协议的制定中,以实际问题为导向,以《个人信息保护法》中“告知同意”的相关规定为根据,对隐私协议在内容上和形式上进一步规范,例如增强具体条款的指向性,提高文字的易懂程度,保证框架清晰度,规范篇幅长度、字号等,将隐私协议的制定标准化,出台隐私协议的规范模板,起到对平台制定隐私协议方面的指引作用,提高对平台告知义务的要求,降低用户充分知情所需专业知识的要求[13]。第二,规制过度收集个人信息行为。《个人信息保护法》第5条和第6条中都有相关规定,明确了处理个人信息应当遵循合法、正当、必要和诚信原则,具有明确、合理的目的,并应当与处理目的直接相关,收集个人信息应当限于实现处理目的的最小范围,不得过度收集个人信息。在“大数据杀熟”频发的当下,我们需要思考是否对平台完全遵守合法隐私协议内容的合规性期待过高,这就需要网信监管部门组织技术领域专业人员对平台内部的用户个人信息收集、处理、管理,加强本身监督管理,促使平台提高合规收集、使用个人信息的法律意识,减少“大数据杀熟”行为的出现。

(二)组建算法监管委员会

基于“大数据杀熟”在理论上有手段技术性和决策机制不透明的特点,以及在实践上“杀熟”的核心技术——算法程序很难被解释的问题,组建算法监管委员会介入平台与消费者之间不平等的解释地位,检验平台向消费者解释的算法技术和决策机制是一个可行的建议。

组建算法监管委员会可以保障消费者算法解释权(6)算法解释权旨在通过赋予数据主体获得算法自动决策的解释的权利,明确数据控制者的解释义务,通过提高算法透明性达致重塑算法决策可责性,进而缓和算法决策隐私和歧视风险的目的,具有现实的正当性基础.的行使,在算法监管委员会中应当包含算法技术专业人员、法学专家、语言学家、社会学家等专业人士。算法监管委员会主要有两方面的作用。第一,对平台承担算法解释义务的监管。介入各大市场占有率较高的网络平台或App设计的有关消费者利益的自动化决策机制的计算机算法程序的审查中,通过委员会的专业人员对平台承担的算法解释义务的审查,验证平台算法的正当性,起到对平台的监管作用,规制“大数据杀熟”情况的出现。委员会的介入避免了要求商家将算法技术这一商业秘密公之于众的难题,也符合了《个人信息保护法》第24条规定的决策的透明性和决策结果的公平公正。第二,接收消费者的投诉信息,丰富消费者的救济渠道。算法监管委员会的组建可以充当被侵权消费者的“维权中心”,当用户简单提交证据进行投诉时,委员会应及时对该投诉进行核实,并将审查结果反馈给消费者。如若核查属实,给予被投诉平台一定警告并且退还不法利益,情节严重者还应将该平台的违法行为公示公开,避免消费者投诉难、维权难的情况出现。

(三)合理确定举证规则

尽管“大数据杀熟”是最近频出的热点话题,但是消费者能够胜诉的诉讼案例少之又少,究其原因是网络平台用户在诉讼中的证据收集、证据固定等举证能力与被告网络平台相比处于弱势地位。在相关案例中,平台用户往往是单一自然人,在诉讼中能够耗费的时间和金钱十分有限,我国民事诉讼侵权举证以“谁主张谁举证”为原则,以举证责任倒置为例外,消费者需要承担证明侵权平台企业设计算法过度处理用户信息,制定“千人千价”的证明责任。这需要消费者了解平台内部算法信息,具备专业的计算机算法知识对算法进行解释,掌握平台内部过度处理用户个人信息,以及被“杀熟”的证据,完成上述举证行为形成一个完整的证据链,无疑超出了普通消费者的证明能力,从而造成了在“大数据杀熟”侵权诉讼中,消费者维权成本高,胜诉率低,维权过程举步维艰的情况。欧盟通过颁布具体司法解释规定在此类情况中的举证责任倒置[14],我国《个人信息保护法》第69条也规定,在个人信息侵权案件中以过错推定责任为承担责任的规则,基于此,可以规定由平台来证明自己没有过错,由此大幅度减轻被侵权消费者的举证责任,降低维权成本。

(四)增强平台与用户的守法和维权意识

在如今大力推行依法治国的时代,我们不仅需要科学立法、严格执法、公正司法,还需要加强企业的法律意识。国家网信办和算法审查委员会应定期合作,组织企业开展关于“大数据杀熟”相关法律法规的学习,增强企业的社会责任感。企业有责任向社会公众解释自动化决策机制的依据,释明算法技术设计的意志,保障消费者的算法解释权和知情权,不能把“杀熟”的责任一味地推诿给计算机系统和算法。另外,给用户设置明显的投诉方式,保证用户有举报、“拉黑”的权利[15]。

在网络平台用户方面,政府需要加大对平台企业的监管力度,提高消费者的法律意识和维权意识。政府重点关注平台“杀熟”行为的监管,就能从源头上阻断平台“大数据杀熟”对用户权益的侵害,同时在线下长期开展各种网络用户个人信息保护、消费者权益保护的讲座,举办社区活动、法律援助活动,定期公布更新有“大数据杀熟”的网络平台的信息,普及公民相关领域的法律知识,增强公民的维权意识,为预防网络平台企业“大数据杀熟”侵犯消费者权益增设一道强有力的防线。

四、结语

随着互联网的高速发展,收集整合用户的个人信息成为各大网络企业竞相追逐的目标。在信息化时代,保障网络平台企业的发展固然重要,但也不能忽视对网络用户个人信息、知情权的保护。电子商务平台利用用户信息和算法技术实施的“大数据杀熟”行为给互联网市场交易秩序带来了极大的挑战。“大数据杀熟”从表层上看是一种价格歧视行为,从深层上看则反映了我国对个人数据保护的不足。现阶段针对“大数据杀熟”现象,我国提出了一系列应对策略,如《个人信息保护法》增设数据可携带权、落实用户撤回同意权、确立自动化决策的事前评估和事中审计,以及要求信息处理者进行自动化决策不得实行不合理的差别待遇等一系列规定,对规制“大数据杀熟”具有重要意义。保护网络用户的个人信息权,规制网络平台企业滥用个人信息的“大数据杀熟”应当是全面推进依法治国的题中之意。完善告知—同意规则,组建算法监管委员会,合理确定举证规则,增强平台企业与网络用户的守法维权意识,对我国信息网络的可持续发展和营造良好的网络个人信息安全生态环境有重要的理论和实践意义。