APP下载

“大数据杀熟”行为政府治理路径探讨

2021-04-08李南宇

行政与法 2021年3期
关键词:规制个人信息算法

摘      要:“大数据杀熟”行为严重损害了消费者权益。相对于传统商业“杀熟”行为,“大数据杀熟”行为更隐蔽,消费者维权更艰难。这种利用算法应用技术损害消费者权益的行为严重违背商业伦理,不仅关乎消费者个人权益,更会影响公共利益,仅凭市场调节难以纠正,需要通过法律进行救济。政府应在遵循辅助性原则的前提下,通过算法应用技术备案、建立“政府-社会”合作规制等制度,用新制度规制新技术,更好地发挥政府在治理“大数据杀熟”行为过程中的作用,保护消费者权益和社会公共利益。

关  键  词:政府参与治理;商务平台;“大数据杀熟”;APP用户;个人信息数据

中文分类号:F724.6        文献标识码:A        文章编号:1007-8207(2021)03-0084-11

收稿日期:2020-05-19

作者简介:李南宇,复旦大学法学院宪法学与行政法学2019级硕士研究生,研究方向为宪法学与行政法学。

一、问题的提出

大数据时代,互联网商务企业可以利用收集的海量数据来分析用户的消费习惯、水平、偏好和需求,勾勒出互联网用户的私人“画像”,进而提供更为精准的个性化服务。[1]若互联网商务企业合理使用互联网用户的信息,则可以提供更优质的服务,降低双方成本。然而当下互联网商务企业不合理利用互联网用户的消费信息侵害消费者权益的事件仍时有发生。2018年3月以来,网约车、在线旅游等服务行业的商务平台(以下简称平台)频频爆出滥用APP用户(以下简称用户)消费信息进行差异性定价,被指责为“大数据杀熟”,其具体表现为使用平台的老用户比新用户价格高、会员比普通用户价格高。[2]“大数据杀熟”行为不合理利用了用户对平台的依赖心理以及信息不对称的优势来获取用户的消费信息,最大程度地攫取“消费者剩余”。这种不同用户消费价格不同的定价策略引起了平台消费用户的“愤怒”,社会各界也强烈呼吁从法律制度上对其进行规范、惩治,以保护消费者权益。但目前,相关法律法规并没有明确禁止这种“杀熟”行为,“大数据杀熟”仍处于法律规制的灰色地带,一定程度上折射出在算法应用技术和大数据开发领域政府的监管力量尚显薄弱。

在利润最大化面前,对个人信息安全保护不能仅仅依赖平台基于商业道德的自我规制,还需要相应法律予以规制。具体而言,针对无良平台不合理使用用户消费信息进而损害消费者权益的行为,利害相关人可以提起侵权之诉以捍卫自己受法律保护的权益。这种属于平等主体之间的纠纷本不需要国家公权力的干涉。然而,与金融市场类似,由于用户和平台实际地位的巨大差距,僅依靠司法救济不能实现对处于弱势地位的用户进行充分保护,也无法促进新兴产业的健康发展。公共规制的另一途径——行政规制可以通过政府特定部门依靠现代化的治理体系、治理能力解决新兴产业带来的社会问题,引导、帮助和促进数据生态健康有序发展,为用户提供更加公平、合理和便捷的服务。

“大数据杀熟”这种攫取几十上百块消费者剩余的“小事”似乎不值得政府“大动干戈”去治理,然而,该问题如得不到及时处理就会带来许多社会问题。“大数据杀熟”导致什么法益被侵害,现行法律框架能否提供充足的救济,司法实践中相关案例是否具有代表性,政府该秉持什么理念参与治理,应该在消费者、企业之间发挥什么样的作用以及采取什么样的方法和措施,这些都是努力构建和谐的信息生态以及建设数字政府不能回避的问题。

二、“大数据杀熟”行为的本质和危害

在“算法经济”的驱动下,互联网商务企业已具备诸多线下市场难以比拟的优越性。在互联网不发达的时代,需要通过旅行社预定旅游车票和住宿,如今只需要打开“去哪儿”“飞猪”或者“携程”等APP,就可以得到从车票到住宿到景区门票的全部服务。第一次打开APP,其会要求用户同意开放一些权限,包括允许平台获得用户的地理位置、通讯信息、储存空间,如果用户不同意,就会自动退出平台。用户若要登录平台就必须同意这些请求。此外,对于初次使用APP的用户平台会给予很多优惠,使用户很乐于接受并逐渐对APP的便捷产生依赖,此时的用户对平台提供的价格并不敏感,直到网上曝出用户正在使用的APP存在“大数据杀熟”行为,即用户的“消费者剩余”被平台攫取时,用户才意识到平台正在“杀熟”。

(一)“大数据杀熟”:算法应用技术滥用

“大数据杀熟”是基于网络消费平台的蓬勃发展和日渐纯熟而产生的现象,是指平台收集用户消费数据后,通过算法应用技术计算出“熟客”的价格敏感度和接收度、消费依赖度,衡量其消费能力、支付意愿而对老客户制定高于新客户的价格,以此尽可能多地夺取“消费者剩余”,从而实现私利最大化的行为。[3]由上述概念可以看出,“大数据杀熟”行为的本质既包括价格歧视行为,也包括滥用算法应用技术侵犯消费者权益的行为。

⒈价格歧视。“杀熟”指经营者依据消费者个人的消费偏好数据,利用忠诚客户的路径依赖和信息不对称就同一商品或服务向其索取高于新用户售价的行为。尽管媒体和学界对“大数据杀熟”概念持有两种观点,即一种观点认为“杀熟”需要以攫取利益为目的,而另一种观点认为不需要。但双方都认同这种“看人下菜碟”定价行为的本质就是价格歧视。[4]功能强大的平台为用户省去了大量搜索时间,降低了查询成本,消费者开始更加依赖平台提供的信息作出消费决策。[5]但就是此种依赖性使得平台处于一种优势地位,为价格歧视提供了前提。

此外,平台的歧视性定价行为若想获得成功需满足两个条件,即差别化的定价能力和有限的套利空间。[6]大数据时代,只要肯投入,平台就可以具备差异化的定价能力。通过精妙的算法,“企业得以具备数据挖掘与交易、模式识别、需求预测、价格优化的能力”。[7]这被称为是“为了帮助消费者作出正确的决策”。“大数据杀熟”对平台经营者也许是“正确”的,但其却是建立在损害用户权益的基础上。技术的进步让平台经营者进行完全价格歧视(一级价格歧视)成为可能。虽然运用算法应用技术估算消费者愿意支付的最高价格需要海量数据作为支撑,对数据的挖掘也需要精妙的算法作为前提,但这不能阻碍“一人一价”愿望的实现,通过机器自我学习更新算法应用技术和跨设备用户追踪等手段,经营者可以“矢志不渝”地朝利润最大化迈进,哪怕平台经营者利润的增加是以损害用户的利益为代价的。“大数据杀熟”的第二个条件很容易满足。所谓套利空间,可以等同于平台上的消费者利用平台“倒买倒卖”的可能性从经验判定,其绝大部分都是为了享受平台提供的服务,而不是为了赚差价。基于对使用APP进行消费的用户的实证研究表明,“大数据杀熟”对顾客忠诚度有显著的负向影响,[8]用户不会容忍自己被“杀熟”。

⒉算法应用技术的异化。评价技术难以断然给出结论。技术的影响是积极的还是消极的往往取决于使用者的价值判断,算法应用技术作为一种分析工具也如此。消费者已身处的“数据化”时代,其日常行为和偏好都可以转化为数据资源。现在算法应用技术已经与我们生活的方方面面相结合,淘宝APP有淘宝推荐“算法”,滴滴APP有路线规划“算法”,就餐有餐厅APP引导“算法”,新闻有头条APP推送“算法”。客观地说,大多数算法技术应用是有益而无害的,能带来显著的社会或经济价值,包括效率的显著提高、更加便捷的消费体验以及技术中立论者所认为的客观公正等。[9]但“算法”歧视、“算法”霸权让人们认识到算法应用技术存在伦理风险,本应为用户提供更好的个性化服务的“算法”已异化为帮助平台经营者攫取消费者利益、实现利润最大化的工具。

除了攫取用户利益外,通过算法应用技术作出推测,向消费者进行推荐,还可能诱使人们进行超前消费或者购买自己并不需要的东西,以至在某种程度上调控用户的消费行为。以淘宝APP为例,浏览淘宝APP是免费的,但需要注册账号,淘宝APP用户浏览留下的各种行为轨迹都使得淘宝APP可以积累其使用的习惯数据,并通过算法应用技术作出推测,推荐给用户,之后又通过用户的点击行为进一步分析用户的行为逻辑,从而更好地预测和引导用户消费行为。如此,平台可以通过算法应用技术高效率地对用户进行持续性的行为调控。有时算法应用技术对用户行为的调控的确是为了回应用户本身的需求,但最终仍导向行为调控而获取利润。[10]同时,算法应用技术的决策过程是一个不透明、不公开的过程,容易形成“算法黑箱”。[11]在电子商务领域,消费者在线上交易过程中往往不了解自己的个人数据被如何利用,在算法决策过程中,消费者只是一个被分析的客体,使得平台利用信息不对称的优势对消费者进行产品与服务的价格设计。而当消费者对此侵害有所察觉时,即使要求平台对算法推荐的原理进行解释,算法使用者也可主张算法属于商业秘密提出抗辩。[12]综上,面对利用算法应用技术的平台“大数据杀熟”以及用户知情权因“算法黑箱”的不透明被侵害的风险,加快建立针对“大数据杀熟”行为的专项法律治理模式成为当务之急。

⒊对用户消费数据的不正当利用。平台的优惠券、免费券需要通过用户的个人信息来换取。当用户同意平台收集信息时,其就进入了个人信息安全保护的“灰色地带”。之所以说这属于个人信息保护“灰色地带”,是因为平台在声明为提供更优质的服务而需要收集利用用户个人信息并征得其同意后,就可以对用户信息(消费者的个人资料、选择偏好、流量轨迹、行为标记、兴趣爱好等)进行处理分析,形成对用户的综合评价,依此进行“杀熟”。然而,相关法律并没有明确禁止这种利用信息行为,因此,目前这种信息滥用行为尚處于法律规制的“灰色地带”。

由于我国尚未建立明确的个人信息法律保护体系,因而平台和用户的信息权限处于不平衡的情形。首先,这种不平衡体现在收集信息阶段。传统的个人信息安全保护制度以知情同意机制为核心,然而在大数据时代,大量的隐私协议导致数据主体无暇阅读,大数据技术的复杂性也导致数据主体无法真正理解其隐私风险而可能作出非理性选择。数据控制者取得的用户同意往往不是真正的同意,知情同意机制沦为一纸空文。[13]如果平台能遵守协议,在指定的范围内利用数据,“大数据杀熟”这类为用户画像却损害其权益的事件就不会出现,但现实恰恰相反。其次,对于信息的控制,平台优势更大。以淘宝APP为例,其用户所能做的只是删除本机的订单记录(类似撕毁购买商品的发票),对于自己在平台留下的“痕迹”没有直接的控制权,只能与客服联系删除,这时用户信息的控制权被掌握在平台手里,平台是否同意用户查看个人信息没有明确的标准,恣意性较强。

鉴于此,平台在收集和利用用户信息时需要做到对个人信息合规操作,在合规收集信息后更要合规利用,在向用户推荐高价位服务时也必须呈现所有价位,保障用户具有相同的知情权和选择权,这应当是商业伦理和立法保护的底线。

(二)“大数据杀熟”对消费者合法权益的损害

⒈侵害用户(消费者个人)权益。从消费者权益的角度分析,“大数据杀熟”行为侵害了消费者知情权和公平交易权。我国《消费者权益保护法》第8条明确规定消费者享有知情权利,第10条规定消费者享有公平交易权利。因此,在平台根据算法应用技术制定可能损害消费者利益的价格时应当承担告知将对其“杀熟”的义务。换句话说,平台在制定价格时,应当将定价模式以某种方式告知消费者。因为,在平台消费中,消费者无法像线下交易一样与经营者进行面对面的磋商,导致丧失知情的主动权。[14]用户有权获得质量保障、价格合理、计量正确等公平交易条件,而在“大数据杀熟”事件中,用户获得的却是普通人难以接受的受到歧视的高价,并没有获得合理的价格。这种行为还存在侵犯个人信息权和隐私权的风险。我国《民法典》第111条明确规定自然人的个人信息受法律保护,《消费者权益保护法》第29条也明确了经营者对消费者个人信息应当承担的义务。在平台不合理使用用户信息行为中,各平台通过算法应用技术可以轻松勾勒出用户的偏好、习惯,并且只要用户有一定程度的使用,就可能成为个人信息权被侵犯的对象,且侵害对象范围很广。用户个人无法有效地保护自己的隐私权,各平台通常在用户使用平台前要求用户同意的关于用户隐私信息利用的格式条款,协议条款往往十分庞杂,动辄数百上千条,用户往往没有耐心阅读就点击同意,[15]从而同意平台对个人消费信息等隐私的利用。将自己置于不能确保隐私权得到保护的劣势地位。个人信息被不当使用导致用户个人利益受损的风险大大增加。我国虽然已经初步建立起对个人信息保护的法律框架,但具体规定的缺失使对个人信息权的保护条款难以实施并发挥应然的保障和救济功能。

⒉对市场秩序和公共利益产生负面影响。除了对个人合法权益的侵害,“大数据杀熟”行为也会对市场秩序和公共利益产生负面影响。[16]对于市场整体来说,该行为违背了诚实信用原则。我国《民法典》第7条、第509条,《消费者权益保护法》第4条都规定了交易行为要遵循诚实信用原则。然而,“大数据杀熟”的原理正是平台利用老顾客的忠诚度攫取最大化的“消费者剩余”。这种行为显然违背了市场交易必需遵守的诚实信用原则,透支了消费者对该交易平台的信任,违背了商业伦理。不仅如此,滥用私人信息的行为还会产生严重的负外部性,影响社会的总体福利。[17]这种行为表面上仅侵害了单个消费者的利益,然而一旦被发现,不仅该平台的利益会遭受重大损失,新产业的声誉和前景也会受到间接的影响,产生的连锁反应会危及市场正常秩序。因此,建立完善的信用保障机制,形成“诚信受益,失信惩戒”的良好秩序,需要通过立法规范算法技术被滥用行为,从而保护用户消费信息。

诚然,价格歧视的影响也不完全是负面的。如果价格歧视的首要目标是实现社会共同目标而不是利润最大化,如果这种价格歧视处在透明公正的市场环境中,如果产品整体品质能够因此提升,那么这种价格歧视就不应该抵制。[18]但若平台仅为了获利,利用价格歧视来最大化“消费者剩余”,就难以维系平台和用户间的信任纽带,平台也会因违反市场公平正义造成极大的负面影响。

综上所述,“大数据杀熟”行为既侵害了因信息不对称而处于弱势的用户的合法权益,也存在滥用个人信息的风险,给线上交易环境带来不良影响。而且仅仅依赖道德约束不能见效,需要进行法律规制。目前,针对“大数据杀熟”行为,用户可以选择通过自力救济或社会救济的方式维护权益,也可以通过民事诉讼这种公力救济方式寻求保护。虽然为了提高市场经济效率,保护企业和经营者的创新创造行为,政府不会直接对市场经济行为进行干预,但是,当市场面对消费者个人信息保护“灰色地带”无法自行调处时,就需要政府有条件的介入。[19]

三、政府治理“大数据杀熟”行为的现状:实践和文本检视

(一)实践检视

⒈基于法院裁判。司法实践中,随着平台使用的增加和侵权事件的频频发生,用户开始通过诉讼方式保护自己在个人信息数据方面的权益。在检索结果中,以“大数据杀熟”为由提起诉讼的案件较少,仅有一起公布案件。尽管只是消费者维权的一次尝试,但在一定程度上也体现了消费者面对价格歧视时的“愤怒”。在原告刘某与被告北京三快科技有限公司侵权责任纠纷一案中,刘某认为被告对其多收取的一元钱配送费是“大数据杀熟”区别定价,侵犯了其知情权、公平交易权等,遂诉至法院。被告辩称配送费会因骑手的数量、接单意愿等产生波动,并非“大数据杀熟”。一审法院驳回了原告的诉求,认定三快科技公司根据平台交易量对配送费进行动态调整是自身的经营行为,不构成对刘某的侵权。二审维持了原判,裁判理由是现有证据不足以证明被告利用大数据区别定价。最终,原告承担了两次审理费。从本案可以窥见,即使用户能意识到自己被区别对待,也难以找到证据证明这是不合理的对待,更难以证明这种对待是由大数据和算法应用技术支撑得出的判断。

尽管目前以价格歧视为由与平台对抗的案例稀少,但以平台侵犯个人信息安全为由的案例却初现端倪。在这些案例中,平台似乎并未攫取“消费者剩余”,却在收集、储存、利用消费者数据的过程中出现差错,给平台使用者造成更大的损失,违背了收集消费者个人数据是为了提供更好的服务和用户体验的承诺。在申某诉携程、支付宝(平台)侵权责任纠纷一案中,原告申某称正是因为携程和支付宝(平台)泄露了其个人信息,导致在退票时被诈骗分子骗取118900元,法院最终认为泄露的信息能识别申某,属于民法保护的个人信息,法院认定“携程存在泄露申某涉案个人信息的高度可能”。在举证责任方面也偏向处于弱势地位的申某,判决携程(平台)赔偿申某5万元。在某种程度上,法院的判决体现了个人信息保护法律体系对个人信息的确认和保障。而在另一起不正当竞争纠纷案中,微博诉称脉脉(平台)非法抓取、使用其用户信息,并非法获取用户手机通讯录联系人与微博用户的对应关系信息,以此提供服务及牟利。最终法院认定脉脉(平台)危害到新浪微博平台用户信息安全,损害了新浪微博的合法竞争利益,对新浪微博构成不正当竞争。在解决两个企业纠纷的同时,法院也认识到数据在流动、易手的同时,可能导致个人信息主体及收集、使用个人信息的组织和机构丧失了对个人信息的控制能力,造成个人信息扩散范围和用途的不可控,倡议平台运营者在采集利用用户数据时应履行管理义务。

案例表明,平台作为用户个人信息控制者所需要承担的管理责任已经引起法院的重视,对于因为平台管理不当造成信息泄露给用户造成损失的情况,将举证责任更多地让处于强势地位的平台承担,但对于“大数据杀熟”这种“轻微”的行为态度极为宽松,因数目不大、举证不足,用户只能忍气吞声,没有弥补权益损失的好办法。

⒉有关部门的执法行动。在执法领域,行政機关对用户信息保护行动也在进行,但针对价格歧视行为,可能会因界定困难、执法结果具有不确定性而保持谨慎态度,没有介入。

2019年以来,行政机关开始积极介入个人信息安全领域,保护个人隐私和信息安全。大体而言,分为专项组专项治理、举报平台监督等一系列事后处罚方式。中央网信办、工业和信息化部、公安部、市场监管总局决定,自2019年1月至12月,在全国范围组织开展APP违法违规收集使用个人信息专项治理工作。成立APP专项治理工作组,研究并制定了一系列APP个人信息保护相关技术指导文件和政策文件,为平台自查自纠和网民社会监督提供参照,对侵害消费者信息安全的行为提供了确认标准。2019年9月,在国家网络安全宣传周期间,中央网信办相关负责人介绍,专门针对APP违法违规收集使用个人信息的举报平台已经建立完成,截至9月,已收到近8000条举报信息,其中实名举报占比近三分之一,并向100多家平台发送了整改建议函,评估发现的问题得到了有效整改。专项治理多采取通报、下架、责令整改等方式。由此可见,在用户个人信息保护领域,中央网信办、工业和信息化部、公安部、市场监管总局联合专项治理已通过“运动式”执法的方式,集中、高效打击了违规违法信息收集利用行为,健全举报渠道也为专项治理找准“标靶”创造了条件。

目前,处于监管“灰色地带”的“大数据杀熟”行为,主管部门和执法部门还没有给予足够的重视,一方面,对于被动接受价格的大部分用户,“杀熟”是难以察觉的,“不够精明”的用户不会货比三家,而平台却能利用大数据和算法应用技术攫取“消费者剩余”;另一方面,监管部门多采用事后监管的方式,只有在“杀熟”达到一定程度的破坏力时才会监管,起到“亡羊补牢”的作用。

在大数据领域,行政机关监管的目标是找到行业安全和行业创新的平衡点,既要确保企业积极创新,又要保障市场发展秩序,但现有行政规制能力与该目标的实现并不完全匹配。首先,规制工具单一。我国《行政许可法》体现了有限政府的原则,但这并不表示政府应该对新业态、新技术“袖手旁观”,反而要求特定监管部门创新监管方式,实现治理能力现代化。在事前监管无法可依时,事中和事后监管就越发重要,但实践中,行政机关为追求治理效率,一方面倾向于采用强制、处罚等规制工具,[20]对其他柔性工具的接纳程度和使用频率都处于较低水平;另一方面对规制工具的创新未予重视,信息工具等新型措施没有得到充分利用。[21]其次,平台规制难点在于业态错综复杂,利益多元交织。以平台为代表的企业、以用户为代表的社会、以公权力为代表的政府,各自的利益追求也各不相同。用户个人势单力薄,需要通过行业协会(如消费者协会)来维护自己和集体的权益。行业自律也是保护个人信息安全的重要补充,可作为权利救济的途径之一。然而,规制主体呈现扁平化状态,较多地是依赖行政机关达到行政目的。如果行业出现的纠纷只能通过行政手段解决,不仅会造成行政资源浪费,还可能为权力寻租提供土壤。

(二)规范文本考察:个人信息保护立法框架审视

2017年,我国《网络安全法》正式实施,成为网络时代个人信息保护的基础法律规范。近年来,个人信息保护的专项立法也在不断推进。自2019年开始,中央网信办、工信部、公安部、市场监督管理局等部门加快了涉及个人信息保护和数据安全的部门规章及其他规范性文件的制定,相对于《网络安全法》,近期发布的大量涉及个人信息保护的规范性文件,制定的个人信息收集使用规则,对个人信息的收集、保存、使用、更新等都有了更加明确和详细的规定。

在法律层面,我国《消费者保护法》第32条,《网络安全法》第41条、第43条,《电子商务法》第18条为消费者消费信息保护提供了规范依据;《电子商务法》第77条,《网络安全法》第64条,《侵害消费者权益行为处罚办法》第3条等,亦作出了相关的行政处罚规定。然而,用户信息利用的规制和面向用户的价格歧视规制以及具体的规定屈指可数。2019年,文化和旅游部研究起草的《在线旅游经营服务管理暂行规定(征求意见稿)》中,对“大数据杀熟”这种价格歧视行为作出禁止性规定,然而该暂行规定只针对在线旅游经营者,仅属于平台种类中的一类。

总体而言,立法层面对用户信息数据保护由一部《网络安全法》统领,由网信办、公安部和工业、信息化部等不同部门若干部门规章作基石,以APP专项治理工作组发布的规范性文件和指南进行细化认定,配套《个人信息安全规范》等国家或行业标准,构成了当下APP用户信息保护的法律框架。但对于滥用信息的行为,如对“大数据杀熟”行为的重视程度还不够,急需出台专项规制方案。2020年3月6日,国家市场监督管理总局国家标准化管理委员会正式发布2020版《个人信息安全规范》,其中7.4明确规定了对用户画像的使用限制,7.4.b(1)规定了画像不能用于侵害公民的合法权益,为阻止“大数据杀熟”提供了标准层面的依据。7.5对个性化展示的区分体现了对消费者知情权的尊重,7.7也对自动决策机制(包括算法应用技术)要求提出实施前和实施中评估并提供投诉渠道的要求。该规范在进一步保护消费者对自己信息数据的自决权和知情权方面有所进步,而这些针对企业的建议或要求也是对用户信息保护加强的重要指引。

四、政府参与治理“大数据杀熟”行为的可能进路

消费者个人信息滥用对社会公共利益所造成的侵害是政府进行治理的充分条件。然而,行政参与同样具有负外部性,政府过度或强势监管很有可能阻碍新兴产业的发展,违背公共利益,损害消费者整体利益。并且,服务型政府建设要求行政人员树立“社会本位、权利本位”的理念,政府与公众的关系将转化为服务供给者与消费者的关系。从这个意义上讲,企业与消费者都是政府公共服务的接受者,政府监管的目标是找到数据产业安全和创新的平衡点,如何把握好“度”,即在消费者和互联网商务企业出现冲突时发挥好“疏通”和“指导”作用,亦是当下数字政府建设中不可回避的问题。

(一)发挥个人信息安全保障职能应遵守辅助性原则

遵循辅助性原则对政府治理平台“大数据杀熟”至关重要。辅助性原则是指社会、个人不能或者不愿从事经济活动或获得福祉时,国家才可以介入,从而赋予国家介入行为的正当性。[22]借助于辅助性原则,可以明确什么时候需要国家出面来履行经济调节、市场监管、社会管理和提供公共服务的职能。[23]遵循这一原则,只有在权利受侵害的私主体(如被“杀熟”的用户)无法结成组织,或即使结成也无力保障其对抗强大的平台时,行政规制主体才能对平台进行规制,对弱势消费者提供“生存照顾”。这不仅是为了避免政府过早的“照顾”会让私主体丧失“为权利而斗争”的主动性,也是为了避免国家在公益的幌子下扩张权力,最终成为个体权利的“唯一保护者”。[24]

在技术快速发展的时代,法律制度的更新经常落后于技术的进步。针对滥用算法应用技术侵害消费者权益行为,在立法沒有及时跟进的情况下,需要行政规制部门以公共利益为目标,在法律的拘束下发挥能动性,与时俱进地不断进行改革,以形成推进经济建设和社会发展的管理方式。[25]贯彻辅助性原则的行政理念,是政府治理市场又不损害社会总体福利的前提要件。在提升国家治理能力的新时代,政府对弱势群体的保护不应也不能缺席。遵循辅助性原则不能因为互联网经济一出现问题就马上动用政府监管或者传统思路的政府监管。在政府确实需要进行监管并作出重大监管决策之前,应该进行必要的比例原则分析和成本收益分析。[26]明确政府权力介入经济领域的启动原则和条件,既符合当下“放管服”改革的趋势,也是逐步实现国家治理能力现代化的体现,同时也有助于互联网平台合作治理土壤的形成。

(二)对使用的算法应用技术应采取事前备案方式

算法应用技术作为一种工具,在使用过程中会发现用户的价值取向,若能采取事前备案制就能对其使用是否合法合理作出预测,降低被滥用的风险。因在技术层面可能涉及企业的商业秘密,若采取强制披露的方式不利于市场提供创新服务,采取审批或核准制则可能有损效率,因此对其采取相对温和的备案制可能是一个适当的行政规制手段。

有研究者认为,智能互联网时代形成了“公权力——私权力——私权利”之间复杂博弈的新格局,三者之间都可能发生合作或对抗,这在很大程度上改变了以往国家与社会、权力与权利的关系结构与功能。[27]正是由于平台构建和算法应用技术采用可能出现的伦理风险、行为调控以及“算法黑箱”的不透明,使三者中“私权力”迅速扩张,“私权力”的扩张产生了新的欲望(如对“消费者剩余”最大化的攫取),导致了包括“大数据杀熟”在内的侵害用户权益问题的存在。如果对算法应用技术解释的权力、解释数据利用方式的权力集中在平台,难以避免权力的滥用,就必然存在平台利用算法实施对消费者“霸凌”的风险,平台“大数据杀熟”也许只是“冰山”一角。“私权力”对“私权利”的侵犯成为对“私权力”进行约束的前提条件。算法应用技术使用的不透明会使私权利寻求救济变得困难,商业秘密成为平台不披露算法模型的“挡箭牌”。政府秉持辅助性原则进场,则必然在事前就对“算法”逻辑进行监管,以减少平台肆意滥用算法应用技术的风险,在平台借助备案提升市场形象的同时使其必须承担信息合规的责任,为三方“共赢”提供可能。具体而言,政府可以采用备案的方法掌握平台使用的算法逻辑,防范其采用歧视性算法侵害消费者权益带来的风险。算法应用技术使用事前备案,要求义务人向监管机构备案其“算法模型”或“算法逻辑”,并且监管机构应全面掌控和不向社会公开这些信息。通过这种形式上的审查,保证平台在追求利润的同时头上悬着“达摩克里斯之剑”,为实现公共善保留最低程度的公平、非歧视道德底线。当然,这种形式的审查不会影响企业技术创新、提供更优质服务的积极性,只是将违法、违背商业伦理追求利润的想法剔除出市场竞争。

(三)促进“政府—社会”合作规制制度的建立

在“公权力——私权力——私权利”之间复杂博弈的新格局中,对于个人信息,平台在公权力之前取得了技术层面的优势,公权力要想获得制衡“私权力”的筹码,就需要更新技术以匹配新规制。大数据时代,新兴产业的专业性是数字政府建设过程中不可回避的问题,也是对新时代行政管理能力提出的挑战。因此,对“大数据杀熟”行为的治理必须重视技术层面能力水平的提升。行政监管机关可以通过相关专业人才的选拔、专家顾问制度、大数据管理专员设置等多种方式提高监管水平,用制度规制技术,使规制能力与规制目的相匹配。部门合作的进步也需要技术的加持。针对部门合作问题,2016年,国务院以建立消费者权益保护工作部际联席会议制度来强化部门间协作配合。2019年9月12日,国务院发布的《国务院关于加强和规范事中事后监管的指导意见》要求“构建协同监管格局,打破条块分割,建立健全跨部门、跨区域执法联动响应和协作机制”。然而,面对新兴产业出现的问题,仅靠文件不足以建立完善的协调配合机制,还需要通过技术手段加以协调,构建“互联网+”行政执法的新生态,如借助信息平台推进行政执法一体化,[28]打破部门间“信息孤岛”,发挥行政机关合力的作用。

在政府规制能力提升的同時,行业自我规制也不可或缺。未来互联网行业协会自我规制的发展需要政府更多的赋权。[29]如美国非常重视个人信息保护的行业自律,希望通过行业间的自我约束来实现对个人信息的合法合理处理,以期达到实现个人信息最优化配置的同时保护个人信息。[30]我国香港特别行政区《个人资料保护条例》将行业自律规范称为“实务守则”,在第三部门作了专门规定,以期提高行业自律准则的法律效力位阶,增强自律规范的强制性。[31]目前,我国行业协会、商会管理体制还需要进一步完善,在平台侵害用户利益事件曝光后,行业协会等社会组织并未发挥公私协作、协同治理的作用,原因之一就是在自身动力不足的情况下缺乏外部的约束力。因此,过度依靠行业自律很难得到满意的结果。在这种情况下,将政府的执行角色趋于最小化是一种可能的出路,这里可以引入公共规制领域“自我规制”的概念,即外部规制者有意促使规制对象本身针对公共问题,作出内部式的、自我规制性质的回应。[32]个人信息泄露的主要原因并非安全技术漏洞,而是公司内部管理不善。若政府将部分规制权下放到社会,由行业内部进行自我规制并将效果反馈给规制者,从而达到政府与社会的合作规制,更有利于网络信息安全生态的建立。平台可以通过制定行业自律公约、编制行业发展评估报告等方式建立行业自律模式。如电商龙头企业应带头制定平台行业规范、自律条款进行引导和示范。政府行使规制权,出台规制政策或作出其他重大决策前,应当广泛听取行业协会的意见,以保证决策的科学性和可接受性。

总之,政府应遵循辅助性原则,采取“算法备案”等措施,用新制度规制新技术,努力建设数字化监管体系。政府与社会的合作规制也应针对新领域寻求行政规制的可能进路,转变观念与其相匹配,在保障市场经济基本秩序和效率的同时,保护消费者利益,维护市场经济秩序,发挥服务型政府应有的作用。

【参考文献】

[1]卢文,陈沛.大数据时代价格歧视行为的法律规制路径[J].网络信息法学研究,2019,(1).

[2]李美儒,庞允琛.大数据杀熟的法律规制与市场监管体制[J].北方经贸,2019,(6).

[3]于夕媛,陈润泽.大数据“杀熟”的法律规制[J].经济师,2019,(5):56;邹开亮,刘佳明.大数据“杀熟”的法律规制困境与出路——仅从《消费者权益保护法》的角度考量[J].价格理论与实践,2018,(8).

[4]詹好,邵靳天,黄智威.“大数据杀熟”:概念澄清及解决方案[J].软件,2019,(8).

[5][6][7][18](英)阿里尔·扎拉奇,(美)莫里斯·E·斯图克.算法的陷阱:超级平台、算法垄断与场景欺骗[M].余潇译.北京:中信出版社,2018.

[8]王雪婷,孙晓雅.大数据“杀熟”对顾客忠诚度的影响实证研究[J].电子商务,2019,(7).

[9]解正山.算法决策规制——以算法“解释权”为中心[J].现代法学,2020,(1).

[10]张凌寒.算法权力的兴起、异化及法律规制[J].法商研究,2019,(4):63-75.

[11]许可.人工智能的算法黑箱与数据正义[J].社会科学报,2018,(6).

[12]张凌寒.商业自动化决策的算法解释权研究[J].法律科学(西北政法大学学报),2018,(3).

[13]谢琳.大数据时代个人信息使用的合法利益豁免[J].政法论坛,2019,(1):75.

[14]王桦宇,李想.运用法律完善互联网行业监管[J].检察风云,2019,(14):18-19.

[15]赵佳慧.大数据背景下网络隐私侵权的探究——以“杀熟”事件为视角[J].改革与开放,2019,(12).

[16]何跃军,周婕,杨淑琴. 新兴行业行政规制的正当性与界限——基于打车软件行业的现实主义观察[J].宁波大学学报(人文科学版),2016,(6).

[17]沈广明.分享经济的规制策略——以辅助性原则为基点[J].当代法学,2018,(3).

[19]郎佩娟.政府干预经济的原则与界限[J].中国政法大学学报,2018,(4).

[20]张效羽.互联网分享经济对行政法规制的挑战与应对[J].环球法律评论,2016,(5).

[21]李帅.互联网数据治理的时代挑战及行政法应对[J].华南理工大学学报(社会科学版),2019,(3).

[22]沈广明.分享经济的规制策略——以辅助性原则为基点[J].当代法学,2018,(3).

[23]刘莘,张迎涛.辅助性原则与中国行政体制改革[J].行政法学研究,2006,(4).

[24]刘学涛,安子明.论行政给付中的国家辅助性原则[J].行政与法,2017,(6).

[25]杨建顺.中国行政规制的合理化[J].国家检察官学院学报,2017,(3).

[26]沈岿.互联网经济的政府监管原则和方式创新[J].国家行政学院学报,2016,(2).

[27]马长山.智能互联网时代的法律变革[J].法学研究,2018,(4).

[28]袁雪石.建构“互联网+”行政执法的新生态[J].行政管理改革,2016,(3).

[29]李洪雷.论互联网的规制体制——在政府规制与自我规制之间[J].环球法律评论,2014,(1).

[30]孔令杰.个人资料隐私的法律保护[M].武汉:武汉大学出版社,2009.

[31]齐爱民.拯救信息社会中的人格——个人信息保护法总论[M].北京:北京大学出版社,2009.

[32](英)科林·斯科特.规制、治理与法律:前沿问题研究[M].北京:清華大学出版社,2018.

(责任编辑:牟春野)

Analysis on the Approach of Government Participation in the Gover-

nance of “Big Data Kills Maturity” of App Business Platform

Li Nanyu

Abstract:In recent years,some app business platforms “big data killing” have damaged the rights and interests of consumers,and attracted widespread attention of the society.Compared with the traditional commercial “kill familiar” behavior,APP business platform “big data killing” is more hidden,and consumers' rights protection is more difficult.This kind of behavior which damages consumers' rights and interests by using algorithm application technology is seriously against business ethics,which is not only related to the personal rights and interests of consumers,but also affects public interests.It is difficult to correct by market regulation,and public relief is required through law.However,it is difficult for the current law to regulate such acts that damage the rights and interests of consumers,making it a “grey zone” of legal regulation.Although the legislation of our country has strengthened the protection of personal information data security of APP users,and the law enforcement departments are also acting,they have not attracted the attention of law enforcement and legislation departments.Therefore,the government should,on the premise of following the principle of auxiliary,regulate new technology by means of algorithm application technology filing,establishing the “government society” cooperation regulation system,and so on,and better play the role of government participating in governance of “big data killing” on app business platform,and protect consumer rights and social public interests.

Key words:government participation in governance;business platform;big data kills maturity;app user;personal information data

猜你喜欢

规制个人信息算法
保护死者个人信息 维权要不留死角
敏感个人信息保护:我国《个人信息保护法》的重要内容
浅论非法使用个人信息的刑法规制
主题语境九:个人信息(1)
Travellng thg World Full—time for Rree
中国社会组织自我规制的原因浅析
新常态经济规制及其制约机制完善
浅析我国行政规制的法制完善
学习算法的“三种境界”
算法框图的补全