APP下载

算法价格歧视的规制困境与治理新解
——基于算法解释权的视角

2022-03-14韩世鹏

科技与法律 2022年6期
关键词:解释权经营者价格

韩世鹏

(厦门大学台湾研究院,福建 厦门 361005)

引言

算法价格歧视又称“大数据杀熟”,相较于“传统杀熟”,此类行为准确度更高、隐蔽性更强、涉及面更广、规制难度更大。经营者利用算法与大数据,突破场景限制,将之前为完成消费服务而收集的消费者个人数据信息,用于对消费者精准“画像”并据此攫取“价格剩余”,最终实现“千人千价”“看人下菜”。算法价格歧视不仅违反商业伦理道德,更涉嫌侵犯用户的隐私权、知情权、公平交易权、反悔权等一系列权利,在某些情形下甚至可能构成欺诈与垄断。在学界,对于算法价格歧视,基于《平台经济领域的反垄断指南》以及《中华人民共和国反垄断法》(以下简称《反垄断法》)修订这一背景,已有研究成果倾向于通过经济法的思路予以规制,诸如对“交易相对人”进行扩张解释、将消费者福利作为反垄断法的规制目标等。事实上,算法价格歧视的本质在于数据滥用与定价算法,而“算法黑箱”的存在导致消费者与执法机构无法窥探自动化定价的原理,这也意味着对其指控往往缺乏足够专业的证据支撑。因此,如何针对算法技术本身的“祛魅”,实现对算法价格歧视穿透性监管,成为亟待考量的问题。

一、算法价格歧视的技术逻辑与危害表征

人工智能时代下,大数据已然成为一项新兴、核心、高价值的资产。算法的深度学习、无监督学习不再单纯地依靠决策树、预定义模型以及分类结构等人为设定权重要素的信息,而是借助算法程序指引自动选择数据特征,通过对每一项数据属性进行观察、描述、反馈、分析、归类、画像,实现自我设定标准、自我遴选数据以及自我评估结果[1]。在交易消费领域,大数据与算法的结合使精准营销和个性化服务成为可能的同时,也为经营者侵蚀消费者利益提供了机会,算法价格歧视便是这一问题的真实写照。

(一)算法价格歧视的技术逻辑

算法价格歧视,又常被称为大数据杀熟,是指平台经营者通过搜集、分析消费者消费行为的相关信息,推导出消费者可接受价格的范围区间,从而进行区别定价的行为[2]。事实上,价格歧视虽然带有“歧视”字眼,但在经济学上,该词却是中性的。随着数字经济的蓬勃发展,算法价格歧视具有“一展拳脚”的技术条件与市场条件,并逐渐成为商家剥削消费者的代名词。一方面,大数据和算法使得平台具备实现一级价格歧视的技术条件。算法通过抓取、分析用户浏览的关键词,推测用户的兴趣偏好,从而实现精准“投喂”。同时,平台深度分析注册用户的使用习惯与消费偏好,配置更容易被其接受的价格,最终实现一人一价,无限接近于一级价格歧视[3]。另一方面,双边市场属性使得平台具有实施价格歧视的市场条件。数字平台呈现典型的双边特征,即平台向两个相互区别且相互联系的客户群提供服务,这类情形以平台内商家与消费者为典型代表。双边平台可以通过算法程序快速匹配交易对象,压缩沟通成本,实现双边客户的获益。

不难发现,传统商业实践中的“杀熟”行为是个别、粗糙和高风险的,而算法价格歧视由于算法与大数据的加入而更为隐蔽与智能。具体而言,第一,隐蔽性。这种隐蔽性由两个方面导致:一方面,算法价格的自动化决策往往发生在电子商务领域,尤其是日常生活消费。由于每个消费者在购买、使用商品或者接受服务时均处于相对独立的状态,消费者之间彼此隔离,难以实现及时的沟通对比;或者彼此沟通对比的代价很大,导致算法歧视很难被发现[4]。另一方面,基于信息不对称的优势,算法解释权牢牢掌握在商家一端,普通消费者难以识别、理解价格构成以及浮动逻辑。第二,广泛性。算法自动化定价的运行逻辑在于算法设计者提前输入算法程序,任何消费者的行为满足参数要求时便会自动触发系统运行,最终系统完成运算并展现“相应的价格”。不难发现,算法歧视针对的是整个平台内所有的消费者;而由于我国网民基数极为巨大,这就使得算法价格歧视的辐射范围非常广泛。第三,举证困难。一方面,诚如前文所述,算法决策的隐蔽性使得消费者难以发现价格歧视,而算法黑箱的存在导致消费者无法有效举证价格歧视的不利后果,商家反而会以价格测试、系统失灵、商业秘密等理由抗辩。另一方面,学界对算法价格歧视的概念尚无统一意见,司法人员更难以准确判定该类行为的内涵与边界,这将使得消费者的举证过程举步维艰。

(二)算法价格歧视的危害表征

算法价格歧视的目的是经营者借助算法对支付意愿较高、价格承受能力较强的消费者提升价格的同时,保留对价格敏感的低端消费者群体,实现整体利润的提升。这一过程中,消费者的公平交易权、知情权、自由选择权等正当权利受到限制;更为关键的是,平台商家有通过算法合谋剥削用户、实施垄断的嫌疑。

首先,算法价格歧视强化了平台剥削性滥用程度。算法价格歧视可以扩大产出,满足更多消费者需求;还能促进竞争,当行业内的经营者均采取相同策略时,价格歧视将导致整个行业价格下降;甚至创造动态激励,从而提升企业生产的效率[5]。但其负面影响同样明显,尤其表现在反垄断领域,即算法价格歧视往往被认定为企业榨取利润、扩大优势的强力工具。一方面,算法程序的隐蔽性、高效性以及技术中立性,可以对经营者的垄断合谋提供便利条件,破坏公平的市场竞争环境[6]。另一方面,算法价格歧视同样存在实施差别待遇、谋求超额利润的嫌疑[7]。无论是互联网巨头还是中小型企业,适用算法的成本较低,收益却十分巨大。因此,主导企业常对忠诚客户索取高价,对其他客户索取低价,从而排挤竞争对手,这也可能会因限制了竞争而对消费者产生间接损害。因此,在缺乏正当理由的情况下,平台对终端消费者实施的差别待遇极有可能构成剥削性滥用行为[8]。

其次,算法价格歧视使得消费者剩余与社会整体福利冲突加剧。反对算法价格歧视的最有力的理由是该行为减少了消费者剩余[9]。尽管表面上弱势群体数量更为庞大,社会总体福利似乎有所提高,实则不然,原因在于厂商借助价格歧视总能确保这部分增加的剩余全部以利润的形式流向企业,保留价格较高的消费者在统一定价下可享受的消费者剩余不复存在,消费者整体将受到“损害”。因此,一旦头部消费者丧失对经营者的信任,非理性拒绝交易或者提起诉讼,经营者所仰赖的算法程序无法妥善处理消费者的不满情绪,最终付出的成本将可能远远高于既得利益[10]。彼时,利益相互抵消,即便是低端消费者也会成为算法价格歧视的牺牲品[11]。

最后,算法价格歧视是对私法价值的严重背离。算法价格歧视违反了私法公平与诚实信用原则。一方面,算法价格歧视违反了公平原则。民法的私人自治理念要求赋予民事主体权利的自由,但这种自由并非毫无边界,而是由另外一项原则——公平原则所限制。原因在于,基于经验、地位,尤其是信息、技术的不对称,民事活动往往出现诸多不正义的结果,公平原则便是保证结果正义的强力工具。在算法价格歧视中,囿于算法黑箱的存在,消费者无法掌握经营信息以及算法定价逻辑,进而难以发现自身在交易活动中可能遭受的人格与财产损害,最终产生买卖合同结果上的不正义,违反了公平原则。另一方面,算法价格歧视同样违反了诚实信用原则。尽管学界对算法价格歧视能否被认定为“价格欺诈”尚有争议,但随着大陆法系以及民事理论的发展,“善意”的内涵被引入诚实信用原则中,使得其成为规制算法价格歧视的有力依据。诚实信用原则中的善意要求当事人在民事活动中不能侵犯他人与社会公共利益[12]。算法价格歧视实际上是对不特定多数人权利的侵害行为,同时主观上存在恶意,非常明显违反了消费者对于“善意”的期待。

二、算法价格歧视的部门法规制困境

如前所述,算法价格歧视加剧了消费者与经营者关系的失衡状态,尤其是单个消费者失去了与经营者博弈的空间,从而使得消费者剩余被肆意侵蚀,对该类行为的规制必要性愈发凸显。遗憾的是,面对算法价格歧视带来的挑战,以《反垄断法》、《中华人民共和国消费者权益保护法》(以下简称《消费者权益保护法》)、《中华人民共和国民法典》(以下简称《民法典》)、《中华人民共和国价格法》(以下简称《价格法》)等为核心架构的消费者保护体系却呈现不敷适用的困境。

(一)《消费者权益保护法》与《价格法》的规制困境

虽然《消费者权益保护法》《价格法》是与消费者权益直接相关的规范,但其在行为定性、损害赔偿等方面仍然无法满足消费者权益的保护需要。具体而言:

首先,有学者认为,使用算法的经营者利用自动化定价程序对“熟客”提升价格,从而使“熟客”对价格基于错误认识而购买,涉嫌价格欺诈[13]。算法价格歧视中的经营者主观上具有欺诈的直接故意、客观上实施了隐瞒真情的区别定价行为、结果使消费者遭受财产损失,构成法律意义上的价格欺诈,同时也侵害了消费者的合法权益。事实上,价格欺诈的行为定性存在理论上的缺陷。原因在于,在算法价格歧视中,经营者没有虚构事实,没有告知其他消费者的交易价格也谈不上隐瞒真实情况,因此算法价格歧视不构成法律意义上的价格欺诈[14]。而且,无论是《消费者权益保护法》《价格法》等法律,还是《关于商品和服务实行明码标价的规定》《禁止价格欺诈行为的规定》等规范,对于经营者运用算法进行个性化定价的行为并没有具体规定。

其次,《消费者权益保护法》救济制度难以解决被“杀熟”消费者的损害赔偿问题。基于“谁主张,谁举证”的规则,消费者请求赔偿的前提自身遭受到损害,而这里的损害不能简单地认定为,自己被“杀熟”而支付的高价减去接受同一商品或服务的其他消费者支付的低价的落差。因为此类落差如果是偶尔的技术性偏差所导致,并不具有持续性,更不会对市场整体的竞争环境造成损害,那么这种算法价格歧视现象是否存在违法性值得怀疑。

再次,反悔权的主张无法得到司法支持。反悔权指消费者在购买符合法律规定的特定类型商品或服务之后,依照法定程序,在一定期限内享有无条件退货或退出服务的权利。算法价格歧视往往存在于网络消费领域,形式上完全符合反悔权的适用要件。遗憾的是,网络消费者一般不会刻意去“比较价格”,无法及时得知自己被“杀熟”。而且,算法价格歧视常常多发于机票、酒店、电影、电商、出行等在线消费领域,上述消费存在即时性的特征,即便消费者立刻察觉到“杀熟”行为,相关产品或服务往往已经被消耗或享受,反悔权的主张往往不被司法实践接纳。

最后,个人信息权利保护的进路“遇挫”。在算法价格歧视中,经营者收集、使用消费者个人信息通常征得了后者同意,经营者不存在泄露、出售或者非法向他人提供消费者个人信息的行为,也没有向消费者发送商业信息。可见,“杀熟”行为不符合《消费者权益保护法》第29条规定的经营者侵害消费者个人信息权利的任一情形,个人信息保护条款无法适用于算法价格歧视。

(二)《反垄断法》规制思路的不敷适用

基于《平台经济领域的反垄断指南》以及《反垄断法》修订这一背景,已有的研究成果倾向于通过经济法的思路予以规制,即将算法价格歧视行为归类为滥用市场支配地位中的差别待遇。事实上,无论是主体、行为、支配地位、竞争效果还是抗辩理由,算法价格歧视尚不满足差别待遇的构成要件。

第一,主体层面,“交易相对人”为经营者而非消费者。最新修订的《反垄断法》第22条第1款第6项就差别待遇行为进行了规定,根据体系解释以及反垄断法维护市场竞争的要旨,作为差别待遇对象的“交易相对人”仅指经营者,并不包括终端消费者。原因在于:一方面,根据体系解释,《反垄断法》第18条关于垄断协议的规定也使用了“交易相对人”的表述,这里的“交易相对人”通常不包括终端消费者。根据一致用法推定的解释原则,词语应被推定在同一法律文本中具有相同的含义,那么《反垄断法》规定的“交易相对人”也不应包括终端消费者。另一方面,根据反垄断法维护市场竞争的目的,差别待遇被《反垄断法》禁止的原因在于该行为会“致使有的交易相对方处于不利的竞争地位”,这意味着“交易相对人”仅指经营者,而不包括消费者[15]。综上,基于规范解释,消费者难以被归为差别待遇的保护对象。

第二,市场支配地位层面,诸多电商平台并不具备支配地位。指控经营者实施差别待遇行为的前提是该经营者具有市场支配地位。由于自动化定价往往发生在生活消费领域,中小型企业与商家占绝大部分比例,无论参考市场份额还是其他市场要素,上述经营者均不具备市场支配地位,因而无法被认定为差别待遇[16]。

第三,行为层面,差别对待行为事实存疑。前文业已提及,数字经济时代下,算法与数据的获取成本变得极为低廉,这就导致大量的小众平台企业得以生长,它们的存在可以满足消费者的多样性需求,从而形成长尾市场。由于平台多样,平台定位各异,同一商家提供的同一商品或者服务在不同平台的价格可能有所不同,例如拼多多内部的智能算法,更侧重于廉价销量,而天猫、京东的智能算法更倾向于好评、店铺规模和品牌,价格上也会高于前者。

第四,竞争效果层面,一般价格场景下的算法个性化定价不具有排除限制竞争的实质危害性。反垄断法意义上的排除、限制竞争的效果往往发生在经营者之间,对消费者的差别定价无法直接破坏竞争秩序。而且,《反垄断法》的内在逻辑在于恢复扭曲的竞争机制,不能也不应该涉足即使是正常市场机制也无法解决的领域[17]。因此,类比格式合同附随条款因缺乏关注而易形成垄断均衡之情形,普通消费者难以关注算法价格歧视的发生,这意味着即使由《反垄断法》调整并恢复至自由竞争市场,也无法完全“消灭”此类行为[18]。

第五,正当理由层面,经营者抗辩理由充足。证明差别定价的最后一道门槛是“经营者无正当理由”,此处的正当理由需要根据行为是否为法定,对社会公共利益的、经济运行效率与经济发展、经营者业务发展与创新方面的影响,与经营者正常经营及实现正常效益的相关性等因素做出综合判断。在算法价格歧视中,面对消费者的“诘难”,经营者往往以定价算法测试、优惠活动、程序错误,以及商业秘密等抗辩,尤其是商业秘密的抗辩屡试不爽,普通消费者的权益依旧得不到有效保障。

(三)《民法典》总则编、合同编的适用困境

消费者通过网络购买行为与商家事实上订立了电子商务合同,而算法价格歧视可能涉及认识错误、合同欺诈、显失公平等情形,因此可以主张合同归于无效,从而维护消费者的合法权益。但上述观点同样经不起推敲。首先,经营者对某些消费者在价格上的区分对待即便稍有差异,但对于交易本身公示的价格而言,消费者并没有认识上的错误。其次,消费者支付对价的行为基于自愿,价格上小幅高于其他消费者,并不会违反等价有偿原则,不存在胁迫或者显失公平的情形。最后,民法上的欺诈是指故意隐瞒真实情况或者故意告知对方虚假的情况,诱使对方做出错误的意思表示而与之订立合同。在算法价格歧视情形中,经营者没有义务告诉特定消费者其与其他消费者的交易信息,熟客完成支付即表明认可了商品或者服务的对价,因此,经营者很难“隐瞒真实情况或者故意告知虚假情况”。更为重要的是,经营者“明码标价”,消费者并没有因为“欺骗”而做出错误的意思表示,因此,一旦发生纠纷,消费者主张错误、欺诈、胁迫以及显失公平难以维护自己的权益。

既然民法典合同编难以提供有效救济,可否借助民法总则的兜底条款——诚实信用原则予以规制呢,笔者以为同样不妥。经营者对“熟客”隐瞒商品或者服务真实价格并故意提高成交价格的行为,非常明显地违背了商业道德与交易惯例。但是如果消费者仅以“违反诚实信用”原则为由主张撤销合同、退款乃损害赔偿,往往不会得到法院的支持。原因在于,诚实信用原则仅作为原则化的兜底条款,具有补充性,承担“最后保护线”的角色。除非适用具体法律规定将导致明显不公平的裁判,否则法官不会将诚实信用原则作为裁判的直接依据。

三、出路新解:基于算法解释权的视角

诚如前文所述,《反垄断法》《消费者权益保护法》《民法典》等应对算法价格歧视皆陷入不敷适用的困境,而部门法规制思路的“遇挫”为学界目光转向算法技术治理本身提供了契机,算法解释权便是其中颇为值得关注的一点。事实上,算法价格歧视本质上是算法自动化决策在市场交易中的典型表现。2016年,欧盟议会通过了《通用数据保护条例》(GDPR),该条例在2018年正式实施。条例强调当自动化决策对数据主体产生显著影响时,算法相对人可以请求算法决策主体对具体的决策逻辑、过程进行解释。基于此,国内外诸多学者将条例赋予的算法相对人要求算法设计者、使用者提供自动化决策的运行逻辑以及可能产生的重大影响等信息的权利定义为算法解释权。笔者以为,算法解释权的底层逻辑与权利张力正是规制算法价格歧视的有效参考,至少可从算法技术伦理、实体权利内涵满足救济预期以及技术性正当程序三个层面逐一探讨解释权视角下的规制正当性。

(一)算法解释权回应了消费者人格权与财产权自治的伦理需求

算法价格歧视对消费者人格权与财产权的自治需求造成了不小的挑战,而算法解释通过权利内涵的扩张消弭了实然权利与应然权利之间的价值鸿沟。一方面,算法解释权有助于保持消费者人格利益的独立性。面临不同的语境,“隐私”这个语词常被赋予不同的价值内涵,如安全、尊严、私人、自主等[19]。然而,市场中的算法使用者通过对消费者个人数据的深度挖掘持续进行用户画像,并予以数据标注。这种依靠算法与数据“滋养”的个性化服务给消费者带来诸多便利的同时,也无时无刻不在消解着他们的个人隐私,对消费者人格权益的独立性造成重大冲击。参考算法解释权的触发标准,此时,作为算法自动化决策的价格歧视行为已然对算法相对人造成显著影响,这种影响不仅是经济上的损失,更与人格利益息息相关。算法相对人便可据此向算法决策主体提出异议以及就决策逻辑进行解释,并要求其修改算法程序或错误数据。因此,算法解释权在促进消费者人格权自治层面具有得天独厚的优势。

另一方面,算法解释权维护了消费者财产权的自主性。前文提到,算法价格歧视的法律行为定性面临模糊不清的困境,但无论是价格欺诈、差别定价还是对诚实信用、公平公正之私法原则的违背,最终的结果都指向了消费者财产权的损害。而且单个消费者的损害数额可能无足轻重,但算法针对的是不特定的多数人,个体的损害被无限放大,这无疑对消费者财产权的自主性造成了损害。对此,消费者可通过行使算法解释权要求经营者对定价算法程序解释和修正,删除带有歧视性因素的代码与数据,并通过损害赔偿实现个人财产利益的补救。具言之,算法解释权并非单一的解释请求权,而是知情、删除、更改等一系列的子权利,因此,其既可以被动地防御对个人财产权利的损害,也可以积极主动干预经营者可能的越界行为。

(二)算法解释权权利内涵契合消费者损害救济的一般原理

算法解释权对消费者救济层面的价值主要体现在两个方面。一方面,破除算法黑箱,提升交易透明度。信息不对称产生了算法黑箱,算法黑箱则进一步加剧了算法决策主体与算法相对人的不平等地位。算法解释可以促使信息从优势方向劣势方流动,从而实现双方信息资源掌控的总体均衡。另一方面,算法解释权的触发条件、解释标准对消费者更为友好。算法解释权的触发条件相对宽松,即算法对算法相对人造成显著影响时便可触发。而算法价格歧视不仅对消费者财产利益造成损害,还有可能侵犯个人隐私,显著影响的触发条件已然实现。同时,算法解释权的解释标准也更为“照顾”消费者。例如,算法解释权不仅要求形式可被理解,实现解释的可读性与可理解性;在实质内容上,算法解释权要求对算法运行的基本逻辑而非结果进行解释,在保证算法相对人知情权的前提下协助后者获取更有利的决策结果。

(三)算法解释权为消费者的技术性正当程序权利奠定基础

算法黑箱、算法使用者抗辩以及监管难以问责成为消费者行使知情权、参与权、救济权的主要障碍[20]。首先,算法黑箱的存在导致外部人员难以理解自动化定价算法的技术逻辑,即便是“爱学习”的消费者执意钻研,其付出的时间成本也异常高昂。其次,消费者洞悉算法运行原理的情况下,使用算法的商家同样会以算法程序错误、价格测试、商业秘密等进行抗辩,拒绝披露基础的参数与程序。最后,监管机构难以有效问责。同消费者一样,技术鸿沟导致监管者在面对自动化定价系统时往往力不从心。此种监管困境传导至市场,容易反向激励商家,导致商家利用定价算法收割消费者时更加无所顾忌。引入算法解释权可以有效回应上述难题。第一,不同于知情权与隐私权,算法解释权最基础的权利便是解释与控制。权利重心在于知情与理解,更正、补充、删除更多的是充当算法决策主体的附随义务,无论在权利内涵的广度还是深度,算法解释权优势明显。第二,《个人信息保护法》与《民法典》人格权编、侵权责任编规定的个人信息保护的内容仅是防御性的保护。反观算法解释权,其既可以被动地防御对个人信息的损害,也可以积极主动干预信息主体的越界行为,可以有效预防可能遭受的价格歧视行为。第三,算法解释权不仅仅是消费者的权利,监管机关同样可以要求商家进行解释或者利用科技赋能监管手段,这将有利于监管效率的提升,有效规制滥用定价算法的行为。

四、解释权视角下算法价格歧视的规则调适

行文至此,至少可以明确算法解释权的理论正当性与赋权合理性。但算法价格歧视的有效规制,必须基于对算法权力本身的治理思路,同时考量责任分配的规则体系,如此,方能实现对消费者权益的整体维护。

(一)完善算法审查委员会事前、事中、事后的监管职能

美国著名计算机科学教授本·施奈德曼提议设立算法安全委员会,对算法的设计、开发、使用进行监督、审计与许可[21]。算法审查委员会不仅可以作为算法解释审查的专门机关,也可以监督算法权力不被滥用,坚守技术中立原则,切实保障消费者的合法权益。笔者以为,算法审查委员会的构建同样与我国算法产业的规制需求相契合,在具体监督内容方面,建议分为事前、事中、事后三个阶段。事前阶段,构建算法适用标准。算法审查委员会应当根据不同行业特点制定个性化的算法使用准则。同时,算法审查委员会还应对投入使用前的算法进行评估,及时阻止并公布危害消费者人格、财产利益的算法程序。事中阶段,强化监督过程。由于事前监督可能因为学习数据的错误或使用者故意隐瞒真实数据等因素而异化,亟待外部监督机关对运行中的算法进行动态追踪与定期检查,以实现算法的高效、健康发展[22]。事后阶段,行使行政处罚权威慑潜在的侵权行为。如果缺乏必要的行政手段作为保障,即便事前、事中的规制再精细也无济于事。因此,通过立法赋予算法审查委员一定的行政执法权,是值得考量的进路。行政处罚权的设计可以大幅提升经营者的违法成本,威慑潜在的侵权行为人。当然,为防止算法审查委员会滥用行政权力,保障经营者的合法权益,应当允许经营者对审查与处罚行为进行投诉,相关部门及时处理投诉结果并予以公布。

(二)算法解释权的双层规制进路

权利构造的合理设计能够发挥制度功能的最大作用,算法解释权有效落实的前提是必须明确适用范围、权利主体、解释标注以及触发机制等要素,如此,方可纠正消费者权利畸轻的现状。

(1)算法解释权的形式规制。算法解释权的形式规制内容,包括算法解释权的主体与内容两个方面:一方面,在算法价格歧视场景中,算法解释权的主体应为受到自动化定价不利决策的消费者。除此之外,若消费者因算法黑箱难以理解解释内容,则算法审查委员同样可以作为消费者的代理人,对解释的内容进行审核与验证。负有解释义务的主体为使用定价算法的经营者,当算法的使用者无法进行解释时,算法的开发者、设计者应当履行协助义务,提供更为详细的解释[23]。另一方面,算法解释的标准必须以消费者为基础,满足可理解性与必要性。可理解性要求解释应当简单易懂,方便消费者自主理解算法。例如:算法经营者在对算法基本原理进行解释时应当尽量用简朴的语言对算法的运作过程、功能与目的进行解释,增强解释的可读性与可理解性。为实现上述目的,算法解释主体应尽量以书面形式作出解释,方便数据主体留存证据[24]。在必要性方面,笔者主张将基本逻辑作为解释的主要内容。具言之,算法决策主体必须对算法运行的基本逻辑而非结果进行解释,在保证算法相对人知情权的前提下协助后者获取更有利的决策结果。值得注意的是,此处的基本逻辑并不意味着披露算法的源代码,更不意味着完全忽视了商业秘密的存在价值。

(2)算法解释权的实质规制。算法解释权的实质规制是指消费者在何种情形下方能要求经营者进行算法解释,即算法解释权的触发条件为何。一般情形下,算法决策已经对或者可能对相对人造成显著影响时,便可以唤醒请求权。关键的问题是,如何理解“显著的影响”这一权利触发前提。“显著影响”是一种主观性判断,需要算法相对人提供一定证明力的证据,但相对人不可避免地带有情绪化的偏见,进而会影响法官的裁判。因此,比较稳妥的做法是立足一般理性人的视角,评估算法结果是否损害或者可能损害数据主体的圆满的利益状态。基于此,笔者建议在程度、效果以及内容三个方面进行判定:其一,程度要素。重大影响必须是直接的影响,这就排除了不可控的间接损失或者纯粹经济损失。其二,效果要素。算法错误决策影响的具体权利必须被法律所评价,这就排除了其他非法定权益。其三,内容要素。算法决策的对象必须是较为敏感的信息,包括但不限于身份、基因、定位以及健康状态等,而与上述敏感信息密切相关的算法表现在权重排名、分类评价、相关预测以及信息屏蔽等。

(三)算法价格歧视的归责机制

责任机制与消费者能否切实、全部获得损害赔偿息息相关,而对于责任机制的构建宜从实体和程序两个方面予以考量。在实体层面,综合考虑主体数量、相互关系以及对算法利用程度等确定算法设计者、平台、商家等责任份额,同时适用过错推定原则,如此方能贯彻法律保护弱者的基本精神;在程序层面,基于算法价格歧视违法认定标准的模糊性与举证成本过高、数据信息专业化水平较高等情形,实行举证责任倒置,更有利于实现法律追求的公平正义。

(1)多元主体责任份额的分配。算法价格歧视运行过程涉及算法设计者、互联网交易平台以及商家。因此,对算法歧视责任主体的考量应当厘清各类主体的法律关系,尤其关注主体参与程度、利益关系、风险防控、主观过错以及算法自主性等因素。具体而言:第一,若算法价格歧视是由算法设计者在设计之初基于自身偏见形成的,此时责任主体的厘清需要考虑算法设计者与算法平台之间的关系。若两者是合作关系,则算法的设计者、平台与经营者之间是不真正连带责任,经营者承担责任之后,可向平台或者算法的设计者进行追偿。若两者是委托关系,算法设计者仅依据平台与经营者的要求,签订算法开发技术合同并交付算法系统,则平台与经营者承担不真正连带责任。至于算法设计者与平台之间的责任,按照两者之间的约定处理。第二,若算法仅是经营者攫取超额利润的工具,其间算法设计者、开发者、其他算法使用者等并未参与。如此,算法价格歧视行为是由经营者利用平台的算法实现的,则经营者构成价格欺诈行为,直接由经营者就算法价格歧视造成的损害承担赔偿责任,且视情节轻重分配具体份额。第三,算法价格歧视行为违背了经营者的主观意愿,是算法程序运行中的错误代码所引发的,则此次行为不构成价格欺诈,但是经营者或设计者要为自己的过失就消费者的损失承担赔偿责任。经营者承担赔偿责任后,若有证据证明算法价格歧视行为系算法设计者、开发者的设计、开发行为不当,则可向后者进行追偿。

(2)过错推定原则的适用逻辑。算法价格歧视的目的是获取更大的消费者剩余,本质上是一种“反向歧视”,即恶意指向于“条件较好的”一方。它的主观恶性不仅仅体现在表面上的对公平原则的破坏,更实质性地反映了对消费者乃至其他经营者的剥削。另外,基于信息不对称与算法技术复杂性的考量,消费者在举证过程中处于较为被动的局面,因此,归责原则似乎适用无过错原则更为适宜,这也是社会法“倾斜保护原则”的重要体现。无过错原则固然可以实现对消费者权益的深度保护,但其以受损消费者的主观感知为要件,具有较强的不确定性;同时此类归责原则对算法商家较为严苛,不仅容易误伤正常的算法定价行为,导致“假阳性”执法错误;还会抑制企业创新积极性,引发市场“寒蝉”效应。因此,算法价格歧视的归责仍应当坚守过错原则,建议关注算法本身的特点以及对算法商家合理兼顾,采用过错推定原则。即价格歧视行为一旦对消费者造成人格权益或财产权益的损害,应当推定算法商家有过错,但允许其进行抗辩。当然,执法者应当着重考量算法商家的抗辩事由,严格审查诸如定价测试、算法程序故障等理由的充足性与科学性,切实保障消费者权益。

(3)举证责任倒置原则的适度扩张。一般而言,民事侵权纠纷坚持一般举证规则,即由原告承担举证责任,在环境污染侵权、动物侵权、医疗行为侵权等特殊情形中适用举证责任倒置。但在算法价格歧视中,自动化定价算法具有较强的技术性、隐蔽性与抗辩性,普通消费者难以发现权利受到侵害。即便发现了自己遭遇了价格方面的差别待遇,经营者也会以定价测试、优惠活动、程序故障等进行抗辩,而且“算法黑箱”的存在导致消费者无法触及定价算法的运作原理,举证将异常艰辛。更为重要的是,消费者即使可以举证,高昂的调查与诉讼成本也会迫使多数消费者考虑预期收益能否“回本”,最终的结果往往是不了了之,这也进一步助长了经营者逃避法律责任的侥幸心理。因此,为了降低消费者的维权成本,保证契约实质正义的实现,必须重新审视经营者与消费者证明责任的分配规则。笔者以为,基于算法价格歧视违法认定标准的模糊性与举证成本过高的现状,当前应将举证责任倒置规则扩展到算法价格歧视场景中去,即经营者应当证明自动定价行为与损害结果之间不存在因果关系、受害人有过错或者第三人有过错。

猜你喜欢

解释权经营者价格
党内法规解释权授权的规范反思及完善
《经营者》征稿启事
价格
“最终解释权”合法吗?
价格
价格
做一名聪明的集团医院经营者
价格
阿特拉斯·科普柯空压机——精明采石场经营者的不二选择
国有上市公司经营者薪酬激励模式研究