算法经济背景下基于第三方参与的商家算法行为规范机制探讨

李润发 程振锋 杨美玲

摘要：在信息技术支撑下，商家滥用算法侵犯消费者权益的行为引起了各界广泛关注。基于算法侵权的专业性、隐蔽性和消费者的劣势地位，建立健全第三方介入的商家算法行为规范机制十分必要。第三方测试算法的合法合规性，测试结果经信息系统公之于众和对接监管部 门，以便形成有效的激励和约束机制是第三方参与算法行为规范的核心机理所在。

关键词：算法;自动化决策;消费者保护;算法行为信息系统

我们正走向算法统治时代，算法正全面而深入地影响经济生活的方方面面，在提高经济生活效率的同时，也引发了一系列的侵权问题，如何规范算法成为了学术界的研究重点[1-3]。在消费领域，算法侵权现象受到了各界的广泛关注，例如大数据杀熟问题[4-6]。《2020打车软件出行现状调查报告》显示，有优惠券时，苹果手机用户平均只能获得2.07元的优惠，而安卓等非苹果用户平均可以获得4.12元的优惠。记者测试表明，同样的行程，苹果手机显示是14.9元，而安卓手机显示是9.49元，相差近5元[7]。另一项针对285位大学生的调查显示，55%的学生表示生活中有过被杀熟的经历，主要出现在外卖类、出行旅游类、休闲娱乐类以及购物类软件平台中[8]。近年来，规范商家算法行为的法律法规频出，例如2021年11月1日起实施的《中华人民共和国个人信息保护法》（简称《个人信息法》）对于利用个人信息进行自动化决策进行了规范。尽管各界广泛关注、政府强势介入算法领域的消费者侵权问题，到目前为止并无解决此问题的灵丹妙药，为此本文将从第三方参与的视角，建立商家算法行为规范模型，探讨规范商家算法行为的长效机制。

1 算法经济下的消费者劣势

算法经济是指经济生活中基于大数据、人工智能等信息技术的算法全面而深度地参与经济决策，其表现为在生产、交易、分配和消费的各个环节通过算法进行决策或辅助决策，以便提高决策的效率和效果。姚前指出“算法经济是指人们将生产经验、逻辑和规则总结提炼后“固化”在代码上，使生产经营活动无须人工干预，自动执行的经济模式”[9]。通过设置一定的规则，信息系统可以在无人干预的条件下快速地做出各种决策，例如当消费者在某电商平台搜索某种商品时，信息系统根据客户的年龄、购物偏好等数据有针对性地定价并推送相关商品。如此一来降低了商家经营成本和用户信息搜索成本，改善了用户购物体验，这对于提高供给匹配的效率起到重要的作用。

但是，在算法经济背景下，消费者的劣势地位进一步凸显。一直以来，由于信息不对称、消费者专业知识有限等原因，相对于商家而言消费者处于不利地位。因此，对于商家之间交的交易和商家与个体消费者之间的交易，各国法律通过不同的规则予以规范，从而更好地保护消费者权益。例如，我国企业之间的经济交易适用民法典，而个人由于消费与企业发生的交易，除适用民法典外，更有消费者权益保护法等法律予以特别规范。算法经济下，消费者处于更为不利的境地。例如，在传统的交易中，售货员会根据其对于客户的判断而针对同一商品开出不同的价格，这就是经济学所描述的价格歧视。传统的交易中，价格歧视成本高，需要业务熟练的售货员，同时消费者也可以根据其消费经验进行还价，因此价格歧视通常没有引起大众的集体焦虑。但是，在算法时代，价格歧视的成本更低。同时，交易通过网络进行，消费者难以真实地感知产品和服务质量。理论上，消费者可以多家商店或多个平台比价以减少价格歧视带来的损失，但是由于商品规格型号繁多、存在平台垄断现象、时间有限、手机难以安装足够多的交易软件等原因，提高了比价的难度，甚至多个平台比价几乎不可能。

2 算法行为规范的困境

本文所说的算法行为是指商家在与消费者交易的过程中，通过计算机算法进行自动化的决策或辅助决策的经营行为。商家有利用算法侵犯消费者权益的可能，且侵权行为屡见不鲜，例如价格歧视、不为消费者提供适度多元化的选择。因而引起了社会各界的广泛关注，包括部分消费者的网购焦虑，学者呼吁规范算法行为以保障消费者权益，国家出台一系列规范商家利用算法进行决策的法律法规。《个人信息法》等近来颁布的法律法规明确要保护个人信息，对于算法推荐做出了明确的限制。根据《个人信息法》第二十四条规定，利用个人（消费者）信息进行自动化决策时，“应当保证决策的透明度和结果公平、公正，不得对个人在交易价格等交易条件上实行不合理的差别待遇”;通过自动化决策方式进行商品推送时，“应当同时提供不针对其个人特征的选项，或者向个人提供便捷的拒绝方式”;若自动化决策对消费者权益有重大影响时，“个人有权要求个人信息处理者（商家）予以说明，并有权拒绝个人信息处理者仅通过自动化决策的方式作出决定。”此外，该法和其他法律还对滥用个人信息及个人信息用于自动化决策的民事、行政和刑事责任进行了规定。

尽管社会各界广泛关注，相关法律法规明确地规定了不得基于算法而侵犯消费者权益，但如何规范实际交易中算法行为以保护消费者权益成了当前消费者权益保护的难点。首先，出于利益最大化的考虑，商家有动力通过各种算法来歧视消费者，例如根据消费者年龄等数据实施价格歧视、定向推送某些商品而限制消费者选择范围。普通消费者通常没有能力去识别是否被算法“算计”了。即使感觉到被算法“算计”了，也可能别无选择。随着消费者网络行为的增加，累积得越来越多的消费者数据被商家所掌握，可能不仅被某个商家所掌握，而是被诸多商家所掌握。即便换一个平台，也难免不被另一个算法所“算计”。其次，算法往往是商业机密而不对外公布，或者即使对外公布也难以被消费者所理解。再次，算法繁多且迭代速度快，监管部门和有关组织难以对所有的算法展开实时的审计和鉴定。即使是经过审计和鉴定的合规算法，商家在实际业务过程中可以轻易地调整、修改算法。最后，商家处于优势地位，即使根据《个人信息法》等法律法规，可以让消费者选擇不受算法的约束，或者向消费者解释其算法;但是由于说明条款繁多、专业术语难被普通消费者理解、一次授权使用而日后交易中自动使用的策略等，难以有效地避免算法滥用。

3 基于第三方参与的算法行为规范策略

基于当前的算法困境，笔者提出建立和健全基于第三方参与的算法行为规范机制。所谓第三方是指除消费者和商家之外的、非交易直接当事人之间的主体（不包括政府监管部门），如消费者协会、研究机构、媒体等。第三方由于其专业性、社会联系广泛性等优势，其参与到算法规范过程中来，能够有效地解决消费劣势问题，例如通过舆论监督、发布侵权信息、消费者教育等方式规范或促使商家规范算法行为，从而实现保护消费者的目的。为此，本文提出基于第三方参与的商家算法行为规范模型，如图1所示。

3.1 加强算法行为监测

算法行为监测的目的是了解商家算法行为的现状，探究算法违规行为背后的机理，为商家算法行为信息系统提供算法违规行为信息。由于算法违规行为的专业性，亟需高校、科研机构及各类组织加强商家算法行为监测。科研机构等组织根据法律、法规的规定或者国家监管机构的授权对商家的算法行为进行专业监测，在一定条件下可查阅商家的内部文件，通过算法审计等方式评估商家的算法行为是否合法合规。有关社会组织可以自行或组织消费者测试算法，对购物、出行等网络平台进行监督;例如使用不同的测试账号登录并搜索同一产品和服务，以便测试是否存在价格歧视、非法的商品推送行为;了解其是否按照相关法律法规在使用个人信息进行自动化决策时充分地告知消费者，是否给消费者提供了便利的拒绝选项等。

3.2 建立商家算法行为信息系统

建立全国范围内的算法行为信息系统，汇聚、传播和共享算法行为信息，以便形成全社会参与的算法治理格局。首先，通过信息公开警示、惩罚违规行为。考虑到互联网集中度高，例如外卖、出行等领域被一个或者少数平台所垄断或近乎垄断，对于这些居于垄断地位的互联网平台予以重点公示。通过公示，让消费者知晓哪些互联网平台的算法违规，降低其在消费者心目中的信誉。当一家主流平台频繁地被公示时，其在消费者心目中的信誉降低到一定程度时，消费者便会有较大的动力选择其他的平台，竞争者、甚至行业中处于相对弱势的竞争者平台能够较容易地抓住机会扩大市场份额。其次，算法行为信息系统为研究机构、行业协会提供信息，有利于促进算法违规行为研究，加强行业规范。最后，算法行为信息系统为监管部门查处各类算法违规行为提供专业监测数据和线索，完善算法违规约束机制。

3.3 充分发挥消费者协会等社会组织的作用

商家与消费者博弈中，消费者明显处于劣势。充分发挥消费者协会、行业协会等组织的作用，预防和处理算法侵权行为。我国消费者协会积累了保护消费者权益的丰富经验，面对算法侵权行为越来越多的现实，组织常规或者专项算法维权行动。利用其自身或者外部的专业力量对商家的算法行为进行随机抽查或者重点抽查，形成报告并通过信息系统公示，向有关监管部门提出监管建议。中国计算机学会等行业组织充分发挥行业自律、行业规范等职能，健全算法研发行业标准，通过宣传等措施引导商家算法行为。加强舆论监督，媒体及时跟踪报道信息系统公示的算法违规行为，就典型侵权行为进行专题报道，以便引导消费者提高信息保护意识和科学地通过互联网消费，促使商家自动规范其算法行为。

3.4 政府监管部门加大算法违规行为整治力度

政府监管部门及时地针对算法违规行为采取措施，以便维护消费者权益。首先，监管部门信息系统与算法违规信息系统对接，实时地了解算法违规的状况，如重点行业违规情况，及时地针对违规行为采取约谈、行政处罚等监管措施。其次，构成犯罪的，公安机关及时介入侦查，惩罚违规者和警示商家。再次，完善公益诉讼制度，由于商家处于强势地位而消费者往往处于无组织、无专业能力的境地，通过公益诉讼的方式，对算法违规行为严重或者较严重的互联网平台及各类商家提起公益诉讼。最后，针对信息技术弱势群体展开常态化专项监管。针对老年人的算法歧视问题不容忽视，例如通过算法误导老年人消费[10]。青少年群体网络消费日益增加，特别是未成年人无完全行为能力，易受游戏等商家的算法行为误导，形成不健康的消费习惯和观念，危害极大。

综上，第三方有效地参与算法行为规范，形成有效的算法行为激励和约束机制是解决算法侵权行为的关键所在。此机制生效的关键在于，第三方利用其专业性、广泛的社会联系优势为消费者科学地选择商家和政府有效的监管提供决策信息。

参考文献

[1] 刘霞.当算法统治世界[N]. 科技日报，2011-09-13（008）.

[2] 潘芳芳.算法歧视的民事责任形态[J].华东政法大学学报，2021，24（05）：55-68.

[3] 陈兵.数据时代开启消费者保护多元共治新格局[J/OL].东北师大学报（哲学社会科学版）：1-10[2021-11-11].http：//kns.cnki.net/kcms/detail/22.1062.C.20191113.1036.002.html.

[4] 凌振国.推进数字社会适老化改造 遏制大数据“杀熟”[N]. 人民政协报，2021-11-09（007）.

[5] 金幼芳，王凯莉，张汀菡.《个人信息保护法》视角下“大数据杀熟”的法律规制[J/OL].浙江理工大学学报（社会科学版）：1-9[2021-11-11].http：//kns.cnki.net/kcms/detail/33.1338.ts.20211027.1528.002.html.

[6] 文铭，莫殷.大数据杀熟定价算法的法律规制[J/OL].北京航空航天大学学报（社会科学版）：1-8[2021-11-11].https：//doi.org/10.13766/j.bhsk.1008-2204.2021.0250.2021-11-11.

[7] 苹果手机打车更贵？记者亲测实锤！https：//baijiahao.baidu.com/s？id=1693545608304550812&wfr=spider&for=pc.2021-11-11.

[8] 胡君倩，段佳慧.杀熟与数据场景下消费者权利保护问题研究[J].法制与社会，2019（17）：55-56.

[9] 姚前.算法经济：资源配置的新机制[J].清华金融评论，2018（10）：91-98.

[10] 陈发俊，姜子豪.老年智能产品的应用前景与伦理风险[J].山东科技大学学报（社会科学版），2021，23（01）：21-28.

本文系佛山市2021年度社科规划共建项目（项目编号：2021-GJ028）研究成果。

作者简介：

李润发（1980.7-），男，中国广东省广州工商学院教师，硕士研究生，讲师、经济师，研究方向：市场营销。

程振锋（1980.11-），男，中國广东省广州工商学院教师，博士，副教授，研究方向：市场营销。

杨美玲（1986.10-），女，中国广东省广州工商学院教师，硕士研究生，副教授，研究方向：市场营销。