算法在市场竞争中的应用与法律难题——从大数据杀熟谈起

沈亮亮

(东南大学 法学院，江苏 南京 211189)

2018年以来，“大数据杀熟”一词经常出现在各大媒体，甚至人民日报也经常发文评论。“大数据杀熟”一词如此火热，还要追溯到微博上的一篇某旅行服务平台用户的自述。据“寥师傅廖师傅”称，他经常通过某旅行服务平台订购出差要住的酒店，常年价格在380-400元左右，有一次前台告诉他，淡季的价格在300 元上下，但是他用自己的账号去查还是380元，而用朋友的账号查询的时候却是300元。[注]https://weibo.com/p/1005051688840185/home?is_all=1&stat_date=201712#feedtop，2018年8月1日访问.这种“用得越多，买得越贵”的价格策略引发了群众极大的愤慨，之后又有网友指出该旅行服务平台是携程。此事件一经发酵，便一发不可收拾，网友们纷纷在微博等平台上谴责携程这种行为，用户纷纷披露自己被大数据杀熟的事实与证据。知乎上“如何看待大数据杀熟”这一话题，自去年3月3号被添加后，截止8月1日，已经有了606万的浏览量以及986个回答。[注]https://www.zhihu.com/question/268104462，2018年8月1日访问.尽管携程方面一直否认大数据杀熟，但面对众多网友摆出的实锤，其辩解无力，而且用户将自身置于被害角色难以自拔，以“资本即是罪恶”为起点的思维方式，使得用户自动屏蔽了资本的辩白。由于用户与平台不在同一对话层面，形成了双方自说自话，难以达成有效共识的局面。在这场舆论战中，滴滴、京东等互联网大咖均相继被爆出存在大数据杀熟的行为，加剧了用户对互联网平台的不信任。

互联网上对“大数据杀熟”的讨论集中在,这一行为是否构成价格欺诈,是否违反法律,是否需要进一步完善法律。实际上,“大数据杀熟”是催生一级价格歧视的推动器,而一级价格歧视与法律保护的诚实信用、交易公平等理念背道而驰,所以在“大数据杀熟”导致一级价格歧视出现的时候,应当受到法律的规制。如果侵犯了消费者的公平交易权,有消费者权益保护法;如果涉及滥用市场支配地位,有反垄断法规制;如果与价格欺诈有关联,有价格法规制,还有民法、电子商务法、网络安全法等法律作保障。在现行法律体系下,“大数据杀熟”表征的具体问题是可以得到法律的救济的,但是为什么人们会对大数据杀熟感到束手无策呢?一方面是由于消费者的损失一般不大,寻求司法救济的意愿低,民众大多在网上吐槽,希望互联网平台给出说法;另一方面,大数据杀熟是通过算法操作完成的,具有极强的隐蔽性,进而取证难,质证更难,网上网友摆出的证据也难以证实或证伪。第一个难点可以通过群体性组织如消协解决,规制大数据杀熟真正的难点在于第二方面。在整个互联网视域下,“大数据杀熟”是算法时代派出的排头兵,大数据杀熟产生于算法,而算法产生的问题可远不只有大数据杀熟。如同中医理论一样,大数据杀熟表征问题的根源在于算法,就算大数据杀熟得到规制,也只是“头痛医头,脚痛医脚”,所以解决大数据杀熟问题,重在规制算法。大数据杀熟像是算法时代的叩门砖,它在警醒着世人算法社会的到来。

一、大数据杀熟的工具——算法

“最懂你的人伤你最深”,可以说非常形象地形容了大数据杀熟这一现象,大数据杀熟可以分为两步:一是先懂你,二是伤害你。那么互联网平台是通过哪些步骤完成这一行为的呢?以携程大数据杀熟为例,携程通过兼并艺龙、去哪儿等在线旅宿平台,可以很便捷地掌握大量用户的数据信息,平台以数据信息为材料构建用户画像,可以了解各个用户能够承受的价格范围以及用户的黏度状况,从而使携程等互联网平台实现了第一步:更懂你。第二步就是实现差异化定价“伤害”消费者。一般熟客对平台的信任度、平台黏度都更高,给他们显示的商品价格高,总体来说收益高于损失,所以就出现了“大数据杀熟”的现象。

不过,这些过程绝不是仅仅依靠人就能完成的,互联网平台需要更加强大的工具,即算法。他们通过算法获取用户资料,通过算法分析数据、构建用户画像,通过算法实现差异化定价甚至完成一级价格歧视。人工智能、大数据产业的发展必然离不开算法,那么如此强大的算法到底是什么呢?

(一)算法

算法是一种结构化的决策过程,它采用一组规则,例如决策树(decision tree),根据数据输入和决策参数自动提供结果。其实,算法并非什么新鲜事物,在日常生活中,我们都在使用算法。比如,当人们口渴的时候,人们就会将许多数据输入到大脑中并进行选择:我有多渴?我需要健康的饮品,还是美味的饮品?我是喝冷饮,还是常温或热饮?人们通过权衡这些,以作出符合他们需要的最佳决策。最简单的例子,尽管可乐非常好喝,但是最近我想过得健康一些,所以我会选择矿泉水。

编码式或计算机式的算法也是如此,为了在特定的数据和环境下提出最优决策,由开发者设置参数和权重,使用预先确定的决策树来分配权重到决策参数,以优化用户的决策。高级的算法可以通过计算机自主学习,从它自己对先前数据的分析中学习到如何改进和重新定义其决策参数。与日常生活中的算法相比, 计算机算法最大的优势在于速度和复杂性, 它能够以极高的速度处理异常复杂的大量数据。如果以消费者的消费行为作为参数,算法可以形象地刻画消费者画像,相应地改变决策参数及权重,进而推荐商品或改变价格。

算法的世界是一个崭新的世界,自古以来人类思维占主导的决策模式,势必将转移到算法身上,这种变化无可避免。如今,算法的发展推动了深度学习技术的进步,人们在日常生活中也能体验,比如siri、Bing的语音搜索技术,“无人驾驶”技术,“谷歌大脑”等等。

(二)算法在市场中的应用——以价格算法为例

算法在互联网市场中表现为算法推荐商品、算法定价(或称价格算法)等。算法相对于人类有着极大的优势,加上当代物联网的崛起,这将对以企业——消费者为主要要素的传统市场产生深远的影响。

计算机自动化以及科技的发展,深深地影响着人们的生活、沟通、交易的方式,只要看看人们购买的产品、享受的服务,就知道人们对科技、计算机、互联网的依赖程度。随着市场交易的发展,这一新兴行业迅速涌现,他们提供嵌入数学模型的软件,消化分析收集来的数据,以监测市场状况,并作出定价决策,企业、商家运用这种程序、规则以适应市场的变化以及竞争对手价格的变化,我们称之为价格算法。这是算法在定价方面的应用。[1]

随着技术的进步,存储、分析数据的成本不断下降,企业、政府对大数据和大数据分析的依赖程度不断加深,许多企业都开始参与“智能机器人”的开发,以协助价格规划与决策定价。以往在物理市场,人们提高或降低价格,作出定价决策,可能需要几周的时间,而互联网市场的兴起,使得商家最短能在几秒钟之内,就能作出定价。

价格算法广泛应用于酒店预订、旅游、零售、体育、娱乐等行业,逐步主导着商品在线销售。比如美国亚马逊运用定价算法,使得彼得·劳伦斯的作品《the Making of a Fly》的价格上涨,这本100多美元的书最高曾以23,698,655.93美元的天价出售。而近期的“大数据杀熟”也早已不是什么新鲜事物,早在2000年,美国亚马逊用户发现,当删除cookie后,商品的报价由26.24美元变成了22.74美元,在遭到用户发现并投诉后,亚马逊很快道歉并承诺不再进行价格歧视。[2]总之,价格算法是帮助企业实现利润最大化的有效策略,利益驱使着企业采取这种算法。携程等互联网平台正是利用了价格算法实现“杀熟”。

二、算法对市场竞争秩序的影响

有人说,我们进入了算法社会,人工智能、互联网、物联网只是算法社会的序曲,事实证明的确如此。在人工智能背景下的算法社会,算法为许多行业带来了经济增长点,比如购物、广告、交通运输、物流、医疗等产业。不仅如此,智能系统的普及改变着普通人枯燥乏味的生活,让人们的生活变得更加丰富、更加方便、更加有效率。种种迹象表明,算法正在渗透到世界的各个角落,算法对世界发展做出了“巨大贡献”,所以有人乐观地提出人工智能万能论,认为算法社会是理想的社会。不过,如果从对未知世界怀有疑问的角度看待算法社会,算法社会只是人的智性单维度的不断发展,还算不上理想的社会。理想的人类社会应当是人的心性、灵性、智性充分发展的社会,算法社会缺乏更加难得的心性与灵性。[3]面对盲目的人工智能万能论,我们必须加以警惕,尤其是在市场经济中。智性的高度发展的确会提高效率,但是如果市场主体一味地追求智性发展,将心性、灵性弃之不顾,势必会冲击伦理与法律的约束,“大数据杀熟”现象体现了互联网平台算法极高的智性,但是却冲破了道德甚至法律的束缚。具体来看,算法社会可能会给正常市场竞争秩序带来以下几个问题。

(一)数据垄断

计算力、数据和算法是人工智能(AI)兴起的三驾马车,没有大数据支撑,人工智能是虚无缥缈的。算法的运行需要海量的数据作为支撑,在算法社会,数据就像石油一样,是世界上关键的战略性基础资源,具有非凡的价值。人工智能时代,谁掌握数据,谁才能掌握话语权。价格算法、商品推荐等算法的良好实施需要大量消费者、竞争对手等市场数据,“丰鸟之争”的核心关键在于对数据之争,华为荣耀magic与微信的纷争将数据竞争推向了侵权诉讼。[4]市场上的数据争夺纠纷日趋白热化,这是因为算法应用与数据密不可分,在市场竞争中谁拥有更好、更全的数据,谁才能画出更加精准的用户画像。一方面,企业为收集、处理数据做出的劳动需要保护,但也要防止出现数据的垄断,数据垄断存在阻却新兴企业进入市场等风险。

中国互联网三巨头BAT依靠其优势地位,获取了大量的社交、交通、电商、视频音乐等数据,不过BAT数据体系并不开放,如高德地图被阿里巴巴收购之后,不再向外界公开开放地图数据。[注]大数据产业遭遇垄断和孤岛:拿数据的多贡献数据的少[OL]. http://www.sohu.com/a/116596888_371533,2018年8月1日访问.算法应用带来的利好激励着企业获取个人信息等数据,并且秘而不宣,时刻威胁着正常的市场竞争秩序。

(二)利用算法执行垄断协议

EZRACHI 和STUCKE在其论文中描绘了利用价格算法达成串通的情景。[2]

第一种为“信使型”(Messenger)。在这种情景下,企业在事前已经通过秘密串通达成了受法律规制的卡塔尔(cartel)协议,而计算机只是监控、执行协议的媒介。其中,人类是协议的策划者,计算机只是帮助执行协议,是人类意志延伸出的“手臂”,这是典型的垄断行为。所以,就算计算机还未开始执行该协议,协议本身仍然是违法的,应当受到反垄断法的规制。

典型的案例是美国Topkins案,Topkins是A公司管理人员,他与A公司的竞争对手约定维护在Amazon平台上海报的销售价格。为执行协议, 双方采用了特定的定价算法,自动交换价格信息, 协调价格变化。2015年, Topkins被美国司法部指控实施了“合谋修改在线销售商品价格”的行为,违反了《谢尔曼法》关于定价的规定, 2015年4月30日, Topkins与美国司法部达成认罪协议。Topkins撰写的定价算法帮助具有竞争关系的经营者之间协调价格, 实质上构成了被多数国家反垄断法所禁止的价格合谋行为。

(三)算法间的默示共谋

EZRACHI 和STUCKE在其论文中还提出,人工智能运行时可能会产生默示共谋。传统市场的透明度是相对有限的,个体的有意识的价格平行难以维持,而在算法的支持下,整个市场的透明性大大提升,这使得默示合谋(tacit collusion)成为可能。在这一情境中,竞争者之间并无明确的通信,“共谋者不需要与他人沟通,甚至不需要互相了解。”[5]

商家使用相同或相似的算法,确定商品价格,应对市场变化。商家通过算法很容易预测竞争方的价格等市场行为,进而选择最有利的竞争方略。比如,A公司降低了硬盘的价格,在高透明度的市场中,A公司的竞争对手利用算法会快速检测到这一变化,并降低价格,那么A公司无利可图,也不太可能通过折扣得到良好的口碑,A公司打折的积极性会降低,久而久之,A公司和其竞争者的定价会朝着一致(很大可能是上涨)的方向发展,形成了某种经营默契,尽管商家间没有达成明确的垄断协议,但商家间的这种经营默契事实上已经达到了垄断协议的效果。随着计算机、算法的同化,市场处于几乎完全透明的状态,商家间更容易预测对方的价格等竞争策略,从而达成心照不宣的意识交流。

由于竞争者间不需要有协议等任何联系,反垄断执法部门在评估与算法相关的协议、协同行为等反竞争风险时会更为复杂。[6]

(四)算法作恶

自主决策型的算法也需要很高的市场透明度,但计算机已不是预测型机器人,它可以自主学习。它依据市场上的数据,在深度学习和市场反馈基础上,独立决定、执行它认为最优的策略。

计算机设定了诸如利润最大化的目标,算法使用先进的神经网络技术,自动运行从而达成目标,自我学习的机器可以发现增强市场透明度的最优策略,而且机器是通过自我学习、进化,独立执行的,而非人类的指令。在这个类别,算法开发者与使用者没有意图实现有意识的价格并行行为,该算法原则上禁止价格操纵等非法活动,公司仅仅依靠“人工智能”。为了摆脱法律与道德的束缚,商家格外青睐价格算法,算法为了让商家选择自己,步步迈向“违法”。

算法不会自主产生偏见,但是算法仍然可能产生歧视。美国卡内基梅隆大学的一项研究显示,谷歌的广告系统可能存在性别歧视,在推送高收入工作招聘信息时,男性比女性收到推送的频率高得多。美国联邦贸易委员会在调查中发现广告商更倾向于将高息贷款信息展示给低收入群体看。[7]商家通过将自己的偏见加入到算法中,以实现歧视定价,比如按照购买次数、付款数、付款时间、是否货比三家等条件,针对购买力强的消费者设置更高的售价。

三、一些构想

弱人工智能时代,人工智能的智性得到了高度发展,但人工智能缺乏心性、灵性,还不足以取得独立的归责地位。而默示共谋的情况下,经营者无法准确得知人工智能限制竞争的行为,经营者仅有放任的态度,没有限制竞争的协议甚至意图,难以按照法律归责。现有法律制度需要重构,笔者有以下几点构思。

(一)数据公开

敦促数据公开。数据的垄断主要涉及以下三类:一是数据可能造成进入壁垒或扩张壁垒,二是拥有大数据资产或产品形成市场支配地位并滥用,三是数据寡头达成的垄断协议。[注]关于“数据垄断”的几点思考[OL]. http://www.sohu.com/a/150492714-353595,2018年8月2日.这三种垄断都在于达到数据秘而不宣的目的,数据的垄断既会侵害公众的知情权与监督权,也存在数据垄断者控制人工智能市场的风险,因此有必要保障公众接触数据的权利。不过,这种公开并非意味着侵害数据收集者的权利,他们仍然可以通过设定著作权、专利权的方式保护其权益。有限的数据公开对于数据持有者与使用者来说是利大于弊的。

(二)拟定伦理章程

算法社会下的价格共谋,凸显了反垄断法的滞后性,这在今后日新月异的人工智能时代将越发普遍。通过预设伦理规范,可以有效地反映市场竞争的变化。算法为达成一定的目标往往“不择手段”,就算越界了,也处于茫然不知的状态,而且道德谴责对它没有作用力,它既不会生气,也没有羞耻心。在发达国家,对算法伦理问题研究早已开始。欧洲机器人研究网络发布了《机器人路伦理学线图》,美国也开始组织研究“机器人伦理学”,此外,谷歌设立了“人工智能研究伦理委员会”。他们对智能机器人预设道德准则,为人工智能提供伦理指引,设置人工智能技术研发及应用的道德标准,对科研人员进行伦理约束。

(三)人类控制决策

人类掌握对算法绝对的控制力是人类社会物质文明的前提。针对人工智能决策的合理性问题,《人民日报》曾刊文称:“内容推送少不了‘总编辑’,算法再精良也要装上‘安全阀’”。[注]https://www.yicai.com/news/5352945.html,2018年8月1日访问。算法作恶正在侵蚀人工智能决策的合理性,正在破坏人类对决策的绝对控制力。假如技术条件成熟,让具有理性与法律底线的人类做决策,比算法决策更加安全,也更加容易运用法律规制。

(四)风险技术控制

人工智能时代的竞争风险防范和治理,法律控制早已追赶不上智能技术大爆炸的进程,所以应当采用法律规制与技术规制相结合的方式综合治理技术风险。在智能化、数字化的市场中,技术控制正在发挥着重要作用,包括不限于市场调研便利化、可察垄断状态、抑制算法作恶、进行实时监督、确保执法有效。总之,技术控制可以在市场监管方面发挥极大的价值。

(五)严格责任原则

解决算法社会下的反竞争行为,最便捷的方式是,对人工智能市场中的反垄断行为采用无过错责任的归责原则。这样可以从根本上消除企业投机取巧的想法,让经营者自己做人工智能的有效控制者。目前,《韩国限制垄断和公平交易法》第56条第2款、《日本禁止垄断法》第25条,都规定了无过错的归责原则。尽管这种方式对经营者的要求极高,但是对处理当前的状况,既是有效的也是可行的。