数字平台的诱导、操纵风险与暗模式监管——流量劫持、算法俘获与界面设计陷阱

张海汝，李勇坚

(1.中国社会科学院大学 应用经济学院，北京 102488； 2.中国社会科学院 财经战略研究院，北京 100006)

一、引 言

随着平台智能算法、大数据分析、用户界面设计等技术不断革新，建立在代码编程与软件开发架构上的数字平台可以设计多种类、超现实的网络功能和虚拟场景，这在很大程度上便利了数字平台的多边市场主体。一方面，用户(消者者(1)本文未严格区分用户、消费者两个概念，文中按日常习惯交替使用。)和商户的需求和使用感受得到更为贴切的满足和提升；另一方面，数字平台自身也可以通过网络功能和场景设计更好地落实其商业意图与策略，从而谋求企业发展。但是，科学技术在满足人类各种需求的同时，又将人类置于风险之中。数字平台可以利用流量劫持、算法俘获和界面设计陷阱诱导和操纵消费者行为，以强化其自身市场势力，带来侵害消费者利益的风险。例如，数字平台页面上某些按钮设计得要比其他按钮明显，很多用户会下意识点击更显眼的按钮(此类显眼的按钮通常是商家所期望用户点击的选项)；确认订阅的时候很顺利，但取消订阅的时候很麻烦，用户可能会因此放弃取消订阅。

这类诱导或操纵消费者行为的设计称为暗模式(Dark Patterns)，这类设计旨在迎合利益相关者——数字平台或企业，而不在于提高消费者和社会的福利[1]，并可能令消费者丧失大量隐私数据[2]，危害消费者的数据安全，而数字平台或企业往往从中得到利益并实现自我强化。暗模式已成为数字平台自我强化的新方式，其负外部性会引发一系列损害与风险，不利于平台经济良性发展，因而评估和探析数字平台暗模式的风险对中国平台经济健康有序发展具有重要意义。目前，学界已对暗模式展开大量研究，其研究内容主要为暗模式表现分类、情景实验、合法性与诉讼案例等。本文从数字平台的风险角度出发，基于消费者有限理性理论分析数字平台暗模式的特征、形成根源，以及所引发的损害与风险，并在总结和梳理国内外暗模式相关监管经验的基础上，探寻数字平台暗模式监管与风险规避之道。

二、数字平台暗模式的内容框架

(一)暗模式定义

1999年，Hanson和Kysar[3]首次专门分析企业利用用户认知局限和偏见影响消费者决策从而牟利的手段，并称之为市场操纵(Market Manipulation)。随着数字经济时代的到来，界面设计与功能交互更加丰富多彩，更多隐藏在交互界面“别有用心”的设计也被发现。例如，购物网站上商家为商品增加稀缺性标签，购买、添加购物车的按钮被设计成引人注目的样式等。此类特殊设计对消费者有着很强的吸引力[4]，这些现象逐渐引起学界重视。2010年，用户体验专家Brignull[5]将网络环境中各种“别有用心”的设计正式命名为暗模式，用以描述网络环境中在用户交互界面上对用户的行为及决策产生不利影响的设计，涵盖了平台及应用程序中各种诱导或操纵用户进行点击、浏览、购买、注册、开放隐私数据权限等消费者本不会进行的行为设计，并将暗模式总结为五大类及十六种变体。许多学者在Brignull分类的基础上对暗模式进行了进一步的丰富和汇总[6-7]。本文以平台诱导目的为依据，结合中国实际情况，将暗模式简化为五大类，包括诱导点击与浏览[1,5]、诱导交易与持续交易[1,2,5]、增加转换困难[1,2,5]、利于隐私数据收集[1,5,8]和其他辅助功能[1,2,8]，具体如表1所示。

表1 数字平台暗模式表现与类型

(二)暗模式的特征

第一，多样性。数字平台暗模式涉及各个交互界面和使用环节，在实现功能上包含诱导点击浏览、促进交易与持续交易、减少转换行为、利于隐私数据收集和其他辅助功能等多种类型，并且随着算法与界面交互设计的不断发展，暗模式的表现与种类也将更加复杂多样。

第二，灵活性。暗模式诱导或操纵消费者作出数字平台期望行为的策略是十分灵活的，数字平台往往在不同的情景下使用并组合多种暗模式设计，且有非固定的表现样式和组合方式，具有辅助功能的暗模式灵活性更高。例如，在具有歧义的复杂问题表述中预设默认值、在取消阻碍中往往使用情感操纵以增加取消难度等。

第三，隐蔽性。暗模式极具隐蔽性，不易被察觉。一方面，数字平台将暗模式理念内化于算法设计并最终由算法实现，由于算法及其设计规则的非公开性与复杂性，暗模式难以被察觉；另一方面，一些暗模式设计得过于微小，消费者本身缺乏对暗模式的认知[9]，往往沉浸于场景化的体验中不容易注意到暗模式的存在，或者即使注意到也不会意识到这是数字平台故意设计的诱导或操纵方式。

第四，诱导性。数字平台往往利用暗模式诱导用户产生更多点击和浏览、持续交易、开放隐私权限等行为，从而塑造市场势力和提高收益，因而暗模式都带有极强的诱导性。但是，诱导性并非等同于损害性，数字平台的一些暗模式也存在有利于消费者减少行为成本、降低认知负担等提升福利的情况。有学者认为平台的一些设计是为了引导用户作出符合其偏好或客观改善福利的决定[10]，如默认选项可以帮助用户快速熟悉新平台，删除信息时多次询问有助于减少用户误删、误触的可能性[11]。因此，暗模式虽具有极强的诱导性，但在是否存在损害性的问题上，不能一概而论。

(三)数字平台暗模式的形成来源

1.消费者有限理性特征

暗模式的设计原理来自于消费者本身具有的认知限制、心理偏见等，因而暗模式的形成来源可以基于消费者有限理性理论进行解释。根据Simon[12]所提出的有限理性理论，个体在现实环境下并非古典经济学所假设的那样——“个体是完全理性决策，偏好稳定且一致，且具备无限精力、能力与意志力”，个体反而常常无法作出最优决策，其原因在于个体在现实环境中的意志力、认知、信息处理能力等都存在限制，而且存在着大量的心理偏见和启发式，(2)启发式最早由Simon 提出，他认为人类的理性永远受认知的限制，为了节省认知资源，人类发展出了一套高效率的认知结构，即启发式。人们会用启发式来帮助自己理解看到的东西，从而迅速作出决策，但启发式的有用性和准确性很依赖于良性的环境。因而消费者的现实决策模式往往是在有限计算的情况下，伴随着心理偏见和启发式作出的次优选择。

在快速高效的数字平台环境下，消费者所面临的信息处理和决策环境与传统线下环境相比更为复杂。由于消费者充分处理信息的能力有限，面对海量可供决策的信息，短时间内极容易产生超负荷的“信息凝固”现象[13]。因此，在数字环境下，花费较少的决策成本以快速获得相对满意的决策结果(次优决策)的现象更为普遍。根据有限理性理论，个体的心理偏见或启发式在节约有限认知能力方面有巨大帮助，基于心理偏见和启发式的决策系统要比基于理性计算的决策系统所花费的时间和精力成本要小得多[14-15]，因而个体的心理偏见和启发式将更容易被调用以应对数字信息环境下的决策困境。此外，数字平台消费模式的跃迁也冲击着消费者传统理性决策框架。基于消费者资源(注意力等)付费的“免费”模式导致人们的预算约束敏感度下降，消费者传统理性决策框架与基准受到冲击，消费者有限理性特征更加明显。复杂数字环境与平台消费模式的跃迁构成了暗模式利用消费者有限理性的基本环境条件。

2.数字平台技术发展

数字平台技术的发展使得数字平台利用暗模式触发消费者有限理性更具可实现性、灵活性与隐蔽性。消费者有限理性特征是可以被主动触发的，广泛应用于消费交易等商业场景中且效果显著，但常常被古典经济学理论模型所忽略。例如，消费者的双曲贴现、禀赋效应等心理偏见会使得产品捆绑和搭售行为、“忠诚计划”等行为相较于新古典经济学反垄断模型所预期的结果更具“锁定”与“粘性”效应[16]。

数字经济时代，数字平台技术的发展使数字平台的运营思想和价值导向内化于编制软件代码的智能算法和用户界面设计之中，平台可以利用代码算法编写、用户界面设计等方法实现暗模式的功能。例如，基于消费者隐私信息及行为数据，精确地识别消费者的心理偏见和启发式，并主动触发消费者的有限理性特征，从而诱导或操纵消费者行为，如同意隐私权限、持续订阅、浏览及下单等行为。依靠智能算法和界面设计，暗模式甚至可以实现引导社会舆论与用户认知的效果，有意识地从认知价值观层面操纵消费者[17]。因此，数字平台暗模式的产生不仅在于消费者本身具有的有限理性特征，还在于数字平台主动利用算法和用户界面设计触发消费者有限理性特征。

三、数字平台暗模式的损害及风险分析

(一)暗模式对个人层面的损害及风险

1.福利、权利损害

对于受暗模式诱导或操纵的消费者而言，在有限认知和心理偏见的作用下所作出的次优决策与行为将存在低于消费者理性决策和自由选择下福利水平的可能性，因而暗模式的诱导或操纵会令消费者的福利、权利面临风险。一是在消费者经济福利方面，暗模式诱导或操纵消费者非理性消费，存在利益损失的风险。暗模式的设计初衷在于迎合数字平台或商家的利益，而非消费者的利益，因而在数字平台暗模式的诱导或操纵下，消费者的经济福利将受到损失[2]。例如，“网红打卡”等从众性、冲动性消费成为新趋势，消费者往往购买或过多购买自己不需要、不期望的产品和服务[18-19]。因此，消费者的经济福利在暗模式诱导或操纵下难以得到保证。二是关于消费者民主权利方面，暗模式存在舆论引导和诈骗欺诈的风险。数字平台使用暗模式影响社会舆论和消费者认知的形成。例如，暗模式可以通过外观操纵突显有利信息或隐藏不利信息以引导舆论走向，通过社交信息等促使消费者产生从众行为，从而影响其认知形成等[20]。有研究发现，暗模式甚至会被应用于影响政治选举，如在民主政治选举的电子邮件当中，用户被误导性的界面设计诱导投票、筹款[21-22]。一些在线广告也涉及了政治操纵[23]。例如，通过算法和界面设计引导舆论环境、压制政治言论等，侵害了选民的民主自由权。此外，暗模式导致消费者轻易泄露隐私信息还极易引发诈骗等安全风险，如诈骗人员可以通过模仿政治候选人及其组织诱导或操纵消费者。

2.数字成瘾问题

数字成瘾(Digital Addiction)已经成为被广泛关注的平台经济发展问题，平台利用消费者心理局限正在逐渐让用户上瘾并侵蚀其思考能力。在免费模式的平台经济下，算法俘获利用“瘾性经济”和人的心理偏见，通过数字内容方式吸引、诱导消费者注意力和时间，对用户思考和计算能力进行定向狙击[24]。数字平台利用暗模式诱导用户上瘾，用户同样也会掉入浪费时间的瘾性陷阱[25]，可能产生过度使用、过度消费等行为，甚至引发精神障碍、注意力缺乏等生理损害[26-27]。例如，利用暗模式诱导和欺骗消费者点击浏览、交易与持续交易、阻止转换；游戏化和情感操纵则将消费者锁定在当前平台，同时诱导消费者提交隐私数据强化用户推荐、个性化服务。数字平台依靠暗模式诱导用户所产生的行为数据进一步强化了对消费者行为的了解与控制，这都将引发和加强消费者数字成瘾问题。

3.隐私数据安全

根据《网络安全法》，网络隐私安全包括网络个人资料信息搜集的知悉权、选择权、控制权等。为保证消费者的网络隐私安全，网络经营者必须具有用户网络个人资料信息安全权利的各项授权。不具有用户相关授权的隐私信息收集、使用，以及处理用户隐私信息的行为则涉嫌侵害消费者网络隐私安全。为合法收集、使用及处理用户隐私数据，数字平台通过暗模式操纵用户减少隐私管理与控制，并诱导用户进行相关的隐私授权或同意。一是影响用户的隐私知悉权。任何单位及个人在搜集使用个人数据资料时，必须向资料的所有者及时准确地告知相关隐私政策。数字平台将隐私政策及条款的内容以小号字体等外观操纵暗模式形式进行告知，并没有达到法律要求意义上的告知行为，这将构成对用户隐私知悉权的损害。二是影响用户的隐私选择权。用户的隐私控制权体现在用户是否同意和授权数字平台对个人隐私数据的收集使用。数字平台利用暗模式将处置个人隐私数据的相关权利与平台的服务使用联系起来，使消费者的隐私披露成为不可抗拒的选项。例如，数字平台暗模式中的强制用户注册问题。数字平台在隐私数据收集方面对消费者而言拥有绝对的话语权，消费者要么同意平台的隐私政策，要么不使用该平台，这也将对消费者的隐私权形成危害。三是影响用户的隐私控制权。用户拥有通过合理途径访问、查阅被搜集和整理的网络个人信息资料的权利，并拥有对错误的个人信息资料进行修改、补充、删除的权利，以保证网络个人信息资料的完整、准确。数字平台暗模式中的不朽账户设置往往禁止用户删除个人账户及相关隐私数据，构成对用户隐私控制权的损害。

(二)暗模式对行业层面的损害及风险

1.混淆市场信息

当前，数字平台的竞争模式已转变为围绕流量数据的竞争模式，价格竞争和质量竞争已经被逐渐模糊和混淆。为了在流量至上的行业竞争中谋求更多交易机会，数字平台利用暗模式干扰市场信号、混淆市场信息，使得消费者难以根据市场信息作出理性决策。例如，价格透明度是保证市场自由竞争的关键，而数字平台往往利用比较阻碍等混淆信息的暗模式来增加用户进行价格比对的难度。一是复杂优惠规则。数字平台企业在“双十一”等购物节时会发放大量优惠券，优惠券的种类繁多，优惠条件复杂化的趋势愈演愈烈。单以优惠券的种类为例就达十多种，包括购物津贴、满减优惠、店铺优惠券、品类优惠券、直播红包、主播红包、倒计时红包、品类补贴等。此外，优惠条件也愈发复杂，如为获取红包或津贴，需要消费者耗费大量精力参与游戏、打擂台、获取积分、拼单拉人、浏览一定量的商品或店铺等。数字平台通过复杂的优惠规则促使消费者无心兼顾多个平台，比价过程也愈发困难，从而影响消费者的理性决策过程。二是复杂计价规则。商品差异化后，不同类产品往往难以进行价格比较，但对于同类产品，平台往往也会通过捆绑销售、多维度产品等方式进行计价复杂化，消费者难以在短时间内迅速作出理性决策。例如，对于某一品牌的洗衣液，在A平台为“买一送一”，在B平台则为“买三送二，再送柔顺剂”，在C平台则为“预付50元抵100元”，此时再加之复杂的优惠规则，消费者所需要耗费的计价精力与时间成本上升，这对消费者的理性决策过程产生极大的阻碍。三是阻碍在线比价。为了混淆价格信息，平台通常会拒绝向比价网站透露产品信息，或者用户需要支付一定的费用才可使用比价服务。而且对于比价相对容易的标准化产品，或者消费者的线上搜索惯性大于线下搜索惯性的产品，常常不会被放在线上销售。值得注意的是，这种复杂信息的行为会随着市场竞争激烈程度和市场内企业数量的增加而增加，最终的结果是平台会追求最大的复杂性[28]。

2.无序竞争威胁

近年来，互联网技术创新带来的市场红利逐渐消失，资本短期牟利的属性导致数字平台开始探索如何在不谋求产品及服务研发创新的基础上快速获取最多的利润，因而引发数字平台竞争乱象频发，“烧钱”补贴、虚假宣传等抢夺流量的模式在各类平台中大量存在，暗模式也是数字平台基于算法俘获技术的无序竞争方式之一。暗模式的形成根源在于数字平台技术触发消费者有限理性特征，出发点并非是引导消费者依据产品及服务质量作出理性决策，而是不断诱导消费者作出平台所期望的浏览、加购、平台忠诚等偏差行为，且效果十分显著。对于竞争企业而言，如果要做到研发创新下的有序竞争，不仅要承担研发创新周期长的时间成本，还需要花费更多流量竞争成本，这会降低企业进行产品研发创新和有序竞争的积极性。因此，从社会总福利层面讲，暗模式并非是数字平台在产品和服务提质方面的研发创新，而是加剧了平台经济无序竞争风险的短视行为。

3.平台垄断风险

数字平台垄断风险已成为数字经济发展和平台风险防范的重点内容。流量、数据及算法作为数字平台自我强化、巩固市场势力、进行行业垄断的关键要素，数字平台将不断利用各种手段和方式加强对流量、数据及算法的控制力。暗模式作为数字平台诱导或操纵消费者决策和行为的有力工具，将为数字平台进一步控制流量、数据及算法提供帮助，因而暗模式也存在形成和加强数字平台垄断的风险。

在流量垄断风险方面，暗模式是数字平台分流、控流的有效工具。数字平台实质是控制平台流量入口的关键设施[29]，拥有对流量的巨大影响力和控制力。除了网络效应及规模效应等流量影响力，数字平台还借助暗模式利用消费者有限理性进行流量操纵：一方面，暗模式可以有效地吸引消费者注意力，并将消费者注意力引导到特定商品或服务[30]，甚至是利用暗模式进行自我优待；另一方面，数字平台通过暗模式阻碍用户转换平台，减少用户使用其他平台的可能性，从而完成用户锁定和截流。因此，暗模式将加强数字平台分流、控流的操纵势力，完成流量自我强化。

在数据垄断风险方面，暗模式是数字平台进行和加强隐私数据控制的重要方式。在各平台数据相互割裂的行业竞争环境中，拥有更多用户隐私数据的数字平台可以向竞争对手施加数据优势，提高竞争对手进入相关市场的门槛，并有利于自身跨行业集成。因此，数字平台热衷于诱导用户减少隐私顾虑、提交更多隐私信息，以及交付更多隐私授权和同意。例如，利用少量利益优惠骗取用户自愿提交隐私信息、开通隐私权限，诱导用户注册以获取更多新用户的隐私数据，不朽账户阻止用户删除自身隐私信息，以及将隐私选项设置为默认开通、接受隐私条款等。这些暗模式进一步加强了数字平台对用户隐私数据的控制能力，这将加剧数字平台的数据垄断风险。

在算法垄断风险方面，暗模式可以为数字平台实现算法“干中学”提供支持。消费者行为分析是数字平台智能算法和界面设计优化的重要途径之一，暗模式对消费者的诱导行为数据和利用暗模式所获得的消费者隐私数据是消费者行为分析的重要组成部分，可以帮助算法迅速学习消费者的心理偏见与行为弱点，便于进一步实施暗模式、大数据杀熟等滥用市场地位的行为。例如，数字平台分析并利用消费者常常发生的选择过载心理，为消费者提供数千种选择，消费者因选择过载常常选择默认选项[2]。因此，基于暗模式诱导用户所产生的行为数据和所获得的隐私数据，数字平台可以实现“干中学”优化歧视消费者的算法，从而引发算法垄断风险。

四、对暗模式进行监管的国际经验和政策建议

(一)暗模式合法性判定与监管

目前，已有不少国家和地区对数字平台的暗模式设计行为展开了诉讼与监管程序，但并未形成具有针对性的监管准则与体系。具体体现在暗模式并未作为独立的监管概念，未颁布暗模式专项监管政策与法令，未形成暗模式监管机构和机制，未达成违法性暗模式类型和表现的共识。目前各个国家和地区对暗模式的监管实践以具体数字平台诉讼案件为基础，依靠相关领域的法令规定进行调查和判决，也有国家和地区已经开始针对暗模式实施专项监管行动。

1.美国：暗模式标准制定与实验调查

最初，美国联邦贸易委员会(FTC)对多家涉及暗模式设计的互联网企业提起诉讼，主要借鉴了美国《联邦宪法》中关于不公平贸易的行为规定(目前仍应用于行为不公平的判定)，即满足：对消费者造成或可能造成实质性伤害(多为金钱损失，且如果对大部分人造成了轻微伤害，意味着整体损害很严重)；消费者自身无法合理避免；对消费者的反补贴利益不会超过不公平贸易行为。但是，在诉讼过程当中，关于暗模式的“实质性伤害”与“大部分人伤害”问题难以衡量与举证，因而依据《联邦宪法》对暗模式进行不公平贸易的判定存在较大困难。此后，依据网络消费监管类法案的暗模式诉讼案件获得了胜诉。例如，依据《恢复网上购物者信心法案》(ROSCA)中的相关条款，隐藏成本和强制连续性的暗模式涉嫌违法；《电子通信隐私法》《特殊生物识别隐私法》(BIPA)中的相关规定可对隐私诈骗、强制注册等涉及用户隐私信息收集的暗模式作出违法判决。截至目前，根据美国关于暗模式的诉讼案件判决结果，虚假证明、取消阻碍、隐藏成本、强制连续性、外观操纵、预选默认值、歧义表达、变相广告等暗模式已经被判定为欺骗行为，提供虚假行为信息、私自加购、诱饵和开关、强制注册和催促等暗模式被认定为符合欺诈行为的某些条件，需要在满足条件的情况下判定为违法行为，而多次询问、价格比较阻碍、中间货币、情感操纵等暗模式目前还未确定是否违反美国相关法律。

由于以上所依据的法案各归属于不同的领域，无法提供一个统一明确的暗模式评判依据，美国开始实施对数字平台暗模式的专项治理行动。美国参议院正在准备一个涉及164项的两党立法《减少在线用户欺骗体验法案》(DETOUR)，以专门禁止暗模式。根据拟议的法案，主要涉及的监管措施为：鼓励创建一个标准制定机构，该机构应持续为大型在线运营商的技术产品开发和设计制定方针和明确规则；指示该行业机构定义具有损害用户自主权和决策权的目的或实质性影响的行为。例如，基于测试消费者偏好(包括不同的样式、布局或文本)实验的最小用户界面变化衡量，此类行为不在于进一步获得用户同意、用户数据及建议默认设置，而是增强用户的隐私保护或以其他方式增强其自主性和决策能力，同时通过精心设计的调查研究可以区分试图破坏普遍偏好的暗模式和试图满足消费者需求的服务，以方便暗模式诉讼案件的合理判定。

2.欧盟：重视心理偏见与监管广泛参与

在欧盟，对于暗模式的监管准则主要依靠消费者保护制度及相关政策体系，侧重考虑消费者实际受到的环境及心理影响。欧盟的《不正当商业行为指令》(UCPD)包含了较多判定数字平台暗模式违法性的条款和思想，包括强调公平在合同签订前环境中的作用，规定了信息透明度的具体要求，禁止利用消费者公认的心理偏见的商业行为。欧盟的《消费者权利法》也对企业做了一系列肯定性披露和独立同意要求的约束，一些涉及单方面隐藏行为的暗模式(私自加购、隐藏订阅、隐藏成本等)则被定义为构成对消费者知情和独立同意权限的侵害行为。此外，根据欧盟2018年颁布的《通用数据保护条例》(GDPR)中在数据自由给予、知情和主动同意方面规定，歧义表达和外观操纵等涉及视觉干扰的暗模式属于违法行为。此外，欧盟并未在设立专门监管暗模式监管机构方面作出更大的努力，而是选择提倡相关各方广泛参与监管。依据欧盟的《不正当商业行为指令》(UCPD)，不仅是消费者、消费者保护机构及国家监管部门，竞争对手也可以以“直接或间接损害”为由对数字平台暗模式等不正当行为提起诉讼，以防止竞争对手使用暗模式，形成全社会广泛参与的监管治理环境。

3.中国：不得干扰、欺骗和诱导消费者

目前，中国关于数字平台暗模式的监管与诉讼经验还较少，对于暗模式的监管一般归属于数字平台不正当竞争行为的监管范围，如涉及欺诈消费者，侵犯消费者知情权、选择权、不公平交易等行为。2021年8月，市场监管局发布《禁止网络不正当竞争行为规定(公开征求意见稿)》，其中特别强调“经营者不得利用数据、算法等技术手段，对交易条件相同的交易向对方不合理地提供不同的交易信息，侵害交易对方的知情权、选择权、公平交易权等”。此外，《禁止网络不正当竞争行为规定(公开征求意见稿)》也指明数字平台不得恶意诱导消费者，即“经营者不得采取下列方式，对经营者自身或者其商品的性能、功能、质量、曾获荣誉、资格资质等作虚假或者引人误解的商业宣传，欺骗、误导消费者或者相关公众”，以及“经营者不得利用数据、算法等技术手段，通过影响用户选择或其他方式，实施流量劫持、干扰、恶意不兼容等行为，妨碍、破坏其他经营者合法提供的网络产品或者服务正常运行”。2021年11月，国家网信办、工信部、公安部和市场监督局发布《互联网信息服务算法推荐管理规定》，明确规定不得设置诱导用户沉迷、过度消费等违反法律法规或违背伦理道德的算法模型，并且鼓励算法推荐服务提供者综合运用内容权重、打散干预等策略，并优化检索、排序、选择、推送、展示等规则的透明度和可解释性，避免对用户产生不良影响。因此，暗模式中涉及不公平交易侵害、虚假宣传、误导欺骗消费者，以及恶意妨碍、干扰用户选择的行为，都属于监管部门对数字平台不正当行为的监管范围。值得注意的是，中国所颁布的与暗模式相关的政策法规中，针对面向未成年人和老年人等群体的算法要求更为严格，以防范暗模式对易感人群的危害。

(二)暗模式监管的困境与难点

目前，各国对于暗模式的实际监管行动主要以起诉、罚款处理、合同认定无效与解除为主，平台利用暗模式诱导消费者的行为越来越得到监管部门的重视。2018年，对于美国AMG公司所涉及的强制连续性、取消阻碍等暗模式，美国法院给出了12.7亿美元罚款的判决。就针对暗模式的实际监管而言，还存在诸多困境和难点：

第一，在监管暗模式的重视程度方面，暗模式还未得到理论界和监管部门足够的重视。暗模式自2010年作为独立概念被提出后，尽管在学术研究领域得到了一定的重视和发展，但在实际的监管和诉讼过程中，暗模式作为一种利用消费者有限理性进行诱导的新型平台行为模式，只是被归为不正当竞争和损害消费者权益的行为进行监管和治理，在数字平台监管领域并未得到足够的重视，也未形成独立完整的政策与监管体系。其原因在于两方面，一是从理论研究方面，消费者有限理性的经济学假设还未在平台经济领域产生足够的影响力，基于消费者有限理性理论的暗模式概念、分类、表现和影响研究还不够深入和统一，不足以设置专项监管政策和方案。二是从市场监管方面，暗模式是数字平台的特殊商业行为之一，将商业目的内化于复杂的算法和用户界面设计具有很强的隐蔽性和灵活性，数字平台对消费者进行的诱导行为和因此产生的影响不明显，容易被忽视。

第二，在监管暗模式的专门机构方面，缺乏专业的专项监管机构是亟待解决的问题。暗模式不同于传统行业的商业行为，涉及消费者行为决策、算法编译和功能实现、交互界面布局及企业竞争等多种问题，因而对于暗模式的监管和治理涉及心理学、行为经济学、计算机算法、界面设计及法学等领域的相关知识。设立暗模式专项监管和治理机构，一方面可以有效识别和发现数字平台暗模式；另一方面也可以制定专项暗模式行业标准，从而预防数字平台进行恶性暗模式设计，从而对平台经济发展产生损害和风险，发挥良性暗模式设计对消费者权益和平台经济发展的益处。

第三，在暗模式的监管标准方面，暗模式难以确定统一明确的监管实施标准。首先，因为一些暗模式的设计太过微小，如外观操纵、情感操纵，无法保证能够提出根本性补救措施(如解除合同)，监管成本过高。其次，有一些暗模式的性质不明，如多次询问、中间货币、情感操纵等暗模式也有良性的一面，如何定性难以抉择。再次，难以确定一个公认的中立基准，如两种选择按钮——“是”与“否”的外观设计上都容易达成共识，但三种及以上的选择按钮该如何设计。最后，由于消费者群体有限理性的异质性，在易感消费者所占比例、有限理性消费者特征的衡量、对消费者权益造成的损害程度、是否造成“实质性损害”等具体标准的制定方面都提高了暗模式监管的难度。

第四，在监管暗模式的错误成本方面，数字平台暗模式实际监管效果难以把握。在评估政策执行的过程中，往往需要考虑错误成本(Error Cost)，包括“误报”成本(将没有损害的行为错误认定为具有损害、垄断性质的成本，即假阳性成本)、“漏报”成本(对具有损害的行为没有能够识别出来的成本，即假阴性成本)，以及与启动法律程序相关的监管成本。由于暗模式的监管标准难以确定和统一，因而对于暗模式的监管政策往往容易产生错误成本。一方面，对具有一定损害性质的暗模式进行实际监管，有限理性消费者将提高自身福利，但可能对理性消费者产生困扰，如禁止数字平台进行预选隐私设置，理性消费者不得不进行繁杂冗长的隐私设置，这就将产生“误报”成本；另一方面，一些暗模式过于微小难以发现且直接损害程度小，监管成本过高，往往不纳入监管范围，如多次询问等类型的暗模式，容易产生“漏报”成本，如果不加以监管和规制也将产生诸多损害和风险。

(三)政策建议

1.推进暗模式理论研究，完善暗模式监管顶层设计

针对暗模式对数字平台风险的影响，以及暗模式在实际监管中的困境与难点，亟需学界、市场监督等各相关部门加强关注。一方面，要努力推进暗模式领域研究发展，在将消费者有限理性纳入到平台经济研究范式的基础上，深入探析暗模式的商业行为性质、实施意图及更多的表现形式，判断对消费者福利、行业内竞争者及平台经济整体发展的影响和风险；另一方面，将数字平台暗模式理论研究成果落实到暗模式监管政策领域，结合消费者权益保护、商业不正当竞争监管与数字平台反垄断政策，加强各方领域政策法规的协调与整合，构建暗模式监管和治理的政策体系，多层次全方位完善暗模式监管的顶层设计。

2.加强暗模式自治与约束，防范数字平台风险

由于暗模式性质不一，在不同的情景下可能存在不同的效果，因而需要设立专门标准制定机构考察、测试、制定数字平台行业设计标准与准则，在合理、适度的水平上对平台暗模式加强监管与约束。一方面，降低数字平台对个人层面所造成的数字成瘾、福利权益及隐私安全的侵害和风险；另一方面，防范数字平台利用暗模式混淆市场信息、无序竞争及形成平台垄断的风险。杜绝暗模式恶性使用所产生的风险，同时促进暗模式良性运用，进一步贴近消费者需求，提高数字经济发展效率。同时，还需加强数字平台暗模式治理环境与机制，鼓励数字平台承担市场“守门人”的责任和义务，加强对行业内暗模式的自治整顿，配合多方监管和治理，建立数字平台、用户、第三方机构、政府机构等多方协同的治理框架，鼓励暗模式治理主体多样化、治理机制灵活化。

3.提高消费者理性决策意识，保护消费者自身利益

数字平台暗模式的实质是在利用消费者的有限理性，而消费者往往意识不到暗模式的存在，忽视和低估了暗模式对自身福利的威胁。因此，在加强数字平台暗模式监管的同时，应提高消费者对数字平台诱导行为的警惕意识和数字素养，加强消费者在数字平台决策环境中的理性意识，避免被数字平台诱导产生利益损失和成瘾行为，克服跟风式、冲动式、惰性式消费，提高保护自身隐私数据的安全意识，从根源上防范对消费者层面的损害和风险。