论成瘾性科技风险的法律规制

闫 海 王天依

(辽宁大学 a.法学院;b.国家治理与法治研究中心,沈阳 110136)

提要: 成瘾性科技形成于注意力经济背景之下,通过动机、能力、提示的习惯塑造机制的运用与算法科技的加持,帮助企业获取用户注意力、稳固用户群体、实现经济增长,但其隐蔽、深度控制用户的特性应当受到法律规制的关注。成瘾性科技运用成瘾模型与算法诱导用户成瘾,会产生过度使用风险、个人信息滥用风险、科技伦理价值风险,具有风险影响的普遍性、形式的隐蔽性、趋势的上升性、对象的不平等性等特征。我国针对成瘾性科技应当采取多层级化的规制策略构建成瘾性科技风险法律规制体系,建立以用户防御机制为核心的嵌套式元规制体系,通过与硬件厂商、应用商店、戒瘾软件合作规制以提供加强和冗余的用户保护,并对教育型助推、经济型规制、科技伦理根源治理等外部规制工具进行创新改良,形成融贯元规制-合作规制-外部规制的三重规制体系。通过对成瘾性科技风险的法律规制,实现家长主义、自由意志、商业自由三者之间的微妙平衡,使用户在享受科技便利的同时免受成瘾性科技风险的侵扰、危害。

“屏幕那边有数千人在努力工作,为的就是破坏你的自律”[1]3——成瘾性科技(Habit-Forming Technology),指有意识地运用基于行为经济学构建的成瘾模型与算法,诱导用户形成心理甚至生理性依赖的应用软件。成瘾性科技产生于注意力经济背景之下,信息曾经是稀缺资源,但进入后工业化特别是高度信息化社会后,数字信息丰富且漫灌[2],信息不再稀缺而是过载,人类处理数据信息的行为即注意力反而成为稀缺品[3]。人们的时间和精力都是有限的,诸如工作会消耗精力、休息会占用时间等等,能投入媒介上的时间和精力更为有限。因此,凝聚了受众的时间和精力的注意力就显得十分重要,媒介赢得的注意力越多,越能带来较高的经济收益。成瘾性科技推动用户养成定期、长期、自我强化的使用习惯,帮助企业赢得用户的稳定使用时间、形成稳固用户群体,使企业更有可能取得注意力的市场竞争优势,因此备受青睐,近年来发展迅速。但是,成瘾性科技深度控制用户的精神世界,改变用户行为模式,并且导致用户合法权益受损的情况也引发关注。2022年《互联网信息服务算法推荐管理规定》第8条规定,“算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等,不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型”,标志我国认识到成瘾性科技及其风险的存在并展开法律规制。目前,成瘾性科技利用日渐成熟的成瘾模型,依托于数据—算法—平台构成的“三维体系”,被隐蔽而广泛地应用于社交媒体、购物、游戏休闲、短视频、直播视频等众多互联网领域,仅从算法伦理单一维度出发进行规制显然力有不逮,加之规制机关与企业之间的技术鸿沟致使条文虚置,迄今仍无适用案例出现。互联网基础设施的建立以及智能移动客户端的普及使成瘾性科技的受众空前广泛,成瘾性科技带来的风险亦随之成倍增长,因此对成瘾性科技风险的法律规制应当进行维度扩展,增强相关主体的规制参与度,探索新的规制进路,革新规制工具。

一、成瘾性科技的习惯塑造机制

成瘾性科技的本质在于有目的地植入了成瘾模型。成瘾模型也被称为“黑暗模式”,亚当·奥尔特认为成瘾模型由“诱人的目标”“不可抗拒的积极反馈”“毫不费力的进步”“逐渐升级的挑战”“未完成的紧张感”“令人痴迷的社会活动”六大要素组成[1]64-163;尼尔·埃亚尔则提出“触发—行动—多变的酬赏—投入”四阶段模型[4]27-121。这些虽有助于理解成瘾模型但未触及根本,难以切实认识成瘾性科技,更无法为法律规制提供有效指引。我们以行为经济学视角,对成瘾模型予以结构、原理的解析,达成对成瘾性科技的正确认知,为法律规制的构建奠定理论基础。

(一)习惯塑造机制的成瘾模型

为帮助人们塑造良好的生活习惯、扭转困境,福格基于行为科学提出“福格习惯塑造模型”。模型展现了习惯塑造的三个通用要素,即动机、能力、提示,当三要素齐备,行为便会发生[5]29。福格还以行动线图形式进一步总结和展现习惯塑造的四原则(见图1):(1)动机越强,行为就越有可能做到;(2)行为越容易就越可能成为习惯;(3)动机和能力要像队友一样密切配合;(4)没有提示,任何行为都不会发生[5]34-40。申言之,只有在行动线之上的行为才能够被完成,行为①具备了动机和能力,处于行动线之上,只要受到提示便能够做出行为并逐渐养成习惯;而行为②③④则分别因能力不足、动机不足或能力动机都不足而无法达成,因此位于行动线以下,即使受到提示也无法成为习惯。

图1 行动线示意图[5]38

福格习惯塑造模型的三要素与四原则为成瘾性科技奠定了理论基础。企业为了在注意力竞争中取得优势,运用福格习惯塑造模型结合互联网环境以及智能移动客户端的特点打造成瘾模型:(1)以多变的酬赏和禀赋效应塑造用户的强大稳定使用动机;(2)运用简化式助推与默认设置,清除使用阻碍、降低摩擦成本,使用户更加容易使用;(3)设置外部型与内源型触发装置,频繁提示用户进行使用。在三者联合运用下,用户被养成使用成瘾性科技的习惯,形成生理、心理依赖,直至最终彻底成瘾。

(二)以多变酬赏与禀赋效应形成动机

依据福格习惯塑造模型,动机是复杂多变、波动频繁的,动机在高涨后往往还会迅速回落[5]57-60,因此成瘾性科技运用多变的酬赏和禀赋效应为用户创造稳定而强烈的动机。

1.多变酬赏

多变酬赏,指基于可变比率强化原理(Variable Ratio Reinforcement)为用户设计可变奖励计划(Variable Reward Schedule),给予用户随机而非固定的酬赏。之所以提供随机而非固定的酬赏,是因为一个人在随机的时间间隔接受积极的刺激时,多巴胺会充斥大脑,此过程重复之后,就会产生依赖性[6]。卢克·克拉克对此解释,“人类大脑的多巴胺系统对不可预测的奖励非常感兴趣。当存在最大不确定性时,多巴胺细胞最为活跃,即多巴胺系统对不确定奖励的反应高于可预测的相同奖励”[7]。质言之,如果奖励总是固定的,用户能够预测下一步会发生什么,反而不会产生喜出望外的感觉[4]87-88。多变酬赏在早期通过机制设计而实现,例如淘宝、京东将各类商品的优惠、秒杀信息混杂在一起,用户找到价格优惠的心仪商品时便会感到兴奋,会重复刷新查看;又如门户网站将各类新闻、信息放置在一起,用户为了能够找到有趣的信息只能长时间在网页进行搜寻。近期的多变酬赏则运用算法工具进行更精细的操作,例如社交与拍照应用Instagram结合算法为特定用户定制可变的奖励时间表,当算法预测可以对用户产生最大心理影响时,便会通知用户已被其他人关注或点赞,使“奖励”对用户产生最大效用[6];又如原神、第五人格、明日方舟等网络游戏采取所谓“氪金抽卡”①,用户通过投入现实货币或虚拟币以抽取装备道具奖励,抽奖结果名为随机实则取决于算法,算法将最大化多巴胺的产生,诱导用户大量充值。

2.禀赋效应

禀赋效应是一种广泛存在于市场交易中的行为偏误,通常表现为某物品的拥有者较非拥有者对此物品的评价更高[8],其本质之处在于效用与占有相关,即以某种方式获得某物品的人,不管是购买抑或获赠,对此物品的估价一般都要高于旁人的估价[9],因此拥有者损失已占有的物品时会感到极大的、超出理性的痛苦,而为了避免承受心理痛苦,拥有者通常采取能够规避损失的策略。成瘾性科技会向用户授予某种奖励,但在用户中断或停止使用时夺走它们,用户为了规避“损失”,只能被迫持续使用。例如淘宝、京东设计了日常任务或连续签到任务,达成一定要求的用户将获得奖励,若是中断便会损失当日奖励甚至重新起算。又如,社交媒体应用软件Snapchat设计了“连胜图案”,当用户通过平台向其他人发送图片时,他们就会开始积累由条纹构成的“连胜图案”。每连续分享图片一天,条纹会增加一个,但当用户超过24小时未发送图像时,就会失去所有条纹和标志荣誉的火焰表情符号。再如,外语学习软件Duolingo不仅采取鼓励连续使用的“打卡”设计,还设定“如果用户错过打卡,他们可以付费‘修复’”[10],加重了损失带来的痛感。还有消除游戏开心消消乐则设计了签到获奖模式,每月签到使用超过28天的用户可以免费兑换奖品,“缺席”的天数需要支付虚拟币进行“补签”。

(三)以简化式助推与默认设置强化能力

简化式助推与默认设置帮助成瘾性科技扫除了用户使用成瘾性科技过程中的操作障碍与法律障碍,用户与成瘾性科技之间再无任何阻隔,更加容易地使用成瘾性科技——也就更容易成瘾。

1.简化式助推

依据福格习惯塑造模型,某种行为欲被塑造为习惯,则行为难度不宜过高,“让行为简单到随时随地都能做”[5]83。简化助推通过减少摩擦成本或改变默认选项等方式,使事情变得更加简单易行[11],这无疑与成瘾性科技降低行为难度的目标契合。简化式助推在早期被用于提升用户体验,例如Facebook设计简易的注册程序、谷歌清除了页面的无关信息与广告等[4]62-65,但其简化的潜在成瘾功能随即被发现:(1)简化式助推无形地消除了用户选择中途停止使用的机会,例如无尽卷轴(Infinite Scrolls),当用户接近或到达网页已加载内容的末尾时,便会自动加载额外内容;又如自动播放(Autoplay),当用户结束当前播放的音乐或视频后无需操作直接播放算法推荐内容。这两类设计被认为将“鼓励用户的过度使用行为”,美国参议员乔希·霍利(Josh Hawley)发起的《降低社交媒体成瘾技术法案》(SMART Act)主张对它们进行禁止。(2)对于简化式助推的正反双向应用,正向使注册、登录、充值等行为都更加容易,反向则增加摩擦成本,将限制登录和查看使用次数、限制使用时间、限制自动续期续费、注销账号等功能从主界面中隐藏起来,使用户难以自主采用防止成瘾和沉迷的措施,此类设计因其能够令用户“易进难出”而被称为“蟑螂屋(Roach Motel)”[12]。(3)简化式助推针对风险告知、知情同意等原本需要用户深思熟虑的场景,这最具危险性,导致用户在“系统1”主导状态下仓促做出半意识的、自动的决定②,使之同意上传个人隐私信息,接受算法推荐,乃至开通长期自动续费的网络订购、网络充值等付费类服务,隐私的放开和持续的自动充值最终都会加深用户与成瘾性科技的绑定,使用户更难放弃使用。

2.默认设置

默认设置是一种更为常用的简化式助推。默认设置被企业滥用,设立于自己有益却有害用户的默认设置,例如企业为用户提供的个人隐私设置、使用数据上传设置、算法推荐设置名义上可以自由选择、定制,但却刻意使功能界面过于复杂或隐蔽,这时用户便会选择那些有害于他们的“坏默认(Bad Default)”[6]。美国消费者联盟的报告指出,Facebook运用默认设置的方式助推用户接受预设隐私条款,允许广告商收集和访问自己的个人信息,若是用户接受默认隐私设置,注册程序则非常简单,但若是用户选择在注册完成前修改预设隐私条款,就会被引导至一系列复杂的条款选择界面,当其完成选择,又会被引导至新界面——此界面显示禁止用户在注册完成前修改Facebook提供的预设隐私条款[13],如此繁复又逻辑自相矛盾的流程,最终将迫使用户接受对他们不利的“坏默认”。“坏默认”掏空知情同意规则,使其彻底形式化、空洞化,令用户“选择”了更易成瘾的服务条款:(1)“坏默认”使成瘾性科技获得多重权限,可以通过发送通知、短信、邮件等方式频繁诱导用户使用;(2)“坏默认”帮助成瘾性科技获取用户的个人信息、隐私信息,这些信息将被用于诱导用户成瘾乃至售卖第三方;(3)“坏默认”还令用户“合法自愿”地暴露于成瘾性科技的成瘾模型与算法之下,乃至沦为成瘾实验的对象,所得到的数据和结论还将被企业用于进一步完善成瘾模型与算法,从而开启下一个成瘾循环;(4)“坏默认”为成瘾性科技清除了法律上的障碍,成瘾性科技可以依照条款推卸责任,拒绝对用户的安全和健康承担义务。

(四)以外部型和内源型触发装置设置提示

依据福格习惯塑造模型,提示是行为的第三要素,若是缺乏提示,即便存在动机和能力,行为也不会发生。企业设置外部型和内源型触发装置,使用户在受到触发后进行使用[4]33-40。

外部型触发装置包括以下方式:(1)经济型触发,通过经济上的回馈吸引用户,如周期性开启秒杀活动、发送优惠券乃至直接发放现金等方式诱使用户频繁使用;(2)通知型触发,通知用户收到新信息、新评论或点赞,在用户长时间不登录时还会发送电子邮件或短信提示用户进行登录;(3)人际型触发,如Facebook、QQ等软件会自动生成好友生日通知,迫使收到通知的用户进行生日祝福[14],又如备受厌恶的“好友垃圾邮件”(Friend Spam),以寻找现实好友为理由索取用户的邮件或通讯录,随后向用户的所有联系人发送垃圾邮件,并声称邮件是用户发送,脉脉软件即曾因使用好友垃圾邮件,被法院认定为“侵扰私人生活的安宁,构成对隐私权的侵犯”③。

尼尔·埃亚尔指出,依赖外界条件刺激用户感官的外部型触发难以持久发挥作用,自动出现在用户脑海中的内源型触发才是控制用户行为的关键[4]36,但使用内源型触发也意味对用户进行深度心理操控。内源型触发可以来自积极情感,但恐惧、焦虑等负面情绪才是威力更加强大的内部触发,更有助于使用户成瘾[15]。成瘾性科技往往不惜将负面情绪以内源型触发装置加诸用户,如Facebook滥用用户对“错过重要社交信息”的恐惧,一名用户描述了他矛盾的心态,“我不喜欢Facebook。我觉得我必须拥有它只是因为其他人都拥有它。我觉得我会错过什么——我甚至不知道我会错过什么”[14]。比之滥用恐惧,制造对立情绪的内源型触发装置更为恶劣,例如社交机器人被用于伪造人类言论,导致用户对对立观点形成更强的敌意从而紧密抱团[16],借助对立甚至仇恨情绪触发用户的长时间与对立者进行“战斗”。

二、成瘾性科技风险的特征与类型

成瘾模型发展以及数据算法科技的进步推动成瘾性科技形态迭代。一代成瘾性科技以谷歌、魔兽世界、Facebook、Twitter为代表,依赖成瘾模型进行运作,并且通过成瘾测试进行实证以加强产品的成瘾性,其对由此带来的用户风险持放任态度,所以一代成瘾性科技本质上是由私人主体进行的“恶意助推”。诸如微信、抖音、滴滴等二代成瘾性科技则重点运用了数据采集和算法科技,通过后台对用户偏好进行个性化的分析,进而为用户推送量身定做的产品,具有便携性、个性化、自主性、链接性,全面入侵乃至掌控用户日常生活,应当成为主要的规制对象。注意力竞争推动成瘾性科技急速演化,法律规制却长期滞后缺位,二者之间不对称性形成的规制真空使成瘾性科技的发展走向盲目无序,以致成瘾性科技的研发、运营、操作层面产生各种类、各形态风险。成瘾性科技风险包括过度使用相关风险、个人信息滥用风险、科技伦理价值风险,具有影响的普遍性、形式的隐蔽性、趋势上升性、对象不平等性特征。

(一)成瘾性科技风险的特征

1.风险影响的普遍性

成瘾性科技已经渗入即时通信、综合电商、支付结算、短视频等几乎所有互联网经济领域。在QUEST MOBILE发布的“App用户规模亿级玩家”榜单中,微信在国内用户量最多的20款应用软件中排行第1,用户人数超过10亿,淘宝、支付宝、抖音、拼多多等8款用户人数超过5亿,排行末位的今日头条用户也达到3.4亿[17],这些均运用了成瘾模型与算法,符合成瘾性科技的特征,可见成瘾性科技虽是新近提出的概念但已普遍存在。2022年8月中国互联网络信息中心《第50次中国互联网络发展状况统计报告》显示,截至2022年6月我国网民规模为10.51亿,互联网普及率达74.4%,网民中使用手机上网的比例为99.6%,网民年龄从10以下至60岁以上皆有分布[18],成瘾性科技普遍性的运用与我国互联网高普及率叠加,意味着我国公众处于成瘾性科技的影响之下,成瘾性科技的风险将给整个社会带来巨大负外部性。

2.风险形式的隐蔽性

成瘾性科技所影响的用户基数巨大,但长久以来却流于法律规制之外,原因在于成瘾性科技风险形式的隐蔽性。成瘾模型与算法运行于黑箱之内天然隐蔽,其作用方式亦是暗中对用户施加助推,诱使用户“自主”决策,使用户难以察觉自己受害的事实,即使发现自己已经成瘾亦往往归咎于自身意志力不足,无法认知到成瘾性科技才是真正风险源头。此外,成瘾性科技造成的风险往往是长期的、潜移默化的,诸如身心健康、个人信息滥用等风险,都存在延时发生的特性,风险时空的不一致性使得用户乃至规制机关难以将成瘾性科技与具体危害后果之间建立因果联系。

3.风险趋势的上升性

处于注意力竞争中的企业试图保有自身用户、抢夺其他企业用户,这使得市场竞争朝向高成瘾性竞争发展,引发“成瘾军备竞赛”。企业时刻关注其他竞争对手采取的成瘾模型与算法,并试图模仿和超越,再进入下一个循环,无休止的成瘾竞争将导致成瘾性科技不断自我进化。成瘾性的螺旋上升意味着对用户操纵的不断加深,用户将为成瘾性科技付出更多时间,也将自己暴露于更大的风险之下,成瘾性科技风险不仅不会自行消弭,反而会随时间上升,凸显法律规制介入进行遏制的必要性。

4.风险对象的不平等性

成瘾性科技给用户带来的风险并非均等,部分用户将承受更严重风险。用户技术能力差异引发的风险并不平等,具有技术能力的用户不仅可以较早认识到成瘾性科技带来的影响,还可以对成瘾性科技的默认设置进行修改,限制使用时间和花费金额,达成一定程度的自主防御,但缺乏技术能力的用户甚至不会认识到自己正受成瘾性科技影响,遑论采取防御措施。此外,用户心理健康程度不一也造成成瘾性科技风险的不平等,处于焦虑、抑郁或心理疾病状态的用户更容易受影响而成瘾,心智处于发展中的未成年人亦容易遭遇风险,乃至近期研究发现,处于孤独状态的老人亦较容易成瘾[19]。成瘾性科技风险不平等性要求法律不仅要采取普适性规制措施,还需为弱势群体提供更强保护。

(二)成瘾性科技风险的类型

1.过度使用相关风险

成瘾性科技旨在诱导用户成瘾,直接导致用户不合理的过度使用,进而引发系列风险。过度使用在心理方面带来自恋、低自信和自尊、注意力不集中、多动症、批判性思维萎缩、情绪波动、焦虑和抑郁、心理压力等[20],Andreassen等指出,注意力缺陷多动障碍、抑郁症、焦虑和社交恐惧症都与过度使用呈正相关[21]。过度使用在身体方面则带来睡眠障碍,由分心驾驶、骑自行车和步行造成的事故,久坐不动的成瘾生活方式的影响,例如肥胖、糖尿病等[20];在社会关系层面,过度使用会造成婚姻不和谐、社会孤立、工作表现下降和失业[22]以及亲子关系问题[23],大学生群体成瘾使用还会给学业与心理健康带来负面影响[24]。

除共性的过度使用风险外,成瘾性科技渗透至具体领域内,或是引发新风险,或是成为此领域内原有风险的“放大器”:(1)媒体型成瘾性科技易诱发网络极化风险。推荐算法预先过滤掉了与用户认知不符的新闻、信息,用户被置于网络茧房之内却不自知,用户受成瘾影响长时间停留其中,易受到极化影响,而极化又会衍生网络各圈层严重对抗[25]、反主流情绪撕裂社会共识、破坏网络生态[25]、诱发网络暴力、极化行为延伸至现实生活[26]等一系列次生风险问题。(2)游戏型成瘾性科技针对网络游戏环境特点设计能够令用户不断加大时间、金钱投入的“捕鲸策略”④,采用了与赌博高度类似的“氪金抽卡”机制,诱导用户通过投入虚拟乃至现实货币获取装备物品,给用户尤其是未成年人带来诱发赌博风险[27]、财务风险[28]、霸凌风险[29],甚至可能引发未成年人早期犯罪行为。(3)购物型成瘾性科技的市场操纵行为给用户带来财务风险、隐私风险和独立决策能力损害[30]。购物型成瘾性科技借助平台优势,为用户设置网络贷款入口并提供现金优惠诱导用户使用,形成购物—贷款型成瘾科技,其操作中的行为与掠夺性贷款的判定要件高度重合。在非必要的情况下,即用户本可不使用贷款进行支付,诱使用户使用符合构成服务滥用[31]。购物—贷款型成瘾科技运用简化的流程,放松对用户还款能力的充分审查,属于超越用户能力的放贷行为[32]。在用户初次使用后,购物—贷款型成瘾科技在弱化对用户的风险告知流程的前提下,不断推荐延期还款、分期还款服务,使交易结构日趋复杂化进而推高利息,属于滥用有利于贷款人的信息不对称[31]和“向不知情或缺乏经验的借款人隐瞒贷款义务或辅助产品的真实性质”[33],质言之,购物—贷款型成瘾性科技符合掠夺性贷款认定的形式要件,会给客户带来掠夺性贷款风险。

2.个人信息滥用风险

成瘾性科技具有强烈的获取个人信息动因,成瘾性科技需要收集信息进行习惯测试以完善成瘾模型,为实现“注意力吸引—监控,数据收集和实验—成瘾—注意力吸引”的定制化成瘾循环[6],对个人信息的渴求更强烈,无节制获取和滥用信息行为更甚。成瘾性科技收集的个人信息不仅限联系电话、电子邮箱、身份证号码等“原始信息”,更通过成瘾测试窥探用户的心理状态与行为模式,这些信息是用户本人亦不知晓的“深度信息”。

2021年《个人信息保护法》第3条将自然人有关的各种信息与“分析、评估境内自然人的行为”均纳入法律适用范围,亦即成瘾性科技收集“原始信息”与“深度信息”的行为均应受到规制。《个人信息保护法》等多部法律对个人信息处理的原则、条件予以规定,诸如处理个人信息目的的正当性、收集个人信息的必要性以及个人的同意等构成合法收集、处理个人信息的基本准绳[34]。但是,貌似周全的个人信息法律保护框架,却被成瘾性科技以概念与技术的双重鸿沟而突破。成瘾性科技以概念鸿沟进行形式化合规博弈,例如以“提升服务质量和用户体验”作为目的正当性基础,利用自身地位对必要信息做出单方解释和定义,以及利用格式条款、默认选项乃至以停止服务为威胁获取用户的同意意思表示,形式上似具备了目的正当性、必要性、个人同意三个必要合法要件,但在实质上利用三要件法律规定的模糊性和相关案例暂付阙如的状况进行了倾向于自己利益的解释与操作。成瘾性科技还借助技术鸿沟逃避维权与执法,相对于规制机关和用户,具备压倒性的技术优势,在数据抓取和分析利用不透明的情况下,消费者的维权行为很难对其展开有效对抗,规制机关的执法检查亦面临技术与成本难题。

3.科技伦理失范风险

科技伦理价值的核心层面基于人类的核心价值,即建立在主体理性之上的人的尊严、幸福、自由、关爱等内在价值[35],亦应遵循不伤害、尊重人、受益和公平等生命伦理学基本原则[36]。成瘾性科技的出现使科技伦理在互联网经济中遭遇失范危机:(1)成瘾性科技通过技术控制手段对用户的精神乃至身体进行规训与操控而造成成瘾,成瘾会使用户招致身体、精神、经济、事业、学业等多方面伤害,因而违反不伤害原则,存在道德上错误[37]。(2)为加速成瘾性科技演化,用户被反复作为实验对象进行所谓“习惯测试”[4]186,用户不知情地沦落为试验对象和数据资源[38]109。成瘾性科技让用户参与其更容易上瘾的研发过程中,并在无意识中贡献了自己的数据与能力,“用户被利用来对付自己”[37],这种行为将用户尊严和利益视为无关紧要,是对用户的不尊重和贬低[37],也构成对用户利益的漠视。(3)成瘾性科技不断在习惯测试中运用数据与算法,窥探隐藏的人类思维和人类意图的特征,但解读却显非出于善意,而是为了探查用户的脆弱性[38]109-111,再利用脆弱性使用户成瘾从而获得经济利益。这种利用对方弱点达到目的的行为足以构成剥削,是道德上特别令人反感的剥削形式[37]。(4)成瘾性科技带来的科技伦理失范,极易因模仿效应而产生扩散性风险,对其他科技领域尤其是方兴未艾的元宇宙带来负面影响。

三、成瘾性科技风险的元规制

法律规制应当着眼用户福祉,基于自由主义的温和专制主义理念[39]5-7,设计用户防御机制即不强制用户停止使用,而是帮助其更好认识和改善使用行为,通过元规制推动用户防御机制运行,以避免成瘾性科技给用户带来风险。

(一)成瘾性科技的嵌套式元规制体系

成瘾性科技用户防御机制的推行面临双重困境:一是企业自我规制动力不足困境。有足够的技术能力设计防御机制,但成瘾性降低显然意味着市场竞争力削弱和盈利能力下降,因此完全寄望企业基于对用户负责或社会责任感主动设计用户防御机制是不现实的;二是外部规制机关能力不足困境,规制机关虽然具有强烈规制意愿但却缺乏技术能力,无法直接介入成瘾性科技的设计和运行为用户配置防御机制。造成双重困境的共同原因在于规制动机与规制能力不匹配,企业具备技术能力和便利却缺乏实施动机,其商业模式与帮助用户预防成瘾、促进更安全使用之间存在矛盾,而规制机关则相反,虽有规制动机但掣肘于规制资源的限制。打破困境应当以规制谱系上位于二者之间的元规制为应因之道。元规制是指“对自我规制予以规制的过程”[40],采取双层结构嵌套构建:第一层是市场主体自我规制,但元规制体系下的自我规制与“纯粹的自我规制”不同,市场主体将受到规制机关在规制目标、规制措施等方面的指导;第二层是自我规制运行未能产生预期规制效果时,规制机关将介入并采取纠正措施。成瘾性科技元规制亦应构建双层嵌套模式,规制机关在第一层级为自我规制提出目标并列举若干必要的用户防御机制;规制机关在第二层级检视自我规制的成效,若自我规制失败则介入予以纠正。

(二)第一层级的用户防御机制设置

成瘾性科技元规制的自我规制目标是防止用户过度使用引发各种风险危害,规制机关应提供更具体指引,以列举式方法要求企业采取用户防御机制,亦鼓励企业自主研发新型防御机制。成瘾性科技从创造动机、让使用更加容易、设置触发装置三方面来塑造习惯、引导成瘾,因此用户防御机制亦应基于行为经济学并采取相反逻辑运行,即削弱动机、限制能力、阻断触发,以防止用户成瘾。

1.以使用反馈机制削弱动机

帮助人们改进其行为的最好方法是提供反馈。设计精妙的反馈系统能够提示人们的行为是否得当[39]107。用户往往不知晓自己是否存在成瘾问题,而使用反馈机制的设置能够能帮助用户认识到成瘾程度与严重性,给用户树立限制使用、理性使用的目标,削弱无节制使用成瘾性科技的动机。使用反馈机制亦能够使用户了解自己使用时间的增减趋势从而辅助他们更加理性地进行使用。使用反馈机制主要分为两类:一类是跟踪型(Tracking),对于查看次数、使用时间、充值付费金额等数据追踪调查;另一类是数据呈现型(Data Presentation),提供设备使用情况总结、应用软件使用情况总结、日/周使用情况回顾、使用情况社会比较[41]。跟踪型与数据展示型机制应当进行结合运用,由跟踪型工具进行用户原始使用数据的跟踪调查,数据展示型工具则可以提供易于理解的图表、画面展示和用于个人与社会平均使用时间、建议使用时间的比较,二者协作预期能产生更好的助推作用。

2.以自主限制机制降低能力

自主限制机制能够从根本上抑制用户的成瘾使用行为,起到釜底抽薪的作用,是用户防御机制中最重要的一环:(1)身份验证环节是自主限制机制的基础,若缺乏实质性的身份验证,用户可以无限制地注册新账号,这将使自我限制机制形同虚设。此外,身份验证环节还有助于保护弱势群体尤其是未成年人的成瘾风险。我国对游戏型成瘾性科技较早设立身份验证环节,但运行效果不尽如人意,屡次出现明显漏洞⑤,依赖身份证信息的验证极易被突破,因此应当推广人脸识别验证。(2)极限设定(Limit-setting),是国内外均被认为具有良好效果的防御机制,与有效运行的身份验证结合能够极好保护用户。极限设定允许用户为自己预设使用次数、使用时长、充值付费金额的极限数值,若超过预设数值则不再允许用户使用。除用户自主极限设定外,企业亦可参与到极限设定中,在用户存在极端不合理的使用情况下,视情况可发出警示,暂停其使用,乃至暂时冻结该用户的账号。(3)人工智能保护系统是新近提出的防御机制,人工智能不再被用于使用户成瘾,而是用于识别和保护潜在的、可能过度使用的用户。在理想状态下,人工智能保护系统可以对用户的不良行为进行事前预判,并且在识别后限制其注册、登录、使用,在用户成瘾前实现智能管控[42]。(4)自主注销机制是严重成瘾用户的最后防线。目前成瘾性科技的内置自主注销机制设置过于隐蔽,并且允许用户在注销后立即重新注册,以致形同虚设,法律应当要求企业将注销流程规范化、明晰化,设置自主注销后的“冷静期”,即注销后一段时间内禁止同一用户的注册和使用。为了更好保护未成年用户和存在心理问题的用户,还应设置监护人权限,赋予监护人暂时冻结账号的权利。

3.以触发限制机制阻止提示

提示是行为发生的决定性要素,没有提示行为就不会发生[5]115。成瘾性科技设计触发机制不断提示用户进行使用,因此用户的自我防御机制应帮助用户过滤不必要的触发。触发限制机制包括以下两部分:(1)优化默认设置。“坏默认”允许无限制地向用户发送软件消息提醒、手机短信、电子邮件,使用户随时随地收到提示,易诱发成瘾使用,对默认设置优化,除好友间通信外,默认禁止对用户发送提示行为,除非用户因存在切实需要而自行设置准许接收。(2)设定免扰时间。即使用户同意接受触发,但亦应当为用户设置合理的免扰时间,尤其是在深夜时段,学生用户的上课时间亦应禁止一切的主动触发行为。(3)禁止人工智能或社交机器人对用户进行自动化的点赞、回复、评论等行为,防止人工智能的自动化回复与算法结合随时对用户进行提示。

(三)第二层级的纠正措施后置介入

纠正措施的后置介入是在第一层级预设的规制目标未达成时所采取的规制手段,纠正措施虽发生于事后,但其所蕴含的威慑力却足以敦促企业主动达成规制目标以免受到惩戒。

纠正措施适用应当先建立对成瘾性科技行政检查。元规制中的行政检查兼具执法行为与监督行为的双重属性,若预设规制目标已然达成,规制机关应选择尊重现状而非惩戒。质言之,行政检查的根本目的在于检验规制目标是否被达成,以决定后续是否进行介入。成瘾性科技数量庞大,因此行政检查应当与分级分类监管、信用监管结合,着重将规制资源重点投入运营超大平台的企业、存在违法或不良信用记录的企业以及对未成年人影响较大的游戏型成瘾性科技运营企业。

纠正措施应逐步搭建“执法金字塔”体系。在理想状态情况下,规制机关应拥有从强到弱的多种惩戒工具,形成惩戒力度拾级而上的执法金字塔。但是,目前我国尚未建立成瘾性科技法律规制的框架,亦未制定专门规范性文件,规制机关能够寻求到的规制工具极其有限。规制机关在个案处理上应将行政约谈为首要工具选项,发挥行政约谈的威慑效力,解除迫在眉睫的严重风险。行政约谈亦是一项灵活性较强的对话式规制工具,有助于规制机关建立与企业的互信基础,为后续规制中的合作进行铺垫。待成瘾性科技的法律规制通过渐进优化走向成熟,则应开始丰富规制工具种类,制定由弱到强的完整金字塔式惩戒体系:首次犯错且改正积极的企业予以低力度的警告、教育和约谈;对屡教不改的企业则渐次加强惩戒力度,依次采取重点监管、负面信息公布、行政罚款、添加数字成瘾标签直至最严重的吊销行政许可和全面下架[43]。唯如此,才能既帮助偶然违法者改正行为,又能够对屡罚屡犯、拒绝改正者施加严厉的处罚。

四、成瘾性科技风险的合作规制

成瘾性科技的合作规制能够提供自我规制与外部规制以外的资源。作为合作对象的硬件厂商、应用商店、第三方软件皆为私主体,反而不必如规制机关般囿于法律授权,可以实施更强力度的措施。此外,合作规制还可以为用户提供“冗余保护”,即合作规制提供的保护形式与自我规制、外部规制存在措施上或对象上的重叠[44]302-303,其优势在于能够大大提高规制容错率,多重保护机制的任意一项都能起到保护作用。

(一)硬件厂商

硬件厂商在技术层面拥有较高优势,通过自身掌握的系统与硬件权限能够对用户的各类成瘾性科技使用情况进行监控和限制,并且硬件厂商还拥有较强的规制参与动机,硬件厂商能够通过预防成瘾风险、为用户提供更好的注意力保护而提升自身市场竞争力,部分硬件厂商已经将预防成瘾作为产品的独特优势⑥。硬件厂商在成瘾性科技合作规制中,可以从以下方面发挥作用:(1)硬件厂商运用自身技术优势和对数据、算法底层逻辑的深刻理解开发新型反成瘾机制,例如小米公司开发的“空白通行证”,允许用户以一个空白的虚拟身份使用成瘾性科技,当成瘾性科技试图获取用户的个人信息或使用情况信息时,系统会自动反馈空白信息,“空白通行证”能够有效防御用户个人信息泄露和成瘾算法影响,规制机关应鼓励指引此类工具的开发。(2)硬件厂商掌握设备出场的默认设置和默认安装软件,规制机关可引导要求厂商将反成瘾机制设置为默认开启或预装第三方的反成瘾软件应用;与之相对,规制机关亦可要求硬件厂商参与对违法劣迹成瘾性科技的惩戒,不得将其作为预装应用。(3)硬件厂商拥有较高设备权限,其设置的反成瘾机制能够全面监控硬件内每个成瘾性科技的使用情况,掌握成瘾性科技的通知次数、亮屏次数、使用时间、使用时间段等重要信息,这些信息可以作为规制机关认定成瘾性程度的重要依据,更进一步,硬件厂商可以凭借信息优势成为数字成瘾标签相关标准制定的重要参与者。

(二)应用商店

应用商店是用户获取各类应用软件的主要渠道,是成瘾性科技流入市场走向用户的关键枢纽,具有强大的规制能力和规制资源,是合作规制中不可或缺的参与者。应用商店在成瘾性科技合作规制中,可以从以下方面发挥作用:(1)应用商店是数字成瘾标签的有力推行者,可以在用户获取应用软件这一关键节点提供具备及时性、吸引力的助推,帮助用户远离成瘾性科技,倒逼企业控制、降低成瘾性。(2)应用商店可以将成瘾性纳入应用软件的质量评价体系中,高成瘾性的应用软件将被认定为低质量,进而降低其推荐指数和榜单排名,营造低成瘾性竞争氛围。(3)规制机关在当前法律框架下缺乏对成瘾性科技采取规制行动的法律依据,对成瘾性科技采取的惩戒极易构成行政行为违法,严重限制了规制力度,但应用商店作为私主体不受此限制,不仅可以添加数字成瘾标签和警示信息,对于一些对用户造成严重风险的成瘾性科技还可以直接将其下架,被应用商店下架的成瘾性科技不仅失去推广和下载渠道,还会被市场认为不值得信任。质言之,比之规制机关,应用商店拥有更多手段,能够进行力度更强的惩戒。

规制实践中应用商店的潜能尚未得到激发,应用商店为了获取广告费和利润分成而为成瘾性科技提供宣传、下载、付费渠道,反而成为成瘾性科技事实上的共谋者。规制机关应当重塑应用商店的规制角色,将其视为有潜力的规制合作者充分发挥其规制潜力。应用商店与成瘾性科技存在商业利益上的捆绑,规制角色转换不会自然生成,规制机关需要运用“萝卜+大棒”的策略施加引导。应用商店平台所提供的平台服务具有公共面向,除非存在法定事由或者其他正当理由,平台不应对入驻平台的成瘾性科技实施拒绝服务或者差别化对待[45],否则便有违反服务义务之风险。为了打消应用商店平台的顾虑,规制机关应当承认应用商店平台对成瘾性科技采取管制行为的合法性,允许应用商店平台根据具体情节对成瘾性科技实施警告、添加数字成瘾标签、降低排名、屏蔽、下架等措施[46],保证应用商店平台不会因此遭到来自反垄断或反不正当竞争等方面的调查与处罚,并且对存在争议的管制措施进行善意推定,肯定应用商店的规制治理权能,此乃规制机关提供的“萝卜”。规制机关还应为应用商店划定红线,一方面防止应用商店出于经济动因怠于对成瘾性科技风险采取防范措施,另一方面亦预防应用商店以整治成瘾性科技之名而打压其他企业或对自身旗下的成瘾性科技实施自我优待。若应用商店平台明显违背合理注意义务、采取明显不合理的措施时,规制机关应进行介入并对应用商店平台施加惩戒,措施包括但不限于传统的警告、负面信息公布、财产罚,抑或对应用商店征收庇古税,削弱应用商店滥用自身地位获取经济利益的动因,此乃对应用商店产生威慑的“大棒”。

(三)戒瘾软件

面对成瘾模型与数据算法加持的成瘾性科技,用户即便认识到自己已经成瘾亦难通过自主控制注意力形成有效对抗,因此需要求助于外力,戒瘾软件由此应运而生。戒瘾软件与用户防御机制类似,通过与成瘾模型逆向运行的方式,从动机、能力、提示方面着手帮助用户实现戒瘾目标,为用户提供了更多选择和额外保护。戒瘾软件主要包括如下类型:(1)动机激励型戒瘾软件,成瘾性科技运用禀赋效应使用户成瘾,动机激励型戒瘾软件则将禀赋效应用于鼓励用户戒除成瘾使用。此类软件允许用户制定戒除目标,当目标达成时会以游戏化的形式提供奖励,例如虚拟的勋章、森林或城镇,一旦用户“违约”,便会受到带有隐喻性质的惩罚,勋章会被剥夺、森林会枯萎、城镇建筑会倒塌[47],通过奖惩带来的禀赋效应用户会被赋予戒除成瘾使用动机,以抵消使用成瘾性科技的影响。(2)障碍设置型戒瘾软件,与自主限制机制原理相同,通过限制用户使用能力的方式防止用户过度使用成瘾性科技。在时间要素方面,这类软件可以在用户过度使用后,或达到临界点前激活。在障碍要素方面,存在提示用户已经或将要过度使用的弱障碍,在特定时间段或使用超时则禁止使用的强障碍,微交互(Microboundary Interactions)则是居于二者之间的新颖方式,通过在主界面上隐藏成瘾性科技图标,使其更难被用户找到的方式增加使用中的摩擦成本[47]。(3)小组互助型戒瘾软件(Group-based Limiting Assistance App)[48],利用了社会性助推原理,将社会支持作为戒瘾的动机和触发[47],主要包含三项功能:一是戒瘾榜单,群组成员可以相互查看手机使用情况、戒瘾成就和戒瘾排名,如戒瘾软件Hold为积分靠前用户设置皇冠图标,戒瘾软件Focus则为排名前三的用户制定金银铜牌。榜单的设置唤醒了团体内的竞争意识,将其塑造为团体成员的戒瘾动机。二是群组限制模式,组员可以创建虚拟房间,进入房间内的组员在特定时间内禁止使用任何成瘾性科技以专注于学业、社交、工作。三是协同定位功能,当两名或以上好友处于同一地点,此功能便会触发,鼓励该地点附近的好友一同限制成瘾性科技的使用,转而专注于线下事务,此功能对在校学生群体极有助益,能够帮助他们专心完成课程。

戒瘾软件和规制机关同样具有强烈的帮助用户防范成瘾性科技风险的动机,但受经济利益所驱动,戒瘾软件在专注度、技术能力、防御措施更新速度等方面高于规制机关,且更易接触用户,规制机关应发挥戒瘾软件的保护作用,对研发运营戒瘾软件的企业进行引导扶持。

五、成瘾性科技风险外部规制的工具创新与改革

除了嵌入元规制与合作规制中的部分规制工具,规制机关针对成瘾性科技风险实施的“纯粹外部规制工具”应当进一步创新与改革,以数字成瘾标签工具实现助推规制治理,以经济工具进行敏捷治理,以科技伦理治理寻求根源性规制治理。

(一)数字成瘾标签

标签是助推规制体系中的重要工具,标签提供者试图以标签鼓励人们做出更好的选择,但并不追求对人们施加强力控制,质言之,贴标签是为了提高认识,实现认知和行为的改变的教育型助推工具[49]。标签被广泛应用于成瘾性物质如药物、烟草、酒精[50]的规制,成瘾性科技的强制性标签规定目前暂付阙如。数字成瘾标签能够实现教育功能、分级分类功能、借由标签解释实现的信息传递功能、惩戒功能,是一项有潜力的教育型助推工具:(1)教育功能是数字成瘾标签的基础功能。成瘾性科技的概念尚未普及,用户对此缺乏认识,数字成瘾标签的设立能够在短时间内唤起社会共同体对成瘾性科技的重视,为用户树立限制、戒除使用的目标。来自烟草研究的证据表明,描述消费不良后果的健康警告标签改变了吸烟行为,其中图文并茂(Image-and-text)的健康警告标签最有效[50],数字成瘾标签的亦应采取此设计,标签还应遵循助推的及时性原则,在“坏习惯发生前”对用户进行教育,把握用户的下载、首次使用、开启软件界面等关键时机展示标签教育用户。(2)数字成瘾标签的分级功能是教育功能的实现与延伸。若将所有成瘾性科技“一视同仁”地打上完全相同的数字成瘾标签将会使用户难以识别其中哪些成瘾性更强,从而产生困惑,降低了标签的教育功能。况且,被贴上数字成瘾标签的成瘾性科技则可能更加毫无顾忌地提升成瘾性,反而削弱标签威慑力。因此,应按照成瘾性强弱制定多层级的数字成瘾标签:首先,数字成瘾标签的分级可以使用户更加直观地认识每款成瘾性科技的成瘾风险高低,实现对用户的有效教育、指引;其次,不同级别的成瘾标签应分别设置相应的推荐使用年龄段,实现对未成年人的重点保护;最后,标签的分级能够有效应对成瘾性科技的频繁变化特性,对于主动采取措施降低成瘾性的成瘾性科技可以降低其成瘾等级,直至完全去除标签,反之,成瘾等级则将不断升高,质言之,标签等级的变化能够向企业传达激励或警示,敦促其降低成瘾性。(3)标签解释是数字成瘾标签的重要一环,用户在看到标签后会产生疑问与好奇,此时提供相关信息既符合助推规制的及时性原则,又可降低用户获取信息的摩擦成本,使用户可以及时展开成瘾性科技相关知识、信息的学习。标签解释向企业则会释放规制信号和提供行动指南,使之有意识地降低成瘾性以避免被打上数字成瘾标签。标签解释还能够防止标签被滥用、错用,一定程度上预防标签提供方的恣意行为。(4)标签还附带有惩戒功能。数字成瘾标签可以成为信息规制工具,对成瘾性科技及其研发运营企业予以负面评价。在互联网时代,负面评价更易传播,对企业的潜在影响可能更甚于经济处罚,足以形成有效的惩戒与威慑。

(二)庇古税

命令—控制型工具祛魅化后,规制机关认识到经济型规制工具能够将外部成本内部化,并由此实现企业行为的矫正,因此对其日益重视[51]248-249。在成瘾性科技的法律规制中,经济型规制工具能够影响企业的成本收益,实现对其行为的深层引导。

对成瘾性科技而言,庇古税(Pigouvian Taxation)是最佳的经济型规制工具。市场配置资源失效的原因之一是经济活动当事人的私人成本与社会成本不一致,致使私人的最优并非社会最优,“纠正外部性的方案便是政府通过征税或者补贴来矫正经济活动当事人的私人成本”[52],即庇古税方案。庇古税早期的治理对象是环境污染,亦可应用于成瘾性科技的法律规制[42]。庇古税的规制进路具有以下优势:(1)成瘾性科技使企业获利颇丰,但其带来的风险和治理成本却由整个社会承担,产生巨大的负外部性,征收庇古税能够在一定程度对负外部性进行抵消,降低成瘾性科技带来的隐形经济损失。(2)庇古税的征收会削弱企业滥用成瘾性科技的经济动因,促使其积极开创其他盈利模式而非基于商业惯性继续展开无休止的成瘾性竞争。(3)庇古税具有较高灵活性,是实现敏捷治理的规制工具。规制机关可以通过调节庇古税的税率应对不同规制任务,若是为了弥补负外部性可以适用较低税率,若有进一步的证据表明成瘾性科技存在严重风险则可提升税率直至企业不得不放弃成瘾性科技的研发运营,在一些重点领域,例如游戏型成瘾性科技,亦可采取更高的税率以保护未成年人为主体的用户。(4)庇古税较之全面禁止等强硬措施而言,提供了缓和余地,体现了包容审慎的规制理念。成瘾模型与算法已经深刻融入至各类应用软件的底层设计逻辑中,要求短时间内禁止全部成瘾性科技,或者将成瘾模型与算法全部剥离,会给企业带来巨大负担,而庇古税的征收既能够表达我国治理成瘾性科技的决心、敦促企业摆脱商业惰性,又为企业留足时间对应用软件和盈利模式进行渐进性优化乃至实现转型。在我国,庇古税可以采取政府性基金模式,收取的资金进行专款专用,投入对成瘾性科技的风险研究、数字成瘾标签研究、用户防御机制研究、科技伦理治理研究等方面。

(三)科技伦理治理

成瘾性科技的法律规制若仅着眼于应对现有成瘾模型与算法注定事倍功半。随着行为经济学与算法工具的不断发展,企业可以轻而易举地找到替代性的模型与算法,加之立法固有的滞后性,规制机关几乎永远无法赶上企业开发新型成瘾性科技的步伐。规制机关应转向根源治理,寻求从源头遏制不负责任的成瘾性科技研发行为,科技伦理治理是实现根源治理的可行路径。

科技伦理治理架构在早期多属指导性或者自律性。伴随科学技术逐步深入地嵌入社会、经济、政治和文化机理中,其对社会核心价值和利益分配机制的冲击日益深远,国家开始通过法律手段介入,科技伦理治理日渐与法律规制产生嵌合[53]。2021年修订《科学技术进步法》第112条规定,对进行违背科技伦理的科学技术研究开发和应用活动的行为采取责令改正、追回财政性资金、没收违法所得、公布违法行为等惩戒措施。2021年发布的《关于加强互联网信息服务算法综合治理的指导意见》以强化科技伦理意识作为算法治理基本原则,将科技伦理审查作为算法监管体系的重要一维,并规定企业建立科技伦理审查制度责任。2022年《互联网信息服务算法推荐管理规定》第8条规定,“算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等,不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型”,认定企业采取诱导用户成瘾行为系对伦理道德的违反。2022年中共中央办公厅、国务院办公厅印发《关于加强科技伦理治理的意见》明确了增进人类福祉、合理控制风险的科技伦理原则,提出伦理先行、敏捷治理的要求。

我国对成瘾性科技进行科技伦理治理已经具备初步的法制基础和法规依据,但仍须细化微观伦理原则、构建科技伦理治理组织基础、建立科技伦理责任制度,使科技伦理治理具备现实执行力:(1)构建以行政引导为主的伦理商谈程序,确立秩序目标。科技伦理治理尚处萌发阶段,企业对科技伦理目标缺乏认知和重视,行政引导能够短时间内自上而下地树立以下三个层面的秩序性目标,一是反思性目标,通过交流辩论方式明晰各方价值主张的基础与逻辑,传达规制机关的科技伦理要求,亦听取企业基于商业逻辑提出的合理主张;二是认知性目标,弥合规制机关—企业—行业—专家—公众各方对于成瘾性科技的认知差距,使各方在具备相对理性客观认知的前提下展开价值交流探讨;三是规划性目标,规制机关在前两个目标基础上,对成瘾性科技的价值理念做出指南,要求企业在研发过程中注入向善的价值理念[54]。(2)开展微观伦理学研究,制定行为指南。徒有抽象的伦理原则难以有效指导企业,将抽象的伦理原则细化为行为指南,增强伦理原则的行为指引制度能力[54]。哈佛大学伯克曼互联网与社会研究中心提出的“宏观伦理原则—具体行为指引”的基本范式给成瘾性科技的行为指南提供有益借镜⑦,提供现阶段的即时应对,随着成瘾性科技的认识加深,行为指南还将继续细化完善。(3)建立科技伦理审查委员会,为科技伦理治理提供组织基础。伦理审查委员会承担着个案伦理审查、伦理研究、制定行为指南、组织公共伦理辩论、政策和决策咨询等多项职能,在科技伦理治理中不可或缺。我国可借鉴目前较为完善的生命健康领域伦理委员会组建的经验[55],建立互联网经济和应用软件领域专门伦理审查委员会,将成瘾性科技在内的应用软件研发运营纳入审查范围。同时,我国应当鼓励较大规模企业展开内部伦理审查信息化平台建设,将之作为自我规制的重要组成部分。(4)建立科技伦理责任制度。规制机关囿于规制资源所限难以对大量涌现的应用软件进行面面俱到的审查,故应强化企业的科技伦理责任,使之成为科技伦理的首道防线。针对企业科技伦理失范行为,除依据《科技进步法》责令改正、没收违法所得、负面信息公布外,还可采取列入重点监管对象、失信惩戒等措施进一步加强惩戒力度,以及对技术直接负责的主管人员和其他直接责任人员进行个人责任追究。

六、结语

元规制—合作规制—外部规制三重体系能够抵御成瘾性科技风险,但这并不意味法律规制就此终结。成瘾性科技在注意力竞争背景下渗透至各个领域,衍生出媒体型成瘾性科技、游戏型成瘾性科技、购物型成瘾性科技等,这些具体类型成瘾性科技在特定场景造成的风险危害尚有待进一步研究,元宇宙为代表的全新形态成瘾性科技亦蓄势待发。元宇宙是社会信息化和虚拟化的必然趋势,被认为是互联网发展的终极阶段[56],也可能是成瘾性科技的终极形态,在元宇宙的具身交互性、全息化沉浸性、虚拟补偿性共同作用下,用户在元宇宙中获得多重感官体验,收获感官快感,更重要的是在“随心所欲”的空间中,用户会获得极大的自我认同和心理满足,由此产生媒介依赖和成瘾行为[57]。元宇宙超真实、超沉浸的环境若融入已颇为成熟的成瘾模型与算法,所诞生的新型成瘾性科技将远非前代成瘾性科技所能企及。面对当下以及将来的挑战,法律规制需要进行理念转轨,寻求达到家长主义、自由意志、商业自由三者之间的微妙平衡,积极推动企业开创新型盈利模式,使用户在享受科技便利的同时免受成瘾性科技风险的侵扰、危害。

注 释:

①“氪金”来源于我国游戏社区,是指网络游戏的充值,“抽卡”则是指充值所获得的物品并非固定,是根据游戏预设的算法被“随机”抽取。目前,绝大多数氪金抽卡网游采取保底策略,即抽卡达到一定数量必定出现某特定等级的游戏角色、物品或装备,所以抽卡的结果不是真正意义上的随机而是由算法进行操控。

②行为经济学认为人的大脑存在两套系统,系统1的运行是无意识且快速的,处于自主运行状态,容易犯逻辑上的错误;系统2负责复杂的运算和逻辑推理,其运行通常与行为、选择和专注等主观体验相关联(参见丹尼尔·卡尼曼:《思考,快与慢》,胡晓姣、李爱民、何梦莹译,中信出版社2012年版,第5-9页)。

③参见王某与北京淘友天下科技发展有限公司隐私权纠纷案,北京市海淀区人民法院民事判决书,(2018)京0108民初25154号。

④捕鲸策略由钩子(Hook)、习惯(Habit)、爱好(Hobby)三个阶段组成,钩子阶段将为用户提供廉价赠品,使用户“上钩”,养成充值付费习惯;习惯阶段允许用户通过充值获得更快进度,因此更乐于游玩;爱好阶段培养用户将游戏作为日常生活的一部分,将充值金额不断推高。See Mike Rose. Chasing the Whale: Examining the ethics of free-to-play game。https://www.gamedeveloper.com/business/chasing-the-whale-examining-the-ethics-of-free-to-play-games。

⑤例如被称为史上最严禁令的《国家新闻出版署关于进一步严格管理切实防止未成年人沉迷网络游戏的通知》出台后不久,网上即盛传“60岁花甲老太太,凌晨三点进行游戏,并17次通过人脸识别”,此事甚至还引起中宣部、国家新闻出版署对腾讯、网易进行约谈。(参见杭州网. “60岁老太凌晨用赵云五杀”腾讯回应:人脸识别17次,认为确系“本人”在游戏。https://news.hangzhou.com.cn/shxw/content/2021-09/10/content_8051065.htm)

⑥例如奇虎 360集团旗下独立业务公司北京安云世纪科技推出了基于安卓 11 系统的 360 OS手机,该手机以青少年防沉迷功能作为主要竞争优势;华为、小米、OPPO三个手机品牌则各自研发了内置的反成瘾机制。(参见三易生活. 360新机Q20 Pro现身,主打青少年防沉迷功能。 https://new.qq.com/rain/a/20220922A08BR000;中关村在线. 玩手机“成瘾”得戒 华为小米OPPO防沉迷实测对比。https://mobile.zol.com.cn/778/7785006.html)

⑦在“宏观伦理原则—具体行为指引”的基本范式可以推导出以下成瘾性科技治理的行为指南:(1)不伤害原则,企业不应研发对用户产生伤害的成瘾模型与算法;(2)人类福祉原则,企业在成瘾性科技运营前应进行社会影响评估;(3)透明与可解释原则,企业应履行对成瘾模型与算法的双重解释义务;(4)技术责任原则,企业及其技术人员在开发过程中应进行负责任的设计并承担责任;(5)知情同意原则,进行成瘾性科技“同意治理”,不得运用简化和默认设置将知情同意空洞化。See Fjeld,Jessica,Nele Achten,et al:Principled Artificial Intelligence: Mapping Consensus in Ethical and Rights-based Approaches to Principles for AI,Berkman Klein Center for Internet &Society 5(2020)1-68.