平台有责：净化网络不应再沉默

本社记者 张志然

要保护未成年人的网络安全，不让他们在网络世界受到伤害，仅在线下世界进行规范显然是南辕北辙。

这是一场发生在虚拟世界中的战役。要想保护未成年人，很显然，有一种力量是我们必须要团结的，那就是网络平台。

很多人都说，技术中立。但种种残酷的社会现象已经让我们明白，很多时候，沉默就意味着帮凶。因为，沉默就意味着默许，默许就意味着支持。

平台，不应该再沉默了……

社交平台的隐患

未成年人，在网络上都在干什么？

很多人觉得，孩子嘛，都爱玩。也许孩子们都在打游戏，只要管理好游戏平台就算是抓住了“主要矛盾”。

实际上，却并没有那么简单。

共青团中央维护青少年权益部联合中国互联网络信息中心发布的《2018年全国未成年人互联网使用情况研究报告》显示，将上网聊天作为主要网上沟通社交活动的未成年人占比达到58.9%，与玩游戏的比例（64.2%）接近。

与之相似，《青少年蓝皮书：中国未成年人互联网运用和阅读实践报告（2017-2018）》也指出，Q Q（59.7%）、微信（30.4%）在未成年人中的渗透率很高，成为他们使用的主要社交平台，网络聊天仍然是未成年人在互联网上交往最主要的形式。

网络社交在青少年群体中流行的背后也存在着隐患和风险。社科院《社会蓝皮书：2019年中国社会形势分析与预测》显示，我国未成年人在上网过程中遇到过暴力辱骂信息的比例为28.89%。其中，未成年人遭遇暴力辱骂信息的最主要场景是社交软件（占68.48%）。

2019年3月开始，抖音、快手等短视频平台为了应对网络沉迷相继推出了青少年模式，《王者荣耀》《和平精英》等手机游戏也要求未成年人进行实名注册，并设置时间限制。反观QQ、微信等具有社交功能的综合性应用对内容未采取分级措施，对用户“一视同仁”，青少年可以很容易接触到许多不良甚至低俗的信息。

在QQ看点中经常出现“同桌常对你说这‘四字’，恭喜，你被‘暗恋’了，班主任：叫家长！”这样的推送。这些内容显然不适合青少年浏览。青少年一旦多次点击观看，系统会记录下青少年个体的上网轨迹，算法也会根据青少年的内容偏好精准推送此类内容。此外，微信小程序中的游戏也并未明显对青少年设限，诸如“跳一跳”“星球大作战”“欢乐斗地主”“欢乐麻将”等小游戏均无限制向未成年人开放，存在隐患。

对此，北京交通大学法学院副教授蔡曦蕾分析指出，一方面，国家网信办发布的《网络信息内容生态治理规定》中对网络信息内容服务平台开发适合未成年人使用的模式予以鼓励，并未作强制性规定。截至目前，国家网信办已统筹指导网络直播平台，长视频、短视频平台统一上线青少年模式，目前已在网络视频平台全面推行。国家新闻出版署发布《关于防止未成年人沉迷网络游戏的通知》从落实企业主体责任角度入手，要求提供网络游戏服务的平台实行网络游戏用户账号实名注册制度，严格控制未成年人使用网络游戏时段、时长，规范向未成年人提供付费服务。

蔡曦蕾说，青少年模式更偏重“青少年防沉迷”方向，而QQ、微信等社交平台更偏向即时通讯工具，私人通信领域更侧重于尊重个人通信自由和通信秘密。另一方面，QQ、微信等社交平台对于公众号文章、小程序、空间日志也采用了相应的内容审核、敏感词屏蔽措施以及举报机制，从源头把控网络色情信息的传播。

蔡曦蕾认为，至少针对社交平台内嵌的游戏、支付领域、微信看一看及QQ看点等信息流服务，确实需要服务提供商进一步发挥主观能动性，建立分级机制并推出青少年模式，积极借助先进技术和创新力量，在企业效益和社会公益之间寻求平衡点。

>>北京交通大学法学院副教授蔡曦蕾 作者供图

蔡曦蕾说，根据《未成年人网络保护条例（送审稿）》，网络信息平台应针对其所登载的信息进行审查，对不适宜未成年人接触的信息以显著方式进行浏览前提示。但并没有明确网络信息平台有设定相应的访问权限的义务。因此，应当强化网络信息发布平台对不适宜信息的标示责任，并严格设定不良信息的访问权限，且现有相关立法对适用主体的年龄划分过于简单，可以尝试对未成年人进行更进一步的年龄段划分，探索建立一个统一明确的网络信息分类分级制度，逐步消除灰色地带，使未成年人网络安全保护的宗旨落实到实际操作的层面上。

隐私与审查的平衡

如果加大对于不良信息的审查，加强对于网络信息的管理，另一个问题又浮现在我们的面前：网络平台的审查会不会突破用户隐私权的边界？

国内的一些网络平台已经收集大量用户信息，为人所诟病。这个边界该如何设置呢？如何防范他们以审查不良信息为名，行破坏隐私之实？

蔡曦蕾说，在我国，利用信息安全管理技术对用户内容进行事前审查和过滤，被行政执法部门列入了网络平台内容规制行政责任的范围之内。但网络平台的信息审查义务亦要受到信息收集和使用目的的限制，在源头上对个人数据的收集进行规范，防止数据的过分、全方位被收集。

蔡曦蕾指出，网络平台作为数据的收集者，必须合法收集并征求数据提供者同意，不可超越审查目的进行使用和处理。网络平台应当保证信息质量，防止因信息的不全面或是错误而给信息主体带来不利的后果，这也是信息审查结论正确性的保障。同时要求网络平台必须保证数据采集、使用、存储的安全性，防止数据的泄露和损害。

蔡曦蕾表示，设定网络平台审查责任时，要区分不同的服务场景，不侵入私人网络通信领域；特定人数的群聊领域可以建立事后审查机制，保存相关聊天记录，在必要时应公权力机关要求予以配合调取；在针对不特定人数的公开发布平台，网络社交平台应设置必要的不良信息过滤机制，采用技术和人工的双重干预机制，以达到前置阻截色情信息的目的。网络平台采集数据应公布数据的存储、利用、程序的相关政策和环节，并完善异议解决途径，以求实现对数据使用的监督，更有利于保障用户的知情权，实现对自己隐私权的控制。政府可对应地建立有梯度的责任机制，网络平台违反相关规定的，须承担相应的行政责任，严重的甚至追究刑责等，以有效规制网络平台侵犯个人隐私的行为。

蔡曦蕾在其《国内网络社交平台色情信息的审查义务》一文中指出，在大数据时代，隐私保护也是网络服务提供商的必修课之一。在美国联邦层面即已有了数十部保护个人数据隐私的法律。

2018年5月，欧盟生效了《通用数据保护条例》，该条例面向的是所有需要收集、处理、储存、管理欧盟公民个人数据的企业，限制了这些企业收集与处理用户个人信息的权限，旨在将个人信息的最终控制权交还给用户本人；在我国，隐私保护可见于宪法、民法、刑法中，个人的隐私权、通信秘密权受到保护，而网络安全法也明确要求网络运营者收集、使用个人信息，应当遵循合法、正当、必要的原则，公开收集、使用规则，明示收集、使用信息的目的、方式和范围，并经被收集者同意。正是在这样的法律制度背景下，即便是出现了“N号房”事件，Telegram仍坚称：用户的隐私保护是其最高宗旨，平台不会随意侵入个人通信空间。

在国内，部分社交媒体在隐私保护政策里明言：收集个人信息仅限于提供服务之必需，尊重个人通信自由和通信秘密，不会保留用户的聊天记录，这一观点也在2010年“QQ相约自杀案”中，被二审法院采纳并用来支持改判的依据，从而驳回了死者父母对腾讯公司的诉讼请求。

国外网络平台的借鉴意义

面对网络上的种种乱象，许多国外的网络平台进行了多种措施，给未成年人网络安全助力。

知名社交App“LINE”自2020年2月发布的最新iOS版本开始，年龄分级正式调高至“12+”，这意味着建议使用年龄为12岁以上，让家长或监护人可自行管理未满12岁子女是否可使用iPhone中的“LINE”，一般用户大都不受影响。

家长若在子女的iPhone上设定为仅允许使用“4+”或“9+”的应用模式，“LINE”在iPhone中将被自动隐藏起来，看不到应用程式也就无法使用。但是账号、聊天记录以及付费项目等皆不受影响。

蔡曦蕾向记者介绍说，从服务商角度，全球范围内的高科技公司都纷纷开始构建自己的技术措施和信息数据库，通过人工智能方式追踪网络乱象行为并及时采取应对措施。

在美国，政府通过倡导业界开发软件和行业自律，并采取税收优惠和经济补助等经济手段对网络色情进行间接管制。

例如美国设立的网络内容选择平台PICS，依靠行业通用的内容分级标准，信息发布者可以自主编辑信息标签，用户通过选择标签实现信息分级过滤。目前主要的浏览器，例如微软公司的Explore和网景公司的Nevigator都支持。但是这种过滤很大程度上要依靠网站的自律和用户的自主性，由双方来定所提供和所需内容的安全级别。因此在实践中，这种政策有多大的实用效果还是让人怀疑的，不过毕竟还是提供了一种基础性质的内容分级框架。

新加坡将所有的互联网服务都纳入其广播体系加以调整，制定严格的法律，实行许可和注册登记制度，明确由新加坡广播局（SBA）对网络内容实施严格审查。新加坡建立了SBA许可证制度，规定了网络服务提供商和网络内容提供商在网络内容传播方面所负的责任以及禁止性资料的范围，根据该登记制度，新加坡所有的互联网服务提供商和内容提供商，都应符合一定的条件并依新加坡广播局的分类登记制度进行登记。

在此基础上的实行许可证制度，对网络服务商实行分类管理。网络提供商的主要责任是要防止和及时地清除网上出现的不宜信息，承担过错责任。同时，新加坡政府也鼓励行业自律，积极开展公共教育项目，以加强父母对青少年的监督。

两国的网络内容管制模式均采取了法律管制、技术管制、行业自律和社会教育等多元管理方式，但呈现出不同特点。美国偏重行业自律，而新加坡则注重法律管制。

蔡曦蕾指出，我们应当结合我国现实国情，借鉴其他国家在网络内容管制方面已经积累的先进经验，多管齐下。

我国采取的是以政府为主导的网络监管模式，且互联网平台提供者承担内容监管责任已成为一种网络空间治理的法律和社会共识。法律对平台内容管理技术措施和内部信息管理制度的规定，不仅应强调平台作为责任主体的义务，更应明确技术措施和内部管理制度本身，应当如何治理才能使平台内化内容监管责任，形成长效机制。

对于网络服务商“避风港”责任豁免制度的适用条件上，我国强调应然层面网络服务提供者“应该知道”侵权事实存在的主观状态，大大限缩了责任豁免的范围，政府亦鼓励网络信息内容服务平台和内容生产者制定自己的内容管理准则进行自我监管。

未成年人生活的地方，不只是线下可触碰的世界，还有我们成年人生活中很容易忽视的网络虚拟世界。在那个地方，他们比成年人更容易沉浸其中，也更容易受到影响。这个世界不光需要法律法规的监督约束，也不光需要老师家长的关心帮助，它还需要一个个网站、一个个高科技公司的配合服务，甚至是良心付出。

未成年人的世界需要我们的守护，少一点阴霾，就少一点伤害。