机器学习下数字经济的运行困境及制度应对

摘 要：“十四五”规划明确要求促进数字经济发展，而机器学习是数字经济发展的关键。然而，机器学习下数字经济发展仍面临技术层面的隐私风险、经济层面的高额成本、社会层面的信任危机等诸多困境。应当明确，数字经济发展不仅需要科技的“硬件”支撑，更需制度的“软件”完善，而健全的法律制度是数字经济发展的根本保障。因此，为应对数字经济发展困境，需加强制度的顶层设计，明确重构模式与技术中立、协同治理原则，并健全具体的激励与约束措施，以实现数字经济的可持续发展。

关键词：数字经济;机器学习;数据信托;运行困境;制度应对

中图分类号：F49       文献标志码：A      文章编号：1673-291X（2022）03-0132-03

数字经济是指直接或间接利用数据引导资源作用发挥，以推动生产力发展的经济形态。“十四五”规划中明确要求，促进数字经济发展，将其作为经济发展的“新引擎”。而数字技术深入发展需要通过收集和分析数据驱动社会生产生活变革，基于数据构建模型以不断改善系统的机器学习成为炙手可热的话题。

一、机器学习下数字经济的运行困境

（一）技术层面存在隐私风险

一是可能受到各种外部攻击者的隐私威胁。虽然机器学习中服务器没有权限访问参与者的本地数据，但恶意攻击者可通过上传错误模型等方式达到破坏全局模型的目的，侵害数据所有者的隐私安全。二是机器学习内部亦存在隐私泄露的风险。已有研究表明，机器学习在模型训练过程中可能“记住”某些训练数据，由于模型泛化能力不足仍能从梯度、模型参数中反推原始数据，导致间接隐私泄露。

（二）经济层面需要高额成本

随之移动端设备的广泛覆盖，为机器学习带来高额成本。一是通信成本问题。因模型参数量大、模型结构复杂等问题，机器学习对设备内存、计算能力、通信带宽等均有极高的要求。二是传输成本问题。面临移动端的海量数据，机器学习广泛应用云端服务器解决数据储存数量的问题，但云端数据交互并非免费，且移动设备间往往是数以万计乃至亿计的用户，面临高额传输成本。

（三）社会层面面临信任危机

一是各参与者间因共同享有全局模型难以产生信任。机器学习存在一个重要问题，即各数据参与者的本地数据是不平衡的。特别是在移动设备中，其数据源自设备使用者安装的应用程序，由于程序数量与使用频率存在区别，数据量亦会产生差异。二是机器学习缺乏可信服务器和可靠节点。现有技术条件下数据加密的可信任程度较低，若不可靠第三方在未经各方许可下擅自收集模型，虽非原始数据，仍可通过错误修正、反向推演等技术手段获取隐私数据，亦会导致合理怀疑。

二、科技与制度的辩证

在马克思主义政治经济学看来，科技的生产与应用不能脱离一定的生产关系及制度条件，制度因素是提高生产力的必要保障，其建立、变化的目的就是为了激励个人与组织更好地从事生产生活，促进经济与社会发展[1]。简言之，科技的发展需要制度“赋能”，制度的“软环境”与科技的“硬基础”同等重要[2]。片面追求科技而忽视制度功能，必然面临科技管理与运行中的困境，从而影响科技成果的最优化发挥。只有坚持科技与制度的协同，才能补足科技发展中的局限，实现创新驱动的根本变革。数字经济时代，数字科技若脱离基于社会价值考量的制度保障，仅在经济主义刺激下改善物质需求，必然产生严重的社会风险。在数字经济的“个体生活公共化”背景下，个体不仅是数据消费者，更是生产者，其风险形态不断升级，亦具有更大的风险波及范围。风险社会学家称之为“工业社会的自反性”，即数字经济中财富生产的逻辑已支配风险生产的逻辑，财富在数据膨胀中迸发前所未有的指数级增长，亦使得风险与潜在威胁進一步释放，技术进步带来的繁荣日益被风险产生的阴影所笼罩[3]。

（一）数字经济的隐私风险需要法律制度保障

机器学习从数据输入到模型产出，系统基于对数据的自动学习而诞生高级别的认知结果。但机器学习的过程具有不透明性，即“算法黑箱”，源于个体专业知识缺乏而无法理解与企业为保护商业秘密不愿公布等诸多因素，此过程易导致用户隐私泄露。法律的核心功能是保障公众对社会规范的稳定期望，从而影响各主体的行为预期。因此，数字经济的隐私风险需要发挥法律制度的稳定性、持续性、可预测性等功能给予关注与回应，以防止对权利的侵害。

（二）数字经济的高额成本亦需法律制度保障

移动互联网时代，市场主导下的数字科技更进一步加剧数据收集与分享壁垒，增加数字经济发展成本。事实上，数字经济作为新经济形式，其基本原理并未发生显著变化，必然涉及生产主体、生产内容、生产程序、分配方式等基础问题。而法律除满足社会主体可预测性需求以调整主体行为外，同样具有重要的生产性面向，作为上层建筑在更深层次对数字经济时代的生产方式与生产关系进行回应。法律通过确认新兴科技的合法性及协调新旧生产组织间的利益关系，实现对系统性技术变革的回应，有效降低发展成本。

（三）数字经济的信任危机需要法律制度保障

在理想市场中，市场具有完全透明的信息，市场主体在完全知晓市场信息的情况下履行市场行为，不存在欺骗或不诚信问题，此中自然不会产生信任危机。但理想市场仅是一种不可能存在的假设，信息不对称、不确定性风险的存在是市场常态。申言之，信任等同于“获得”与“失去”，选择信任意味着可能获得收益，选择不信任虽然可以回避风险但却失去获益的机会，理性的市场主体在认为“获得”大于“失去”时方会选择信任。法律作为社会关系的调节器，通过明确各类主体权利义务关系，能实现数字经济中不同利益主体的有效调整，为市场行为提供更加准确、长久与有力的保障，消除数据共享顾虑[4]。

三、数字经济发展困境的制度应对

（一）加强顶层设计：明确应对模式与原则

1.解除数字经济发展困境的制度应对模式。目前，关于数字经济发展困境的法律应对主要存在管制与回应两种模式。管制模式是法律应对的传统模式，即通过国家强制力对数字技术发展进行管制。如果技术不能满足特定社会目标或与法律观念相冲突，管制模式就要求对技术实践进行压制。但管制模式存在诸多缺陷，一是其使得技术与法律工具化，技术被视为实现特定发展目标的工具，而法律亦被视为最直接的管制手段，实质是结果导向的简单功利主义。二是管制模式仅反映政府对社会结构的单一化理解，数字技术的价值来源不是自身功能，而在于生产组织的利用，其阻碍了技术正面功能的发挥，亦破坏了法律实施的自主性。回应模式是强调法律的适应能力，即鼓励法律自我调整以适应技术发展。回应模式在实践中广泛存在，如网约车的规模化使得交通运输部赋予网约车合法地位。但回应模式亦存在缺陷，一方面，回应模式弱化了法律的服从义务，其强调法律不能囿于既定规则和权威结构而应具有更强的灵活性，但这与数字经济需要稳定、可预测的法治环境相悖。另一方面，回应模式难以有效解决数字技术所引发的价值冲突，数字技术实践会产生正反两面的价值冲突，而回应模式过于肯定数字技术的正面性，难以中立判断。无论管制亦或回应模式，实质是将法律作为数字经济变革的一种限制或保护手段。但事实上，数字经济与法律在价值领域是相互重叠的，二者不是并行存在或吸收关系，而是互相重构，即数字技术的工具价值纳入法律体系，而法律亦对数字技术本身做出价值调整，二者相互碰撞与互动。因此，数字经济发展需要法律的重构模式，即法律不是一种静态与孤立的工具，而是包含自身价值结构的社会实践，不断完善数字经济建设并实现自适应调整。

2.解决数字经济发展困境的制度应对原则。一方面，技术中立原则。无论是“重保护轻共享”抑或“重共享轻保护”的理论均不符合数字经济发展需求，而应坚持“共享为原则，保护为底线”的立法理念。法律需要区分作为“知识探寻”的技术与“作为知识运用”的技术，前者应受到“学术自由”的保护，而后者必然与生产生活相联系，如产生社会问题，则需法律予以限制。概言之，数字技术若遵循其自身的功能机制与原理并发挥功能其使命即以实现，若由此引发困境应由技术实施者承担，即技术功能与实践后果的分离。例如，菜刀生产者不能因恶意主体使用菜刀犯罪而承担生产责任。特别是在数字经济发展中，法律需认识到数字技术的公共维度，机器学习本身是解决数据孤岛问题的重要探索，其虽引发新的困境，但并不能夸大技术风险而否认其价值。另一方面，协同治理原则。前文已述，数字技术更多表现为一种生产组织，如平台生态是数字经济的重要组织形式，将多个组织、用户群体相连接以构成多边市场的商业模式。以机器学习为例，其具有强烈的共享与协同需求，同时亦蕴含巨大的共享与协同价值，高度依赖主体协同以实现资源高效配置与机制有效运行。法律的行为引导功能是实现机器学习协同需求的关键，一旦实践主体因价值冲突出现分歧，法律即可介入价值论辯之中，重新建构起规范与价值的平衡。因此，数字经济中法律的权利义务责任不应再简单按照既有范式设计，而需嵌入协同治理理念以作出必要且合理的变化。

（二）完善具体规则：健全激励与约束措施

1.激励措施。首先，赋予参与者数据权利，鼓励数据分享。尽管个人数据、企业数据等原始数据是机器学习的基础，但机器学习会将数据或数据集加工成特定的算法模型，加工聚合的过程体现了参与者对经济价值的追求，亦是参与者获得利益回馈的正当性基础，当衍生数据已与原始数据产生显著区别，若存在创造性应通过知识产权予以保护。同时，为鼓励企业分享数据，政府与市场应通过财政补贴、税收优惠、信用贷款等多种经济激励渠道鼓励数字技术创新，降低通信与传输成本。此外，机器学习下数据收集、分析、整理等过程会产生巨大经济价值，政府应制定完善的技术标准，进一步保障参与者数据权利。其次，健全数据信托制度，缓解信任危机。纵向与迁移机器学习中均存在数据信托需求，即第三方参与数据收集与学习。但机器学习中参与者与第三方间存在信任危机，若存在“信任赤字”，再多赋权与规制亦无济于事。因此，必须健全数据信托制度，一是保证受托方的独立性，其需是独立于据参与者、分析者与使用者之外的专业第三方;二是受托方按照预先制定的信托章程管理数据;三是由受托方协调各方共同制定数据信托框架，包括数据如何分析使用、数据传输与存储机制、数据利益分配等。并且，数据信托根据不同情形可以侧重个人利益、公共利益亦或降低风险，形成完整的数据信托生态系统。最后，完善数据分级制度，保障数据安全。“十四五”规划与《数据安全法》均要求完善适用于大数据环境下的数据分类分级保护制度。明确数据分级，能为数字经济发展提供系统的行为指引。“可识别性”是原始数据的判定标准，但实际操作中“可识别性”不能“一刀切”以保证数据共享与安全间的平衡，应按照数据的价值、内容敏感程度、影响范围等对不同数据进行敏感级别划分。此外，对于不具有可识别性的数据亦应进一步划分，包括公开数据与非公开数据，前者允许市场主体的合理使用，后者应按照商业秘密保护或由数据权利人自主决定，以保障数据要素流动，引导数字经济健康发展。

2.约束措施。一方面，增强数据保护义务。隐私泄露、产权模糊、违规收集等数据风险不同程度阻碍了数据要素价值的实现和数据市场培育与发展。协同治理原则要求将数据保护义务融入数字经济发展的各主体与各环节，从源头增强数据保护，实现数字经济可持续发展。数据保护义务要求数字经济不能仅追求自我利益，更需关注社会效益与公共利益，包括数据参与者严格遵守法律规范与行业标准以及数据控制者诚信义务、数据平台的协调义务、数据分析者的保密义务等。同时，加强数据流通的监管亦尤为重要，力求做到数据安全与数据共享并重。一是加强政府监管，促进金融、税务、工商等跨部门统筹协调，兼顾不同行业和领域数据安全;二是推动行业自律，促进政企学民交流合作，形成数据格式、授权、应用多方面标准规范;三是鼓励公众参与，引导社会公众进一步提升数据素养，增强风险意识与自我保护能力。另一方面，落实数据侵权责任。隐私风险是数字经济发展的一大阻碍，针对恶意攻击者等违法主体，需加大违法违规行为的惩处力度。但责任承担的前提是能够被识别和追求，企业间数据侵权可基于《民法典》第1198条要求对方承担侵权责任。但目前大部分个人用户并不从事数据业务，对隐私风险举证能力有限，且个体的数据量有限，往往因维权成本过高而放弃。因此，在个体数据安全保护方面应实行举证责任倒置，即由企业证明自身已履行数据保护义务。只要企业履行该义务，即可享有对其持有数据法律禁止外的权益。若企业违反该义务，则应该按照《个人信息保护法》中规定的“依照个人所受侵害”或“信息处理者获益”两种方式承担侵权损害赔偿责任，以保护数据安全。

参考文献：

[1]  裴小革.论创新驱动——马克思主义政治经济学的分析视角[J].经济研究，2016，（6）：17-29.

[2]  张媛媛.习近平关于科技创新与制度创新协同发展的论述[J].上海经济研究，2020，（7）：23-31.

[3]  宋宗宇，李南枢.基于复合空间视角的超大城市韧性建设路径思考[J].北京行政学院学报，2021，（6）：49-57.

[4]  叶明，王岩.人工智能时代数据孤岛破解法律制度研究[J].大连理工大学学报：社会科学版，2019，（5）：69-77.

[责任编辑 百 合]