数字经济的科技伦理治理：动因与机制

李晓华

数字科技与数字产业在促进经济增长、推动产业变革、造福人类社会的同时，也可能会对经济、社会造成不利影响，甚至对人类的长远发展造成威胁。与其他新兴科技和产业一样，数字经济发展也存在着技术与产业不确定性大、演进速度快、复杂程度高等特点，由此导致数字经济治理面临巨大挑战。依靠法律、政策的传统治理模式无法很好地适应数字经济高质量发展，需要引入科技伦理治理，以推动数字经济沿着有利于人类的道路发展。

数字经济等新兴技术和产业的治理难题

当前，新一轮科技革命和产业变革正深入推进，在数字科技、生命科技、新能源、新材料、深海空天等领域不断有颠覆性的技术涌现，进而形成新兴产业。其中，数字科技是创新最活跃、影响最广泛的领域。一方面，通过新产品、新模式的创新和发展壮大形成新产业；另一方面，作为通用目的技术在国民经济各个行业获得广泛和深入的应用，引发其他行业的深刻变革。可以说，数字经济已经成为推动经济增长的新动能新引擎与经济社会变革的重要力量。但也要看到，数字技术在创造更多物质和精神产品、丰富和便利人类生活的同时，出现了平台垄断、数据歧视、算法偏见、杀手并购、侵害隐私、产业安全等一系列问题，数字科技的进一步发展甚至有可能威胁到人类的生存和发展。2022年底以来，O p e n A I公司发布的生成式人工智能ChatGPT展现出广阔的应用前景和巨大的变革性，被认为是人工智能发展的里程碑甚至是通用人工智能的起点，其创新性、颠覆性不可谓不大，但同时也引发了对人工智能威胁人类生存和发展的担忧。深度学习之父杰弗里·辛顿教授提醒人们警惕人工智能不受控制的发展带来的风险，包括埃隆·马斯克在内的北美2000 多名计算机科学家和业内人员签署了一份公开信，呼吁暂停开发比GPT-4更强大的人工智能系统。

世界各国针对成熟技术和产业已经建立起完善的法律和政策体系，对这些技术和产业中出现的产品质量、垄断与不正当竞争、侵害消费者权益、危害公共安全等各种负面影响和问题进行监管和治理。但是对于包括数字科技在内的前沿技术和新兴产业，单纯依靠法律和政策体系很难对其进行有效治理。

一是政府监管存在滞后性。新科技新产业具有双重用途、双重价值，既可造福人类，也可能被恶意利用，造成巨大的经济、人身损失，威胁到人类未来世代的健康甚至人类生存（雷瑞鹏，2020）。传统政府监管的逻辑以问题为导向（杨青峰、任锦鸾，2021），通过对违反法律法规的行为做出处罚，一方面消除负面影响、弥补造成的损害，另一方面也通过对潜在违法违规行为的威慑，减少甚至避免这些负面问题的出现。但是当问题发生时，就意味着损失已经发生。其中，一些损失非常大，一些危害的影响会长期持续。

二是技术和产业演进的不确定性大。高度的不确定性加大了对技术和产业有效治理的难度。当新技术在发展初期显得“人畜无害”时，过度的控制可能会限制科技创新对经济社会发展的贡献，但是当技术的负面后果显现出来时，对其进行纠偏可能付出巨大的代价。

三是技术和产业演进速度快。以法律和政策为代表的治理规则是在既有经验基础上总结出来的，其显著特点就是稳定性。新法律的制定以及对既有法律的修订要经过提案、论证、反复审议，往往要经历一个漫长的过程。面对大量前沿技术和新兴产业的不断涌现，且持续处于快速变化之中的新功能、新模式、新影响，常常难以找到合适的法条和政策对此加以规范。当针对新技术新产业出现的新问题出台相关法律法规时，技术已经演进到新的阶段，法律的监管目标可能已发生改变，又会重新出现法律力有不逮的情况。

四是新兴产业的复杂性高。新兴产业的产品或服务架构复杂，监管机构往往缺少深入到产品（如软件代码）内部进行监管的技术能力和手段。数字经济的运转以数据、算法为基础，复杂的系统往往有成千上万行代码，且各种函数相互嵌套。数字经济的复杂性、不透明性、不易解释性造成很难搞清楚算法里是否存在无意的或恶意制造的具有危害性的代码。而且一些技术的影响可能需要较长的时间才能显现。此外，即使算法形成的产品、服务及其造成的结果能够被观察，往往也很难判断算法中是否存在违法违规行为。例如，一些网络平台存在的针对不同用户收取不同费用的“价格歧视”现象，很难说是软件开发者有意根据顾客特征制定不同的价格，还是随时变化的市场供求关系造成的。在数字经济领域，人工智能还具有自主学习与决策能力，其行为结果不完全归因于程序开发人员（王亦菲、韩凯峰，2021）。

数字经济科技伦理治理的机制

数字经济发展中出现的问题已引起各方的高度重视，在大力发展数字经济的同时加强对数字经济的治理已经成为各国政府的共识。2021年10月，中共中央政治局就推动我国数字经济健康发展进行第三十四次集体学习时，习近平总书记指出“要完善数字经济治理体系，健全法律法规和政策制度”，同时也提出“要明确平台企业主体责任和义务，建设行业自律机制。要开展社会监督、媒体监督、公众监督，形成监督合力”。科技伦理是开展科学研究、技术开发等科技活动需要遵循的价值理念和行为规范。针对传统治理方式无法有效适用于解决前沿技术和新兴产业治理的难题，世界各国纷纷加强科技伦理治理。2022 年3月，中共中央办公厅、国务院办公厅印发了《关于加强科技伦理治理的意见》，要求“加快构建中国特色科技伦理体系，健全多方参与、协同共治的科技伦理治理体制机制”，“建立完善符合我国国情、与国际接轨的科技伦理制度”。

数字经济是科技伦理治理的重点领域。随着数字技术的快速发展、广泛扩散和应用，科技伦理治理在数字经济中的必要性和重要性日益突出。以最受各国重视的人工智能领域为例，为了确保人工智能研究和应用的风险处于可控范围，针对人工智能可能带来的技术误用、技术失控、应用失控等方面风险，世界上已有40多个机构或组织提出了各自的人工智能伦理准则建议（陈小平，2019）。例如，美国国防部2019 年2月提出了“以合法和合乎道德的方式使用人工智能，以强化负责任的价值观愿景和强化人工智能利用的指导原则”；美国人工智能促进协会提出避免伤害、诚实守信、公平并采取行动不歧视、尊重隐私等人工智能道德原则（肖红军、阳镇，2023）。

福建福州：智能服务机器人产销两旺。图为福建汉特云智能科技有限公司智能机器人装配制造车间。图/中新社

科技伦理治理之所以能够在规范数字经济的发展中发挥重要作用，是因为它抓住了前沿技术和新兴产业的特点，把企业、员工、社会、政府等各方面力量有机结合并调动起来参与到治理之中。

一是事前自我治理。数字科技企业根据科技伦理的基本原则与规范对科技创新与产业发展方向、企业竞争行为等经营活动进行全面审查，主动终止会对经济社会产生负面影响的活动，或者在评估基础上终止存在较大负面影响的活动。同时，当企业的经营活动存在违反科技伦理的风险时，认可科技伦理所确定原则和规范的企业员工会主动予以纠偏，甚至当发现企业存在恶意违反科技伦理的行为且内部反对无效时，向社会披露和政府部门报告。

二是事中社会治理。尽管企业会选择尽量隐藏恶意的违反科技伦理、对社会造成负面影响的行为，但仍然有可能通过多种方式被披露并在社会上扩散。企业技术开发、生产经营等活动中隐藏的行为会通过学术交流、科研合作、专利公开、上下游供应商联系、员工流动等形式为行业内的企业、人员乃至社会大众所知晓，当这些隐藏的活动中存在有违科技伦理的情况或有损社会整体价值时，相关机构和个人可以通过拒绝研究成果发表、抵制申请该企业职位、解除业务合作关系等方式对违规企业做出不同程度的惩戒。

三是事后政府治理。对于违反科技伦理同时又违反法律或行政法规的行为，依法依规进行相应处罚。对那些违反科技伦理但并未触犯法律法规的行为，政府部门可以通过研发资金分配、税收优惠、项目审批、土地出让、银行贷款利率、上市融资审批等途径和方式予以惩戒，将遵守科技伦理情况作为企业申报国家和地方资格认证、试点示范项目等的重要条件。

对数字经济的事前、事中、事后治理与企业、社会、政府治理不是割裂的，而是相互协同促进的，将有可能损害社会福利乃至人类社会持续发展的行为尽可能早地予以发现、纠正。例如，员工可以将企业违反科技伦理的行为曝光，引发更广泛的社会监督和政府监管部门的介入；行业协会等社会中介组织可以在吸收各界意见的基础上制定数字经济科技伦理治理规则，同时企业可以根据科技创新和产业发展中发现的新的科技伦理问题，推动数字科技伦理规范的更新；政府部门的事后惩处可以形成对企业的威慑，增强企业遵守科技伦理的自觉性。

构建具有中国特色的数字科技伦理体系

鉴于科技伦理治理在纠正新兴技术和产业的负面影响中的作用，应积极推动构建具有中国特色的数字科技伦理体系。

在国家层面，由国家科技伦理委员会组织有关机构和专家科学研判数字科技与数字产业发展中存在的问题以及未来可能带来的负面影响，在兼顾发展与监管的基础上，积极推动我国数字科技伦理体系建设，包括制定科技伦理规范、指南、标准，以及针对违反科技伦理行为的处理规则，构建既能够支撑我国数字经济创新和发展，又能够降低数字经济负面影响、消除对人类社会可持续发展带来潜在风险的数字科技伦理体系。加强数字科技伦理建设的国际合作，在吸纳国际数字科技伦理先进理念和成功经验的同时，积极推广中国的科技伦理理念和规则，贡献中国智慧和中国方案，推动在数字科技伦理上形成国际共识。

在社会层面，加大对科技伦理的宣传，增强全社会对科技伦理的认识，使企业和个人形成遵守科技伦理的意识。支持数字科技企业、高等学校、科研机构共同发起科技伦理高峰论坛，大力倡导负责任的数字经济、负责任的创新、负责任的人工智能等理念，加强对数字科技和产业发展中科技伦理问题的研讨，分享经验和教训，对未来趋势和潜在风险进行前瞻性研判，推动完善科技伦理规范以及科技伦理审查、风险处置、违规处理等规则流程。

在企业层面，鼓励数字科技企业、高等学校、科研机构将科技伦理纳入自己的价值主张、公司战略和技术创新管理过程，加强企业董事会、战略委员会、高管团队等战略决策者对数字科技伦理认识和重视（肖红军、阳镇，2023）。设立数字科技伦理委员会，制定本单位数字科技伦理治理细则（如科技伦理原则、科技伦理审查程序、伦理风险的化解机制等），对企业技术创新、产品开发、市场竞争等各方面的行为进行常态化的科技伦理审查。鼓励数字科技企业开发科技伦理治理的数字技术，提高数字科技伦理的治理效率。推动上市公司、国有企业将科技伦理治理情况纳入E SG（环境、社会和公司治理）报告对公众发布，接受公众监督。