以预期政策框架治理新兴技术

■文/贾伟（中国科学技术信息研究所）

新兴技术将在未来发挥核心作用，但快速的技术变革也可能会给个人、社会和环境带来负面后果和风险。2023年3月，经合组织（OECD）发布《科学、技术和创新展望2023》报告，提出应以预期政策框架治理新兴技术，该框架涉及共同价值观、以政策工具为基础实现标准化设计和国际合作三大方面，可为在社会中开发、为社会开发、与社会同时发展的技术奠定更具合作性的基础。其中，OECD推荐三项政策工具：以战略情报（如前瞻性技术评估、地平线扫描）支撑预期、以社会参与鼓励包容和匹配、以软法律机制增强适应性。

一、预期政策框架的架构

（一）新兴技术的双刃性呼吁要对其加强治理

量子计算、大数据、人工智能等新兴技术能够推动经济、政治和文化发展，为人类福祉带来巨大进步，支持解决绿色转型和流行病等重大挑战。但新兴技术也会给个人、社会和环境带来混乱、不平等、侵犯隐私和人权等负面后果和风险，甚至对地缘政治和国家安全产生重大影响，如人脸识别和间谍软件用于大规模监视、新冠疫苗在中低收入国家普及低等。新兴技术的这种双刃性呼吁要对其加强治理，要在为获得社会利益而实现创新与减少对民主价值观（如公平、透明度、问责制）的潜在风险之间取得良好平衡。OECD推荐使用具有通用设计标准和工具的预期政策框架来指导创新，并将价值观更有目的地嵌入技术开发。

（二）预期政策框架的架构

预期政策框架分为三层：底层是共同价值观；中间是实施层，以政策工具实现标准化设计；顶层是国际科技创新合作。

关键价值观引导治理体系，奠定政策框架基础。它回答了什么值得确保、启用、嵌入，以及为什么。OECD确认，民主、人权、有效治理、安全、可持续和开放市场是人类共同价值观。在实践中，它将指导负责任创新并开发“基于价值观的技术”。

设计标准体现了良好技术治理和负责任创新的普遍特征，包括预期、包容匹配以及适应性。第一，新兴技术具有不确定性和复杂性，且其新颖性可能远远超出现有伦理道德和政治评价标准，因此需要运用技术评估、技术预测等工具来探索可能的技术发展，支撑政策选择。第二，包容匹配旨在让广泛的利益相关方参与，包括小企业、偏远地区、少数群体等通常被排除在创新过程之外的参与者，这对于使科技匹配未来用户需求和价值观十分重要。由于新兴技术可能会产生不可预见的后果，可能会发生不利事件或结果，因此治理体系必须具有适应性，能够具有韧性，并保持相关性。第三，适应性作为一种设计标准，与预期密切相关，因为适应性原则和指导方针可能更适合快速的技术开发。政策工具可助力实现上述设计标准，并在创新过程中嵌入价值观。OECD推荐三项政策工具：以前瞻性技术评估促进预期、以社会参与鼓励包容匹配、以软法律机制增强适应性。

技术的开发和使用跨越国界，技术挑战的全球性要求以国际视角治理新兴技术，有效的国家科技治理需要国际政策的参与，这已成为一种明显的政策趋势。国际科技创新合作可通过维护共同价值观、共享政策工具和最佳实践进行。

二、以战略情报支撑预期

（一）意义

在世界各地，技术评估、战略预见和其他形式的战略情报（如地平线扫描）正在国家层面应用，为国家科技创新政策和技术治理提供信息。各国和国际社会应评估和加强其预测技术发展和技术治理需求的战略能力，应致力于通过前瞻性技术评估来深化新兴和关键技术相关战略情报。前瞻性技术评估既依赖又支持关键价值观的表达，这些价值观是分析潜在利益和危害以及新兴技术发展轨迹的基础。

作为构建战略情报的重要手段，前瞻性技术评估可以使决策者及时了解技术发展的重要趋势，将利益相关方的希望与关切融入新兴技术研发时的公众互动，并推动建立和指导技术、产业议程。

（二）注意事项

进行稳健的前瞻技术评估应注意以下五个问题：

第一，要符合目的。技术评估流程应与目标保持一致，诸如促进讨论，权衡意见；提供关键趋势信息；制定议程等。明确阐述旨在实现技术评估目标的不同步骤和活动，将极大促进确定适当的方法和途径。

第二，要范围清晰。技术评估必须清楚分析各个维度，是以技术为中心（如量子计算）、以价值链为重点（如食品供应链），还是采取社会技术系统的角度（如流动性）？技术评估的范围和精细度应与技术评估目标相关联，因为每个视角都需要不同范围的专业知识、证据工具和流程。

第三，要确保人员参与兼具智慧与包容性。技术评估需要具有不同专业知识和经验的利益相关方参与。包容性标准取决于对可用资源（即人员配置和资金）、范围（根据技术评估的主题和范围确定相关社会群体）和可用时间（有限的时间可能需要限制和集中包容性）的一些约束。欧洲议会进行稳健技术评估时采用“七要素法”（STEEPED），对社会、技术、经济、环境、政治、伦理和人口进行全面扫描，确定和分析利益相关方，值得借鉴。

第四，要反映价值观、框架和偏好。技术评估可集聚利益相关方，探讨技术对其职业、个人生活和更广泛社会技术系统的影响。不同的利益相关方会有自己的观点，因此了解专业人员和非专业人员的工作环境以及可能影响他们对他人意见和反应的各种偏好十分重要。值得信赖的技术评估应揭示价值观、框架和偏好。

第五，可用性。技术评估对于构建完全不同和不明确的信息十分重要，从而为决策者提供可理解的解释。稳健的技术评估应仔细考虑所产生情报的目标受众及其吸收能力。

三、以深度社会参与实现包容和匹配

（一）意义

从实现可预期和包容性的技术治理体系角度来看，深度社会参与是十分必要的。第一，社会参与可以在复杂创新体系的全阶段，从议程设置到产品设计和推广，明确新兴技术的社会目标有助于更好地使技术开发与社会需求相一致。第二，在开发过程中让社会利益相关方尽早参与，有助于发现公众的敏感性和伦理道德缺陷。第三，利益相关方的参与可促进公众对科学和技术的理解，提高社会讨论技术问题的能力。第四，社会参与可使来自不同文化、人口、年龄、社会结构和技能水平的代表参与创新，这不仅可解决根深蒂固的排斥问题，还可使技术与更广泛的社会群体更具关联性。

（二）注意事项

深度社会参与包括构建讨论能力、沟通协商和共同促进技术开发三种模式，实践中要从程序和组织两个层面注意以下问题。

程序方面：第一，要依次运用参与技巧，使社会利益相关方在不同阶段参与创新过程。这意味着需组织一系列社会参与，使它们相互依赖，为技术治理过程的不同维度提供信息。第二，要围绕社会使命和目标制定参与框架，早期新兴技术对社会利益相关方来说可能过于抽象，要多使用利益相关方可共鸣的语汇来促进有效参与。第三，为创新者提供培训和激励，以培养鼓励参与和包容的文化，使参与结果与决策过程相联系，融入创新者的核心活动。

组织方面：第一，要根据参与活动的范围和技术的社会影响，确定和选择利益相关方。选取民间社会或游说团体代表应积极寻求多样性，且他们应在研发过程中有较深的个人利害关系。第二，要使多样性、公平性和包容性成为参与的关键设计目标，即既要涉及各种类型的专业知识，创造一个允许开放而有重点的辩论环境，又要在不强迫达成共识的情况下促进讨论。第三，要最大限度为社会利益相关方加入减少障碍，适当的形式和有效的程序对于吸引和保持始终参与至关重要。

四、以软法律增强治理适应性

（一）意义

正式监管方法可能不适合治理新兴技术，至少在开发的早期阶段是如此，因为：第一，技术进步快于监管更新；其次，新的伦理道德、社会和经济问题可能位于监管管辖范围和专业知识之外，或处于跨监管管辖范围；第三，跨多个行业和政府部门的应用程序可能会造成跨部门协调问题。使用具有道德或政治力量但又不具正式法律强制执行性的原则、标准、指导方针和规范，这些“软法律”可在多部门合作和跨司法管辖区灵活性方面显示出更多优势。

（二）注意事项

以软法律增强治理适应性要注意以下四个问题：

第一，要对各种机制和工具进行实证分析，认识其与监管的相互作用，优化其使用，进一步提高技术治理的可信度和有效性。

第二，要联合设计新兴技术。要确保“有意义”的参与机制，邀请利益相关方（公民和中小企业等）参与技术和治理系统的设计。原则、标准、指导方针和实践准则应透明公开，建立在证据基础上。同时开展外联，确保标准化。这里包括那些往往没有资源为标准化做出有效贡献的中小企业。将用户群体（如患者）、监管机构、社会科学家、哲学家和民间社会纳入标准制定。这种共同创造在自我监管软法律工具发展的早期阶段至关重要，可提高公众接受度。

第三，要注意合规性。制定针对实施和合规的监督机制，包括对技术治理进行第三方审计，是有效的质量控制方式。同时还可考虑其他机制，如具有合同效力的责任制度、外部伦理道德委员会、可能要求合规和业绩的保险公司，以及政府的退出。要加强治理工具的使用及其合规性，将资金、出版和监管批准与遵守安全标准、获取性、透明度，以及伦理道德、法律和社会原则联系起来。

第四，要实施“靠设计”理念。改变对研究人员的激励措施，促使技术创新早期原型计划的选择、资助和监测过程更加透明。在颠覆性研究的早期设计阶段，资助者可要求并提供足够的激励措施，促进同行评议和社区参与。

五、以预期框架促进国际科技创新合作

当今世界面临的挑战具有全球性，需加强科技创新相关合作，预期政策治理框架不仅适用于在国家层面上使用此类设计标准和工具，亦可鼓励国际层面的科技创新合作。第一，该框架可加强对人权、责任、经济合作和民主治理等共同价值观的承诺和实践。第二，该框架可丰富国际实践，如良好的战略情报、利益相关方和社会的参与，以及OECD的建议等机制。国际科技创新合作是善治新兴技术的一种考量，涵盖了价值观、设计标准和工具等框架要素。