新兴技术前瞻性治理工具及中国场景实践

陈 瑜,马永驰

(1.大连海洋大学 海洋法律与人文学院,辽宁 大连 116033;2.山东大学 政治学与公共管理学院,山东 青岛 266237)

新一轮科技革命方兴未艾,当纳米材料、基因生物、新一代信息技术、人工智能等新兴技术正在成为国家和社会无法或缺的部分时,不恰当地应用也带来了诸多社会风险。例如,国内外市场上大量转基因作物原料进入生产加工领域或者食品链,但人们却无法预测转基因食品对人体健康的隐患和跨代影响;再如“熊猫烧香”“金猪报喜”等一系列恶意病毒爆发导致的个人数据泄露;战争中大量滥用无人机给无辜百姓带来了沉重的灾难;“深度伪造”技术把“原始人脸”替换为“目标人脸”后引发的肖像侵权等[1]。

新兴技术应用之所以会产生社会风险,源于新兴技术发展初期,人们美好的期望和技术的不确定性并存,这种“双刃剑”效应伴随而来的是难以确定新兴技术发展的边界及其社会影响,以至于很难发现“正确”干预时刻[2]。为了防范新兴技术社会风险可能引发的不可预知影响,大部分国家以专家决策方式,引导新兴技术的发展方向,该方法虽然充分尊重了技术专家和政策制定者的意见和想法,但却未能将其他多元社会主体的意见、想法和价值纳入考量[3]。对于多元社会主体而言,被动接受新兴技术产品的后果是容易与他们的心理预期产生偏差,引发人们对新兴技术产品的质疑,进而导致新兴技术产品社会化变得困难。上述困境表明新兴技术发展需要寻求新的治理之道。

为了回应上述诉求,许多国家开始从前瞻性的视角进行新兴技术社会风险治理的相关研究与实践尝试,只是不同国家,前瞻性治理的手段和效果各有差异。例如,美国企业在新兴技术产品设计中纳入利益相关者的意见与想法[4],以缩小新兴技术产品和利益相关者预期之间的差距。欧盟在出台某项新兴技术决策之前,广泛运用市民论坛、一致会议等参与式治理手段,以确保该技术决策更符合多元社会主体的意愿[5],从而规避新兴技术决策引发的社会质询。此外,中国部分企业将“科技向善”作为指引新技术应用发展的治理工具[6]。上述诸多尝试丰富了新兴技术治理的手段和工具,但对于前瞻性治理工具的梳理,特别是西方理论解释是否适用于中国实践,目前学界尚缺少一定的总结和探讨。因此本文将从治理工具角度,梳理明确新兴技术前瞻性治理工具,并探讨其在中国场景的实践应用,以期为促进前瞻性治理工具的制度化、提升新兴技术社会风险治理绩效提供研究启示。

一、新兴技术前瞻性治理工具

(一)前瞻性治理工具与技术风险防范的关系

技术风险问题源自20世纪60、70年代人们关于科学、技术、经济和社会关系的探讨。科学家提出科学和技术可能对社会和经济产生较大的影响,所以需要国家机构帮助公众选择技术并提供可靠的技术路径信息[7],以防止“缺少”专业知识的公众滥用技术。此段时期,政府和专家单方面决定了广泛应用的技术,没有考虑技术可能对社会产生的负面作用,导致了诸如水俣病、痛痛病、米糠油等一系列技术灾难。

20世纪90年代,技术风险问题引发了广泛的社会影响。英国“疯牛病”事件不仅导致了严重的社会风险,也成为了社会各界批判专家决策模式的触发点[8]。Irwin A(2001)明确提出社会公众应具有技术决策的合法性,并主张以公众咨询模式取代专家决策[9]。社会公众逐步成为防范技术风险的参与者之一,以专家决策为中心的技术风险防范转变为以专家决策为主、以公众咨询为修补方法,带来的影响是技术产品及决策开始关注社会公众的态度和认知[10]。

21世纪以后,纳米、生物、信息和认知等新兴技术引发了社会公众对新兴技术发展与应用的担忧。此段时期,学者们一致认同新兴技术社会风险防范需要技术专家、政策制定者和社会公众共同参与。带有前瞻理念的治理工具开始在新兴技术各个环节萌芽并发展(参见表1)。

表1 新兴技术发展各环节的前瞻性治理工具与相关理论

(二)前瞻性治理理论来源与内涵

1.新兴技术研发环节的理论来源

价值敏感设计理论。前瞻性治理工具的理论来源主要包括价值敏感设计、预期治理和负责任创新框架等。价值敏感设计最初是为了解决技术产品设计工作的伦理道德问题,主张将受到技术产品影响的利益相关者价值观(如隐私、知情同意、尊重知识产权等)和行为方式(如易于使用等)嵌入到技术人工物当中[4]。价值敏感设计被应用于邀请利益相关者对产品设计提供想法意见,对于前瞻性治理的贡献提出了要权衡技术产品有用性和伦理道德之间的关系[15],不足之处是用户范围较窄导致伦理道德涵盖面受限。

预期治理理论。近10多年来,预期治理理论通过扩大利益相关者范围和整合多种参与形式逐步解决了上述问题。在新兴技术发展早期投入或整合各种社会要素增加决策知识[16],同时在运用一系列前瞻性治理工具增强人们远见的基础上,扩展社会的参与和整合能力[17]。预期治理涵盖了科学家、工程师、政策决策者和社会公众等主体,主张在研发过程中,充分利用情境工具,帮助社会主体想象未来新兴技术应用场景中的各种可能后果与突发事件[18],引导多元社会主体,围绕新兴技术与社会的关系,进行多重自反式的价值思考[19],以实现对新兴技术发展的共同管理[17]。预期治理不是等着社会影响出现,而是鼓励并支持科学家、工程师、政策制定者和社会公众试着预测未来技术发展对社会的可能影响。预期治理的作用是让新兴技术决策更好、更知情,让新兴技术发展者将更多的社会需要融入创新过程,让社会公众提供他们关注、需要和愿望的知识和信息[20]。预期治理的贡献是以预见性活动整合社会科学、自然科学和公众参与,赋予多元社会主体影响新兴技术发展的参与权,但也难免存在社会公众技术创新经验不足的问题[21]。

2.新兴技术创新环节的理论来源

负责任创新理论。负责任创新框架致力于弥补科技创新负外部性治理中的“制度空白”,强调研究与创新必须有效反映社会需求与社会意愿,反射社会价值与责任[12]。负责任创新框架设置了预测性、包容性、自省性、响应性四个维度[22],用来规范创新主体的创新活动、行为模式和管理模式[23]。负责任创新框架的贡献在于为企业创新活动设定了相应的边界,使企业在一定的伦理、道德和价值前提下展开创新活动。不足之处是面对新兴技术发展不断涌现的新问题时,未能很好地勾勒出新兴技术政策的约束空间。

3.新兴技术决策环节的理论来源

参与式治理、逆流而上参与以及分布式对话等理论。其中,逆流而上参与是将社会公众纳入由政府和技术专家构成的政策决策过程[20],让社会公众在未来新兴技术决策过程中扮演更为活跃和有影响的角色,不仅是“参与”认知与意见调查,更多的是促进社会公众表达观点、赋予新兴技术资源分配的适当权力[24],最终目的是由多元社会主体共同决定新兴技术发展对社会的可能影响。分布式对话则进一步扩大了社会主体参与政策决策的影响范围,政府将“参与工具”分配给地方层级网络群体,实现了成百上千社会主体参与活动,目的是将对话结果反馈给决策过程[25]。

综上可知,前瞻性治理的本质是将原本位于新兴技术发展决策之后考量的多元主体想法与意见、责任伦理与价值等前置到了技术决策之前,是一种未雨绸缪、提前预防新兴技术社会风险的治理方式。前瞻性治理与传统技术管理的区别在于:传统管理强调使用规则和条例、监控和遵循机制,强调民主过程的程序;而前瞻性治理强调建构参与式民主制度,努力克服专业化和底层知识之间的分离,不仅回应新兴技术发展,更多地是积极参与技术决策、参与政策制定和知识生产。由此,本文将前瞻性治理内涵界定为通过安排适当范围的参与主体、调节特定的沟通过程,使治理参与者提升或转变对新兴技术风险的认知,促进或放慢某类新兴技术应用的发展脚步,最终实现新兴技术社会风险防范化解集体行动的治理目的。

(三)前瞻性治理工具介绍

治理工具,有时也被称为政策工具,是为了解决某一社会问题或达成一定的政府目标而采取的具体手段和方式。就科技治理领域而言,相关研究主要侧重政策工具的类型、作用以及政策含义,通常将罗斯威尔和赛格菲尔德提出的政策工具类型作为该领域的分类标准(供给型、需求型和环境型);苏竣(2015)将此分类细化并拓展为科技治理领域的工具箱[27]。值得注意的是,治理工具并不是单一的,而是多元化的工具箱。治理工具除了体现政策制定者的理念和规则之外,还需要具有动态性、前瞻性和创新性,需要反映包容性的政策价值[28]。具体而言,主要包括以下3类前瞻性治理工具。

1.研发环节——减少新兴技术产品误解前瞻性治理工具

新兴技术产品设计未考虑利益相关者意见,会导致产品难以契合利益相关者的期望,使得产品社会化受到阻碍。为了让新兴技术产品达到公众预期,减少公众对产品的误解和社会化阻力,研究者们提出了一系列的前瞻性治理工具,主要包括:自反性质询、分布式谈话、逆流而上、专家情景等,本质都是为新兴技术研发提供更多的信息,以减少社会公众对新兴技术产品预期的差异。

其中,自反性质询治理工具的要点一是帮助技术研发者和社会公众围绕以下4个阶段进行信息交换:①如何将不确定性转化为问题;②参与者假设可能解决的方案;③实践中操作解决方案;④实践检验。二是在上述基础上,以质询、想象和实验方式探讨关于“谁是利益相关者?利益相关者的价值是什么?”等问题,以获取社会公众关于新兴技术产品的认知与偏好信息[20]。具体应用场景上,自反性质询工具可用于规避新兴技术产品推出阶段的机会主义行为风险。通常而言,在新兴技术产品的推出阶段,产品的可靠性或工艺设计普遍存在不足,这些不足会诱发用户和企业的机会主义行为。

分布式对话治理工具的要点。分布式对话并不是追求技术研发者和社会主体对于产品设计的一致意见,而是技术研发者面向更大范围社会主体,获取公众对于新兴技术的认知、观点和反应[29],使更多的公众意见反馈在产品设计之中。通过对分布式对话治理工具的运用,英国皇家社会得出了以下结论:①在减少公众对新兴技术应用的误解方面,调查公众的态度、关注点、以及对不确定性的理解,与新兴技术研发同等重要;②新兴技术问题具有相当大的可讨论空间,关键在于如何清晰地表达新兴技术的争议之处。如2009年英国皇家社会围绕生物能源运用分布式对话治理工具展开公众论坛,该论坛结论已被英国研究委员会采纳并在全国范围内开展了一系列的公众论坛实践,取得了良好的效果[30]。

2.创新环节——约束创新主体伦理道德前瞻性治理工具

新兴技术创新过程中,创新主体如不遵循伦理道德会导致新兴技术产品市场化缺乏控制。比如,转基因作物原料进入生产加工环节时,如果不对原料流向和使用范围严格管理,会导致转基因作物滥用、无法溯源其使用去向。为了化解这一类风险,一方面需要确保创新主体具备对自身创新行为进行反思的意识和能力,确保新兴技术创新过程遵循道德伦理规范;另一方面需要确保创新主体具有参与和回应的渠道,以培育创新行为转向公开民主[31]。为了满足这些要求,除了负责任创新框架提供了创新过程是否“负责任”的评估框架之外[22],一些前瞻性治理工具通过阶梯式方式提升创新主体的伦理道德行为。主要包括:

对话治理治理工具。创新主体与参与者相互交换观点、经验、期望和关注[14],参与者们提供不同的看法和评价,坚持面对和解释有争议的问题[32],改善创新过程设计、决策、评价等环节,完善或改变创新主体和参与者的创新认知,使创新过程更为民主[33]。例如,在新产品研发验证阶段,西门子、波音、通用等大型企业借助大数据和人工智能仿真系统,通过各种报表、图形、三维动画等形式呈现出未来新产品的多个维度特征,为用户刻画出新产品的全景画像,以此推动更多的用户广泛参与新产品工艺和技术路线的选择,或借助创客平台实现用户参与产品创新,模拟未来销售情境中的制度环境,反向改进新产品技术性能或工艺,从而在研发初期实现对产品创新的全项目建模和全流程虚拟现实管理,规避用户在使用阶段的机会主义风险[34]。

小组讨论治理工具。小组讨论参与者通过想象如何发展未来的新兴技术,创造一个扩展或减少新兴技术发展选项的空间[2],小组讨论并非无限制扩展公众想象力,而是将小组讨论融入到研发专家的“实验室试验”,实现技术研发本地化参与,将本地公众的未来生活和新兴技术研发密切联系,突出技术塑造未来的局限性,减少创新活动不受限制的风险[35]。例如,2009年11月和2010年1月奥地利公民运用小组讨论治理工具组织了IMAGINE讨论会,探讨了纳米技术在医学、食品、信息和船舶领域的应用问题。研讨会由纳米技术故事、应用、问题和未来四个阶段构成,每个阶段都准备了集合专家意见的主题卡片。其中“故事”阶段通过播放视频剪辑阐述了要讨论的主题和问题,其他三个阶段邀请参与者选择预先准备好的主题元素进行讨论并阐述观点。小组讨论结果证明了参与者会选择感兴趣的主题元素进行积极创新,未被选择的元素则表明不是公众关注的核心问题。小组讨论治理工具揭示了在公开辩论中为什么某些问题受到关注,而另一些问题仍未解决。

3.决策环节——提升技术决策信任度前瞻性治理工具

新兴技术决策若未能充分考量多元社会主体意愿而可能引发的强烈社会质询。当人们认知和评估新兴技术发展时,会选择与他们利益、经验和知识相关的意见主张[36]。不同的视角包括:认为技术是实现社会目标的工具(工具主义)、或者社会是技术的奴隶(确定主义)、或者技术和社会之间是相互作用的(社会建构)。这些视角冲突是不可避免的,是我们道德生活的一部分,因此如何化解这些冲突成为了新兴技术治理的关键。

一些前瞻性治理工具为化解上述冲突、减少新兴技术决策的“信任危机”提供可能。具体而言,包括以焦点小组、相互学习、科学咖啡馆、协作现场技术探索等参与式治理工具或者对话治理工具。此类治理工具基于以下出发点,即当新兴技术创新对现存秩序构成威胁、或是模糊了现存秩序的边界时,新兴技术的发展将不再是一个简单的技术选择问题[37](接受或者拒绝某项新兴技术),而是一个多元利益相关主体面临的公共问题[38]。因此相应治理工具的立足点是,通过多元社会主体相互作用、共同学习的对话过程培育社会主体关注新兴技术社会发展,减少社会主体对新兴技术的怀疑、并增加社会主体对新兴技术确定性的认知,从而消解冲突。

例如,相互学习治理工具的运用方面, 2014年11月在巴塞罗那著名的科学博物馆CosmoCaixa,西班牙巴塞罗那大学组织了Super MI的相互学习实践,旨在围绕神经增强技术优化人的认知能力这一主题,为公民提供一个开放讨论平台。具体做法如下:一是采用科学咖啡馆的形式召开,邀请神经增强技术领域研究者和管理者进行演讲,并与参与听众进行对话;二是将活动讨论的主题集中于神经伦理学和神经增强技术被引入日常生活后所带来的社会经济影响,同时借助投票系统向参与者呈现各种选项,将投票结果现场公开展示,并组织参与者积极表达意见、开展辩论;三是实践活动后立即进行问卷评估。相互学习实践的结果表明:投票系统充当了组织者评价参与者观点的一面“镜子”,可以呈现出某个观点是主流观点还是例外观点(例如大多数参与者都同意在健康人群中使用增强物质和技术,用于预防或推迟与年龄有关的认知问题,如记忆力减退等,但在娱乐性增强工具方面则表现较为消极),从而帮助参与者在辩论中能更好地进行自我定位,为消解冲突和建立信任奠定基础[14]。

当然,减少新兴技术决策“信任危机”仅凭前瞻性治理工具是不够完备的,还需要政府具有公共价值管理的能力,充分考虑国家独特的政治和体制文化因素,考量公众参与意愿等情感因素,同时也有赖于自主化、交互化、智能化技术支撑的辅助性决策工具的运用。

二、中国场景前瞻性治理工具的实践

(一)研发环节——自反性质询治理工具实践

2016年中国国际高新技术成果交易会上,拥有“自主导航、双目视觉、自然语义理解”等多项功能的陪伴型机器人“小胖”突然失控伤害无辜路人,其原因是机器人设计中缺少误操作“自我关闭”程序,人工智能专家在设计之初未能将“不伤害原则”嵌入到机器人中,导致了机器人使用的安全隐患[39]。这一设计缺陷使得陪伴型机器人的市场化蒙上了巨大阴影。

为了化解此类风险,中国方面新兴技术产品研发开始尝试运用自反性质询治理工具。为了规避用户和企业的机会主义风险,中国腾讯、海尔、阿里、美的、酷狗等企业通过搭建与用户互动的创新平台,在产品创意和产品验证阶段通过大数据平台实现新产品“预售”,充分获取用户或潜在用户意见、产品创意信息,使技术或产品创新从源头上被赋予了社会属性或社会群体的集体选择特征,有利于用户和企业在技术和工艺选择的研发初期阶段规避机会主义风险[34]。比如海尔咕咚手持洗衣机销售过程就是运用自反性治理工具的良好借鉴。同时,咕咚手持洗衣机没有花费一分钱广告宣传费、完全没利用传统专卖店营销渠道,就实现产品上市前预约量40万台,半年销售20万台的业绩。此案例中海尔将官方微博新媒体作为与用户互动的创新平台,该平台并不与同类企业一样发布自家产品与领导动态,而是注重收集用户或网友各类意见。海尔的自反性质询治理工具一方面体现于满足用户需求:该洗衣机上市的初衷是海尔为了回应网友在其官博上吐槽的产品不满和意见,并正式回复认真考虑实现网友想法。此条官方微博收到了5000多条产品改良意见,同时海尔与数据公司合作发现有7万用户打算购买此类产品。最关键的是与同类大企业仅新产品开模费用高达百万以及繁琐的申请流程相比,海尔制造部门1个小时就能确定制造此产品。另一方面体现于用户深度参与:海尔在24小时之内将产品设计图挂到微博上,7天时间内网友对产品的结构、外观、功能等方面提出各种意见,难能可贵的是海尔将各类意见用3D打印反馈于网友。海尔的自反性质询是把用户变成企业合伙人,邀请海尔官博30多万粉丝参与到产品研发、设计、制造、营销的整个过程。

中国产品研发自反性质询治理工具实践与相关国家不同之处在于:部分国家是企业与用户面对面座谈,将座谈结果纳入技术产品设计中。部分国家将该形式以定期论坛形式加以制度化,这意味着部份国家建立了一定的政府与公众、企业与公众的互动机制。中国实践则体现了企业与用户之间以新媒体为中介的“面对面”互动交流,也是一种企业与公众互动机制,同样取得了非常好的技术治理效果。

(二)创新环节——约束创新主体伦理道德治理工具的实践

中国约束企业创新伦理道德治理工具包括两方面:一是国家制度与政策治理工具,包括《关于加强科技伦理治理的意见》《新一代人工智能发展规划》等规范性文件,这些文件从新兴技术制度设计角度给出新兴技术发展总体规划与方向。二是企业“科技向善”治理工具,该治理工具是企业主动将创新技术研发与创新产品应用朝向有利于人类、促进社会良性发展的方向。国家制度和科技向善两类治理工具相互配合可让科技工作者从“他律”走向“自律”,进行内省式自我约束以及伦理意识内化,可以实现中央全面深化改革委员会所提倡的“制度规范与自我约束相结合”[40]。实践中部分企业利用科技向善治理工具较好地践行了国家政策,同时实现了企业创新自我伦理道德约束。例如腾讯研究院以科技向善为核心发起了一个多方共建的研究、对话与行动平台,旨在探讨新技术、新应用带来的新潜力及各种新问题,寻求社会各方共识、探索解决方案,推动数字社会福祉最大化。在多方合作的基础上该平台提出并建设了很多新技术科技向善的方案和践行,比如腾讯与世界自然基金会合作打造了一个数字保护平台,追踪雪豹的踪迹和收集各项关键数据,以保护它们的栖息地。腾讯与国家林业和草原局合作,借助腾讯多媒体实验室的技术,完成东北虎豹国家公园的全景覆盖。并借助沉浸式媒体压缩传输引擎,让人们可以使用手机随时随地“云”游国家公园,使用户更真切地感受到自己为保护动物贡献了力量。腾讯与中国最大的人工耳蜗厂商之一诺尔康(Nurotron)合作,基于腾讯天籁AI音频技术,推出“手机伴侣+人工耳蜗”解决方案,通过AI降噪算法改善听障人群听觉体验,帮助他们真正听清世界。此外,还包括欢乐斗地主与天天象棋的“健康约定系统”,创新型碳捕集、利用与封存项目等诸多科技向善实践。

中国约束企业创新伦理道德治理工具实践与相关国家不同之处在于:部分国家实践是企业与用户、政府与公众之间直接进行讨论,优点是直接获取利益相关者的想法与意见,不足之处是利益相关者覆盖面有限、讨论结果用于技术创新的程度不够清晰。中国实践是企业在政策支持引导下,企业与政府、科研院所合作,企业间合作展开的新技术创新伦理道德约束实践,该过程以非常有利于人类的新技术开发为前提,新技术投向社会后取得了良好的技术治理效果,不足之处是技术创新伦理过程尚未预留与公众互动的通道。

(三)决策环节——提升技术决策信任度治理工具实践

中国提升新兴技术决策信任度治理工具是共建治理,是中央政府、地方政府、企业、科研机构等多元主体之间的互动,包括参观、反馈、决定、评估、座谈、汇报、申请和协作等行为。例如国内部分国有企业在中央政府出台的《关于加快推进国有企业数字化转型工作的通知》《关于加快推进中央企业两化融合和数字化转型战略合作协议》政策引导下,企业管理决策全面进入了“智能化时代”。哈电汽轮机公司对叶片分厂进行大规模智能设备升级和厂房改造,数字化系统应用让分厂管理更加简洁高效。中建科工集团实施数字化变革,推进管理手段升级,打造出四级大数据管理驾驶舱、智慧工地平台、智能制造工厂等。神华与国电合并为国家能源投资集团后,在数字化基础上推动传统业务体系全方位改造,通过智能化技术提升决策管理方面的一体化、科学化和信息化……。

中国提升技术决策信任度治理工具实践与相关国家不同之处在于:部分国家实践是以技术企业与公众之间相互探讨、相互学习为主,目的是为了彼此从讨论中学习观点和认知,从而将多主体认可的技术发展方式运用于社会。中国实践是政府、企业、科研院所等共建治理,是以政府政策支持引导、企业技术转变、科研院所提供技术支持与转化的方式,实现企业以新技术、数字化系统提升业务体系技术决策科学性与智能化的目的。

本文从新兴技术应用引发社会风险的角度出发,探讨了防范新兴技术社会风险管理方式从专家决策向前瞻性治理的转变。围绕前瞻性治理和新兴技术社会风险关系的演变,梳理发现前瞻性治理在不同国家的效果各异,其原因在于前瞻性治理尚未成为统一规范的制度化治理工具或政策规则。由此,本文主要研究了前瞻性治理工具及其中国的实践效果,目的在于提高前瞻性治理工具的社会风险防范能力,为完善和补充中国政府新兴技术治理工具箱提供了可遵循的理论依据,为新兴技术治理研究者提供进一步的研究启示。值得进一步研究的议题包括:如何构建不同类型的前瞻性治理工具,如何为前瞻性治理工具设计标准化的过程,如何从作用机制的角度为前瞻性治理工具提供清晰的解释框架等等。