欧盟人工智能战略的影响及对我国的启示

李舒沁

摘  要：本届欧盟委员会重视人工智能产业发展及其经济、社会影响，近期发布了《人工智能战略》，重点关注解决风险问题以形成基于信任的生态系统，促进产业发展以构建基于创新的生态系统，以及调整治理架构形成适于AI发展的监管机制等几方面议题。这一战略如果得到有效实施，将对法律建设、行业投资和集中科研力量等宏观因素，以及产业发展方向、产学研合作及行业人才技能培养等微观因素产生影响。在目前的《战略》中，也存在监管范围不够及知识产权与安全性矛盾待破解的不足之处。对我国来说，可以参考借鉴《战略》，加强顶层设计，加快相关法律法规制定，同时以“新基建”鼓励AI领域的创新及产业化，最终推动以人为本的AI建设。

关键词：人工智能  欧盟  信任  技能  安全  知识产权

中图分类号：D95                              文献标识码：A                  文章编号：1674-098X（2020）09（a）-0240-04

Abstract：This European commission attaches great importance to the development of artificial intelligence and its economic and social impact. Recently， it released the Strategy of Artificial Intelligence， focusing on solving the problem of risk to form the ecological system based on trust， promoting industrial development to build ecological system based on innovation， and adjusting management architecture to form a suitable supervision mechanism of the development of AI. If this strategy is effectively implemented， it will have impacts on macro factors such as legal construction， industrial investment and concentrated research strength， as well as micro factors such as industrial development direction， industry-university-research cooperation and industrial talent skills training. In the current strategy， there are also deficiencies in the scope of supervision and the contradiction between intellectual property and security.For China， the strategy can be used for reference to strengthen top-level design， to accelerate the formulation of relevant laws and regulations， and to encourage the innovation and industrialization of AI field with "new infrastructure"， so as to finally promote human-oriented AI construction.

Key Words：Artificial Intelligence; The European Union; Trusts;Skills;Security;Intellectual property

本屆欧盟委员会对数字技术及其经济社会影响高度重视。迄今为止，委员会已经发布了四份数字技术相关战略的文件，其中两份涉及人工智能（AI），一份关于欧洲的数字未来建设，另一份关于欧洲的数据经济。与其他战略类似，欧盟在AI相关战略中，强调规则的建立，形成发展的总体框架，目的是推动欧盟人工智能产业发展，掌握国际话语权，成为数字经济和应用的全球规则领导者，与其他科技大国相抗衡。

1  欧盟人工智能战略重点关注方面

1.1 解决风险问题，形成基于信任的生态系统

欧盟委员会在看到人工智能变革的同时，也认识到由于AI的使用会带来挑战和风险，其推广和使用仍然受到民众的质疑，也因此阻碍了产业发展。现有的欧盟立法框架已不足以应对这些挑战和风险，因此需要提出新的监管方案，有效应对这些挑战。欧盟AI战略中监管框架的核心内容之一是AI技术投入市场之前需进行强制性的合格检验。这一规定主要针对于高风险AI，即应用于高风险行业或高风险用途，前者如交通等，而后者如消费者权利与隐私等。某些特定类型AI及应用也可被视为高风险，如远程生物识别（监视器的面部识别）即为其一[1]。对于这些应用，监管框架将主要从数据隐私保护和安全方面进行评估，如训练集数据避免歧视，记录存储准确，信息用途、限制等规定清晰，并可以由人工监督和审查。对于非高风险AI产品，欧盟委员会建议实施自愿标签计划。该计划将允许非高风险AI产品供应商可以为其程序贴上“质量认证”，使用户容易识别其程序以便扩大应用范围。在使用这一标签时也需要受到相应的监管。

1.2 促进产业发展，构建基于创新的生态系统

欧盟一直在推动“单一数字市场”的建立，而AI是其中重要的方向。在AI产业发展方面，欧盟试图建立一个不同层次的合作生态系统。宏观层是成员国之间的合作。为追赶北美、亚洲在AI研究、产业化方面的投资额及技术领先水平，欧盟计划于2020年底前通过一项成员国AI协调计划，以促进各成员国在研发、创新和部署方面的投资。次一层是产业层级。欧盟希望促进产业协同。计划中的一个重要举措是建立跨成员国的AI研究中心，吸引投资和人才。这个中心的研究重点是欧盟在未来有可能取得世界领先地位的领域，主要包括工业、卫生健康、交通、农业产业链、能源/环境，以及对地/对太空探索等。第三层是中小企业。欧盟拟出台的“投资兴业”计划将进一步扩大对中小企业和初创企业的投资。计划原定于2020年一季度投入9亿欧元，为每个成员国建立至少一个数字创新中心提供支持。

1.3 调整治理架构，形成适于AI发展的监管机制

在治理监管结构方面，欧盟试图建立一个跨成员国的AI治理主管部门。这一机构有三个目的。一是提高欧盟总体监管能力。以跨部门机构管理的方式，避免各成员国监管设备及投入的碎片化，以及对规定的理解有偏差，，从而提高各国的总体监管能力，确保欧盟逐渐具备适于AI能力测试和认证的技术和产品。二是提供产业发展、标准制定的前瞻性信息或报告。除了监管职能外，该机构还可以成为各国定期交换信息并介绍实践经验的论坛。一方面可以集中各国AI企业及监管机构的经验，在交流中为产业界指出新的发展趋势和方向;另一方面也可以针對新算法、新工具，提出新的标准认证流程或方式，在法律层面有所创新[2]。三是利用测试中心评估AI系统。在这个机构中的测试中心评估AI系统的安全性、鲁棒性等标准，为高风险AI系统进行认证。支持欧盟对AI安全性的标准制定，并对欧盟之外的AI系统进入欧盟设置标准。

2  产生的影响及仍需完善的部分

2.1 对欧盟AI产业发展的宏观影响

欧洲对AI的发展战略，对于产业发展的宏观影响主要有三方面。一是对法律体系产生影响。目前欧盟尚无一部法律阐释AI发展过程中基本权利、消费者保护、产品安全和责任规则等情况。而且由于AI的不透明（“黑箱”效应）、复杂性和部分自主行为，现行法律体系又无法应对出现的问题。因此，建立适用于AI的法律规定，将是未来一段时期内，欧盟将加快推进的工作。二是投资将大幅增加。欧盟AI相关的创新投资在一定时期内持续弱于北美和亚洲。讨论并计划实施的战略旨在帮助对AI项目增加更多投资，目标是在未来10年实现每年200亿欧元的投资额，达到以往投资额的5～6倍。三是集中技术和人才优势，提高总体竞争力。通过在各国研究中心间建立合作、协同网络，并以联合研究中心的形式将各国优秀人才和相关优势技术做好集成整合，形成合力优势，与其他国家开展AI领域的竞争。

2.2 对产业发展的微观影响

微观影响主要体现在三方面。一是对未来AI发展趋势的展望更具系统性。在一个协同研究体系下，AI发展思路更加多元和开放，沟通也更加便捷，对未来趋势的设想和把握也可以更加有系统性。可以从时间维度、技术实现难易程度等方面构成未来发展的网络，涵盖更多的技术和领域，在竞争中占领先机。二是与业界沟通更加紧密。由于AI发展战略强调合作，因此属于私营部门的中小企业、创业企业等在使用AI的过程中，也可以及时将自身诉求、现有AI系统的问题更快地反馈给战略体系内的研发机构。这些企业一方面可以获得AI战略提供的资助，另一方面也可以享受AI系统带来的便利。他们的及时反馈，也可以为欧盟的AI研发提供业界拉动力。三是对提升AI相关技能起指导作用。一方面是对现有工作群体的培训。这类培训更关注于未来可能需要用到的技能，以及自我学习提升的能力。另一方面则是提升全民对AI的认识，包括对AI的了解、熟悉和信任，并对大学生等未来可能的从业人员进行AI理念及伦理教育。

2.3 监管薄弱环节有待完善

在欧盟的AI战略中，也仍然有一些薄弱环节，有待于未来进行完善。一是监管对象覆盖程度不够高。在AI战略中，监管的重点是AI相关的产品，可以套用欧盟已有的产品安全法规，但对服务、代码等则缺乏相关规定，可能会产生有企业宣称“人工智能是一种服务”而规避监管的问题。同时对于具有产品和代码双重属性的AI产品，如新型智能汽车的基于AI的自动驾驶模块，如果因其故障引起车辆行驶事故，则被追责的将是汽车厂家，而非AI的算法开发人员[3]。二是对AI算法的知识产权与安全性之间的平衡。在监管中，对AI算法和公司的安全性透明度的检查，要求“披露人工智能系统的设计参数、用于训练的数据集并接受审计”等。在实际操作中，需要考虑如何保护知识产权。很多公司的业务是基于其AI算法而设立。AI算法对于这些公司相当于药物配方对于制药公司。因此有必要尽快出台适合AI产业的知识产权保护原则。

3  对我国的启示及应对

3.1 加强顶层设计，加快相关法律法规制定

欧盟近几年出台一系列与数字经济、AI有关的法律法规，并在当前的AI战略中再次突出了法规、监管的地位，表明其仍希望在这一领域占据规则制定者的位置。我国AI产业发展迅速，已经开展了诸多实践，有必要加强顶层设计，打造适合我国国情的监管法规体系[4]。一是扩大监管覆盖面。借鉴欧盟的经验及不足，对AI产品和服务、数字经济相关技术等可能带来的经济影响和社会影响开展研究，从企业、开发者和用户等不同角度进行分析，尽可能多地覆盖AI领域涉及的因素。即便暂时不便立法，也可以通过规定等形式，预防可能发生的风险。二是制定自己的AI产业发展标准并开展认证工作。行业标准的博弈通常决定了行业中各方所获得的利益规模。我国的AI产业已初具规模。2018年我国AI市场规模为83.1亿美元，同比增长48.4%，占同年全球核心市场规模的1/7。很多应用领域已形成较为成熟的经验。结合业界实践制定行业标准，对其他国家来说有较大说服力。而这也可为国内AI产业的发展提供更大的动力。

3.2 以“新基建”鼓励AI领域的创新及产业化

今年，“新基础设施”建设正在成为新的风口，大量资本、技术、人才正在涌入“新基建”涉及的各个领域。AI也是其中之一。与特高压、5G基建、大数据中心等服务于数字经济的有形基建不同，AI自身既有形又无形。AI可以与其他“新基建”紧密结合，其他“新基建”也服务于AI的发展[5]。而且“新基建”涉及领域中有不少是建立新的实体，而AI则可以与传统产业、行业、产品相融合，为它们的转型升级提供新动力。我国很多企业在AI商业模式方面已有很多尝试，下一步有必要加强AI相关的硬件建设，例如人工智能需要大量并行计算，而GPU具有相似的计算特征，那么GPU就是适合AI时代的核心处理模块。同时，鼓励企业进一步利用AI升级改造传统制造业，提高制造业竞争力。而基于AI的智能家居、机器人等硬件设备，以及在不同行业发挥升级赋能作用，也是下一步发展的重点。

3.3 推动以人为本的AI建设

发展AI的根本目的是服务于人，为使用带来便利，因此，以人为本发展AI是需要遵循的原则。欧盟相关做法有可供借鉴的方面。一是平衡好技术发展与隐私保护之间的关系。欧盟推出GDPR后，很多AI公司认为该条例限制了数据的流动和使用，会影响AI算法的改进。从实施一周年的情况看，很多AI公司完善了数据用途的告知方式，并注意提高用户数据保护的安全性[6]。因此，在我国AI发展过程中，也需要以更为细致的立法规范企业对用户数据的使用。二是做好大众对AI技术的心理建设。AI给大众的印象，通常较为神秘，益处与风险共存。有必要向公众加强AI相关知识的宣传，一方面说明这一技术的利弊，让大家了解其与现有技术的异同;另一方面也要加强对企业宣传的管理，减少对AI进行名不符实的宣传，避免造成对AI的盲目崇拜或恐慌。三是加强AI相关的培训。AI对于传统产业的改造，可能带来从业人员工作岗位的变动。为此需要增加从业人员的通用AI技能培训，提高他们对本行业或其他行业的适应能力，降低离职风险。同时，推动对AI开发人员、大学生等高技能、高知人才的AI相关的伦理、道德教育，认识到自己所掌握技术的巨大影响力，从而主动提高自身的职业道德和操守，将所掌握技术用于造福社会。

4  结语

总体来看，虽然经历了疫情，但欧盟在经济复苏后仍将加快AI的发展。其试图以新的《人工智能战略》为引领，一方面建立規则，成为AI时代的规则建立者以获得更多话语权;另一方面以增加投入、强化监管、培养公众信心等多种措施促进产业发展，以期与美国等其他AI发展强国在新时期开展竞争。对我国来说，把握好“新基建”的契机，做好顶层设计，加快标准、法规的制定，在保持技术与应用优势的同时，掌握更多的国际话语权，同时做好与人相关的工作，从而用好AI带来的益处，降低对就业、生活的冲击，不断推进我国AI产业的发展。

参考文献

[1] 殷佳章，房乐宪.欧盟人工智能战略框架下的伦理准则及其国际含义[J].国际论坛，2020，22（2）：18-30，155-156.

[2] 顾非易.人工智能与数据保护法律问题[J].人民法治，2019（12）：80-81.

[3] 李超，黄银蓉.大数据时代人工智能的创新与发展研究[J].科技资讯，2019，17（30）：9-10.

[4] 李海英，徐小露.人工智能时代中国个人信息保护法的选择[J].北京航空航天大学学报：社会科学版，2020，33（3）：17-24.

[5] 王灏晨，温珂.新冠肺炎疫情的危中之机——加速我国数字化转型[J].科学学研究，2020，38（3）：393-395.

[6] 王灏晨.《通用数据保护条例（GDPR）》的实践评价及启示[J].中国物价，2019（12）：79-81.