OECD制定人工智能发展建议

2019年5月，世界经济合作与发展组织(Organization for Economic Cooperation and Development，OECD，下文简称“经合组织”)部长级会议审议数字经济政策委员会(Committee on Digital Economy Policy，CDEP)的提议，通过了《人工智能发展建议》(The Recommendation on Artificial Intelligence)。这是全球首个政府间的人工智能标准，旨在提高人工智能的可靠性，推动人工智能的创新，提升对人工智能的信任。《建议》瞄准人工智能的具体问题，制定了可实施、灵活性高的标准，它也是对经合组织在隐私、数字安全风险管理、负责任商业行为等领域现有标准的补充。

《建议》明确了基于价值观的五项原则，呼吁人工智能参与者推动和实施这些原则：

·包容性增长、可持续发展和繁荣原则；

·以人为本的价值观和公平原则；

·透明度和可解释性原则；

·稳健、安全和可靠性原则；

·负责任原则。

除了这些以价值为基础的原则外，《建议》也向政策制定者提出了五点建议，涉及国家政策和国际合作，以实现可靠的人工智能：

·投资人工智能研究与发展；

·培育人工智能的数字生态系统；

·为人工智能构建支持型政策环境；

·培养人类技能，为人力市场转型做准备；

·开展可靠人工智能的国际合作。

《建议》还给出了措施，制定人工智能研究、发展和部署的衡量指标，建立评估这些原则实施进展的证据基础。

第1部分：对可靠人工智能进行责任管理的原则

建议遵循本《建议》的成员国和非成员国(下文简称“遵循者”)促进和实施下述对可靠人工智能进行责任管理的原则，这些原则适用于所有利益相关者。呼吁所有人工智能参与者根据其各自的职责，推动和实现下述对可靠人工智能进行责任管理的原则。强调下述原则相互补充，应视为一个整体。

1.1 包容性增长、可持续发展和繁荣原则

利益相关者应积极参与对可靠人工智能的责任管理，以期获得对人类和地球的有益成果，例如，提高人类能力和创造力，增加对弱势群体的包容，降低经济、社会、性别等不平等，保护自然环境，从而促进包容性增长、可持续发展和繁荣。

1.2 以人为本的价值观和公平原则

(1)在整个人工智能系统的生命周期中，人工智能参与者应始终遵守法律规定，尊重人权和民主价值观，包括自由、尊严和自主、隐私和数据保护、不歧视和平等、多元化、公正、社会公平、以及国际认可的劳动权利。

(2)为此，人工智能参与者应实施符合当前情势及技术水平的机制和安全防护，例如人类决定的能力。

1.3 透明度和可解释性原则

人工智能参与者应致力于提升人工智能系统的透明度，进行负责任地披露信息。为此，他们应提供符合当前情势及技术水平的有意义信息：

(1)加深对人工智能系统的总体了解。

(2)让利益相关者认识到其与人工智能系统的互动，包括在工作环境的互动。

(3)让受到人工智能系统影响的人了解结果。

(4)让受到人工智能系统不良影响的人能够根据有关因素的简明易懂的信息，以及作为预测、建议或决策基础的逻辑，对所造成的结果提出质疑。

1.4 稳健、安全和可靠性原则

(1)人工智能系统在其整个生命周期都应该稳健、安全和可靠，以便其在正常使用、可预见使用、不当使用或其他不利条件下，都能合理运行，不造成任何不合理的安全性风险。

(2)为此，人工智能参与者应确保可追溯性，包括人工智能生命周期中与数据集、流程、决策相关的可追溯性，确保人工智能系统结果的分析及对查询的响应都符合当前情势及技术水平。

(3)人工智能参与者根据其各自的职责、所处环境、以及行为能力按照连续性的原则对人工智能系统生命周期的每个阶段都采用系统性风险管理方法，以解决与人工智能系统相关的风险，包括隐私、数字安全、安全和偏见等。

1.5 负责任原则

人工智能参与者应根据其各自的职责和所处环境，在当前技术水平下，负责人工智能系统的合理运行并遵守上述原则。

第2部分：可靠人工智能的国家政策和国际合作

建议遵循者按照第1部分所述原则在其国家政策和国际合作中采用如下建议，尤其是针对中小型企业的政策和合作。

2.1 投资人工智能研究与发展

(1)政府应该考虑对研发进行长期公共投资，鼓励私人投资，包括多学科项目，推动在可靠人工智能方面的创新，聚焦挑战性的技术问题和人工智能相关的社会、法律、道德影响以及政策问题。

(2)政府还应考虑对具有代表性并尊重隐私、强调数据保护的公开数据集进行公共投资，鼓励私人投资，以支持没有不合理偏见的人工智能研发环境，提高互操作性和使用标准。

2.2 培育人工智能的数字生态系统

政府应当培育可靠人工智能的开发、访问、以及数字生态系统。这种生态系统具体包括了数字技术、基础设施以及人工智能知识的适当共享机制。对此，政府应考虑推动建立数据信任等机制，支持数据的安全、平等、合法、合乎道德的共享。

2.3 为人工智能构建支持型政策环境

(1)政府应推动构建支持可靠人工智能系统从研发阶段向部署和运行阶段灵活转化的政策环境。为此，应考虑通过实验来提供一个受控的环境，在这个环境中，可以对人工智能系统进行测试，并根据需要进行扩展。

(2)政府应酌情审查和修订其对人工智能系统施用的政策法规框架和评估机制，鼓励可靠人工智能的创新与竞争。

2.4 培养人类技能，为人力市场转型做准备

(1)政府应与利益相关者密切合作，为工作和生活环境的改变做好准备，帮助人们高效使用各种应用中的人工智能系统、进行有效互动，例如为人类提供必要的技能。

(2)各国政府应通过社会对话等方法确保人工智能部署时劳动者得到公平的过渡，例如提供贯穿职业生涯的培训项目、为因部署人工智能而受影响的人提供支持、提供就业市场的新机会。

(3)政府还应当与利益相关者密切合作，促进人工智能在工作中的负责任使用，提高劳动者的安全性

和工作质量，提升创业精神和生产力，致力于确保人工智能带来的好处得到广泛而公平的共享。

2.5 开展可靠人工智能的国际合作

(1)包括发展中国家在内的政府和利益相关者应积极合作，推动这些原则的实施，促进可靠人工智能的责任管理。

(2)经合组织及其他国际和地区性论坛的成员国政府应携手合作，共同促进人工智能知识的合理共享，鼓励多个利益相关者参与的跨国、跨部门的公开倡议，以期获得长远的人工智能技术知识。

(3)政府应当为互操作性可靠人工智能推动制定多个利益相关者参与的共识性全球技术标准。

(4)各国政府还应鼓励开发和使用具有国际可比性的指标来衡量人工智能的研究、开发和部署，并收集证据基础来评估这些原则的进展情况。