科技启智向善：OECD《人工智能原则》解读与启示

高玉英

摘 要：以OECD《人工智能原则》项目为例，介绍了该项目政策背景、研究过程、研究内容及成果的应用。本文在解读报告核心部分的基础上，提出了一些启示：人工智能的技术突破为产业发展提供了核心驱动力，将是“未来红海”，值得提前布局，深入研究;人工智能标准化工作，任重而道远，需要标准先行;科技启智向善是人工智能发展需要遵守的技术伦理，不可轻视。

关键词：OECD;人工智能

中图分类号：G434  文献标识码：A

一、绪论

人工智能正在改变我们生活的方方面面，它影响我们的工作和娱乐方式。它承诺帮助解决全球挑战，如气候变化和获得高质量医疗服务。然而，人工智能也给政府和公民带来了真正的挑战。当它渗透到经济和社会中时，什么样的政策和体制框架应该指导人工智能的设计和使用，我们如何确保它造福于整个社会？经合组织通过分析人工智能技术应用的经济和社会影响，与所有利益攸关方合作，共同制定公共政策，来支持各国政府的发展。

二、OECD关于《人工智能原则》制定过程

（一）政策背景

2018年，OECD和美国国家科学院展开了合作，合作研究项目名称为“技术的未来：人工智能和机器人对教育的影响”。通过该项目可以对机器人技术和人工智能在数十年中所产生的变化以及对未来教育而产生的众多影响。这一项目针对机器人技术和人工智能的发展在4个技能领域方面进行测评：一是一般认知技术。主要分析的是阅读、听、写以及阅读等;二是专家认知技能。这部分主要包括了科学推理和医疗诊断等专业领域性质的内容;三是社会技能。例如对话等;四是身体技能。这部分技能主要以驾驶技能为主（方乐，2018）。2019年5月，经合组织通过了《人工智能原则》（OECD Principles on AI，2019），这是各国政府就负责任地管理可信赖人工智能达成的第一个国际标准。经合组织关于人工智能的原则包括对公共政策和战略的具体建议，确保可以应用于世界各地的人工智能开发。

（二）研究进程

2016年4月，七国集团信息通信技术部长在日本高松同意就人工智能的快速发展展开国际讨论。2016年11月，经合组织数字经济政策委员会举办人工智能技术展望论坛，探讨人工智能发展带来的好处和挑战。2017年9月，七国集团信息和通信技術部长和工业部长在意大利都灵同意“待进一步的多方利益相关者对话，并在经合组织的支持下促进我们对人工智能合作的理解”。2017年10月，具有里程碑意义的经合组织人工智能会议：智能机器—智能政策。2018年3月，七国集团创新部长在加拿大蒙特利尔同意“促进多利益相关者在人工智能方面的对话与合作”，为七国集团政府未来的政策讨论提供信息。2018年9月，经合组织成立了专家组，以促进对人工智能研究进程。

（三）推进成果

2019年5月，经合组织的《人工智能原则》颁布，目的是促进具有创新性和可信赖性、尊重人权和民主价值观的人工智能发展。经合组织《人工智能原则》是各国政府（各国政府包括经合组织成员国，其他国家包括阿根廷、巴西、哥伦比亚、哥斯达黎加、秘鲁和罗马尼亚）签署的第一个此类原则，为人工智能制定了标准，使其能够在快速发展的领域经受住时间的考验，并补充了现有的OECD标准，如隐私、数字安全风险管理和负责任的商业行为等。

1.经合组织《人工智能原则》内容

该建议确定了五项基于价值观的原则，用于负责任地管理可信赖的人工智能：①人工智能应该推动人类社会的可持续性发展和包容性增长。②人工智能系统的设计应尊重多样性的价值观：法治、人权和民主，并且也应该采取一些适当的保障措施。例如，在必要时，应该采取人工干预，以确保人类社会的公平、公正。③人工智能系统的信息披露应该具有透明度和严谨性，使得人们理解并修改基于人工智能系统取得的成果。④人工智能系统在其产品的整个生命周期里必须不断评估潜在风险并解决它，其运行方式应该稳健和安全。⑤组织或者个人应该按照上述原则对人工智能系统的正常运行负责。

根据这些基于价值的原则，经合组织还向各国政府提出五项建议：①促进公共和私人在研发方面的投资，以促进可信人工智能的创新。②利用数字基础设施、技术和机制，促进无障碍人工智能生态系统，以共享数据和知识。③确保有一个政策环境，为部署可信赖的人工智能系统开辟道路。④赋予人们人工智能的技能，并支持工人实现公平过渡。⑤跨国界和部门合作，在负责任地管理可信赖的人工智能方面取得进展。

从OECD《人工智能原则》内容来看分为两个章节。

第一部分是关于管理人工智能的原则，包括包容性增长、可持续发展和福祉、以人为本的价值观和公平、关于信息的透明度和可解释性、稳健性、安全性和安全性共四个方面。其中提到利益相关者积极参与负责任地管理人工智能，以期实现对全球人类有益，促进包容未被充分代表的群体利益，减少不平等的经济、社会和性别歧视，保护自然环境，促进人类社会的可持续发展。在人工智能系统的整个生命周期中，人工智能行为者应尊重法治、人权和民主价值观。人工智能参与者应致力于数据信息的透明度和负责任的披露信息。人工智能行为者应尊重法治、人权和民主价值观。确保人工智能在整个生命周期内保持稳健、安全和安全。以便在正常使用、可预见的使用或误用情况下，其功能正常，不会造成不合理的安全风险。应当要保证，数据、相关过程以及决策能够追溯到源头，以此可以让人们更好地分析人工智能系统，进而得到过去及现有成果。按照不同的角色所具备的行动能力以及背景，在人工智能系统的每一个阶段中，人工智能参与者都应当积极应用系统风险管理办法，以此来解决隐私、数字安全、安全和偏见的风险。

第二部分人工智能的国家政策和国际合作。主要内容包括5个方面：投资人工智能研发、培育人工智能的数字生态系统、为人工智能创造有利的政策环境、人力资源建设和劳动力市场转型准备、可信赖人工智能的国际合作。在投资方面，对基于跨学科的人工智能研究和发展，各国政府应优先考虑长期的公共投资，同时鼓励私人投资，以便解决人工智能领域的具有创新和挑战性的技术问题。在具有代表性并尊重隐私和数据保护的开放数据集上面，改进操作性和标准的使用。人工智能数字生态系统在进行开发研究、应用以及基础设施和数字技术的建设方面，各国政府应建立促进并分享人工智能知识和数据信托的机制，探索支持安全、公平、合法和合乎道德的数据共享。促进有利于人工智能的政策环境，从而支持从研发阶段向系统的部署和运行阶段的灵活过渡，各国政府应该考虑使用实验环境对人工智能系统进行测试，再酌情扩大使用规模。应酌情审查和调整适用于人工智能系统的政策、监管框架及评估机制，以便鼓励竞争和创新。在人力资源建设和劳动力市场转型方面，《条件》建议与利益相关方密切合作，为人力资源的变革做好准备，人们应该有能力在各种应用程序中使用人工智能系统。确保在部署人工智能时工人的顺利过渡，通过工作生活方面的培训方案、对流离失所者的保障以及在劳动力市场上获得新机会。在工作中负责任地使用人工智能，提高工人的人身安全，尽可能利用人工技术来对工作中的实际质量进行提升。而且还要要求企业主能够培养出企业家精神，保障人们能够应用人工智能的过程中合理化和公平化的分享其所带来的众多效益。另外人工智能也应当走出国际，积极开展国际合作。《原则》明确要求了各国的政府应当在人工智能领域方面积极展开合作，尽可能在经合组织内部，或者是其他，具有全球性质和区域性质的论坛中朝着共同发展的方向努力，不断分享所具备的人工智能知识。各国之间，多方利益相关者以及跨部门的主体都要积极行动，利用这样的方式来获得人工智能方面的相关知识和内容。各国政府应促进为可互动和可信赖的人工智能制定多方利益相关者、共识驱动的全球技术标准。