《人工智能创新发展道德伦理宣言》助力产业 健康发展

随着人工智能科技的发展，人工智能与人类的关系已经引起了多方重视。近日，在天津高新区召开的2018雷克大会（2018机器人与人工智能大会）上，工信部赛迪研究院发布了《人工智能创新发展道德伦理宣言》，包括人工智能系统、人工智能与人类的关系、人工智能具体接触人员的道德伦理要求、人工智能的应用、当前发展人工智能的方向等方面。

为期两天的 “2018雷克大会（2018机器人与人工智能大会）”近日在天津高新区顺利举行。在雷克大会主论坛上，人工智能产业创新联盟面向成员组织发布了《人工智能创新发展道德伦理宣言》。成员组织包括中国电子信息产业发展研究院、英特尔（中国）有限公司、科大讯飞股份有限公司、微软（中国）有限公司、京东集团、天津市高新技术企业协会等40余家国内机构及企业。

宣言共6章22条，对人工智能系统、人工智能与人类的关系、人工智能具体接触人员的道德伦理要求、人工智能的应用、当前发展人工智能的方向等内容进行了界定，提出了要求。

工信部赛迪智库政策法规研究所所长栾群表示，发展人工智能不仅存在技术或应用问题，更存在颠覆社会性、伦理性甚至人性的跨领域问题。为此，在大量研究和调研的基础上，工信部赛迪研究院发布vzt了《人工智能创新发展道德伦理宣言》，希望通过道德伦理约束，帮助人工智能产业健康发展。

以下为《人工智能创新发展道德伦理宣言》全文内容：

序言

鉴于全人类固有道德、伦理、尊严及人格之权利，创新、应用和发展人工智能技术当以此为根本基础；

鉴于人类社会发展的最高阶段为人类解放和人的自由全面发展，人工智能技术研发当以此为最终依归，进而促进全人类福祉；

鉴于人工智能技术对人类社会既有观念、秩序和自由意志的挑战巨大，且发展前景充满未知，对人工智能技术的创新应当设置倡导性与禁止性的规则，这些规则本身应当凝聚不同文明背景下人群的基本价值共识；

鉴于人工智能技术具有把人类从繁重体力和脑力劳动束缚中解放的潜力，纵然未来的探索道路上出现曲折与反复，也不应停止人工智能创新发展造福人类的步伐。

鉴于此，现发布人工智能创新发展道德伦理宣言，宣扬涉及人工智能创新、应用和发展的基本准则，以期无论何种身份的人都能经常铭记本宣言精神，理解并尊重发展人工智能的初衷，使宣言传达的价值与理念得到普遍认可与遵行。

第一章 人工智能系统

第一条 人工智能系统基础数据应当秉持公平性与客观性，摒弃带有偏见的数据和算法，以杜绝可能的歧视性结果。

第二条 人工智能系统的数据采集和使用应当尊重隐私权等一系列人格权利，以维护权利所承载的人格利益。

第三条 人工智能系统应当有相应的技术风险评估机制，保持对系统潜在危险的前瞻性控制能力。

第四条 人工智能系统所具有的自主意识程度应当受到科学技术水平和道德、伦理、法律等人文价值的共同评价。

第二章 人工智能与人类的关系

第五条 人工智能的发展应当始终以造福人类为宗旨。牢记这一宗旨，是防止人工智能的巨大优势转为人类生存发展巨大威胁的关键所在。

第六条 无论人工智能的自主意识能力进化到何种阶段，都不能改变其由人类创造的事实。不能将人工智能的自主意识等同于人类特有的自由意志，模糊这两者之间的差别可能抹杀人类自身特有的人权属性与价值。

第七条 当人工智能的设定初衷与人类整体利益或个人合法利益相悖时，人工智能应当无条件停止或暂停工作进程，以保证人类整体利益的优先性。

第三章 人工智能具体接触人员的道德伦理要求

第八条 人工智能具体接触人员是指居于主导地位、可以直接操纵或影响人工智能系统和技术，使之按照预设产生某种具体功效的人员，包括但不限于人工智能的研发人员和使用者。

第九条 人工智能的研发者自身应当具备正确的伦理道德意识，同时将这种意识贯彻于研发全过程，确保其塑造的人工智能自主意识符合人类社会主流道德伦理要求。

第十条 人工智能产品的使用者应当遵循产品的既有使用准则，除非出于改善产品本身性能的目的，否则不得擅自变动、篡改原有的设置，使之背离创新、应用和发展初衷，以致于破坏人类文明及社会和谐。

第十一条 人工智能的具体接触人员可以根据自身经验，阐述其对人工智能产品与技术的认识。此种阐述应当本着诚实信用的原则，保持理性与客观，不得诱导公众的盲目热情或故意加剧公众的恐慌情绪。

第四章 人工智能的应用

第十二条 人工智能发展迅速，但也伴随着各种不确定性。在没有确定完善的技术保障之前，在某些失误成本过于沉重的领域，人工智能的应用和推广应当审慎而科学。

第十三条 人工智能可以为决策提供辅助。但是人工智能本身不能成为决策的主體，特别是国家公共事务领域，人工智能不能行使国家公权力。

第十四条 人工智能的优势使其在军事领域存在巨大应用潜力。出于对人类整体福祉的考虑，应当本着人道主义精神，克制在进攻端武器运用人工智能的冲动。

第十五条 人工智能不应成为侵犯合法权益的工具，任何运用人工智能从事犯罪活动的行为，都应当受到法律的制裁和道义的谴责。

第十六条 人工智能的应用可以解放人类在脑力和体力层面的部分束缚，在条件成熟时，应当鼓励人工智能在相应领域发挥帮助人类自由发展的作用。

第五章 当前发展人工智能的方向

第十七条 探索产、学、研、用、政、金合作机制，推动人工智能核心技术创新与产业发展。特别是推动上述各方资源结合，建立长期和深层次的合作机制，针对人工智能领域的关键核心技术难题开展联合攻关。

第十八条 制定人工智能产业发展标准，推动人工智能产业协同发展。推动人工智能产业从数据规范、应用接口以及性能检测等方面的标准体系制定，为消费者提供更好的服务与体验。

第十九条 打造共性技术支撑平台，构建人工智能产业生态。推动人工智能领域龙头企业牵头建设平台，为人工智能在社会生活各个领域的创业创新者提供更好支持。

第二十条 健全人工智能法律法规体系。通过不断完善人工智能相关法律法规，在拓展人类人工智能应用能力的同时，避免人工智能对社会和谐的冲击，寻求人工智能技术创新、产业发展与道德伦理的平衡点。

第六章 附则

第二十一条 本宣言的条文，不得解释为默许任何主体有权进行破坏本宣言所载的道德、伦理和宗旨的活动。

第二十二条 人工智能的发展在深度与广度上都是难以预测的。根据新的发展形势，可以修改本宣言的具体条款，但任何修改都不能违反人类的道德伦理法律准则，不得损害人类的尊严和整体福祉。

中国电子信息产业发展研究院

人工智能产业创新联盟