算法产业促进与治理法(建议稿)*

孙占利

(广东财经大学 法学院,广东 广州 510320)

一、引 言

1.算法简介。算法可被简单理解为一种可以反复采用的计算方法。算法是人工智能的核心技术或灵魂,其优劣直接决定着人工智能系统的质量。一般认为,算法之于智能时代,如同蒸汽机之于工业革命,代表着一个时代的生产力上限。21世纪人工智能的兴起和规模化应用依赖于三个基础因素:算法、数据、算力,这三大生产要素是以智能化为核心的新一轮科技与产业革命的驱动力,同时也构成了企业、行业、地区乃至国家的核心竞争力,被业界认为是智能时代或数字经济的“三驾马车”,分别指向生产关系、生产资料及生产力。关于三者的关系,以自动驾驶汽车为例,算法就像是汽车的自动控制系统或大脑,数据可类比为汽油,算力则如同发动机,三者协同推动汽车安全与稳定地运行。

2.立法意义。算法在促进经济社会发展的同时,也产生了“大数据杀熟”、算法黑箱、算法歧视、算法合谋垄断、算法自动决策侵权等新型问题。如果不对算法进行伦理审查和安全监管,就可能产生算法奴役、“信息茧房”及“深度伪造”等社会风险,甚至危及人类自身的安全。对算法进行系统性专门立法,可以防止算法风险问题和促进算法产业的健康发展,维护国家安全、社会公众利益及各方的合法权益,也有助于我国抢占智能化时代的战略制高点。

3.立法现状。我国已将人工智能发展上升为国家战略,2017年国务院印发的《新一代人工智能发展规划》提出,到2025年初步建立人工智能法律法规、伦理规范和政策体系,到2030年建成更加完善的人工智能法律法规、伦理规范和政策体系。我国关于算法的立法见于《中华人民共和国电子商务法》《中华人民共和国个人信息保护法》《中华人民共和国数据安全法》《中华人民共和国反垄断法》《互联网信息服务算法推荐管理规定》等法律法规、部门规章、地方性法规及规范性文件,在算法产业促进和治理方面已经取得了积极成效。

4.立法发展。我国在算法治理立法方面取得了积极成效,但尚存在系统性和协调性不足、算法产业促进措施不到位及算法风险不能充分有效监管等问题,这必然影响到算法产业的发展速度与质量。智能化时代的社会发展已经为算法立法提出了更高的要求,需要对算法进行系统性的专门立法,以促进和保障算法产业规范有序地发展。

5.本建议稿。本建议稿在借鉴已有立法、政策及研究成果的基础上,对算法产业促进与治理立法进行探索,以期抛砖引玉,共同推进算法立法的发展。在本建议稿起草过程中,学习借鉴了本领域专家学者们的杰出研究成果,谨致诚挚的谢意!本建议稿的起草工作得到广东省法学会的大力支持,佛山市顺德区人民检察院朱凤茹全程协助起草,广东财经大学白雪梅副教授、刘薇副教授、蔡孟兼副教授、李振宇讲师及广东技术师范大学法学与知识产权学院朱腾伟副教授、广东财经大学华商学院陈敏讲师、珠海市横琴创新发展研究院法律与规则衔接研究所邓鑫研究专员等提出了宝贵的修改意见。由于起草人的水平有限,本建议稿一定存在诸多问题或不足之处,公开刊发的目的在于希望收到更多批评指正意见,以期进一步完善本建议稿。衷心欢迎专家学者们提出宝贵意见,起草人联系邮箱为:sunzhanli@vip.126.com。

二、目 录

第一章 总则

第二章 算法产业促进

第三章 算法安全监管

第四章 算法企业的权利与义务

第五章 算法救济

第六章 法律责任

第七章 附则

第一章 总 则

第一条【立法目的】为了促进算法技术的创新发展,推进算法在经济社会领域的深度融合应用,规范算法研发与应用活动,保护公民、法人和非法人组织的合法权益,维护国家安全和社会公共利益,制定本法。

第二条【适用范围】中华人民共和国境内的算法研发、应用及监管等活动,适用本法。中华人民共和国境外的算法应用对境内经济社会发展产生负面影响的,适用本法。

第三条【产业发展理念】算法产业遵循绿色发展、协调发展、安全发展理念,弘扬社会主义核心价值观,维护算法公平与正义,推动各行业领域转型升级和可持续发展。

第四条【产业发展原则】算法产业发展应当遵循融合创新、安全可控、开放合作、公平竞争、协同治理的原则,防范和控制算法风险,保障特殊群体的合法权益,消除数字鸿沟。

第五条【产业发展规划】国务院负责制定算法产业发展规划,优化算法创新研发与融合应用环境,加强算法产业生态培育与发展。

地方各级人民政府负责实施上级人民政府的规划部署,协调解决算法产业发展中的重大问题,统筹推进算法产业创新与安全发展。

第六条【安全监管原则】算法安全监管应当坚持总体国家安全观,遵循依法依规、鼓励创新、包容审慎、主动防控风险的原则,建立健全分类分级监管体系,综合运用法律、伦理、道德、技术等手段进行科学监管。

第七条【安全监管机制】中央国家安全领导机构负责国家算法安全工作的决策和议事协调,研究制定、指导实施国家算法安全战略和有关重大方针政策,统筹协调国家算法安全的重大事项和重要工作,建立国家算法安全工作协调机制。

各地区、各部门对本地区、本部门工作中的算法安全负责。

工业、电信、交通、金融、自然资源、卫生健康、教育、科技等主管部门承担本行业、本领域算法安全监管职责。

公安机关、国家安全机关等依照本法和有关法律、行政法规的规定,在各自职责范围内承担算法安全监管职责。

第八条【协调机制】中央国家网信领导机构负责建立算法产业安全与发展协调机制,统筹推进算法产业的总体布局、整体推进和检查落实协调机制。

国家网信部门依照本法和有关法律、行政法规的规定,负责统筹协调算法安全与发展及相关监管工作。

县级以上地方人民政府建立本级算法产业安全与发展协调工作机制,协调各主管部门的管理工作,推进算法产业与其他产业的融合发展。

第九条【部门职责】各级人民政府的发展和改革部门负责拟制本级算法产业发展战略、规划和政策,推进算法产业发展重大工程和重点项目实施。各级人民政府的工业和信息化部门负责算法产业发展的具体工作。

各级人民政府的网信、科技、教育、公安、财政、统计、人力资源保障、交通运输、商务、卫生健康、国有资产监管委员会、市场监督管理、政务服务数据管理、中小企业服务等有关主管部门在其职责分工范围内促进算法产业健康发展。

第十条【地方政府职责】地方各级人民政府及其有关部门鼓励和支持符合算法伦理和法律法规的算法新技术、新产业、新业态、新模式的探索和创新,建立与之相适应的监管机制。

第十一条【算法治理】国家统筹规划加强对算法研发与应用的科学治理,推动政府、企业、社会组织及公众共同参与算法治理,保障自然人、法人和非法人的合法权益,促进算法产业的健康发展。

第十二条【行业自律】国家鼓励相关行业组织加强本行业算法研发与应用的行业自律,建立健全行业自律准则,组织制定行业标准,促进本行业的算法技术与应用创新,推广具有较高经济社会价值的算法技术应用,督促和指导会员建立健全算法管理制度和服务规范,依法提供服务并接受社会监督。

第十三条【标准制定】国家推动制定算法领域的国家标准,支持制定行业标准、地方标准、团体标准和企业标准。

鼓励和支持高等院校、科研机构、行业协会、企业及专业人士参与制定算法领域的国际标准、国家标准、行业标准、地方标准、团体标准及企业标准。

第十四条【算法企业】算法企业应尊重社会公德和科技伦理,促进算法技术、产品和服务的创新发展,依法落实算法治理责任,不得损害国家安全、社会公共利益和他人的合法权益。

第十五条【交流与合作】国家鼓励跨学科、跨领域、跨地区、跨国界的交流与合作,加强国际组织、政府部门、科研机构、教育机构、企业、社会组织的交流与合作,推进算法技术创新和赋能经济社会发展。

第二章 算法产业促进

第十六条【总体部署】国家依法制定算法产业促进政策,在资金、人才、技术、信息、平台等方面扶持算法企业,加强算法技术的基础研究,促进算法核心技术和关键技术的突破,支持自主研发算法的部署和推广,实现算法可信化、模块化、系统化和平台化,促进算法模型的创新研发和推广应用。

第十七条【生态培育】县级以上地方人民政府制定算法生态培育规划,完善算法产业技术创新体系和基础技术供给体系,加强算法技术的基础研究和应用研究,促进算法技术创新和成果转化,推动优质算法技术、产品和服务的普及应用,提高全社会的算法应用意识和能力,推进经济社会的智能化发展。

第十八条【资金支持】县级以上地方人民政府加大对算法技术与应用创新的财政支持力度,发挥区域内各类产业发展、科技创新相关专项资金的引导作用,建立与社会资本的联动机制,对算法创新平台建设、技术研发攻关、应用转化落地、人才引进与培养等予以重点支持。

第十九条【数据保障】县级以上地方人民政府依法扩大面向算法研发领域的公共数据开放,支持针对算法产业的数据服务的发展。

第二十条【应用场景保障】县级以上地方人民政府依法加大算法应用场景的开放力度,建立全球创新算法与应用场景的对接共建机制,扶持具有重大经济与社会效益的算法技术、产品和服务的应用推广。

第二十一条【技术发展】县级以上地方人民政府鼓励和支持算法行业、企业推进关键算法突破升级,研制推广标准化算法组件、预训练模型,形成具有示范推广效应的算法技术及其应用产品和服务,促进算法的多元供给。

鼓励各地因地制宜建设通用算法库、应用算法库、前沿算法库,推动算法池扩容与共享,建立算法评测体系,制定算法技术、产品和服务标准。

第二十二条【算法开源】各级人民政府应当培育共创、共建、共治、共享的开源理念,鼓励打造算法开源平台和社区,鼓励企业参与算法开源交流与合作,有序实现国内外开源平台和社区互联互通,推动算法领域开源软件国际规则互认,培育算法开源基金,保障算法开源方的合法权益。

第二十三条【人才培育】县级以上地方人民政府建立健全算法人才培养制度,加强算法专业人才队伍建设,探索建立算法领域人才评价标准与认证体系,加大对优秀人才与研究团队的扶持和奖励。

第二十四条【知识产权保护】国家针对算法领域的新技术、新产业、新业态、新模式的知识产权保护要求,完善算法知识产权保护制度,提高算法知识产权执法效能,加强算法知识产权的跨区域协作保护。

权利人可以根据算法技术与产品的特点依法取得软件著作权或专利权,也可以选择采用商业秘密的方式进行保护。

县级以上地方人民政府应当指导算法企业、高等院校、科研机构、行业组织、金融机构等组建算法公共专利池,促进算法技术的应用推广和不断创新。

第二十五条【成果转化与推广】县级以上地方人民政府支持建设算法技术的应用转化体系,支持建设面向重点应用领域的公共算法服务平台和算法应用信息平台、算法复现平台,推动创新型算法成果的转化和推广。

鼓励县级以上地方人民政府建设算法技术、产品、服务交易平台,探索制定科学完备的交易规则和平台管理体系。

鼓励各类企业实现算法技术与企业业务的对接,打造算法技术转化示范项目,加强高质量的算法技术、产品和服务的推广。

第二十六条【智库支持】地方各级人民政府根据需要设立算法产业发展与治理专家委员会,为本行政区域算法产业的发展规划、重大决策和疑难问题提供专业咨询意见。

第二十七条【协同发展】国家支持算法产业与其他产业的协同发展,推进跨区域的算法产业发展规划衔接、技术标准互认等工作。

鼓励高等院校、科研机构、行业协会、企业及专业人士在基础研究、技术开发、技术引进、技术共享、人才培养等方面开展协作,协同攻关突破关键技术和核心技术。

第三章 算法安全监管

第二十八条【总体要求】国家建立健全算法安全监管制度,推动算法安全监管体制机制创新,加强算法伦理审查和安全治理,推动算法产业的安全发展。

算法安全监管应落实算法研发和应用企业的主体责任、各级人民政府的属地监管责任和地方算法安全监管部门的直接监管责任。

第二十九条【监管职责】各级人民政府的有关部门依法对本行业领域的算法研发与应用进行安全监管,针对本行业领域的特点建立算法风险预警和评估机制,定期开展本行业领域的算法安全监督检查,对发现的算法风险及时予以处理。

第三十条【监管机制】各级人民政府及其算法安全监管部门应当建立算法安全事前、事中、事后相结合的一体化监管体系,对算法的研发与应用活动实施动态风险防控,实时分析算法技术与应用的潜在风险并采取预防措施,及时对算法安全事件采取有效的处置措施。

算法企业应当配合有关主管部门依法实施的监管工作,并提供必要的技术、数据及其他协助。

第三十一条【安全审查】算法安全审查纳入国家网络安全审查工作机制,国家网络安全审查部门负责制定算法安全审查相关制度规范、组织算法安全审查和对违反算法安全审查规定的行为进行处理。

第三十二条【分类分级监管】国家算法安全审查部门应当按照算法的应用场景、安全风险、社会影响等因素建立算法分类分级管理制度。

鼓励促进经济社会发展、防灾救灾及公共卫生事件的应急处理的算法的研发与应用,禁止危及人类社会、危害国家安全、损害社会公共利益及侵害他人合法权益的算法研发与应用。

存在较大国家安全风险、伦理风险、社会风险的算法应当在研发和应用前取得国家算法安全审查部门或其授权的省级算法安全审查部门的许可,并在许可范围内研发和应用。

第三十三条【算法备案】具有舆论属性或者社会动员能力的算法推荐服务及其他对社会影响较大的算法服务的提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息,履行备案手续。

完成备案的算法服务提供者应当在其对外提供服务的网站、应用程序等的显著位置标明其备案编号并提供公示信息链接。

算法服务提供者的备案信息发生变更的,应当在变更之日起十个工作日内办理变更手续。

算法服务提供者终止服务的,应当在终止服务之日起二十个工作日内办理注销备案手续,并作出妥善安排。

第三十四条【企业备案承诺】企业在办理算法备案时应当承诺不利用提供算法技术、产品和服务的便利条件非法获取用户数据或非法操控用户设备,无正当理由不得中断算法产品供应或者停止技术支持服务。

第三十五条【监管沙盒】算法安全审查部门可以根据算法的应用场景、风险等级、影响范围等因素,要求风险较高的算法在特定区域和范围开展应用安全测试,通过安全测试后方可投入使用。未通过安全测试的算法,算法安全审查部门可以根据安全风险程度要求其退出安全测试或者对算法调整后重新申请安全测试。

第三十六条【高风险算法】算法安全监管部门依法对高风险算法采取与其风险相适应的监管措施,可以要求企业解释说明算法风险及其防控措施,必要时可以按照执法程序远程获取企业用于训练、验证、测试算法的数据集和获取算法设计的源代码。

第三十七条【监测与预警】算法安全监管部门可以采用自动化系统和人工巡查同步结合的方式对算法的数据使用、应用场景、社会影响等进行动态监测,及时发现算法安全风险并予以预警。

第三十八条【应急处理】各级人民政府建立算法安全风险应急机制,根据算法安全风险等级制定相应的应急预案,配备必要的专业应急人员和应急设备。

第三十九条【安全主体责任】算法企业应当依法落实算法安全主体责任,建立健全算法伦理审查、安全评估监测、安全事件应急处置、数据安全保护和个人信息保护等管理制度,向用户公开算法技术、产品和服务的安全应用与服务协议。

第四十条【安全评估与监督】算法企业应当依法建立算法风险评估制度,在算法的研发与应用全过程自主实施安全评估或委托第三方专业机构进行评估。

算法安全监管部门定期开展算法安全评估与监督工作,对发现的问题及时提出整改意见并责令相关企业限期整改。

第四十一条【第三方安全服务与协作】国家促进算法安全检测评估、认证等服务的发展,支持算法安全检测评估、认证等专业机构依法开展服务活动。

国家支持有关部门、行业组织、企业、教育和科研机构等在算法安全风险评估、防范、处置方面的交流与合作。

第四十二条【行业监管】县级以上地方人民政府支持成立本级算法安全保护行业组织,行业组织在授权范围内依法开展下列活动:

(一)向有关主管部门反映算法安全保护情况和提供咨询建议;

(二)督促和指导行业组织的成员企业建立健全算法安全规范并接受社会监督;

(三)依法开展行业安全监督检查,向行业组织的成员提供算法安全保护信息和咨询服务;

(四)接受算法安全方面的投诉、举报并进行调查和调解;

(五)对符合公益诉讼条件的算法安全事件,依法向人民法院提起公益诉讼。

第四十三条【保密义务】参与算法安全审查、评估与监督检查的机构和人员应当对工作中所知悉的商业秘密、个人信息、用户或企业提交的未公开材料及其他未公开信息承担保密义务。未经信息提供方同意,不得将保密信息对外披露或者用于工作以外的目的。

第四章 算法企业的权利与义务

第四十四条【算法企业的权利】算法企业依法享受算法产业支持政策,平等获得税收、信贷、科技经费、人才引进、科技成果转化等方面的优惠待遇。

第四十五条【算法管理体系】算法企业应当建立健全算法伦理审查、影响评估、安全防护及应急处置等算法管理体系,确保算法能够依法合规、公平公正、安全可靠地作出自动化决策,防止损害国家安全、社会公共利益及他人合法权益。

第四十六条【算法伦理】算法企业应当建立算法伦理风险管理体系,明确管理机构、目标及工作规程,提升算法伦理审查、风险管控和应急处置能力。

第四十七条【算法合规】算法企业根据业务类型、市场规模、技术水平、行业状况等建立算法合规管理制度,设立算法合规管理机构或专职人员,加强算法风险防控和隐患排查,提升应对安全风险的能力和水平,确保算法技术、产品和服务符合相关法律法规、安全与质量标准及业务规范的规定。

第四十八条【算法安全风险】算法企业应当防范算法安全风险,规范算法应用行为,提高算法安全风险的监测、预警和处置能力。

第四十九条【资质与标准】算法企业应当具备与其业务范围相适应的企业资质,提供的算法技术、产品和服务的质量应符合有关的国家标准、行业标准及地方标准的要求。

第五十条【算法决策的科学性、合理性、可靠性】算法企业应确保算法决策的科学性、合理性和可靠性达到国家有关规定的要求,防止算法决策错误或者造成其他不利后果。

算法决策的科学性、合理性、可靠性从下列方面进行判断:

(一)训练数据和监测数据的全面性、规范性、准确性和可靠性;

(二)算法决策规则与参数设置的科学性、合理性和先进性;

(三)算法决策过程的逻辑性、可解释性和可验证性;

(四)算法决策结果的可预测性和可验证性;

(五)用户画像的公正性、客观性和真实性;

(六)其他影响因素。

第五十一条【算法公平】算法企业应当采取可靠的技术手段对其算法的分析、决策和优化等具体应用任务的公平性进行验证,不得利用算法优势侵害用户或他人的合法权益。

算法技术、产品和服务的社会化应用应当尊重和帮助弱势群体,满足特殊群体的特别需求或提供适宜的替代方案。

第五十二条【算法透明】算法企业应向用户明示算法决策的目的、方式和范围,适当披露算法的基本原理、运行逻辑、决策过程、验证方式及功能局限,并向有能力了解算法决策的利益相关方提供易访问、可理解、可评估的路径。

企业在公开披露算法时可以不公开核心算法技术、关键参数和源代码,但应以普通用户可理解的方式说明算法决策是否公平或是否损害用户的合法权益。

第五十三条【算法解释】算法技术、产品和服务的用户有证据认为算法对其合法权益造成损害的,可要求企业对算法的决策目的、基本原理、决策规则、参数设置、运行过程、验证方式及优化方案等进行可信解释。

对影响国家安全、社会公共利益以及他人合法权益的算法,算法安全监管部门可要求相关企业对算法进行可信解释,并根据解释和审查结果采取修正后使用、限制使用范围、禁止使用等措施。

第五十四条【算法歧视或偏见】算法企业应当遵循平等原则,不得因用户的身份、职业、性别、年龄、民族、种族等作出具有歧视性或偏见性的算法决策。

算法企业应当主动检查研发或应用的算法是否存在歧视或偏见,发现算法歧视或偏见时应立即停止应用并予以消除。

第五十五条【算法风险评估】企业在设计、开发算法时应根据应用场景,综合考虑实现算法功能的准确性、代码的正确性、目标函数的影响、训练数据集的影响、对抗性样本的影响和环境数据的影响等指标,对算法决策的风险进行评估。

算法应用企业应当定期对算法安全风险及其应对措施进行评估,发现较大风险或可能产生较大社会影响时应当及时上报有关主管部门。

第五十六条【算法审计】算法企业应当建立算法的安全性、合法性及正当性的内部审计制度,保障算法内部审计人员参与或指导算法研发与应用工作的权利,在系统权限管理等方面为内部审计工作提供便利条件。

企业提供的算法技术、产品和服务具有重大社会影响的,算法安全监管部门可以委托第三方专业机构对算法研发、数据安全保护、算法决策规则、数据开发利用及企业承诺执行情况等进行年度外部审计,依照有关法律法规的规定披露审计结果。

第五十七条【用户画像】算法企业根据用户行为进行用户画像的,不得侵害用户和其他主体的合法权益,不得危害国家安全和社会公共利益。

用户画像限于用户授权或同意的范围,且应当进行去个人化或匿名化处理,不得包含淫秽、色情、暴力等非法和不良信息。

第五十八条【算法操纵】算法企业不得利用算法操纵用户账号、评论、点赞、榜单、热搜等,实施影响网络舆论或者规避监管行为。

第五十九条【算法推送】算法推送服务企业应当加强对推送信息的审核与监管,建立健全人工干预和用户选择机制,最大程度地减少对用户判断或选择的不利影响。

第六十条【互联网平台经营者】互联网平台经营者向消费者销售商品或者提供服务的,应当保护消费者公平交易的权利,不得根据消费者的偏好、交易习惯等特征,利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为。

第六十一条【算法垄断】禁止企业滥用算法与其他经营者达成或实施垄断协议、对其他经营者进行不合理限制以及实施具有或者可能具有排除、限制竞争效果的其他行为。

第六十二条【劳动者权益保障】企业运用算法技术安排工作调度的,应当动态完善订单分配、工作时间、报酬构成与支付及奖惩等的算法设计和运行规则,依法保障劳动者的合法权益。

第六十三条【特殊群体权益保障】向残疾人、未成年人及老年人等特殊群体提供算法产品或服务的企业,应当提供适合特殊群体特点的使用模式和服务方式,简明扼要地说明算法产品或服务的基本功能、使用方法及注意事项,维护特殊群体的合法权益。

第六十四条【数据安全】算法企业应当依法获取用户的个人信息,建立健全与个人信息保护相关的算法服务协议、隐私政策和算法披露制度。

算法企业应当明确算法使用数据的来源、范围和用途,防止数据泄露与滥用。

第六十五条【安全保障措施】算法企业应当增强算法系统的鲁棒性,配置应急管理和备份系统,动态检测算法系统漏洞等安全风险,发现风险时应及时采取有效处置措施。

对与人身安全密切相关的算法,算法企业应进行针对性的风险测试和采用更高级别的安全保护措施。

算法企业应当将算法模型的修改权限限制在授权用户和特定授权范围,防止算法原始模型数据被第三方恶意篡改。

第六十六条【算法服务协议】算法企业依法制定算法服务协议,明确算法服务中有关各方的权利、义务及责任。

算法服务协议有较大变更时,算法企业应当在其官方网站公开征求意见,征求意见的时间不得少于一个月,并确保公众能够便捷、充分地表达意见。

算法服务企业应当充分采纳公众的合理意见,适时公布意见采纳情况。对未采纳的意见,应当说明理由。

第六十七条【算法滥用】算法企业不得滥用算法技术、产品和服务,并采取措施防止他人滥用其算法产品或服务以损害国家安全、社会公共利益或者他人合法权益。

第六十八条【应急处理】算法企业应当制定算法安全事件应急预案,发生算法安全事件时,应当立即启动应急预案,采取相应的补救措施,并向算法安全监管部门报告。

第六十九条【算法追溯机制】算法企业应当确保算法模型、运行过程、决策结果可记录和可留痕,妥善保存算法决策日志与相关记录,协助用户或有关部门查明损害结果的发生原因与产生的后果。

第七十条【算法终结机制】算法企业应当保证算法系统的可中断性,在算法系统出现非法自动化决策、无法预测或控制其决策结果及可能产生重大社会风险时,立即终止算法系统的运行。

第五章 算法救济

第七十一条【企业承诺】算法企业应切实履行算法服务协议,践行在算法备案、算法审计及其他安全监管中作出的承诺,维护用户和有关各方的合法权益。

第七十二条【算法救济便利化】算法企业应主动收集和及时反馈用户意见,设置便捷的用户投诉渠道,及时处理用户投诉,并将处理结果告知用户。

算法企业应以提供必要的证据等方式为用户和有关各方依法维权提供便利条件。

第七十三条【算法披露与解释权】算法技术、产品和服务的用户可以依法要求企业对其算法进行适当披露和可信解释,企业不得以算法黑箱、商业秘密及用户难以理解等为由拒绝披露或解释。

第七十四条【知情权和选择权】算法服务企业应告知与用户合法权益相关的算法服务信息,为用户提供便捷选择或退出算法服务的选项。选项的设置不得针对用户个人特征,并应保障用户可以随时选择退出算法服务。

算法服务企业不得以个人不同意处理其个人信息或者撤回同意为由拒绝提供算法服务,但处理个人信息属于提供服务所必需的除外。

第七十五条【拒绝权和更正权】用户可以拒绝算法自动化决策提供的服务或拒绝接受仅通过算法自动化决策方式提供服务。

出现算法决策错误时,用户可以要求企业采取更正算法输入的数据或修改算法运行规则等补救措施。

第七十六条【维权监督】有关主管部门通过受理投诉、举报及主动检查等方式加强维权监督,责令相关企业及时整改发现的问题,保障用户和有关各方的合法权益。

第七十七条【违法处理】有关主管部门发现算法技术、产品、服务存在侵权或其他安全隐患时,可约谈相关企业,责令其及时采取改正措施。

第七十八条【司法救济】用户发现算法技术、产品、服务侵害其合法权益时,可以依法向有管辖权的人民法院提起诉讼。

第七十九条【公益诉讼】对利用算法技术、产品、服务侵害众多用户合法权益等损害社会公共利益的行为,法律规定的机关和有关组织可以依法向人民法院提起诉讼。

人民检察院履行职责中发现算法技术、产品、服务侵害众多用户合法权益等损害社会公共利益的行为,在没有适格主体或者适格主体未提起诉讼的情况下,可以向人民法院提起民事公益诉讼。用户或行业组织提起诉讼的,人民检察院可以支持起诉。

第八十条【行业组织救济】用户发现算法技术、产品或服务损害其合法权益时,可以向相关行业组织投诉。行业组织收到投诉后应及时予以处理,并将处理结果告知相关企业和用户。

行业组织在处理用户投诉时发现算法系统存在较大社会风险或安全隐患时,应及时告知相关企业修改算法或终止运行算法系统,并及时上报有关主管部门。

第八十一条【企业维权】算法企业认为监管部门、行业组织及其工作人员有失客观公正,或者不依法履行保密等义务的,可以向有关部门投诉或举报。有关部门收到投诉或举报后应及时予以处理,并将处理结果告知相关企业。

第六章 法律责任

第八十二条【民事责任】有下列情形之一的,算法企业应当承担民事责任:

(一)算法技术、产品、服务对用户产生歧视或偏见的;

(二)无理由不履行或未适当履行算法解释等义务的;

(三)算法产品或服务不符合约定的目的、用途和范围的;

(四)违法处理用户个人信息或其他数据;

(五)实施其他损害用户或他人合法权益的行为。

发现算法技术、产品、服务正在侵犯或可能侵害其合法权益时,权利人可依法要求该算法企业承担停止侵害、消除危险、消除影响、恢复名誉等民事责任。造成用户损失的,依法赔偿损失。

第八十三条【备案责任】企业未按规定取得许可或未履行备案义务,或者通过隐瞒真实情况、提供虚假材料等不正当手段取得许可或备案的,有关主管部门应及时撤回许可或备案,并依法给予警告、通报批评、限制开展生产经营活动、责令停产停业、罚款等行政处罚。

第八十四条【执法约谈】企业违反本法的算法安全监管规定的,算法安全监管部门可依职责约谈相关企业的主管人员或其他直接责任人员,责令限期改正;约谈后仍不改正的,依照相关法律法规的规定予以处理。

第八十五条【行政责任和刑事责任】算法企业及其工作人员违反本法的规定,构成违反治安管理行为的,依法给予治安管理处罚;构成犯罪的,根据算法服务的风险等级不同,依法追究刑事责任。

第八十六条【记入信用档案】算法企业违反本法规定造成严重后果的,除依法承担相应的民事责任、行政责任及刑事责任外,还应当依照有关法律法规的规定记入企业信用档案,并予以公示。

第八十七条【第三方机构的责任】从事算法评估、算法审计等的第三方专业机构及其工作人员违反本法规定的,有关主管部门依职责给予警告、通报批评、限制开展生产经营活动、责令停产停业、没收违法所得、罚款等行政处罚;造成他人财产损失的,依法赔偿损失;构成犯罪的,依法追究刑事责任。

第八十八条【宽严相济】算法企业及其工作人员违法行为轻微且能及时整改,未造成危害后果的,不予行政处罚;初次违法且危害后果轻微,并及时改正的,可以不予行政处罚;违法情节或后果较为严重但主动报告有关情况并积极配合调查和消除危险的,可以减轻或者免除处罚。

第八十九条【容错免责】对于算法产业创新过程中已经尽到勤勉尽责但未能避免失误或过错的企业及其工作人员,省级人民政府可以根据需要制定不予处罚清单,采取约谈告诫、批评教育、责令改正等措施督促企业依法创新和合规经营。

第九十条【技术局限免责】算法技术、产品、服务投入市场时的科学技术尚不能发现存在缺陷的,算法技术、产品、服务提供者可以主张免除法律责任,但未能结合科学技术的发展对其技术、产品、服务进行动态优化以致造成重大损失的除外。

第七章 附则

第九十一条【定义】本法下列用语的含义:

本法所称“算法”是为一个问题或一类问题给出的解决方法与具体步骤,是对问题求解过程的一种准确而完整的逻辑描述。

本法所称“算法企业”是指从事算法研发和向社会提供算法技术、产品和服务的企业。

本法所称“算法推荐”是指通过机器学习、统计或其他数据处理形成的向用户提供个性化推送、排序精选、检索过滤、调度决策等信息内容的计算程序。

本法所称“算法推荐服务提供者”是指使用算法推荐技术提供算法推荐服务的企业或其他组织。

本法所称“算法黑箱”是指机器学习时其复杂的神经元网络中存在的不为人所能直观捕捉到的隐层。

本法所称“算法歧视”是指算法研发人员对事物的认知存在某种偏见或算法学习、运行时使用了带有偏见的数据集等,导致该算法产生歧视性的结果。

本法所称“可靠性”是指算法在一定时间和一定条件下可以无故障地实现特定的功能,以及在输入数据出现问题时能够作出适当反应或者进行有效处理。

本法所称“鲁棒性”是指算法系统遇到输入、运算等问题时处理错误和继续正常运行的能力。

本法所称“可验证性”是指输入某组特定数据时同一算法会产生相同的结果,可用于解决算法解释与算法追责问题。

本法所称“可解释性”是指算法企业应尽可能地对算法的过程和特定的决策提供解释,以维护算法用户的知情权和拒绝权,避免和解决算法决策的错误性和歧视性。

第九十二条【例外情形】其他法律对特定类型的算法技术、产品、服务及其监管另有规定的,依照其规定。

第九十三条【实施】本法自 年 月 日起实施。