如何建立人工智能安全监管制度

《中共中央关于进一步全面深化改革、推进中国式现代化的决定》提出：“建立人工智能安全监管制度。”人工智能引领新的科技革命与产业革命，是具有代表性的高新技术。在推动科技发展的同时，人工智能潜在的风险不容忽视。通过系统把握人工智能发展与安全的关系，建立相关安全监管制度是人工智能风险治理的重要举措。

一、人工智能安全存在隐患

在科技快速发展的同时，人工智能可能存在侵犯隐私数据信息风险、算法偏见与歧视、威胁国家安全等问题。

（一）侵犯隐私数据信息风险

随着人工智能技术的日益强大，大量的数据更容易被获取、存储、挖掘和处理。对于个人隐私数据的收集，不仅涉及人们主动提供的数据，更多涉及被动提供的隐私数据。在数据训练阶段，通过网络自动抓取技术收集的数据可能包括未经授权的隐私数据，人机交互过程中人工智能可能收集涉及个人隐私的数据；在应用阶段，用户利用人工智能生成的内容可能存在侵犯个人隐私风险。

（二）算法偏见与歧视

人工智能算法偏见与歧视是一个无法避免的问题。算法总是隐含着一种价值判断，而非中立的活动。在算法高效地执行各种任务时，由于数据样本存在偏差，被存在偏差的样本训练完的算法运用到现实中时，就可能出现对于人或事物的决策偏差或错误判断。算法偏见与歧视直接影响了算法结果，这种结果又很可能成为某项政策或某个决策的依据。人工智能训练数据中预先就有偏见、数据抽样偏差、算法本身成为一种歧视等因素均可导致算法偏见与歧视问题。

（三）威胁国家安全风险

人工智能可能威胁国家安全。在数据训练阶段，人工智能可能自动抓取政务数据、公共数据等，存在泄露风险，威胁国家安全。在应用阶段，不法分子可能利用人工智能窥视国家秘密，收集军事数据、经济数据等，严重威胁国家安全与稳定。若人工智能脱离人类控制或被滥用，均对国家安全产生威胁。

二、我国建立人工智能安全监管制度的意义

（一）应对人工智能风险的客观需要

人工智能飞速发展，成为推动经济社会发展的重要动力。人工智能在为人类带来便利的同时，可能存在侵犯隐私数据、算法偏见等风险。随着人工智能替代某些行业，导致一些行业的从业者存在失业风险。人工智能挑战着现有的法律体系，影响着国家安全与经济安全。通过建立人工智能安全监管制度，可以有效应对人工智能相关风险。

（二）实现高质量发展的必然要求

现阶段，人工智能是新质生产力的典型代表，能够推动高质量发展。人工智能可能存在安全风险，这要求我们应当在充分发展人工智能技术的同时，加强风险治理。其中，通过建立人工智能安全监管制度，能够兼顾人工智能发展与安全治理的关系。准确把握人工智能赋能相关产业的优势，及时研判潜在的风险，不断加强风险监管。

（三）参与和引领人工智能全球治理的必由之路

人工智能与人类可持续发展息息相关，各国高度关注人工智能安全问题。欧盟、美国、英国等均采取了一系列措施来加强人工智能安全监管。我国作为负责任大国，应当加强人工智能安全监管，参与和引领人工智能全球治理工作，共同促进全球人工智能高质量发展。

三、我国建立人工智能安全监管制度的路径

针对人工智能带来的风险，我国亟须建立人工智能安全监管制度。

（一）采用包容审慎的监管模式

人工智能发展具有未知性与不可预测性，决定了采用包容审慎监管模式。《生成式人工智能服务管理暂行办法》提出对生成式人工智能服务实行包容审慎和分类分级监管，但过于原则化。包容审慎监管模式意味着人工智能发展与治理并重，坚持科技创新与安全治理相结合，推动人工智能高质量发展。

（二）明确人工智能安全监管措施

人工智能安全监管措施包括以下几个方面：一是监督检查。监管部门应当依法开展监督检查，监管人工智能训练数据、数据标注内容等是否存在违法情况。二是行政处罚措施。法律明确可以通过罚款、限期责令改正等方式来监管人工智能相关违法行为。三是制定分类分级监管措施。有权机关应当制定针对人工智能分类分级的监管措施。可以将人工智能分为文本类、视频类等类型，分别采取不同监管措施。

（三）建立算法安全监管制度

以抑制算法权力、偏见为重点，综合运用多种监管手段克服算法偏见问题。为了加强算法偏见与歧视治理，应当确保数据可查性与算法可审计性，在法律上预先设计好算法使用者、设计者等主体的义务，作为人工智能安全监管的重要依据。监管机关应当加强算法歧视与偏见的监管工作，遏制算法权力，严格监管人工智能企业的违法行为。

（四）参与和主导人工智能全球治理规则建设

首先，加快建立人工智能监管制度是我国获得人工智能全球治理规则主导权与话语权的重要推动力。在推动人工智能立法过程中，我国应当综合考虑国际社会的人工智能治理规则内容，注重借鉴先进做法。其次，积极参与人工智能全球治理规则的制定工作。我国应当积极参与国际社会制定有关人工智能的规则，努力主导建立人工智能全球治理体系。

基金项目：山东省法学会2024年度全省法学研究重点课题“个人数据信托的制度建构研究”，SLS（2024）A28。

【作者单位：1.山东社会科学院法学研究所■ 逯达1；2.山东大学法学院（威海）■ 逯 达2】