算法审计目标论

【摘要】本文以经典审计理论为基础， 提出算法审计目标的一个理论框架。算法审计目标是利益相关者希望通过算法审计得到的结果。算法审计需求者希望通过算法审计得到的结果称为终极目标， 而算法审计机构希望通过算法审计得到的结果称为直接目标。算法审计目标要通过算法审计主题来承载， 不同的算法审计主题承载的算法审计目标不同。经典意义上的资源类委托代理关系中的代理人在履行经管责任时如果使用了算法， 则需要审计算法责任履行情况， 其审计主题是算法系统， 其审计目标是健全性， 这个审计目标需要分解落实到算法审计标的形成具体审计目标。政府设立的算法监管部门承担了算法监管责任， 针对算法监管责任的审计主题包括算法监管信息、 算法监管行为和算法监管制度， 算法监管信息承载的审计目标是真实性和效益性， 算法监管行为承载的审计目标是合法性， 算法监管制度承载的审计目标是健全性（有效性）， 上述这些维度的目标， 其终极目标和直接目标的含义不同。

【关键词】算法审计目标；终极目标；直接目标；健全性；算法监管责任；经典审计理论

【中图分类号】 F239.44 【文献标识码】A 【文章编号】1004-0994（2024）19-0082-5

一、 引言

未来已来， 人类正在加速进入人工智能时代， 而算法是实现人工智能的核心工具和基础， 算法的设计和优化会直接影响到人工智能系统的性能和效率， 因此， 建构算法治理体系以确保算法向善是人工智能时代的一个重要议题。算法审计是算法治理体系的一个重要组成部分， 并以审计固有功能在算法治理中发挥独特作用。然而， 算法审计要真正发挥作用， 必须建构科学的算法审计制度， 而制度自信的基础是理论自信， 正确地认知算法审计的各个基础性问题， 是科学建构算法审计制度的前提。在诸多的算法审计基础性问题中， 本文聚焦算法审计目标——人们希望通过算法审计得到什么结果——进行探讨。

现有文献对算法审计目标的论述虽然没有提出直接目标和终极目标的概念， 但是涉及的内容可以分为这两类， 整体来说， 算法审计目标的研究还处于起步阶段， 贯通经典审计理论的系统化的算法审计目标的理论框架尚未形成。本文以经典审计理论为基础， 从算法审计委托代理关系出发， 提出算法审计目标的一个理论框架， 以深化人们对算法审计目标的认知， 并为建构和完善算法审计相关制度提供理论参考。

二、 文献综述

根据经典审计理论， 审计目标分为直接目标和终极目标， 前者是审计过程的直接产出， 后者是审计得到的最终结果。现有文献对算法审计目标的论述虽然没有提出直接目标和终极目标的概念， 但是涉及的内容可以分为这两类。

（一） 算法审计直接目标

一些文献提出了算法审计直接产出应该是什么的观点， 涉及合法性、 责任性、 伦理性、 透明性、 可信赖性、 科学性、 公正性、 安全性、 风险性等。Raji等（2020）提出， 内部审计旨在评估候选产品一旦在现实世界中运行， 将在多大程度上符合编码中的预定标准。Verhulst（2022）提出， 希望审计能让公共机构和私营公司对其算法系统可能造成的危害负责， 从而减少危害， 提高技术道德。英国数字监管合作论坛（DRCF）（2022）提出， 应对算法系统的透明度和信任进行审计， 对法规要求的合规性进行审计。高通（2021）提出， 在社会危险性审查中引入风险评估机制来强化审查的科学性与公正性。王玉凤（2023）提出， 政府审计机关对审计模型算法应重点关注四个方面： 一是模型算法的合规性； 二是模型算法的安全性； 三是模型算法的风险； 四是模型算法的透明度。Khoa Lam等（2024）认为， 人工智能审计可作为实现人工智能系统透明度和问责制的实施机制。

（二） 算法审计终极目标

一些文献分别从算法审计的价值、 治理效能、 目的等角度探讨希望通过算法审计最终得到什么结果。

关于算法审计的价值。张永忠和张宝山（2022）认为， 算法审计的制度价值体现在以下三个方面： 一是规范和监督算法权力， 维护数据正义； 二是防范数字风险， 应对算法权力的弥散性； 三是控制算法异化， 平衡算法透明要求与商业秘密保护。王玉凤（2023）提出， 模型算法审计的现实价值体现在以下三个方面： 一是防止模型算法滥用， 维护公共利益的最大化； 二是强化模型算法管理运行， 防控模型算法风险；三是打开模型算法“黑箱”， 提升政府运行的透明度。王兆毓（2023）认为， 算法审计制度的价值便是以适度打开算法“黑箱”为起点， 旨在建构实质意义上的算法公开系统， 算法审计的价值在于通过面向算法异化与算法风险的纠偏实现算法问责， 算法审计通过提高算法透明度从实质上实现算法公平与数字正义， 算法审计可以适度弥合算法公开、 用户权益保护与商业秘密的制度张力。

关于算法审计的治理效能。张欣和宋雨鑫（2022）认为， 算法审计的治理效能主要体现在以下三个方面： 一是弥合算法透明与算法商业秘密保护的治理冲突； 二是助力企业自我规制与政府规制双轨协同； 三是推动法律、 技术和伦理三元共治机制的有效落地。徐明华和魏子瑶（2023）认为， 算法审计对算法的输出结果进行观测对比， 能够规避被恶意利用的风险， 在算法伦理治理中具有优势和价值。

关于算法审计的目的。王玉凤（2023）认为， 模型算法内部审计的主要目的是增加单位的价值和改进单位的运作。陈雄燊（2023）认为， 算法审计旨在规范算法开发与应用活动， 避免人为伦理风险的发生， 减轻非人为伦理风险带来的负面影响。史普润等（2023）提出， 算法审计的目的是检测算法价值观是否符合法律要求， 从而推动算法向善。

（三） 简要评述

现有文献对算法审计直接目标的观点涉及合法性、 责任性、 伦理性、 透明性、 可信赖性、 科学性、 公正性、 安全性、 风险性等多个方面， 这些不同的维度体现了人们对算法审计寄予了不同的希望， 但是存在以下两个问题： 一是不同的目标维度之间存在不少的交叉， 因此， 要进行梳理和完善， 尽可能减少交叉； 二是要平衡好算法创新与算法监督之间的关系， 因此， 算法审计不宜涉及过于严格或宽泛的目标， 有些目标暂时不宜考虑。同时， 这些审计目标均未与审计主题相贯通， 更没有落实到审计标的。现有文献并未明确提出算法审计终极目标的概念， 但是， 从算法审计的价值、 治理效能、 目的等角度涉及算法审计的终极目标， 这些观点并未与审计直接目标相贯通。整体来说， 算法审计目标的研究还处于起步阶段， 贯通经典审计理论的系统化的算法审计目标的理论框架尚未形成。

三、 理论框架

本文的目的是以经典审计理论为基础， 提出算法审计目标的一个理论框架。为此， 本文首先简要阐述算法委托代理关系， 在此基础上， 分别阐释资源类算法委托代理关系中的审计终极目标和直接目标。

（一） 算法委托代理关系

不同利益主体在经济活动中形成经济关系， 如果这些关系中存在信息不对称问题， 根据信息经济学的相关概念， 这种关系就是委托代理关系。算法技术较为复杂， 算法使用者可能不具备开发算法的能力， 甚至不具有营运算法的能力， 因此， 需要委托专业机构来开发和营运算法。同时， 算法在为人类带来福祉的同时， 也会带来负面问题， 因此， 政府需要对算法进行监管。由于上述这些原因， 基于算法而形成的关系较为复杂， 其基本情况如图1所示。

图1中的关系1是经典意义上的资源类委托代理关系， 委托人将一定的资源交付代理人， 并明确代理人使用这些资源所要履行的职责， 代理人对委托人承担了最大善意使用这些资源来完成所要求职责的责任， 通常将这种责任称为经管责任。这种关系的特殊之处在于， 代理人在履行其经管责任时使用了算法， 而算法的状况决定了经管责任的履行情况， 所以代理人有责任保障算法处于良好状况。从这个意义上来说， 代理人对委托人承担了算法责任， 这种责任属于其承担的经管责任的一部分， 因此， 在审计代理人经管责任履行情况时， 对代理人使用的算法进行审计是其重要的审计内容。

图1中的关系2是代理人作为算法使用者与算法相对人的关系， 代理人在履行其经管责任时必然会发生财务活动和业务活动， 这些活动必然存在交易的对方， 如果代理人在这些活动中使用了算法， 则交易对方就成为算法相对人。通常来说， 代理人与交易对方发生财务活动和业务活动有合约约束， 合约中对算法会有显性或隐性的规定： 如果算法相对人不同意作为算法使用者的代理人所提供的算法， 可以拒绝交易； 如果作为算法使用者的代理人所提供的算法与其承诺的算法不同， 则可以诉诸司法机关。整体来说， 这种关系中的合约是完备的， 并不存在算法审计需求。当然， 算法相对人会希望政府设立的算法监管部门对作为算法使用者的代理人的算法行为进行监管， 政府监管部门也可能在算法监管中借用算法审计的技术功能， 但是这种借用并不是经典意义上的算法审计。

图1中的关系3是代理人作为算法使用者与算法开发者的关系。由于算法技术的复杂性， 代理人在履行其经管责任时要使用算法， 但是其又无力开发算法， 通常会委托专业机构开发算法（如果具备这种能力，则算法开发者与算法使用者合二为一，关系3消失）， 并在开发合约中对算法提出一些要求， 但是在开发结束移送算法使用者时， 代理人作为算法使用者也没有能力对算法是否符合约定的要求进行验收， 通常是通过算法使用中出现的问题来判断算法开发者开发的算法是否满足了其对算法的约定条款。正是由于这个原因， 代理人作为算法使用者与算法开发者的关系是存在完备合约的， 这种关系是合约类委托代理关系， 不存在算法审计需求。但是， 关系1中针对作为算法使用者的代理人的审计， 会延伸到关系3中， 使得算法开发者与算法使用者共同成为算法责任承担者。

图1中的关系4是代理人作为算法使用者与算法营运者的关系。如果代理人作为算法使用者无力营运算法， 则可以将算法营运交付给专业机构（如果具备营运能力，则算法使用者和算法营运者合二为一，关系4消失）， 二者对算法的营运状况会达成合约。从合约条款来说， 这种合约也是完备的， 因此， 这种关系中并不存在算法审计需求。但是， 由于算法技术的复杂性， 代理人作为算法使用者可能没有能力来检验算法营运者对算法的营运状况， 主要是通过算法营运过程中出现的问题来判断算法营运者的履约情况。正是由于这个原因， 算法营运者分享了代理人作为算法使用者的算法责任， 关系1中针对作为算法使用者的代理人的审计会延伸到关系4中， 算法营运者与算法使用者共同成为算法责任承担者。

图1中的关系5、 关系6和关系7是政府设立的算法监管部门对算法开发者、 算法使用者（代理人）和算法营运者的监管， 这三种关系都是监管类委托代理关系。算法监管部门按算法相关法律法规的规定进行监管， 算法开发者、 算法使用者（代理人）和算法营运者按算法相关法律法规的要求接受监管， 这样算法相关法律法规就发挥了类似完备合约的作用。在这些关系中， 解决矛盾的有效机制是行政制裁、 行政申诉和行政诉讼， 并不存在算法审计需求。但是， 算法监管中可能借鉴算法审计的技术功能。

图1中的关系8是本级政府与其设立的算法监管部门的关系， 这种关系就是政府与其部门之间的关系， 是典型的资源类委托代理关系， 但是， 这种关系中的政府部门被赋予了算法监管的法定职责， 这种职责简称“算法监管责任”。在这种关系中， 本级政府与算法监管部门之间存在信息不对称、 激励不相容、 合约不完备， 许多情形下还有环境不确定， 因此， 存在对算法监管责任履行情况进行审计的需求。

以上简要梳理了算法委托代理关系， 关系1中存在算法责任的审计需求， 并且会延伸到关系3和关系4中， 关系8中存在算法监管责任的审计需求（郑石桥，2024a）， 下面具体阐释这种关系中的审计目标。

（二） 关系1中的算法审计终极目标和直接目标

根据经典审计理论， 审计目标是人们希望通过审计得到的结果。这里的“人们”主要有两类： 一是审计需求者； 二是审计机构。通常将审计需求者希望通过审计得到的结果称为终极目标， 而审计机构希望通过审计得到的结果称为直接目标（郑石桥，2021）。同时， 经典审计理论还认为， 审计目标是由审计主题来承载的， 不同的审计主题承载不同的审计目标， 经济信息承担的审计目标是真实性， 由于绩效性要通过经济指标来表征， 因此， 经济信息还能承担效益性这种审计目标， 经济行为承担的审计目标是合法性， 经济制度承担的审计目标是健全性（郑石桥，2021）。

图1中的关系1， 算法审计需求者主要是经典的资源类委托代理关系中的委托人， 在特殊情形下， 作为算法共同责任者的算法使用者、 算法开发者和算法营运者也可能存在算法审计需求， 这些算法审计需求中， 都关注算法责任履行情况， 审计主题都是算法系统（田斌和郑石桥，2024）。而审计主题有三种情形： 一是经济信息； 二是经济行为； 三是经济制度。算法系统属于经济制度， 而经济制度能够承担的审计目标是健全性， 所以， 基于经典审计理论， 算法审计的审计目标应该是算法的健全性， 简称“健全性”。

问题的关键是， 从算法审计目标来说， 健全性的内涵是什么呢？本文前面的文献综述表明， 现有文献对算法审计直接目标的观点涉及合法性、 责任性、 伦理性、 透明性、 可信赖性、 科学性、 公正性、 安全性、 风险性等多个方面， 这些多维度的目标表明了人们对算法的多方面的希望。但是本文认为， 算法审计目标的确定要注意以下两个问题： 一是不同的目标维度之间存在不少的交叉， 因此要梳理完善， 尽量减少交叉； 二是要平衡好算法创新与算法监督之间的关系， 因此算法审计不宜涉及过于严格或宽泛的目标， 有些目标暂时不宜考虑。同时， 按经典审计理论的要求， 审计具体目标必须落实到审计标的。本文认为， 就人工智能发展的当下来说， 健全性这个算法审计目标是总目标， 需要落实到算法审计标的， 基本情况如表1所示。

就输入数据来说， 其具体审计目标包括输入数据的合法性、 真实性和偏见性。输入数据的合法性指输入数据遵守了所有适用的法律法规； 输入数据的真实性指输入数据反映了真实情况或符合数据生产的既定标准； 输入数据的偏见性指输入数据没有忽略或排除任何重要的群体， 不存在对特定属性有过度依赖或歧视。

就算法设计来说， 其具体审计目标包括算法设计的合法性、 安全性和效率效果性。算法设计的合法性指算法设计遵守了相关的法律法规、 行业标准、 伦理要求和社会价值观； 算法设计的安全性指算法设计不存在潜在的安全漏洞； 算法设计的效率效果性指算法完成任务的效率高、 效果好。

就算法影响来说， 其具体审计目标主要是伦理性。算法影响的伦理性指算法不存在违反公序良俗的伦理性问题。

关系1中的算法审计需求者的终极目标和算法审计机构的直接目标都是健全性， 但是对于不同的审计目标来说， 健全性的含义是不同的。算法审计终极目标是算法审计需求者希望通过算法审计得到的结果， 此时健全性的含义是， 希望通过算法审计来提升算法系统的健全性水平， 如果实施算法审计之后， 算法系统的健全性水平并未提高， 则算法审计的终极目标就没有达到。算法审计需求者的这个期望要靠算法审计来实现， 实现的路径是先寻找算法系统不健全之处， 再推动整改， 算法系统就会越来越健全了。所以， 具体来说， 算法审计机构的直接目标就是寻找算法系统的各个审计标的在其具体审计目标方面存在的问题， 发现这些方面的问题之后， 再推动整改， 这些方面的问题就会越来越少， 算法系统也就越来越健全了， 算法审计的终极目标也就实现了。很显然， 算法审计终极目标对直接目标具有统筹作用， 从某种意义上来说， 直接目标是从终极目标的对立面来寻找问题， 没有终极目标， 也就难以确定直接目标， 但是从目标实现来说， 直接目标是终极目标的基础， 没有基于直接目标的健全性问题之寻找， 也就无法提升算法系统的健全性。当然， 仅仅找出算法系统在健全性方面存在的问题还不够， 必须对这些问题进行有效的整改（郑石桥，2024a、2024b；田斌和郑石桥，2024）。

（三） 关系8中的算法审计终极目标和直接目标

关系8中的委托人是本级政府， 代理人是本级政府设立的算法监管部门， 算法监管部门向本级政府承担算法监管责任， 为了促使其更好地履行算法监管责任， 本级政府需要一定的审计机构对算法监管责任履行情况进行审计。在特殊情形下， 算法监管部门本身也存在针对自身算法监管责任履行情况的审计需求（郑石桥，2024a）， 无论是本级政府还是算法监管部门的审计需求， 其审计主题都是算法监管信息、 算法监管行为和算法监管制度（田斌和郑石桥，2024）。根据经典审计理论， 不同的审计主题只能承载不同的审计目标， 算法监管责任的三类主题能够承载的审计目标各不相同。算法监管信息也是经济信息， 承载的审计目标是真实性和效益性， 首先要检查这些监管信息是否真实， 如果某些监管数据表征监管绩效， 则可以根据这些监管数据来评价监管绩效， 发现绩效低下之处， 分析原因， 提出针对性建议， 以提升绩效水平。算法监管行为承载的审计目标是合法性， 关注算法监管部门的监管行为是否符合国家颁布的相关法律法规。算法监管制度承载的审计目标是健全性， 是指算法监管部门为了履行其算法监管责任所建立的工作制度不存在缺陷并得到有效执行。这里的健全性不同于本文前面阐释的算法系统审计目标的健全性， 为了区别二者， 将此处的算法监管制度健全性改为算法监管制度有效性， 简称“有效性”。整体来说， 图1的关系8中， 算法审计目标的基本情况如表2所示。

表2中， 关系8中针对算法监管责任各个审计主题的审计终极目标和直接目标的表述相同， 但是二者的含义却存在差异。算法监管信息的审计目标是真实性和效益性。从终极目标来说， 真实性是指提升算法监管信息的真实性水平， 也就是虚假的算法监管信息越来越少； 从直接目标来说， 是查找虚假的算法监管信息。终极目标意义上的效益性是指算法监管绩效水平的提升； 直接目标意义上的效益性是指查找算法监管绩效低下之处， 分析其中的原因， 提出针对性的措施。算法监管行为的审计目标是合法性。从终极目标来说， 其含义是提升算法监管的合法性水平， 也就是说不合法的监管行为越来越少； 从直接目标来说， 其含义是查找违法违规的算法监管行为。算法监管制度的审计目标是健全性（有效性）。从终极目标来说， 是提升算法监管制度的健全性或有效性水平； 从直接目标来说， 就是查找算法监管制度存在的缺陷， 包括算法监管制度设计缺陷和执行缺陷。整体来说， 终极目标都是追求一种更好的境况， 以保障算法监管责任得到更好的履行， 而直接目标则是从终极目标的对立面来查找问题， 针对查出的问题采取相应的整改措施， 这些问题当然也就越来越少了， 进而终极目标也就有了实现的基础。

四、 结论

算法审计是算法治理体系的重要成员， 本文聚焦算法审计目标， 以经典审计理论为基础， 提出算法审计目标的一个理论框架。

算法审计目标是利益相关者希望通过算法审计得到的结果。算法审计需求者希望通过算法审计得到的结果称为算法审计终极目标， 而算法审计机构希望通过算法审计得到的结果称为算法审计直接目标。算法审计目标要通过算法审计主题来承载， 不同的算法审计主题承载的算法审计目标也不同。

经典意义上的资源类委托代理关系中的代理人在履行经管责任时如果使用了算法， 则需要审计算法责任履行情况， 其审计主题是算法系统， 其审计目标是健全性， 这个目标需要分解落实到各个算法审计标的， 输入数据的具体审计目标包括输入数据的合法性、 真实性和偏见性， 算法设计的具体审计目标包括算法设计的合法性、 安全性和效率效果性， 算法影响的具体审计目标主要是伦理性。从终极目标来说， 算法审计需求者希望通过算法审计来提升上述具体审计目标的水平； 从直接目标来说， 算法审计机构希望通过审计活动发现上述各方面的问题， 以推动整改。

政府设立的算法监管部门承担了算法监管责任， 针对算法监管责任的审计主题包括算法监管信息、 算法监jg2Z9M+zdU2a5YMZrqZbc6BCHLjnjNJ2SMoPOLKj4kM=管行为和算法监管制度这三个方面。算法监管信息承载的审计目标是真实性和效益性。从终极目标来说， 算法审计需求者希望通过算法审计来提升算法监管信息的真实性及其表征的效益性的水平； 从直接目标来说， 算法审计机构希望通过算法审计来发现虚假的监管信息和低下的算法监管绩效。算法监管行为承载的审计目标是合法性。从终极目标来说， 算法审计需求者希望通过算法审计来提升算法监管的合法性水平； 从直接目标来说， 算法审计机构希望通过算法审计来查找违法违规的算法监管行为。算法监管制度承载的审计目标是健全性（有效性）。从终极目标来说， 算法审计需求者希望通过算法审计来提升算法监管制度的健全性或有效性水平； 从直接目标来说， 算法审计机构希望通过算法审计来查找算法监管制度存在的缺陷。

【 主 要 参 考 文 献 】

陈雄燊．人工智能伦理风险及其治理——基于算法审计制度的路径［ J］．自然辩证法研究，2023（10）：138 ～ 141．

高通．逮捕社会危险性量化评估研究——以自动化决策与算法规制为视角［ J］．北方法学，2021（6）：131 ～ 144．

史普润，刘晓红，贾军．数字经济时代平台型企业非价格竞争存在的问题及对策优化研究——基于算法审计的视角［ J］．商展经济，2023（24）：89 ～ 92．

田斌，郑石桥.算法审计内容论［ J］．财会月刊，2024（18）：86 ～ 91．

王玉凤．模型算法审计：理论内涵、国际经验与审计框架［ J］．审计研究，2023（3）：11 ～ 18．

王兆毓．生成式人工智能视阈下算法审计的制度构建与路径创新［ J］．网络安全与数据治理，2023（8）：6 ～ 12．

徐明华，魏子瑶．算法伦理的治理新范式：算法审计的兴起、发展与未来［ J］．当代传播，2023（1）：80 ～ 86．

张欣，宋雨鑫．算法审计的制度逻辑和本土化构建［ J］．郑州大学学报（哲学社会科学版），2022（6）：33 ～ 42．

张永忠，张宝山．算法规制的路径创新：论我国算法审计制度的构建［ J］．电子政务，2022（10）：48 ～ 61．

郑石桥．审计基础理论［M］．北京：中国人民大学出版社，2021．

郑石桥.算法审计需求论［ J］．财会月刊，2024a（16）：77 ～ 82．

郑石桥.论算法审计结果及其运用［ J/OL］．财会月刊，1-5［2024b-09-24］.http：//kns.cnki.net/kcms/detail/42.1290.F.20240724.0858.002.html．

DRCF. Auditing Algorithms： The Existing Role of Regulators and Future Outlook［EB/OL］． https：//www.gov.uk/government/publications/findings-from-the-drcf-algorithmic-processing-workstream-spring-2022，2022-10-20．

Khoa Lam， Benjamin Lange， Borhane B. H.， et al.. A Framework for Assurance Audits of Algorithmic Systems［ EB/OL］． https：//arxiv.org/pdf/2401.14908.pdf，2024-06-10．

Raji I. D.， Smart A.， White R. N.， et al.. Closing the AI Accountability Gap： Defining an End-to-End Framework for Internal Algorithmic Auditing［EB/OL］． https：//dl.acm.org/doi/pdf/10.1145/3351095.3372873，2020-02-27．

Verhulst S.. AI Audit Washing and Accountability［EB/OL］． http：//thelivinglib.org/ai-audit-washing-and-accountability/，2022-10-02．