可解释的人工智能的好处只是合规吗

■ 山东 刘胜军 赵长林

随着人工智能技术的高速发展，基于人工智能技术的解决方案正在被各大企业部署应用，影响着我们生活的方方面面。人工智能所做出的决策是否值得信赖，如何保证合规性？人工智能的一个新兴分支出现了。

可解释的人工智能正在引起人们的注意，它可以帮助企业解决由各种法规带来的监管问题。但可解释性并不仅仅是合规问题。可解释性对于改进决策者和一线专家提出的人工智能模型的采用也很重要。可解释性可以使相关人员确认和解决机器学习模型中的盲点。

如果我们开发了一个人们不愿意购买的系统，这就是一个大问题。例如，工程师们开发了一个人工智能工具，它可以改进保险业或贷款审批等领域的决策。此工具的一个主要目标就是准确性。但是，能够向用户们解释正在发生什么和让用户撤销一个毫无意义的建议非常重要。

专家们相信构建一个健壮的人员全面参与的人工智能系统是可靠选择。例如，一个团队可以用离线数据着手构建机器学习模型。然后，将此模型投入到“预生产”中，给用户们一个从预测和解释的角度理解模型如何工作的机会。用户们还需要拥有接受决策或退回再重来的能力。

有的模型看起来很棒，但是从另一方面看其中是否存在偏见呢？ 如果模型无法得到解释，就只能放弃。专业人员往往要求咨询客户为什么某个变量要存在于一个特定的模型中。这是在深度学习启动之前，专家们在创建财务模式时需要考虑的数据知识。无需很多监管或指导就理解大型的复杂数据集是深度学习的优点之一，但是这种方法将数据专家与理解数据隔离开来。如果我们要说服客户相信我们正在做的事情，这就是一个需要经历的练习。

限制缺点的影响

在人工智能方面的一个怪象是企业为可解释性而牺牲准确性。然而，如果开发者和数据专家能够正确地构建机器学习模型，可解释性就可以融入到深度学习等现代的人工智能技术中。

寻求实现模型的完全精确必然要牺牲可解释性。要容易看出人工智能模型中出现什么问题，并且知道如何应对这些问题，通过这种方法来实施人工智能算法，这是一个更好的目标。理解模型的缺点并管理这些缺点对于某些企业来说至关重要。企业可以构建可解释的复杂模型。

有很多问题可以影响到可解释的人工智能。例如，监管就是一个因素，还有企业还需要考虑做出可能影响到客户的决策。

另外，考虑模型的相关性也很重要。例如，用秋季数据创建的模型可能运行良好，但是在其它季节，其准确性就低了。专家可以凭借经验来理解这些趋势，可以查看模型，并且看出模型中的某个变量的影响是否重要，是否存在弱点，可以知道如何解决这个问题。

很多情况下，我们会发现用样本数据可以很好地运行一个模型时，在生产中却发生故障。例如，我们可以发现一个以前被忽视的却需要进一步探索的关联，通过进一步的分析，却发现这仅仅是一个数据问题。只有在模型是可解释的并且我们能够看出问题出自哪里时，这种类型的数据问题才如此明显。

我们应对的是大型的数据集，而且有时也不知道数据是否干净。因而，可解释的人工智能不仅仅是关于构建更好的模型问题，而且还要确认所收集的数据集的问题。

可解释性对于良好的业务非常重要

举例说明，如果消费者想要借钱，公平的借贷法律都要求债权人向消费者提供资金或以易于理解的方式解释其选择不贷款的理由。其中的目的是保证公平，但这也使消费者有机会对债权人的决定提出异议。

债权人使用人工智能模型做出批准贷款的决定往往基于一种结果的概率。如果某些因素低于一个临界值，贷款申请将被拒绝。然后，债权人需要看一下为什么拒绝。可解释性要求关注影响这个决定的因素。实际上，即使监管机构没有要求这样做，这种透明性仍非常重要。

可解释性的不同层次

可解释的人工智能和可解释性是相关的观念，但并不完全是同义词。前者与变量变化时对即将发生事情的预测能力有关。可解释性描述的是借助用户语言表示一个模型底层机制的能力。

对于人工智能而言，可解释性有着不同的层次，而不同的应用需要不同程度的可解释性，这种程度的具体依据是这个解释针对哪类用户。

消费者希望知道其财务行为的哪些方面影响到了贷款决策。向消费者解释基本贷款决策的一种方法可能是关注模型中最关键的相关性，对贷款决策影响最大的相关性。例如，消费者不能够及早还款可能是影响拒绝贷款的最大因素。

另一种水平的可解释性在于说服公司的董事会采用新模型。事实上，从高管已经同意的事情开始是很有用的。 例如，在美国的信贷行业，高管们习惯将FICO信用评分与贷款风险联系起来。在一个人的信用评分降至720以下之前，这个分数都可以进行很好的预测。当然，信贷公司还可以使用其他变量来提高预测此类客户贷款风险的准确性。展示这些更复杂的模型在与传统模型对比时的表现，可以更容易地向财务主管解释更好的模型如何影响业务。当然，在更高层面上，数据专家在决定一个新模型的价值时，需要考虑更细微的差别。

总体而言，可解释的人工智能在除合规之外的很多方面都可带来益处。