标准化与人工智能伦理

2023-10-13索尼娅伯德丹尼斯杜兰特郭记松

质量与标准化 2023年8期

文/索尼娅·伯德丹尼斯·杜兰特郭记松

随着人工智能（AI）技术在各类应用软件和系统中被广泛应用，AI与人们日常生活的联系越来越紧密。我们有必要了解AI的应用潜力及其带来的挑战。标准化可以为提高AI创新成果的可信赖度提供基准框架，并用来指导AI的伦理道德和安全影响。最近，AI作为一种工具还被应用到标准制定过程中。

AI技术的涌现

现在很多产品和系统采用了AI技术，并使其符合安全和性能标准。AI通过引入计算机和机器学习系统来执行那些主要依靠人类智能来完成的任务，尤其是在医疗卫生和交通运输两个行业，AI应用增长迅猛。在这些行业中，人们基于数据集，运用机器学习和神经网络等AI技术来构建系统和模型，整合信息来模拟人脑智慧。虽然AI被认为可以改善产品功能，但AI技术的准确性和道德问题也越来越受到关注。

生成式AI作为最新的AI技术，被用于各种不同的应用场景。ChatGPT是一种典型的生成式AI系统，属于数据科学工具的范畴。它通过处理自然语言来生成文本，用于各类场景包括解答数学问题和发布新闻通稿等。像UL标准机构（UL Standards & Engagement，简称ULSE）这类组织正在研究如何运用AI工具来满足业务发展的需要，包括制定具备技术合理性的、能够应对新型危机的标准。同时，ULSE也致力于确保在运用此类技术过程中不会在无意间引入风险。

ChatGPT并非生成式AI范畴内的唯一应用。任何有能力使用数据输入创造内容的AI模型都可以被认定为生成式AI工具。

这些类型的生成式AI模型利用机器学习算法来生成包括图像、音视频和文本的原创内容。这个过程的具体步骤包括创建一个现有内容的大型数据集供AI学习，使用神经网络训练AI生成原创内容，从内容相关性和技术合理性方面对该AI系统进行验证，开发一个供用户描述需求的界面，最后由被训练和验证后的AI系统生成内容。

AI领域的标准化建设

1.自动驾驶产品安全标准

在此领域，AI已被融入标准之中，用以改进产品和系统功能。目前，ULSE已发布《自动驾驶产品安全评估标准》（UL 4600）。该标准对自动驾驶系统在无人值守的状态下执行预期功能的安全性提出技术要求，涵盖了基于产品当前状态、标准要求的方法和对操作环境的感知来评估完全自动驾驶系统的安全原则和流程。UL 4600的制定需要科学和技术输入来构建案例结构、风险分析和其他符合性评估指标，同时也有赖于相关领域的专家和利益相关方的参与。

具体来说，ULSE与全球自动驾驶领域公认的领导者（Edge Case Research）合作，在ULSE的标准化技术委员会中共同制定该标准。ULSE的标准化技术委员会不仅包括来自汽车、机器人、航空和运输等领域的专家，还包括来自政府、保险机构和其他消费者权益组织的利益相关者。这种制定标准的系统性方法可以确保全面衡量所有相关方的利益，从而制定出更为严格的标准。对于大多数标准制定组织（SDO）来说，使用类似的方法，在标准制定中利用AI技术，是另一个探索领域，可用于补充标准开发过程的输入。

2.物联网安全标准

物联网（IoT）实现了产品互联，但也带来了安全方面的挑战，而标准可以降低这一挑战的风险。《网络可连接产品的软件网络安全标准》（UL 2900）是由ULSE发布的软件系列标准，这些标准可与具有AI功能的智能终端配套使用。这些标准提出了网络连接产品的软件网络通用安全要求，专门针对医疗和健康护理系统、工业控制系统、安全和生命安全信号系统的要求。重要的是，这些标准涉及产品和系统的互联性，这使得这些系统更容易受到网络攻击。IoT技术阐明了实体产品之间互联和应用的方法。对于互联产品来说，最重要的是兼顾安全性和韧性，以抵御网络攻击。这些攻击非常复杂，一个简单的漏洞就会造成严重的损失和破坏。每一个可以连接到互联网的设备都容易出现网络漏洞，因此像UL 2900这样的系列标准为评估软件能力提供了标准化的规程，以最大限度地降低物联网的风险。

3.远程软件更新安全标准

除了UL 2900系列标准外，ULSE还发布了同样可与具有AI功能的智能终端配套使用的《远程软件更新安全标准》（UL 5500）。远程软件更新被越来越多地应用于消费类电子产品，包括电动汽车、家电、医疗设备和智能手机等产品。这些软件更新是为了解决软件中的错误和改善软件的各个方面，其中可能包括新增功能。对于软件运行过程而言，远程软件由于在更新过程中缺乏保护而存在潜在风险。该标准正是用于解决软件在下载过程中的安全问题。UL 5500还是一项适用于终端产品安全的平行标准及其相关的安全测试和审批流程。

UL 2900 和 UL 5500都是ULSE制定的软件系列标准，旨在将可能影响产品或系统安全功能的网络安全风险降至最低。ULSE着力推动这些标准的推广应用。在当今市场上，产品的互联性越来越强，通过网络安全漏洞攻击产品关键功能是普遍做法。

AI如何与标准化相结合？

在结合专家经验和科学知识制定标准的过程中，使用AI技术可以在某些情况下改进输入。在医疗卫生领域，研究人员正在利用AI技术，以更好地筛查和诊断疾病，并使用机器学习和深度学习模型来分析病理数据，以提高医疗技术。

由于对标准制定必须与技术发展同步的呼声日益高涨，SDO也在探索同样的方法。标准在制定过程中的协商一致程序被视为制约技术创新的拖沓流程。标准制定过程必须遵循公认的程序，同时要适应技术进步。某项标准在经历投票和评议程序时，可能会收到数以百计的提案和评审意见。因此，参与标准制定的人必须拥有必要的工具和资源，以制定出反应敏捷、具有相关性、技术严谨的标准，以用于应对危机和降低风险。AI可以用来作为标准制定者的技术补充。到目前为止，生成式AI是许多标准组织正在积极探索的流行方法。

1. 推动标准更快发布

生成式A I 可以快速有效地生成标准草案的格式化内容，为标准制定组织提供技术支持。从本质上讲，生成式AI是一种工具，可以生成完整的标准文本内容，包括适用范围、术语和定义、设计要求、建造要求、测试方法，以及指导手册和标签标识要求。标准化专业人士认为，标准的最初构想有赖于专家知识和数据洞察力，以确定标准的技术内容是否有助于提高安全性、减少伤亡和财产损失风险。利用生成式AI可以将已知的数据和科技成果应用于标准制定过程的最前沿领域，并让有关专家有机会进一步验证这些信息。虽然没有任何AI技术能够取代标准化技术委员会专家的专业知识，但这些工具可用于实现标准所要求的一致性和协调性，也可以推动标准更快地发布。这种模式的成功取决于多种因素，如用于训练的数据质量和数量、标准内容的复杂性等。

生成式AI可用于协助、加快和优化标准制定流程，特别是标准最初草案的形成。随着AI技术应用和相关专家之间的平衡性不断提高，标准制定流程未来可能会被简化，引入更多新的输入，促进和提升标准的一致性和协调性。

2. 确保标准的安全性

在安全性方面，值得关注的是，对于使用AI技术生成的标准需求，我们不应该将其视为对人类专业知识和判断的替代，而是一种补充。AI可以成为增强人类技术的有用工具，但人类不应该完全依赖AI来进行关键决策。如UL 4600采用非常规的方法—构建安全案例—解决安全风险问题的模式，并采用必要的安全原则为自动驾驶系统提供符合性评估指标。

AI的伦理道德问题探索

世界各地的S D O 都在探索AI技术。人们对标准化内容和医疗卫生与交通运输领域引入AI技术的伦理道德问题表示关注。

在医疗卫生领域，AI技术在疾病筛查和诊断方面发挥着重要的作用。大数据集被用于生成可以为这种类型的建模进行训练和验证的数据。在许多情况下，训练数据可能来自大型的信息数据集，但是数据并不完全代表所有的潜在结果。这不仅是医疗卫生领域，也是教育、研究领域，甚至是安全领域所面临的窘境。AI技术可以用来取代基于数据的人际互动，这些数据包括健康记录、病理数据、临床试验，甚至是研究数据。这些数据源可能并不都是标准化的，可能具有独特的格式，这使得训练机器学习模型很难复制和验证其准确性。

同样，使用生成式A I 的SDO需要确保以互补的方式使用这些工具，以提供值得信赖的指导和考量。

电气和电子工程师协会（IEEE）是全球最大的专业性技术组织，旨在为工程、计算和其他技术领域的专业人士提供服务。2023年，IEEE标准协会制定了一项计划，免费提供AI伦理道德和治理方面的社会技术标准，以推动全球可信赖的AI的发展。可信赖的AI是教育人们提高伦理道德意识的关键，以便推动AI应用朝着积极的方向发展。

国际电工委员会（IEC）认识到AI伦理道德的重要性，因此成立了一个特别小组（Ad Hoc Group）。该特别小组开发了使用案例，并研究了对AI中的伦理道德规范采取协调方法的必要性。作为特别小组的一项工作成果，一个更正式的标准化评估小组（SEG）成立了。该标准化评估小组专注于自动驾驶和AI应用中的伦理道德问题，该标准化评估小组的工作至今仍在继续。