人工智能医疗器械标准体系设计分析

2022-02-06陈颂忻

大众标准化 2022年7期

陈颂忻

（强生（上海）医疗器材有限公司，上海 200030）

人工智能医疗器械，是指融入应用了各种人工智能技术的医疗器械。相较于普通的医疗器械，人工智能医疗器械有着诸多优势，比如可以实现精准化医疗、个性化医疗、远程诊断，还能有效缓解因为医疗资源缺乏，导致看病难、医患关系紧张、医疗事故频发等问题。为更好地推动人工智能医疗器械产品研发生产，应加强对其标准体系设计探索分析，使其更好地服务于医疗领域，提高我国整体医疗质量水平。

1 人工智能医疗器械研究现状

1.1 国外研究现状

关于人工智能医疗器械，从国外研究现状来看，人工智能医疗器械在种类方面日益丰富，相应的功能作用也日益多样化，比如在临床诊疗路径、健康干预以及智能医疗服务等方面，人工智能医疗器械均发挥着重要作用。以美国为例，当前该国家食品药品监督管理总局（简称FDA）已正式批准了几十款人工智能医疗器械产品上市，很多产品均搭载有独立软件，比如计算机辅助诊断软件、辅助探测软件等。与此同时，当下在国外还出现很多新型人工智能医疗器械产品，这些产品的主要特色是搭载了智能硬件、智能快速重建等功能，部分产品也已经正式上市。在临床应用方面，人工智能医疗器械的存在，有效提升了临床工作效率和服务质量，例如借助CT剂量优化、X光智能摆位、图像质控等优秀的人工智能医疗产品，有效推动了临床医疗效率与品质提升。不仅如此，人工智能作为一种先进的信息技术，不仅作用于医疗器械本身，而且正逐步融入整个医疗器械研发、生产、质量管理等全过程，推动着传统医疗器械“人工智能+”升级，带动了整体医疗行业的进步发展。

1.2 国内研究现状

相较于发达国家，我国人工智能技术发展起步较晚，因此在人工智能医疗器械行业发展方面，与发达国家也有着一定的差距。但近年来，随着我国信息技术尤其是人工智能技术的迅猛发展，在人工智能医疗器械方面取得了显著的进步。与此同时，在推动人工智能技术在医疗领域中的应用方面，我国也发布了很多利好政策，因此有效推动了人工智能医疗器械产学研用发展。在国内，关于人工智能算法研究与临床应用成果在Nature Medicine、Cell等顶级期刊上发布。与此同时，国内关于人工智能医疗器械产品的研发，也从早期的糖尿病视网膜病变（以下简称糖网）眼底照片、肺结节CT影像等，进一步发展升级到医学影像和医学信号的方方面面；在人工智能医疗器械产品形态方面，也从单一软件形式，发展为各种通用、专用智能平台。国内一些医疗企业也在积极准备人工智能医疗产品注册上市，并逐步向海外市场扩展，未来发展前景可期。

1.3 人工智能医疗器械产品检验与质量研究现状

从人工智能医疗器械产品检验与质量研究发展情况来看，我国在人工智能医疗器械检验方面取得了良好成绩，同时也面临着一些挑战。2018年，国内第一批糖网产品性能检验报告问世；2019年，国内第一批肺结节产品的性能检验报告也正式诞生，这标志着我国在病灶检出、分类、区域分割等智能算法功能和相关指标方面能够真正实现量化评价，宣告以CT为代表的三维医学影像人工智能医疗产品质量评价已经取得了阶段性成果。这为其他放射影像类人工智能医疗产品的质量评价和相关标准的制订开了一个好头。在当下，已经有数十家企业通过在中检院糖网以及肺结节标准数据集的帮助下，正式实施算法性能验证，部分人工智能医疗产品也已经进入了临床试验阶段，这为相应的产品正式上市创造了有利条件。2018年，我国的人工智能医疗产品多是以糖网、肺结节等相对单一的产品类型为主，目前，人工智能医疗新产品呈现多元化、差异化趋势，在预期用途、功能、病种等方面也凸显了各自的特色。

但当前人工智能医疗器械产品检验与质量发展也面临着一定的挑战，比如相应的检验用标准数据集没有成功建立，从而对算法性能评价造成了制约影响。为突破这一困境，当前我国中检院与国内知名医院以及科研机构合作，在数据集建设的过程中，融入了把质量控制的理念，推动了人工智能医疗器械产品检验与质量发展。具体而言，中检院团队结合以往累积的医疗器械检测经验，从以下几点入手开展相应的工作：

首先，从检验方法研究入手，通过加强各种技术手段的应用，利用现有的临床数据，围绕眼底相机、CT和心电等模态，实施了对抗测试。与此同时，还从长远角度出发，模拟人工智能医疗产品在现实中应用可能面临的种种问题，并对相应产品鲁棒性与泛化能力进行了评价，有效扩展了人工智能医疗器械产品质量评价的维度。当前，关于人工智能医疗器械产品对抗测试研究部分成果已经在国内学术期刊公开发表。与此同时，一些方法在日常检验中也得到了落实应用，从而有效弥补了现有检验方法的不足，显著增强了企业对人工质量医疗器械产品质量认识。

其次，在人工智能医疗产品质量评价策略方面，中检院团队通过与相关的临床专家合作，在引入了全生命周期质量控制理念基础上，结合产品技术，提出了医学影像人工智能产品的临床在用质控框架，从多个角度入手，讨论了人工智能产品在临床部署后，该采取何种方法，才能提高质量管理与日常质控质量，同时也探讨分析了人机比对、超预期使用等热点问题，从临床视角出发，进一步丰富了人工智能医疗器械产品质量评价的内涵。

最后，在新的人工智能医疗器械产品评价方面，中检院团队从人工智能+可穿戴设备、临床辅助决策系统（CDSS）等研究热点出发，深度实施了标准评估工作，并系统整理了人工智能医疗器械产品特殊风险，总结了一些评价策略，从而促使新产品检测任务实施有了新的进展，同时也向业内贡献了更多研究成果，加深了业内对人工智能医疗器械产品质量的认识。在当下，中检院团队在人工智能医疗器械产品检验与质量评价方面形成了一个完整的体系，相关体系内容包括了人工智能软硬件测试、人工智能算法性能验证、人工智能医疗器械产品数据集质量控制与评价等。仅仅在2019年，该团队便成功申报了多个科技部重点研发计划课题和省部级课题，同时也推动了国家级医学人工智能产品全生命周期检测平台的建设，使得人工智能医疗器械产品在监管、产业、使用等环节方面技术与服务能力得到了显著增强。

2 人工智能医疗器械质量评价演变过程

在人工智能医疗器械产品质量评价中，人工智能算法性能评价是其中核心组成部分，这对产品标准体系的建设有着非常重要的指导价值。基于此，文章以糖尿病视网膜病变辅助诊断软件为例，分析该人工智能医疗器械产品质量评价思路演变过程。

首先，在初步阶段，针对该产品质量评价工作的开展，主要依赖于测试集整体结果，利用统计学意义，反映其整体的表现。通常而言，测试人员需要先进行数据收集，数据来源一般为不同组织机构以及临床分期的患者眼底图像，然后以这些数据为基础，完成测试集的构建。并对人工智能提供的分期与参考标准分期进行比较，随后计算准确率等相关指标，以此来增强对该人工智能医疗器械产品鲁棒性认知。

在这一过程中，测试人员还可以通过采取多种方法手段处理眼底图像，比如通过利用裁剪、插值等处理手段方法，模拟临床环境下的数据变化。随后将处理后图像数据输入人工智能产品中，查看具体的输出变化情况。上述这种测试方法也被称之为对抗测试方法，该方法通常更加关注产品性能变化的趋势，有助于制造商进一步明确产品部署使用环境，并提高相应的数据质量。人工智能伦理思想的发展，正对人工智能医疗器械产品质量评价思路带来影响。以糖尿病视网膜病变辅助诊断算法为例，在眼底图像上，通常会存在出血斑，这是临床医生以及人工智能产品开展图像分期重要依据。而患者个体的不同，实际出血斑大小也有所差异。因此为了更好地了解出血斑尺寸对人工智能算法带来的影响，可以从增殖性糖网病变的眼底图像入手，通过提取出血斑图像，再采用不同的比例，改变相应图像的尺寸。

在上述基础上，还需要应用泊松融合算法，完成植健康眼底图像的植入，如此可以顺利合成一个完整的试验样本。该样本图像在医学上属于糖网二期，然后将其输入糖网人工智能算法模型，即可获得人工智能分期结果随出血斑尺寸变化的曲线和“拐点”。此时，伴随着出血斑尺寸增加，人工智能分期则处于对应的阶梯式上升状态；当出血斑尺寸在20像素以内，通过人工智能算法的计算，可得出假阴性结果；反之，算法分期结论则保持正确状态。这同时也证明，血斑尺寸大小，能直接影响人工智能准确性。因此制造商可以以此为依据，在后续进行临床部署时，更加准确地设置产品适用范围，提高验证的针对性。

通过上述案例我们能够认识到，人工智能医疗器械产品质量评价，应提高对算法应用的重视，加强对数据样本的收集，从个体研究出发，分析患者或病灶个体具体表现，从而能够了解算法的缺陷，促进人工智能算法完善，同时还能够显著提高人工智能医疗器械的产品质量标准。

3 人工智能医疗器械标准体系设计建议

3.1 基础标准设计

在当前的人工智能算法中，本身已经具备深度学习的功能，受此影响，在实际工作运行方面，则具备了黑盒特点，直观理解难度较高。基于此，相关利益主体对产品质量也不够信任，这对人工智能医疗器械产品应用实践带来了一定阻碍影响。因此为确保人工智能医疗器械产品安全性，应设置一系列明确的标准指标，比如信赖性、透明度、可解释性、可溯源性等指标，这是构建基础标准的一项基本条件。为更好地实现这一条件，需要从安全可信、编码溯源、隐私保护等方面入手，进一步加强上述质量特性的控制，从而有效消除相关利益主体的疑虑。同时从当前研发情况来看，人工智能产品的设计，还很容易受数据、算法等因素的影响，因此还需要提高数据集质量，在产品形态方面，提高软件的独立性，合理配置软件组件，并进一步保障智能算法质量，才能更好地体现软件智能功能特色。在人工智能医疗器械产品运行环境方面，应注重提高灵活性，进一步加强与互联网技术融合的力度。总而言之，在上述基础标准设计的基础上，还需要从数据集、数据标注、算法框架与模型等方面入手，做好人工智能医疗器械产品设计的研发，有效提高产品质量。

3.2 方法标准设计

通过上文叙述可知，基于深度学习的人工智能算法本身具有一定黑盒特点，这导致产品在设计测试方面会存在一定的不确定性。与此同时，在人工智能医疗器械产品质量评价中，当下主要关注的是输入与输出的关系。对性能指标测试而言，最终的结果与输入测试集有着密切关系。因此在人工智能医疗器械产品实际应用过程中，可能会面临数据变化的问题。基于此，针对人工智能医疗器械产品的质量评价，还需要注重满足算法模型、成品的质量评价需求。同时还应兼顾多个环节，比如在正式上市前，需要对产品进行验证与确认，还需要进行产品临床验收与质控，最终还需要落实到实践，做好产品使用监测等。在这一过程中除了要关注常见设计指标，比如灵敏度、特异性等，还需要加强对人工智能医疗器械产品质量特性评价，比如鲁棒性。在实际评价过程中，应注重关注患者个体，提高对算法细节表现的重视，同时还需要将评价过程中采用的方法、工具等纳入标准体系中，促使人工智能医疗器械标准体系设计更加完善。

3.3 管理标准设计

在人工智能医疗器械产品实际发展过程中，对数据、算法、算力等因素较为依赖，实际验证方式也带有一定的特殊性，产品更新升级的速度也比较快。在生产质量管理方面，除了要遵循现有的质量管理标准法规外，针对人工智能算法、数据集等，还需要做进一步的规范。与此同时，还需要对算法更新与再评价框架进行创新，进一步加强对云平台、计算平台等设施的管理落地。另一方面，还应进一步加强数据采集人员的选拔、培训工作，从而促使人工智能医疗器械产品管理更加标准化。在这一过程中，还可以参考借鉴医疗器械软件监管与标准化的思想，从而有效提高对不良事件风险的控制，加强对产品版本控制与追溯。在管理标准具体落实方面，还离不开领域技术规范的支持，比如在数据集标准与建设方面，需要结合实际，编写与之匹配的专家共识，促使人工智能医疗器械产品管理标准得到有效提升。