美国医学信息学会建议FDA微调AI医疗产品的监管标准

近日，美国医学信息学会(AMIA)向FDA提交了一份建议清单，希望改进其拟议的人工智能、机器学习和医疗器械独立软件(SaMD)监管框架。为了提高临床人工智能和医疗器械独立软件(SaMD)的有效性、效率和安全性，AMIA希望FDA能够针对机器学习工具产品，微调其监管政策，特别是那些能够基于新数据自动更新算法的工具。

AMIA指出，医疗AI行业往往分两类算法型产品：一种是“已锁定的静态算法”，一种是“不断学习自动更新的动态算法”，这两种算法背后的产品差异巨大。根据AIMIA的说法当训练数据所属人群与产品受众不同时，FDA就应该要求审查程序。AMIA还鼓励FDA将网络安全风险放在首位，因为黑客攻击或其他数据操纵均可能对给算法的输出产生不利影响。例如，建议围绕“针对防止系统适应错误信号的特定类型错误检测”来制定规则。报告还建议FDA在框架中加入一些语言模型，以防止算法偏差对“特定种族、性别、年龄、社会经济背景、身体和认知能力”的人群造成影响，阐明SaMD技术的开发人员该如何测试他们的产品，以检测这种偏差并相应地调整算法。