基于神经网络架构搜索的肺结节分类算法

谢新林，肖毅，续欣莹*

（1.太原科技大学 电子信息工程学院，太原 030024； 2.先进控制与装备智能化山西省重点实验室（太原科技大学），太原 0 30024； 3.太原理工大学 电气与动力工程学院，太原 030024）（∗通信作者电子邮箱xuxinying@tyut.edu.cn）

基于神经网络架构搜索的肺结节分类算法

谢新林1，2，肖毅3，续欣莹3*

（1.太原科技大学 电子信息工程学院，太原 030024； 2.先进控制与装备智能化山西省重点实验室（太原科技大学），太原 0 30024； 3.太原理工大学 电气与动力工程学院，太原 030024）（∗通信作者电子邮箱xuxinying@tyut.edu.cn）

肺结节分类是早期肺癌诊断的重要任务。基于深度学习的肺结节分类方法虽然能够取得良好的分类精度，但存在模型复杂和可解释性差的问题。为此，提出了一种基于神经网络架构搜索的肺结节分类算法。首先，将注意力残差卷积cell作为搜索空间的基本单元，并使用偏序剪枝方法作为搜索策略来构建神经网络架构以搜索3D分类网络，从而达到网络性能和搜索速度的平衡。其次，在网络中构建了多尺度通道和空间注意力模块来提高特征描述和类别推理的可解释性。最后，采用堆叠法将搜索到的网络架构进行多模型的融合，从而获取精准的肺结节良恶性分类预测结果。实验结果表明，在肺结节分类常用数据集LIDC-IDRI上，所提算法与最新肺结节分类算法相比具有较好的分类性能和较快的收敛，且所提算法的特异性和精确率分别达到95.37%和93.42%，能够实现良恶性肺结节的准确分类。

肺结节分类；神经网络架构搜索；注意力模块；多模型融合；深度学习

0 引言

全世界范围内肺癌导致的死亡病例越来越多，仅2018年就报告了超过200万例确诊肺癌病例，其中死亡人数达到170万人以上［1］。肺结节是肺癌的早期表现，肺结节的精确诊断和早期发现能够极大提高患者的存活率。肺结节分类，即肺结节良恶性识别，作为肺结节精确诊断的重要任务，具有重要的研究价值和社会意义。计算机断层扫描（Computed Tomography， CT）［2］作为有效和可靠的肺癌检查方式，能够直观地描述病灶的形态特征。但肺癌的诊断依赖于大量的图像数据，且肺结节形态特征复杂、易受无关组织和器官的干扰，单靠医生进行人工诊断不仅费时费力而且存在误诊和漏诊的风险。

传统的肺结节分类算法大都基于手工提取的特征进行肺结节类别的预测，但该类方法因特征表示能力的局限性导致分类错误率较高。近几年，以卷积神经网络为代表的深度学习方法被广泛地应用于肺结节良恶性的判断，并显著地推动了早期肺癌的精确诊断。然而，手动设计复杂的神经网络架构非常耗费计算资源，且严重依赖研究人员的先验知识。此外，现有的基于深度学习的肺结节分类方法参数较多，且无法很好地解释每个参数的含义以及模型的运行机制，可解释性较差。

基于上述问题，本文提出了一种基于神经网络架构搜索的肺结节分类算法。本文所提算法的主要工作在于：1）提出了一种基于神经网络架构搜索的肺结节分类方法，将卷积cell作为组成网络架构的基本单元，并采用偏序枝剪进行网络架构的寻优。2）将通道注意力和空间注意力机制加入到卷积cell中，构建多尺度通道和空间注意力模块来提高不同尺度语言信息的提取效果。3）构建了一种基于堆叠法的多模型融合策略，融合搜索到的多个网络模型和支持向量机（Support Vector Machine， SVM）分类器，以达到更加精确的分类效果。

1 相关工作

肺结节分类的准确率很大程度上影响医生的诊断结果，传统的基于机器学习的肺结节分类方法首先构造手工特征，然后基于手工特征进行分类模型的学习。例如，李祥霞等［3］将提取的形态和纹理特征点输入随机游走算法中来分割肺结节，并使用随机森林算法预测良恶性；强彦等［4］提出了双向隶属度模糊支持向量机算法进行肺结节良恶性分类，并通过计算样本与中心点的距离得到每个类别的隶属度；高峰等［5］使用Bootstrap算法集成支持向量机的分类结果构造高精度的分类器；张婧等［6］提出了基于规则的方法筛选候选结节，然后计算形态和纹理特征用于肺结节分类模型的学习。该类方法受限于低水平手工设计特征的表示能力和分类器模型的学习能力，很难获得高水平的分类精度。

近年来，基于深度学习的肺结节分类方法受到了广泛的关注。其中，Shen等［7］提出了一种采用多裁剪池化层的深度卷积网络，并通过裁剪出的不同特征图的结节特征信息来实现肺结节良恶性分类建模；Xie等［8］提出了一种融合纹理、形状和深度学习特征的分类模型来实现肺结节分类；Xie等［9］还提出了一种基于多视图知识协作的胸部CT肺结节分类算法，将三维结节用9个二维视图来表示，并使用3种图像块来表征结节的特征进行肺结节良恶性分类。然而，基于深度学习的肺结节分类方法需要大量的专业知识和设计经验，且存在参数多和模型运行机制可解释性差等问题。

2 本文所提分类算法

针对现有基于深度学习的方法存在的参数多且模型可解释性差等问题，本文提出了一种基于神经网络架构搜索的肺结节分类算法，如图1所示。本文所提算法使用神经架构搜索（Neural Architecture Search， NAS）技术设计网络，并在网络中构建多尺度注意力模块，最后将搜索到的网络框架进行多模型融合。具体的实现过程如下。

图1 基于神经网络架构搜索的肺结节分类算法框架Fig. 1 Framework of lung nodule classification algorithm based on neural network architecture search

2.1 多尺度注意力模块构建

本文采用多尺度通道和空间注意力机制（Multi-Scale Spatial and Channel Attention Mechanism， MS-SCAM）同时关注通道注意力和空间注意力。给定特征图F，输入通道注意力模块得到一维通道注意力向量，通道注意力表征了每个通道的重要性。输入空间注意力模块得到3D空间注意力向量，用来表征每个位置的重要性。

整个过程的计算如下。

通道注意力：

空间注意力：

其中：G（F）为全局通道注意力；L（F）为本地通道注意力；S（F）为空间注意力。

2.2 神经网络架构搜索机制

2.2.1 搜索空间

遵循神经网络架构搜索方法中微型搜索空间［10］的思路，本文将注意力残差卷积cell作为基本单元来构造搜索空间。为了搜索到性能更好的网络架构，本文通过堆叠cell的数量增加网络的深度。在注意力残差卷积cell的构建中，每个cell的内部结构是由n个节点构成的有向图，如图2所示。其中，前两个节点为输入，中间的个节点为中间节点，最后有一个为输出节点。

图2 注意力残差卷积cell示意图Fig. 2 Schematic diagram of attention residual convolution cell

前两层cell的输出作为第k层cell的两个输入，其中和代表第k层cell的第1个节点和第2个节点。

输出节点为中间节点的concat连接：

当上一层的输出与当前层的输出通道数相同时，直接将上层输出输入到多尺度通道和空间注意力模块。当通道数不同时，首先对上一层输出进行上采样，使其与当前层的输出具有相同的通道数。通过注意力残差卷积cell，当前层输出的特征将包含更丰富的语义信息。

如图1所示，本文预先设定的基于注意力残差卷积cell的搜索空间的6个实现阶段分别为：第1～5阶段以若干个注意力残差卷积cell与多尺度通道和空间注意力模块对输入特征图进行卷积，第6阶段使用全局平均池化层和全连接层生成最终的分类预测。由于第1～2阶段在较大的特征图上提取低级特征，网络层数过多会加重架构搜索的负担。

为了提高网络的搜索效率，本文在前两个阶段仅使用两个卷积层，即Conv1和Conv2。在第3～5阶段，每个阶段都由L、M和N个残差块组成，其中L、M和N是整数。残差块由两个卷积层和一个多尺度通道和空间注意力模块组成，后面残差块的通道数一般大于前面残差块的通道数。

2.2.2 搜索策略

本文使用搜索空间偏序枝剪（Partial Order Pruning， POP）策略［11］，以获得搜索速度和性能的均衡。POP策略的核心是偏序关系，搜索空间中架构之间的偏序关系，通过这种关系定义结构之间的先后顺序。偏序是集合论中的概念，在集合中若x比y更浅更窄则x为y的前序，前序具有更快的速度和更低的精度。

在具体的实现过程中，本文通过以下限制条件来降低搜索空间的复杂度：

所有候选模型不超过9个残差块，并且每个残差块不超过128个通道。经过枝剪的搜索空间迭代搜索得到网络架构，并依据准确率更新搜索空间，直到搜索到准确率和速度均衡的架构。

2.3 多模型融合

由于神经网络架构搜索过程的随机性，每次搜索到的模型性能也会存在差异。为了尽可能在有限的计算资源条件下获得性能最优的模型，本文提出了一种多模型融合的算法。具体的实现过程如图3所示。

图3 多模型融合算法流程Fig. 3 Flow chart of multi-model fusion algorithm

首先针对搜索的每一个网络架构分别训练网络模型，然后根据模型测试结果筛选效果较好的几个模型［12-13］作为基本框架。

2.3.1 基于加权投票的多模型融合

为了改善模型的测试结果，本文采用投票法对多个网络搜索架构进行模型融合。首先，以训练搜索到的5个性能较好的网络模型作为基本模型，对于每个网络返回的肺结节良性和恶性类别的概率预测，分别针对良性和恶性每个类别计算每个模型分类概率的加权平均值。权重根据模型测试的F1分数计算，按照加权平均概率投票进行模型融合，权重计算式如下：

对于恶性和良性两个类别分别计算出5个模型的加权平均概率Pmalignant和Pbenign，计算式为式（9）、（10）所示，通过投票表决取所得加权平均概率较高的类别为最终分类结果。

2.3.2 基于堆叠法的多模型融合

为了构建基于堆叠法的多模型融合肺结节分类方法，本文构建了两层的堆叠模型。第一层对所有神经架构搜索模型在初始训练数据集上训练，并采用10折交叉验证，将预测结果作为输入第二层的训练数据集进行训练，二级分类器使用SVM模型。

如图4所示，基于堆叠法的多模型融合的步骤为：1）5个性能较好的搜索架构模型均在训练数据集上进行训练，进行10折交叉验证，其中9折为训练集，1折为验证集；2）将训练集上每一折的预测结果拼接为由5个变量组成的新的训练集；3）在测试集上对10折测试结果取平均值，每个模型的预测结果拼接为由5个变量组成的新的测试集；4）在新的训练集上进行训练，使用SVM分类器预测结果作为最终分类结果，得到训练好的完整的网络模型。第二层模型采用的SVM分类器通过网格搜索法确定最优的参数C和γ。

图4 基于堆叠法的多模型融合步骤Fig. 4 Steps of multi-model fusion based on stacking

3 实验与结果分析

3.1 数据集和参数配置

本文选用的数据集为符合LUNA16相关设置的LIDC-IDRI数据集［7］。LUNA16是LIDC-IDRI数据集的子集，该子集删除了切片厚度大于3 mm，切片间距不一致或丢失的CT扫描，还删除了小于3 mm的带标注结节，其中包含了888例病例图像。根据LIDC-IDRI数据集的注释，直径等于或大于3 mm的结节最多由4位放射科医生勾勒出轮廓，且每个结节按良恶性程度被划分为5个等级（1～5，其中1表示恶性程度最低，5表示恶性程度最高）。

本文数据集选取平均评分小于3的结节为良性肺结节，平均评分大于3的结节为恶性肺结节，并且删除平均评分为3的结节，共包含1 004个肺结节，其中有554个良性结节和450个恶性结节，并使用其中900个样本作为训练集，另外104个样本作为验证集。

实验环境的硬件配置为PR2720G服务器，包含型号为Intel Xeon E5-2620的32核CPU，64 GB内存，12 GB显存的TITAN Xp GPU；软件配置为在Ubuntu 18.04系统及Pytorch框架Python3.6环境下运行。

3.2 评价指标

本文采用准确率（Accuracy， Acc.）、敏感性（Sensitivity， Sens.）、特异性（Specificity， Spec.）、精确率（Precision， Pre.）、AUC和F1值等常用的图像分类评估标准作为评价指标，以全面评价本文所提算法的分类性能。

准确率表示总的样本数中类别预测正确的样本数所占的比例：

敏感性又称召回率（Recall），表征的是正样本里预测正确的比例：

特异性表示负样本里预测正确的比例：

精确率表示预测样本中预测正确的样本占该预测样本总数的比例：

AUC是接收器工作特性曲线下的面积，反映的是分类器的分类能力。F1值是精确率和召回率的平均值：

3.3 注意力机制对算法性能的影响

在LIDC-IDRI数据集上，验证MS-SCAM模块、注意力残差卷积cell和集成策略对算法性能的影响。

首先，本文使用神经架构搜索（NAS）技术，从网络架构中删除MS-SCAM模块，并使用常规的卷积cell作为搜索空间的基本单元，然后以搜索到的最佳网络架构作为基准模型。

之后，依次加入MS-SCAM模块、注意力残差卷积cell和集成策略来构建分类网络模型，具体的分类性能如表1所示，加粗数据表示最好的分类结果。

表1 不同策略下的消融实验结果 单位：%Tab. 1 Ablation experimental results under different strategies unit：%

由表1可知，加入MS-SCAM模块和集成策略（integrated）后使F1值比加入前分别提高了1.41个百分点和2.01个百分点，同时加入两者使F1值提高了2.09个百分点。实验结果表明，本文所提算法框架中的MS-SCAM模块和集成策略可以提高基准模型的性能，有助于获得高的肺结节分类准确率。

其次，为了验证MS-SCAM模块的作用，本文首先删除了MS-SCAM模块进行网络模型训练，然后依次在第3～5阶段添加MS-SCAM模块来观察分类性能的变化。加入不同数量MS-SCAM模块后模型的分类性能如表2所示。

表2 MS-SCAM模块数对分类性能的影响 单位：%Tab. 2 Influence of number of MS-SCAM modules on classification performance unit：%

由表2可以看出，添加了MS-SCAM模块的第3～5阶段效果最佳，表明本文添加了MS-SCAM模块能够提高分类算法的分类精度。

此外，本文还验证了MS-SCAM模块中通道注意力和空间注意力的顺序对算法性能的影响，并分别构建了“通道注意力+空间注意力”和“空间注意力+通道注意力”两种不同的模块，模块结构如图5所示，验证结果如表3所示。

表3 通道注意力和空间注意力顺序对分类性能的影响 单位：%Tab. 3 Influence of order of channel attention and spatial attention on classification performance unit：%

图5 通道注意力和空间注意力顺序设置示意图Fig. 5 Schematic diagram of order setting of channel attention and spatial attention

由表3可知，“通道注意力+空间注意力”设置方式在除特异性外的所有性能评价指标上均得到了更好的结果，表明“通道注意力+空间注意力”构造的MS-SCAM模块具有更好的分类性能，能够提高肺结节的分类精度。原因在于通道注意力主要聚焦于输入图像的有效特征，空间注意力主要聚焦于输入图像有效特征的丰富性。

3.4 神经架构搜索对算法性能的影响

本文以文献［14］提出的去掉CBAM模块后的搜索空间作为基本搜索空间，记为NASpure，依次替换残差卷积cell构造搜索空间和使用偏序枝剪策略进行架构搜索，结果如表4所示。

由表4可知，相较于NASpure，使用残差卷积cell替换普通的卷积作为搜索空间基本单元，模型准确率、敏感性、特异性、精确率、AUC和F1分数分别提高了0.51、0.99、1.50、0.81、1.76和1.97个百分点；使用偏序枝剪搜索策略使得模型准确率、敏感性、特异性、精确率、AUC和F1分数分别提高了0.24、0.55、0.87、0.35、0.40和1.15个百分点；同时使用残差卷积cell和偏序枝剪搜索策略使得模型准确率、敏感性、特异性、精确率、AUC和F1分数分别提高了0.53、2.82、4.01、1.87、3.02和2.51个百分点。因此，本文所提残差卷积cell和偏序枝剪搜索策略能够提升基于神经网络架构搜索的肺结节分类算法的精度。

3.5 多模型融合策略对算法性能的影响

为了尽可能在有限的计算资源条件下获得性能最优的模型，本文采用多模型融合的方式来实现肺结节的高精度分类。为了验证不同的多模型融合策略对算法分类性能的影响，本文分别基于加权投票和堆叠法进行分类性能的对比，实验结果如表5所示。

表4 神经网络架构搜索设置对分类性能的影响 单位：%Tab. 4 Influence of neural network architecture search setting on classification performance unit：%

由表5可知，基于堆叠法的多模型融合策略取得了比基于加权投票法的多模型融合策略更好的效果。尽管加权投票法在参数量这一指标上具有优势，但整体评价性能上堆叠法更有优势。

3.6 与最新方法的性能比较

为了验证本文所提算法的有效性，将其与六种最新的肺结节分类算法进行对比：Autoencoder［15］采用自动编码器网络提取肺结节特征，用二叉决策树对结节良恶性进行分类；MC-CNN（Multi-Crop Convolutional Neural Networks）［7］采用多裁剪池化层的深度卷积网络，并通过裁剪出的不同特征图的结节特征信息来实现肺结节良恶性分类建模；Local-Global［16］利用全局特征提取器分析结节的形状和大小，利用局部特征提取器分析结节的密度和结构；DeepLung［17］设计了一个三维快速区域卷积神经网络进行结节检测，提出了具有三维双路径网络特征的梯度提升机进行结节分类；NAS-lung（Neural Architecture Search lung）［14］使用神经架构搜索自动搜索3D网络架构，在卷积网络中使用注意力模块，该模型对准确性和速度进行了较好的权衡，是具有部分可解释的分类模型；MV-KBC（Multi-View Knowledge-Based Collaboration）［9］基于多视图知识协作的胸部CT肺结节分类算法，将三维结节用9个二维视图来表示，并使用3种图像块来表征结节的特征进行肺结节良恶性分类。各肺结节分类算法在LIDC-IDRI数据集上的性能对比如表6所示。其中，参数，。

表5 多模型融合策略对分类性能的影响Tab. 5 Influence of multi-model fusion strategy on classification performance

表6 LIDC-IDRI数据集上不同分类算法的性能对比Tab. 6 Performance comparison of different classification algorithms on LIDC-IDRI dataset

由表6可知，本文所提算法在特异性、精确率度量指标上均取得了最好的分类结果，验证了本文所提肺结节分类算法的可靠性较高，能更加精确地预测良恶性类别。此外，在准确率、敏感性和F1分数等度量指标上，本文所提算法均取得了第2的分类精度；同时，较少的模型参数也使得本文所提算法的轻量化构建成为可能，实现了性能和速度的平衡。

4 结语

针对基于深度学习方法的肺结节分类模型存在的结构复杂和可解释性较差等问题，本文构建了一种基于神经网络架构搜索的肺结节分类算法。该算法通过多尺度注意力模块、神经网络架构搜索和多模型融合三个主要实现环节的构建，实现了轻量化、精度高、收敛快的肺结节分类。本文在广泛使用的LIDC-IDRI数据集上对三个主要实现环节进行了实验，实验结果表明本文所提算法框架各子模块能够助力分类精度的提升。此外，将本文所提算法与当前最新肺结节分类方法在标准的度量指标上进行了对比，同样验证了本文所提轻量化网络模型能够产生高精度的分类结果。后续工作将重点围绕更加轻量化的实时分类网络模型构建展开深入研究。

[1] BRAY F， FERLAY J， SOERJOMATARAM I， et al. Global cancer statistics 2018： GLOBOCAN estimates of incidence and mortality worldwide for 36 cancers in 185 countries ［J］. CA： A Cancer Journal for Clinicians， 2018， 68（6）： 394-424.

[2] 中华医学会呼吸病学分会肺癌学组，中国肺癌防治联盟专家组.肺结节诊治中国专家共识（2018年版）［J］.中华结核和呼吸杂志，2018，41（10）：763-771.（Lung Cancer Group of Chinese Thoracic Society of Chinese Medical Association， Expert Group of China Lung Cancer Prevention and Treatment Alliance. Interpretation of Chinese expert consensus on the diagnosis and treatment of pulmonary nodules （2018 version） ［J］. Chinese Journal of Tuberculosis and Respiratory Diseases， 2018， 41（10）： 763-771.）

[3] 李祥霞，李彬，田联房，等.基于放射影像组学和随机森林算法的肺结节良恶性分类［J］.华南理工大学学报（自然科学版），2018，46（8）：72-80.（LI X X， LI B， TIAN L F， et al. Classification of benign and malignant pulmonary nodules based on radiomics and random forests algorithm ［J］. Journal of South China University of Technology （Natural Science Edition）， 2018， 46（8）： 72-80.）

[4] 强彦，裴博，赵涓涓，等.模糊支持向量机在肺结节良恶性分类中的应用［J］.清华大学学报（自然科学版），2014，54（3）：354-359.（QIANG Y， PEI B， ZHAO J J， et al. Classification on pulmonary nodules based on a fuzzy support vector machine ［J］. Journal of Tsinghua University （Science and Technology）， 2014， 54（3）： 354-359.）

[5] 高峰，代美玲，祁瑾.基于Bootstrap-异质SVM集成学习的肺结节分类方法［J］.天津大学学报（自然科学与工程技术版），2017，50（3）：321-327.（GAO F， DAI M L， QI J. Classification of lung nodules by ensemble learning based on Bootstrap-heterogeneous SVM ［J］. Journal of Tianjin University （Science and Technology）， 2017， 50（3）： 321-327.）

[6] 张婧，李彬，田联房，等.结合规则和SVM方法的肺结节识别［J］.华南理工大学学报（自然科学版），2011，39（2）：125-129，147.（ZHANG J， LI B， TIAN L F， et al. Lung nodule recognition combining rule-based method and SVM ［J］. Journal of South China University of Technology （Natural Science Edition）， 2011， 39（2）： 125-129， 147.）

[7] SHEN W， ZHOU M， YANG F， et al. Multi-crop convolutional neural networks for lung nodule malignancy suspiciousness classification ［J］. Pattern Recognition， 2017， 61： 663-673.

[8] XIE Y T， ZHANG J P， XIA Y， et al. Fusing texture， shape and deep model-learned information at decision level for automated classification of lung nodules on chest CT ［J］. Information Fusion， 2018， 42： 102-110.

[9] XIE Y T， XIA Y， ZHANG J P， et al. Knowledge-based collaborative deep learning for benign-malignant lung nodule classification on chest CT ［J］. IEEE Transactions on Medical Imaging， 2019， 38（4）： 991-1004.

[10] ELSKEN T， METZEN J H， HUTTER F. Neural architecture search： a survey ［J］. Journal of Machine Learning Research， 2019， 20： 1-21.

[11] LI X， ZHOU Y M， PAN Z， et al. Partial order pruning： for best speed/accuracy trade-off in neural architecture search ［C］// Proceedings of the 2019 IEEE/CVF Conference on Computer Vision and Pattern Recognition. Piscataway： IEEE， 2019：9137-9145.

[12] 慧影医疗科技（北京）有限公司.一种基于多模型融合的肺结节检测方法及系统：中国，201910399988.6［P］.2019-08-30.（Huiying Medical Technology （Beijing） Company Limited. A multi-model fusion-based method and system for detecting lung nodules： China，201910399988.6 ［P］. 2019-08-30.）

[13] LI F， CHENG D N， LIU M H. Alzheimer’s disease classification based on combination of multi-model convolutional networks ［C］// Proceedings of the 2017 IEEE International Conference on Imaging Systems and Techniques. Piscataway： IEEE， 2017： 1-5.

[14] JIANG H L， SHEN F H， GAO F， et al. Learning efficient， explainable and discriminative representations for pulmonary nodules classification ［J］. Pattern Recognition， 2021， 113： Article No.107825.

[15] KUMAR D， WONG A， CLAUSI D A. Lung nodule classification using deep features in CT images ［C］// Proceedings of the 2015 12th Conference on Computer and Robot Vision. Piscataway： IEEE， 2015：133-138.

[16] AL-SHABI M， LAN B L， CHAN W Y， et al. Lung nodule classification using deep local-global networks ［J］. International Journal of Computer Assisted Radiology and Surgery， 2019， 14（10）： 1815-1819.

[17] ZHU W T， LIU C C， FAN W， et al. DeepLung： deep 3D dual path nets for automated pulmonary nodule detection and classification ［C］// Proceedings of the 2018 IEEE Winter Conference on Applications of Computer Vision. Piscataway： IEEE， 2018： 673-681.

Lung nodule classification algorithm based on neural network architecture search

XIE Xinlin1，2， XIAO Yi3， XU Xinying3*

（1.School of Electronic Information Engineering，Taiyuan University of Science and Technology，Taiyuan Shanxi030024，China；2.Shanxi Key Laboratory of Advanced Control and Equipment Intelligence（Taiyuan University of Science and Technology），Taiyuan Shanxi030024，China；3.College of Electrical and Power Engineering，Taiyuan University of Technology，Taiyuan Shanxi030024，China）

Lung nodule classification is an important task in the diagnosis of early-stage lung cancer. Although the lung nodule classification methods based on deep learning can achieve good classification accuracy， they have the problems of complex model and poor interpretability. Therefore， a lung nodule classification algorithm based on neural network architecture search was proposed. Firstly， the attention residual convolution cell was regarded as the basic unit of the search space， and the partial order pruning method was used as the search strategy to construct the neural network architecture for searching 3D classification network， thereby achieving the balance between network performance and search speed. Then， the multi-scale channels and spatial attention modules were constructed in the network to improve the interpretability of feature description and categorical inference. Finally， the stacking method was used to merge the searched network architectures with multiple models to obtain accurate prediction results of classification of benign and malignant lung nodules. Compared with the state-of-the-art lung nodule classification methods， the proposed algorithm has better classification performance and faster convergence on the widely-used lung nodule classification dataset LIDC-IDRI. Moreover， the proposed algorithm has the specificity and precision reached 95.37% and 93.42% respectively， showing it can achieve accurate classification of benign and malignant lung nodules.

lung nodule classification; neural network architecture search; attention module; multi-model fusion; deep learning

A

TP391.4

1001-9081（2022）05-1424-07

10.11772/j.issn.1001-9081.2021050813

2021⁃05⁃17；

2021⁃09⁃26；

2021⁃11⁃26。

国家自然科学基金资助项目（62006169）；山西省自然科学基金资助项目（201901D211304）。

谢新林（1990—），男，山西运城人，讲师，博士，CCF会员，主要研究方向：医学图像处理、粗糙集； 肖毅（1996—），男，江西赣州人，硕士研究生，主要研究方向：医学图像处理； 续欣莹（1979—），男，山西忻州人，教授，博士，主要研究方向：计算机视觉、粒计算。

This work is partially supported by National Natural Science Foundation of China （62006169），Natural Science Foundation of Shanxi Province （201901D211304）.

XIE Xinlin， born in 1990， Ph. D.， lecturer. His research interests include medical image processing， rough set.

XIAO Yi， born in 1996， M. S. candidate. His research interests include medical image processing.

XU Xinying， born in 1979， Ph. D.， professor. His research interests include computer vision， granular computing.