标签：Head Neck Excitation 训练 scSE 图像 nnU Net 3D
The Head and Neck Tumor Segmentation Using nnU-Net with Spatial and Channel ‘Squeeze & Excitation’ Blocks
使用带有空间和通道“挤压和激发”模块的nnU-Net进行头颈部肿瘤分割
Abstract
头颈部（H＆N）癌症是癌症死亡的第八大最常见原因。放射疗法是最有效的疗法之一，但是它在很大程度上依赖于医学图像上肿瘤体积的轮廓。在本文中，3D nnU-Net首次应用于在氟脱氧葡萄糖正电子发射断层扫描（FDG-PET）和计算机断层扫描（CT）图像中分割H＆N肿瘤。此外，我们通过将3D nnU-Net集成到空间和通道的“挤压和激发”（scSE）块中来进行改进，以增强这些有意义的功能，同时抑制较弱的功能。我们将高级3D nnU-Net命名为3D scSE nnU-Net。通过将其分为训练和验证子集，在HECKTOR 2020训练数据上测试其性能，例如训练子集中有160张图像，验证子集中包含41张图像。验证图像上的实验结果表明，在此分割任务的DSC（骰子相似系数）度量方面，拟议的3D scSE nnU-Net优于原始3D nnU-Net 1.4％。我们的3D scSE nnU-Net在HECKTOR测试数据上的DSC为0.735。它在此HECKTOR挑战赛中排名第三。
Introduction
Data and Methods
本节首先简要介绍HECKTOR 2020的数据。然后，它详细描述了我们的方法。我们描述了本文中使用的数据预处理方法。我们还总结了[5]中发布的3D nnU-Net。然后介绍我们提出的3D scSE nnU-Net。接下来，我们描述了我们在实验中使用的训练方案。主要思想是我们采用[5]中的3D nnU-Net作为基准，然后将其推进到3D scSE nnU-Net，从而提高HECKTOR 2020上3D nnU-Net的性能。
Data
本文实验中使用的数据来自HECKTOR2020。训练数据包括来自CHGJ，CHMR，CHUM和CHUS四个中心的201个案例。测试数据包括来自CHUV另一个中心的53个案例。参加挑战赛时，我们可以获得培训数据。每个训练案例包括NIfTI格式的CT，PET和GTVt（主要肿瘤总体积，即每个案例的标签），以及CSV格式文件中的边界框位置和患者信息。测试数据不包含GTVt信息。
在保留训练数据原始分布的情况下，我们将HECKTOR 2020训练数据分为训练和验证子集。训练子集包括来自201个训练案例的160个训练图像。验证子集包括来自201个训练案例的41个验证图像。训练图像用于训练模型，而验证图像用于估计模型的性能。
Data Preprocessing
为了减少计算量，我们首先将训练数据中的所有图像裁剪到非零值区域。即，如果在CT和PET图像中边缘区域的值均为零，则将裁剪一个患者的图像的相同边缘区域。其次，由于不同的扫描仪或不同的采集协议可能会导致数据具有不同的体素间距，因此我们将所有情况重新采样为所有CT图像的中值体素间距，例如0.9765625x 0.9765625x 3…0 mm，以使HECKTOR训练数据的中间图像形状为147x147x48 。最后，为了在训练时加速神经网络收敛，对图像强度进行了标准化。对于CT图像，将收集HECKTOR训练数据中所有CT图像的前景体素，并基于这些值的0.5％和99.5％进行强度值的自动水平窗口裁剪[5]。对于PET，我们通过使用z-score标准化对强度值进行标准化。
Baseline:3D nnU-Net
3D nnU-Net的体系结构如图1所示。3DnnU-Net的输入图像大小为2x48x160x160。如果裁剪后的图像的大小小于此输入图像的大小，则边框将填充为0。3DnnU-Net在编码器和解码器的下采样和上采样之间使用两个conv-instnorm-leaky ReLU块。下采样通过跨步卷积（跨步卷积是什么？）完成，而上采样则通过转置卷积完成。该体系结构最初使用30个特征图，对于编码器中的每个下采样操作，该特征图将其加倍（最多320个特征图），而对于解码器中的每个转置卷积则减半[5]。解码器的末端具有与输入相同的空间大小，后跟1x1x1卷积（将通道数转换为2个通道）和一个softmax函数。
The 3D ScSE nnU-Net
3D U-Net [7]由于其良好的性能已成为医学图像分割的骨干网。但是，上采样过程涉及空间信息的恢复，这在不考虑全局信息的情况下很难实现[8]。 scSE块能够自适应地重新校准学习到的特征图的方向，以增强有意义的特征并抑制较弱的特征。因此，我们遵循其编码器和解码器块将scSE块集成到3D nnU-Net中。图2显示了新提出的3D scSE nnU-Net体系结构。
这个scSE块包含两个块，分别是cSE和sSE。对于cSE块，我们表示一个中间输入特征图U=[U1, U2,……Uc]。作为通道Um∈ RZxHxW的组合，其中Z，H和W分别是特征图的深度，高度和宽度。空间压缩由全局平均池化层完成，以便产生向量z∈RCx1x1x1，其具体的值在下列公式中计算。
其中，Um(k,i,j)对应于U的第m个通道中空间位置（k，i，j）处的值，其中，k∈{1，2，……Z}，i∈{1，2，……H}，j∈{1，2，……W}。
Training Scheme
在（4）中，我们用Dice损失和加权交叉熵损失的组合损失训练网络。L=Ldice+Lwce
这种双重损失得益于交叉熵损失的平滑梯度和有界梯度，以及用于评估的Dice分数的显式优化及其对类不平衡的鲁棒性。这里使用的Dice损失是[9]中提出的多类变化损失。其计算如下（5）。
其中，u是网络的softmax输出，v是ground truth的一种one-hot编码。 u和v都具有IxT的形状，其中i∈I和t∈T。这里I是训练patch/batch中的体素数，T是类别数。
加权交叉熵损失LWCE的计算公式如下（6）。在我们的实验中，我们设置w = 3.0。
我们使用随机梯度下降（SGD）优化器来训练我们的网络。初始学习率为1e-3.在（7）中更新学习率。
其中e是epoch，Ne是epoch总数。我们在实验中设置Ne = 1000。batchsize大小为2。模型在250个epoch后收敛。我们还使用权重为5e-5的L2范数正则化对卷积核参数进行正则化。
此外，为了防止在使用有限的训练数据训练大型神经网络时过度拟合，我们采用了以下增强技术，例如随机旋转，随机缩放，随机弹性变形，伽玛校正增强和镜像，以在训练期间扩大训练子集数据培训过程。我们在Pytorch中实现我们的网络，并在具有11 GB内存的单个GeForce RTX 2080Ti GPU上对其进行了培训。单个网络的训练大约需要10个小时。
Results
本部分显示了我们获得的所有实验结果。由于HECKTOR 2020竞赛使用Dice相似系数（DSC）作为评估指标，因此我们将其作为评估我们训练模型的性能的指标。定量结果总结在表1中。表2比较了使用我们的3D scSE nnU-Net和原始3D nnU-Net的验证子集中的验证图像的平均推断时间。表3显示了针对HECKTOR 2020挑战赛的竞赛团队测试数据的前5名结果。
为了进一步证明我们提出的3D scSE nnU-Net的有效性，我们将其训练损失函数曲线与图3中的3D nnU-Net进行了比较，并在3D scSE nnU-Net的验证数据上显示了一些分割结果以及图4中原始的3D nnU-Net。
Discussion
表1中的结果表明，就DSC指标而言，我们的3D scSE nnU-Net的性能优于3D nnU-Net。表2中的结果表明，3D scSE nnU-Net的平均推理时间比原始3D nnU-Net的平均推理时间稍长。这意味着我们要承担推理时间的损失，以便获得更好的目标检测。通常，我们总是在效率和性能之间进行权衡。
图3中的结果表明，训练模型时，我们的3D scSE nnU-Net收敛速度快于原始3D nnU-Net。图4中的结果表明，与3D nnU-Net相比，我们提出的3D scSE nnU-Net检测到的目标与实际目标更加相似。我们的3D scSE nnU-Net的DSC值比原始3D nnU-Net的相应DSC值高得多。
表3中测试数据的前5个细分结果表明，在此HECKTOR 2020挑战中，我们的3D scSE nnUNet模型排名第三。尽管排名第一的队伍的DSC值可以达到0.759，但与0.8的差距仍然很大。因此，有必要进一步研究开发出更先进的方法来有效地实现头颈部肿瘤的分割任务。这种类型的研究将通过降低头颈癌的死亡率来使人类受益。
Conclusions
在这项工作中，我们为多模态3D图像中的H＆N肿瘤分割任务提出了一个名为3D scSE nnUNet的语义分割网络。该3D scSE nnU-Net改进了原始3D nnU-Net。通过将scSE块集成到原始3D nnU-Net，它可以实现对H＆N肿瘤的自动分割。尽管拟议的3D scSE nnU-Net在多模态3D图像方面优于H＆N肿瘤分割任务，但与原始3D nnU-Net相比，它需要更多的推理时间。我们将努力提高3D scSE nnU-Net在分割头颈部肿瘤方面的性能，同时保留其参考时间。此外，我们将研究不同数据分区对模型性能的影响，例如以测试中心留一中心。希望在HECKTOR 2020挑战赛之后，我们可以进一步对头颈部肿瘤的分割任务进行深入研究。
标签：Head,Neck,Excitation,训练,scSE,图像,nnU,Net,3D 来源： https://blog.csdn.net/Acmer_future_victor/article/details/114105932
本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享； 2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关； 3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关； 4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除； 5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。