论文部分内容阅读
图像融合是信息融合领域的重要分支和研究热点,其目的是通过融合多幅多模态图像使融合图像具备全面丰富的多模态信息,从而实现图像的深层次分析与理解。随着传感器和计算机技术的发展,多模态图像数量和种类日益增多。经过多模态图像融合过程后,输出的单幅融合图像能明显改善单模态图像信息的不足,有利于计算机进一步分析处理后续图像处理任务,如图像识别、图像检索、图像增强,以及医疗诊断等。当前,医学图像融合已经成为图像融合领域的研究热点之一,并广泛应用于手术预案、病情分析、病灶定位等领域。医学图像融合实现了多模态图像的信息互补,可为临床诊断和精确治疗提供可靠的参考信息,因而具有重要研究意义和实际应用价值。常用的多模态医学图像包括MRI(Magnetic Resonance Imaging)、CT(Computed Tomography)、PET(Positive Electron Tomography)和SPECT(Single Photon Emission Computed Tomography)等。由于不同设备的成像原理不同,不同模态的医学图像提供了人体组织器官的不同特征信息。例如,MRI图像分辨率较高,显示了丰富的软组织生理解剖信息;CT图像显示了器官、骨骼及高密度组织信息;PET和SPECT提供了病灶组织的代谢信息。单模态医学图像包含的生理或病理信息有限,难以单独用于精准的医疗诊断分析。为了克服这个缺点,研究人员提出了大量多模态医学图像融合方法。然而,现有多模态医学图像融合方法普遍存在边缘退化、细节丢失、颜色失真以及融合速度慢等问题。针对现有医学图像融合方法存在的缺点,本文提出了四种基于深度神经网络的医学图像融合方法。针对边缘退化问题,提出了基于拉普拉斯金字塔和深度卷积神经网络的融合方法。提出方法首先使用深度卷积神经网络对输入图像进行重建。由于输入图像在图像重建过程中经历了不同卷积层的残差学习,使重建图像得到了残差信息,因而增强了图像的边缘强度。然后,使用拉普拉斯金字塔对重建图像进行分解与融合。为了减少金字塔分解和融合过程中丢失的信息,提出了梯度能量融合策略。当拉普拉斯金字塔图像融合过程结束后,使用梯度能量融合策略实现金字塔融合图像与高斯融合图像再次融合,从而增强融合图像的细节信息。实验表明,提出方法显著增强了融合图像的边缘强度和细节。针对噪声严重问题,提出了基于滚动引导滤波器和深度卷积神经网络的融合方法。提出方法首先利用滚动引导滤波器将输入图像分解为基本图像和细节图像。为了在基本图像和细节图像同时保留足够的信息,研究通过实验确定滚动引导滤波器的参数,再使用深度卷积神经网络提取输入图像的感知图像。由于感知图像更符合人眼视觉感知机制,因而在融合过程中可以增加融合图像的感知信息。为减少感知图像存在的特征差异和噪声,研究对不同卷积层中的特征图进行了归一化操作。最后,将基本融合图像、细节融合图像和感知融合图像相加后得到亮度图像,再经过颜色变换得到最终融合图像。实验表明,提出方法有效降低了融合图像的噪声。针对颜色失真问题,提出了基于多尺度残差金字塔注意力网络的融合方法。提出方法利用残差注意力网络和金字塔注意力网络构建多尺度残差金字塔注意力网络,使其结合了残差注意力网络训练速度快和金字塔注意力网络特征表达能力强的优点。提出方法包含特征提取器、特征融合器和特征重建器三部分。特征提取器的功能是提取输入图像的深层特征,特征融合器的功能是实现深层特征融合,特征重建器的功能是将融合特征重建为融合图像。在训练过程中,特征融合器不参与训练。当训练过程结束后,从特征提取器获得的深层特征经过特征融合器融合后,再经过特征重建器得到融合图像。实验表明,提出方法减少了融合图像的颜色失真,但却带来一定的细节丢失。针对细节丢失和融合速度慢问题,提出了基于双流注意力机制生成对抗网络的融合方法。提出方法包含生成器和判别器两大部分。研究使用双流注意力机制和三个注意力模块构建生成器,以提高图像融合质量。判别器的功能是判别输入图像的真实性。生成器和判别器互相竞争,交替学习。在判别器更新阶段,输入图像被判为真,融合图像被判为假;在生成器更新阶段,融合图像被判为真,从而与判别器形成对抗过程。为了进一步改进融合质量,生成对抗网络的损失函数结合了内容损失、对抗损失和感知损失。在融合过程中,内容损失保留了基本内容信息,对抗损失和感知损失则增强了细节信息。实验表明,提出方法保留了丰富的细节且提高了融合速度。