高光谱图像的像元混合问题伴随着高光谱成像仪的发展一直存在于实际应用当中,对于高光谱数据的分析和高光谱的目标探测问题带来了困难。随着计算机处理能力的提升以及深度学习技术的出现,使得非线性解混能够比较容易部署到执行环节中,并能够进行精确求解,因此近年来逐渐又有了一定研究热度。本文基于深度神经网络,将卷积和自编码器应用于高光谱图像的非线性解混问题上,并在解混的基础上提出了一类高光谱目标探测的新方法,主要研究内容如下:利用自编码器结构,将径向基函数（Radial Basis Function,RBF）神经网络和高光谱的多项式后验非线性模型（Polynomial Post-Nonlinear Model,PPNM）引入到自编码器结构中。实现了非线性的自编码器解混网络。通过RBF神经网络对高光谱数据进行编码得到端元信息和丰度信息,然后将其传入以PPNM模型结构的解码器当中重构出原始数据,从而实现高光谱数据的非线性解混。采用3D卷积去噪自编码器将高光谱数据的空间信息引入到解混问题中,通过卷积神经网络提取高光谱数据的本质特征,并利用3D卷积作为自编码器的基本结构,对高光谱数据进行去噪处理,然后结合上一章的非线性自编码器解混网络实现结合空间信息的非线性解混。使用一种基于深度网络的高光谱非线性解混目标探测算法,该算法在前两章通过深度网络对高光谱数据进行非线性解混之后,从解混后得到的端元信息和丰度信息入手,用目标光谱信息和解混得到的端元信息进行匹配后,引入粒子群分割算法对丰度数据进行阈值分割,从而得到目标光谱的二值化的目标探测信息完成探测。