我国水域占有面积十分宽阔,海岸线较长。在复杂海情下,快速识别定位目标,对检测漂浮在海面上如浮标、溢油等小目标信号,保证航行安全等具有重要意义。本文首先讨论了在混沌背景下的微弱信号检测,模拟实际情况,在混沌观测序列中加入噪声信号进行分析,因为海杂波具有混沌特性,本文提出两种海杂波背景下小目标信号检测模型,分别为海杂波背景下小目标信号检测的深度信念网络方法及栈式自编码神经网络方法。噪声信号可以破坏混沌信号的混沌特性,使得输出预测误差较大。本文提出了一种强混沌背景下微弱信号检测的深度信念网络方法。该方法先将数据对受限玻尔茨曼机进行逐层非监督贪婪训练,使每层受限玻尔茨曼机调整到合适的初始值;然后通过自底向上组合受限玻尔茨曼机,构建深度信念网络初步模型,接着利用误差反向算法对整个网络的参数进行调优,构建深度信念网络检测模型;最后利用该模型检测湮没在强混沌背景噪声中的瞬态信号、周期信号。以Lorenz系统作为混沌背景进行仿真实验,在强混沌背景下,该方法能够检测到更低幅值的微弱信号,且有很好的预测精度;能够有效的抑制混沌背景中的噪声信号,具有较好的抗噪声性能。本文提出一种在强混沌背景下微弱信号检测的栈式自编码神经网络方法。该方法首先对网络进行预训练,采用无监督贪婪训练自编码器获取最优值。在无监督的预训练完成之后,网络参数仅仅是各层独立训练时的最优值,进行网络调优,即将预处理后的数据再次输入网络,利用BP算法训练整体网络参数以获得网络全局最优解,构建栈式自编码神经网络检测模型;同样的,利用该模型检测瞬态信号、周期信号,检测结果与深度信念网络检测模型进行比较分析,结果表明在隐含层数逐渐增多情况下,针对微弱信号检测,栈式自编码神经网络检测模型所输出的均方根误差相差不大,即相比较深度信念网络检测模型,栈式自编码神经网络具有较好的稳定性,且该模型也能有效的抑制噪声信号。最后将深度信念网络和栈式自编码神经网络方法与传统神经网络方法相比较,结果表明,两种方法都能较好检测出混沌背景下的微弱信号。结合海杂波的混沌特性及深度学习相关理论,提出了海杂波背景下小目标检测的深度信念网络方法以及栈式自编码神经网络方法。深度信念网络方法和栈式自编码神经网络方法能够以无监督预训练方法优化网络权值的初始值,相较于传统神经网络随机初始值初始化网络权值的方法,不易陷入局部最优。本章首先分析了海杂波的混沌特性及相关研究情况,接着利用该两种方法构建海杂波背景下的小目标信号检测模型。最后以加拿大McMaster实测的IPIX雷达数据进行仿真实验,利用均方根误差评价性能。仿真结果表明,针对第54#海杂波数据,与已有的选择性支持向量机集成方法均方根误差0.0264,K均值-有效极限学习机所得的均方根误差0.0428相比,本文提出的栈式自编码的均方根误差0.016,预测精度有所提高。但是训练与测试时间都所需更多。所研究的两种方法均能实现不同海情下的小目标检测。