故障诊断是提高机械使用可靠性、保障设备长周期稳定运行、减少因故障停机带来经济损失的一类重要技术。传统的故障诊断方法借助专家知识从信号中人工提取特征,但由于信号的非稳态、非线性、非高斯等特点,这一过程需进行大量的分析和对比,费时费力,因此如何高效地提取有区分度的特征并准确识别成为本领域的研究热点和难点。为实现特征的自动提取和识别,本文将深度学习中的深度自编码器(Deep Auto-encoder,DAE)方法引入该问题。面向样本充足的情况,提出了一种基于DAE的故障诊断方法。接着,考虑信号噪声和小样本两个影响因素,分别对DAE进行改进,研究了针对噪声信号和小样本的故障诊断方法。在此基础上,综合考虑两个因素,研究了小样本条件下噪声信号的故障诊断方法。主要内容如下:面向样本充足的情况,提出了一种稀疏DAE(Sparse DAE,SDAE)的故障诊断方法。针对SDAE会提取相似特征的问题,设计了一种Subset方法,帮助SDAE从不同故障模式的样本中提取有区分度的特征。此外,针对Subset-SDAE需手动调参的问题,提出了基于粒子群算法的参数优化框架,以自动获取最优的参数配置。在2个工程案例上进行了验证,:电机轴承(仿真实验平台)和自吸式离心泵(真实生产设备),结果表明所提方法能够有效提取特征,与多个方法对比表明Subset-SDAE能够得到更高的的诊断准确率。考虑噪声污染时,难以提取有效特征、诊断准确率低的问题,提出了一种集成DAE的故障诊断方法。针对难以提取有效特征的问题,设计了一种CSDAE(Contractive Sparse DAE)+费舍尔判别分析(Fisher Discriminant Analysis,FDA)模型,用于获取具有最大可分离度的特征。针对单模型性能不可靠的问题,设计了15个具有不同性能的CSDAE+FDA模型。在此基础上,设计了一种加权表决法,用于集成多个模型的诊断结果,以提升诊断准确率。在电机轴承和自吸式离心泵案例上进行了验证,并与其他自编码器变种方法,以及单个CSDAE模型进行了对比,结果表明在处理噪声信号时,所提方法的诊断准确率明显更优。考虑故障样本为小样本时,无法提供足够的信息,导致对故障状态识别率低的问题,提出了一种融合重采样和SDAE的故障诊断方法。针对现有重采样方法会生成错误、冗余小样本的问题,设计了一种权重小样本重采样方法(Weighted Minority Oversampling,WMO),实现小样本数据的有效增强。针对小样本条件下异常数据会致使SDAE不能学习到关键特征的问题,采用最大交叉熵和相对熵对SDAE的代价函数改进,以提升对异常数据处理的鲁棒性。在25个标准测试数据上对所提方法进行验证,与5个著名的小样本学习方法进行对比。另外,在2个工程案例上进行了验证:NASA轴承(仿真实验平台)和风机(真实生产设备),并与10多个方法进行了对比。结果表明,所提方法的诊断结果更加可靠。此外,通过设置不同的小样本数量进行实验,结果表明故障样本越少,诊断系统对故障样本的灵敏度越低,越容易出现漏报、虚警,也间接的表明研究小样本条件下的故障诊断意义重大。在上述基础上,综合考虑小样本和噪声污染两个因素,提出了一种结合重采样和集成DAE的诊断方法。针对有多个类为小样本的情况,采用“一对多”策略将WMO扩展,实现对多类小样本的数据增强。接着,将多分类WMO方法融合到集成DAE方法框架中,提出了新的集成DAE训练方法,实现故障特征提取和识别。此外,对所提方法的误差上下限进行了理论分析,证明了所提方法的有效性。在NASA轴承和风机案例上进行了验证,并与多个方法进行了对比,结果表明所提方法能够识别更多的故障样本,且诊断结果的可靠性更高。最后,对全文进行了总结,并对未来研究进行了展望。