随着机电设备大型化、高速化与精密化程度的不断提高，状态监测与故障诊断技术对现代化工业生产越来越重要，而基于信号处理的故障特征提取方法是故障诊断领域的关键技术之一。目前，低噪声下平稳信号的故障特征提取方法已经较为成熟，而强背景噪声下，非线性非平稳信号的故障特征提取方法还处于发展阶段。设备的早期故障信号往往表现为非线性非平稳特性，并且受复杂的环境干扰，因此有效的强背景噪声下非线性非平稳信号的特征提取技术显得尤为重要。在众多的非平稳信号处理方法中，传统小波变换因其良好的处理效果已经被广泛应用于各个领域，但是依然存在平移不变性及抗混叠特性差等缺陷。双树复小波变换在继承了传统小波变换优点的情况下克服了诸多固有缺陷，具有更加广阔的研究与应用前景。本文将双树复小波变换与其他方法有机融合，从而获得更优的特征提取效果，并将其成功应用于机电设备的早期故障诊断中。论文主要包括以下内容:　　(1)阐述了双树复小波变换的基本原理，与传统离散小波变换相比较，讨论了其在平移不变性及抗频带混叠等特性上的优良特性。　　(2)利用振动信号在相邻层小波系数间的局部相似性，提出了双树复小波域相关滤波法，通过迭代过程进行自适应滤波，能够在达到良好降噪效果的同时保留微弱故障特征信息。　　(3)双树复小波变换传统阈值降噪方法对实虚部树系数单独处理，对强背景噪声下故障特征信号的提取效果欠佳。针对该问题，利用振动信号小波变换系数具有周期性及双树复小波小波系数模振荡小的特点，提出了双树复小波变换与非线性时间序列方法相结合的故障特征提取方法，并成功应用于轴承与齿轮早期故障诊断中。　　(4)弱故障信号小波变换系数的稀疏性是小波系数阈值降噪理论的依据。为了能够获得较为稀疏的小波系数，从另一角度出发，利用形态分量分析对故障信号的小波变换系数进行处理，提出了基于系数稀疏化的特征提取方法，并成功提取出了强背景噪声下的故障特征。　　(5)故障的智能识别是故障诊断的主要研究方向之一，也具有迫切的应用需求。目前，基于大数据的分析研究蓬勃发展，而小样本基础的故障自动识别依然存在许多问题。提出了基于双树复小波样本熵的故障特征向量提取方法，利用SVM分类法获得了较高的单一故障识别率。