旋转机械的状态监测和故障诊断已经成为世界各国的重要研究课题，其中机械故障的特征提取和故障类型识别成为一直以来研究的关键问题。在特征提取方面，经验模式分解(Empirical Mode Decomposition, EMD)时频分析方法作为近年来分析非平稳、非线性信号的一个重大突破，被广泛应用到旋转机械振动信号的分析与处理当中。然而EMD理论算法的发展还处在“成长”阶段，需要进一步研究才能趋于完善。基于微分的经验模式分解(Differential-based Empirical Mode Decomposition, DEMD)时频分析方法是在EMD理论基础上进行改进的方法，通过对原始信号进行微分使得信号中的不同频率成分的比重改变，有利于将信号中频率相近的成分或相对微弱的高频成分提取出来，以此达到有效改善EMD分解的模式混叠问题。本文对DEMD时频分析方法进行了深入研究。在此基础上，针对DEMD分解过程中出现的端点效应等问题提出了解决方案。并且将抑制端点效应后DEMD时频分析方法应用到旋转机械故障诊断过程当中。针对DEMD存在的端点效应问题，提出了基于HMM误差校正与神经网络延拓的抑制DEMD端点效应的方法。首先，利用神经网络数据预测方法对端点以内的部分原始数据进行估计，同时对端点外数据进行预测，计算这种方法估计的数据与真实数据的误差序列。再用HMM方法建立估计误差序列模型，用模型参数预测延拓后数据的误差。最后用神经网络延拓数据减去HMM预测的误差数据得到新的校正后的延拓数据。仿真与实验证明此方法能够较好的抑制DEMD的端点效应，提高DEMD的分解精度。针对在噪声环境下微弱高频有用信号的故障特征难以提取的问题，提出了一种基于DEMD和小波渐进半软阈值去噪的方法。首先，用DEMD对带有噪声的故障信号进行分解，得到各本征模函数(Intrinsic Mode Function, IMF)。然后用小波渐进半软阈值去噪方法对各IMF分量进行处理，得到去噪后的IMF分量。最后用去噪后的IMF分量重构信号，得到去噪后的振动信号。此方法能达到比直接用小波去噪更好的去噪效果。在旋转机械故障诊断的故障类型分类识别方面，提出一种基于DEMD和隐马尔可夫模型(Hidden Markov Mode, HMM)的旋转机械故障诊断方法。针对旋转机械的单一故障，先对故障信号进行DEMD分解，从分解后的信号中提取瞬时能量作为故障特征向量。然后，将得到的故障特征向量分别输入HMM分类器进行模式识别，输出各故障状态的似然概率值，以最大似然概率所对应的故障状态作为诊断结果，实现旋转机械故障识别。针对旋转机械的耦合故障，利用DEMD分解振动信号后，提取瞬时能量谱与Hilbert边际谱特征，构成二维时频特征向量，输入2D-HMM分类器，输出识别结果。这样就能从时域和频域两个角度描述信号，实现旋转机械耦合故障的识别、分类。