轴承、齿轮、转子等旋转机械作为现代机械设备的关键部件,在工业领域中得到广泛的应用。在集成化及精密化的发展趋势下,旋转机械的工作环境也愈加复杂多变,长时间运行在高速、过载等恶劣工况条件下很容易出现损坏。因此有必要对旋转机械的健康状态进行有效准确的诊断和评估。本文以旋转机械的振动信号为研究对象,利用对称极坐标图像良好的可视化能力,从特征提取、特征选择、深度学习三个方面开展有监督学习及半监督学习的故障诊断方法研究,并通过实测的轴承、齿轮、转子的实验数据来证明方法的可行性及泛化性。论文的主要内容如下:（1）针对卷积神经网络模型存在特征提取能力差且参数计算量过大的问题,结合对称极坐标图像提出一种基于可选择核的深度可分离卷积模型的故障识别方法。首先对原始数据进行预处理,将其转换成对称极坐标灰度图像。然后可选择核单元通过对多尺度卷积核的通道赋予权重来加大有用特征的提取,减少无关特征的干扰。最后应用softmax分类器来实现故障的识别。通过实验分析和对比研究表明该方法较现有的深度学习方法有更高的诊断精度。（2）针对传统的特征提取方法难以全面地反映信号故障特征的问题,应用多尺度及变分模态分解方法在不同时间序列及频段下对振动信号进行处理,将处理后的信号转换成对称极坐标灰度图像,并提取其纹理特征。由于现有的特征筛选方法很难对每类的特征重要性进行排序,为此提出一种新的特征排序方法来选择最优的特征子集,将所选择的敏感特征输入到随机森林分类器中来实现故障分类。轴承和齿轮的实验数据证明该方法在不同工况下具有优良的泛化能力和稳定性。（3）由于前两章的诊断方法都需要足够的标记样本数量,但实际工业应用中存在标签数据缺乏的问题,为此设计一种半监督图卷积网络模型来实现自动特征提取。同时,为有效地避免参数的选取从而节省时间,研究一种新的图像处理技术来构建拓扑图,将其转换成邻接矩阵和度矩阵后,输入到半监督图卷积网络中实现故障分类。三组不同的实验数据表明该方法可以在少量标签样本下有效地实现旋转机械的半监督故障诊断,与其它方法的对比也进一步证明该方法具有一定的工程应用价值。