在旋转机械转子-轴承系统中,复合故障发生的概率往往要大于单一故障,并且发生复合故障时,能够准确识别故障类型,以便尽早确定维修计划,防止意外事故的发生是重中之重,故相比于研究单一故障,研究复合故障更有意义。同时,研究的复合故障诊断方法还应向下兼容,也应具备对单一故障的诊断能力。在当前由大数据驱动的数字化智能时代,如何实现研究转子-轴承复合旋转机械故障系统的智能化诊断具有显著的现实意义。“特征提取”以及“模式识别”是轴承系统故障诊断中的两个核心问题,现行的通过先验知识来对故障信号进行特征提取的方法极大地限制了系统故障诊断的精准率和自动化流程。本文通过深度学习模型在"特征提取"和"模式识别"方面的良好经验特性,来对转子-轴承机械的复合故障信息来进行辨识。本文在已有的复合旋转机械的信号降噪方法以及故障诊断方法的基础上进行研究,分别对信号降噪方法进行了优化并改进了两种较为新型的智能故障诊断方法。本文的研究内容主要概括如下:1.首先,介绍了国内外在旋转机械故障诊断技术方面的研究现状,并简述了当前的深度学习在旋转机械故障诊断中的应用及前景,并对深度学习在旋转机械故障中的诊断方法做了归纳总结。基于此,提出了本文的结构框架。2.由于采集的振动信号中含有大量噪声,故需要做降噪处理;本文在变模态分解（Variable Mode Decomposition,VMD）的基础上设计了一种新型的自适应阈值的降噪方法。通过对经VMD分解后的本征模态函数（Intrinsic Mode Function,IMF）对信息进行平均排熵运算,然后去掉大于平均排列熵的IMF分量,再将剩余IMF的分量进行连续小波降噪处理,最后将降噪后的分量结合进行信号的重构,从而完成了对噪声信号的自适应阈值降噪。3.由于深度学习网络具备极好的自动特征提取和故障识别的特点,并且支持向量机（Support Vector Machine,SVM）在训练数据较少的情况下分类效果比较理想;故本文在残差神经网络Res Net的基础上提出了改进的SVM-Res Net神经网络,通过将降噪后的信号特征数据输入到Res Net模型中来提取输入振动信号的高级特征,依此来作为SVM分类器的输入从而来训练故障分类模型,并使用遗传算法来对SVM的超参数进行优化;结果表明改进后的神经网络的测试集结果准确度为99%,相比于Res Net的91.26%和SVM的79.5%的准确率有了显著的提升。4.针对较多的深度神经网络模型参数多且计算量大,导致无法使用算力相对较低的嵌入式设备来实时对设备状态进行监测的问题;本文在第五章提出了一种深度压缩感知卷积神经网络的轻量级模型（Deep Compress Sensing Convolutional Neural Network,DCSCNN）,使用1×1卷积核以及全局平均池化层来构建fire模块以达到极大减少模型参数的目的;实验结果表明本文提出的DCSNN模型参数仅为54102个相比于VGG16的18357544个参数和Res Net34中的25468564个参数,有了显著的减小;同时,DCSNN在CWRU轴承数据库上的10种故障识别的模式别率达到了100%。