直齿轮副传动系统以其瞬时传动比稳定、传动效率高、寿命长等优点被广泛应用于现代机械工业的传动机构中。由于恶劣工况、疲劳失效、磨损和装配等因素影响,极易造成部件的局部故障,严重威胁设备的安全可靠运行。为保证设备安全平稳运行,需要利用传动系统的振动信号进行状态监测。齿轮系统的振动信号特征非常复杂,将直接影响状态监测结果的准确性。因此,为保证直齿轮副传动系统状态监测的准确性,本文通过建立故障直齿轮传动系统动力学模型,详细讨论不同工况和不同故障下齿轮系统的振动特性,为直齿轮系统的状态监测提供理论依据。主要内容如下:受服役环境影响,直齿轮传动系统工作工况多变,故障齿轮系统振动响应为非平稳信号,这使得齿轮系统状态识别变得更加困难。通过拉格朗日方程建立复合故障直齿轮传动系统动力学模型,以势能法和附加位移确定齿轮副啮合刚度和轴承局部故障,采用短时傅里叶变换处理齿轮系统产生的非平稳信号,深入分析齿轮系统在变速、变载、速度波动和载荷波动等变工况下的动态响应。结果发现:可变工况下齿轮传动系统振动频域上出现轴承内外滚道故障频率、齿轮副啮合频率和各自谐波频率;加速工况下的故障频率和频率幅值都随着速度增加而增加,加载工况下的故障频率保持不变,频率幅值增大;速度和载荷在目标设置值上下波动时,出现明显的故障频率波动和幅值波动。直齿轮传动系统中出现故障后,产生的冲击在传递过程中直接影响齿轮副和轴承之间耦合关系,而现有模型并未考虑此问题。因此,基于前一章所构建直齿轮系统动力学模型,引入传动轴的陀螺运动模型,建立考虑齿轮与轴承耦合关系的直齿轮系统动力学模型,深入分析耦合关系对齿轮系统振动特性的影响规律。结果表明:轴承的异步振动会引发传动轴的陀螺运动,降低齿轮副的啮合刚度;并且局部故障会使传动轴中心距和不对中偏角发生突变,造成啮合刚度进一步降低;当齿轮副或轴承存在单点故障时,频谱图上同时出现齿轮副和轴承的特征频率和谐波频率。直齿轮传动系统实际工作过程中,受工作环境或工况影响,轴承工作温度升高,外圈与轴承座之间出现间隙,以致传动轴的陀螺运动更加显著,严重影响齿轮系统的振动响应。因此,基于所建立考虑耦合关系的直齿轮传动系统动力学模型,通过赫兹理论和库仑摩擦模型计算外圈与轴承座之间的碰磨力,从而将外圈与轴承座配合间隙引入齿轮系统动力学模型,揭示配合间隙对齿轮系统振动特性的影响规律。结果表明:配合间隙使齿轮副啮合过程变得混乱,轴承外滚道故障频率对系统时域响应的调幅作用增强;由于衰减次数的增加,齿轮副和轴承的超谐波响应被激发,且随着轴承配合间隙的增大,响应频谱中将出现更高阶次的超谐波频率;提高输入转速虽然使齿轮系统振动幅值增大,但超谐波响应被抑制,齿轮系统主要以基频频率振动。为验证上述分析结果的准确性,开展故障直齿轮传动系统振动特性实验,并提出一种有效识别系统故障类型和故障程度的OWF-TSCNN诊断模型。在该模型中,通过多传感器信息融合采集振动信号,利用双树复小波和最优加权因子方法（OWF）实现数据层预处理和数据层融合;基于1D-CNN和2D-CNN构建双流CNN（TSCNN）模型,分别将振动信号小波时频图和FFT谱作为输入;训练后的特征在全连接层拼接,并由SVM进行分类。与OWF-1DCNN和OWF-2DCNN模型相比后发现,OWF-TSCNN模型的时间消耗增加了14.5%-26.6%,网络的收敛速度有所降低,但其在训练集和测试集的准确率显著上升,分别达到100%和99.83%;损失熵和过拟合率也大大降低,特征提取能力和泛化能力明显增加,对故障类型和故障程度均达到较高的诊断准确率。