齿轮副是机械设备中最为常用的动力和运动传递装置,其力学行为和工作性能直接影响着机械系统的整体性能和可靠性。由于齿轮的受力情况相当复杂,即使精细设计的齿轮箱也难免出现故障,这种不期望的故障可能导致严重的经济损失甚至危及生命,因而对齿轮的早期故障特征进行分析并尽早识别齿轮早期故障具有重要的工程意义。本文以一个试验台齿轮转子系统为研究对象,建立齿轮副啮合模型及齿轮转子系统有限元模型,探讨齿根裂纹故障对齿轮啮合刚度和系统振动响应的影响,并通过试验对理论结果进行分析和对比。论文的主要研究内容如下：(1)对啮合刚度的三种求解方法,即变形法、能量法和有限元法进行详细的介绍,在传统能量法求啮合刚度的基础上提出改进能量法。通过变形法、改进能量法和有限元三种啮合刚度求解方法的对比表明,有限元法可以考虑更多的实际因素,计算结果较为准确,但计算效率较低。传统的能量法将轮齿视为基圆上的悬臂梁,在轮齿较多或较少时会产生很大的误差,而改进能量法考虑了真实的齿根过渡曲线,将轮齿视为齿根圆上的悬臂梁,更加符合轮齿的形状和受力情况,计算结果更为准确。(2)考虑较为真实的裂纹扩展路径和齿根裂纹对轮齿有效厚度的削弱作用,求解含齿根裂纹的齿轮啮合刚度,分析了裂纹深度、宽度、起始位置和扩展方向对齿轮啮合刚度的影响。研究结果表明,采用直线来模拟裂纹的扩展路径是合理的；在裂纹深度较大时应采用抛物线作为裂纹对轮齿有效厚度削弱的限制线。随着裂纹深度和宽度的增加,啮合刚度的降低幅度增加；随着裂纹起始位置角的增大,啮合刚度的降低幅度减小；随着裂纹扩展方向角的增大,啮合刚度先减小后增大。(3)探讨了齿根裂纹前后系统振动响应的变化以及不同裂纹参数对系统振动响应的影响。研究结果表明,裂纹出现后系统振动响应发生变化,时域波形中出现了以裂纹齿轮转动周期为间隔的周期性冲击,在啮合频率及其谐波附近出现边频,并且冲击、边频以及统计量的幅值随着裂纹深度和宽度的增加而增大,随裂纹起始位置角的增大而减小,随裂纹扩展方向角的增大先增加后减小。(4)考虑由轮齿弹性变形导致的延长啮合效应,基于有限元模型,分析了延长啮合对齿轮啮合刚度和系统振动响应的影响。分析结果表明,考虑延长啮合效应后,单双齿交替时啮合刚度不再是突变的而是渐变的,并且随着扭矩的增大,延长啮合现象越来越显著。另外,考虑延长啮合效应后,系统振动响应的时域和的频域特征也发生改变。(5)通过实验对理论分析进行验证,寻找有效识别早期裂纹故障的方法。研究表明,裂纹出现后,实验和仿真信号的瞬时能量在时间分布上产生周期性冲击,并且随着裂纹深度的增加,冲击能量的幅值越来越大。因而,通过Hilbert瞬时能量的变化可以较为轻松的检测齿轮裂纹故障。