针对目前对行星轮系故障的振动机理研究较少,且缺乏对故障状态下尤其是不同故障程度下行星齿轮箱系统故障特性的研究等问题,建立了行星轮系的故障动力学模型,通过对模型的求解,分析得到了行星轮系故障时系统响应的频谱特性。并针对行星轮系故障响应微弱、噪声污染严重、响应信号频谱的边带复杂、故障特征提取困难等问题,提出了一种基于频域信息交换的自适应随机共振故障诊断方法。通过对不同状态下的试验数据分析,验证了所建立模型的准确性及所提出故障诊断方法的有效性。本文的主要研究工作如下:(1)论述了行星轮系的结构特点及其故障诊断的难点,分析了目前相关研究所存在的问题,并引出了建立基于故障的行星齿轮系统动力学模型并提出高效的行星轮系微弱故障信号处理方法,对研究行星轮系故障机理及系统状态监测的重要意义。(2)建立了行星齿轮箱的集中参数动力学模型,考虑了系统运行时振动传输路径变化对采集信号的调制作用;齿轮副的时变啮合刚度用傅里叶级数表示,得到了行星齿轮箱啮合副在不同故障状态下的时变刚度表达式;通过对动力学模型的求解,得到了行星轮系不同故障状态下模型响应的频谱特性。(3)提出了基于频域信息交换的自适应随机共振方法,用于行星齿轮箱的故障诊断分析。频域信息交换克服了随机共振小参数条件的限制,且只对关心的频段进行处理从而避免了其他谐波分量的影响;应用蚁群算法自适应地优化双稳系统参数,实现与输入信号的最佳匹配。该方法对行星轮系响应信号的包络谱进行分析,可以避免复杂的边带分析。通过对仿真信号的处理分析,初步验证了该方法的有效性。(4)搭建了行星齿轮箱故障诊断试验台,通过试验与模型结果的对比分析,验证了本文所建立动力学模型的准确性。同时,应用本文提出的故障诊断方法处理试验信号,有效地提取出了信号的故障特征,验证了该方法对于行星轮系故障特征提取的有效性;通过与传统的变尺度随机共振方法进行对比分析,进一步验证了该方法用于行星齿轮箱故障诊断更为有效。(5)对本文的研究工作进行了总结,并对研究的不足之处提出了改进措施和进一步研究的方向。