行星齿轮箱具有高传动比、结构紧凑、负载能力强等优点,被广泛应用于风力发电机、采矿机械等大型设备旋转上。然而,这些设备长期工作在恶劣的环境下,作为它们的传动部件,行星齿轮箱不可避免的会出现安全问题。目前,针对行星齿轮箱故障诊断方面的研究多是基于平稳工况的。但是,当行星齿轮箱工作在变转速工况下时,振动信号具有非线性、强调制、多分量的特点,极大地增加了故障诊断算法研究的难度。此外,现有的变转速工况行星齿轮箱故障识别算法还不是较多,且主要存在时频分辨率低、能量聚集性差、特征提取和故障识别难度高等方面的问题。为此,本文在同步压缩变换理论框架下,对变转速工况下的行星齿轮箱故障诊断问题进行了研究。主要从变转速工况行星齿轮箱振动信号模型建立、时频能量聚集算法推导、瞬时频率提取算法研究、故障特征识别算法分析及应用等方面入手,通过理论推导、仿真分析和实验验证,完成了一系列的研究工作:(1)根据齿轮箱的振动机理,结合行星齿轮箱的结构特点,建立了变转速工况下的行星齿轮箱振动信号模型,并分析了故障特征频率和对应的时频谱特点,为研究行星齿轮箱故障识别算法提供理论依据。(2)针对时频分辨率低、能量聚集性差等问题,在二阶同步压缩变换的基础上提出了一种基于分步迭代的同步压缩变换方法,能够生成时频分辨率更高和时频聚集性更强的结果,有利于故障表征。(3)针对瞬时频率提取算法存在估计精度不高的问题,提出了基于时变窗口旋转的同步压缩变换方法。并且,将该方法与谱峰检测法相结合来提取时变信号的瞬时频率,能够获得到精度更高的瞬时频率。(4)针对广义解调和阶次分析等方法存在的需要估计和定位所有分量的相位函数和瞬时转轴频率的问题,在基于分步迭代的同步压缩变换基础上进行了改进,提出了一种非角域重采样的故障识别方法。该方法仅需要估计到任意一条瞬时频率,就能获得直观清晰的分析结果。进一步地,将提出的方法应用到变转速工况行星齿轮箱故障诊断中,验证了算法的有效性。