齿轮箱作为旋转机械的重要组成部分,是现代工业不可或缺的一部分。其中的关键零部件轴承、齿轮不仅承担着较强的载荷与冲击,而且工况复杂、工作环境恶劣,因此极易出现故障。一旦轴承、齿轮出现了故障,没有及时发现,势必会影响整个机械系统的正常运转,严重时甚至会引发重大安全事故,出现人员伤亡的情况。因而,轴承、齿轮的健康状态监测与故障诊断已经引起了广泛的关注。基于振动分析的诊断方法是多种故障诊断方法中最直观、最有效的方法,也一直是故障诊断领域的研究热点。但是,实际采集的齿轮箱振动信号中不仅包含故障产生的瞬态成分和安装误差、齿轮啮合产生的谐波成分,还有很强的背景噪声。各成分相互混叠,给齿轮箱的故障特征提取造成了极大的困难。因此,需要研究从强噪声、多干扰的齿轮箱振动信号中提取各特征成分的有效方法。本文以齿轮箱为研究对象,以其关键零部件轴承和齿轮的故障特征成分提取为目标,着眼于稀疏优化模型物理意义和数学基础的研究、稀疏优化方法在故障特征提取中的应用基础研究。主要研究内容如下:（1）稀疏优化模型物理意义与数学基础研究。在分析了稀疏优化模型与最大后验概率（Maximum A Posteriori,MAP）估计关系的基础上,阐明了稀疏优化模型的物理意义和数学基础,充分体现出稀疏优化方法的有效性与可靠性。同时,鉴于MAP估计方法具有可解释强、稳定性高等诸多优良特性,提出了基于混合Laplace分布的MAP估计模型,并将其应用于轴承故障特征的提取中。通过对轴承仿真信号与轴承内圈、外圈、滚动体试验台信号的分析,验证了所提出的MAP估计模型在降低信号噪声水平方面的优越性以及在轴承故障特征提取方面的有效性。（2）非凸增强稀疏分解方法研究及其在齿轮故障诊断中的应用。以齿轮振动信号中齿轮瞬态成分与谐波成分的准确提取为目标,针对L1范数存在的幅值低估问题,研究了基于极小极大凹（Minimax-Concave,MC）非凸罚函数正则化的多分量稀疏分解模型,以实现重构信号的幅值增强。在稀疏字典构建方面,基于短时傅里叶变换与离散傅里叶变换构建稀疏表示字典,分别用于提取齿轮瞬态成分与谐波成分的稀疏特征。在罚函数选取方面,通过对比分析多种非凸罚函数在信号重构精度方面的效果,研究MC罚函数作为正则项构建稀疏优化模型。在模型优化求解方面,研究分裂增广拉格朗日收缩算法对多分量MC正则化稀疏表示模型进行优化求解,从而获得齿轮瞬态成分与谐波成分的稀疏表示系数。所提出的方法在齿轮故障诊断中的应用充分验证了其在故障特征提取与信号准确重构方面的优越性。（3）多分量保凸增强稀疏分解方法研究及其在齿轮箱故障特征提取中的应用。为了实现齿轮箱振动信号中轴承瞬态成分、齿轮瞬态成分与谐波成分的准确提取,提出了多分量保凸增强稀疏分解方法。在稀疏表示字典方面,鉴于轴承、齿轮瞬态成分在多种线性变换下均具有稀疏性,根据信号振荡特性构建了 Laplace小波基字典与Morlet小波基字典以分别获得轴承瞬态成分和齿轮瞬态成分的稀疏表示。在罚函数的研究方面,为了保证多分量模型的凸性,从而获得稳定的诊断结果,基于泛化极小极大凹（Generalized Minimax-Concave,GMC）罚函数推导构建了多分量保凸罚函数,并结合仿射函数与半正定矩阵的性质推导分析了多分量模型的保凸条件。在模型优化求解方面,根据稀疏表示模型的微分特性,研究前向后向分裂算法对各目标分量的稀疏系数进行求解,实现复合故障诊断。多组仿真与试验台信号均验证了所提出的多分量稀疏分解方法能够在未知齿轮箱振动信号中故障特征成分具体数目的情况下,实现齿轮箱复合故障信号的特征成分的准确提取,使齿轮箱的故障诊断结果更加可靠。综上所述,本文所提出的方法能够有效地从强背景噪声的故障振动信号中,提取关键零部件轴承和齿轮的故障特征,对于以轴承、齿轮为代表的齿轮箱关键零部件的故障诊断具有十分重要的理论意义与实用价值,为今后开发在线监测技术奠定坚实的基础。