机械设备故障诊断作为监测机械系统工作状态，保障机械设备正常运行的关键技术一直受到广泛关注。而齿轮箱作为整个机械系统的动力传递装置，其运行状态的好坏直接关系到整个机械系统的健康运转。因此齿轮箱故障诊断技术具有十分重要的工程价值。本文主要通过振动信号的处理来对齿轮箱故障诊断进行研究。零空间追踪算法是近几年出现的基于算子的信号分解方法，在分解非平稳信号和消噪方面有很好的效果。提出了基于S变换的时域边际谱，并结合零空间追踪算法对齿轮箱进行故障诊断，取得了很好的效果。本文首先叙述了齿轮箱故障诊断的研究与发展现状以及主要的故障诊断技术，然后介绍了齿轮箱的故障机理、主要故障类型、信号特征和常用的信号处理方法。接着详细阐述了零空间追踪算法的理论基础和计算过程，通过与EMD的仿真对比以及对加入噪声的调制信号的处理说明了NSP分解方法在分解信号、处理非平稳信号及消噪方面上的优越性。通过对轴承信号的分析循序渐进的提出基于S变换的时域边际谱，能够识别微弱冲击，对处理微弱故障信号有很好的效果。然后又提出了基于零空间追踪算法和S变换时域边际谱的齿轮箱故障诊断方法，通过对齿轮箱齿面磨损、保持架故障、滚动体故障、外圈磨损故障的诊断以及故障分类结果表明该方法能够很好的体现不同故障工况下的时频变化，并找到它们不同于正常工况的特征频率，符合故障频率理论值，成功的诊断出故障类型。尤其是滚动体故障的成功诊断进一步说明该方法对于诊断微弱故障是十分有效的。