转子结构作为机械产品当中最为常见的一种结构,广泛存在于各种动力机械以及化工机械当中。随着转子系统的不断运行,转子系统出现故障的概率也进一步增大,如何对转子故障进行诊断就成为了一项非常重要的研究内容。故障的发生常常表现为系统非线性的进一步增强。因此,通过对转子系统的非线性特征进行实时定量的检测,我们就大概可以知道故障的严重程度以及发生位置,从而为下一步的检修做好充分准备。因此,对转子系统的非线性特征进行分析研究具有重要的理论意义和现实价值。非线性输出频率响应函数是一种在Volterra级数基础上发展起来的一种非线性分析方法,其在机械系统的非线性设计和优化以及故障诊断方面都具有非常大的优势。尤其是在机械系统故障诊断方面,该方法具有简单便捷高效的特点,在诸多领域都成功得到了应用。本文主要以转子系统典型故障为研究对象,基于转子动力学基本理论,以非线性输出频率响应函数为研究方法,围绕着故障诊断以及诊断方法展开研究。论文的主要研究内容包括:（1）以转子裂纹故障为研究对象,建立了转子系统裂纹故障有限元模型。利用Newmark-β方法对动力学模型进行求解,得到不同转子裂纹深度下系统的振动响应信号。利用非线性输出频率响应函数对振动信号进一步进行分析,分析发现了转子裂纹的深度和发生位置与NOFRFs的相关性,依据该相关性可以对裂纹深度以及位置进行定量分析。最终利用搭建的转子裂纹故障实验台验证了仿真分析的正确性。（2）针对现有非线性输出频率响应函数及其相关指标的特点,结合特征加权以及贡献率相关理论,提出了非线性输出频率响应函数加权贡献率的概念,并对理论公式进行了详细推导。详细介绍了非线性输出频率响应函数加权贡献率在微弱故障特征增强方面的优势。对比分析了非线性输出频率响应函数加权贡献率与已有相关指标的区别和联系。最后从仿真和实验两个方面验证了该方法在转子裂纹故障诊断方面的可行性。（3）根据转静件碰摩的特点,采用库仑摩擦定律的Kuhn-Tucker条件以及增广的拉格朗日方法来处理接触约束条件,建立了转子系统碰摩故障动力学模型,推导得到了系统的运动微分方程。利用Newton-Raphson迭代求解得到了不同碰摩条件下系统振动响应的数值解。利用本文提出的算法求解得到了不同碰摩条件下转子碰摩系统的非线性输出频率响应函数加权贡献率,发现了该指标与碰摩条件之间的联系。最终通过搭建转子碰摩故障实验台,验证了理论分析的正确性。本文在非线性输出频率响应函数的理论发展以及具体应用方面进行了创新。尤其是文章中所提出的非线性输出频率响应函数加权贡献率的概念,是在前人所做工作基础上的总结和创新,该方法的提出对于微弱故障特征的提取和增强具有重要的理论意义。通过对典型转子故障进行仿真和实验研究,验证了该方法在转子故障诊断领域的优势,也进一步显示出了该方法所拥有的经济价值。