该文以现代非线性动力学和转子动力学理论为基础,以几种耦合故障转子为对象,研究了系统的非线性动力学行为和故障特征等问题,主要工作有以下几个方面:将多初始点分岔分析法应用于刚性转子-轴承系统的研究中,分析了从多初始点出发系统响应随参数变化的非线性现象,各吸引子的吸引域在相空间中的变化情况,以及从单初始点出发系统在相空间中的运动规律.结果表明:多初始点分岔分析法能够发现比单初始点算法更加丰富的非线性现象,在多吸引子共存的相空间,不同的初始点系统稳态响应表现出不同的运动,根据相空间中吸引域的变化规律对传统单初始点算法得出的的非线性现象从机理上做了很好的解释.建立了裂纹转子系统的力学模型,详细研究了参数变化对裂纹转子系统动力学行为的影响,同时还研究了裂纹转子系统的稳定性问题.在工作转速较高时,裂纹转子系统有周期3窗口或周期3解枝,而且裂纹越深周期3窗口越大,裂纹角和转子偏心都是影响转子动力学特性的重要参数.经过稳定性分析后,确认了系统运动中含有倍周期分岔、霍普夫分岔等多种分岔形式.随着裂纹深度的增加,产生失稳的阈值会逐渐降低,当裂纹深度发展到一定大小以后,系统的稳定性明显降低.