齿轮传动作为一种应用最为广泛的动力和运动传递装置,具有运动准确可靠、寿命长及传动效率高等明显的优势,从而被广泛应用于能源、交通与航天航空等领域内。目前,各种机械设备均朝着高稳定性与高静音化方向发展,而齿轮传动系统作为一种强非线性系统,对其进行非线性振动分析已然成为机械行业内的热点话题。因此,对齿轮系统的建模方法及其动力学特性进行研究具有重要的科技价值,可为以后的齿轮系统相关研究奠定基础。本文以单级齿轮传动系统为研究对象,从理论与实验两个角度出发。首先,分别建立齿轮-轴承及齿轮-轴承-转子系统的动力学模型,基于MATLAB仿真软件进行数值分析,研究了多种非线性因素下齿轮系统的振动特性;最后,通过齿轮实验台进行了实验验证。主要内容如下:（1）应用齿轮系统动力学建立了时变侧隙、齿面摩擦等多种因素的激励方程,并根据模型中的相关参数进行了简单的数值计算。通过拉格朗日方程建立了动态激励作用下的6自由度齿轮-轴承系统动力学模型,使用Newmark-β算法对动力学微分方程进行求解,完成了齿轮系统参数（偏心量、误差幅值、支撑刚度）对系统动态特性的分析。（2）以转子动力学与齿轮动力学为基础,充分考虑了传动轴与轴承等部件的弯扭耦合作用的影响,建立了 16自由度的齿轮-轴承-转子系统非线性弯扭耦合振动的动力学模型。通过获得的响应变化曲线分别研究了齿面摩擦系数、啮合刚度及传递误差等参数对齿轮系统振动特性的影响规律。研究表明:随着摩擦、刚度等参数的增大,系统的运动状态趋于复杂化,同时系统的振幅也明显地增大,这为以后的科研工作奠定了重要的理论基础。（3）建立齿轮-转子系统实验台,借助Labview软件与NI采集设备提取不同转速下齿轮的振动信号,得出不同转速下仿真数据与实验数据的均方值变化曲线;将实验信号进行傅里叶变换得到系统的频谱响应,对比分析仿真与实验的频域特性,通过上述分析来验证理论模型的正确性。