行星齿轮传动系统具有承载能力大、传动比大、传递效率高等优点,广泛应用于高速小功率以及低速大扭矩装备中,如齿轮传动涡轮风扇（GTF）发动机、风力发电机、工业机器人、医疗检测设备等相关机械。齿轮副啮合刚度的时变性,造成传动系统的内部激励,是机械装备的主要振动源之一。本文基于弹性力学中的势能法,改进渐开线齿廓行星齿轮啮合刚度计算的精度,在此基础上考虑修形的影响,建立精确的行星齿轮时变啮合刚度计算模型,并采用多种方法进行了对比验证;将精确的时变啮合刚度引入到行星齿轮传动系统动力学模型中,并采用有限单元法计入齿圈的柔性,分析修形及齿圈柔性对系统振动响应的影响,为精密齿轮机构的修形设计提供理论依据。论文的主要研究内容及结论如下:（1）基于弹性力学中的势能法,考虑行星齿轮副内齿圈变形和延长啮合效应的影响,建立了改进的渐开线齿廓行星齿轮啮合刚度计算模型,并采用二维有限元方法、文献对比及KISSsoft软件等方式验证了改进模型的有效性。研究结果表明:改进的啮合刚度模型具有较高的计算精度且相比有限元方法具有较高的计算效率;内啮合齿轮副的延长啮合现象相比外啮合齿轮副更加明显。（2）考虑齿廓修形和齿向修形两种修形方式的耦合影响,基于切片法建立行星齿轮啮合刚度求解模型,并通过三维有限元方法、KISSsoft软件等方式验证模型的有效性。基于提出的啮合刚度模型,分析不同修形方式及参数对行星齿轮时变啮合刚度的影响,进而采用遗传算法等优化方法获得行星齿轮最优修形参数。研究结果表明:齿廓修形使啮合刚度波动减小;齿向修形使齿面载荷分配更加均匀,使载荷及接触应力往齿面中心集中;同时采用这两种修形方式有利于齿轮系统的平稳运转,抵消弹性变形及制造、安装误差等带来的影响。（3）基于集中质量法,将系统中的各运动构件模拟为集中质量点,每个集中质量点含有6个自由度,并将它们之间的连接模拟为弹簧与阻尼连接。考虑齿轮副时变啮合刚度激励,建立行星齿轮系统的弯-扭-轴-摆耦合动力学模型,计算系统固有特性及动态响应,并分析时变啮合刚度、修形方式及参数对系统振动特性的影响。研究结果表明:齿轮修形方式及参数对系统动力学特性具有重要影响,本文提出的修形参数优化方法可以降低齿轮系统的振动响应,尤其对于高速齿轮传动,而不合理的修形将使系统的振动加剧。（4）基于有限单元法,对不同梁单元模型求解内齿圈固有特性的结果与实验结果进行对比;采用曲梁单元模拟内齿圈、集中质量点模拟其他部件,建立行星齿轮系统的刚柔耦合模型,分析齿圈柔性对行星齿轮动力学特性的影响。研究结果表明:本文采用的曲梁单元具有较高的计算精度,齿圈柔性影响系统的共振频率及幅值,使共振转速有减小的趋势,从而导致共振峰发生偏移。