行星耦合混合动力传动系统（Planetary Coupling Hybrid Transmission,PCHT）作为新能源汽车特别是混合动力汽车（Plug-in Hybrid Electric Vehicle,PHEV）常用的核心部件,能够为车辆提供灵活的动力耦合方式、紧凑的结构布置和高效的传动效率,从而得到了广泛的应用。然而,其复杂结构为模式切换品质带来了诸多挑战,深入研究行星耦合系统扭振特性、并在此基础上设计协调控制器,对提升模式切换过程平顺性具有重要的理论意义和工程价值。本文以某型行星耦合PHEV为对象,展开考虑扭振特性的行星耦合PHEV模式切换协调控制研究。（1）针对行星耦合PHEV模式切换过程中存在多源宽频段激励耦合进而引发较大瞬态扭振的问题,以轮齿广义转动角度为动力学变量,建立考虑齿轮非线性动态啮合刚度的PCHT扭振模型,以及电机、发动机、离合器等动力部件的模型,为模式切换动力学分析提供基础。（2）选取PHEV在行进间启动发动机的典型模式切换工况为研究对象,建立纯电模式切换到混动模式的分阶段动力学方程,并基于连续小波变换展开全频段下系统瞬态扭振特性分析。结果表明,齿轮非线性动态啮合刚度这一系统内激励与动力部件转矩波动的外激励相耦合,加剧了模式切换过程中100～5000Hz高频的瞬态扭振,对传动系统的稳定性造成影响。（3）充分考虑由纯电模式到混动模式（Electric Mode to Hybrid Mode,EM-to-HM）模式切换过程的离散-连续特性,基于混合逻辑动态的混杂建模方式,结合模型预测控制,设计考虑扭振特性（Torsional Vibration of Meshing Gear,G-based）的行星耦合PHEV模式切换混杂模型预测控制策略（Hybrid Model Predictive Control,HMPC）,并选用混合整数线性规划（Mixed Integer Linear Program,MILP）的方法求解HMPC预测步长内的最优控制序列,最终实现G-based HMPC方法有效抑制了整车冲击度和PCHT扭振。（4）搭建基于NI架构的硬件在环（Hardware in the loop,Hi L）测试平台,验证G-based HMPC的控制效果的有效性和实用性。该控制方法将整车冲击度控制6.91m/s~3以下,同时抑制了约23.39%的模式切换瞬态扭振的均方根值。