该学位论文结合国防科工委"十·五"基础预研项目"复杂机构卫星智能自适应逆控制技术的研究"以及国家自然科学基金项目"一类基于智能自适应逆控制的复杂系统研究与应用",主要以挠性航天器姿控系统为对象,对该类系统旋转动力学模型的建立、分类、近似逆控制方法及其在挠性航天器旋转机动控制中的应用等方面进行系统和深入的研究.首先,采用基本坐标变换和朗格朗日动力学方程推导了中心刚体带单梁式附件、中心刚体带多梁式附件、中心刚体带多梁连体附件、中心刚体带单薄板式附件和中心刚体带多薄板式附件的带简单挠性附件航天器单轴旋转动力学模型,并且所有情况均考虑了关节柔性.其次,在考虑关节柔性的基础上,研究了一类所有结构均为柔性(包括关节柔性)的大型挠性航天器三轴旋转动力学模型,这个模型是采用浮动坐标系、欧拉变换和拉格朗日动力学方程得到的.针对直接逆控制具有无法考虑控制受限以及控制受限对控制性能的影响大等缺点,并能使直接逆控制方法能应用于一般实际系统中,该文提出了近似逆控制方法和最优近似逆控制方法的概念和一种实现方法.对于线性定常系统,首先按照逆系统方法得到系统的逆,然后按照控制系统期望的跟踪(调节)性能和一定的关系来得到系统的近似逆控制律.考虑到控制输入受限对近似逆控制性能的影响,在直接近似逆控制的基础上,继续提出和实现了线性定常系统基于动态规划方法的最优近似逆控制方法;对于线性时变系统,采用了控制器成形的基本思想,得到系统的离散时间表达形式和近似逆系统的基本形状,并通过动态规划方法得到了系统的近似逆;对于非线性系统,同样采用控制器成形方法,得到了计算相对简单的,具有一定实际意义的近似逆系统和近似逆控制器.最后,通过一个单轴气浮台挠性航天器模型,在简单分析其动力学特点之后,分别考虑系统模态全知、柔性附件模态未知和除本体模态外,其它模态均未知的近似逆控制和最优近似逆控制方法,采用了基于刚柔耦合力矩估计的控制系统设计方法,实现了该类航天器的旋转机动控制,仿真结果一方面验证了近似逆控制和最优近似逆控制在该类控制系统设计中的有效性,并给出了今后需要继续改进的方向.