本文以柔性航天器为研究对象,重点研究了柔性航天器系统建模、受周期干扰时柔性附件振动控制及姿态机动过程中的柔性附件主动振动控制等方面内容,主要研究工作如下:针对柔性航天器的建模问题,给出了统一的簇状航天器的基本结构,根据Newton-Euler法推导了矢量形式的航天器姿态动力学方程,应用有限元法描述柔性体的变形并使用Lagrange方法推导了柔性附件振动方程。采用约束模态法给出了系统动力学方程的解。为方便分析使用,对模型进行了合理简化。分析了压电智能材料对系统动力学方程的影响,给出了带压电智能材料的系统动力学方程,为后面柔性附件的振动分析和控制奠定理论基础。为了解决柔性航天器稳定状态下受周期干扰引起附件持续振动的问题,提出了基于级数展开周期控制力矩进行补偿的振动控制方案。以干扰力矩频率与系统频率的比值、补偿力矩幅值与干扰力矩幅值比值为主要参数。为获得最佳控制效果,提出了残余振动一次准则和残余振动二次准则。根据两种准则分别得到四种周期控制力矩在不同频率比下得到最佳振动控制效果的参数。仿真结果显示,四种力矩每个频率比都对应一个最优幅值比。频率比较低时按两种准则均可得到很好的振动抑制效果,一次准则所需计算量小,但在频率比较大时振动控制效果下降,二次准则所需计算量大,但在频率比较大时振动控制效果依然较好。为解决在轨航天器柔性附件残余振动难以有效控制的问题,引入了分力合成主动振动控制方法。但目前分力合成方法的研究全都基于无阻尼系统,为了将分力合成方法应用范围扩大至有阻尼系统,首先提出了全适应分力合成主动振动控制方法(Fully Adaptive Component Synthesis Vibration Suppression method,FACSVS)。依据实际工程的不同需求,该方法包括正向分力合成方法和混合分力合成方法。给出了若干相关定理和推论,并做了理论证明。随后,针对FACSVS方法对频率变动的鲁棒性问题,给出了理论证明。最后,以动量轮为执行器,在单轴气浮平台上对FACSVS方法进行了实验验证。结果表明,该方法对柔性附件有很好的振动控制效果。相关研究成果完善了分力合成的理论,扩大了分力合成理论的应用范围。针对全适应分力合成方法合力离散且不连续,进而造成执行器输出误差、使全适应分力合成方法准确性降低的问题,给出了一种合成力连续化的优化方法。该方法通过零-极点补偿原理,通过Lambert W函数计算Stieltjes积分参数,将第二分力转化成由零逐渐变化的连续力,达到合力均匀化处理效果的同时仍保留了振动控制的作用,该方法改善了合力不连续的不足。考虑到FACSVS方法对频率变动鲁棒性有限的问题,提出了与Steiglitz-mcBride频率辨识方法相结合使用的策略,通过对系统低阶频率的准确辨识,提高了FACSVS方法的准确度。针对在轨航天器姿态机动中姿态控制器无法对柔性附件振动进行控制的问题,提出了将FACSVS方法与姿态控制相结合的策略。考虑到航天器存在参数变动和外干扰的情况,基于经典滑模变结构控制器,提出了一种与自适应控制律相结合的滑模变结构控制器。通过引入滑模边界层和力矩参数更新率,消除了输出力矩抖振以及对系统参数依赖的缺点。另外,针对执行器存在输出上限的问题,提出了另一种考虑执行器饱和且同时保证闭环系统稳定的自适应滑模控制器。最后,通过压电智能材料实现FACSVS方法与自适应变结构控制器的联合应用。仿真结果表明,未结合全适应分力合成方法时,姿态控制器无法很好的控制附件振动,而结合了全适应分力合成方法后,附件振动得到了很好的控制,使姿态精度得到了提高。