柔性结构材料（如柔性太阳帆板和大型天线等）因具有轻质量、低耗能及经济性好的优点而被广泛运用于航天器中。为了完成航天任务,航天器需要频繁地大角度快速旋转机动。在复杂的太空环境中,外部干扰和航天器自身的姿态机动都会导致柔性附件振动。由于大型柔性附件的阻尼较小,其振动很难在短时间内自然衰减。这些不理想的连续过激振动会影响柔性航天器系统的稳定性和控制精度,更严重的会导致柔性附件的断裂,从而减少航天器的使用寿命。航天器的快速姿态机动导致系统结构参数发生变化。从数学上看,柔性航天器系统是具有无穷维状态空间的分布参数系统。因此,柔性航天器是一个刚柔耦合、参数不确定、具有无穷维状态空间且受外部干扰影响的复杂系统。结合实际工程,柔性航天器的执行机构通常还带有死区、饱和等不光滑非线性特征。此外,柔性航天器往往需要限制姿态角跟踪误差以确保可以精准定向,这些不利因素导致柔性航天器姿态机动中的主动振动控制设计具有一定的难度。结合理论研究和实际工程,本文对柔性航天器姿态机动中的振动抑制问题进行深入研究。本论文的主要创新和内容如下:运用哈密尔顿原理和变分原理,推导出受外部干扰影响的柔性航天器系统的动力学模型为一组耦合的偏微分方程-常微分方程。基于原始无穷维动力学模型,使用李雅普诺夫直接法设计基于干扰观测器的边界控制器,以实现在航天器完成姿态机动的同时抑制柔性附件的振动,且有效处理外部干扰的影响。不同于传统的模态控制方法,设计的边界控制器可以控制所有的系统模态,并且可以避免控制溢出不稳定问题。值得注意的是在设计的控制方案中所有的输入信号均可由传感器直接测得,不需要使用任何算法来估计输入信号,因此该控制方案可以避免噪声放大的风险。此外,该控制方法仅需系统边界处的传感器和控制器,这降低了控制实现的难度。随后,运用李雅普诺夫稳定性理论和C₀半群理论,严格证明了闭环系统的适定性和指数稳定性。最后,数值仿真结果证明了设计的控制方案对受外部干扰影响的柔性航天器系统具有良好的控制效果。针对参数不确定且受外部干扰影响的柔性航天器系统,采用自适应技术和鲁棒控制策略设计自适应边界控制器来同时实现振动抑制和姿态控制。其后,构造三个参数自适应律以补偿系统参数不确定性。此外,设计一个辅助输入信号和一个干扰自适应律来抵消未知的时变外部干扰对系统的影响。该干扰抑制技术成功地放宽了对外部干扰的要求,在这里仅仅需要确保外部干扰有界即可。随后,对闭环系统的一致有界稳定性和适定性进行了数学证明。最后,仿真结果验证了设计的自适应边界控制具有良好的减振和姿态调节能力,并且该方案对外部干扰和系统参数不确定性具有很强的鲁棒性。为了解决存在非对称输入饱和、非对称输出约束、参数不确定且受外部干扰影响的柔性航天器系统的振动抑制和姿态控制问题,设计一个基于非对称障碍李雅普诺夫函数的自适应边界控制器。通过在控制器设计过程中嵌入非对称障碍李雅普诺夫函数来确保姿态跟踪误差始终处于期望的开区间内。此外,引进一个辅助系统来分析和处理非对称输入饱和对系统的影响。其后,构造一个参数自适应律来估计系统参数并建立一个干扰观测器来估计外部干扰的上界。随后,结合符号函数和设计的干扰观测器来抵消外部干扰的影响。输入饱和及构造的干扰观测器可以减弱输入震颤。最后,基于李雅普诺夫分析,证明了闭环系统的一致有界稳定性。仿真结果证明了给出的控制方案的可行性。针对存在未知输入死区、参数不确定且受外部干扰影响的柔性航天器系统,运用自适应反步技术,设计一个自适应神经网络边界控制器来确保闭环系统一致有界稳定。随后,采用径向基函数神经网络来处理输入死区影响并逼近不确定系统参数。此外,构造干扰观测器来抵消外部干扰的影响,所构造的干扰观测器结构简单并且可以避免输入震颤问题。最后,运用李雅普诺夫稳定性理论,证明了设计的控制方案可以使得柔性附件稳定在其原始位置附近并且姿态角到达期望角位置附近。数值仿真结果验证了给出的控制方案的有效性。