航天器为了完成各种预定的空间飞行任务（如编队飞行、非合作目标的抓捕、空间碎片的跟踪清理等），均需要进行姿态的机动或者跟踪。而随着航天科技的不断进步，以及对航天器所执行的任务要求变得日益复杂，航天器所携带的设备种类（如太阳能帆板、侦查相机等）也越发的多样化。在轨运行的航天器，由于所携带的挠性附件的振动、燃料的消耗、受到各种外部扰动（如重力梯度力矩等）的作用，导致航天器姿态控制系统成为了含有转动惯量不确定性、外部扰动的非线性系统，而且航天器执行机构所能提供的控制力矩可能会存在幅值的限制。因此对航天器进行姿态控制时必须考虑所有这些因素对系统的不利影响。本文以挠性航天器姿态控制任务中的大角度姿态机动和姿态跟踪这两个问题分别进行了研究，主要的研究内容有：首先，分别用欧拉角法和四元数法建立了挠性航天器的姿态运动学模型，通过对两种描述方法的优缺点进行分析比较，在控制器的设计中选择合适的姿态描述方法；并给出了相应挠性航天器的动力学方程。其次，对于挠性航天器的在执行姿态机动任务时，考虑到系统中存在的参数不确定性、外部扰动等因素，利用自适应Backstepping控制方法设计了用于姿态机动的控制器；通过具体的数值仿真结果可知，在该控制律的作用下，航天器能够完成预定的大角度姿态机动任务，使得闭环系统对参数不确定性和外部扰动有很好的鲁棒性。最后，对于挠性航天器在进行姿态跟踪时，设计了一个自适应Backstepping姿态跟踪控制器，并通过仿真对闭环系统的动态性能进行了验证；然后考虑航天器存在控制输入受限的情况下，在已经设计的控制器基础上进行改进而引入一个辅助变量来对控制输入饱和进行补偿，设计了一个抗饱和的姿态跟踪控制器，数值仿真结果表明，所设计的抗饱和姿态跟踪控制器能够有效处理执行机构饱和的问题。