随着航天技术的快速发展,小型航天器及其编队系统成为现代航天领域的一个重要发展方向。小型航天器及其编队系统具有发射灵活、研制成本低、系统冗余性强等优点。为保证航天任务的实现,有效可靠的姿态控制算法是其核心技术。航天器姿控模型具有非线性特性,而且会受到转动惯量不确定、外界干扰以及多种故障的影响,对航天器姿控的准确性和稳定性等产生负面影响。对此,本文基于终端滑模控制技术,考虑外界干扰、模型参数不确定、敏感器失效及执行器故障等问题,对小型航天器及其编队系统的有限时间姿态控制问题开展研究。论文主要内容如下:首先,基于终端滑模和自适应估计技术,对单星级航天器的有限时间姿态跟踪控制及被动容错控制进行了研究。对不同形式终端滑模面在航天器姿控系统的适用性问题进行了研究,证明了一般终端滑模面比快速终端滑模面更适合于单位四元数法描述的航天器姿控系统。同时结合新的连续自适应估计律,实现了航天器姿态的有限时间连续跟踪控制,进一步抑制了控制抖振的产生。在执行器部分效益损失故障下,基于鲁棒自适应补偿策略,设计了有限时间被动容错控制器,通过仿真验证了所提算法的有效性。其次,考虑角速度不可测问题,设计了有限时间状态观测器,实现了单星级航天器的有限时间输出反馈跟踪控制。在有限时间状态观测器设计过程中结合了自适应估计手段,从而无需四元数导数上界的先验信息。基于航天器姿态运动学方程,设计了角速度数值计算算法,实现了对未知角速度的有限时间估计。进而结合连续自适应手段,设计了航天器的有限时间输出反馈控制器。同时考虑控制输入约束问题,完成了输入约束下的控制系统稳定性分析。通过仿真结果分析,说明了所设计的角速度估计算法和姿态控制算法的有效性。再次,考虑外界干扰和系统转动惯量不确定,提出了基于干扰观测器的分散式编队有限时间姿态同步控制策略。通过将姿态控制模型整理为一阶系统形式,结合自适应估计技术和等效输出注入滑模理论,设计了新的有限时间干扰观测器,实现了对系统干扰的有限时间估计,进而基于干扰补偿机制设计了编队的姿态同步控制器。还研究了编队中部分航天器出现执行器故障的问题,说明了所设计的编队控制器也具有良好的容错控制能力。仿真结果说明了所设计的干扰观测器和姿态控制器的有效性。最后,针对角速度不可测的分布式航天器编队系统,提出了有向拓扑下编队的有限时间姿态同步控制策略。设计了新的连续自适应状态观测器以及改进的角速度数值计算算法,更好地实现了对未知角速度的有限时间估计。基于邻居平均姿态和对领航者状态的有限时间估计,计算了每颗跟随航天器的参考指令信息。再结合连续自适应估计技术以及新设计的连续自适应干扰观测器,完成了分布式编队的有限时间姿态同步控制器设计。仿真结果说明了所设计策略的有效性。