随着航天事业的高速发展，中国在航天器的控制技术上投入的精力也越来越大。而在该领域中姿态控制越来越受到人们的关注，因为对空间中在轨飞行的航天器来说，会受到各种各样的干扰力矩，这些干扰力矩会影响跟踪精度，因此设计性能良好的控制器是该领域的重中之重。随着科技发展，很多情况下单颗航天器并不能达到预期的任务，因此航天器编队技术得到了快速发展。航天器编队飞行适用于很多太空任务，例如地球及大气的检测、地面测量、深空成像和探测、航天器的在轨维修和维护等。航天器编队飞行的概念就是用一群较小、成本较低以及协同合作的航天器代替一个大的航天器，其优势在于航天器编队飞行的灵活性和模块化。本文针对这方面主要做了以下几个方面研究。首先，对于航天器的运动模型，给出了欧拉角，四元数，旋转矩阵法的具体描述，以及一些性质和推导，因为本文主要研究的是姿态跟踪问题，并且本文通篇采用的是四元数描述法，在上面给出的模型的基础上推导出了姿态跟踪模型。在第二章最后一部分推导出了航天器编队飞行问题的四元数表示法。其次，本文是基于终端滑模理论设计终端滑模面，然后设计单颗卫星的姿态跟踪控制器，但是，涉及到终端滑模我们不得不考虑奇异的问题，因此在此基础上又设计了非奇异终端滑模，最后进行了仿真实验。然后，在前面的研究基础上，又考虑了转动惯量J存在的不确定性，因此本章在第三章的基础之上采用了自适应的方法，对J进行了处理，这部分采用Lyapunov直接法进行了证明，得到了有限时间收敛的严格证明，最后进行了仿真实验。最后，在单颗星问题的研究基础上，第五章研究设计了编队卫星的姿态协同控制律，选择了终端滑模控制器设计方法。最后进行了仿真实验。