本文主要研究了采用相对轨道根数描述的卫星编队飞行的相对动力学、编队队形的优化设计和编队队形燃料优化控制，其中队形控制包括队形机动控制和队形保持控制。本文推导了较精确的包含J2项摄动和大气阻力摄动参考轨道为椭圆轨道的卫星编队相对运动状态转移方程，该状态转移方程是利用相对轨道根数来描述。 本文分别针对两星编队和多星编队，提出了一种队形长期稳定的优化设计方法。文中分别以空间圆形编队和星下点圆形编队为例进行优化设计，优化结果表明利用这种优化设计方法设计的队形在各种摄动力下能够长期保持稳定。 文中采用的控制方法是模型预测控制。模型预测控制算法是一种在线滚动优化的闭环控制算法，模型预测控制鲁棒性能较好，仿真结果表明该控制算法接近于燃料最优，且能够在各种干扰情况下达到控制任务要求。