应用多体航天器编队技术进行深空探测是21世纪空间技术发展的新趋势。而绳系卫星系统作为多体航天器编队中的一种特殊形式,与自由编队飞行相比具有控制精度高,节约燃料等优点,尤其适用于合成孔径雷达等空间观测任务,可以进一步提高人类深空探测的能力。但是由于系统的复杂性与多样性,需要根据具体的绳系卫星系统结构与目标,进行动力学建模分析与控制器设计来满足任务需求。本文在总结已有成果的基础上,以国家自然科学基金项目“深空环境下绳系卫星动力学建模与控制研究”为研究背景,对近距离绳系卫星系统的系绳平台姿态控制、相对位置控制及平动点附近的姿轨耦合控制问题进行了深入研究,论文主要包含以下三个部分内容:针对深空环境下多体旋转绳系卫星系绳平台的姿态控制问题,以改变平台旋转角速度并稳定速度变化引起的摆动角运动为控制目标,以最优性和鲁棒性为前提,研究了全驱动系统和欠驱动系统的鲁棒最优控制器设计,并进行了深入分析。给出了多体旋转绳系卫星系绳平台的姿态非线性运动方程,应用同步性理论对其进行了简化,以此为控制对象,首先考虑系统存在的未知干扰与不确定性问题,将最优控制理论、自适应理论和鲁棒误差符号积分方法相结合进行了鲁棒最优控制器的设计与分析,不仅考虑到最优性还能保证系统的鲁棒性。以此为基础,考虑无推力器的欠驱动情况,应用微分同胚映射理论将系统进行转化,进一步应用鲁棒最优控制方法设计了欠驱动系绳平台的姿态稳定控制器。通过对二体旋转绳系卫星系统和直连式三体绳系卫星系统进行仿真与对比分析,验证了控制器设计的有效性。针对深空环境下多体库仑卫星系统的相对位置控制问题,首先对二体及三体库仑卫星系统进行了动力学建模与分析。考虑到库仑推进器的控制输入饱和及外界干扰的存在,应用光滑函数近似饱和函数将系统进行增广,结合反步法提出了二体库仑卫星相对位置控制方法,并利用Nussbaum函数解决增广系统的控制系数时变引起的问题。在此基础上,考虑到库仑力的控制范围和卫星之间潜在的碰撞带来的系统状态有约束的问题,构造了状态限制辅助函数,应用反步法设计了控制受限下的二体库仑卫星系统的相对位置控制器。进一步考虑到无速度信息反馈的情况,结合滤波器的方法设计了库仑卫星相对位置输出反馈控制器。最后,考虑仅采用库仑力控制的一般三体库仑卫星系统的相对位置控制问题,由于其系统具有非线性、非仿射性和多约束等特殊条件,应用一般的辅助函数法进行设计存在一定困难,因此采用非线性预测控制方法设计了考虑多约束的三体库仑绳系卫星的相对位置控制器,最后通过仿真验证了上述控制器设计的有效性。论文最后一部分针对深空环境下长周期运动中二体绳系卫星姿态与轨道稳定控制问题进行了研究。为了进行具体分析,假设系统质心位于地-月系共线平动点附近。在限制性三体问题下,应用欧拉-拉格朗日方法建立了二体绳系卫星系统的非线性姿态轨道耦合动力学模型,并以此为控制对象设计了基于二次型最优问题的非线性SDRE控制器。考虑到在轨道运动中位置速度信息不易获得的情况,应用SDRE状态观测器理论对速度信息进行观测,并与非线性SDRE反馈控制方法结合,设计了非线性SDRE输出反馈控制器。接下来,考虑到长期运动过程中,空间中存在的干扰会对系统稳定造成影响,对太阳光压力、轨道偏心率和太阳引力摄动等主要干扰进行了分析。并针对考虑干扰影响的二体绳系卫星系统鲁棒控制问题,提出了将鲁棒控制问题转化为二次型最优控制问题的方法,通过对二次型最优问题的求解间接地得到鲁棒控制问题的控制器,由此得到二体绳系卫星系统姿轨耦合非线性鲁棒SDRE控制器,并进行了系统的稳定性分析。最后,通过数值仿真验证了所设计方法的有效性。