深空探测器由于任务持续时间长、飞行距离远,一旦出现系统或部件故障很难进行在轨维修。为了提高深空探测器控制系统的安全性和可靠性,本文以探测器姿态控制系统执行机构部件故障为潜在的工程应用背景,对深空探测器自主姿态容错控制方法进行了较系统地研究。论文主要研究工作如下:首先,提出了一种针对深空探测器执行机构故障的在线诊断方法。考虑到探测器姿态控制系统本身是非线性系统,以及在轨运行受到干扰和建模误差的影响,采用适用于复杂非线性系统的BP(Back Propagation)神经网络直接对突变故障进行在线诊断;另一方面,设计基于Super-Twisting算法的二阶滑模观测器,在抑制干扰的同时,对执行机构缓变故障进行诊断。然后,设计了一种基于自适应迭代学习的容错控制方法。当探测器对小行星进行绕飞观测时,不免受到不规则小行星引力、太阳光压等重复性干扰影响,在考虑上述干扰情况下,针对可能出现的飞轮故障设计了基于自适应迭代学习算法的被动容错控制器,保证探测器能够顺利完成绕飞观测以及定向任务,同时满足一定的姿态精度要求。接着,发展了一种基于结构模型逆的主动容错控制方法。考虑到被动容错只针对既定故障有效的局限性,在之前所设计的BP神经网络故障诊断的基础上,设计基于改进结构模型逆的主动容错控制算法,在结构模型逆的基础上,融入径向基函数(RBF,Radial Basis Function)神经网络对控制器参数进行在线调整,使故障后的姿态系统仍然具有良好的动态性能。最后,给出了一种不需要故障先验知识的直接模型参考自适应算法。不论在被动容错还是主动容错中,都或多或少需要故障的先验知识,然而有些时候需要在不知道确切故障信息的情况下仍能保证系统的动态性能,于是设计了基于直接模型参考自适应的控制算法,将满足多种模态要求的基本控制器和自适应控制器相结合,保证系统在轻微故障情形下的良好跟踪性能。