随着空间技术的发展,卫星姿态控制理论在非合作交会接近领域的研究具备了新的意义与需求。本文以空间攻防为课题背景,结合跟踪星负载轴指向目标星的任务要求,主要研究了卫星大角度机动、姿态跟瞄稳定与挠性抑制和使用新型大力矩大动量姿控执行机构三方面的问题。三轴卫星姿态控制本质上要解决的是针对非线性、强耦合模型对象的控制设计问题。在结合实际星体的构型特性后,本文一开始给出了挠性三轴多体卫星动力学模型和分别基于欧拉角、四元数的运动学模型。在此基础上,进行了一系列的方案与算法设计的探索性工作:首先,利用Lyapunov控制律设计方法,对传统的类PD四元数反馈姿态大角度机动策略进行两方面的改造。为摆脱对模型前馈的依赖,引入欧拉轴分解方法,将拟欧拉机动法应用到本课题的设计上,对路径优选的特性进行了机理分析。为解决系统局限在原点稳定和机动快速性缺陷,设计提出了一种改进的四元数反馈姿态机动律。给出了稳定性证明与仿真分析。结果表明,后者为本课题背景下设计方案选择的优先选择。接着,通过对挠性多体三轴稳定卫星模型的显示处理,基于合理假设,设计提出了姿态跟瞄、挠性抑制的反演滑模控制器,并证明了稳定性。进一步的,为处理三轴解耦问题,结合扩张状态观测器的理论,对控制器进行了改造,完成了对不确定项的跟踪补偿。证明新控制器的稳定性后,导出了其参数整定方案。数值仿真结果达到了任务要求,并吻合了前述理论分析。特别的,改造后的方案在挠性抑制和控制精度上具有显著优势。最后,提出了一套组合控制方案,兼顾了改进的四元数反馈机动法与反演滑模+扩张状态观测器方法的过程优点。根据完整任务过程的仿真结果,确立了使用五棱锥型控制力矩陀螺的必要性。分析了执行机构模型与奇异特性,对伪逆加零运动操纵律进行了鲁棒性设计。最终仿真的星体、帆板等的稳定性、稳态性能以及执行机构的输出指标与奇异避免等均达到了任务需求,提升了课题的工程实际意义。