近空间飞行器(Near Space Vehicle,NSV)具有机动性强,速度快以及气动参数时变等特性,从而有效的非线性控制器可显著提高其安全性与可靠性。然而,研究此类飞行器的非线性控制器将面临诸多难点。NSV控制系统存在不可忽视的非线性特性,各个运动学方程间存在严重耦合关系。与此同时,各气动参数和变量之间相互作用进一步加大控制器设计的难度。为了设计出具有高精度和强鲁棒镇定能力的控制器,需要在设计NSV控制系统时充分考虑系统结构不确定性和未知外部扰动。尽管很多重要参数都可以从样机试验和高速风洞等模拟中获得,但未知的真实飞行环境是无法完全事先预知。此外,控制系统的跟踪性能也必须不断提高与改进,以满足NSV执行各种特定任务时的性能要求。本文围绕NSV的控制问题,给出了NSV的数学模型,并研究了NSV在具有外部干扰、参数摄动、输入饱和以及舵机故障综合影响下的姿态控制方法。论文主要研究内容如下:首先,研究了NSV六自由度十二状态飞行运动数学模型,为了后续研究方便,根据奇异摄动理论和时标分离原则给出了具有仿射非线性方程形式的NSV姿态运动模型方程。然后,研究了基于终端滑模干扰观测器(TSMDO)的backsteeping姿态控制器。所设计的终端滑模干扰观测器可在有限时间内逼近NSV模型外部不确定干扰,且利用一阶滑模微分器避免backstepping设计控制律时微分爆炸问题,通过李雅普洛夫方法严格证明了闭环系统的稳定性。最后仿真数据表明,本文所给出的基于终端滑模干扰观测器的自适应backstepping滑模控制律可以保证存在外部干扰的多输入多输出NSV系统有满意的跟踪性和鲁棒性。其次,研究了一类具有结构不确定性及外部扰动的多输入多输出非线性系统的边界层滑模控制方法并应用于NSV高精度姿态控制。考虑NSV状态方程参数摄动和复合干扰上界未知的情况,提出基于干扰观测器的边界层自适应滑模控制器从而抵消传统滑模控制中颤振对控制系统的影响,使跟踪误差趋近于零。同时,通过李雅普洛夫方法严格证明了闭环系统稳定性。仿真结果表明,在系统参数摄动和干扰作用下能保证姿态控制的稳定性。接着,研究了一种基于干扰观测器的backstepping自适应动态面控制方法。针对具有外部扰动和输入饱和的多输入多输出NSV系统,提出一种新的Nussbaum干扰观测器有效的处理了外部未知干扰和系统不确定性。此外,将滤波器与自适应动态面相结合来消除传统滑模控制中的颤振现象。对于执行器存在的输入饱和,引入辅助系统来抵消输入饱和对闭环系统产生的影响。通过李雅普洛夫方法证明了闭环系统的所有信号半全局一致有界收敛,跟踪误差与干扰误差都收敛到接近于零的一个小的邻域里。仿真实例表明,在具有外部干扰及输入饱和的情况下控制系统可以得到满意的跟踪性能。最后,给出了一种具有输入饱和、外部干扰和舵机故障的NSV容错滑模控制方法。由于快慢回路系统中外部干扰的数量级远远大于系统不确定项的数量级,采用非线性干扰观测器技术处理外部干扰;针对飞行器舵面饱和受限的问题,利用舵机偏转角输出上界设计控制律,确保控制输出在给定范围内;同时利用径向基神经网络构造一种补偿器对舵机发生故障情况下进行容错补偿,进而解决NSV舵机故障问题。通过李雅普洛夫方法证明了闭环系统的所有信号半全局一致有界收敛。仿真结果表明,在具有外部干扰、输入饱和及执行器故障的情况下控制器可得到满意的控制效果。