空天飞行器(ASV)是各国正在大力发展的新型航空航天飞行器,它们在运行中表现出的多任务、多工作模式、大范围高速机动等特点使得控制系统设计成为一项极具挑战的研究课题。围绕这一基础科学问题,本文在空天飞行器建模与分析、不确定非线性系统控制和自主控制系统设计三个方面开展了较为深入的研究。首先,根据国内外公开发表的文献资料建立起ASV超声速和高超声速飞行条件下6自由度数学模型。该模型包含完整的动力学方程和运动学方程,其中气动力系数和力矩系数是迎角,马赫数及气动舵面偏角的函数,发动机模型为吸气发动机和变推力火箭发动机的组合推进装置,飞行器的质心、惯性矩是飞行器质量的时变函数。开环分析表明整个模型能够体现出ASV复杂的非线性、耦合性以及快速时变性等特点,具有一定的代表性,可以满足未来ASV先进制导和控制等问题的理论研究和仿真验证需要。其次,基于此平台研究了ASV的飞行控制系统设计问题。轨迹线性化控制(TLC)是一种新颖有效的非线性跟踪和解耦控制方法,文中首先对它的设计思想和理论基础进行回顾。然后根据奇异摄动理论,将ASV的飞行控制系统分成快慢回路,并分别为它们设计TLC控制器。最后在ASV高超声速飞行条件下进行仿真验证,以检验该控制系统的有效性和鲁棒性。接着,通过理论分析找出系统中存在的不确定对当前TLC方法产生不利影响的机理,指出随着不确定的增大,TLC方法性能会不断降低直至失效。为了解决这个问题,本文基于补偿思想提出一种新的TLC控制策略和控制结构,并首先利用非线性干扰观测器对于不确定的估计能力加以实现,给出一种基于非线性干扰观测器的轨迹线性化控制新方法。基于Lyapunov理论证明出闭环系统所有误差信号均以指数形式收敛至零。数值例子和ASV的仿真验证结果表明,新方法不仅有效而且能够大大提高不确定条件下TLC的控制性能和鲁棒性。随后,利用神经网络对未知非线性函数的逼近能力,提出一种新的鲁棒自适应轨迹线性化(RATLC)控制结构。首先利用径向基神经网络来实现这一控制策略,设计出神经网络自适应调节律,采用Lyapunov方法严格证明出在自适应调节律作用下闭环系统所有误差信号最终有界。最后将所得结果推广至单隐层神经网络。高精度地逼近系统中存在的不确定,可大大提高控制效果,为此本文研究了两种新的神经网络干扰观测器技术。该技术具有广泛的适用性,可与已有的很多控制方法结合来提高它们在不确定条件下的控制性能,因此该研究结果对于发展不确定非线性系统逼近策略具有重要的借鉴意义。在此基础上,提出新的基于神经网络干扰观测器的RATLC控制结构,设计出合适的自适应调节律并利用Lyapunov稳定性理论进行了严格的证明。上述所有RATLC方案均在ASV高超声速飞行条件下进行仿真验证,仿真结果表明这些控制算法不仅有效,而且可以获得非常优异的控制性能。因此RATLC策略使得当前TLC方法获得很大的发展。最后,研究了ASV自主式控制系统体系结构的设计问题。通过对多智能体技术的简单回顾指出该技术用于ASV自主控制系统设计的可行性,对ASV自主控制系统做出需求分析,采用多智能体技术设计出ASV的自主控制系统,并对整个系统的工作原理和各个主体的具体功能做出详细讨论。通过与深空一号自主系统的对比研究,指出新系统在智能性,鲁棒性、移植性和扩展性等方面的优势。