小型四旋翼无人飞行器由于具有精确悬停、垂直起降以及机械结构简单等特点,已经成为众多研究机构的研究热点,无论是在军事领域,还是在民用领域,四旋翼无人机都有着广泛的应用。由于四旋翼无人飞行器是一个具有6自由度和4个控制输入的欠驱动系统,其数学模型具有强耦合、非线性、多变量等特点,以及建模不精确和外部干扰等不确定因素,均使得飞行控制复杂化。因此本文以反步法为基础,结合不同策略,研究与设计了四旋翼飞行器的控制系统,并利用仿真实验验证与分析了所设计系统的飞行性能。首先,将四旋翼无人飞行器看作刚体,选取合适的坐标系,分析了四旋翼无人飞行器空气动力学特性和飞行原理,在此基础上,推导并建立四旋翼飞行器的数学模型。其次,在不考虑不确定因素的情况下,详细分析了基于反步法的四旋翼无人飞行器飞行控制系统的设计。设计过程中,将四旋翼的控制系统结构分为位置环路和姿态环路分别进行设计。接着,针对飞行器姿态环路存在复合干扰的情况下,论文采用了基于反步法和RBF神经网络的控制策略。利用RBF神经网络对任意非线性连续函数具有逼近的特点,在控制系统设计过程中在线估计出复合干扰,同时对于逼近误差进行了补偿。最后,针对在位置和姿态环路均存在复合干扰的情况下,论文采用了基于反步法和ESO的控制策略。为避免反步设计过程中出现“微分爆炸”现象,提出了动态面策略,以及为提高系统鲁棒性,采用了滑模面;为减轻控制系统的复杂计算,对于系统中出现的复合干扰项,提出了ESO方法对其在线实时估计,并在控制律设计中实时补偿。