小型无人共轴双旋翼直升机因其载荷能力强、结构紧凑且具有悬停、垂直起降、高速飞行等能力而被广泛应用在军事、农业和科学研究等领域,这些应用需要共轴双旋翼直升机具有可靠和稳定的自主、半自主飞行控制系统,因此研究小型无人共轴双旋翼直升机的飞行控制具有巨大理论意义和应用价值。由于小型无人共轴双旋翼直升机系统的强耦合、欠驱动、开环不稳定、时变参数、强非线性、高阶多变量等特性,使得对于小型无人共轴双旋翼直升机的动力学建模和飞行控剌技术研究带来了重大挑战。无人直升机的飞行控制技术作为国防尖端技术,一直面临西方国家的技术封锁。目前,国内对于无人直升机的飞行控制技术研究大多还停留在传统控制方法层面,传统控制方法仅能满足无人直升机的小机动飞行和近悬停点飞行。本文以小型无人共轴双旋翼直升机（代号C5）为研究对象,将现代控制理论中能够解决多变量和状态约束问题的模型预测控制（Model predictive control,MPC）作为基本控制方法,并结合能够观测系统总扰动的扩张状态观测器（Extended state observer,ESO）以及擅长处理黑箱问题的强化学习（Reinforcement learning,RL）算法,为小型无人共轴双旋翼直升机C5设计一种具有良好指令跟踪性能和强抗干扰性能的姿态控制器和具有良好鲁棒性和自适应性的位置控制器。本文研究工作的简要论述如下:首先,为小型无人共轴双旋翼直升机C5建立简化的非线性数学模型,并根据泰勒公式将此模型进一步线性化得到线性时不变模型（LTI Model）和线性时变模型（LTV Model）。非线性模型的时域模型验证表明了所建立模型与真实直升机动态匹配度较高。然后,根据本文推导的基于状态空间方程的线性时变模型预测控制的算法公式,为共轴双旋翼直升机C5的姿态环设计了3种控制器,包括使用LTI模型作为预测模型的LTI MPC姿态控制器、使用LTV模型作为预测模型的LTV MPC姿态控制器以及本文提出的考虑了系统总扰动的以ESOLTV模型作为预测模型的ESOLTV MPC姿态控制器,通过数值仿真和三自由度直升机平台试验对比了3种控制器的指令跟踪性能和抗干扰性能,得出了不同预测模型会导致预测控制算法的性能产生差异的重要结论,验证了本文提出的ESOLTV MPC控制算法比一般MPC算法具有更加良好的指令跟踪能力和更强抗干扰能力。最后,将强化学习算法中能够输出连续动作的深度确定性策略梯度算法（Deep Deterministic Policy Gradient,DDPG）与LTI MPC算法结合,提出了一种能够实现实时自适应调整权重参数的DDPG MPC直升机水平位置控制算法。DDPG MPC算法解决了传统的LTI MPC算法中因为输出量权重参数固定而导致控制器在不同参考值下表现出巨大性能差异的问题。通过数值仿真,证明了在不同位置参考值下DDPG MPC位置控制器比传统MPC位置控制器具有更强的鲁棒性和自适应能力。