随着分数阶微积分理论的不断成熟,分数阶混沌系统稳定性研究得到了国内外广大学者的关注。分数阶微积分在工程、化学、物理、生态等诸多领域表现出了巨大优势和广泛的应用前景,已经成为当前的热点研究领域。许多物理学过程都展现出分数阶动力学行为,实际研究表明用分数阶微分方程建模可以更确切的描述实际的物理学现象,因此很多真实的物理系统都可以更加精确地用基于分数阶微积分理论的分数阶系统描述。另外,混沌同步由于在通信领域的广泛应用得到了很快的发展,因而相继提出了很多种整数阶混沌系统的同步控制方法,如滑模变结构控制法、自适应控制法、模糊控制法、脉冲控制法和Backstepping控制法等,并进一步推广到了分数阶混沌系统。但是,这些方法只是对非线性系统稳定亦或是渐近稳定进行了研究。在实际应用当中,往往更多的时候是需要闭环系统能够在有限时间内稳定,因此更需要关注系统的有限时间控制。目前,分数阶非线性系统同步控制已经成为非线性系统研究的一个重要分支。本文的主要研究工作和创新点包括以下内容：1.给出了分数阶微积分的三种常用定义,在此基础上给出了相关引理的严格证明,在原有定理的基础上提出带时变系数矩阵的非线性系统稳定性分析新方法,并讨论了带扰动的非线性系统稳定性分析及同步控制。2.针对带未知参数的分数阶超混沌系统设计了自适应控制器,并以分数阶超混沌Chen系统和分数阶超混沌Lorenz系统为例实现了同步控制。基于分数阶Lyapunov稳定性理论构造了控制器以及分数阶的参数自适应规则,实现了两个超混沌系统的同步。在分数阶超混沌系统稳定性分析中利用了平方Lyapunov函数,提出了一个针对含时变系数矩阵的非线性分数阶系统稳定性判定方法。3.研究了分数阶混沌系统有限时间稳定性及其同步控制,基于Lyapunov分数阶稳定性理论提出了针对一类非线性分数阶混沌系统有限时间稳定的判定方法,与现有的结果相比更具有一般性,该理论的研究有助于掌握分数阶混沌系统的相关性质,同步控制方法也具有良好的鲁棒性能。应用该方法设计了同步控制器,在满足系统所有变量有界的情况下实现了驱动系统和响应系统的异结构有限时间同步。