1881-1886年,法国数学家J. H. Poincare (1854-1912),发表了四篇关于微分方程所确定的积分曲线的论文,首次在微分方程求解过程中引入定性思想,为微分方程解的性质的讨论和应用开辟了新的天地.同时期,俄国数学家A. M. Liapunov (1857-1918)提出了常微分方程稳定性理论亦称运动稳定性理论,在具体问题的研究中进,一步完善和发展了定性理论.随后二百多年,经过各国数学家不懈的努力,微分方程定性理论发展迅速,产生了众多的学科分支,研究的方程也从线性发展到非线性,由低阶发展到高阶.这些领域构建的微分方程模型能比较精确的描述宏观和微观世界,在应用领域引起了广泛的关注.微分方程的定性理论和应用因此成为近年来研究的热点问题之一.在微分方程定性理论的研究中,微分算子谱理论和分数阶微分方程伴随着分形学、生物学、自动控制、物理学、分数控制系统与分数控制器,流变学,电分析化学等学科的飞速发展.受到了众多学者的关注,有了突破性的发展.其中Dirac算子在描述量子力学中的能量和原子的内力问题中是十分重要的,由于力学系统受到外力的干扰或原子系统受到外电磁场的作用,都可能使得原系统不再连续,造成描述该系统的方程中的特征函数具有间断点,这一物理现象抽象为带有转移条件的Dirac系统.目前Dirac系统的特征值及其性质还少有人研究,文[110]研究了具有转移条件的一个简单形式(对角型)的Dirac系统的逆谱问题,关于一般形式的具有转移条件的Dirac系统的谱问题,如相应的Dirac算子的自伴性、特征函数的完备性等,迄今为止尚未发现有相应结果出现.19世纪以来,伴随着广义算子理论的兴起和发展,分数阶微分理论在理论和应用上都获得了突飞猛进的发展,出现了较多的专著和论文集,研究的方向众多,各个分支都有了一定的发展,见参考文献[1]、[25]、[26]、[79]等.但是由于分数阶微积分算子具有非局部性,作为积分算子的核又是奇异的,利用整数阶微分方程的理论和方法来研究分数阶微分系统非常困难,因而有必要建立分数阶微积分的独立的理论.由于其计算的复杂性,对它们某些物理意义的阐述还未得到普遍认可,所以总的来说相对于整数阶微分方程理论,分数阶微分方程理论的研究口前仍处于起步阶段.分数阶微分方程的定性理论和应用也是近年来研究的热点之一,是分数阶微积分最直接的应用之一,在众多自然学科领域有着广泛的应用.分数阶微分方程的研究内容比较丰富,但是分数阶微分、积分方程的理论研究还不太完善,定性理论的研究成果相对较少,许多理论正处于期待研究的状态.本文共分为六章,主要研究转移性条件下的Dirac系统的基本解和特征值的性质,几类含有弱奇异核的积分不等式及其在分数阶微分系统中的应用,矩阵哈密顿系统解的振动性质,非线性分数阶微分方程的振动性准则和含混合非线性项的二阶微分方程的广义变分振动性准则.这些研究结果大都已经发表在国外重要的学术期刊上,如《Appl. Math.Comput.》(SCI)、《Abstr.Appl.Anal.》(SCI)、《Discrete Dyn.Nat.Soc.》(SCI)、《Adv.Difference Equ.》(SCI)、《J.Appl.Math.》(SCI)等.第一章简要介绍了微分方程定性理论的历史背景,着重讲述了微分算子谱理论和分数阶微分方程定性理论的发展史,并分成五小节分别介绍了每章研究的问题、方法和结论.第二章主要研究带有一个内部奇异点的Dirac算子的谱问题,在该奇异点处,我们加上了转移性条件,然后考虑带转移条件的Dirac系统的谱问题.其中§2.2给出Dirac系统的变换形式,§2.3给出了要研究的谱问题,52.4研究了由边界条件和转移性条件在合适的Hilbert空间中所定义的算子,并讨论了算子的特征值；§2.5讨论了Dirac系统的基本解及其性质,讨论了Wronski行列式的零点与所讨论的Dirac问题的特征值的对应关系以及特征值的重数,最后§2.6,给出了豫解算子以及Green函数.第三章主要讨论了几类含有弱奇异核的积分不等式及其在分数阶微分系统中的应用.其中§3.2建立了一类含有弱奇异核的不连续函数的积分不等式及其在脉冲分数阶微分系统中的应用,由于弱奇异核的存在,含有不连续函数的不等式的研究方法与经典的Gronwall-Bellman-Bihari型不等式的研究方法相当不同,主要利用Mittag-Leffler函数Eβ(·)来进行研究,并利用逐次迭代法来建立新型的不连续函数积分不等式.§3.4得到了两类含弱奇异核的Gronwall-Bellman型不等式,其中第二类含有时滞项.并将它们用在分数阶微分方程解的有界性等性质的研究上.第四章研究向量形式的哈密顿系统的振动性,首先在§4.2中,我们利用矩阵空间上的单调泛函以及负保持泛函,结合利用Riccati变换和积分均值方法,给出哈密顿系统(4.1)的振动性的区间准则,这些准则只依赖于系数矩阵在一个子区间列上的性质,从而推广改进了许多现有的结果；其次在§4.3中利用一个保振动性的线性变换,以及推广的Riccati变换和积分均值方法,我们建立了哈密顿系统(4.1)的振动性准则,推广改进了现有的许多结果,并简化了已知定理的证明；最后,给出几个例子,说明我们结果的准确性.第五章研究了两类非线性分数阶微分方程的振动性准则.§5.2我们讨论了一类新的分数阶微分方程的振动性判据,对于非线性项f(u)进行了不同的假设,推出来不同的区间型振动性判据,与以往研究的结论不同.不同点主要在于这些结论依赖的条件是半直线的一列区间,而不是整条半直线.§5.3从Riemann-Liouville型分数阶导数和Caputo型分数阶导数两个方面,得到了一类含混合非线性项的分数阶微分方程的振动性准则,并给出几个例子来验证定理的有效性.第六章采用Leighton勺变分原理主要研究了一类含混合非线性项的二阶微分方程的广义变分振动性准则,重点是与广义能量函数(广义的(＆+1)次能量函数)密切相关的半线性方程的振动性判定,它们推广了文中所列参考文献的结果.本章最后给出了几个例子来验证主要定理的有效性.