耦合系统广泛存在于许多科学领域,具有重要的实际意义。耦合的存在增加了系统的复杂性,使得系统能够产生更为丰富、更为复杂的动力学行为。对于耦合系统的研究主要集中于讨论系统的动力学行为及其控制和同步,而这些研究都要以非线性动力系统的定性理论为基础。利用Lyapunov稳定性理论可以得到耦合系统振幅死亡发生的条件,系统各种形式同步解的存在条件等。而在振幅死亡的边界,系统具有丰富的动力学行为,通过对分支现象的讨论,我们可以得到向量场中各种不同的拓扑结构。　　本文运用特征值方法、中心流形定理、规范型方法、全局分支定理以及对称Hopf分支定理等理论和方法对耦合时滞系统的稳定性、全局Hopf分支、周期解的存在性以及时空模式、Bogdanov-Takens和双Hopf等高余维分支进行了研究。具体内容可分为下面几个部分:　　1.以时滞为参数,通过对耦合时滞系统平衡点处的特征方程和分支规范型的分析,得到了平衡点的局部渐近稳定区域和发生Hopf分支的条件以及分支方向和分支周期解的轨道渐近稳定性条件。对系统在所讨论平衡点处进行线性化,给出其对应的超越特征方程特征值的分布情况,利用Wei和Ruan给出的理论结果结合Routh-Hurwitz判别法得到了线性耦合的Mackey-Glass等系统相应不动点的局部稳定性。当系统平衡点的稳定性发生变化时,系统会经历分支。对上述几类耦合系统,仍然以时滞为参数研究了一类余维-1分支,即给出了Hopf分支的存在性;进一步,利用Hale的中心流形定理,Hassard等人的规范型方法以及Wei提出的计算时滞微分方程规范型的算法,给出了Hopf分支的性质。　　2.利用全局 Hopf分支定理和高维 Bendixson准则证明了线性耦合的Mackey-Glass系统Hopf分支的全局存在性。Wu建立的全局Hopf分支定理表明如果一个孤立中心处连通分支是无界的,利用Li和Muldowney给出的高维常微分方程组的Bendixson准则,可以证明相应的周期解及其周期都是有界的,那么对应的分支参数必须是无界的。这样就得到了全局Hopf分支。　　3.对于一些具有对称结构的耦合系统,得到了其对称Hopf分支的存在性,分支周期解的同步、反相同步、锁相、镜面反射、驻波等时空模式及其稳定性和分支方向。以时滞耦合的FitzHugh-Nagumo神经系统和时滞复振子网络为研究对象,利用Wu,Guo和Lamb发展的时滞微分方程的广义对称Hopf分支定理,详细展示了对称Hopf分支周期解的同步和反相同步等时空模式。特别是得到了时滞复振子网络锁相波、驻波和镜面反射波的共存性;结合Faria关于泛函微分方程中心流形和规范型的计算方法以及Golubitsky等人在专著中给出的常微分方程对称Hopf分支周期解性质的结论,进一步得出了上述各种形式周期解的稳定性和分支方向。　　4.给出了两类高余维分支的存在性条件及分支导致的局部拓扑结构的变化,发现了系统极限环、同宿轨以及三维环面的存在性。主要涉及到时滞耦合的FitzHugh-Nagumo神经系统的Bogdanov-Takens分支以及时滞耦合极限环振子的双Hopf分支。讨论系统对应线性部分特征值的情况,给出两种余维-2分支的临界值;参照Faria计算中心流形和规范型的方法和过程,计算出系统在奇异点处的规范型及其附近的分支集,给出了局部拓扑结构的完全分类。