高约束模式（High Confinement Mode,H模）是未来托卡马克磁约束受控核聚变的基本运行模式,但是其经常伴随着自发的边缘局域模（Edge Localized Mode,ELM）,这会严重灼蚀托卡马克偏滤器靶板和第一壁。另一方面,ELM在排除等离子体杂质方面有着有益的作用。因此如何能够在维持H模的同时,保留ELM在排除杂质方面的作用,同时最大程度地降低其灼蚀影响是目前磁约束聚变研究最为关心的问题之一。本文1从相动力学理论出发,研究环形磁约束等离子体边缘区的非线性相动力学行为,结合理论分析和数值模拟研究了边缘磁流体模式演化的深层次物理机制。本文首先研究了EE×BB剪切流诱导的理想扭曲模的非线性相动力学。这里的相位指速度扰动和磁场扰动流函数的相位差。通过定义一个无量纲参数——纯扭曲模增长率与E×B剪切率的比值,来衡量电流密度引起的相位锁相和流剪切引起的相位失谐之间的竞争关系。当两者比值大于1时,相位将锁定在一个固定值,此时扭曲模存在本征解。当比值小于1时,相位进入到滑动或振荡状态,此时扭曲模无本征解。通过此非线性相动力学方法能够更直观地解释EE×BB剪切流对扭曲模致稳作用的复杂动力学过程。接下来,本文通过引入流体中涡旋波耦合的概念来分析环形等离子体边缘区联合模式的激发问题。除了常见的径向电场剪切解耦径向扰动速度和扰动位移,本文发现径向电场曲率倾向于使径向扰动速度和扰动位移实现相干,从而对磁流体模式有一个驱动作用。本文一个突出的结果是分析论证了径向电场曲率可以去稳原本稳定的扭曲模,从而形成一个涡旋-扭曲模联合模式。另外,径向电场的剪切和曲率的协同效应会显著影响涡旋-剥离气球模联合模式的稳定性边界,这提供了一种可能的ELMy H模与QH（Quiescent H mode）转换机制。本文最后研究了E×B剪切剖面对H模边缘磁流体模式引起的能量输运的影响。在径向电场曲率变化不大的前提下,当增强外剪切区域剪切时,增长率谱较窄,最不稳定模式的环向模数更低。在非线性阶段,磁流体模式趋向于达到一个相干的振荡态,类似于实验上带边缘谐振荡（Edge-Harmonic-Oscillation,EHO）的QH模状态。当增强内剪切区域剪切时,低环向模数的磁流体模式更加不稳定,而增长率谱较宽。在非线性阶段,边缘磁流体模式趋向于达到一个非相干的振荡状态,这类似于宽谱的QH模状态。本文所得到的结果加深了对边缘区磁流体模式相关物理现象的理解,对未来聚变堆先进运行模式物理设计和实验研究具有重要的参考和指导意义。