由于随机扰动在自然界中的普遍性,非线性动力系统的随机动力学行为一直是自然科学与工程领域的研究热点和难点之一。其主要原因在于,客观世界中随机性、非线性因素及它们之间的相互作用将导致在充分长的时间尺度上,系统的随机动力学行为与其确定性动力学行为之间产生大的偏差。大偏差现象是随机动力系统所特有的复杂现象——小概率事件经过长时间的演化可能变成有限概率甚至于大概率事件。目前,对于此类现象的认识还相当匮乏。本文旨在研究随机动力系统所特有的大偏差现象,以揭示客观世界中随机性与非线性因素之间的相互作用机理,以及由此产生的复杂性,所取得研究成果归纳如下:1)非双曲奇怪吸引子的离出机理:在非双曲奇怪吸引子内部,具有复杂的同宿相切结构,由噪声引起的吸引子形变,在主同宿切点处最为明显;在非双曲奇怪吸引子附近,存在多个鞍形周期轨道,其不变流形之间相互包含,形成了一个异宿轨道的交叉层次结构;选取主同宿切点作为整个离出过程的起点,计算出作用量函数的全局最小值和对应的最优离出路径,它与统计意义下的最有可能离出路径非常吻合;通过逐步分析噪声诱导下的涨落力以及辅助哈密顿系统的动量后发现,涨落力的每次大幅度波动,都伴随着最优离出路径从下一级不变流形向上一级不变流形的“跃迁”,并且,整个离出过程就是沿着此异宿流形的交叉层次结构逐级“跃迁”完成的;在弱噪声极限下,正是确定性系统的全局结构,为离出过程提供了机理性解释;除此之外,还分析了作用量分布具有复杂结构的原因,并给出了对应不同离出方式的离出轨线。2)FitzHugh-Nagumo模型穿越拟阈值流形的广义离出问题:选取由canard轨线确定的拟阈值流形作为边界,通过计算准势沿拟阈值流形的分布后发现:准势在拟阈值流形上存在最小值点,且此最小值点起到了经典离出问题中鞍点的作用——最优离出路径总是相切地趋于拟阈值流形,穿过准势的最小值点后,再沿着确定性系统的轨线,完成一次典型的放电过程;此外,在有限弱噪声的作用下,穿越拟阈值流形的离出位置,同样表现出了在典型鞍点结构中出现的单边分布,结合准势以及确定性系统的动力学行为,详细分析了此单边分布的形成原因;最后,考察了不同的噪声比值对广义离出问题所产生的影响,并发现,刻画神经元内部离子通道开、闭的热涨落噪声,对于神经元的放电起到主导作用,神经元内的离子运动越剧烈、通道内外的离子交换越频繁,动作电位的产生则越容易、放电率也就越高。3)拉格朗日流形拓扑结构中奇异性的计算:通过讨论Hamilton-Jacobi方程、输运方程以及Riccati方程的解的性态,分析了拉格朗日流形中出现奇异性的数学机理和几何意义,并在此基础上,针对每种奇异性,提出了各自的计算方法;具体来说,切换线是Hamilton-Jacobi方程粘性解的不可微点集向坐标平面的投影,因此,通过计算准势一阶偏导数的所有不连续点,可以确定切换线的位置;其次,由于准势的二阶导数描述了拉格朗日流形切空间的斜率,因此,焦散线可通过输运方程和Riccati方程解的发散来确定;为验证上述方法的可靠性,针对两类典型的动力系统,分别考察了其拉格朗日流形拓扑结构中存在的奇异性;特别地,对于Maier-Stein系统,重点研究了由系统参数变化导致的奇异性分岔现象。4)零噪声极限意义下的作用量函数的修正:为了计算有限噪声强度下的最优离出路径和离出位置,通过将噪声强度的一阶影响纳入至作用量的计算中,提出了修正的作用量函数,为实际统计结果的可靠性评估提供了理论依据。5)准势不可微点集的力学意义:通过考察随机Morris-Lecar系统分别在Type-Ⅰ和Type-Ⅱ可激性条件下的离出问题后发现,切换线将导致最优路径产生非光滑的的动力学行为;具体来说,当最优路径运动至切换线时,其无法穿过切换线,只能突然改变方向并沿着切换线运动;这种不连续性,本质上是因为,最优路径所满足的向量场,是一个非光滑的动力系统,因此,切换线实际上对应了力学和动力系统框架内的滑移集的概念;此外,在Type-Ⅱ可激性的条件下,对两种离出边界的选取方法进行了详细的分析和比较,并得出结论:从动力学亦或是能量的观点出发,选取canard轨线确定拟阈值流形作为离出边界更为合理。