在工作过程中，因各种原因导致系统内部结构参数在随机时刻发生突变的动力学系统被称为随机跳变系统。当系统的内部状态不完全可知或者其子状态变化的时间尺度不统一时，这种特殊的随机跳变系统也被称为奇异跳变系统。奇异跳变系统因其在工作过程中所表现出来的特殊性而倍受关注。一方面，结构参数满足Markov过程的随机跳变特性会对系统性能产生较大的影响；另一方面，内部状态变化速率的不一致性更符合具体工程应用的实际情况。因此对奇异跳变系统的研究有着重要的意义。本文围绕奇异跳变系统的稳定性判别、估计器设计，以及最优控制方法等热点问题展开研究，取得的创新性研究成果包括以下几项：首先，针对奇异跳变系统的稳定性问题，研究了系统随机稳定性和鲁棒H∞性能的判别方法。根据随机稳定性和鲁棒H∞性能的定义，提出了一种适用于奇异跳变系统的具有线性矩阵不等式结构的稳定性判别方法：首先判定系统唯一解的存在性，然后判断系统解的收敛性和稳定性。基于这种新的稳定性判据，设计了奇异跳变系统的镇定控制器，给出了相应的控制器反馈增益和估计器增益的解析表达式。其次，根据奇异跳变系统工作过程中的奇异摄动现象，研究了小时间参数与系统稳定性之间的关系。传统的奇异跳变系统是忽略了小时间参数的退化模型，由于退化模型中快变状态的变化过程是瞬时完成的，因此退化后的奇异跳变系统与原始的摄动跳变系统的稳定性并不等价。论文提出了一种判定奇异跳变系统与摄动跳变系统的稳定性等价条件，基于所得等价条件，给出了小时间参数容许上限的计算方法，为建立与摄动跳变系统具有等价稳定性的奇异跳变系统模型提供了代数依据。然后，论文研究了奇异跳变系统的最优控制问题，给出了奇异跳变系统最优控制律的解析表达式。首先，针对退化后的奇异跳变系统，论文给出了系统最优控制律的计算方法，并基于传统的快慢分割方法，简化了最优控制律的求解过程。其次，针对非退化的摄动跳变系统，论文给出了系统最优控制律求解方法，所求控制律能使给定的二次型最优准则的数学期望达到极小值。最后，针对系统状态方程中引入状态向量和控制向量的交互乘积项的双线性奇异跳变系统模型，论文提出了一种具有线性矩阵不等式结构的系统稳定性判据，并给出了状态反馈控制器增益的计算方法。