混杂系统一般是指连续系统与离散系统耦合生成的系统，它的状态变量既包括连续状态变量，也包括离散状态变量。随机混杂系统(stochastic hybrid systems)首先由Hu，J．，J．Lygeros和S．Sastry提出，它是具有混杂状态空间的随机系统；其连续状态服从一个由混杂状态决定的随机微分方程，离散状态的转移(也称系统的切换)规律依赖于连续状态是否达到给定区域的边界。近来，随机混杂系统已逐渐成为控制理论与应用研究的热点领域。其应用范围包括：自动电力火车管理、计算机的驱动系统、机器人系统、高水平的柔性制造系统、交通管理系统、网络系统，航天、化学反应过程、医疗、金融投资和社会管理等。 本文主要研究随机混杂系统的渐近p稳定与均方镇定问题以及鲁棒最优切换控制问题。 对于非线性随机混杂系统的稳定与镇定问题，首先把重要的关于确定性系统的Pemteman-Aeyels定理推广到随机系统，得到了随机系统的Pemteman-Aeyels定理。其结果包括渐近稳定、一致渐近稳定和指数稳定性的结论。作为定理的应用，我们讨论了随机线性系统的切换镇定问题，并利用S-程序原理，给出了系统镇定的充分必要条件。 对于随机混杂系统的最优控制问题，本文对于既存在切换费用，又存在未知扰动的随机混杂系统，利用动态规划与偏微方程的粘性解理论，讨论系统的鲁棒最优控制问题。得出系统的值函数在粘性解意义下满足一组变分不等式。同时证明在多增长函数类中(the class of multi-growth functions)，变分不等式的解是唯一的。 对于随机最优控制问题，利用离散动态规划原理，给出了一种新的计算方法，并讨论了最优控制算法的有效性。