近年来,随机非线性系统的研究受到了极大关注。和确定性非线性系统相比,随机非线性系统因随机干扰的存在和影响而使得系统性能更加复杂和多变。稳定性始终都是系统分析和综合的核心问题。系统模型中出现的不确定参数和系统运行过程中出现的参数摄动等都是控制器设计过程中经常要面对的问题。因而,研究随机非线性系统稳定性与自适应控制问题既具有理论意义又具有实际应用价值。本文利用Lyapunov稳定性理论、随机过程理论、自适应控制理论并结合随机分析技术、Backstepping方法分别来研究白噪声过程驱动的随机非线性系统(即,Ito随机非线性系统)和有色噪声过程驱动的随机非线性系统的稳定性和自适应控制问题。主要研究内容如下:针对Ito随机非线性系统,首先,提出了新的Ito随机非线性系统稳定性和不稳定性定理,改进了现存的稳定性和不稳定性定理,仿真算例验证了理论结果的正确性。其次,将得到的Ito随机非线性系统稳定性结果推广到了不满足局部Lipschitz条件的Ito随机非线性时滞系统,在保证系统有唯一解的前提下,给出了Ito随机非线性时滞系统有限时间稳定性和不稳定性判别准则,分别弱化了现存的判别条件,仿真算例验证理论发现的正确性。最后,将得到的Ito随机非线性系统稳定性结果推广到了切换系统,提出了一个新的稳定性判据。对一类含有随机逆动态和输入饱和的Ito随机非线性严格反馈切换系统的自适应跟踪控制问题,引入辅助子系统补偿输入饱和、自适应Backstepping方法设计控制器,而后应用得到的稳定性定理来分析闭环系统稳定性。仿真算例验证了控制策略的有效性和可行性。针对有色噪声过程驱动的随机非线性系统,首先,改进了有色噪声驱动的随机非线性系统噪声-状态稳定性判据,放宽了现存结果的判别条件。此外,提出了有色噪声驱动的随机非线性系统噪声-状态不稳定性定义及其判据。仿真算例验证了理论结果的正确性。其次,把得到的有色噪声驱动的随机非线性系统噪声-状态稳定性结果推广到了有色噪声驱动的随机非线性时滞系统,在保证系统有唯一解的条件下,提出了有色噪声驱动的随机非线性时滞系统噪声-状态稳定的判别准则,并运用得到的理论结果解决了一类有色噪声驱动的随机非线性严格反馈时滞系统的自适应输出反馈调节控制问题。最后,把得到的有色噪声驱动的随机非线性系统噪声-状态稳定性结果应用到了一类有色噪声驱动的随机非线性纯反馈Markovian切换系统的自适应跟踪控制问题中,通过引入辅助控制子系统来解决非仿射的控制输入给控制器设计带来的困难。同时,提出了改进的Backstepping方法来处理非仿射状态变量。仿真算例验证了所设计的控制策略的有效性和可行性。