本文基于随机系统的Lyapunov稳定性理论、随机无源性理论和输入到状态稳定性理论，利用随机控制Lyapunov函数方法，系统地研究了非线性随机系统的鲁棒稳定性和镇定问题，提出了一些有效的分析方法，获得了若干有重要意义的理论和应用结果。 　　本学位利用鞅不等式引理，在很一般的条件下，得到了非线性随机系统几乎必然指数稳定和均方指数稳定的充分条件，这些条件在实际中易于验证。 　　对最一般的非线性随机系统，给出了其随机无源的充分必要条件；引入了随机最小相位系统的概念，放宽了文献中已有的随机最小相位系统定义，并应用它来研究随机最小相位系统的镇定问题。由于随机无源系统的镇定问题相对简单，因此如何使一个系统无源化是基于无源系统理论进行控制设计的核心问题。本文研究了随机非线性系统的状态反馈无源化和输出反馈无源化问题，首次给出了非线性随机系统状态反馈无源化和输出反馈无源化的充分条件，所给出的非线性随机系统指数无源化的变换由于其参数的可调性，因而使得变换具有很大的松弛性。进而，基于无源性原理研究了串联随机系统的镇定，得到了串联非线性随机系统的反馈无源化条件，实现了闭环系统在状态反馈控制器的渐近稳定性，并用数值仿真验证了所得结论的正确性。 　　为了保证Sontag-Type控制器在原点的连续性，我们采用了更为实用的极限条件来替代文献中的小控制特性条件。提出了弱随机控制Lyapunov概念，并结合随机LaSalle不变性原理，在Sontag-Type控制器下实现了系统的镇定。文中首次对非线性随机系统Sontag-Type控制器的鲁棒性进行了理论上的分析，并用数值仿真验证了所得结论的正确性。讨论了随机镇定的Lyapunov函数方法和串联非线性随机系统的镇定问题，给出了串联非线性随机可镇定的充分条件。在随机零状态可检测的条件下，利用Legendre-Fenchel变换，研究了自由动态临界稳定的仿射非线性随机系统基于输入到状态稳定意义下的系统镇定问题。数值仿真结果验证了所得结论的正确性。这些新的结果在理论上和实际中都是很有意义的。 　　控制Lyapunov方法是设计全局稳定控制器的重要工具，对于具有严格反馈形式和可以反馈等价成这类形式的非线性系统，Backstepping方法提供了一通用的设计控制器的迭代构造工具。本文中，我们针对一类严反馈非线性互联随机大系统，在不确定性有界的假设下，基于随机控制Lyapunov函数的循环递推方法，设计出了随机大系统的分散输出反馈自适应控制器，保证了闭环随机大系统以概率1全局渐近稳定。 　　和随机常微分系统相比，随机偏微分系统的理论缺少一个重要的工具，即没有很好的可用的Ito公式，目前研究的方法之一是通过建立比较定理来获得其解过程的各种性态，方法之二是在抽象空间中运用半群理论讨论解过程的性质。在论文中，我们首次提出了一种运用Lyapunov直接法研究分布参数随机系统稳定性的方法，即通过“将系统的解过程对空间变量的积分视为对应的随机常微系统的解过程”的构想，通过构造关于空间变量平均的Lyapunov函数，在积分号下运用Ito微分公式，实现了运用Lyapunov方法直接对分布参数随机系统的稳定性进行分析，并利用该方法研究了分布参数随机系统稳定性，得到的都是一些新的结果。最后，在总结全文的基础上，提出了有待进一步研究和探索的一些问题。