在实际控制工程中，由于建模误差、环境干扰等因素的影响，完全的确定性系统是不存在的，研究不确定非线性系统的控制问题具有重要的理论意义和实际应用价值。随机非线性系统是一类带有随机动态特征的非线性系统，是近年来非线性控制理论研究的热点方向之一。本文基于自适应鲁棒控制理论、神经网络逼近理论、随机微分方程稳定性理论、时滞泛函微分方程稳定性理论，探讨了一类随机非线性系统的控制问题。主要研究工作如下：第一，针对带随机扰动和内动态的不确定非仿射非线性系统，提出一种基于高增益观测器和神经网络的自适应输出反馈控制器。在假设系统零动态稳定的条件下，将确定性系统控制方法扩展到随机系统，并利用神经网络的泛化学习能力，对非仿射非线性系统进行了自适应估计和鲁棒控制器设计。应用Lyapunov稳定性及随机系统稳定性理论证明闭环系统信号是依概率有界的，且跟踪误差收敛于原点的可调节邻域内。第二，针对一类含有不确定非线性函数的随机系统，提出一种自适应观测器设计算法。所讨论的系统的不确定非线性函数包含未知状态而非仅仅包含系统输出，是一类更加宽泛的不确定随机系统。通过构建一个含有参数自适应律的观测器来重构状态，有效地解决具有非仿射不确定性的随机系统的状态估计问题。应用Lyapunov稳定性理论和Ito随机微分理论给出严格的稳定性分析，证明该观测器是依概率有界的，并且它的界可以通过选取适当的参数进行调节。第三，研究一类带有未知时滞的不确定随机非线性系统控制设计问题。针对带未知时滞的非参数不确定随机非线性系统，提出一种与时滞无关的自适应控制算法；进一步，针对同时带有未知时滞、不确定参数和不确定非线性函数的随机非线性系统，提出一种基于神经网络的自适应滤波反步控制算法。利用滤波反步法代替传统反步法，以避免传统反步法设计中固有的“explosion of complexity”问题。控制结果使得闭环系统信号是依概率有界的，且跟踪误差均方收敛于原点的小的可调节邻域内。第四，针对高速、高精度宏/微定位平台的动态特性，提出基于自适应Kalman滤波器的非线性输出反馈控制设计算法。自适应Kalman滤波器用于补偿宏动定位平台的系统振动及外界噪声干扰。针对压电陶瓷驱动的微动平台系统固有的迟滞非线性特性，提出基于高增益观测器的智能自适应输出反馈控制设计算法。该算法利用神经网络模拟不确定非线性迟滞特性，同时包含一个鲁棒控制项，用于补偿神经网络逼近误差及观测器的观测误差。第五，针对多AUV协作作业时相互通信中不可避免的信息包丢失问题，提出一种基于观测预报器的最优估值器。观测预报器设计为所有已知历史观测信息的加权值，改进了传统的利用最近接收到的信息代替当前丢失信息的方法，可以充分有效地利用有用的历史信息来补偿通信过程中随机丢失的信息。进而基于补偿后的观测信息值，应用新息分析方法来设计AUV通信预报器、滤波器及平滑器。