几乎所有的实际控制系统都呈现出非线性和不确定的特点，其中不确定性大都来源于系统建模误差，时变参数及外部干扰等。基于此种原因，非线性系统控制的难度很大。鲁棒控制与自适应控制是处理不确定性的两种主要方法，已经取得了举世瞩目的研究进展。本文针对存在结构、参数不确定和外界干扰的非线性系统，以鲁棒控制技术、自适应控制技术、反演(Backstepping)控制技术，神经网络技术为主要工具，研究了不确定非线性系统的鲁棒自适应控制器的设计问题。本文的主要研究工作如下：针对非线性系统的不确定性控制问题，利用鲁棒控制技术、自适应控制技术及反演(Backstepping)技术，设计一套用于非线性系统控制的鲁棒反演(Backstepping)控制算法。根据李雅普诺夫稳定性理论，所设计的控制算法都能够保证两类不确定非线性闭环系统的有界性、稳定性和控制输出的跟踪性能。本文并以典型的不确定非线性系统—两连杆机械臂为仿真对象，仿真结果说明了所提的控制算法是有效的。针对具有外部未知干扰及内部不确定性的非线性系统，提出了基于RBF神经网络利干扰观测器的鲁棒H_∞控制算法，以降低系统对干扰的要求。将外部干扰、内部不确定性和系统中的交叉耦合组成复合干扰，设计了基于RBF神经网络的干扰观测器，用来逼近复合干扰。所提出的控制算法将神经网络控制、鲁棒控制及H_∞控制结合到一起，确保了闭环系统的稳定性和最终一致有界性。仿真实验结果表明，提出的控制算法能够较好的跟踪参考输入轨迹，复合干扰对系统的影响得到抑制。为了解决干扰感测器所带来的计算复杂问题，本文利用神经网络强大的逼近能力补偿不确定性对控制性能产生的影响，设计了基于RBF神经网络的非线性系统自适应输出反馈控制算法，该算法无需在系统控制中加入状态观测器。根据稳定性理论分析证明，所提出的控制算法能够保证系统的稳定性及信号的有界性。仿真实验结果表明，本算法可以保证控制系统获得期望的控制性能。