随着动态系统对安全性和可靠性越来越高的要求,近年来故障诊断受到更多的关注,其中基于模型的方法是一个热点研究领域。因为非线性系统和建模不确定在实际中的广泛存在,所以非线性系统的鲁棒故障诊断在理论和实际中都具有重大的意义,但相应的研究成果还较少。本论文主要采用如下两类方案:未知扰动解耦和自适应学习,实现非线性系统的鲁棒故障诊断。首先,我们提出了两种新的未知扰动解耦的非线性滤波算法,并成功应用于故障的检测和分离。第一个算法是基于著名的扩展卡尔曼滤波,并且利用线性矩阵不等式证明了其收敛性。然而,扩展卡尔曼滤波在应用上具有一定局限,因此又进一步提出了扰动解耦的粒子滤波算法,其具有更广的应用对象;并且基于多模型似然比检验方法,实现了非线性随机系统的故障诊断。其次,我们深入研究了自适应学习的方案。对于故障检测与估计问题,通过在观测器中引入滑模项提高了故障检测速度,理论证明了该结论并通过仿真得到了验证;而自适应率的改进保证了估计的有界性。对故障分离问题提出了自适应分离估计算法,相比普通的自适应观测器,分离算法具有许多优势。通过适当设计自适应阈值实现了故障检测和分离;基于故障响应空间的概念,还系统地分析了故障的可检测性与可分离性条件。鉴于上述两项研究的对象具有特殊性,接下来又对更一般的非线性Lipschitz系统提出了其自适应观测器的设计方案,并通过小增益定理证明了其稳定性;采用与此前类似的框架可以将其成功应用于故障诊断问题。事实上,上述两类方案都可以统一于系统状态和参数估计的框架下,因此考虑对系统的状态和参数直接进行估计:基于滑动窗估计理论,应用两种新提出的混合优化算法从而实现了故障诊断的目的。最后还指出了未来的一些研究方向:如最优化性能设计、残差评价技术及网络化控制系统的故障诊断等。