近年来,非线性系统的故障诊断已成为故障诊断研究的一个热点。本文就此领域的相关问题展开研究。本文针对几类满足某种条件的非线性系统,直接建立非线性模型,基于非线性系统稳定性理论、自适应控制理论、滑模理论、神经网络理论应用非线性观测器方法进行故障诊断。所作结果如下:首先,对非线性时滞系统进行研究。提出了一种带有多时滞不确定非线性系统的执行器和传感器鲁棒故障诊断方案,系统非线性与系统输入和输出有关,不确定性包括系统输入和状态等环节;通过构造观测器对状态和输出进行估计,得到具有鲁棒性的阈值;若系统的实际输出与估计输出之差(即残差)超出阈值,说明有故障发生,同时用自适应跟踪器对故障进行跟踪;在理论上证明了该方案的鲁棒性、灵敏度和稳定性,最后通过仿真说明了该方法的有效性。其次,针对一类非线性系统,设计了一种用于故障检测和诊断的滑模神经网络观测器。在故障发生之前,保证滑模的存在,并以此为条件,通过检测残差信号是否在规定的滑动区内,从而判定是否发生故障。当不满足判定条件时,说明滑模被破坏,有故障发生,则启动观测器中的“故障估计项”,利用神经网络在线辨识故障的形态。应用李亚普诺夫理论证明了该方法的稳定性。最后仿真结果证明了该方法的有效性。最后,针对一类非线性系统给出一种基于学习方法的突变故障诊断方法,设计了一个观测器,以此来检测、辨识和诊断一类非线性系统动态系统的故障。给出了故障检测的性能分析,并给出了检测时间上界。通过本文的研究,较好地解决了几类不确定非线性系统的故障检测和诊断问题。各个诊断方案的仿真实验则进一步表明了其有效性和实用性。