非线性是自然界复杂性的典型表现，现实世界中很多系统在本质都是非线性系统，其中绝大多数是强非线性的。基于非线性系统的滤波方法应用研究也很广泛，例如，地球科学领域的数据同化方法研究、军事领域的目标跟踪和导航研究等。随着科学技术的发展，对非线性系统的滤波性能和精确度要求越来越高。对于复杂滤波问题，基于线性化基础上的方法很难解决实际问题，无法达到理想的结果。因此，非线性滤波方法显得尤其重要，很多重要的问题还有待进一步深入研究。数据同化系统的非线性滤波方法研究是目前较为热点的研究领域，本文将以数据同化系统中的非线性滤波方法为核心，开展滤波性能的研究。　　本文主要介绍三种非线性滤波方法，分别为集合卡尔曼类滤波方法、降阶卡尔曼滤波和鲁棒类滤波方法。几种算法的本质是：首先根据预报值获得状态变量协方差的估计，其次利用新的观测更新预报值，最后得到状态的估计值和估计协方差矩阵。集合转换卡尔曼滤波是利用转移矩阵，从背景协方差演进分析协方差。降阶卡尔曼滤波是减少卡尔曼滤波模型的阶次来提高滤波的效果，通过最小化估计误差协方差的迹的方法来衡量滤波的标准。鲁棒滤波是指在鲁棒控制中引入鲁棒范数的性能指标进行滤波，它将解决系统中存在随机性和不确定性等问题。这种滤波的方法把噪声当作随机信号，确保系统干扰影响降到最低。本论文的主要工作如下：　　（1）在卡尔曼滤波的基础上，引入降阶卡尔曼滤波，通过降低滤波模型的阶数来提高滤波性能。在特定的条件下，以二阶系统为例来说明降阶卡尔曼滤波的性能优于卡尔曼滤波。降阶卡尔曼滤波的降阶增益且收敛的前提下，可以进行离线计算稳态值，同时可用于实时计算。　　（2）针对简单的机动系统作为模型，在系统模型负载完全已知和系统模型负载比真实的负载大100倍的两种情况下，通过位置、速度和标准偏差等参数，分别比较卡尔曼滤波和鲁棒滤波对不匹配问题的敏感性。　　（3）针对非线性系统的滤波性能，进一步研究集合转换卡尔曼滤波的方法，以高维Lorenz-96模型为平台，同化方法中通过改变强迫项的值，产生不同程度的模型误差，检验同化系统中的鲁棒性。考虑集合转换卡尔曼滤波的背景协方差放大和分析协方差放大方法研究的两种情形，在集合数目变化时，随着放大因子的增大，验证滤波的有效性。　　论文分析和探究了三种非线性滤波方法的性能，将其与传统的滤波做了比较，最后，验证了集合转换卡尔曼滤波协方差放大方法的有效性。后续研究中将进一步探讨了非线性滤波问题在实际业务化数据同化系统中的应用。