随着现代科学技术的快速发展，尤其是通信技术、信息技术和计算机技术等在众多民用和国防领域的广泛应用，使得现代控制系统的信号常表现出非线性、噪声相关和非高斯等复杂特性，从而导致非线性系统的滤波算法设计不仅面临诸多新的问题和挑战，而且又具有重要的理论意义和应用价值。由于系统噪声的相关性和非高斯特性，使得现有众多非线性滤波算法不能满足该类复杂系统的应用需求，因此如何有效地设计出噪声相关和非高斯情况下的非线性滤波已成为提高非线性滤波方法应用能力的有效途径之一。针对上述问题，本文有针对性的开展如下研究工作：（1）针对非线性高斯系统，给出了基于噪声相关的容积信息滤波方法。首先，考虑过程噪声和测量噪声相关情况下的系统，推导出可应用与该系统下的扩展信息滤波器。其次，将噪声相关的容积卡尔曼滤波嵌入到噪声相关扩展信息滤波器的结构框架，推导出噪声相关系统下的容积信息滤波器。最后，以纯方位角目标跟踪系统为背景开展仿真实验验证。（2）针对一类非线性非高斯系统，提出一种基于新性能指标的滤波器设计方法。该方法是利用对称的K-L距离作为性能指标，并引入真正度量两个特征函数距离的概念，给出了权重函数的选取范围及滤波器增益矩阵的求解过程。通过非线性非高斯目标跟踪系统仿真实验验证了新算法的有效性。（3）针对一类非线性非高斯系统，建立了基于混合特征函数的多维观测分布函数滤波器设计方法。首先，给出一维观测下滤波器的设计方法；其次，在高维观测条件下通过引入加权函数向量、建立新的性能指标，进而给出加权函数向量的选取范围以保证性能指标的一致有界性；最后，在最小化新的性能指标下，给出增益矩阵的解。该算法大大提高了分布函数滤波器的适用范围。