初始对准和惯性/GPS组合导航问题本质上是非线性的,对模型进行线性化的扩展卡尔曼滤波在一定程度上影响了系统的性能。近年来直接使用非线性模型的UKF(Unscented Kalman Filter,UKF)和粒子滤波,正在逐渐成为研究非线性估计问题的热点和有效方法。论文首先研究了基于捷联惯导系统的非线性误差模型,并基于四元数法建立了的捷联惯导系统的姿态、速度和位置误差方程,阐述了导航系统中常用的卡尔曼滤波原理以及在卡尔曼滤波基础上发展而来的扩展卡尔曼滤波,研究了两种新型的非线性滤波方法:UKF滤波和粒子滤波。论文针对UKF滤波计算量大、数值不稳定的问题,提出了基于超球体采样的平方根UKF滤波,降低了UKF算法的计算量,同时提高了UKF滤波过程中的数值稳定性。为了进一步缩短滤波的实际时间,提出了超球体平方根UKF/扩展卡尔曼滤波的混合滤波算法,极大地降低了导航计算机的计算负担,具有较高的工程应用价值。针对动态扰动较大情况下UKF跟踪能力不够强的问题,论文通过增加残差的正交性约束,提出了两种各具特色的强跟踪UKF算法,详细推导了多重渐消因子的快速近似产生方法,为飞行器大机动时捷联惯导系统提供实时高精度导航信息奠定了理论基础。在改进的UKF滤波算法基础上,论文建立了捷联惯导系统的初始对准误差模型,分别将UKF滤波、超球体采样平方根UKF和混合滤波器应用于捷联惯导系统大方位失准角初始对准中,仿真结果表明UKF提高了初始对准的精度,超球体采样平方根UKF降低了UKF滤波的计算量,同时提高了初始对准滤波过程中的数值稳定性,混合滤波在保证对准滤波精度与UKF相当的条件下极大的提高了UKF滤波计算效率。最后,论文将UKF滤波算法及其改进算法在惯性/卫星组合导航系统中的应用进行了仿真和分析验证。建立了惯性/GPS组合导航误差模型,并且将强跟踪滤波算法应用于惯性/GPS组合导航系统中,并在飞行器各种大机动动作下进行仿真,仿真结果表明强跟踪滤波能够很好的跟踪导航系统的各个状态量,解决了UKF滤波跟踪能力差的问题,验证了强跟踪算法的有效性。