相对于雷达等主动传感器探测系统,被动传感器探测系统本身并不辐射电磁信号,具有隐蔽性好、生存能力强、探测距离远、目标识别能力强等优点,已被广泛的应用于声纳、红外以及导航制导当中。而采用多个被动传感器同时进行目标跟踪,回避了单站最优机动轨迹设计问题的同时,提高了系统的跟踪精度,具有重要的理论研究意义和实际应用前景。多被动传感器跟踪系统实际上是一个非线性系统,目前其研究主要集中于单机动目标的跟踪,而多目标被动跟踪研究在公开的文献中较少,而且都以固定观测站为研究前提。因此,本论文从非线性航迹状态估计、多目标数据关联和非固定观测站下的单/多目标被动跟踪三个方面进行了理论分析和算法改进。首先,阐述了不同目标跟踪系统的基本环节和特点,介绍了几种常用目标运动模型,同时给出了被动跟踪测向定位方法,为论文后续工作奠定了必要的基础。其次,建立了一种基于固定观测站多被动传感器的单目标运动模型和传感器模型,针对非线性滤波问题,将经典的扩展卡尔曼滤波(EKF)和现代的Unscented卡尔曼滤波(UKF)算法分别应用于被动跟踪系统。仿真结果表明,EKF和UKF都能很好的跟踪目标轨迹,且在本文假设条件下两种算法具有相同量级的精度。接着,为解决多目标被动跟踪中数据关联问题,在分析和比较了多种数据关联算法的基础上,提出了一种将概率最近邻法(PNNF)应用于多被动传感器多目标跟踪系统的思路,并综合比较了PNNF和联合概率数据关联算法(JPDA)的跟踪性能。结果表明：虽然PNNF跟踪精度没有JPDA高,但当跟踪的目标相对比较分散时,PNNF可实现多目标的跟踪任务,且计算量比JPDA减小约50%。最后,建立了一种基于非固定观测站的传感器平移运动和姿态运动误差模型,并分析计算了综合目标观测误差,通过大量的数字仿真实验,分析了采样间隔、运动误差等参数对非固定观测站目标跟踪系统精度的影响,对相关工程应用具有一定的参考意义。