在远程预警系统中，超视距雷达(OTHR)以其探测距离远、覆盖面积大以及抗隐身等优点受到各国学者的广泛关注。天波超视距雷达存在着低的检测概率、低的测量精度、低的数据率以及电离层的多个传播模式引起的多路径效应问题，使得进行相关的数据关联工作非常困难。本文在“三低”以及“多径”的跟踪环境下，研究了一系列的概率数据关联算法。主要工作如下： (1)介绍了天波超视距雷达数据处理面临的问题以及国内外的研究现状，并指出了目前存在的问题。 (2)在不同检测概率、不同虚警概率条件下，分别对MMUPDA算法、IPDA算法的确认概率、删除概率进行测试，综合考虑跟踪性能评估指标，得出确认概率、删除概率的可行性范围；针对在密集杂波环境下，运用MMUPDA算法和IPDA算法跟踪目标时出现的虚假航迹占有率偏高的问题，本文提出了HT-MMUPDA和HT-IPDA算法。 (3)在MMUPDA算法基础上，引入目标的航向信息，提出了基于航向信息的MMUPDA算法，仿真结果表明：新算法明显降低了虚假航迹占有率。 (4)运用As-IPDA算法在天波超视距雷达的“三低”环境下对平滑步长进行测试，给出了平滑步长对于算法性能的影响，并且在不同检测概率、不同虚警概率条件下进行一系列的仿真，验证了As-IPDA算法用在OTHR目标跟踪中的可行性以及算法对于跟踪环境的鲁棒性。 (5)由于天波超视距雷达的多路径效应，雷达坐标系下的单目标跟踪算法会产生模式与模式之间的混跟现象，为了避免这种现象，提出用多目标跟踪算法GPDA来处理超视距雷达单个目标的多模式跟踪问题，并对算法进行一系列的仿真，从而验证了算法的可行性。 (6)针对GPDA算法只能进行航迹维持的局限性，本文提出了HT-GPDA算法，HT-GPDA算法是运用Hough变换进行航迹起始，GPDA算法进行航迹维持。仿真结果表明了HT-GPDA算法可以很好地进行OTHR的目标跟踪。