无源雷达测向系统自身不发射电磁波,主要通过接收来自空间远场信号并加以处理从而捕获到目标信号的来向,以达到测向的目的。波达方向(Direction of arrival,DOA)估计是阵列信号处理的一个重要研究方向,其主要目的是估计出空域参数或信号源位置,广泛应用于生物医疗、地震、声呐、雷达通信、射电天文等领域。在实际应用环境中,由于多径传播与人为干扰的存在,导致入射信号源中常常存在着相干信号,而经典的DOA估计算法不能有效确认相干信源的来向。针对此问题,国内外学者提出了许多解相干算法,但在实际运用时存在许多限制。因此,寻求阵元利用率高、计算量小和高阶解相干算法成为一个新的研究方向。本文在无源雷达测向背景下,通过研究分析现有预处理解相干算法的原理,给出了几种改进的解相干DOA估计算法。本文主要研究针对相干信号的DOA估计算法。首先,建立各种信号的数学模型,分析传统DOA估计算法针对相干信源失效的原因。其次,阐述传统的解相干DOA估计算法原理,主要包括空间平滑算法、矢量奇异值算法、矩阵分解算法、Toeplitz矩阵重构算法、修正MUSIC算法,通过软件平台仿真来分析这些算法的优势与不足之处。并以空间平滑算法为基础给出了两种改进解相干算法:广义协方差差分算法,该算法可消除空间不均匀噪声,适应更普遍噪声场和低噪声比环境,并且进一步降低了运算复杂度;传播算子空间平滑算法,该算法通过线性分解运算构建空间谱函数,无需特征值分解,测向精度高,且计算复杂度低。最后,研究基于四阶累积量MUSIC算法,并分析运算量减少的改进算法。重点介绍了MFOC空间平滑算法,此算法从预处理相干信源的角度分析,具有阵列扩展性能、无数据冗余、抑制色噪声干扰等针对相干信号源进行角度估计的优势。MFOC空间平滑算法特别适用于天线盘体积受限的情况下,在不损失天线孔径的同时,能够准确快速地估计出多相干目标信号的来向。