波达方向(DOA)估计是阵列信号处理的一个重要分支,传统的高分辨算法在独立信号条件下可以准确估计信号的入射角度。但在相干条件下,由于信号协方差矩阵秩的下降,导致无法准确地估计信号和噪声子空间,传统算法失效。同时,相干信号会使常规的信号个数估计算法失效。在相干信号DOA估计方面,以空间平滑和矩阵重构为基础的降维类解相干算法,虽然能够有效的处理相干信号,但是它们都是以牺牲阵列自由度为代价的,并且都依赖于信号个数的准确估计。本文针对传统解相干算法面临的问题,采用基于斜投影和联合对角化技术的矩阵重构方法,对相干信号和混合信号的DOA估计开展研究,具体包括以下几个方面:首先,对波达方向估计的基础知识进行了深入的研究,并对经典相干信号源DOA估计算法的原理进行了理论推导和证明,主要包括空间平滑算法,矢量奇异值算法和Toeplitz矩阵重构算法。其次,针对混合信号背景下阵列自由度损失大的问题,提出了一种基于斜投影技术的修正协方差矩阵分阶段估计算法。该方法利用ESPRIT算法估计出独立信号的DOA值,可以避免谱峰搜索或多项式求根,同时通过对修正协方差矩阵进行斜投影,有效去除噪声干扰,获得准确的相干信号协方差矩阵,然后利用平滑算法实现了相干信号的DOA估计。该方法运用独立源和相干源分阶段估计的思想,提高了阵列自由度,并且在估计精度和有效性上具备优势。最后,针对传统解相干算法依赖于信号数目先验已知的问题,在全相干信号和混合信号背景下提出了一种基于联合对角化矩阵的代价函数构造算法。该方法首先构造一组具有联合对角化结构,且有效恢复秩的协方差矩阵,然后通过构造代价函数得到信号的空间谱,最终实现了信号个数未知条件下的相干信号和混合信号的DOA估计。