阵列信号处理已广泛应用于雷达、声纳、通信、地震勘探和射电天文等多个领域，波达方向（Direction-of-Array, DOA）估计作为阵列信号处理的核心内容，在近30多年来，被国内外学术界和工程界广泛研究，取得了丰富成果。综合分析已有研究成果，大多数工作局限于非相干信源传输场景。而在实际环境中，由于人为干扰、云层、建筑物及山脉等的存在，导致多径传播普遍发生，使得到达阵列的信号呈现相干特性。同时，现有的很多DOA估计方法要求阵列流型精确已知，否则会导致性能损失甚至方法失效。因此，近几年来，大量学者致力于阵列误差校正领域的研究工作，并提出了许多的校正方法；尽管如此，目前该领域仍存在许多问题尚未解决。因此，在本文中，将主要针对多径条件下阵列信号DOA估计与互耦自校正问题展开研究。本文所做的主要工作概述如下：①混合信号模型下DOA估计与互耦误差自校正算法研究。基于交替迭代，给出一种适用于混合信号模型的波达方向与互耦误差估计算法。该算法首先给出一种基于门限的非相干信源数目估计与DOA估计方法，进而实现互耦误差初步估计；在此基础上，给出一种利用Toeplitz矩阵重构解相干，以交互迭代方式实现混合信号DOA估计及互耦误差更新。仿真实验验证了方法的有效性。②非高斯信号模型下DOA估计与互耦误差自校正算法研究。基于特征矩阵联合相似对角化（Joint Approximative Diagonalization of Eigen matrix, JADE）算法给出一种实现多组相干信号DOA与互耦系数估计算法。在该算法中，首先利用JADE算法估计出各用户广义空间特征矢量，然后定义了一个将各用户广义空间特征矢量转换为只与部分阵元相关的转换矩阵，进而在斜投影及前后向空间平滑的基础上，实现了多用户相干信源DOA估计，最后以多用户相干信源DOA及广义空间特征矢量估计值为基础，给出一种互耦自校正方法。仿真实验验证了方法的有效性。③多组混合非高斯信号DOA估计与互耦自校正算法研究。基于JADE算法给出了一种基于三步实现的DOA与互耦系数估计算法。在该算法中，首先利用互耦矩阵的Toeplitz结构实现混合信源中独立信源的DOA及互耦系数粗估计；然后结合斜投影及前后向空间平滑，实现混合信源DOA估计；最后以广义空间特征矩阵及混合信源DOA估计值为基础，给出一种非子空间类互耦系数自校正方法。仿真实验验证了方法的有效性。