阵列信号处理是现代信号处理内一个重要的研究分支，其应用涉及到雷达、通信、声呐、以及射电天文等多种领域。其中对到达信号方向估计的技术称为波达方向(DOA：direction of arrival)估计技术，该技术在过去30年内得到了广泛的发展。在实际的环境中，由于云层、山脉，建筑物等的存在以及一些人为干扰，导致了多径传播情况的发生。因此目前有越来越多的国内外研究学者投身于多径传播条件下DOA估计的领域中来，希望可以通过这些估计获得更多的信息，直接为军事以及生活生产所应用。估计精度高、运算复杂度低、需求阵元数少、稳健的DOA估计算法一直是广大研究者追求的目标，本文通过对多径传播条件下现有DOA估计算法的研究，提出了一些更为优越和有效的算法。本文所做的主要工作可以概述如下：　　 首先，我们研究并提出了2种通过变换差分矩阵结构来解决差分平滑矩阵欠秩问题的算法。第一种算法利用MUSIC(mulnple signal classification)算法估计不相关信号的DOA，然后通过对差分矩阵进行平方操作构造了一个新的矩阵来对相干信号进行处理。第二种算法提出了一种改进的TLS-ESPRIT(total leastsquares estimation of signal parameters via rotation invariance techniques)算法来对不相关信号的DOA进行估计，然后利用对差分矩阵的特征值取绝对值所构造的新矩阵来对相干信号进行处理。这两种算法都被严格的理论证明所支持，实验仿真也表明了较高的DOA估计精度。另一方面，由于空间差分操作在去除不相关信号时会造成一部分相干信号能量的损失，那么相干信号的DOA估计性能将不可避免地受到一定的影响。通过进一步研究，我们发现可以在估计出不相关信号DOA和信号能量以后可以将不相关信号的阵列协方差矩阵构造出来，从而将其从阵列输出协方差矩阵中减去而避免了这个问题。接下来，我们研究了一种改进的适用于混合信号情形下的DOAM(DOA matrix)方法。该算法首先利用构造的DOA矩阵的特征值以及提出的准则对不相关信号的DOA进行估计，然后利用其中对应于相干信号的特征向量以及正交投影技术对相干信号进行处理。　　 由于可以将各个相干组的信号分开进行处理，相比于以往同时对所有相干信号进行处理的算法，该算法需求的阵元数目有一定下降。　　 其次在多径传播条件下，现有的大部分DOA估计算法都没有重视衰落系数所包含的巨大信息。因此我们研究并提出了两种有效的算法来对多径传播条件下的衰落系数进行估计。第一种算法将衰落系数的估计问题转换为了一个带约束的二次最小化问题，进而利用拉格朗日乘子法对其进行求解。第二种算法构造了一个新的矩阵，该矩阵的零空间与所要估计衰落系数矩阵的列空间是相等的，然后利用空间之间的关系来对衰落系数进行估计。通过仿真实验可以看到，这两种方法都可以达到较高的估计精度。并且，通过利用估计得到衰落系数以及DOA，它们的估计精度可以进一步得到提高。接下来，我们将空间差分技术引入到了矩阵重构技术中来。所提算法通过将空间差分矩阵中的元素重新排列而构造了一个新的Toeplitz矩阵来估计相干信号的DOA。由于该算法是对不相关信号以及相干信号分开进行处理的，其能够大幅度降低所需要的阵元数目。进一步，我们又研究并提出了一种改进的基于空间差分和矩阵重构技术的DOA估计算法。通过改变上面所构造的Toeplitz矩阵的结构，改进的算法可以对所有构造的Toephtz矩阵进行利用并明显提高DOA的估计性能。然后我们对多径传播条件下一维DOA估计的CRB(Cramer-Rao lower bound)进行了推导，分别给出了不相关信号和相干信号DOA估计的CRB、以及衰落系数估计的相对CRB。　　 最后，我们研究了多径传播条件下的二维DOA估计技术。首先，我们提出了一种全新的阵列流型-Z型阵，以及一种基于DOA矩阵以及空间差分技术的超分辨二维DOA估计算法。在该算法中，我们构造了一个适用于混合信号情形下二维DOA估计的DOA矩阵。该算法首先利用DOA矩阵的非零特征值及其对应的特征矢量并结合提出的准则来对不相关信号的DOA进行估计；接着利用空间差分矩阵以及基于子矩阵的空间平滑技术构造了一个全新的DOA矩阵来处理相干信号。由于该算法不需要二维空间谱计算以及谱峰扫描，因而具有较低的运算复杂度。并且该算法不需要二维估计角度之间的匹配，所提出的z型阵相比于均匀平面阵可以节约较多的阵元。接下来，我们将空间差分技术和矩阵重构技术相结合并应用到多径传播条件下的二维DOA估计当中。该算法利用一种改进的最小二乘ESPRIT算法估计不相关信号的DOA，然后通过对空间差分矩阵中的元素进行重新排列构造新的Toeplitz矩阵。利用该Toeplitz矩阵及其共轭转置矩阵的乘积矩阵，我们可以对剩余相干信号的DOA进行估计。同样的，该算法由于不需要二维空间谱计算以及谱峰扫描也具有较低的运算复杂度。最后，我们对混合信号情况下二维DOA估计的CRB进行了推导，分别给出了不相关信号、相干信号DOA估计的CRB以及衰落系数的相对CRB。