波达方向（Direction of Arrival,DOA）估计在目标检测、雷达定位、地震勘探、卫星通信等领域都扮演着重要的角色,近几十年来一直广为学者研究。稀疏阵列能够增大阵列孔径同时减少阵元间耦合,从而使得基于稀疏阵列的DOA估计算法可以识别比物理阵元数更多的信号源。随着矩阵秩最小化理论的发展与完善,相关算法在DOA估计领域内的应用也越来越普遍。基于矩阵秩最小化的DOA估计算法,利用了来波信号在空域上的稀疏性和接收数据矩阵的低秩性,能够以少量观测数据实现整个数据矩阵的重构,逐渐成为该领域的研究热点。但是该类DOA估计算法仍存在诸多问题,如算法计算复杂度较大、相干源DOA估计精度不足、鲁棒性较差等,为此本文基于矩阵秩最小化理论,开展稀疏阵列DOA估计算法研究,主要贡献包括:1.阵列接收信号的协方差矩阵可通过满足一定约束的Toeplitz矩阵进行重构,基于这一特性（1）提出了一种基于原子范数最小化的互质阵列DOA估计方法。该方法将矩阵秩最小化问题转化成原子范数最小化问题,通过求解后者的对偶问题,有效简化了传统原子范数最小化算法的计算复杂度,并且实现了对欠采样信号的精确恢复。在此基础上,为进一步提高上述算法估计相干信号源的性能,设计空间滤波模型对预估计信号进行滤波,实现了来波信号角度的解相干,有效增强了算法对相干源的DOA估计性能。（2）提出了一种基于交替投影的互质阵列DOA估计方法。该方法将矩阵秩最小化非凸优化问题转化成多个凸约束集下的交替投影,经有限次迭代算法收敛得到最优协方差矩阵。相比于其它稀疏阵列DOA估计算法,该算法在存在阵元位置误差的场合下具有更优的性能。2.提出了一种基于核范数最小化的稀疏阵列DOA估计方法。针对传统的DOA估计方法在考虑阵元耦合效应时俯仰角和方位角估计精度下降的问题,该方法通过向量化协方差矩阵构建虚拟平面阵元接收的数据列,基于核范数最小化理论完成低秩矩阵可靠恢复,然后将恢复得到的部分数据与恢复前的数据结合构成新的数据矩阵。该矩阵能够有效重构虚拟均匀平面阵的接收数据,从而实现基于稀疏阵列的高精度DOA估计。