波达方向(Direction-of-Arrival,DOA)估计技术是阵列信号处理领域研究的重点课题,在很多领域中占有重要地位,如雷达、声呐、医学以及通信等领域。DOA估计的研究对象从窄带信号到超宽带信号,研究目标从平稳信号到非平稳信号,噪声模型从加性高斯白噪声到脉冲噪声,天线阵列结构从均匀阵列到非均匀阵列,研究内容逐渐全面。实际中,许多常见信号不满足理论研究中信号平稳高斯的假设,具有明显的非平稳性,如话音信号、心音信号以及雷达信号。调频(Frequency Modulation,FM)信号作为一类典型的非平稳信号,其二阶统计特性随时间变化,有明显的时频聚集性,在学术研究中应用广泛,研究FM信号DOA估计具有重要的现实意义。而随着无线传输量的急剧增长和通信环境日趋复杂,实现高分辨的DOA估计变得越来越困难。空间时频分布(Spatial Time-Frequency Distribution,STFD)理论为FM信号的DOA估计提供了新的研究思路,该理论充分利用FM信号丰富的时频信息,将时频域与空域结合,利用STFD理论实现FM信号DOA估计成为当前的研究热点。然而,在FM信号DOA估计中,阵列接收信号进行二次时频变换会产生不可避免的交叉项,导致估计性能下降。另外,部分已有的FM信号DOA估计算法在低信噪比(Signal to Noise Ratio,SNR)和小快拍数的条件下对相干信源的DOA估计性能不佳或者无法实现。针对上述问题,本文以FM信号为研究对象,展开深入研究,具体内容如下:1.本论文首先简单总结DOA估计的研究背景和国内外目前研究进展,分析FM信号DOA估计研究的价值,然后对经典的MUSIC算法和空间平滑类算法原理作了详细分析,并借助MATLAB仿真软件评估两种算法的估计性能;2.入射信源为远场窄带的假设下,研究FM信号的DOA估计方法,针对STFD理论应用于DOA估计所存在的问题展开重点研究,给出抑制交叉项和选取时频点的解决方案,提出时频点聚类的FM信号DOA估计算法。该算法首先构造白化矩阵,对阵列接收信号进行白化,得到修正的STFD矩阵,该操作使得交叉项得到有效抑制,突出了自项,继而利用K均值聚类(K Means Clustering,KMC)算法将时频点分类,从而可分别对各信源单独进行DOA估计,提高角度分辨力,在小角度间隔情况下性能优势明显;3.考虑天线排布为嵌套阵列(Nested Array,NA)的形式,研究嵌套阵列结构下的时频稀疏重构问题,实现欠定条件(信源数大于阵元数)以及相干信源的DOA估计,给出一种嵌套阵列的时频稀疏重构DOA估计算法。该算法首先建立嵌套阵列的阵列接收信号模型,提高阵列自由度,结合STFD理论与稀疏重构理论,将FM信号的DOA估计问题转化为稀疏重构问题,最后求解二阶锥规划(Second Order Cone Program,SOCP)问题进行DOA估计。与三种同类算法对比,本算法能有效处理相干信源,提高可估计信源个数,在低SNR和小快拍数条件下优势明显。