电磁矢量传感器是一种新型的六元极化敏感传感器,广泛应用于所有以电磁波作为信息发射、接收载体的系统中。相比传统标量传感器,电磁矢量传感器具有电磁波的全分量接收能力和各分量矢量表现能力。然而现有的基于电磁矢量传感器的信号处理技术大都是简单套用原有的基于标量传感器的信号处理技术,不能充分体现电磁矢量传感器的优势。为此,本文以众多学者的研究成果为基础,引入一些前沿理论改进基于电磁矢量传感器的信号处理算法,最大限度的发挥电磁矢量传感器的优势。本论文主要的内容创新如下:介绍了四元数及四元数矩阵的基本理论,建立了电磁矢量传感器阵列输出信号的四元数模型,研究了在该模型下基于ESPRIT联合估计波达方向和极化参数的算法。由于四元数模型能充分利用电磁矢量传感器阵列信号的局部矢量特性及整体三维结构特性,所以四元数模型处理算法较长矢量模型处理算法具有运算复杂度低、估计精度高等优势。通过对均匀线阵和均匀圆阵的仿真实验,验证了本文算法的正确性及有效性。介绍了平行因子模型分解多维矩阵的基本理论,建立了电磁矢量传感器阵列输出信号的三维矩阵模型,研究了基于PARAFAC模型的三维矩阵分解和辩识问题,进而同时估计出DOA和极化参数。由于三维矩阵模型能充分挖掘阵列数据中的高维信息、该算法不涉及到统计量分析且PARAFAC模型在不考虑列置换模糊和尺度模糊的情况下分解结果是唯一的,所以该模型下的算法较ESPRIT算法具有更高的估计精度。通过对均匀面阵和均匀圆柱阵的仿真验证了算法的正确性及有效性。介绍了压缩感知的基本理论,针对压缩感知理论估计二维DOA中的参数失配问题,提出了一种降维压缩感知参数配对算法。该算法将二维压缩感知转化为两个一维压缩感知,极大的降低了运算复杂度,然后通过配对运算得到二维DOA的估计,且无论信号是否相干,都能得到高精度的二维DOA估计。通过对均匀L阵的仿真实验验证了算法的正确性及有效性。