随着通信需求不断增大及传输数据类型的丰富多样化,通信系统传输速率越来越高,容量不断增大,同时对传输可靠性的要求也越来越苛刻。可以发掘空间资源、提升系统空间分辨能力的天线阵列在无线通信系统中发挥着越来越重要的作用。自适应波束成形技术作为阵列信号处理的关键技术之一,通过设计自适应算法迭代更新空间权系数,可以实现信号的定向传输和接收,增强系统的干扰抑制能力,提升系统容量同时适应时变的应用环境。盲自适应算法由于不需要发送训练序列,不需要额外消耗系统资源,因而更有优势。但是随着天线规模的增大,传统的直接针对所有阵元接收数据设计加权系数的满秩自适应波束成形算法由于性能衰退严重几乎无法应用；另外,传统的算法对于信号模型误差非常敏感,当给定的导向矢量与实际接收信号的导向矢量之间即便存在微小误差,基于理想化假设的波束成形算法性能也会大打折扣。本文的研究内容主要围绕大规模天线阵列下的降维算法及专门针对模型误差因素的鲁棒算法展开,进一步的,又将单纯的空域滤波技术拓展到空时联合自适应处理,并应用于更实际的GPS导航系统抗干扰场景,探索设计了基于联合迭代思想的降维方案。具体的研究工作包括以下几个方面：1)针对大规模天线阵列的应用场景,提出了一种基于CCM盲自适应准则的降维波束成形算法,降维矩阵的构建基于Krylov子空间。同时算法应用可以充分挖掘非圆周信号伪相关矩阵信息的广义线性处理技术来进一步提升性能。进一步的,针对广义线性处理中增广相关矩阵的块状共轭对称特性,本文对提出的直接型算法中降维矩阵的构建过程进行化简,推导得到结构型算法,使得计算复杂度减小了将近一半。接着,本文又对低维滤波系数的收敛性能、算法稳态MSE性能、计算复杂度等进行了理论分析,并通过仿真实验证实了分析的准确性及所提出的算法相对于其他对比算法的性能优越性。2)针对接收模型存在误差的问题,设计了一种基于广义线性处理技术的最差情况下性能最优鲁棒自适应波束成形算法。首先量化了导向矢量误差及信号星座图畸变误差对广义线性处理中增广导向矢量误差的影响,接着根据最差情况下性能最优算法构造优化问题,基于多变量联合迭代更新的思想,设计改进的共轭梯度算法更新滤波系数矢量,同时设计最速梯度下降法更新对角加载因子。最后,进一步通过仿真实验,对比探究了鲁棒算法的收敛性能、天线波束图及对到达角误差的容忍度等。3)将单纯的空域滤波技术拓展到可以感知信号时频信息的空时联合处理场景中,针对GPS系统抗干扰处理器的设计,提出了基于联合迭代思想的联合低维分解降维空时自适应算法。本文巧妙的对投影矩阵的每个投影矢量进行了稀疏处理,算法每次迭代更新过程中,联合更新D个低维投影矢量以及一个低维滤波系数矢量。在详细推导算法迭代更新公式并给出详细的实现流程后,又通过具体的计算复杂度分析及仿真性能分析,验证了所提出的降维空时处理算法相比于其他对比算法而言,不仅复杂度更低,同时收敛速度更快。另外,空时滤波系数矢量的空频响应图也表明了空时处理相对于单纯空域处理的优越性。