自适应波束形成(ADBF)是相控阵信号处理的一项重要任务，它能将波束主瓣对准期望的有用信号，并在干扰方向产生零陷，从而达到有效提高信干噪比的目的。实际中大型相控阵通常含有成千上万个天线阵元，若采用阵元级处理将导致巨大的计算量和硬件成本，因此子阵级相控阵自适应波束形成方法的研究具有重要的理论意义和应用价值。为提高相控阵抗干扰能力，本文采用旁瓣消隐系统，深入研究旁瓣消隐系统主通道和保护通道的自适应波束形成方法：分析基于子阵级直接加权(DSW)结构的主通道常规ADBF方法，并在其基础上研究具有方向图控制能力的归一化方法、最优失匹配检测方法、子空间投影方法以及常规法与最优失匹配检测法相结合的方法。结合仿真证明了这些方法在理想阵列中实现较好的自适应性能。针对于实际阵列中常存在幅度和相位误差等问题，深入探讨了基于子阵级广义旁瓣对消(GSLC)结构的主通道常规ADBF方法，进一步研究应用Householder变换的严格正交阻塞矩阵方法，并讨论一种新的具有方向图控制能力的分级加权方法。仿真证明该结构下的ADBF方法大大提高了系统的鲁棒性。从避免波程差和降低虚警率的角度考虑，在主通道ADBF方法的基础上，研究一种新的基于阵列自身子阵输出的保护通道波束形成方法，保护通道仿真方向图包络附于主通道方向图旁瓣上方。该方法为恒虚警检测门限的设定提供理论基础。本文研究为优化自适应波束形成技术、提高系统鲁棒性和抗干扰性能提供了理论和实验依据，保护通道的提出对未来将ADBF技术结合到目标检测技术的研究具有重要的意义。