近年来,移动通信事业的迅猛发展,极大的推动了信息时代的进步,给人们的生活方式带来了巨大的影响。但是,通信频谱资源的日益匮乏、多信道衰落、多址干扰以及共信道干扰等因素严重限制了通信质量和信道容量的进一步提高,原有的技术已不能很好的解决上述存在的问题。智能天线技术的提出,为解决这些问题带来了全新的思路和方法。智能天线技术利用的是信号的空间特性,即利用信号波达角来达到克服上述因素的目的,在保证了原有通信质量的基础上,显著提高了覆盖范围,同时也增加了系统容量。自适应波束形成算法是智能天线的核心技术之一,然而,该算法收敛性、稳态性、计算复杂度等诸多因素,直接影响着整个系统的性能。因此,本论文主要从收敛性和稳态性方面进行算法研究。本论文首先介绍了智能天线的基本结构及工作原理,在此基础上,研究了智能天线环境下的阵列信号模型；其次,本论文分析了几种智能天线的收敛准则,及在这些准则下提出的经典算法,例如最小均方(LMS)算法,递推最小二乘(RLS)算法,采样矩阵求逆(SMI)算法等；再次,对两种基于非线性函数曲线的变步长LMS算法进行了重点分析,并从数学函数的角度研究和分析了步长因子的变化规律。针对这两种算法的缺陷给出了一种新的基于反双曲正弦函数的变步长LMS算法,并通过仿真实验验证了算法的优越性；最后,针对随机梯度恒模算法(SGD-CMA)的收敛速度与稳态误差之间的矛盾,本论文将新步长迭代公式应用到随机梯度恒模(SGD-CMA)算法中,通过仿真实验发现,该算法能够较好的解决SGD-CMA算法的这一缺陷。在波束形成中,本论文的两种算法都可以在期望信号方向形成主瓣,在干扰信号方向产生零陷,能够对干扰信号有较好的抑制作用。