近年来，随着无线通讯事业的飞速发展，用户开始追求更快的数据传输、更好的通话质量以及更多种类的数据业务。在时域、频域和码域资源被充分挖掘后，人们将目光转向了一个新的领域：空域资源。与此同时，无线通信系统的抗干扰问题也伴随着无线通讯事业的发展日益突出。而智能天线技术正是利用空域来减少干扰效应提高系统通信性能的一种技术，由于它能够提高系统信道容量、提高通信质量、扩大无线网络的覆盖范围以及消除多径效应的影响，因此受到了业界的广泛关注。本论文在分析总结国内外智能天线技术研究现状基础上，对智能天线的基本概念和系统结构做出了阐述，针对智能天线系统在共形天线中的应用，以减少系统成本为准则，研究了非圆信号来波方向(Direction Of Arrival，DOA)估计、波束形成以及方向图综合等核心技术，并通过本论文的研究成果设计了两种不同用途的智能共形天线系统。　　 论文首先对智能天线阵列的信号模型进行了研究，在常规阵列流形特点分析的基础上讨论了共形阵列流形的局限性，通过实际阵列的仿真分析引出原有共形阵列流形的缺陷，提出在阵列流形中引入阵元参考极化方向提高阵列流形的有效性，进一步针对圆极化阵列，利用极化与相位的关系得到了更为简洁的阵列流形。基予论文所建立的共形阵列流形，分析了对称分布共形阵列极化相消的产生原因，提出通过阵元旋转和相位补偿的方式提高阵列的空间覆盖能力，为智能天线的应用奠定良好的基础。　　 DOA估计技术是智能天线系统中的核心技术之一，只有在准确估计信号来波方向的基础上才能够根据需要进行有效的波束形成或方向图综合。针对通信系统常用的信号形式，本论文在经典DOA算法研究的基础上将非圆信号特征引入DOA估计中，从而在不增加阵元数目的前提下大幅提高系统的DOA估计性能。论文对表征非圆信号特性的非圆率进行了研究，扩展了原非圆MUSIC算法的适用范围，同时对DOA估计算法中由于非圆率扰动造成的误筹进行了分析，推导了误差公式。仿真结果验证了扩展的非圆MUSIC算法的正确性，并且表明随着非圆率的增加，DOA估计算法性能有明显的改善。此外，论文对具有特殊非圆率的信号特性以及接收信号协方差矩阵性质进行了研究，推导了信号的简洁形式，从而为非圆DOA估计算法的简化打下了基础。为了使论文的研究更具参考价值，论文讨论了阵列参数对DOA估计算法性能的影响，并将DOA算法应用于柱面共形微带天线阵，通过将阵元的阵中方向图代入DOA估计算法中使得DOA估计结果更具有效性。　　 本文将智能天线技术应用到GPS系统中以达到抗干扰的目的。针对卫星信号的特点，提出了一种新的波束形成算法-Noise RLS算法，利用白噪声代替RLS算法中的参考信号，克服了RLS算法需要参考信号的缺点，在不牺牲阵列自由度的同时获得更高的信干比。对予时变系统中，论文提出了针对循环平稳信号的变遗忘因子算法，该算法不需要参考信号，有较强的跟踪能力和较小的均方误差，而且即使在信噪比较小的条件下仍能保持很好的性能。为了抑制宽带和移动干扰信号，论文通过在LCMV算法基础上加载导数约束和强制约束来实现波束展宽，仿真结果表明新算法可以将干扰方向的零陷明显展宽。多波束工作是智能天线最主要的工作方式之一，论文将智能数字多波束技术应用在共形天线阵中，通过建立多波束天线阵模型，在数字多波束形成算法中引入阵元阵中方向图来实现共形天线阵中的智能多波束控制，仿真结果表明本文提出的算法能够针对不同要求实现波束和零陷指向，从而实现对有用信号的接收和干扰信号的抑制。　　 方向图综合是智能天线技术中的一项关键技术，对于共形天线阵经典综合技术已无法胜任，论文通过仿生算法实现共形智能天线阵列的激励设计。通过将竞争机制引入差分进化算法，在变异操作时加入种群中的次优个体，利用其竞争作用提高算法的收敛速度。论文利用新算法完成了典型测试函数的优化寻值，验证了本文提出的竞争差分进化算法的有效性，同时也体现出了相对于传统差分进化算法的优越性。运用竞争差分进化算法算法实现了共形天线阵的低副瓣、宽零陷以及多波束综合，仿真结果表明新算法具有更快的收敛速度。　　 基予对智能天线关键技术的研究，论文设计了智能多波束柱面共形天线以及智能主波束球面共形天线，根据应用场合的不同，分别采用柱面共形阵列和球面共形阵列作为智能天线系统的载体。使用非圆MUSIC算法在子阵中实现对信号及干扰来波方向的估计，然后利用论文研究的多波束形成技术在柱面阵中形成3-4个三维空域波束以满足多用户通信的需要。而对于球面阵，在有用信号方向通过方向图综合技术形成主瓣，与此同时，利用论文提出的竞争差分进化算法设计低副瓣、低交叉极化的智能天线，从而提高系统性能。