随着无线通信和移动通信技术的飞速发展，人们对天线的性能提出了更高的要求，宽带小型化平面印刷天线的研究已经成为天线研究的热点，其中超宽带天线和宽带多频天线的设计尤为重要。与此同时，作为阵列天线设计的关键问题—方向图的波束赋形优化设计也非常关键。本为研究了通信系统中的宽带天线和阵列天线的波束赋形优化问题，主要工作包括以下几方面：1.设计了一种具有双陷波特性的超宽带单极子天线。该天线由正八边形的辐射贴片和带有缺陷的地板组成，通过混合谐振结构的应用实现了陷波功能，这种混合结构由蚀刻于辐射贴片上的开口环谐振结构和地板上的互耦LC谐振结构组成。实验和仿真结果表明该天线在2.9-12.4GHz频带范围内满足VSWR<2.0，并实现了对WiMAX频段（3.3-3.6GHz）和WLAN频段（5.2-5.8GHz）的抑制，可应用于超宽带系统设备。2.设计了一种爪型三频单极子天线。该天线由结构新颖的爪型辐射贴片和带有圆弧型倒角的有限地板组成，该爪型辐射贴片采用多分支结构，由三个辐射支节构成，分别产生了工作于2.5、3.5和5.5GHz的三个频段，三个辐射支节之间相互干扰较小，具有相对独立性。实验和仿真结果表明，该天线具有良好的辐射特性和稳定的增益，适用于WLAN/WiMAX通信设备。3.详细阐述了带有基于梯度变异操作的约束差分进化算法（εDEAG），该算法将约束法和基于梯度的变异操作应用于传统的差分进化算法，得到了一种适合于求解复杂约束的多目标优化问题，如基站天线方向图波束赋形问题。给出了该算法的具体流程步骤和伪代码。在此基础上，设计了一种基于εDEAG算法的阵列天线赋形及优化程序。给出了程序设计中的关键措施，以8元直线阵为例检测了该程序的计算结果，数值计算与实验测试结果吻合良好，说明了该程序可应用于基站天线波束赋形等相关领域。