2002年FCC将3.1-10.6GHz确定为标准化超宽带通信频段后,超宽带通信系统大量进入民用商用领域。做为无线通信系统中一个至关重要的器件—天线,其性能好坏直接决定整个通信系统信号质量的优劣。然而3.1-10.6GHz的标准UWB系统频段内还存在着其它窄带通信系统如,3.3-3.7GHz的全球微波存取系统(WiMAX)以及5.2-5.8GHz的无线局域网系统(WLAN)等。当UWB系统与这些窄带通信系统同时工作时,有必要消除相互之间的干扰,于是发展出超宽带带阻天线来抑制这些干扰频段。本文以分形天线和具有陷波特性的超宽带天线为研究对象,进行理论分析、仿真优化、实际测试等工作,主要内容分布在第三、四、五章节。第三章和第四章以解决天线设计中小型化、低成本、易集成等问题为目的,探讨设计了两款超宽带分形天线。第一款天线为紧凑分形结构,在Koch曲线启发下,将天线周边添加了8个微小十边形分形枝节;第二款天线为迭代分形结构,采用方形圆形相互交错迭代方式设计,其结构类似于Sierpinski三角形。这两款天线的工作频段分别为:2.8-15.1GHz、3.1-14.3GHz,满足超宽带系统的频段要求。两天线的大小分别为:28×25mm2、30×30mm2,可见分形结构的设计使得天线具有较小的尺寸。论文在此基础上主要研究了不同分形结构及尺寸对天线性能的影响。设计的两款天线谐振特性良好、频带满足要求、H面近似全向辐射。第五章针对超宽带频段内潜在的干扰问题,设计了基于MT-EBG结构的具有陷波功能的超宽带天线。首先证明运用MT-EBG结构来实现阻带特性是可行的,然后通过采用一个EBG结构设计,对5.0-5.8GHz频段的电磁波实现阻隔,最后利用两个EBG结构实现对3.3-3.7GHz、5.0-5.8GHz两个频段电磁波的抑制。同时探究了EBG结构尺寸对阻带性能的影响,研究了不同MT-EBG结构之间的耦合问题,证明了MT-EBG结构对多陷波技术的有效性及简约性。设计的这两款天线可以很好抑制WLAN、WiMAX信号干扰,并且抑制频率可以独自调节,不会相互影响。论文结合仿真分析优化结果,将设计的天线进行加工,并对天线性能进行测试。天线测试结果与仿真结果基本吻合,验证了设计的天线具有超宽带以及阻带特性,可以将设计的天线应用于超宽带无线通信系统中。