近年来,对通信系统的大容量、高可靠和高品质化的要求普遍迅速增大,多种多样的服务正在出现。针对无线应用的新技术和新标准也是层出不穷,在满足工作和生活需要的同时也极大的促进了无线技术和相关产业的发展。通信系统的飞速发展对通信设备提出了越来越高的要求。通信设备的体积不断减小,通信频带不断向宽频段、高频段发展,推动了作为通信系统中的关键部件天线的小型化和宽带化的发展。因此高性能小型宽带天线的研制己成为一个紧迫且具有重大理论和实际意义的课题。本文阐述了目前通信系统小型宽带天线的设计理论、限制及国内外研究现状,对小型宽带天线的研究内容如下:第一,设计多种新型超宽带(UWB)天线结构,包括小型分形超宽带天线和全向带阻超宽带天线。本文对分形的基本理论、构造方法以及分形在天线设计中的应用特点做简单的说明,引入了分形几何概念,利用分形技术的自相似性和空间填充性来实现小型超宽带天线的设计。实验结果验证了该天线工作带宽可完全覆盖UWB应用所需的3.1GHz到10.6GHz频段。另外,本文对带阻超宽带天线进行了研究。在带阻超宽带天线的设计中,给出一种倒梯形超宽带天线的设计过程,在此超宽带天线结构上开一倒梯形缝隙来实现频率从5GHz到6GHz范围内的阻带功能,为了改善方向图的全向性,将平面带阻天线拓展成立体结构,设计了具有全向性的带阻超宽带天线。第二,用进化算法对小型超宽带天线进行设计。为了节省人工调节天线参数的时间,本文采用遗传算法(GA)与时域有限差分方法(FDTD)相结合,在已知的基本结构上,通过遗传算法优化天线结构参数,同时提出了一种适合于优化超宽带天线和带阻超宽带天线的适应度函数,由时域有限差分方法计算适应度函数值,优化设计了一种频率范围从3GHz到11GHz的超宽带天线。为了在有限的尺寸上设计出高性能的超宽带天线,本文用二维遗传算法(2-D GA)对超宽带天线和带阻超宽带天线进行自动设计,并设计了两款小型超宽带贴片天线。为了克服遗传算法收敛速度慢的缺陷,本文还采用二维遗传算法和二进制粒子群算法(BPSO)相结合自动设计了一小型的超宽带天线,加工测试结果显示此超宽带天线在相对介电常数为2.65的介质板上24mm×24mm的面积内实现了几乎在3.1GHz-10.6GHz频带范围内小于1.5的驻波比特性。第三,本文利用金属反射板反射电磁波提高增益原理设计了两种天线阵列,包括用于无线局域网(WLAN)系统的小型可重构天线阵列,和用于卫星通信系统的宽带天线阵列。在用于WLAN系统的可重构天线阵列的设计中,天线不仅可以实现方向图全向/定向转换,而且还可用于多入多出(MIMO)系统中的方向图分集。在用于卫星通信系统的宽带天线组成的阵列设计中,比较了两种阵列单元组阵的结果,表明本论文设计的分形天线结构实现的阵列带宽及增益都要优于传统圆形贴片单元组成的阵列。