本文针对无线通信系统中的高性能、小型化微带滤波器展开了研究，在滤波器谐波抑制、小型化方面提出了多种设计方案，并在此基础上设计了多种新型的微带滤波器。第一章介绍了无线通信系统中微带滤波器的研究背景和意义，回顾了高性能小型化微带滤波器的研究现状。目前，高性能、小型化微带滤波器研究主要从新型封装技术、小型化谐振器、慢波加载、双负材料传输线等几个方面考虑。虽然人们在这几个方面作了很多工作，但还是有很多问题需要解决。第二章运用传输线理论分析了阶梯阻抗谐振器的谐振特性，主要分析了两个截面和三个截面阶梯阻抗谐振器的谐振条件和电长度，为滤波器的设计提供了理论依据。利用三截面阶梯阻抗谐振器设计了具有谐波抑制作用的小型化微带带通滤波器。利用阶梯阻抗谐振器的通带可调的特性，设计了可用于无线局域网通信系统的双通带滤波器，给出了设计理论。第三章介绍了耦合谐振滤波器设计的一般理论。利用传统的开环均匀阻抗谐振器设计了一个四阶耦合谐振微带带通滤波器，利用奇偶模理论计算了滤波器的S参数，并利用全波电磁仿真软件计算了S参数。在传统耦合谐振微带滤波器的基础上，提出了一种谐振器嵌入形式的结构，使滤波器结构更紧凑。利用在滤波器结构中组成滤波器的各谐振器的基本谐振频率相同、各次谐波不同的特点，使得谐波抑制达到了4．5f₀。为了进一步减小滤波器尺寸，本文还设计了一个双层结构的微带带通滤波器。与单层结构的滤波器相比，尺寸缩小了一半，且滤波器的谐波抑制也很好。第四章设计了电容加载的微带带通滤波器。介绍了双模滤波器的工作原理，在传统双模滤波器设计的基础上，提出了一种新型的电容加载结构，利用传输线理论分析了这种加载形式的特性，利用这种加载结构设计了一个小型的微带双模滤波器，与目前报道的小型化程度最好的双模滤波器相比，该滤波器能够在相同尺寸的情况下做到更好的工作性能。利用缝隙电容加载设计了一个小型的微带带通滤波器，与没有加载的环形谐振器相比，在同样的工作频率条件下，尺寸减小很多。第五章对全文的研究进行了总结，展望了下一步的工作。