随着无线通信技术的日益发展与5G时代的到来,对通信设备的尺寸与性能有了越来越高的要求。而射频前端器件是无线通信的基础,滤波器更在其中扮演着重要的角色,其性能的好坏影响着整个射频系统。由于滤波器的小型化往往伴随着性能的牺牲,所以如何在滤波器小型化的同时保持高性能一直是滤波器研究的主要方向。由于滤波器的小型化与耦合理论的发展相辅相成,尤其是在大体积的腔体滤波器中,利用耦合理论在其中实现的小型化尤为明显,因此本文基于滤波器的耦合理论与滤波器的结构优化出发,设计了几款适用于5G通信标准的小型化介质滤波器。利用四分之一波长谐振腔作为谐振单元,设计了两款贴片式的同轴独块状滤波器。该谐振腔是一种典型的TEM模谐振器,有着稳定的场结构,频带宽等优点,并且由于其本身的结构特点,介质表面有金属屏蔽层,使得排布更加紧密。并引入了阶梯孔的耦合方式,这种结构可以通过控制高次谐振频率来达到谐波抑制的作用,另外,在同轴滤波器的设计中采用交指型银层的端口设计,加大了端口与腔间耦合的调节范围,很好的提高了设计的灵活性。设计的5G通信基站用六腔叠层介质波导滤波器,中心频率为3.5GHz,与传统的介质波导滤波器不同,上下介质块的腔体间利用刻蚀窗口耦合,形成叠层结构,这种结构能很容易的在上下层腔间引入交叉耦合,可以在相同的阻带抑制指标下使滤波器阶数减小,从而进一步小型化。与传统结构的介质波导滤波器相比小型化程度达25%以上,并且新型的叠层结构可以在滤波器与PCB基板集成时减小一半接触面积。为了符合更严格的阻带抑制标准,本文又设计了一款双CQ结构的十腔波导滤波器,能同时控制通带近端与远端的零点位置,同样适用于5G通信基站。由于交叉耦合理论存在一定局限性,在许多结构中非相邻谐振单元不易形成交叉耦合。本文设计了基于混合电磁耦合的直接耦合型介质波导滤波器,并实现了零点位置的可控,提高了滤波器的实用性。