毫米波由于兼具微波全天候工作以及红外光波宽频带、高分辨率的特点,在远程雷达、电子对抗、电子干扰等领域有着广阔的应用前景。回旋行波管在毫米波等频段上具有高峰值功率以及高平均功率输出等优点。因此,越来越多的毫米波雷达系统开始使用回旋行波管作为其大功率源。为了有效地将回旋行波管输出的功率传输至雷达天线系统,必须搭建大功率毫米波传输链路。在传输链路系统中,需要对电磁波进行频率分离、极化转换等操作。频率选择表面(FSS)具有空间滤波功能,能够实现电磁波高隔离度分离。因此,大功率毫米波FSS可实现链路系统多频复用,提高链路系统的利用率。由于与其它极化形式电磁波相比,圆极化波具有更多的优势。基于大功率毫米波FSS设计的圆极化器在完成电磁波分离的同时实现极化转换,节省了一个大功率器件的使用,使得链路系统更紧凑。因此,大功率毫米波FSS以及圆极化器的研究具有重要意义。本文首先从FSS的基本理论与Floquet定理出发,深入研究了可应用大功率毫米波环境下全金属FSS的频率分离特性,并设计了工作于Q波段与K波段的FSS,实现了电磁波高隔离度分离。在此基础上,通过对圆极化波以及基于FSS圆极化器理论的研究,并结合矩形波导色散理论,设计了一种大功率毫米波圆极化器,仿真的单层圆极化器轴比带宽不能满足设计要求。为拓宽轴比工作带宽,根据滤波器设计中多层级联设计方法,论文提出了基于FSS圆极化器轴比带宽的优化方案。采用双层级联的方式拓宽了圆极化器轴比的工作带宽,从而达到了设计要求。接着,论文给出了圆极化器的加工实物与测试结果。测试结果很好地验证了前文的设计。本文最后详细研究了金属光栅圆极化器理论,并设计了单层光栅圆极化器。圆极化器采用基于正弦函数微扰平板波导结构来改善轴比带宽,且探讨了正弦函数周期数的变化对圆极化器轴比性能的影响。接着,基于模匹配方法和级联散射矩阵理论,论文提出了双层级联结构。最后,论文基于排列方向相互垂直的两组平板波导结构设计了双层级联光栅圆极化器。设计的光栅圆极化器还具有交叉极化电平低,传输效率高的特点。