随着无线通信技术的发展,频谱资源变得愈发匮乏。由于涡旋电磁波不同OAM模态间存在正交性,因此可以实现不同OAM模式数编码的多路信号同频传输,从而在有限频谱资源下提高通信容量。涡旋波天线作为OAM通信系统重要组成部分,它的相关设计成为了研究热点。本文探究了基于极化形式或工作频段实现独立OAM波束特性的涡旋波复用方法,并进行了相应的多模态OAM涡旋波复用超表面天线设计。在此框架下,又提出了改良涡旋波辐射特性的调控方法和超表面天线的低剖面结构配置。本文具体的研究内容包括以下几个方面:第一,设计了双圆极化涡旋波复用超表面天线。通过Jones矩阵将入射波和调制波进行关联,分析了基于各向异性表面的双圆极化自旋解耦原理。相应的理论分析表明,将超表面单元的谐振相位和几何相位相结合,可以实现左旋圆极化和右旋圆极化通道上的独立相位调控,从而可将双圆极化状态下两种不同辐射特性的OAM涡旋电磁波进行口径复用。最后,设计了工作中心频率在15 GHz下的双圆极化涡旋波复用超表面天线,能够在左旋圆极化和右旋圆极化状态下分别辐射具有不同波束特性和OAM模式数的涡旋电磁波。第二,设计了双频段低衍射涡旋波复用超表面天线。首先,将两种不同谐振类型的谐振器在同一单元上进行复合,以实现高效的双频段独立可调控超表面单元。其次,为降低OAM涡旋波传播过程中存在的衍射发散效应,提出了在涡旋波辐射方向上叠加锥形波束的调控方法,使所生成的涡旋电磁波具有更为紧凑的能量辐射区域。最后,基于所提出的双频超表面单元和涡旋波调控理论,设计并加工了双频多波束低衍射涡旋波复用超表面天线,能够在9 GHz和13 GHz下分别辐射具有不同波束特性和OAM模式数的低衍射涡旋电磁波。第三、设计了卡塞格林结构的涡旋波复用超表面天线。首先,探讨了一种基于几何光学和广义Snell定律的卡塞格林双反射面阵列结构。为使副反射面造成的回波失配和前向遮挡损耗尽可能小,需要设计特定的表面梯度相位分布以调控双反射面间的波束传播链路。为验证所提出构型的有效性,设计并加工了基于该构型的高增益圆极化折叠反射面天线。然后,将该构型引入至双频段涡旋波复用超表面天线设计中,以实现天线系统的低剖面小型化。最后,设计并加工了卡塞格林结构的双频段涡旋波复用超表面天线,在降低天线整体剖面高度情况下,实现了双频段不同OAM模式数的涡旋电磁波复用。