无线通信技术的迅猛发展导致无线电频谱资源匮乏的问题越来越严重。为了进一步提升通信容量以及频谱利用率,需要探索创新技术。利用轨道角动量(Orbital Angular Momentum,OAM)模式复用技术提高无线通信的信道容量成为了近年来的一个研究热点。本文围绕着应用于轨道角动量无线通信的谐振腔天线进行设计以及提高增益和拓展带宽的方法进行研究,主要工作如下:首先,对于轨道角动量的国内外研究现状做了简要概述。介绍了轨道角动量的相关基础知识,以及提高天线增益和拓展带宽的方法。为后续研究工作奠定了理论基础。其次,设计了一款基于轨道角动量模式复用的天线,所设计天线在介质谐振器基础上,通过嵌套介质谐振环的方法,能够实现在同一频率分别产生两个不同的OAM模式,实现了无线频段的OAM模式复用。最后,基于之前的理论基础,针对贴片天线、行波圆环天线设计了四款宽带高增益OAM天线。分别使用了 L型探针馈电,双层贴片天线结构,加载电磁带隙(Electromagnetic Band Gap,EBG)结构和Fabry-Perot谐振腔等方法。对上述天线结构进行了仿真分析,与原有结构相比,带宽和增益得到了极大地提高。