近些年，光通信领域飞速发展，“光进铜退”已成为通信领域发展的必然趋势。然而传统的复用方式（如波分复用、偏振复用、时分复用技术）已不能满足日益增长的容量需求。轨道角动量（OAM）光束则为光域的复用提供了一个新的自由度。轨道角动量光束因为其正交性、无穷性、安全性等特点，可以大幅度提高光通信系统的容量。因此轨道角动量光束的产生、复用（OAM-DM）、检测、调控就成为本学科前沿研究的热门方向，也是轨道角动量通信的理论与实践基础。本文在这些研究的基础上，结合前沿的光信号调制技术和复用技术，实现了大规模的轨道角动量信道的复用解复用、轨道角动量信道动态寻址路由以及旁瓣调制轨道角动量光束的应用。在实验上实现了亚拍它量级（1014 bit/s）系统容量和10个轨道角动量信道之间的动态切换、广播、滤除。本文的主要研究内容和成果如下：　　利用涡旋达曼光栅实现轨道角动量信道的独立产生、同轴复用、并行检测，结合高速QPSK/16QAM调制技术、密集波分复用技术（DWDM）和偏振复用技术（PDM），在实验上实现了80/160Tbit/s的系统容量。在复用端利用涡旋达曼光栅实现轨道角动量信道的产生和复用，在检测端利用完全相同的光栅进行解复用，使系统简洁、对称，避免了多个产生、复用元件引起的系统复杂度提升和较大的插入损耗，同时也便于集成化。　　拓展了涡旋达曼光栅的概念，提出了一种广义新型的涡旋达曼光栅，并利用这种光栅实现了多轨道角动量信道之间的动态切换，从而实现了轨道角动量动态路由寻址。系统中只需要一个动态元件就可以实现多个轨道角动量信道之间的同时任意切换、广播、滤除等功能，系统简单，灵活性强，功能丰富，便于集成，为以后实现板间、芯片间动态通信奠定了基础。　　利用旁瓣调制的轨道角动量光束实现多信道的低损检测。将轨道角动量光束的旁瓣与主瓣调制在一起，在接收端利用环带形的叉形光栅进行检测，可以避免信道均分带来的损耗，实现低损的检测和较高的能量利用率。