随着人们对网络流量需求的急剧增长,超高速、超大容量的光传输系统正在变得越来越重要,模式复用器/解复用器能够复用多个模式同时传输,是一个极为重要的器件。我们在对现有的不同模式复用器/解复用器进行研究后,通过结合空间光调制器与闪耀光栅,设计了一种新型的复用/解复用器。该复用器能够同时完成模式的调制以及复用,从而降低复用系统的复杂度。同时由于复用的模式是由通过加载到空间光调制器上的全息图所决定,从而这种模式复用器能够通过改变加载的全息图来灵活的选择需要复用的模式。此外,不同模式能够在功率一致时,更有利于长距离传输,为了保证复用的各个模式之间的能量均衡,本文利用内反馈系统以及遗传算法对设计的全息图进行了优化,使得闪耀光栅各个衍射级次的功率差在0.18dB以内。本文重点研究了闪耀光栅的设计,介绍了空间光调制器的工作原理,并且将空间光调制器与线偏振模式相位变化结合起来,实现了任意线偏振模式的调制。同时利用内反馈系统以及遗传算法,对光栅进行了优化,保证了各个衍射级次的能量均衡。