近年来,基于单模光纤的各种复用技术,如波分复用技术、偏振复用技术、频分复用技术等,使得单模光纤的传输容量得到极大提高,已接近于非线性光纤传输的香农极限。然而,随着各种带宽消耗型业务不断涌现,人们对带宽的需求的增长速度远远大于单模光纤带宽的增长速度,可进一步提高光纤通信传输容量的技术亟待被研究。模分复用技术利用了多模光纤中不同模式的光来传输信息,极大地提高了光纤的传输容量,逐渐成为当前的研究热点。本文针对模分复用技术中的关键技术模式转换进行相关研究,将全局优化算法——遗传算法应用到其中。本文的主要研究内容和创新点可以分为如下3个部分：第一部分是对传统的遗传算法进行了改进,在编码方面采用了更利于反映问题的固有结构的矩阵编码,同时对矩阵编码下的遗传算法的变异操作上,引入了模拟退火算法进行改进,使得遗传算法容易陷入局部最优的缺点得到弥补,同时也提高了遗传算法的收敛速度。第二部分是将改进后的遗传算法,应用到模分复用系统中的模式转换中,仿真实现了低阶模间的相互转换,并与另一全局优化算法——模拟退火算法进行对比。第三部分是在实现模分复用系统中的模式转换遗传算法后,结合模式转换的特点及硬件支持性,从两方面对模式转换遗传算法的转换效率进行提高：一是引入多线程,使得遗传算法子代的进化过程并发进行,大大提高了转换效率；二是引入GPU运算,进一步缩短转换的时耗。