近年来,随着互联网行业的迅猛发展,云计算、大数据等新兴技术的不断普及,高清视频、云存储、视频直播等许多大容量数据业务日趋增长。如此快速增长的流量需求给光传送网带来了巨大的流量承载压力,为了缓解这一压力,光传送网必将向超高速大容量方向发展。那么,如何在不增加干线重建成本的基础上向大容量升级是光纤通信系统主要面临的问题。采用高阶调制格式是提高系统容量的有效手段。然而,谱效率和功率效率是一对矛盾体,高阶调制格式虽然具有较高的谱效率,但功率效率却因此而下降。在同样的发射功率和目标误码率下,较小的功率效率将会导致系统的传输距离变短。因此,为了解决这一问题,高维调制格式应运而生。高维调制格式可以同时利用光场中的正交态、偏振态、时隙、频带等多个自由度对数据进行调制,增加的自由度可以通过最大化星座点间的最小欧氏距离,增大信号的渐进功率效率,并且降低接收端误判概率,从而获得较好的传输性能。高维调制格式的提出能够较好的解决现有二维调制格式谱效率与渐进功率效率之间的矛盾,实现光通信系统传输容量的平滑升级。高维调制格式作为一种新型调制格式,仍然有很多问题亟待解决,其中高维映射技术是高维调制关键技术之一。高维调制的映射技术即是解决如何选取高维星座点集以及如何快速找到比特与星座点间的对应关系。而高维点空间分布复杂,星座点集规模庞大,导致映射过程实现困难。本文围绕高维调制映射技术要解决的这两个问题,对高维映射进行深入研究,提出了一种基于子集选择的高维调制映射技术,论文内容安排如下:首先,综述了高维调制格式的研究目的与研究成果,从国内外高维调制格式的发展历程出发,介绍该领域目前所取得的研究成果,指出研究高维调制及其关键技术的重要意义,并分析采用高维调制格式的优势。然后,介绍了高维调制格式的基本概念及原理。重点阐述高维调制信号的产生原理并定义了谱效率和渐进功率效率两个参量。从实现原理、映射方式和性能等方面对几种典型的高维调制格式进行总结分析,并对高维调制映射技术的关键性问题作出了分析与归纳。其次,如何选取高维星座点集是子集选择映射技术首要解决的问题。针对这一问题,提出了一种基于分组扩展法的高维星座点集选取方法。从选取子集选择映射星座点集的重要性开始介绍,详细说明了选取最佳几何分布的星座点集的必要性。同时,给出了基于分组扩展法的高维星座点集实现原理和步骤。与二维星座点集相比,我们所提出的基于分组扩展法的高维星座点集在渐进功率效率、谱效率及SER性能方面更具优势。再次,在解决星座点集选取问题的前提下,针对比特与星座点集的对应关系问题,提出了一种完整的高维映射技术——基于子集选择的高维调制映射技术。从高维映射的基本理论出发,阐述了子集选择映射的基本原理,给出了高维映射与解映射的实现流程图和映射公式的推导过程,简化了高维映射的操作步骤。子集选择高维映射技术的实现为高维调制技术的广泛应用奠定了坚实的理论基础。最后,我们搭建了高维调制仿真系统,并对基于子集选择的高维调制映射性能进行了仿真实验验证。分别对采用子集选择映射的四维和八维两种调制格式的接收端复杂度、BER性能作出了系统分析,充分证明了基于子集选择的高维调制映射的良好性能。