随着互联网,物联网等在线业务的快速发展,我们已跨入一个数据爆炸的时代。作为通信网络中的枢纽,数据中心及超算中心这样的短距离光互连系统更是急需提高通信容量。为了打破传输容量的瓶颈,多维光信号复用技术正在被广泛研究,并且一部分成果已成功应用在了商业通信系统中。目前,可以利用的维度有时间、频率、偏振和相位等。然而,对于短距离光互连系统,低成本和低损耗这两个因素是至关重要的,所以传统意义的波分复用(WDM,wavelength division multiplexing)、偏振复用(polarization division multiplexing)和相干检测等高成本的技术并不适用于超算中心和数据中心。为了缓解带宽需求,同时满足超大容量的信息传输,研究者提出基于空间维度的模分复用(MDM,mode division multiplexing)技术。因为在同一波长下,不同的光纤模式是相互正交的,这些正交的模式便可以看成是平行并且独立的传输信道。当结合低成本和低损耗的直接检测技术(DD,direct detection)时,模式复用方案便可以运用在大容量短距离传输系统中。从成本,复杂度和功率损耗等方面来看,基于直接检测技术的模分复用传输方案在短距离光互连系统中有着广阔的发展前景。由于矢量模式在模式复用传输系统中性能良好,最近受到研究者的广泛关注。在本文中,我们提出矢量模式复用结合直接检测技术和正交频分复用(OFDM,orthogonal-frequency-division-multiplexing)技术的短距离光传输方案,实验验证了矢量模在空间和少模光纤介质中复用并且传输的可行性。主要工作如下:1.介绍了柱矢量光束(CVBs,cylindrical vector beams)的基础性质,并且利用高阶邦加球模型理论和实验研究了矢量模转换规律和特性。2.提出并设计了基于两个矢量模TE01和TM01的模式复用光传输系统,通过采用32QAM的OFDM信号,结合直接检测技术,实现了120-Gbit/s的自由空间短距光互连系统。3.提出并设计了基于矢量模复用和波分复用的光传输系统,利用20个波长和2个矢量模式,结合OFDM信号和直接检测技术,实现了传输速率达到228 Gbit/s和80cm空间传输距离,。4.提出了一种基于Q玻片(QP,Q-plate)和半玻片(HWP,half-waveplate)的高效率CVBs转化方案,此方案能够实现任意阶数矢量模的转化,简单灵活。然后,我们把此方案应用在了4个矢量模复用的传输系统中,系统传输速率达到95.16Gbit/s。5.实验研究了一阶矢量模在四模光纤中的传输性能。我们利用模式分解方案分析了光纤中矢量模的模间串扰及CVBs的偏振态和能量分布变化;实验验证了短距离光纤矢量模式复用传输的可行性。