正交频分复用(OFDM)技术具有抗多径干扰，频谱利用率高等优点，现在已广泛应用于射频领域。OFDM技术应用到光纤中可以有效抑制光纤的色度色散和偏振模色散。相干光正交频分复用(CO-OFDM)技术融合了OFDM调制技术和相干光检测的双重优点，具有传输速率高、光纤色散容忍度强、频谱利用率高等优势，这些优势大大提升了光纤传输能力。　　 OFDM作为多载波调制技术与单载波调制相比，更容易受到相位噪声影响，相干光通信系统相位噪声亦是主要噪声源。所以相位噪声抑制是相干光OFDM系统关键技术之一。　　 本论文以相干光OFDM系统为研究对象，从研究相干光OFDM系统结构及工作原理入手，通过搭建相干光OFDM系统仿真平台，深入研究了相干光OFDM系统相位噪声影响和抑制方法。主要工作内容和研究成果如下:　　 (1).首先介绍了OFDM基本原理和相干光OFDM系统理论模型以及工作原理，参考Optiwave公司提供的相干光OFDM系统模型，结合MATLAB软件搭建了本课题研究的相干光OFDM系统仿真平台并验证其有效性。　　 (2).分析了相干光OFDM系统相位噪声，对主要噪声源激光器相噪进行了深入分析，重点分析了相噪对相干光OFDM产生的影响，分别产生两种干扰:一种是公共相位误差(CPE)另一种是子载波间干扰(ICI)。仿真了这两种干扰对相干光OFDM系统的影响。　　 (3).相噪的抑制需要信道传输函数相应信息，首先介绍了信道估计两种基本方法:最小二乘(LS)和最小均方误差(MMSE)，针对光纤信道特点改进了适合光纤信道估计的方法，并仿真了该方法的有效性。　　 (4).针对相噪产生的两种干扰分别采用三种抑制算法，这些算法有的是已经应用在光领域OFDM相噪抑制算法，有的是首次引入和改进射频领域OFDM相噪抑制算法。这些算法对抑制相噪有一定作用，但对激光器质量还有一定要求。最后结合特殊相干光通信系统结构和信道均衡技术提出一种改进相噪抑制方法，并仿真这种方法有效性，其可以将激光器线宽降到10MHz达到普通激光器要求。