近年来,光纤领域的研究发展迅猛,研究人员在编码方面的研究已有颇多成果。本文围绕高速相干QPSK光通信系统中的编码理论与技术展开了研究。从网格编码调制的设计与仿真,和QPSK系统前向纠错编码方面开展了研究工作。首先,完成了基于QPSK的网格编码调制(TCM-QPSK)的编码映射的设计、仿真平台的搭建与光纤信道中的传输仿真,并进行了性能对比分析。当BER达到10-6时,TCM-QPSK所需的Eb/NO为10.4 dB,相比BPSK获得了 2.6 dB的编码增益,相比QPSK获得了 3.6 dB的编码增益。证明TCM-QPSK以牺牲一定频谱利用率为代价,可以利用低复杂度的编码获得不错的编码增益。其次,用Matlab搭建了符号速率为25Gbaud/s的QPSK相干光通信仿真平台,基于该平台对课题组提出的一种导频辅助的载波相位解卷绕算法(PAPU)的纠错编码后的误码特性进行了详细的分析。对PAPU+LDPC方案和相同编码开销下的Turbo+LDPC方案进行了对比分析。Turbo方案比本课题组的PAPU方案在Eb/NO方面略有优势,但PAPU的误码平台现象比Turbo方案轻微很多,且在滤波器长度较短时优势明显,这在实际应用中将会有十分重大的意义。最后,本文搭建了 28Gbaud/s的QPSK相干通信实验平台,完成了改进的PAPU方案的背靠背实验。实验使用了 100k Hz与300k Hz两个不同线宽的激光器。数据处理时使用了不同的载波相位恢复算法滤波器长度。对比了不同条件下,使用PAPU算法与不使用PAPU仅使用传统的V&V算法的误码率性能。使用了 PAPU算法后,系统稳定达到无误码所需的Eb/NO值在各种情况下均有所降低,降低的幅度随着滤波器长度的增长而增大,验证了算法的有效性。同时,还实验对比了改进的PAPU+LDPC方案与Turbo差分解调+LDPC方案在不同激光器线宽、不同滤波器长度下的纠后误码率性能。Turbo方案在各个情况下,普遍比PAPU方案有3 dB的性能优势。