为了研究非二进制准循环低密度奇偶校验(NB-QC-LDPC)码在高速光传输系统中的性能,本文在伽罗华域上构造了NB-QC-LDPC码。将NB-QC-LDPC码应用于高速光传输系统有望增加系统的有效传输距离以及前向纠错码(FEC)的性能。并且NB-QC-LDPC码提供了一定的残余色散和非线性相位噪声容限,因此,NB-QC-LDPC码可以在不增加系统复杂度的前提下改善光纤信道的色散及非线性性能。由于文中的NB-QC-LDPC码是在GF(4)上所构造的,所以这种码适用于QPSK等高阶调制模式。将这种NB-QC-LDPC码应用于QPSK中有三大好处：(1)取消了多级调制编码器；(2)去掉了二进制与非二进制的转换接口；(3)可以直接映射,省掉了编(译)码与映射间的数据传输。文中从具有规律性结构的二进制准循环低密度奇偶校验(QC-LDPC)码开始研究。在此基础上研究并讨论了几种NB-QC-LDPC校验矩阵的构造算法：随机分配算法,优化硬件结构算法,优化性能算法。通过研究这三种算法发现其各有优势,可针对不同的设计目的来选取。并且在此还提出了一种改进的高斯消元法,这种高斯消元法可针对满秩或非满秩的校验矩阵进行运算来构造相应的生成矩阵。本文进一步研究了针对该码的译码算法,首先从传统的SPA开始,进而研究了LSPA和LFSPA这两种译码算法,LFSPA是复杂度经过大幅削减的改进译码算法。但是,在对LFSPA的研究过程中,发现LFSPA在针对大信噪比的信号进行译码时会出现溢出现象,极大地影响了LFSPA在大信噪比情况下的译码性能。本文中提出了通过截断近似算法来解决这种在大信噪比时的数据溢出现象,并且对LFSPA的译码性能有了不小的改善。本文最后通过蒙特卡罗仿真发现文中所构造的码长为500,码率为0.8的NB-QC-LDPC码(500,0.8)在误码率为10-8处可以提供约5.3dB的编码增益；而NB-QC-LDPC码(5055,0.8)在误码率为10-8处可提供的编码增益更高达约8dB。并且文中还研究分析了所构造的NB-QC-LDPC码在光纤信道中的色散及非线性容限,发现NB-QC-LDPC码在不增加系统复杂度的情况下能够容忍一定的残余色散及非线性相位噪声。